Nakatuon ang karamihan ng prompt engineering sa katumpakan at masaklaw na mga tagubilin. Ang pinakamalalaking pakinabang sa production ay nagmumula sa pagtrato sa mismong diyalogo bilang pangunahing problema sa disenyo.
Ang pagtukoy ng mga intensyong trigger-at-kilos ay gumagabay sa modelo kung paano magpasya, sa halip na bigyan ito ng script na hindi nito matakasan. Ang posisyon sa isang prompt ay isa ring tagubilin. Nauuna ang pagkakakilanlan, nasa gitna ang mga detalye ng pag-uugali, nasa huli ang mahihigpit na limitasyon, at nasa una at huli ang anumang tunay na kritikal.
Isa sa mga pagbabagong may pinakamalaking epekto ang pagsulat ng prompt sa target na tinig sa halip na ilarawan lamang ito.
Ang mga agent na may pinakamaayos na daloy ay may mga prompt na tinatrato ang bawat sandali ng pag-uusap bilang magkakaibang interaksyon na may sariling angkop na anyo, habang nananatiling madaling makilala ang iisang tinig sa kabuuan.
Sa ilang sitwasyon, ang paghihiwalay ng mga agent na nag-iisip sa mga agent na nagsasalita ay lumilikha ng mas magkakaugnay at nakabatay-sa-kontekstong mga tugon, at pinipigilan nitong mapasama sa sagot ang panloob na pangangatwiran.
Ipinakilala namin dati ang isang bagong paradigma sa prompting batay sa mga insight mula sa larangan ng lingguwistika at sikolohiyang kognitibo. Tinalakay namin ang kahalagahan ng paglikha ng malinaw at mahusay na nililimitahang saklaw ng problema kung saan maaaring kumilos ang aming agent, at kung paano dapat saklawin nito ang meta-task ng diyalogong likas sa AI na nakikipag-ugnayan sa customer.
Ngayon, titingnan natin ang ilang praktikal na paraan kung paano nagsimulang magbago ang aming mga prompt habang inilalapat namin sa production ang mga prinsipyong ito.
Sa daan-daang bersyon ng prompt sa mga aktuwal na sistemang nakikipag-ugnayan sa customer, hindi nagmula ang pinakamalalaking pakinabang sa pagdaragdag ng mga tagubilin, pagtatambak ng mga halimbawa, o pagsunod sa karaniwang pamantayan ng prompt engineering. Sa halip, nagmula ang mga ito sa pagtanggap na diyalogo ang sentro ng problema.
Ilang mabisang teknik ang nabuo sa pamamagitan ng tuloy-tuloy na paggalugad at pagsubok. Binabago namin ang isang prompt at sinusubaybayan kung saan nagtatagumpay o pumapalya ang pag-uusap, saka inuugnay ang mga pagkabigo sa bisa ng paggabay, istruktura ng prompt, at paraan ng paggamit namin ng wika. Ang resulta ay ilang nauulit na pattern na nagbabago sa paraan ng pag-unawa ng agent sa tungkulin nito sa pag-uusap, pagpapasya sa susunod na kilos, at pagpapanatili ng iisang tinig sa nagbabagong mga konteksto.
Ang mga sumusunod ay hindi pangkalahatang framework o pahayag na “nalutas” na ang prompting. Paglalagom ito sa limang pattern ng mga napatunayang mabisa sa production kapag ang layunin ay hindi lang wastong paggana kundi mas mahusay na diyalogo: mga tugong magkakaugnay, natural, at sapat na pare-pareho upang katawanin ang isang brand.
Bagama't maraming paraan upang buuin ang isang agentic system, popular pa rin ang mga workflow na inoorkestra ng maraming agent. Lalo na sa ganitong mga system, ang pinakapare-parehong pagbuting nagawa namin ay ang paghihiwalay sa mga agent na nag-iisip at mga agent na nagsasalita.
Pawang mga operasyong back-of-house ang orkestrasyon ng intensyon, klasipikasyon, pagkuha ng kaalaman, at paggamit ng tool. Front-of-house ang mga tugon sa customer. Kapag parehong ginagawa ng iisang agent ang mga ito sa iisang turno, maaaring mapasama sa mga tugon ang panloob na pangangatwiran at lohika. Nagiging punô ng pag-aalinlangan at labis na paglilinaw ang mga tugon, o nabubuo ang mga ito ayon sa lohika ng proseso sa halip na sa pangangailangan ng tao.
Nakagugulat kung gaano karaming nagagawa ng iisang limitasyong iyon. Pinananatili nitong nakabatay ang mga tugon sa aktuwal na pag-uusap, pinipigilan ang pag-reset ng konteksto, at lumilikha ng mas malapit sa tinatawag naming "paghahatid ng pagbabago.” Sa huli, idinaragdag lamang ng agent ang pinakamaliit na bagong bagay na tunay na tumutulong sa user na sumulong.
Mahalaga rin ang pagpapasya kung anong uri ng tugon ang ibibigay. Nalaman naming kapag pinapili muna ang nagsasalitang agent ng uri ng kilos bago ito magsulat — sumagot, maglinaw, mag-redirect, o maghintay — palagi nitong nababawasan ang pinakakaraniwang problema sa pag-uusap: hindi pangit na pagkakasulat, kundi maling-mali ang mismong tugon.
Mahalagang tandaan na sa tamang mga kundisyon, nagsisimula nang kuwestiyunin ng pinakabagong mga frontier na modelo ang batayan ng pattern na ito. Gayunman, gumagamit pa rin ang maraming developer ng mas maliliit o mas lumang modelo sa iba't ibang dahilan. Sa ganitong mga konteksto, tiyak naming inirerekomendang paghiwalayin ang mga usaping back-of-house at front-of-house.
Para sa mga modelong walang pangangatwiran, mabisa ang mga few-shot na halimbawa dahil kongkreto at mabilis ang mga ito, at mahusay tumugon dito ang mga modelo. Ang problema ay overfitting. Kapag binigyan ng halimbawa ang isang modelo, kumakapit ito sa mga salita, ritmo, at anyo, kaya paulit-ulit itong gumagawa ng halos kaparehong tugon kahit nagbago na ang sitwasyon.
Hindi mo sinasadyang nakagawa ng script na hindi matakasan ng modelo.
Mas matibay na alternatibo ang mga intensyon sa pagpapatupad o heuristic. Sa halip na ipakita sa modelo kung ano ang sasabihin sa mga partikular na sitwasyon*,* nagbibigay kami ng mas malawak na pares ng trigger at kilos: kapag nangyari ang X, gawin ang Y.
Ang pangunahing kaibahan: sa halip na unti-unting paliitin ang saklaw ng X at Y sa bawat halimbawa hanggang maging masyadong mahigpit, nilalagyan namin ang bawat isa ng malinaw na hangganan sa pamamagitan ng tagubiling napakatiyak kaya hindi na kailangan ang mga halimbawa. Dahil dito, tumutugon ang agent sa tunay na pagkakaiba-iba ng pag-uusap sa halip na itugma lamang ang sitwasyon sa isang template.
Sa praktika, mas kahawig nito ang mga naisasagawang tuntunin kaysa mga halimbawa:
If a key detail is missing, ask one clarifying question.
If the answer isn’t supported, say so directly and offer the best available next step.
If the request hits a guardrail, decline briefly and redirect without ceremony.
Hindi ito kapana-panabik, ngunit higit itong matatag kaysa sa isang library ng mga halimbawang tugon dahil itinuturo nito sa modelo kung paano magpasya, hindi kung ano ang uulitin.
Ang kinalalagyan ng isang bagay sa prompt ang humuhubog sa bigat na ibinibigay rito. Palagi naming napapansin ang pattern na ito sa iba't ibang modelo at deployment. Di-hamak na mas kapansin-pansin ang simula at dulo ng isang prompt. Ang nasa gitna ay mga detalye at pagkakaiba—na siyang tamang lugar para sa mga iyon.
Isinasaayos namin ang aming mga prompt nang isinasaalang-alang ito. Inilalagay sa itaas ang tungkulin at pagkakakilanlan ng agent upang maitatag muna kung sino ito bago ang lahat. Nasa gitna ang mga detalye ng pag-uugali: kung paano malamang na umusad ang pag-uusap, mga heuristic na gumagabay sa mga tugon, at hanay ng mga sitwasyong kailangang pangasiwaan ng agent. Inilalagay sa ibaba ang mahihigpit na limitasyon at mga bagay na hindi maaaring ikompromiso, kung saan nananatili silang “nangunguna sa isip.”
Anumang tunay na kritikal ay inilalagay namin sa dalawang lugar. Ang isang tiyak na tuntunin sa output — halimbawa, mahigpit na tagubilin sa bantas o format — ay madaling malimutan kung minsan lang itong lumitaw sa gitna ng isang siksik na prompt. Kapag inulit sa dulo, nasusunod ito.
Kaugnay ng epekto ng pinakahuling tagubilin, mahalagang tandaan na kapag gumamit ng mga naka-structure na output, ang mga iyon ang nagsisilbing pinakahuling tagubilin sa iyong prompt. May epekto sa kalidad ng mga tugon ang mga field ng paglalarawan sa iyong mga naka-structure na output, kaya bumubuo ang mga ito ng mas matibay na kasunduan sa output kaysa sa iba pang bahagi ng prompt.
Natutuhan din naming huwag gumamit ng mga few-shot na halimbawa para sa tono ng pananalita, at isa ito sa mga pagbabagong may pinakamalaking epekto sa aming mga agent na nakikipag-ugnayan sa customer.
Sa halip, isinusulat namin ang buong prompt sa target na tinig. Hindi paglalarawan ng tinig o listahan ng mga pang-uring humuhula sa dating nito, kundi ang mismong tinig, sa buong anyong tuluyan, mula unang linya hanggang huli. Ang prompt mismo ang nagiging demonstrasyon. Tinatawag namin itong “anti-scriptness”: ginagabayan ang modelo na gayahin ang input nito habang hinahayaan itong gumamit ng mas malawak na hanay ng wika at mga pariralang nasa parehong “saklaw” ng mismong prompt.
Ganito kami gumagamit ng prompt para magkaroon ng pagkakaiba-iba sa loob ng isang magkakaugnay na tinig. Bahagi ito ng aming estratehiya na gawing sentro ng gawain ng anumang agent ang diyalogo, nang hindi na nagdaragdag ng tahasang mga tagubilin na sinisikap naming bawasan.
Kung gagamit man kami ng mga tahasang halimbawa para sa tono ng pananalita, ipinapakita ng mga iyon ang "hindi dapat gawin.” Halimbawa, “No em dashes. Ever. No clichés. No policy dumping. No over-explanation when a single sentence will close the loop.” Mas tiyak at hindi gaanong mahigpit ang mga negatibong limitasyon kaysa sa mga positibong mithiin dahil tuwiran nitong tinutukoy ang mga uri ng pagkakamaling malamang na kahantungan ng modelo.
Mahalaga rin dito ang format dahil itinatakda nito ang tono ng tugon. Ang prompt na puno ng mga bullet, heading, at tagubiling nasa bracket ay gumagabay sa modelo tungo sa mas organisado at klinikal na output. Kung dapat magmukhang pag-uusap ang output, hindi dapat magmukhang pinaikling dokumento ng espesipikasyon ang input.
Kadalasan, nauuwi sa personalidad ang paggamit ng prompt para sa tono. Nagbibigay lang ng listahan ng mga pang-uri para ilarawan kung paano dapat magsalita ang agent. Magiliw. Propesyonal. Palakaibigan ngunit maikli. Hindi naman mali ang mga ito, ngunit rehistro talaga ang nagtatakda kung paano tatanggapin ang isang tinig sa pag-uusap: kung paano kumikilos ang iisang pangunahing karakter sa iba't ibang sitwasyong panlipunan.
Hindi dapat parang pinal na sagot ang pansamantalang mensahe habang pinoproseso ang isang tanong. Hindi dapat kasing-sigla ng kuwentuhang magaan ang tugon tungkol sa guardrail. Hindi dapat tumanggap ang naiinis na customer ng kaparehong antas ng pagpapabibo o pagpapatawa na ibinibigay sa customer na kaswal lang na tumitingin.
Ito ang pagkakaiba ng tinig ng brand at disenyo ng pag-uusap. Madalas inilalarawan ng tinig ng brand ang karakter, samantalang itinatakda ng disenyo ng pag-uusap kung paano kikilos ang karakter na iyon kapag nagbabago ang sitwasyon. Kapag nagawa namin ito nang tama, hindi lang kami mga copywriter na gumagawa sa mga output ng AI. Dinidisenyo namin kung paano dumadaloy ang isang tinig sa pag-uusap.
Mapapansin mong walang teknikal na komplikasyon sa alinman sa mga pattern na ito. Bahagi iyon ng punto. Mahalaga ang arkitektura ng isang agentic system, ngunit pagdating sa kalidad ng pag-uusap, kailangan mong maglaan ng malaking oras sa pagdisenyo at pagpapahusay ng iyong mga prompt.
Hindi teknikal na disenyo ang pumupuno sa agwat sa pagitan ng AI na gumagana lang at AI na tunay na nakikipag-usap. Napupunan ito ng mas malinaw na pag-unawa sa papel ng wika at atensyon sa diyalogo ng tao, at ng paglalagay sa diyalogo sa sentro ng problemang nilulutas ng iyong mga agent.
Para sa mga team ng produktong AI, engineer, at experience designer, nararapat ilapat sa disenyo ng pag-uusap ang kaparehong higpit na inilalapat sa teknikal na kahusayan ng AI na nakikipag-ugnayan sa customer. Para sa mga taong nasa kabilang panig ng mga pag-uusap na ito, walang modelo, walang pagtutulungan ng maraming agent, at walang tool call — mayroon lamang interaksyong tama o mali ang dating. Interaksyong bumubuo o sumisira ng tiwala.
Sa huli, hindi arkitektura ang nararanasan ng sinuman. Ang nararanasan nila ay ang pag-uusap.
Ang pag-uusap ang produkto.