Kinakatawan ng AI na humaharap sa customer ang iyong brand, at ibang-iba ang kasanayang kailangan dito kumpara sa paggawa ng mga internal na tool.
Mas konseptuwal kaysa teknikal ang pagkakaiba ng gumaganang agent at kapani-paniwalang agent dahil karaniwang isinusulat ang mga prompt bilang hanay ng mga tagubilin, hindi bilang disenyo ng dayalogo.
May mas mahusay na balangkas mula sa lingguwistika at kognitibong sikolohiya: may estruktura ang mga pag-uusap, at lumilikha ang mga prompt ng kapaligirang gumagabay sa atensyon. Ang inuuna, inuulit, at ipinangwawakas mo ay maaasahang huhubog sa kilos ng agent.
Nakatutulong ang mga limitasyon, ngunit kung tiyak lamang ang mga ito. Kapag napakaraming edge case, nagiging pilit ang mga interaksyon at mahirap pangasiwaan ang mga prompt; kapag mas kaunti ang pagpapasyahan, mas matututukan ang mas mahahalagang desisyon.
Nakakatakot para sa isang negosyo ang pagbuo ng AI na nakikipag-usap at humaharap sa mga customer.
Kahit para sa mga negosyong mabilis tumanggap sa teknolohiya—na gumagamit na ng AI bilang katuwang ng bawat empleyado at maaaring nakagawa pa ng sarili nilang mga internal na AI tool—ibang usapan ang paglalagay sa AI bilang tulay sa pagitan ng iyong negosyo at ng mundo.
At maituturing nga itong promosyon. Kapag humaharap na sa customer ang AI, umaangat ito mula sa masipag na intern tungo sa kinatawang empleyado—nagsusuot ng uniporme at kumakatawan sa brand sa paningin ng mga customer.
Malaki ang nakataya. Ang bawat pagkakamali ay nakikita na ng publiko at posibleng maitala.
Ang mga produktong binubuo namin ay kadalasang mga multi-agent system na may masalimuot na interaksyon sa antas ng negosyo. Gayunman, maaaring iyon pa ang mas madaling bahagi. Ang mas malaking hamon ay kumbinsihin ang mga user na iisang agent ang kausap nila sa buong panahon at may kabuluhan ang sinasabi nito.
Kaya paulit-ulit naming isinusulat at binabago ang mga prompt.
May mga agent na nabuo matapos ang daan-daang rebisyon ng prompt. Iisa ang layunin ng bawat isa: manatiling nakatuon sa gawain at magsalita sa paraang tumatagos sa mga taong user.
Dahil sa karanasan namin sa pagpapahusay ng prompting, naging mas malikhain kami sa paghahanap ng inspirasyon. Nagsimula kaming humiram ng mga ideya mula sa ibang larangan. Siyempre, hindi lahat ay gumana, at ang mga gumana ay bihirang naging tama sa unang pagsubok. Sa mga paggalugad na ito, umusbong sa aming team ang ibang paradigma ng prompting.
Hindi lamang teknikal kundi konseptuwal ang agwat sa pagitan ng agent na sistematikong gumagana at agent na mahusay makipag-usap. Ito ang distansya sa pagitan ng mundong itinakda mo para sa agent sa pamamagitan ng iyong prompt at ng tunay na mundo ng komunikasyon ng tao kung saan ito gumagana.
Likas sa tunay na mundong iyon ang kalabuan. Sanay rito ang mga tao, at sama-sama itong nilalampasan ng mga tapat na tagapagsalita sa pamamagitan ng maseselan at di-binibigkas na tuntunin ng diskurso. Madaling makilala ang agent na kulang sa paghahanda.
Upang mapanatili ang ilusyon na totoo ang kausap, o ang Turing illusion, maaari nating sanayin ang ating mga agent sa sining ng dayalogo gamit ang mga pananaw mula sa lingguwistika at kognitibong sikolohiya.
May buong hanay ng kasangkapan ang lingguwistika para pag-aralan ang wikang ginagamit sa aktuwal na sitwasyon, kabilang ang Conversation Analysis, na sumusuri kung paano binubuo at pinamamahalaan ng mga tao ang usapan sa bawat sandali. Kapag inilapat sa prompting, binibigyan tayo ng balangkas na ito ng bokabularyo upang isipin ang pag-uusap hindi bilang palitan ng mga salita kundi bilang palitan ng mga kilos.
Praktikal ang ilang kilos, gaya ng pagkuha o pagbibigay ng impormasyon, samantalang panlipunan ang iba, gaya ng pagpapanatili ng magandang ugnayan o pag-iwas sa alitan. Nangyayari ang mga pagkilos na ito sa mas malawak na estruktura at mga yugto ng dayalogo, na bawat isa ay may inaasahang mga kilos. May simula at wakas ang mga dayalogo, ngunit mayroon ding paglipat ng paksa at maging mga paunang paglipat—ang kung minsan ay asiwa ngunit banayad na pagmumungkahi, pag-uusap, at pagpapasya sa bagong direksyon nang hindi tahasang sinasabi.
Laging nangyayari ang hindi pagkakaunawaan, kahit mabuti ang hangarin ng lahat. Bagama't magkakaiba ang husay ng mga tao sa sining ng dayalogo, ang mahalaga ay hindi likas na taglay ng LLM sa likod ng iyong agent ang intuwisyon na mayroon kahit ang karaniwang taong nakikipag-usap.
Kasabay ng pagsusuring lingguwistiko, may pantulong ding maiaalok ang kognitibong sikolohiya. Ipinapaliwanag nito kung paano talaga gumagana ang atensyon, memorya, at pagpapasya—kung paano mas binibigyang-halaga ng mga tao ang nauuna o nahuhuli, kung paano nagdudulot ng maaasahang kilos ang mga partikular na trigger, at kung paano nakapagpapalaya ang mga limitasyon sa pamamagitan ng pagbawas sa kognitibong pasanin.
Ang prompt ay hindi neutral na lalagyan lamang ng mga tagubilin. Isa itong kapaligirang gumagabay sa atensyon. Kaya mahalaga ang nasa itaas. Mahalaga ang nasa ibaba. Mahalaga ang inuulit. Kapag binigyan ng listahan, mas madaling natatandaan ng mga tao ang simula at wakas kaysa ang gitna. Tinatawag ito ng mga sikologo na serial position effect: primacy at recency.
Sa aktuwal na paggamit, may nakikita tayong katulad nito sa mga LLM. Itinatakda ng mga unang gabay ang balangkas: kung sino ang agent, anong papel ang ginagampanan nito, at anong uri ng mundo ang inaasahan nitong haharapin. Ang pangwakas na gabay ay madalas tumatak na parang “huling bagay na narinig nito.” Kung doon natin ilalagay ang pinakamahahalagang tagubilin, mas malamang na maisagawa ang mga iyon.
Habang maingat nating pinag-iisipan kung saan ilalagay ang iba't ibang tagubilin sa prompt, dapat din nating bantayan ang kabuuang hugis ng hangganang nililikha ng mga iyon para sa ating agent.
Nagsisilbing mga limitasyon sa agent ang mga tagubilin: binabawasan nito ang magkakatunggaling posibilidad na kailangang lutasin at pinakikitid ang kabuuang saklaw ng problema. Kailangan ng sapat na limitasyon sa ating mga prompt upang maging kayang pangasiwaan ang gawain ng agent.
Kapag nagbibigay ng tagubilin sa mga empleyado, lalo na sa mga di-gaanong bihasa, sinasabi ng sikolohiya na makabubuting linawin ang gawain at sa gayon ay bawasan hangga't maaari ang kognitibong pasanin. Bagama't tila nililimitahan ng mga hangganan ang kalayaan, kapag mas kaunti ang pagpapasyahan ay malaya tayong tumuon sa iilang mahalagang desisyon at maging malikhain sa pagkilos sa loob ng mga limitasyon.
Sa kabilang banda, ang pagsisikap na bigyan ang ating agent ng walang kahit isang desisyong gagawin—sa pamamagitan ng paglilista ng mga halimbawang gawi para sa bawat posibleng edge case—ay tiyak na lilikha ng pilit na kausap. Bukod pa rito, bubuo ito ng napakahaba at mala-Frankenstein na prompt na punô ng mga if at else at napakahirap pangasiwaan.
(Mga few-shot, kayo ang tinutukoy namin.)
Nagbibigay ang prompt na may malinaw na hangganan ng sapat na direksyon nang hindi pinupuno ng labis na detalye ang gawain at hindi napaparalisa ang agent. Kadalasan, nangangahulugan itong magtakda ng mas kaunting edge case o target para sa agent—kapwa sa kung ano ang dapat o hindi dapat sabihin at kung paano ito dapat o hindi dapat sabihin.
Sa karanasan namin, kung gumagamit ka ng few-shot upang ayusin ang iyong hangganan, hindi sapat ang katiyakan ng hangganang iyon. Balikan at pinuhin ang mga pangunahing tagubilin.
Mula sa pananaw ng kognitibong sikolohiya, pinag-iisipan namin kung saan ilalagay ang iba't ibang tagubilin sa prompt at kung gaano karami at kahusay ang kailangang tagubilin upang maitakda nang pinakamabuti ang saklaw ng problema ng agent.
Sa pagbabalik sa mga nauna nating obserbasyon tungkol sa sining ng dayalogo mula sa lingguwistika, mabubuo natin ang ating paradigma ng prompting sa pamamagitan ng paglalagay sa tagubiling nakasentro sa dayalogo sa loob ng mas malawak na hangganan ng gawain ng agent.
Para sa AI na humaharap sa customer, laging meta-task ang dayalogo, kinikilala man natin ito o hindi. Kapag sinadya nating tugunan ang dayalogo sa ating prompt, inilalaan natin ang bahagi ng kakayahan o “kognitibong pasanin” ng agent sa kamalayan at pagtugon sa dayalogo upang mapahusay ang kakayahan nitong makipag-usap.
Gayunman, kapalit nito ang malamang na pagpapaliit sa pangunahing gawain upang manatiling kayang pangasiwaan at malinaw ang hangganan ng kabuuang saklaw ng problema.
Kaya para sa AI na humaharap sa customer, idinidisenyo natin nang buo ang mga kondisyon para sa mas mahusay na dayalogo at pagpapasya. Layunin nating bumuo ng mas maliliit na agent na may malinaw na hangganan, at ang pangunahing gawain ng mga ito ay nakapaloob sa konteksto ng meta-task ng dayalogo o kabilang iyon. Hindi tayo sumusulat ng gabundok na mga tagubilin na pinipino sa pamamagitan ng mga halimbawa. Sumusulat tayo ng mas maliit na hanay ng pinong mga tagubilin na sapat ang katiyakan upang hindi na kailanganin ang mga halimbawa.
Ito ang paradigma ng prompting na ginagamit namin upang lumikha ng mga agent na hindi lamang nananatiling nakatuon sa gawain kundi ginagawa rin iyon nang mahusay at natural makipag-usap.
Ngayong nailatag na ang konseptuwal na balangkas, magiging mas praktikal naman ang susunod naming blog. Titingnan natin ang ilang pangunahing pattern na lumitaw habang inilalapat namin ang mga prinsipyong ito sa mga prompt sa pamamagitan ng pagsubok at pagkakamali sa tunay na mundo. Kapansin-pansin na nagsisimula ring magpakita ng mga katulad na pattern ang mga provider ng frontier na modelo sa sarili nilang gabay sa prompting. Higit pa sa susunod.