Il-biċċa l-kbira tal-inġinerija tal-prompts tiffoka fuq il-preċiżjoni u l-kopertura tal-istruzzjonijiet. L-akbar titjib fil-produzzjoni jiġi meta d-djalogu nnifsu jitqies bħala l-problema ewlenija tad-disinn.
L-ispeċifikazzjoni ta’ intenzjonijiet bi skattatur u azzjoni tiggwida lill-mudell dwar kif għandu jiddeċiedi, minflok tagħtih skript li minnu ma jistax jaħrab. Il-pożizzjoni fi prompt hija struzzjoni fiha nnifisha. L-identità titqiegħed fil-bidu, l-isfumaturi tal-imġiba fin-nofs, ir-restrizzjonijiet stretti fl-aħħar, u kull ħaġa tassew kritika fiż-żewġ postijiet.
Il-kitba tal-prompt bil-vuċi mixtieqa, minflok deskrizzjoni tagħha, hija waħda mill-bidliet disponibbli bl-akbar impatt.
L-aktar aġenti koerenti huma dawk li l-prompts tagħhom jittrattaw mumenti differenti fil-konverżazzjoni bħala interazzjonijiet distinti, kull waħda bil-forma xierqa tagħha, filwaqt li l-vuċi tibqa’ tingħaraf bħala l-istess waħda tul il-konverżazzjoni kollha.
F’xi każijiet, is-separazzjoni tal-aġenti li jaħsbu minn dawk li jitkellmu tipproduċi tweġibiet aktar koerenti u marbuta mal-kuntest, u tevita li r-raġunament intern jidħol fit-tweġibiet.
Preċedentement introduċejna paradigma ġdida għall-prompts ibbażata fuq għarfien mil-lingwistika u mill-psikoloġija konjittiva. Ktibna dwar l-importanza li jinħoloq spazju tal-problema ċar u b’konfini definiti li fih jista’ jopera l-aġent tagħna, u dwar kif dan l-ispazju jeħtieġlu jinkludi l-metakompitu tad-djalogu inerenti fl-IA li tikkomunika mal-klijenti.
Issa se nħarsu lejn xi modi prattiċi li bihom bdew jinbidlu l-prompts tagħna hekk kif ippruvajna napplikaw dawn il-prinċipji fil-produzzjoni.
Tul mijiet ta’ iterazzjonijiet ta’ prompts f’sistemi attivi li jikkomunikaw mal-klijenti, l-akbar titjib ma ġiex billi żidna aktar struzzjonijiet, akkumulajna l-eżempji jew segwejna n-normi tipiċi tal-inġinerija tal-prompts. Minflok, ġie billi poġġejna d-djalogu fil-qalba tal-problema.
Permezz ta’ esplorazzjoni u ttestjar kontinwi, ħarġu għadd ta’ tekniki effettivi. Konna nbiddlu prompt u nosservaw fejn il-konverżazzjoni rnexxiet jew falliet, filwaqt li nsegwu l-fallimenti lura sal-effettività tal-gwida, l-istruttura tal-prompt u l-użu tagħna tal-lingwa. Ir-riżultat huwa għadd żgħir ta’ mudelli ripetibbli li jbiddlu kif l-aġent jinterpreta r-rwol tiegħu fil-konverżazzjoni, kif jiddeċiedi l-pass li jmiss u kemm iżomm il-vuċi b’mod konsistenti f’kuntesti li jinbidlu.
Dak li ġej mhuwiex qafas universali jew pretensjoni li l-prompts issa huma “solvuti”. Huwa ġabra konċiża ta’ ħames mudelli li taw prova tagħhom fil-produzzjoni meta l-għan ma kienx biss il-preċiżjoni funzjonali, iżda djalogu aħjar: tweġibiet li jinħassu koerenti, naturali u konsistenti biżżejjed biex jirrappreżentaw marka.
Għalkemm hemm ħafna modi kif tiġi strutturata sistema b’aġenti, il-flussi tax-xogħol orkestrati b’diversi aġenti għadhom popolari. B’mod partikolari f’sistemi bħal dawn, l-aktar titjib konsistenti li għamilna kien li sseparajna l-aġenti li jaħsbu minn dawk li jitkellmu.
L-orkestrazzjoni tal-intenzjoni, il-klassifikazzjoni, l-estrazzjoni tal-għarfien u l-użu tal-għodod huma kollha operazzjonijiet interni. It-tweġibiet lill-klijenti jiffurmaw is-saff viżibbli. Meta l-istess aġent jagħmel it-tnejn fl-istess skambju, ir-raġunament u l-loġika interni jistgħu jidħlu fit-tweġibiet. It-tweġibiet isiru kawti żżejjed, mimlijin kwalifiki jew strutturati skont il-loġika tal-proċess minflok il-ħtiġijiet tal-persuna.
Dik ir-restrizzjoni waħda tagħmel ammont sorprendenti ta’ xogħol. Iżżomm it-tweġibiet marbuta mal-konverżazzjoni reali, tevita li l-kuntest jerġa’ jibda mill-bidu u tipproduċi xi ħaġa eqreb lejn dak li nsejħulu “twassil tad-differenza”. Fl-aħħar mill-aħħar, l-aġent iżid biss l-iċken ħaġa ġdida li verament tgħin lill-utent jimxi ’l quddiem.
Importanti wkoll li jiġi deċiż x’tip ta’ tweġiba għandha tingħata. Sibna li meta nitolbu lill-aġent li jitkellem jagħżel tip ta’ azzjoni qabel jikteb — iwieġeb, jiċċara, jidderieġi mill-ġdid jew jitlob stennija — jonqos b’mod konsistenti l-aktar falliment komuni fil-konverżazzjoni: mhux proża ħażina, iżda tweġiba kompletament żbaljata.
Tajjeb li wieħed jinnota li, fil-kundizzjonijiet xierqa, l-aktar mudelli avvanzati reċenti qed jibdew jisfidaw il-premessa ta’ dan il-mudell. Madankollu, għal diversi raġunijiet ħafna żviluppaturi għadhom jiddependu fuq mudelli iżgħar jew eqdem, u f’dawk il-kuntesti żgur nirrakkomandaw li tissepara l-ħidma interna minn dik li tidher lill-klijenti.
Għall-mudelli mingħajr raġunament, l-eżempji few-shot jaħdmu għax huma konkreti, veloċi u l-mudelli jirrispondu tajjeb għalihom. Il-problema hija l-adattament żejjed. Meta tagħti eżempju lil mudell, dan jeħel mal-kliem, mar-ritmu u mal-forma tiegħu, u jibqa’ jipproduċi varjanti simili ħafna tal-istess tweġiba anki meta s-sitwazzjoni tkun inbidlet.
Bla ma ridt, tkun ktibt skript li minnu l-mudell ma jistax jaħrab.
L-intenzjonijiet ta’ implimentazzjoni jew l-ewristiċi huma alternattiva aktar dejjiema. Minflok nuru lill-mudell x’għandu jgħid f’xenarji speċifiċi*,* nagħtuh par usa’ ta’ skattatur u azzjoni: jekk jiġri X, agħmel Y.
Id-differenza ewlenija hija li, minflok ma nillimitaw lil X u Y eżempju wara l-ieħor u nagħmluhom dejjem aktar riġidi, nistabbilixxu konfini ċari għal kull wieħed bi struzzjoni tant preċiża li l-eżempji ma jibqgħux meħtieġa. Dan iżomm lill-aġent sensittiv għall-varjazzjoni reali fil-konverżazzjoni, minflok ma jqabbel kull sitwazzjoni ma’ mudell fiss.
Fil-prattika, dan jixbah inqas lil eżempji u aktar lil regoli prattiċi li jistgħu jiġu eżegwiti:
If a key detail is missing, ask one clarifying question.
If the answer isn’t supported, say so directly and offer the best available next step.
If the request hits a guardrail, decline briefly and redirect without ceremony.
Mhuwiex spettakolari, iżda huwa ferm aktar robust minn librerija ta’ tweġibiet kampjun, għax jgħallem lill-mudell kif jiddeċiedi minflok x’għandu jirrepeti.
Il-pożizzjoni ta’ xi ħaġa fi prompt tiddetermina kemm tingħata importanza. Dan huwa mudell konsistenti li osservajna f’diversi mudelli u implimentazzjonijiet. Il-bidu u t-tmiem ta’ prompt jispikkaw ferm aktar mill-bqija. Dak li jitqiegħed fin-nofs huwa l-isfumatura, u huwa proprju hemm fejn għandha tkun.
Aħna nistrutturaw il-prompts tagħna b’dan f’moħħna. Ir-rwol u l-perċezzjoni tiegħu nnifsu tal-aġent jitqiegħdu fil-bidu, biex l-identità tiġi stabbilita qabel kull ħaġa oħra. Fin-nofs jitqiegħdu d-dettalji dwar l-imġiba: kif x’aktarx tiżvolġi l-konverżazzjoni, l-ewristiċi li jiggwidaw it-tweġibiet u l-firxa ta’ sitwazzjonijiet li l-aġent jeħtieġlu jindirizza. Ir-restrizzjonijiet stretti u dak li mhuwiex negozjabbli jitqiegħdu fl-aħħar, fejn jibqgħu “fuq quddiem nett tal-ħsieb”.
Kull ħaġa tassew kritika nqegħduha fiż-żewġ postijiet. Regola speċifika tal-output — pereżempju, struzzjoni stretta dwar il-punteġġjatura jew l-ifformattjar — faċilment tintilef jekk tidher darba biss f’nofs prompt dens. Meta tiġi ripetuta fl-aħħar, tibqa’ effettiva.
Dwar l-effett tal-informazzjoni l-aktar reċenti, tajjeb li wieħed jinnota li l-outputs strutturati, meta jintużaw, fil-fatt ikunu l-aħħar struzzjoni fil-prompt tiegħek. L-oqsma tad-deskrizzjoni fl-outputs strutturati tiegħek jinfluwenzaw il-kwalità tat-tweġibiet u joħolqu kuntratt tal-output aktar b’saħħtu mill-bqija tal-prompt.
Tgħallimna wkoll biex ma nużawx eżempji few-shot għat-ton tal-vuċi, u din kienet waħda mill-bidliet bl-akbar impatt li għamilna fl-aġenti tagħna li jikkomunikaw mal-klijenti.
Minflok, niktbu l-prompt kollu bil-vuċi mixtieqa. Mhux deskrizzjoni tal-vuċi, lanqas sett ta’ aġġettivi li joqorbu lejha, iżda l-vuċi nnifisha, bi proża sħiħa, mill-ewwel linja sal-aħħar waħda. Il-prompt isir id-dimostrazzjoni. Dan insejħulu “anti-scriptness”: niggwidaw lill-mudell biex jimita l-input tiegħu, filwaqt li nħalluh juża firxa usa’ ta’ lingwaġġ u frażijiet li jibqgħu fl-istess “territorju” tal-prompt innifsu.
Hekk inħeġġu l-varjetà filwaqt li nżommu vuċi koerenti. Din hija parti mill-istrateġija tagħna biex inpoġġu d-djalogu fil-qalba tal-kompitu ta’ kull aġent, mingħajr ma jkollna nużaw struzzjonijiet espliċiti, li qed nippruvaw inżommu għall-minimu.
Jekk nużaw eżempji espliċiti dwar it-ton tal-vuċi, dawn juru “x’m’għandux isir”. Pereżempju, “No em dashes. Ever. No clichés. No policy dumping. No over-explanation when a single sentence will close the loop.” Ir-restrizzjonijiet negattivi huma kemm aktar preċiżi kif ukoll inqas restrittivi mill-aspirazzjonijiet pożittivi, għax jidentifikaw il-modi ta’ falliment li l-mudell x’aktarx jitbiegħed lejhom.
Hawnhekk anki l-ifformattjar huwa importanti u jistabbilixxi t-ton tat-tweġiba. Prompt mimli listi bil-bullets, intestaturi u struzzjonijiet fil-parentesi jiggwida lill-mudell lejn output aktar organizzat u kliniku. Jekk l-output għandu jinħass bħal konverżazzjoni, l-input m’għandux jidher bħal dokument ta’ speċifikazzjoni mqassar.
Il-biċċa l-kbira tal-prompts dwar it-ton jispiċċaw jiffokaw fuq il-personalità. Billi jingħata sett ta’ aġġettivi maħsub biex jiddeskrivi kif għandu jinstema’ l-aġent. Kordjali. Professjonali. Amikevoli iżda konċiż. Dawn mhumiex żbaljati, iżda dak li verament jiddetermina kif tintlaqa’ vuċi f’konverżazzjoni huwa r-reġistru: kif l-istess karattru bażiku jġib ruħu f’sitwazzjonijiet soċjali differenti.
Messaġġ ta’ stennija waqt li tkun qed tiġi pproċessata mistoqsija m’għandux jinstema’ bħal tweġiba finali. Tweġiba ta’ sikurezza m’għandux ikollha l-istess enerġija bħal taħdita każwali. Klijent frustrat m’għandux jirċievi l-istess livell ta’ seħer jew umoriżmu bħal wieħed li qed jibbrawżja bla għaġla.
Din hija d-differenza bejn il-vuċi tal-marka u d-disinn tal-konverżazzjoni. Il-vuċi tal-marka spiss tiddeskrivi l-karattru, filwaqt li d-disinn tal-konverżazzjoni jiddeċiedi kif iġib ruħu dak il-karattru meta jinbidlu s-sitwazzjonijiet. Meta nagħmlu dan sew, ma nkunux sempliċiment copywriters li jaħdmu fuq outputs tal-IA. Inkunu qed niddisinjaw kif vuċi timxi tul konverżazzjoni.
Tinduna li ebda wieħed minn dawn il-mudelli mhu teknikament kumpless. U dan huwa parzjalment il-punt. L-arkitettura ta’ sistema b’aġenti hija importanti, iżda għall-kwalità tal-konverżazzjoni jeħtieġ li tqatta’ ħin sostanzjali tiddisinja u tirfina l-prompts tiegħek.
Id-distakk bejn IA purament funzjonali u IA ġenwinament konversazzjonali ma jingħalaqx bid-disinn tekniku, iżda b’fehim aktar ċar ta’ kif jaħdmu l-lingwa u l-attenzjoni fid-djalogu uman, u billi d-djalogu jitqiegħed fil-qalba tal-problema li jridu jsolvu l-aġenti tiegħek.
Għat-timijiet tal-prodotti tal-IA, l-inġiniera u d-disinjaturi tal-esperjenza, id-disinn tal-konverżazzjoni jistħoqqlu l-istess rigorożità bħall-eċċellenza teknika fl-IA li tikkomunika mal-klijenti. Għan-nies fuq in-naħa l-oħra ta’ dawn il-konverżazzjonijiet, m’hemm ebda mudell, ebda kollaborazzjoni bejn diversi aġenti u ebda sejħa lil għodda — hemm biss interazzjoni li jew tinħass tajba jew le. Interazzjoni li jew tibni l-fiduċja jew iddgħajjifha.
Fl-aħħar mill-aħħar, ħadd ma jesperjenza l-arkitettura. Jesperjenza l-konverżazzjoni.
Il-konverżazzjoni hija l-prodott.