Većina inženjeringa upita usredotočena je na točnost i obuhvat uputa. Najveća poboljšanja u produkciji postižu se kada se sam dijalog postavi kao glavni dizajnerski problem.
Definiranje namjera u obliku okidača i radnje usmjerava model kako da odlučuje, umjesto da mu daje scenarij iz kojeg ne može pobjeći. Položaj u upitu sam je po sebi uputa. Identitet ide prvi, nijanse ponašanja u sredinu, stroga ograničenja na kraj, a sve što je doista presudno stavlja se na oba mjesta.
Pisanje upita željenim tonom, umjesto njegova opisivanja, jedna je od dostupnih promjena s najvećim učinkom.
Najdosljedniji su oni agenti čiji upiti različite trenutke razgovora tretiraju kao zasebne interakcije, svaku s odgovarajućim oblikom, a pritom cijelo vrijeme zadržavaju prepoznatljiv isti ton.
U nekim slučajevima odvajanje agenata koji razmišljaju od onih koji komuniciraju donosi dosljednije i utemeljenije odgovore te sprječava prelijevanje internog rasuđivanja u odgovore.
Prethodno smo predstavili novu paradigmu oblikovanja upita utemeljenu na spoznajama iz lingvistike i kognitivne psihologije. Pisali smo o važnosti stvaranja jasnog i dobro omeđenog problemskog prostora u kojem naš agent može djelovati te o tome kako taj prostor mora obuhvatiti metazadatak dijaloga svojstven umjetnoj inteligenciji namijenjenoj korisnicima.
Sada ćemo razmotriti nekoliko praktičnih načina na koje su se naši upiti počeli mijenjati dok smo ta načela uvodili u produkciju.
Tijekom stotina iteracija upita u aktivnim sustavima namijenjenima korisnicima najveća poboljšanja nisu proizašla iz dodavanja uputa, gomilanja primjera ni pridržavanja uobičajenih pravila inženjeringa upita. Proizašla su iz prihvaćanja dijaloga kao srži problema.
Kontinuiranim istraživanjem i testiranjem izdvojilo se nekoliko učinkovitih tehnika. Promijenili bismo upit i pratili gdje je razgovor uspio ili podbacio, a zatim bismo uzroke neuspjeha tražili u učinkovitosti smjernica, strukturi upita i načinu na koji upotrebljavamo jezik. Rezultat je nekoliko ponovljivih obrazaca koji mijenjaju način na koji agent tumači svoju ulogu u razgovoru, odlučuje o sljedećem potezu i dosljedno zadržava ton pri promjeni konteksta.
Ovo nije univerzalan okvir ni tvrdnja da je oblikovanje upita sada „riješeno”. Riječ je o pet obrazaca koji sažimaju ono što se pokazalo uspješnim u produkciji kada cilj nije bila samo funkcionalna točnost nego bolji dijalog: odgovori dovoljno dosljedni, prirodni i povezani da mogu predstavljati brend.
Iako se agentski sustav može strukturirati na mnogo načina, orkestrirani tijekovi rada s više agenata i dalje su popularni. Upravo smo u takvim sustavima najdosljednije poboljšanje postigli odvajanjem agenata koji razmišljaju od agenata koji razgovaraju.
Orkestracija namjera, klasifikacija, izdvajanje znanja i upotreba alata pozadinski su procesi. Odgovori namijenjeni korisnicima pripadaju korisničkom sloju. Kada isti agent u istom potezu obavlja oboje, interno rasuđivanje i logika mogu se preliti u odgovore. Odgovori postaju suzdržani, prepuni ograda ili strukturirani prema logici procesa umjesto prema potrebama osobe.
To jedno ograničenje obavlja iznenađujuće mnogo posla. Odgovore drži ukorijenjenima u stvarnom razgovoru, sprječava ponovno postavljanje konteksta i stvara nešto bliže onome što nazivamo „isporukom razlike”. Agent u konačnici dodaje samo najmanju novu informaciju koja korisniku doista pomaže napredovati.
Važna je i odluka o tome koju vrstu odgovora dati. Utvrdili smo da zahtjev da agent koji komunicira prije pisanja odabere vrstu poteza — odgovor, pojašnjenje, preusmjeravanje ili čekanje — pouzdano smanjuje najčešći razgovorni propust: ne lošu formulaciju, nego posve pogrešan odgovor.
Vrijedi napomenuti da najnoviji napredni modeli u odgovarajućim uvjetima počinju dovoditi u pitanje pretpostavku na kojoj se taj obrazac temelji. Ipak, mnogi razvojni timovi iz različitih razloga i dalje upotrebljavaju manje ili starije modele. U takvim okolnostima svakako preporučujemo odvajanje pozadinskih procesa od komunikacije s korisnicima.
Kod modela bez rasuđivanja učenje s malim brojem primjera djeluje jer su primjeri konkretni, brzo se primjenjuju i modeli na njih dobro reagiraju. Problem je pretjerana prilagodba. Dajte modelu primjer i on će se vezati uz riječi, ritam i strukturu te stalno stvarati bliske inačice istog odgovora čak i kad se situacija promijeni.
Nenamjerno ste napisali scenarij iz kojeg model ne može pobjeći.
Namjere provedbe ili heuristike trajnija su alternativa. Umjesto da modelu pokažemo što treba reći u određenim situacijama*,* dajemo mu općenitiji par okidača i radnje: ako se dogodi X, učini Y.
Ključna je razlika u tome što se ne približavamo X-u i Y-u primjer po primjer, čime bi oni postajali sve krući, nego ih preciznom uputom jasno omeđujemo tako da primjeri postaju suvišni. Tako agent reagira na stvarne varijacije u razgovoru umjesto da ih uspoređuje s obrascem predloška.
U praksi to manje nalikuje primjerima, a više izvršivim praktičnim pravilima:
Ako nedostaje ključna pojedinost, postavite jedno pitanje za pojašnjenje.
Ako odgovor nije potkrijepljen, recite to izravno i ponudite najbolji dostupan sljedeći korak.
Ako zahtjev aktivira zaštitno pravilo, kratko ga odbijte i bez okolišanja preusmjerite korisnika.
Nije osobito dojmljivo, ali znatno je pouzdanije od zbirke oglednih odgovora jer model uči kako odlučiti, a ne što ponoviti.
Položaj sadržaja u upitu određuje težinu koja mu se pridaje. Taj smo dosljedan obrazac uočili u različitim modelima i implementacijama. Početak i kraj upita privlače nerazmjerno mnogo pozornosti. U sredini su nijanse, a upravo im je ondje i mjesto.
Imajući to na umu, strukturiramo svoje upite. Uloga agenta i njegova predodžba o sebi nalaze se na vrhu kako bismo prije svega utvrdili identitet. Sredina sadrži pojedinosti o ponašanju: vjerojatan tijek razgovora, heuristike koje usmjeravaju odgovore i raspon situacija koje agent mora obraditi. Stroga ograničenja i pravila bez iznimke stavljamo na dno, gdje ostaju „na umu”.
Sve što je doista presudno stavljamo na oba mjesta. Određeno pravilo izlaza — primjerice stroga uputa o interpunkciji ili oblikovanju — lako se previdi ako se samo jednom pojavi usred opširnog upita. Ako se ponovi na kraju, poštuje se.
Kad govorimo o učinku nedavnosti, vrijedi napomenuti da su strukturirani izlazi, kada se upotrebljavaju, zapravo posljednja uputa u upitu. Polja opisa u strukturiranim izlazima kvalitativno utječu na odgovore i čine čvršći ugovor o izlazu od ostatka upita.
Naučili smo da ni za ton glasa ne treba upotrebljavati učenje s malim brojem primjera, a to je jedna od promjena s najvećim učinkom koje smo uveli u agente koji komuniciraju s korisnicima.
Umjesto toga, cijeli upit pišemo željenim tonom. Ne opisujemo ton niti ga približno dočaravamo nizom pridjeva, nego ga od prvog do posljednjeg retka doista primjenjujemo u punoj prozi. Upit postaje demonstracija. To nazivamo „neskriptiranošću”: model usmjeravamo da oponaša svoj ulaz, ali mu dopuštamo širi raspon jezika i izraza koji su u istom stilskom okviru kao i sam upit.
Tako upitom potičemo raznolikost uz zadržavanje dosljednog tona. To je dio naše strategije kojom dijalog stavljamo u središte zadatka svakog agenta, a da pritom ne trošimo prostor na izričite upute koje nastojimo svesti na najmanju mjeru.
Ako ipak upotrebljavamo izričite primjere tona glasa, oni pokazuju „što ne treba raditi”. Primjerice: „Bez dugih crta. Nikada. Bez klišeja. Bez zatrpavanja pravilima. Bez pretjeranog objašnjavanja kada je jedna rečenica dovoljna da se stvar privede kraju.” Negativna ograničenja preciznija su i manje sputavaju od pozitivnih težnji jer imenuju obrasce pogrešaka prema kojima će model najvjerojatnije skrenuti.
I oblikovanje je važno jer određuje ton odgovora. Upit prepun grafičkih oznaka, naslova i uputa u zagradama usmjerava model prema organiziranijem, formalnijem izlazu. Ako izlaz treba djelovati poput razgovora, ulaz ne bi trebao izgledati kao dokument sa šturim specifikacijama.
Većina upita o tonu svodi se na osobnost. Navodi se niz pridjeva koji bi trebali opisati kako agent treba zvučati. Srdačno. Profesionalno. Prijateljski, ali sažeto. To nije pogrešno, ali dojam koji ton ostavlja u razgovoru zapravo određuje registar: način na koji se ista temeljna osobnost ponaša u različitim društvenim situacijama.
Privremena poruka koja se prikazuje tijekom obrade upita ne bi trebala zvučati kao konačan odgovor. Odgovor koji postavlja zaštitnu granicu ne bi trebao imati istu energiju kao neobvezan razgovor. Frustriranom korisniku ne treba pristupiti s jednakom dozom šarma ili humora kao nekome tko samo usput pregledava ponudu.
U tome je razlika između tona brenda i dizajna razgovora. Ton brenda često opisuje osobnost, dok dizajn razgovora određuje kako se ona ponaša kada se situacija promijeni. Kad to pravilno izvedemo, više nismo samo autori tekstova koji rade na izlazima umjetne inteligencije. Dizajniramo kako se ton razvija kroz razgovor.
Primijetit ćete da nijedan od ovih obrazaca nije tehnički složen. To je dijelom i poanta. Arhitektura agentskog sustava jest važna, ali za kvalitetan razgovor morat ćete uložiti mnogo vremena u oblikovanje i usavršavanje svojih upita.
Jaz između isključivo funkcionalne i istinski razgovorne umjetne inteligencije ne zatvara se tehničkim dizajnom, nego jasnijim razumijevanjem uloge jezika i pozornosti u ljudskom dijalogu te stavljanjem dijaloga u središte problemskog prostora vaših agenata.
Timovi za proizvode umjetne inteligencije, inženjeri i dizajneri korisničkog iskustva trebali bi dizajnu razgovora pristupati jednako temeljito kao i tehničkoj izvrsnosti umjetne inteligencije namijenjene korisnicima. Za ljude s druge strane tih razgovora nema modela, suradnje više agenata ni poziva alata — postoji samo interakcija koja djeluje ispravno ili ne. Interakcija koja ili gradi povjerenje ili ga narušava.
Na kraju nitko ne doživljava arhitekturu. Ljudi doživljavaju razgovor.
Razgovor je proizvod.