Návrh príkazov sa väčšinou zameriava na presnosť a úplné pokrytie pokynov. Najväčšie zlepšenia v produkcii prináša prístup, ktorý považuje samotný dialóg za hlavný dizajnérsky problém.
Určenie zámerov vo forme spúšťača a akcie vedie model k tomu, ako sa rozhodovať, namiesto toho, aby mu poskytlo scenár, z ktorého sa nedokáže vymaniť. Pozícia v príkaze je sama osebe pokynom. Identita patrí na začiatok, nuansy správania do stredu a pevné obmedzenia na koniec. Všetko skutočne zásadné patrí na obe miesta.
Písanie príkazu požadovaným štýlom namiesto jeho opisovania je jednou z najúčinnejších dostupných zmien.
Najkonzistentnejší agenti používajú príkazy, ktoré považujú rôzne okamihy rozhovoru za samostatné interakcie s vlastnou vhodnou podobou, no počas celého rozhovoru si zachovávajú rozpoznateľne rovnaký štýl.
V niektorých prípadoch vedie oddelenie agentov, ktorí myslia, od agentov, ktorí hovoria, ku konzistentnejším a lepšie podloženým odpovediam a bráni prenikaniu interného uvažovania do odpovedí.
Už skôr sme predstavili nový prístup k tvorbe príkazov založený na poznatkoch z lingvistiky a kognitívnej psychológie. Písali sme o dôležitosti vytvorenia jasného a dobre ohraničeného problémového priestoru, v ktorom môže agent pôsobiť, a o tom, že tento priestor musí zahŕňať metaúlohu dialógu, ktorá je neoddeliteľnou súčasťou umelej inteligencie pre zákazníkov.
Teraz sa pozrieme na niekoľko praktických spôsobov, akými sa naše príkazy začali meniť pri zavádzaní týchto princípov do produkcie.
Pri stovkách iterácií príkazov v živých systémoch pre zákazníkov neprinieslo najväčšie zlepšenia pridávanie pokynov, hromadenie príkladov ani dodržiavanie bežných zásad návrhu príkazov. Prinieslo ich prijatie dialógu ako podstaty celého problému.
Neustálym skúmaním a testovaním vzniklo niekoľko účinných postupov. Menili sme príkazy a sledovali, kde bol rozhovor úspešný a kde zlyhával. Príčiny zlyhaní sme hľadali v účinnosti usmernení, štruktúre príkazov a spôsobe používania jazyka. Výsledkom je niekoľko opakovateľných postupov, ktoré menia spôsob, akým agent chápe svoju rolu v rozhovore, rozhoduje o ďalšom kroku a zachováva jednotný štýl pri zmenách kontextu.
Nasledujúci text nie je univerzálnym rámcom ani tvrdením, že tvorbu príkazov sme už „vyriešili“. Ide o päť postupov, ktoré sa osvedčili v produkcii, keď cieľom nebola iba funkčná presnosť, ale aj lepší dialóg: súvislé, prirodzené a dostatočne konzistentné odpovede, ktoré dokážu reprezentovať značku.
Agentný systém možno usporiadať mnohými spôsobmi, no stále sú obľúbené koordinované pracovné postupy s viacerými agentmi. Najkonzistentnejšie zlepšenie sme najmä v takýchto systémoch dosiahli oddelením agentov, ktorí myslia, od agentov, ktorí komunikujú.
Koordinácia zámeru, klasifikácia, získavanie znalostí a používanie nástrojov sú interné operácie. Odpovede určené zákazníkom patria do komunikačnej vrstvy. Keď ten istý agent vykonáva obe činnosti v jednom kroku, interné uvažovanie a logika môžu preniknúť do odpovedí. Odpovede potom bývajú vyhýbavé, nadmerne podmieňované alebo usporiadané podľa logiky procesu namiesto potrieb človeka.
Toto jediné obmedzenie toho dokáže prekvapivo veľa. Udržiava odpovede zakotvené v skutočnom rozhovore, bráni obnoveniu kontextu a vedie k niečomu, čo nazývame „odovzdanie rozdielu“. Agent napokon pridá len tú najmenšiu novú informáciu, ktorá používateľa skutočne posunie ďalej.
Dôležité je aj rozhodnutie, aký typ odpovede poskytnúť. Zistili sme, že keď má komunikujúci agent ešte pred písaním vybrať typ kroku – odpovedať, objasniť, presmerovať alebo požiadať o strpenie –, spoľahlivo sa obmedzí najčastejšie konverzačné zlyhanie: nie zle napísaný text, ale úplne nesprávny typ odpovede.
Stojí za zmienku, že najnovšie prelomové modely už za vhodných podmienok spochybňujú východisko tohto postupu. Mnohí tvorcovia však z rôznych dôvodov stále využívajú menšie alebo staršie modely. V takých prípadoch rozhodne odporúčame oddeliť interné procesy od komunikácie so zákazníkmi.
Pri modeloch bez uvažovania fungujú zadania s niekoľkými príkladmi, pretože sú konkrétne, rýchle a modely na ne dobre reagujú. Problémom je nadmerné prispôsobenie. Keď modelu dáte príklad, upriami sa na jeho slová, rytmus a štruktúru a neustále vytvára podobné varianty rovnakej odpovede, aj keď sa situácia zmenila.
Neúmyselne ste napísali scenár, z ktorého sa model nedokáže vymaniť.
Trvácnejšou alternatívou sú implementačné zámery alebo heuristiky. Namiesto toho, aby sme modelu ukazovali, čo má v konkrétnych situáciách povedať, poskytneme mu všeobecnejšiu dvojicu spúšťača a akcie: ak nastane X, urob Y.
Kľúčový rozdiel spočíva v tom, že X a Y postupne nezužujeme jednotlivými príkladmi, čím by boli čoraz nepružnejšie. Namiesto toho ich presne ohraničíme natoľko jednoznačným pokynom, že príklady už nie sú potrebné. Agent tak reaguje na skutočnú rozmanitosť rozhovorov namiesto toho, aby hľadal zhodu so šablónou.
V praxi to pripomína menej príklady a viac vykonateľné praktické pravidlá:
If a key detail is missing, ask one clarifying question.
If the answer isn’t supported, say so directly and offer the best available next step.
If the request hits a guardrail, decline briefly and redirect without ceremony.
Nie je to oslnivé, ale je to podstatne spoľahlivejšie než knižnica vzorových odpovedí, pretože model učí, ako sa rozhodovať, nie čo opakovať.
Umiestnenie obsahu v príkaze ovplyvňuje jeho váhu. Tento jav pozorujeme konzistentne naprieč modelmi aj nasadeniami. Začiatok a koniec príkazu priťahujú neúmerne veľkú pozornosť. Uprostred sú nuansy, a práve tam patria.
S týmto vedomím štruktúrujeme aj naše príkazy. Rola agenta a jeho vnímanie vlastnej identity patria na začiatok, aby sme identitu určili skôr než čokoľvek iné. Stred obsahuje podrobnosti o správaní: pravdepodobný priebeh rozhovoru, heuristiky usmerňujúce odpovede a škálu situácií, ktoré musí agent zvládnuť. Pevné obmedzenia a nevyjednateľné požiadavky patria na koniec, kde zostanú „v popredí pozornosti“.
Všetko skutočne zásadné uvádzame na oboch miestach. Konkrétne pravidlo výstupu, napríklad striktný pokyn týkajúci sa interpunkcie alebo formátovania, sa môže ľahko stratiť, ak sa objaví iba raz uprostred rozsiahleho príkazu. Ak ho zopakujeme na konci, model sa ním riadi.
V súvislosti s aktuálnosťou stojí za zmienku, že štruktúrované výstupy, ak sa používajú, sú v podstate úplne posledným pokynom v príkaze. Polia s opisom v štruktúrovaných výstupoch kvalitatívne ovplyvňujú odpovede a vytvárajú silnejšiu dohodu o výstupe než zvyšok príkazu.
Zistili sme, že ani pri určovaní tónu komunikácie netreba používať niekoľkopríkladové zadania. Je to jedna z najvýraznejších zmien, ktoré sme zaviedli pri agentoch komunikujúcich so zákazníkmi.
Namiesto toho píšeme celý príkaz požadovaným štýlom. Nie ako opis štýlu ani ako súbor prídavných mien, ktoré ho približne vystihujú, ale priamo týmto štýlom – v súvislom texte od prvého riadka až po posledný. Samotný príkaz sa tak stáva ukážkou. Nazývame to „anti-skriptovosť“: model vedieme k tomu, aby napodobňoval vstup, no zároveň mu umožňujeme používať širšiu škálu jazykových prostriedkov a fráz, ktoré sa držia v podobnom duchu ako samotný príkaz.
Takto pomocou príkazu dosahujeme pestrosť pri zachovaní jednotného štýlu. Je to súčasť našej stratégie, ako dostať dialóg do centra úlohy každého agenta bez množstva výslovných pokynov, ktoré sa snažíme obmedziť na minimum.
Ak používame konkrétne príklady tónu komunikácie, ukazujú skôr „čo nerobiť“. Napríklad: “No em dashes. Ever. No clichés. No policy dumping. No over-explanation when a single sentence will close the loop.” Negatívne obmedzenia sú presnejšie a zároveň menej zväzujúce než pozitívne predstavy, pretože pomenúvajú zlyhania, ku ktorým model najčastejšie skĺzne.
Dôležité je aj formátovanie, ktoré určuje tón odpovede. Príkaz plný odrážok, nadpisov a pokynov v zátvorkách vedie model k usporiadanejšiemu, strohejšiemu výstupu. Ak má výstup pôsobiť ako rozhovor, vstup by nemal vyzerať ako stručný dokument s technickou špecifikáciou.
Väčšina príkazov určujúcich tón sa zredukuje na osobnosť. Uvádzajú súbor prídavných mien, ktoré majú opísať, ako má agent znieť. Srdečne. Profesionálne. Priateľsky, ale stručne. Tieto charakteristiky nie sú nesprávne, no o tom, ako štýl pôsobí v rozhovore, rozhoduje najmä register: ako sa ten istý základný charakter správa v rôznych spoločenských situáciách.
Priebežná správa počas spracúvania otázky by nemala znieť ako konečná odpoveď. Odpoveď vyvolaná bezpečnostným obmedzením by nemala mať rovnakú energiu ako nezáväzná konverzácia. Frustrovaný zákazník by nemal dostať rovnako šarmantnú či humornú odpoveď ako niekto, kto si len nezáväzne prezerá ponuku.
V tom spočíva rozdiel medzi štýlom značky a dizajnom konverzácie. Štýl značky často opisuje charakter, zatiaľ čo dizajn konverzácie určuje, ako sa tento charakter správa pri zmene situácie. Ak to zvládneme správne, nie sme už len textári pracujúci na výstupoch umelej inteligencie. Navrhujeme, ako sa štýl komunikácie mení v priebehu rozhovoru.
Možno ste si všimli, že žiadny z týchto postupov nie je technicky zložitý. A práve o to sčasti ide. Na architektúre agentného systému záleží, no ak chcete dosiahnuť kvalitnú konverzáciu, musíte venovať veľa času návrhu a zdokonaľovaniu príkazov.
Rozdiel medzi čisto funkčnou a skutočne konverzačnou umelou inteligenciou neodstráni technický návrh. Odstráni ho lepšie pochopenie úlohy jazyka a pozornosti v ľudskom dialógu a postavenie dialógu do centra problémového priestoru agentov.
Tímy vyvíjajúce produkty s umelou inteligenciou, inžinieri aj dizajnéri používateľského zážitku by mali pri konverzačnom dizajne uplatňovať rovnakú dôslednosť ako pri technickej kvalite umelej inteligencie pre zákazníkov. Pre ľudí na druhej strane týchto rozhovorov neexistuje model, spolupráca viacerých agentov ani volanie nástroja – existuje len interakcia, ktorá buď pôsobí správne, alebo nie. Interakcia, ktorá buď buduje dôveru, alebo ju oslabuje.
V konečnom dôsledku nikto nezažíva architektúru. Ľudia zažívajú rozhovor.
Rozhovor je produkt.