AI komunikující se zákazníky reprezentuje vaši značku a její tvorba vyžaduje zcela jiné dovednosti než vývoj interních nástrojů.
Rozdíl mezi funkčním a přesvědčivým agentem je spíše koncepční než technický, protože většina promptů se píše jako soubor pokynů, nikoli jako návrh dialogu.
Lepší rámec nabízí lingvistika a kognitivní psychologie: rozhovory mají strukturu a prompty vytvářejí prostředí, které směruje pozornost. Co uvedete jako první, co zopakujete a jak prompt uzavřete, spolehlivě ovlivní chování agenta.
Omezení pomáhají, ale jen pokud jsou přesná. Příliš mnoho okrajových případů vede k nepřirozeným interakcím a nepřehledným promptům. Méně rozhodování proto umožňuje soustředit se na to podstatné.
Vytvořit konverzační AI pro komunikaci se zákazníky je pro firmu náročné.
I pro firmy, které si AI osvojily mimořádně rychle a zapojily ji do spolupráce na úrovni jednotlivých zaměstnanců a možná si dokonce vyvinuly vlastní interní nástroje AI, je povýšení AI na rozhraní mezi firmou a okolním světem něčím úplně jiným.
A skutečně jde o povýšení. Jakmile AI začne komunikovat se zákazníky, mění se z pracovitého stážisty na plnohodnotného zaměstnance: obléká firemní uniformu a v očích zákazníků reprezentuje značku.
V sázce je hodně. Každá chybička je teď veřejná a někdo ji může zaznamenat.
Produkty, které vytváříme, jsou často multiagentní systémy se složitými interakcemi na obchodní úrovni. Tato logika však nemusí být na věci to nejkomplikovanější. Větší výzvou je přesvědčit uživatele, že po celou dobu mluví s jedním agentem a že to, co jim agent říká, má hodnotu.
A tak stále dokola píšeme a přepisujeme prompty.
Někteří agenti vznikají během stovek iterací promptu. Všichni mají stejný cíl: držet se úkolu a komunikovat hlasem, který lidské uživatele skutečně osloví.
Zkušenosti se zdokonalováním promptů nás přiměly hledat inspiraci tvůrčím způsobem. Začali jsme si vypůjčovat poznatky z jiných oborů. Samozřejmě nefungovalo všechno a to, co se osvědčilo, se málokdy podařilo hned napoprvé. Výsledkem tohoto hledání je nové paradigma práce s prompty, které se v našem týmu postupně zformovalo.
Rozdíl mezi systematicky fungujícím agentem a agentem, který skvěle konverzuje, není čistě technický, ale koncepční. Je to vzdálenost mezi světem, do kterého jste agenta zasadili prostřednictvím promptu, a skutečným světem lidské komunikace, v němž agent působí.
Skutečný svět charakterizuje nejednoznačnost. Lidé ji dobře vnímají a při komunikaci v dobré víře se v ní společně orientují pomocí souboru jemných, nevyslovených pravidel rozhovoru. Nedostatečně vybaveného agenta poznáte okamžitě.
Chceme-li zachovat čtvrtou stěnu neboli Turingovu iluzi, můžeme své agenty ukotvit v umění dialogu pomocí poznatků z lingvistiky a kognitivní psychologie.
Lingvistika nabízí celou sadu nástrojů ke studiu jazyka v praxi, včetně konverzační analýzy, která zkoumá, jak lidé v každém okamžiku strukturují a řídí rozhovory. Při uplatnění na tvorbu promptů nám tento rámec poskytuje slovník, díky němuž můžeme rozhovor chápat nikoli jako výměnu slov, ale jako výměnu jednání.
Některá jednání jsou praktická, například získání či předání informací, jiná jsou společenská, třeba udržování vzájemného porozumění nebo předcházení neshodám. Takové kroky probíhají v širší struktuře dialogu a jeho jednotlivých fázích, přičemž s každou fází se pojí očekávané jednání. Dialogy mají úvod a závěr, ale také přechody mezi tématy, a dokonce i jejich předzvěsti – to jsou okamžiky, někdy rozpačité, kdy se mezi řádky nenápadně navrhne, vyjedná a zvolí nový směr.
K nedorozuměním dochází neustále, i když mají všechny strany ty nejlepší úmysly. Lidé ovládají umění dialogu v různé míře. Podstatné však je, že LLM, na němž váš agent stojí, nemá automaticky intuici, kterou disponuje i zcela průměrný komunikující člověk.
Doplňující pohled k lingvistické analýze nabízí kognitivní psychologie. Ukazuje, jak skutečně funguje pozornost, paměť a rozhodování – jakou váhu lidé přikládají tomu, co přijde jako první a co jako poslední, jak konkrétní podněty spolehlivě vyvolávají určité chování a jak mohou omezení osvobozovat tím, že snižují kognitivní zátěž.
Prompt není neutrální schránka na pokyny. Je to prostředí, které směruje pozornost. Proto záleží na tom, co je na začátku. Záleží i na tom, co je na konci. Záleží na tom, co se opakuje. Lidé si ze seznamu obvykle snáze zapamatují začátek a konec než jeho prostřední část. Psychologové tomu říkají efekt pořadí: efekt prvenství a efekt novosti.
V praxi pozorujeme něco podobného i u LLM. Úvodní pokyny nastavují rámec: kdo agent je, jakou roli zastává a s jakým světem očekává, že se setká. Závěrečné pokyny často působí jako „to poslední, co agent slyší“. Umístíme-li nejdůležitější instrukce sem, bude pravděpodobnější, že se projeví v jeho chování.
Když už pečlivě zvažujeme umístění jednotlivých pokynů v promptu, měli bychom zároveň sledovat celkový tvar hranic, které tyto pokyny agentovi vymezují.
Pokyny agenta omezují, čímž snižují počet soupeřících možností, mezi nimiž musí rozhodnout, a zužují celkový prostor problému. V promptech potřebujeme dostatek omezení, aby byl agentův úkol zvládnutelný.
Psychologie nám říká, že při zadávání pokynů zaměstnancům, zejména těm méně zkušeným, je vhodné odstranit z úkolu nejednoznačnosti a co nejvíce tak snížit kognitivní zátěž. Zdálo by se, že omezení jsou překážkou svobody, ale ve skutečnosti nám menší počet rozhodnutí umožňuje soustředit se na několik zbývajících důležitých voleb a v daných mezích jednat tvořivě.
Pokud se naopak pokusíme dát agentovi nulovou možnost rozhodování tím, že seznamy příkladů chování pokryjeme každý myslitelný okrajový případ, snadno vytvoříme nepřirozeného konverzačního partnera. A navíc nepřehledný, frankensteinovský prompt plný podmínek „pokud–jinak“, jehož správa je noční můrou.
(Ano, mluvíme o tobě, promptování na několika příkladech.)
Dobře vymezený prompt poskytuje dostatečně jasný směr, aniž by zadání zahltil a agenta ochromil. Často to znamená dát agentovi méně okrajových případů a cílů – jak v tom, co má či nemá říkat, tak v tom, jakým způsobem to má či nemá říkat.
Podle našich zkušeností platí, že pokud při úpravě hranic saháte po několika příkladech, nejsou vaše hranice dostatečně přesné. Vraťte se k základním pokynům a zpřesněte je.
Z pohledu kognitivní psychologie jsme zvažovali, kam v promptu umístit jednotlivé pokyny a jaké množství a kvalita instrukcí nejlépe vymezí prostor problému, který má agent řešit.
Navážeme-li na předchozí lingvistické poznatky o umění dialogu, můžeme naše paradigma tvorby promptů završit tím, že pokyny zaměřené na dialog zasadíme do širších hranic agentova úkolu.
U AI komunikující se zákazníky je dialog vždy metaúkolem – ať už si to připouštíme, nebo ne. Když se rozhodneme dialogu v promptu věnovat záměrně, vyhrazujeme část kapacity neboli „kognitivní zátěže“ agenta na vnímání dialogu a odpovídající reakce, čímž zlepšujeme jeho konverzační schopnosti.
Výměnou za to však nejspíš bude nutné zmenšit rozsah hlavního úkolu, aby celkový prostor problému zůstal zvládnutelný a dobře vymezený.
U AI komunikující se zákazníky proto navrhujeme podmínky pro lepší dialog i rozhodování jako jeden celek. Usilujeme o menší, dobře vymezené agenty, jejichž hlavní úkol je zasazen do nadřazeného úkolu dialogu nebo jej přímo zahrnuje. Nepíšeme hromady pokynů, které se následně zpřesňují pomocí příkladů. Píšeme menší soubor propracovaných pokynů, které jsou natolik přesné, že příklady nejsou potřeba.
Toto paradigma tvorby promptů používáme k vytváření agentů, kteří se nejen drží úkolu, ale zvládají jej i s konverzační elegancí.
Když jsme si nyní zmapovali koncepční rámec, v příštím článku se více zaměříme na praxi. Podíváme se na několik klíčových vzorců, které vyplynuly z našich praktických pokusů a omylů při uplatňování těchto principů v promptech. Je zajímavé, že podobné vzorce začínají ve vlastních doporučeních pro tvorbu promptů uplatňovat i poskytovatelé průkopnických modelů. Více příště.