Většina konstrukcí promptů se zaměřuje na přesnost a úplnost pokynů. Největší přínos v produkčním prostředí přináší pojetí samotného dialogu jako ústředního designového problému.
Definování záměrů ve formě podnětu a reakce vede model k tomu, jak se rozhodovat, místo aby mu vnucovalo scénář, z něhož nemůže uniknout. Umístění v promptu je samo o sobě pokynem. Na začátek patří identita, doprostřed nuance chování a na konec pevná omezení. Vše skutečně zásadní patří na začátek i na konec.
Psaní promptu cílovým stylem namísto jeho popisování je jednou z nejpřínosnějších dostupných změn.
Nejsoudržnější agenti mají prompty, které pojímají různé okamžiky rozhovoru jako odlišné interakce, každou s odpovídající podobou, ale po celou dobu si zachovávají jasně rozpoznatelný jednotný styl.
V některých případech přináší oddělení agentů, kteří přemýšlejí, od těch, kteří komunikují, soudržnější odpovědi opřené o kontext a brání pronikání interního uvažování do odpovědí.
Dříve jsme představili nové paradigma tvorby promptů založené na poznatcích z lingvistiky a kognitivní psychologie. Psali jsme o významu jasného a dobře ohraničeného problémového prostoru, v němž může náš agent pracovat, a o tom, že tento prostor musí zahrnovat také metaúlohu dialogu, která je AI komunikující se zákazníky vlastní.
Nyní se podíváme na několik praktických způsobů, jimiž se naše prompty začaly měnit při zavádění těchto zásad do produkčního prostředí.
Během stovek iterací promptů v reálně provozovaných systémech pro zákazníky nepřineslo největší zlepšení přidávání pokynů, hromadění příkladů ani dodržování běžných zásad konstrukce promptů. Přineslo ho naopak postavení dialogu do centra problému.
Průběžným zkoumáním a testováním jsme objevili několik účinných postupů. Upravili jsme prompt a sledovali, kde rozhovor funguje a kde selhává. Příčiny neúspěchu jsme hledali v účinnosti pokynů, struktuře promptu a způsobu, jakým používáme jazyk. Výsledkem je několik opakovatelných vzorců, které mění způsob, jakým agent chápe svou roli v rozhovoru, volí další krok a zachovává jednotný styl v proměnlivých kontextech.
Následující text nepředstavuje univerzální rámec ani netvrdí, že je tvorba promptů již „vyřešená“. Jde o pět vzorců, které se osvědčily v produkčním prostředí, když cílem nebyla jen funkční přesnost, ale lepší dialog: soudržné, přirozené a dostatečně konzistentní odpovědi, které dokážou nést identitu značky.
Agentní systém lze strukturovat mnoha způsoby, oblíbené však zůstávají koordinované pracovní postupy s více agenty. Právě u těchto systémů nám nejspolehlivější zlepšení přineslo oddělení agentů, kteří přemýšlejí, od těch, kteří komunikují.
Koordinace záměrů, klasifikace, získávání znalostí a používání nástrojů jsou interní operace. Odpovědi určené zákazníkům patří do komunikační vrstvy. Když tentýž agent dělá obojí v jednom tahu, mohou do odpovědí pronikat interní uvažování a logika. Odpovědi jsou pak vyhýbavé, přehnaně opatrné nebo se řídí logikou procesu namísto potřeb člověka.
Toto jediné omezení odvede překvapivě mnoho práce. Udržuje odpovědi pevně zasazené do skutečného rozhovoru, brání resetování kontextu a přibližuje je tomu, čemu říkáme „předání rozdílu“. Agent nakonec přidá jen tu nejmenší novou informaci, která uživateli skutečně pomůže pokročit.
Důležité je také rozhodnutí, jaký typ odpovědi zvolit. Zjistili jsme, že když má komunikující agent před psaním vybrat typ kroku (odpovědět, požádat o upřesnění, přesměrovat nebo informovat o čekání) spolehlivě to omezuje nejčastější konverzační selhání: nikoli špatně napsaný text, ale zcela nesprávný typ odpovědi.
Stojí za zmínku, že nejnovější průkopnické modely začínají za vhodných podmínek zpochybňovat samotné východisko tohoto vzorce. Mnoho tvůrců však z různých důvodů stále spoléhá na menší nebo starší modely. V takových případech rozhodně doporučujeme oddělit interní procesy od komunikace se zákazníkem.
U modelů bez uvažování funguje učení na několika příkladech, protože jsou konkrétní, rychle použitelné a modely na ně dobře reagují. Problémem je přeučení. Když modelu dáte příklad, upne se na jeho slova, rytmus a stavbu a bude vytvářet stále podobné varianty téže odpovědi, i když se situace změnila.
Nechtěně jste napsali scénář, z něhož model nedokáže uniknout.
Trvalejší alternativou jsou implementační záměry neboli heuristiky. Místo abychom modelu ukazovali, co má v konkrétních situacích říci*,*, zadáme obecnější dvojici podnětu a reakce: if X happens, do Y.
Klíčový rozdíl spočívá v tom, že X a Y postupně nezužujeme jednotlivými příklady, které by byly stále strnulejší. Místo toho kolem každého z nich vytyčíme pevnou hranici natolik přesným pokynem, že příklady přestanou být potřebné. Agent tak reaguje na skutečnou rozmanitost rozhovoru, místo aby hledal shodu se šablonou.
V praxi to připomíná méně příklady a více proveditelná orientační pravidla:
Pokud chybí klíčový detail, polož jednu vyjasňující otázku.
Pokud není odpověď podporována, řekni to přímo a nabídni nejbližší dostupný další krok.
Pokud požadavek narazí na bezpečnostní opatření, rychle odmítni a bez otálení přesměruj.
Není to nijak oslnivé, ale je to výrazně robustnější než knihovna vzorových odpovědí, protože model učí, jak se rozhodovat, nikoli co opakovat.
Umístění informace v promptu určuje, jakou bude mít váhu. Tento vzorec soustavně pozorujeme napříč modely i nasazeními. Začátek a konec promptu přitahují nepoměrně více pozornosti. Uprostřed jsou nuance, přesně tam totiž patří.
S ohledem na to své prompty strukturujeme. Roli agenta a jeho sebepojetí uvádíme na začátku, abychom nejprve stanovili jeho identitu. Prostřední část obsahuje podrobnosti o chování: pravděpodobný průběh rozhovoru, heuristiky určující odpovědi a škálu situací, které musí agent zvládnout. Pevná omezení a nevyjednatelné požadavky patří na konec, kde je má model právě „v čerstvé paměti“.
Vše skutečně zásadní uvádíme na obou místech. Konkrétní pravidlo pro výstup (například striktní pokyn k interpunkci či formátování) může snadno zapadnout, pokud se objeví pouze jednou uprostřed obsáhlého promptu. Když ho zopakujete na konci, model se jím řídí.
V souvislosti s aktuálností stojí za zmínku, že používáte-li strukturované výstupy, fungují fakticky jako úplně poslední pokyn v promptu. Jejich popisná pole mohou výrazně ovlivnit výslednou odpověď a v praxi definují formát a charakter výstupu pevněji než ostatní instrukce.
Zjistili jsme, že ani k nastavení tónu komunikace není vhodné používat učení na několika příkladech. Jde o jednu z nejpřínosnějších změn, které jsme u našich agentů komunikujících se zákazníky zavedli.
Místo toho píšeme celý prompt cílovým stylem. Nejde o popis stylu ani o soubor přídavných jmen, která ho přibližně vystihují, ale o skutečný styl vyjádřený v souvislém textu od prvního do posledního řádku. Samotný prompt se stává ukázkou. Říkáme tomu „anti-skriptovost“: model vedeme k napodobení stylu vstupu, ale zároveň mu umožňujeme využívat širší škálu slov a obratů, které se pohybují ve stejných mezích jako samotný prompt.
Takto pomocí promptu dosahujeme rozmanitosti při zachování jednotného stylu. Je to součást naší strategie, jak u každého agenta postavit dialog do centra úlohy bez explicitních pokynů, jejichž množství se snažíme omezit na minimum.
Když už explicitní příklady tónu komunikace používáme, ukazují, „co nedělat“. Například: “Nepoužívej dlouhé pomlčky. Nikdy. Žádná klišé. Žádné zahlcování pravidly. Žádné zbytečně dlouhé vysvětlování, když stačí jedna věta k uzavření věci.” Negativní omezení jsou přesnější a zároveň méně svazující než pozitivní ambice, protože pojmenovávají chyby, k nimž má model největší sklon.
Důležité je i formátování, které udává tón odpovědi. Prompt plný odrážek, nadpisů a pokynů v závorkách vede model k uspořádanějšímu, strohému výstupu. Pokud má výstup působit jako rozhovor, vstup by neměl vypadat jako stručná technická specifikace.
Většina promptů zaměřených na tón komunikace nakonec sklouzne k osobnosti. Nabídnou soubor přídavných jmen, která mají popsat, jak má agent znít. Vřele. Profesionálně. Přátelsky, ale stručně. Tyto popisy nejsou chybné, ale o tom, jak styl v rozhovoru skutečně vyzní, rozhoduje jazykový rejstřík: jak se stejná osobnost chová v různých společenských situacích.
Průběžná zpráva zobrazovaná během zpracování dotazu by neměla znít jako konečná odpověď. Odpověď vyvolaná bezpečnostním omezením by neměla mít stejnou energii jako nezávazná konverzace. Frustrovaný zákazník by neměl dostat stejně žertovnou či okouzlující odpověď jako někdo, kdo si jen nezávazně prohlíží nabídku.
V tom spočívá rozdíl mezi hlasem značky a konverzačním designem. Hlas značky často popisuje osobnost, zatímco konverzační design určuje, jak se tato osobnost chová v různých situacích. Když se nám to podaří, nejsme už jen textaři upravující výstupy AI. Navrhujeme, jak se určitý hlas proměňuje v průběhu rozhovoru.
Jistě jste si všimli, že žádný z těchto vzorců není technicky složitý. A právě o to částečně jde. Na architektuře agentního systému záleží, ale chcete-li dosáhnout kvalitní konverzace, musíte věnovat hodně času navrhování a zdokonalování promptů.
Propast mezi čistě funkční a skutečně konverzační AI nepřeklene technický návrh. Překlene ji lepší pochopení toho, jak v lidském dialogu fungují jazyk a pozornost, a postavení dialogu do centra problémového prostoru vašich agentů.
Týmy vyvíjející produkty s AI, technici i designéři uživatelského prostředí by měli ke konverzačnímu designu AI pro zákazníky přistupovat stejně důsledně jako k technické kvalitě. Pro lidi na druhé straně těchto rozhovorů neexistuje žádný model, spolupráce více agentů ani volání nástrojů – pouze interakce, která buď působí správně, nebo ne. Buď důvěru posiluje, nebo ji podkopává.
Architekturu nakonec nikdo nevnímá. Lidé vnímají rozhovor.
Produktem je rozhovor.