Kundevendt AI repræsenterer jeres brand og kræver et håndværk, der er grundlæggende anderledes end ved interne værktøjer.
Forskellen på en funktionel og en overbevisende agent er mere konceptuel end teknisk, fordi de fleste prompts skrives som instruktioner frem for som design af dialog.
Et bedre perspektiv kommer fra lingvistik og kognitiv psykologi: Samtaler har en struktur, og prompts skaber et opmærksomhedsmiljø. Det, I placerer først, gentager og afslutter med, vil forudsigeligt forme agentens adfærd.
Begrænsninger hjælper, men kun når de er præcise. For mange særtilfælde fører til stive interaktioner og uoverskuelige prompts, så færre beslutninger giver plads til at fokusere på de vigtigste.
Det er en stor udfordring for en virksomhed at udvikle kundevendt AI, der kan føre samtaler.
Selv for de mest ivrige brugere af teknologien, som har taget AI-samarbejde til sig blandt de enkelte medarbejdere og måske endda udviklet egne AI-værktøjer til intern brug, er det noget helt andet at gøre AI til grænsefladen mellem virksomheden og omverdenen.
Og det er faktisk en forfremmelse. Når AI bliver kundevendt, går den fra flittig praktikant til betroet medarbejder, trækker i uniformen og repræsenterer brandet over for kunderne.
Der er meget på spil. Ethvert fejltrin er nu offentligt og bliver muligvis registreret.
De produkter, vi udvikler, er ofte systemer med flere agenter og komplekse interaktioner på forretningsniveau. Den logik kan dog være den nemme del. Den større udfordring er at overbevise brugerne om, at de hele tiden taler med én agent, og at det, agenten siger, er værdifuldt.
Derfor skriver og omskriver vi prompts igen og igen.
Nogle agenter er resultatet af hundredvis af iterationer af deres prompt. De har alle samme mål: at holde fokus på opgaven og tale med en stemme, der vækker genklang hos mennesker.
Vores erfaring med at finpudse prompting har fået os til at søge kreativt efter inspiration. Vi er begyndt at hente inspiration fra andre fagområder. Ikke alt har naturligvis virket, og det, der har virket, sad sjældent i skabet i første forsøg. Disse undersøgelser har ført til, at vores team har udviklet et andet paradigme for prompting.
Kløften mellem en systematisk velfungerende agent og en fremragende samtalepartner er ikke kun teknisk, men også konceptuel. Det er afstanden mellem den verden, I har placeret agenten i gennem jeres prompt, og den virkelige menneskelige kommunikation, som agenten skal fungere i.
Sidstnævnte er præget af tvetydighed, som mennesker er gode til at opfange, og som velmenende samtalepartnere navigerer i fællesskab gennem en række subtile, uudtalte regler for samtalen. Det er tydeligt, når en agent ikke er klædt på til opgaven.
For at bevare den fjerde væg – eller Turing-illusionen – kan vi forankre vores agenter i dialogens kunst ved hjælp af indsigter fra lingvistik og kognitiv psykologi.
Lingvistikken har en hel værktøjskasse til at studere sprog i praksis, herunder konversationsanalyse, som undersøger, hvordan mennesker strukturerer og styrer samtaler fra øjeblik til øjeblik. Anvendt på prompting giver denne tilgang os et sprog til at forstå samtaler som en udveksling af handlinger frem for ord.
Nogle handlinger er praktiske, såsom at indhente eller give oplysninger, mens andre er sociale, såsom at bevare en god relation eller undgå gnidninger. Sådanne træk sker inden for dialogens bredere struktur og dens faser, som hver især rummer forventede handlinger. Dialoger har indledninger og afslutninger, men også emneskift og endda optakter til emneskift – de til tider akavede øjeblikke, hvor en ny retning diskret foreslås, forhandles og afgøres mellem linjerne.
Misforståelser opstår hele tiden, selv når alle har de bedste intentioner. Menneskers evner inden for dialogens kunst varierer, men pointen er, at LLM'en bag jeres agent ikke som udgangspunkt har den intuition, som selv en helt almindelig menneskelig samtalepartner besidder.
Som supplement til den lingvistiske analyse bidrager den kognitive psykologi med et andet perspektiv. Den fortæller os, hvordan opmærksomhed, hukommelse og beslutningstagning faktisk fungerer – hvordan mennesker vægter det første i forhold til det sidste, hvordan bestemte udløsere skaber forudsigelig adfærd, og hvordan begrænsninger kan frigøre ved at mindske den kognitive belastning.
En prompt er ikke en neutral beholder til instruktioner. Den er et opmærksomhedsmiljø. Derfor betyder det noget, hvad der står øverst. Det betyder også noget, hvad der står nederst. Og det betyder noget, hvad der gentages. Når mennesker præsenteres for en liste, husker de typisk begyndelsen og slutningen bedre end midten. Psykologer kalder det seriepositionseffekten: primacy- og recency-effekten.
I praksis ser vi noget lignende hos LLM'er. De første retningslinjer fastlægger rammen: hvem agenten er, hvilken rolle den spiller, og hvilken verden den forventer at møde. De afsluttende retningslinjer fungerer ofte som »det sidste, den hører«. Placerer vi vores vigtigste instruktioner dér, er der større sandsynlighed for, at de bliver fulgt.
Når vi nøje overvejer placeringen af de forskellige instruktioner i vores prompt, bør vi også holde øje med den samlede form på den afgrænsning, som instruktionerne skaber for agenten.
Instruktioner begrænser agenten ved at reducere antallet af konkurrerende muligheder, den skal tage stilling til, og indsnævre det samlede problemrum. Vores prompts skal indeholde nok begrænsninger til at gøre agentens opgave håndterbar.
Når vi instruerer medarbejdere – især de mindre erfarne – fortæller psykologien os, at vi bør gøre opgaven så entydig som muligt og dermed mindske den kognitive belastning. Begrænsninger kan virke hæmmende, men færre beslutninger giver os frihed til at fokusere på de få vigtige valg, der er tilbage, og løse opgaven kreativt inden for rammerne.
Omvendt er forsøget på at fratage agenten alle beslutninger ved at dække ethvert tænkeligt særtilfælde med lister over eksempler på adfærd en sikker vej til en stiv samtalepartner – samtidig skaber du et gigantisk, rodet “monster-prompt” fyldt med logiske betingelser (hvis dette sker, så gør det her), som er helt umuligt at holde styr på.
(Prompts med få eksempler, vi kigger på jer.)
En velafgrænset prompt angiver en tilstrækkelig klar retning uden at overfylde opgavebeskrivelsen og lamme agenten. Ofte betyder det, at agenten får færre særtilfælde eller mål – både for, hvad den skal og ikke skal sige, og hvordan den skal og ikke skal sige det.
Det er vores erfaring, at hvis I griber efter et eksempel for at justere afgrænsningen, er afgrænsningen ikke præcis nok. Vend tilbage til kerneinstruktionerne, og finpuds dem.
Med afsæt i kognitiv psykologi har vi overvejet, hvor forskellige instruktioner bør placeres i en prompt, og hvilken mængde og kvalitet af instruktioner der bedst afgrænser agentens problemrum.
Med vores tidligere lingvistiske betragtninger om dialogens kunst in mente kan vi fuldende vores promptingparadigme ved at gøre dialogbaserede instruktioner til en del af agentens overordnede opgaveafgrænsning.
For kundevendt AI er dialog altid metaopgaven, uanset om vi anerkender det eller ej. Når vi bevidst vælger at behandle dialog i vores prompt, afsætter vi en del af agentens kapacitet eller »kognitive belastning« til at være opmærksom og reagere på dialogen på en måde, der styrker dens samtaleevner.
Til gengæld bliver vi sandsynligvis nødt til at reducere hovedopgavens omfang, så det samlede problemrum forbliver håndterbart og velafgrænset.
For kundevendt AI designer vi derfor betingelserne for bedre dialog og beslutninger som en helhed. Vi går efter mindre, velafgrænsede agenter, hvis hovedopgave er sat ind i en kontekst, der omfatter dialogens metaopgave. Vi skriver ikke bunker af instruktioner, der finpudses gennem eksempler. Vi skriver et mindre sæt finpudsede instruktioner, som er præcise nok til at overflødiggøre eksempler.
Det er det promptingparadigme, vi bruger til at skabe agenter, der ikke blot holder fokus på opgaven, men gør det med sproglig elegance.
Nu hvor det konceptuelle landskab er kortlagt, bliver vi mere praktiske i vores næste blogindlæg. Vi ser nærmere på nogle centrale mønstre, der er opstået gennem vores praktiske forsøg på at anvende principperne i prompts. Interessant nok er udbydere af banebrydende modeller begyndt at afspejle lignende mønstre i deres egne retningslinjer for prompting. Mere om det næste gang.