Kundorienterad AI representerar ert varumärke och kräver ett hantverk som skiljer sig i grunden från arbetet med interna verktyg.
Skillnaden mellan en fungerande och en övertygande agent är mer konceptuell än teknisk, eftersom de flesta promptar skrivs som instruktionslistor snarare än som upplägg för dialog.
Ett bättre perspektiv hämtas från språkvetenskap och kognitiv psykologi: samtal har en struktur och promptar skapar en uppmärksamhetsmiljö. Det ni placerar först, upprepar och avslutar med formar på ett tillförlitligt sätt agentens beteende.
Begränsningar hjälper, men bara när de är precisa. För många specialfall leder till stela interaktioner och otympliga promptar. Färre beslut ger i stället utrymme att fokusera på de viktigaste.
Att bygga samtalsbaserad, kundorienterad AI är en svår uppgift för företag.
Även för företag som snabbt anammat tekniken, infört AI-samarbete på medarbetarnivå och kanske till och med utvecklat egna AI-verktyg för internt bruk är det en helt annan sak att låta AI bli gränssnittet mellan verksamheten och omvärlden.
Och det är verkligen en befordran. När AI möter kunderna går den från flitig praktikant till betrodd medarbetare, tar på sig uniformen och representerar varumärket i kundernas ögon.
Mycket står på spel. Varje felsteg blir nu offentligt och kan dessutom registreras.
Produkterna vi bygger är ofta system med flera agenter och komplexa interaktioner på verksamhetsnivå. Den logiken kan dock vara den enklare delen. Den större utmaningen är att övertyga användarna om att de hela tiden talar med en och samma agent – och att det agenten säger är värdefullt.
Därför skriver och skriver vi om promptar, gång på gång.
Vissa agenter är resultatet av hundratals iterationer av promptar. Alla har samma mål: att hålla sig till uppgiften och tala med en röst som når fram till mänskliga användare.
Våra erfarenheter av att finslipa promptar har fått oss att söka inspiration på kreativa sätt. Vi har börjat låna idéer från andra discipliner. Allt har förstås inte fungerat, och det som har fungerat har sällan gjort det vid första försöket. Utforskandet har lett till att ett nytt paradigm för promptning vuxit fram i vårt team.
Skillnaden mellan en systematiskt fungerande agent och en samtalsmässigt briljant agent är inte enbart teknisk, utan konceptuell. Det handlar om avståndet mellan den värld där prompten har placerat agenten och den verkliga värld av mänsklig kommunikation där agenten verkar.
Den senare präglas av tvetydighet, något människor är väl förtrogna med och välvilliga samtalsparter hanterar gemensamt genom en uppsättning subtila, outtalade samtalsregler. En dåligt rustad agent avslöjar sig direkt.
För att bevara den fjärde väggen, eller Turingillusionen, kan vi förankra våra agenter i dialogens konst med hjälp av insikter från språkvetenskap och kognitiv psykologi.
Språkvetenskapen har en hel verktygslåda för att studera språk i praktiken, däribland samtalsanalys, som undersöker hur människor strukturerar och hanterar samtal från ögonblick till ögonblick. Tillämpat på promptning ger detta ramverk oss ett språk för att se samtal inte som ett utbyte av ord, utan som ett utbyte av handlingar.
Vissa handlingar är praktiska, som att hämta eller lämna information, medan andra är sociala, som att skapa samförstånd eller undvika friktion. Sådana drag sker inom dialogens övergripande struktur och dess faser, som var och en förknippas med förväntade handlingar. Dialoger har inledningar och avslutningar, men också ämnesbyten och förberedelser inför dem – de ibland obekväma ögonblick då en ny riktning antyds, förhandlas och avgörs mellan raderna.
Missförstånd uppstår hela tiden, även när alla har de bästa avsikter. Människor behärskar dialogens konst i varierande grad, men poängen är att den LLM som driver er agent inte levereras med den intuition som även en helt genomsnittlig mänsklig samtalspartner besitter.
Vid sidan av den språkvetenskapliga analysen bidrar kognitiv psykologi med ett kompletterande perspektiv. Den visar hur uppmärksamhet, minne och beslutsfattande faktiskt fungerar – hur människor värderar det som kommer först respektive sist, hur specifika signaler utlöser förutsägbara beteenden och hur begränsningar kan frigöra genom att minska den kognitiva belastningen.
En prompt är inte en neutral behållare för instruktioner. Den är en uppmärksamhetsmiljö. Därför spelar det som står överst roll. Det som står längst ned spelar roll. Det som upprepas spelar roll. När människor får en lista tenderar de att minnas början och slutet bättre än mitten. Psykologer kallar detta seriepositionseffekten: primär- och aktualitetseffekten.
I praktiken ser vi något liknande hos LLM:er. Den första vägledningen sätter ramarna: vem agenten är, vilken roll den spelar och vilken sorts värld den förväntar sig att möta. Avslutande vägledning fungerar ofta som ”det sista den hör”. Om vi placerar våra viktigaste instruktioner där ökar chansen att de följs.
Samtidigt som vi noga överväger var olika instruktioner ska placeras i prompten behöver vi också följa den övergripande formen på den gräns som instruktionerna skapar för agenten.
Instruktioner begränsar agenten genom att minska antalet konkurrerande möjligheter som den måste hantera och krympa det övergripande problemutrymmet. Våra promptar behöver tillräckliga begränsningar för att göra agentens uppgift hanterbar.
När vi instruerar medarbetare, särskilt mindre erfarna sådana, säger psykologin att vi bör undanröja oklarheter i uppgiften och därmed minska den kognitiva belastningen så mycket som möjligt. Begränsningar kan kännas hämmande, men färre beslut frigör oss så att vi kan fokusera på de få viktiga beslut som återstår och vara kreativa när vi agerar inom ramarna.
Att tvärtom försöka ge agenten noll beslut att fatta genom att täcka varje tänkbart specialfall med listor över exempelbeteenden är ett säkert sätt att skapa en stel samtalspartner – för att inte tala om en otymplig Frankenstein-prompt full av om- och annars-villkor som är en mardröm att hantera.
(Few-shot, vi tittar på er.)
En väl avgränsad prompt ger tillräckligt tydlig riktning utan att överbelasta uppdraget och lamslå agenten. Ofta innebär det att införa färre specialfall eller mål för agenten, både för vad den ska eller inte ska säga och hur den ska eller inte ska säga det.
Vår erfarenhet är att om ni tar till Few-shot för att justera gränsen är gränsen inte tillräckligt precis. Gå tillbaka till kärninstruktionerna och finslipa dem.
Ur den kognitiva psykologins perspektiv har vi funderat över var olika instruktioner bör placeras i en prompt och över både mängden och kvaliteten på de instruktioner som krävs för att avgränsa agentens problemutrymme på bästa sätt.
Med våra tidigare språkvetenskapliga iakttagelser om dialogens konst i åtanke kan vi fullborda vårt promptningsparadigm genom att se dialogdrivna instruktioner som en del av agentens bredare uppgiftsgräns.
För kundorienterad AI är dialog alltid den övergripande uppgiften, oavsett om vi erkänner det eller inte. När vi medvetet väljer att behandla dialogen i prompten avsätter vi en del av agentens kapacitet, eller ”kognitiva belastning”, till att uppmärksamma och reagera på dialogen på ett sätt som förbättrar dess samtalsförmåga.
Nackdelen är dock att vi sannolikt måste minska huvuduppgiftens omfattning för att det övergripande problemutrymmet ska förbli hanterbart och väl avgränsat.
För kundorienterad AI utformar vi därför förutsättningarna för bättre dialoger och beslut som en helhet. Vi eftersträvar mindre, väl avgränsade agenter vars huvuduppgift sätts i ett sammanhang som omfattar dialogens övergripande uppgift. Vi skriver inte mängder av instruktioner som finslipas med hjälp av exempel. Vi skriver en mindre uppsättning finslipade instruktioner som är så precisa att exempel blir överflödiga.
Detta är det promptningsparadigm vi använder för att skapa agenter som inte bara håller sig till uppgiften, utan också gör det med samtalsmässig elegans.
När den konceptuella terrängen nu är kartlagd blir nästa blogginlägg mer praktiskt. Vi ska titta på några centrala mönster som vuxit fram när vi genom praktiska försök och misstag har tillämpat dessa principer på promptar. Intressant nog börjar leverantörer av banbrytande modeller återspegla liknande mönster i sina egna råd om promptning. Mer om det nästa gång.