De meeste prompt-engineering richt zich op nauwkeurigheid en volledige instructies. In productie wordt de grootste winst geboekt door de dialoog zelf als het centrale ontwerpprobleem te behandelen.
Door intenties met een trigger en actie vast te leggen, leert het model hoe het moet beslissen, in plaats van een script te krijgen waaraan het niet kan ontsnappen. De positie in een prompt is op zichzelf al een instructie. De identiteit komt eerst, gedragsnuances staan in het midden en harde beperkingen komen als laatste. Alles wat echt cruciaal is, staat op beide plaatsen.
De prompt in de gewenste tone of voice schrijven in plaats van die te beschrijven, is een van de meest impactvolle verbeteringen die je kunt doorvoeren.
De meest samenhangende agents gebruiken prompts die verschillende gespreksmomenten als afzonderlijke interacties behandelen, elk met een passende vorm, terwijl de stem steeds herkenbaar dezelfde blijft.
In sommige gevallen levert het scheiden van denkende en sprekende agents samenhangendere, beter onderbouwde antwoorden op en voorkomt het dat interne redenering in antwoorden doorsijpelt.
Eerder introduceerden we een nieuw promptingparadigma, gebaseerd op inzichten uit de taalkunde en cognitieve psychologie. We schreven over het belang van een duidelijk afgebakend probleemgebied waarin onze agent kan opereren, en over de noodzaak om daarin ook de metataak van dialoog vast te leggen die inherent is aan klantgerichte AI.
Nu bekijken we enkele praktische manieren waarop onze prompts zijn veranderd terwijl we deze principes in productie probeerden toe te passen.
Na honderden promptiteraties in operationele, klantgerichte systemen bleek de grootste winst niet voort te komen uit meer instructies, een opeenstapeling van voorbeelden of de gebruikelijke normen voor prompt-engineering. De winst kwam juist voort uit het centraal stellen van de dialoog.
Door voortdurend te verkennen en testen zijn verschillende effectieve technieken ontstaan. We pasten een prompt aan en bekeken waar het gesprek slaagde of mislukte. Mislukkingen herleidden we tot de effectiviteit van de richtlijnen, de promptstructuur en ons taalgebruik. Het resultaat is een handvol herhaalbare patronen die veranderen hoe de agent zijn rol in het gesprek interpreteert, zijn volgende stap bepaalt en bij wisselende contexten consequent dezelfde stem behoudt.
Wat volgt is geen universeel raamwerk en ook geen bewering dat prompting nu "opgelost" is. Het is een bundeling van vijf patronen die zich in productie hebben bewezen wanneer het doel niet alleen functionele nauwkeurigheid was, maar een betere dialoog: antwoorden die samenhangend, natuurlijk en consistent genoeg aanvoelen om een merk uit te dragen.
Hoewel een agentsysteem op veel manieren kan worden ingericht, blijven georkestreerde workflows met meerdere agents populair. Vooral in zulke systemen boekten we de consistentste verbetering door de agents die denken te scheiden van de agents die spreken.
Intentieorkestratie, classificatie, kennisextractie en toolgebruik zijn allemaal backofficeactiviteiten. Klantgerichte antwoorden behoren tot de frontoffice. Wanneer dezelfde agent beide taken in dezelfde beurt uitvoert, kunnen interne redenering en logica in de antwoorden doorsijpelen. Antwoorden worden dan terughoudend, bevatten te veel voorbehouden of volgen eerder de logica van het proces dan de behoeften van de persoon.
Die ene beperking doet verrassend veel. Ze houdt antwoorden verankerd in het daadwerkelijke gesprek, voorkomt dat de context opnieuw wordt ingesteld en levert iets op dat dichter ligt bij wat wij "alleen het verschil leveren" noemen. Uiteindelijk voegt de agent slechts het kleinste nieuwe element toe dat de gebruiker echt verder helpt.
Ook de keuze voor het type antwoord is belangrijk. We ontdekten dat de meest voorkomende gespreksfout aantoonbaar afnam wanneer we de sprekende agent vroegen om vóór het schrijven een type gesprekszet te kiezen: antwoorden, verduidelijken, doorverwijzen of wachten. Die fout was geen slecht proza, maar een volkomen verkeerd antwoord.
Het is goed om te vermelden dat de nieuwste grensverleggende modellen onder de juiste omstandigheden de premisse van dit patroon ter discussie beginnen te stellen. Toch vertrouwen veel ontwikkelaars om uiteenlopende redenen nog op kleinere of oudere modellen. In die situaties raden we beslist aan om backoffice- en frontofficetaken van elkaar te scheiden.
Bij modellen zonder redenering werken few-shotvoorbeelden omdat ze concreet en snel zijn en modellen er goed op reageren. Het probleem is overfitting. Geef een model een voorbeeld en het klampt zich vast aan de woorden, het ritme en de vorm. Zelfs wanneer de situatie verandert, blijft het sterk gelijkende varianten van hetzelfde antwoord produceren.
Je hebt onbedoeld een script geschreven waaraan het model niet kan ontsnappen.
Implementatie-intenties of heuristieken vormen een duurzamer alternatief. In plaats van het model te laten zien wat het in specifieke scenario's moet zeggen, geven we een breder paar van trigger en actie: als X gebeurt, doe Y.
Het belangrijkste verschil is dat we X en Y niet met elk voorbeeld steeds verder afbakenen en daarmee steeds rigider maken. In plaats daarvan trekken we rond beide een duidelijke grens met een instructie die zo precies is dat voorbeelden overbodig worden. Zo blijft de agent reageren op echte variatie in gesprekken, in plaats van patronen te zoeken die bij een sjabloon passen.
In de praktijk lijken die minder op voorbeelden en meer op direct toepasbare vuistregels:
Als een belangrijk detail ontbreekt, stel dan één verduidelijkende vraag.
Als het antwoord niet kan worden onderbouwd, zeg dat dan rechtstreeks en bied de best beschikbare vervolgstap.
Als het verzoek tegen een veiligheidsgrens aanloopt, wijs het dan kort af en stuur zonder omhaal bij.
Het klinkt misschien niet spectaculair, maar is aanzienlijk robuuster dan een bibliotheek met voorbeeldantwoorden, omdat het model leert hoe het moet beslissen in plaats van wat het moet herhalen.
De plaats van iets in een prompt bepaalt hoeveel gewicht het krijgt. Dit patroon zien we consequent terug bij verschillende modellen en implementaties. Het begin en einde van een prompt vallen onevenredig sterk op. In het midden staat de nuance, en dat is precies waar nuance thuishoort.
Met dat uitgangspunt structureren we onze prompts. De rol en het zelfbeeld van de agent staan bovenaan, zodat we vóór alles de identiteit vastleggen. Het midden bevat de gedragsdetails: hoe het gesprek waarschijnlijk verloopt, welke heuristieken de antwoorden sturen en met welke situaties de agent moet kunnen omgaan. Harde beperkingen en niet-onderhandelbare regels staan onderaan, zodat ze "direct in beeld" blijven.
Alles wat echt cruciaal is, zetten we op beide plaatsen. Een specifieke outputregel, zoals een strikte instructie over interpunctie of opmaak, raakt gemakkelijk verloren als die maar één keer midden in een volle prompt staat. Herhaal je die regel aan het einde, dan blijft hij overeind.
Wat het belang van plaatsing aan het einde betreft, is het goed om te beseffen dat gestructureerde output, wanneer die wordt gebruikt, feitelijk de allerlaatste instructie in je prompt vormt. Beschrijvingsvelden in je gestructureerde output hebben een kwalitatieve invloed op antwoorden en vormen een sterker outputcontract dan de rest van de prompt.
We hebben geleerd om ook voor de tone of voice geen few-shotvoorbeelden te gebruiken. Dat is een van de meest impactvolle wijzigingen die we voor onze klantgerichte agents hebben doorgevoerd.
In plaats daarvan schrijven we de volledige prompt in de gewenste tone of voice. Geen beschrijving van die stem, geen reeks bijvoeglijke naamwoorden die haar bij benadering omschrijven, maar de stem zelf, in volwaardige prozavorm, van de eerste tot de laatste regel. De prompt wordt de demonstratie. We noemen dit "anti-scriptmatigheid": het model aansturen om de stijl van de input na te bootsen en het tegelijk een breder scala aan woorden en formuleringen te laten gebruiken die in dezelfde "hoek" liggen als de prompt zelf.
Zo sturen we met prompts aan op variatie binnen een samenhangende tone of voice. Dit maakt deel uit van onze strategie om de dialoog centraal te stellen in de taak van elke agent, zonder daar expliciete instructies aan te hoeven besteden. Die proberen we immers tot een minimum te beperken.
Als we expliciete voorbeelden voor de tone of voice gebruiken, laten die zien "wat je niet moet doen". Bijvoorbeeld: "No em dashes. Ever. No clichés. No policy dumping. No over-explanation when a single sentence will close the loop." Negatieve beperkingen zijn zowel preciezer als minder beperkend dan positieve ambities, omdat ze de valkuilen benoemen waar het model het waarschijnlijkst in terechtkomt.
Ook de opmaak is hier belangrijk en bepaalt mede de toon van een antwoord. Een prompt vol opsommingstekens, koppen en instructies tussen haakjes stuurt het model richting een meer geordende, klinische output. Als de output als een gesprek moet aanvoelen, mag de input er niet uitzien als een beknopt specificatiedocument.
De meeste prompts voor tone of voice vervallen in persoonlijkheidskenmerken. Ze geven een reeks bijvoeglijke naamwoorden die moeten beschrijven hoe de agent hoort te klinken. Warm. Professional. Friendly but concise. Daar is niets mis mee, maar hoe een stem in een gesprek daadwerkelijk overkomt, wordt bepaald door het register: hoe hetzelfde onderliggende karakter zich in verschillende sociale situaties gedraagt.
Een wachtbericht tijdens de verwerking van een vraag mag niet klinken als een definitief antwoord. Een antwoord dat een veiligheidsgrens bewaakt, mag niet dezelfde energie uitstralen als een informeel praatje. Een gefrustreerde klant moet niet met dezelfde dosis charme of humor worden benaderd als iemand die vrijblijvend rondkijkt.
Dat is het verschil tussen merkstem en conversatieontwerp. Een merkstem beschrijft vaak het karakter, terwijl conversatieontwerp bepaalt hoe dat karakter zich gedraagt wanneer de situatie verandert. Als we dit goed doen, zijn we niet slechts copywriters die aan AI-output werken. We ontwerpen hoe een stem zich door een gesprek beweegt.
Het zal je opvallen dat geen van deze patronen technisch ingewikkeld is. Dat is deels juist de bedoeling. De architectuur van een agentsysteem is belangrijk, maar voor de kwaliteit van gesprekken moet je veel tijd besteden aan het ontwerpen en verfijnen van je prompts.
De kloof tussen puur functionele en werkelijk conversationele AI wordt niet met technisch ontwerp gedicht, maar met een beter begrip van de werking van taal en aandacht in menselijke dialogen en door de dialoog centraal te stellen in het probleemgebied van je agents.
Voor AI-productteams, engineers en ervaringsontwerpers verdient conversatieontwerp bij klantgerichte AI dezelfde grondigheid als technische uitmuntendheid. Voor de mensen aan de andere kant van deze gesprekken bestaan er geen modellen, samenwerking tussen meerdere agents of toolaanroepen. Er is alleen een interactie die goed aanvoelt of niet. Een interactie die vertrouwen opbouwt of juist ondermijnt.
Uiteindelijk ervaart niemand de architectuur. Mensen ervaren het gesprek.
Het gesprek is het product.