L’Ingénierie des invites se concentre surtout sur l’exactitude et la couverture des instructions. En production, les gains les plus importants viennent du traitement du dialogue lui-même comme principal problème de conception.
La définition d’intentions fondées sur des déclencheurs et des actions indique au modèle comment décider, plutôt que de lui imposer un script auquel il ne peut échapper. La position dans une invite constitue en soi une instruction. L’identité vient d’abord, les nuances comportementales au milieu et les contraintes strictes à la fin; tout élément véritablement essentiel figure aux deux endroits.
Rédiger l’invite dans le ton recherché plutôt que de le décrire est l’un des changements les plus déterminants qui soient.
Les agents les plus cohérents sont ceux dont les invites traitent les différents moments conversationnels comme des interactions distinctes, chacune ayant une forme appropriée, tout en conservant une voix reconnaissable.
Dans certains cas, séparer les agents qui réfléchissent de ceux qui parlent produit des réponses plus cohérentes et mieux ancrées, et empêche le raisonnement interne de transparaître dans les réponses.
Nous avons déjà présenté un nouveau paradigme de conception d’invites fondé sur les connaissances issues de la linguistique et de la psychologie cognitive. Nous avons expliqué l’importance de créer un espace de problèmes clair et bien délimité dans lequel notre agent peut fonctionner, et pourquoi cet espace doit englober la métatâche du dialogue inhérente à l’IA destinée à la clientèle.
Examinons maintenant quelques façons concrètes dont nos invites ont commencé à évoluer pendant que nous cherchions à appliquer ces principes en production.
Après des centaines d’itérations d’invites dans des systèmes en production destinés à la clientèle, les gains les plus importants ne sont pas venus de l’ajout d’instructions ou d’exemples, ni du respect des normes habituelles d’Ingénierie des invites. Ils sont plutôt venus de l’adoption du dialogue comme cœur du problème.
L’exploration et les essais continus ont fait émerger plusieurs techniques efficaces. Nous modifiions une invite, puis observions les réussites et les échecs de la conversation, en remontant jusqu’à l’efficacité des directives, à la structure de l’invite et à notre utilisation du langage. Il en résulte une poignée de modèles reproductibles qui changent la façon dont l’agent interprète son rôle dans la conversation, décide de sa prochaine intervention et maintient une voix cohérente malgré l’évolution du contexte.
Ce qui suit n’est ni un cadre universel ni l’affirmation que la conception d’invites est désormais « résolue ». Il s’agit d’une synthèse, en cinq modèles, de ce qui a résisté à l’épreuve de la production lorsque l’objectif n’était pas seulement l’exactitude fonctionnelle, mais un meilleur dialogue : des réponses assez cohérentes, naturelles et constantes pour incarner une marque.
Bien qu’il existe de nombreuses façons de structurer un système agentique, les flux de travail orchestrés multiagents demeurent populaires. Dans ces systèmes en particulier, l’amélioration la plus constante a été de séparer les agents qui réfléchissent de ceux qui parlent.
L’orchestration des intentions, la classification, l’extraction des connaissances et l’utilisation d’outils sont toutes des opérations internes. Les réponses destinées à la clientèle constituent la partie visible. Lorsque le même agent accomplit les deux tâches dans un même tour, le raisonnement et la logique internes peuvent transparaître dans les réponses. Les réponses deviennent hésitantes ou excessivement nuancées, ou s’articulent autour de la logique du processus plutôt que des besoins de la personne.
Cette seule contrainte accomplit énormément de choses. Elle ancre les réponses dans la conversation réelle, empêche la réinitialisation du contexte et produit quelque chose qui se rapproche de ce que nous appelons « livrer le delta ». En définitive, l’agent n’ajoute que le plus petit élément nouveau qui fait réellement avancer l’utilisateur.
Le choix du type de réponse à donner compte aussi. Nous avons constaté que demander à l’agent qui s’exprime de choisir un type d’intervention avant d’écrire quoi que ce soit — répondre, clarifier, réorienter ou temporiser — réduisait de façon fiable l’échec conversationnel le plus courant : non pas une mauvaise prose, mais une réponse complètement inadaptée.
Il convient de noter que, dans les bonnes conditions, les plus récents modèles de pointe commencent à remettre en question le principe de ce modèle. Néanmoins, pour diverses raisons, de nombreux concepteurs dépendent encore de modèles plus petits ou plus anciens. Dans ces contextes, nous recommandons vivement de séparer les fonctions internes de celles destinées à la clientèle.
Pour les modèles sans raisonnement, les exemples few-shot fonctionnent parce qu’ils sont concrets, rapides et bien assimilés par les modèles. Le problème est le surapprentissage. Donnez un exemple à un modèle et il s’accrochera aux mots, au rythme et à la forme, produisant sans cesse des variantes très proches de la même réponse, même lorsque la situation a changé.
Vous avez involontairement écrit un script auquel le modèle ne peut échapper.
Les intentions de mise en œuvre ou les heuristiques offrent une solution plus durable. Plutôt que de montrer au modèle quoi dire dans des scénarios précis*,* nous lui fournissons une paire plus générale de déclencheur et d’action : si X se produit, faire Y.
La principale différence est qu’au lieu de circonscrire progressivement X et Y, un exemple à la fois, ce qui les rend de plus en plus rigides, nous traçons autour de chacun une limite ferme au moyen d’une instruction si précise qu’elle rend les exemples superflus. L’agent demeure ainsi sensible aux véritables variations conversationnelles plutôt que de chercher à faire correspondre la situation à un gabarit.
En pratique, cela ressemble moins à des exemples qu’à des règles empiriques exécutables :
S’il manque un détail essentiel, posez une seule question de clarification.
Si la réponse n’est pas étayée, dites-le directement et proposez la meilleure prochaine étape possible.
Si la demande se heurte à un garde-fou, refusez brièvement et réorientez sans cérémonie.
Ce n’est pas prestigieux, mais c’est nettement plus robuste qu’une bibliothèque d’exemples de réponses, car le modèle apprend ainsi à décider plutôt qu’à répéter.
La position d’un élément dans une invite détermine le poids qu’il aura. Nous avons observé ce schéma de façon constante dans différents modèles et déploiements. Le début et la fin d’une invite ressortent de manière disproportionnée. Ce qui se trouve au milieu apporte la nuance, exactement là où elle doit être.
Nous structurons nos invites en conséquence. Le rôle et l’identité de l’agent se trouvent en haut, afin d’établir son identité avant toute autre chose. Le milieu contient les détails comportementaux : le déroulement probable de la conversation, les heuristiques qui guident les réponses et l’éventail des situations que l’agent doit gérer. Les contraintes strictes et les éléments non négociables se trouvent en bas, où ils restent « à l’esprit ».
Tout élément véritablement essentiel figure aux deux endroits. Une règle de sortie précise — par exemple, une instruction ferme sur la ponctuation ou la mise en forme — peut facilement être oubliée si elle n’apparaît qu’une fois au milieu d’une invite dense. Répétée à la fin, elle tient bon.
À propos de l’effet de récence, il convient de noter que les sorties structurées, lorsqu’elles sont utilisées, constituent en fait la toute dernière instruction de votre invite. Les champs de description de vos sorties structurées ont une incidence qualitative sur les réponses et forment un contrat de sortie plus contraignant que le reste de l’invite.
Nous avons appris à ne pas utiliser d’exemples few-shot pour le ton non plus, et c’est l’un des changements les plus déterminants que nous ayons apportés à nos agents destinés à la clientèle.
Nous rédigeons plutôt toute l’invite dans le ton recherché. Pas une description de la voix ni une série d’adjectifs qui s’en approchent, mais la voix elle-même, dans un texte suivi, de la première à la dernière ligne. L’invite devient la démonstration. Nous appelons cela l’« anti-effet de script » : guider le modèle pour qu’il imite son entrée, tout en lui permettant d’employer un éventail plus large de mots et de formulations qui restent dans le même registre que l’invite elle-même.
Voilà comment nous suscitons de la variété au sein d’une voix cohérente. Cela s’inscrit dans notre stratégie visant à placer le dialogue au cœur de la tâche de tout agent, sans multiplier les instructions explicites, que nous cherchons à réduire au minimum.
Si nous utilisons des exemples explicites sur le ton, ils illustrent « ce qu’il ne faut pas faire ». Par exemple : « Aucun tiret cadratin. Jamais. Aucun cliché. Aucun déversement de politiques. Aucune explication excessive lorsqu’une seule phrase suffit pour boucler la boucle. » Les contraintes négatives sont à la fois plus précises et moins restrictives que les aspirations positives, car elles nomment les modes d’échec vers lesquels le modèle est le plus susceptible de dériver.
La mise en forme compte aussi et donne le ton à la réponse. Une invite remplie de listes à puces, de titres et d’instructions entre crochets oriente le modèle vers un résultat plus structuré et clinique. Si le résultat doit ressembler à une conversation, l’entrée ne devrait pas avoir l’air d’un document de spécifications abrégées.
La plupart des invites sur le ton se résument à la personnalité. On fournit une série d’adjectifs censés décrire la façon dont l’agent devrait s’exprimer. Chaleureux. Professionnel. Amical, mais concis. Ces adjectifs ne sont pas mauvais, mais ce qui détermine réellement la façon dont une voix est perçue en conversation, c’est le registre : la manière dont une même personnalité se comporte dans des situations sociales différentes.
Un message d’attente pendant le traitement d’une demande ne devrait pas ressembler à une réponse définitive. Une réponse imposée par un garde-fou ne devrait pas avoir la même énergie qu’une conversation légère. Une personne frustrée ne devrait pas recevoir autant de charme ou d’humour qu’une autre qui navigue sans but précis.
Voilà la différence entre la voix de marque et la conception conversationnelle. La voix de marque décrit souvent la personnalité, tandis que la conception conversationnelle détermine comment elle se comporte lorsque les situations changent. Bien faire les choses signifie que nous ne sommes pas seulement des rédacteurs travaillant sur des résultats d’IA. Nous concevons la façon dont une voix évolue au fil d’une conversation.
Vous remarquerez qu’aucun de ces modèles n’est techniquement complexe. C’est en partie le but. L’architecture d’un système agentique compte, mais pour assurer la qualité des conversations, vous devrez consacrer beaucoup de temps à la conception et au peaufinage de vos invites.
L’écart entre une IA purement fonctionnelle et une IA véritablement conversationnelle ne se comble pas par la conception technique, mais par une meilleure compréhension du fonctionnement du langage et de l’attention dans le dialogue humain, ainsi qu’en plaçant le dialogue au cœur de l’espace de problèmes de vos agents.
Pour les équipes de produits d’IA, les ingénieurs et les concepteurs d’expérience, la conception conversationnelle mérite la même rigueur que l’excellence technique dans une IA destinée à la clientèle. Pour les personnes à l’autre bout de ces conversations, il n’y a ni modèle, ni collaboration multiagents, ni appel d’outil — seulement une interaction qui semble juste ou non. Une interaction qui inspire confiance ou qui l’érode.
Au bout du compte, personne ne fait l’expérience de l’architecture. Les gens font l’expérience de la conversation.
La conversation est le produit.