L’IA destinée aux clients représente votre marque et exige un savoir-faire radicalement différent de celui des outils internes.
La différence entre un agent fonctionnel et un agent convaincant est davantage conceptuelle que technique, car la plupart des prompts sont rédigés comme des séries d’instructions, et non comme des modèles de dialogue.
La linguistique et la psychologie cognitive offrent un meilleur cadre de réflexion : les conversations ont une structure, et les prompts créent un environnement attentionnel. Ce que vous placez en premier, ce que vous répétez et la façon dont vous concluez façonnent de manière fiable le comportement de l’agent.
Les contraintes sont utiles, mais seulement lorsqu’elles sont précises. Un trop grand nombre de cas limites produit des interactions guindées et des prompts difficiles à manier ; réduire le nombre de décisions à prendre permet donc de se concentrer sur les plus importantes.
Créer une IA conversationnelle destinée aux clients est intimidant pour une entreprise.
Même pour les entreprises qui adoptent cette technologie avec enthousiasme, qui ont intégré la collaboration avec l’IA au niveau de chaque employé et peut-être même développé des outils d’IA sur mesure à usage interne, promouvoir l’IA au rang d’interface entre leur activité et le monde est une tout autre affaire.
Et il s’agit bien d’une promotion. Lorsque l’IA entre en contact avec les clients, elle passe du statut de stagiaire appliqué à celui d’employé officiellement reconnu : elle revêt l’uniforme et représente la marque aux yeux des clients.
Les enjeux sont considérables. Chaque faux pas est désormais public et potentiellement enregistré.
Les produits que nous créons sont souvent des systèmes multi-agents aux interactions complexes à l’échelle de l’entreprise. Cette logique peut toutefois être la partie la plus simple. Le plus grand défi consiste à convaincre les utilisateurs qu’ils parlent au même agent tout au long de l’échange et que ce qu’il leur dit est pertinent.
Nous écrivons et réécrivons donc les prompts, encore et encore.
Certains agents sont le fruit de centaines d’itérations de prompts. Tous poursuivent le même objectif : rester concentrés sur leur tâche et s’exprimer d’une voix qui trouve un écho auprès des utilisateurs humains.
Notre expérience du processus d’amélioration des prompts nous a incités à chercher l’inspiration de manière créative. Nous avons commencé à emprunter des idées à d’autres disciplines. Bien sûr, tout n’a pas fonctionné, et ce qui a fonctionné a rarement abouti dès la première tentative. Ces efforts exploratoires ont fait émerger au sein de notre équipe un paradigme de prompting différent.
L’écart entre un agent méthodiquement fonctionnel et un agent brillant dans la conversation n’est pas purement technique : il est conceptuel. C’est la distance entre le monde dans lequel votre prompt a placé l’agent et le monde réel de la communication humaine dans lequel celui-ci évolue.
Ce dernier se caractérise par son ambiguïté, à laquelle les humains sont bien accoutumés et dans laquelle les interlocuteurs de bonne foi évoluent de manière coopérative grâce à un ensemble de règles discursives subtiles et tacites. Un agent mal préparé se remarque immédiatement.
Pour préserver le quatrième mur, ou l’illusion de Turing, nous pouvons ancrer nos agents dans l’art du dialogue en nous appuyant sur les enseignements de la linguistique et de la psychologie cognitive.
La linguistique dispose de toute une boîte à outils pour étudier le langage en action, notamment l’analyse conversationnelle, qui examine comment les personnes structurent et gèrent les conversations à chaque instant. Appliqué au prompting, ce cadre nous donne le vocabulaire nécessaire pour envisager la conversation non comme un échange de mots, mais comme un échange d’actions.
Certaines actions sont pratiques, comme obtenir ou transmettre des informations, tandis que d’autres sont sociales, comme entretenir une bonne relation ou éviter les frictions. Ces mouvements s’inscrivent dans la structure plus large du dialogue et de ses différentes phases, chacune associée à des actions attendues. Les dialogues comportent une ouverture et une clôture, mais aussi des changements de sujet et même des pré-transitions : ces moments parfois gênants où une nouvelle direction est subtilement proposée, négociée et décidée entre les lignes.
Les malentendus sont fréquents, même lorsque toutes les parties sont animées des meilleures intentions. Si chacun maîtrise l’art du dialogue à des degrés divers, il faut surtout retenir que le LLM qui sous-tend votre agent n’est pas doté d’emblée de l’intuition que possède même un interlocuteur humain tout à fait ordinaire.
Parallèlement à l’analyse linguistique, la psychologie cognitive apporte un éclairage complémentaire. Elle nous explique le fonctionnement réel de l’attention, de la mémoire et de la prise de décision : l’importance accordée aux premiers éléments par rapport aux derniers, la façon dont certains déclencheurs produisent un comportement fiable et la manière dont les contraintes peuvent libérer en réduisant la charge cognitive.
Un prompt n’est pas un contenant neutre pour des instructions. C’est un environnement attentionnel. Ce qui figure en haut a donc de l’importance. Ce qui figure en bas a de l’importance. Ce qui est répété a de l’importance. Face à une liste, les personnes ont tendance à se souvenir plus facilement du début et de la fin que du milieu. Les psychologues appellent cela l’effet de position sérielle : primauté et récence.
Dans la pratique, nous observons un phénomène similaire avec les LLM. Les premières consignes établissent le cadre : qui est l’agent, quel rôle il joue et à quel type de monde il s’attend. Les dernières consignes agissent souvent comme « la dernière chose qu’il entend ». Si nous y plaçons nos instructions les plus importantes, elles ont davantage de chances d’être appliquées.
Tout en réfléchissant soigneusement à l’emplacement des différentes instructions dans notre prompt, nous devons également suivre la forme générale des limites qu’elles créent pour notre agent.
Les instructions imposent des contraintes à notre agent, réduisant le nombre de possibilités concurrentes qu’il doit départager et restreignant l’espace global du problème. Nos prompts doivent imposer suffisamment de contraintes pour rendre la tâche de l’agent gérable.
Lorsque nous donnons des instructions à des employés, surtout aux moins expérimentés, la psychologie nous enseigne qu’il est judicieux de lever toute ambiguïté sur la tâche afin de réduire autant que possible la charge cognitive. Les contraintes peuvent nous sembler limiter la liberté, mais avoir moins de décisions à prendre nous permet de nous concentrer sur les quelques décisions importantes qui subsistent et de faire preuve de créativité dans l’exécution de nos actions à l’intérieur de ces limites.
À l’inverse, tenter de ne laisser aucune décision à notre agent en couvrant tous les cas limites imaginables avec des listes de comportements types est un excellent moyen de créer un interlocuteur guindé, sans parler d’un prompt de Frankenstein, lourd et truffé de conditions, qui devient un cauchemar à gérer.
(Le few-shot, c’est bien de vous que nous parlons.)
Un prompt aux limites bien définies fournit une orientation suffisamment claire sans surcharger les consignes ni paralyser l’agent. Cela implique souvent d’introduire moins de cas limites ou d’objectifs pour l’agent, tant sur ce qu’il doit ou non dire que sur la manière dont il doit ou non le dire.
D’après notre expérience, si vous recourez au few-shot pour ajuster vos limites, c’est qu’elles manquent de précision. Revenez aux instructions essentielles et affinez-les.
Du point de vue de la psychologie cognitive, nous avons réfléchi à l’emplacement des différentes instructions dans un prompt, ainsi qu’à la quantité et à la qualité des consignes nécessaires pour délimiter au mieux l’espace du problème de notre agent.
En reprenant nos observations précédentes sur l’art du dialogue du point de vue linguistique, nous pouvons compléter notre paradigme de prompting en intégrant les instructions axées sur le dialogue aux limites plus larges de la tâche de notre agent.
Pour une IA destinée aux clients, le dialogue constitue toujours la méta-tâche, que nous le reconnaissions ou non. Lorsque nous choisissons d’aborder délibérément le dialogue dans notre prompt, nous consacrons une partie des capacités, ou de la « charge cognitive », de notre agent à la compréhension du dialogue et à la réactivité, de façon à améliorer son aptitude à converser.
En contrepartie, nous devrons probablement réduire l’ampleur de la tâche principale afin de conserver un espace de problème globalement gérable et bien délimité.
Pour une IA destinée aux clients, nous concevons donc les conditions propices à de meilleurs dialogues et à de meilleures décisions dans leur ensemble. Nous privilégions des agents plus petits, aux limites bien définies, dont la tâche principale est contextualisée dans la méta-tâche du dialogue ou l’inclut. Nous n’écrivons pas des piles d’instructions que nous affinons à l’aide d’exemples. Nous rédigeons un ensemble plus restreint d’instructions affinées, suffisamment précises pour rendre les exemples superflus.
C’est le paradigme de prompting que nous utilisons pour créer des agents qui restent concentrés sur leur tâche tout en faisant preuve d’élégance dans la conversation.
Maintenant que le paysage conceptuel est cartographié, notre prochain article de blog sera plus pratique. Nous examinerons quelques schémas clés qui se sont dégagés de nos efforts pour appliquer ces principes aux prompts par essais et erreurs dans des situations réelles. Fait intéressant, les fournisseurs de modèles de pointe commencent à intégrer des schémas similaires dans leurs propres recommandations de prompting. Nous en dirons plus la prochaine fois.