Nous avons tous vécu des interactions décevantes avec l’IA ou connaissons des gens qui « détestent les robots conversationnels », souvent parce que l’expérience « de base » n’est ni utile, ni précieuse, ni agréable. Cette déception tient souvent moins aux capacités d’un modèle qu’à l’expérience elle-même : l’interaction entre les personnes, un agent d’IA et le résultat souhaité. C’est un obstacle important à l’adoption, surtout en entreprise, où des interactions mal conçues peuvent accabler les utilisateurs, ignorer le contexte en temps réel ou négliger leur intention et leur comportement.
Dans cette optique, nous avons relevé les avantages de chaque modèle, les défis de conception connexes et des conseils pratiques pour l’appliquer. Ces modèles s’appliquent à divers types et modes d’interaction, ouvrant des possibilités pour les expériences grand public comme pour les solutions d’IA internes qui aident les travailleurs du savoir à mieux décider.
Nous souhaitons présenter les modèles émergents que nous observons en créant et en expérimentant de nombreuses solutions d’IA générative, afin d’améliorer la conception des relations humain-IA.
Bon nombre de nos interactions avec la technologie, comme travailleurs du savoir ou consommateurs, compliquent inutilement les tâches quotidiennes. Elles limitent notre productivité, notre efficacité et la valeur créée.
Les travailleurs du savoir comme les consommateurs peuvent se sentir dépassés par le volume considérable d’information, de choix et d’outils accessibles. Ce bombardement constant de messages souvent contradictoires complique la prise de décisions claires et le maintien de la concentration. Des recherches indiquent que les employés consacrent jusqu’à 40 % de leur journée de travail à chercher l’information dont ils ont besoin (McKinsey). Cette surcharge d’information nuit à la productivité comme au bien-être.
Notre capacité d’attention est aussi limitée. Même lorsque nous trouvons l’information, nous ne pouvons traiter ou analyser tout ce qui est nécessaire pour prendre une décision éclairée. Nous ne pouvons nous concentrer que sur une petite partie des données disponibles à un moment donné et nous accrochons souvent à des croyances ou idées qui limitent notre capacité à envisager d’autres options ou à repérer des tendances inattendues.
Les outils eux-mêmes ne tiennent souvent pas compte de ces limites. La plupart des technologies sont conçues pour la « moyenne » : des solutions universelles qui ne s’adaptent pas aux contextes individuels. Qu’il s’agisse de logiciels professionnels ou d’applications grand public, ces outils tiennent rarement compte de nos besoins, de nos contraintes ou de notre situation particulière. La technologie peut donc devenir inefficace ou contre-productive. L’IA générative permet de créer des interactions plus adaptatives et personnelles.
Enfin, de nombreux milieux de travail créent une souffrance inutile. Le volume croissant de « travail improductif », la pression d’être « toujours disponible » et les tâches répétitives à faible valeur contribuent au désengagement et au stress chronique. Même si l’IA générative et les agents d’IA pourraient réduire ou éliminer ces expériences, beaucoup de gens doutent encore de la capacité de l’IA à améliorer globalement le travail. Les gens peuvent résister à l’idée que « l’IA prenne le contrôle », par crainte d’être remplacés ou parce qu’ils tiennent à leur travail, même aux tâches qu’ils n’aiment pas.
L’application de l’IA ne constitue pas à elle seule une solution. Une IA mal intégrée peut créer de nouvelles tâches et inquiétudes, particulièrement chez les travailleurs du savoir. Ces défis montrent la nécessité d’interactions humain-IA qui soient non seulement efficaces, mais aussi adaptées à nos capacités cognitives, à nos situations individuelles et aux contraintes réelles. Les six modèles ci-dessous présentent des approches qui reconnaissent les besoins humains et favorisent une relation avec l’IA plus adaptative, transparente et significative.
La relation entre les nouveaux modèles de conception et les principes d’expériences d’IA efficaces et centrées sur l’humain.
Curation : l’IA comme menu intelligent — L’IA trie et organise l’information, réduisant la surcharge en aidant les gens à parcourir de vastes ensembles de données.
Donner de la rétroaction : l’IA comme partenaire de réflexion — L’IA fournit en temps réel une rétroaction stimulante qui remet en question les hypothèses et propose d’autres perspectives.
Conscience situationnelle : une IA qui comprend l’ici et maintenant — L’IA s’adapte au contexte en temps réel en traitant continuellement l’information environnementale et les besoins des utilisateurs.
Découverte continue : faire de chaque interaction une recherche utilisateur — L’IA exploite chaque interaction pour dégager des constats et affiner sa compréhension, favorisant un apprentissage et une amélioration continus.
Amplification : enrichir les saisies pour de meilleurs résultats — L’IA améliore les saisies en coulisses tout en préservant l’intention initiale des utilisateurs.
Montrer la démarche : un raisonnement transparent de l’IA — L’IA rend son processus décisionnel visible et utile, ce qui favorise la confiance et aide les utilisateurs à prendre des décisions plus éclairées.
Ces six modèles montrent que des solutions d’IA efficaces exigent plus qu’une interface utilisateur bien conçue. Ils déterminent comment les personnes et les agents d’IA se coordonnent, prennent des décisions et interagissent au sein de systèmes de connaissances complexes. Ces modèles améliorent l’interaction humain-IA des façons suivantes :
Prioriser l’échange bidirectionnel de connaissances : Permettre un dialogue où l’IA et les personnes apportent des idées, du contexte et des perspectives. Cela favorise des systèmes d’IA plus performants, éclairés par des connaissances spécialisées et une intuition qui ne sont pas encore codifiées.
Créer des expériences qui s’adaptent aux circonstances : Les outils d’IA peuvent rapidement devenir désuets ou non pertinents. Les systèmes qui maintiennent une conscience situationnelle, apprennent continuellement et s’adaptent à la situation de chaque utilisateur restent utiles au fil du temps.
Renforcer la confiance : Des interactions transparentes et collaboratives réduisent les obstacles à l’adoption, stimulent l’engagement et améliorent les décisions humaines comme celles de l’IA. Une conception réfléchie aide les gens à conserver leur confiance envers les décisions et les résultats d’un système au fil du temps.
La conception d’expériences d’IA efficaces est difficile, mais des approches éprouvées peuvent aider. Les principes fondamentaux de compréhension des utilisateurs et de création d’expériences utiles s’appliquent toujours, parallèlement aux nouvelles considérations qu’introduisent les systèmes d’IA dotés d’autonomie. Les expériences qui organisent efficacement l’information, fournissent une rétroaction utile et apprennent de façon transparente peuvent réduire la surcharge, améliorer les décisions et renforcer la confiance.
Ces modèles aident à surmonter les obstacles courants à l’adoption et rendent l’IA réellement utile, adaptable et plus précieuse pour toutes les personnes concernées.
Le guide ci-dessous examine chaque modèle plus en détail et explique comment il peut soutenir une expérience d’IA plus vaste.
Définition : Au lieu de parcourir manuellement d’innombrables résultats de recherche ou documents, les agents d’IA peuvent trier l’information issue de vastes ensembles de données et présenter les éléments les plus pertinents. Essentiellement, l’IA devient bibliothécaire et organise les connaissances selon le contexte de l’utilisateur.
Utilité : Réduire la surcharge d’information. En moyenne, les travailleurs du savoir passent 1,8 heure par jour à chercher de l’information, ce qui contribue à l’épuisement professionnel de nombreux employés (McKinsey). La curation pilotée par l’IA répond à ce problème en indexant, trouvant et combinant l’information provenant de nombreuses sources, ce qui aide les utilisateurs à découvrir de l’information, des options et des perspectives qu’une recherche classique pourrait leur faire manquer.
Défi : Passer d’une recherche classique fondée sur une interface à une approche assistée par un agent exige que les utilisateurs adaptent leurs attentes. Les gens ont l’habitude de consulter une liste de liens ou d’appuyer sur des boutons pour filtrer un ensemble de données. À l’inverse, un curateur d’IA synthétise des réponses à partir de sources dont les utilisateurs ignorent peut-être l’existence. Cela peut réduire le sentiment de contrôle des utilisateurs sur le filtrage et les obliger à faire confiance aux choix de l’agent. Des mécanismes de recherche familiers peuvent aider les gens à s’adapter à la curation pilotée par l’IA sans perdre confiance ni contrôle.
Comment OpenAI utilise des modes d’interaction familiers pour faciliter la découverte d’information structurée et non structurée.
Présenter les mécanismes de recherche comme des interactions familières :
Pour faciliter la transition depuis la recherche classique, proposez des interactions familières plutôt que des pages vierges. Les utilisateurs seront plus à l’aise si l’expérience repose sur des options, des questionnaires et des suggestions contextuelles reconnaissables.
Utiliser des boutons comme invites plutôt que d’exiger une saisie libre :
La saisie de texte libre peut sembler intimidante ou chronophage. Des boutons prédéfinis ou générés automatiquement rendent la curation plus accessible. Par exemple, « Filtrer par date la plus récente », « Comparer les prix » et « Inclure les sources mondiales » peuvent aider les utilisateurs à affiner les résultats. Cela facilite la participation, encourage l’exploration et adapte les recommandations de l’IA à l’intention de l’utilisateur.
Laisser les utilisateurs raconter leur histoire pour affiner les résultats :
Parfois, un récit communique les besoins d’un utilisateur plus efficacement que des requêtes directes ou des filtres. Dans des situations complexes, comme parcourir des tableaux de bord denses ou chercher le bon produit, les outils classiques peuvent sembler accablants et les paramètres à modifier, incertains.
Lorsque les utilisateurs peuvent « raconter leur histoire » — décrire un irritant, un objectif personnel ou le produit souhaité — l’IA peut convertir ce récit en paramètres de recherche structurés. Par exemple, une personne qui dit : « Je viens d’emménager dans une maison plus petite et j’ai besoin de solutions de rangement polyvalentes et abordables » pourrait recevoir une sélection de produits, des conseils pratiques et des recommandations pertinentes.
En misant sur le récit, vous réduisez l’effort mental nécessaire pour choisir les filtres et favorisez aussi la confiance et la clarté des résultats finaux.
Utiliser des mèmes et des références culturelles pour personnaliser la découverte :
Les mèmes peuvent faciliter la curation par l’IA de deux façons : ils enrichissent la compréhension que l’agent a de l’utilisateur et rendent les résultats plus vivants, humains et accessibles. D’abord, en choisissant ou en citant des mèmes qui illustrent leurs objectifs, leur humeur ou leur style (« Aujourd’hui, je suis dans l’ambiance “Gâte-toi” ! »), les utilisateurs communiquent leur « théorie de l’esprit » à l’IA. Cela aide l’agent à affiner sa curation en déduisant un contexte qui pourrait se perdre dans une interface graphique classique ou une requête textuelle.
Ensuite, l’agent peut « rejouer » les résultats sous forme de « trousses de départ » thématiques ou inspirées de la culture populaire, ce qui rend ses recommandations plus pertinentes et personnalisées. Par exemple, si une personne réaménage son bureau à domicile, l’IA pourrait créer une « trousse de départ pour le télétravail » combinant accessoires de bureau, technologie et inspiration.
Clarifier la suite pour l’utilisateur grâce aux meilleures prochaines actions :
Que les résultats d’un agent d’IA soient justes ou non, les utilisateurs devraient pouvoir affiner facilement les paramètres. Par exemple, ils pourraient demander : « Montre-moi d’autres résultats semblables à l’article 2 » ou « Exclus les sources antérieures à 2020 ». Des suggestions d’actions suivantes peuvent guider les nouveaux utilisateurs sans les accabler.
Définition : Les agents d’IA sont souvent présentés comme un moyen de déléguer un travail traditionnellement humain. Leur capacité à agir comme collaborateurs en temps réel reçoit moins d’attention. Plutôt que de simplement suivre des instructions ou générer du contenu, un agent peut poser des questions stimulantes, remettre en question les hypothèses et proposer d’autres perspectives. L’IA devient ainsi un partenaire de réflexion qui aide les utilisateurs à améliorer leur travail en cours de réalisation.
Utilité : Nous bénéficions tous d’une rétroaction opportune, mais nous n’en recevons pas toujours. La contestation comme l’appui peuvent nous aider à repérer des tendances avant de trop nous attacher à une idée. Les agents d’IA peuvent remettre en question nos hypothèses, générer des idées et suggérer d’autres interprétations des données sans remplacer le jugement humain. Nous avons constaté que les gens réagissent souvent bien à ce type de rétroaction agentique.
Les agents d’IA peuvent générer des contre-arguments qui révèlent les lacunes du raisonnement ou mettent en lumière d’autres perspectives.
Défi : La rétroaction de l’IA doit être intuitive et exploitable, sinon elle devient une distraction. Personne ne souhaite qu’un agent interrompe son travail avec des suggestions non pertinentes ou critique chaque détail. L’IA devrait intervenir au bon moment et sur le bon ton. Si elle est trop passive, des occasions utiles sont perdues; si elle est trop insistante, les utilisateurs peuvent se sentir constamment remis en question.
Le défi est de choisir comment présenter la rétroaction de l’IA : sous forme d’indices, de révision facultative ou de dialogue bidirectionnel? La qualité de l’interaction déterminera si les utilisateurs adoptent l’IA comme partenaire ou n’y voient qu’un Clippy 2.0.
Veiller à ce que la rétroaction soit proactive sans être agaçante :
Laissez l’IA proposer des suggestions aux points d’arrêt naturels. Dans un éditeur de documents, par exemple, elle pourrait attendre qu’une phrase ou un paragraphe soit terminé avant de suggérer une révision. Nous avons aussi envisagé de laisser un agent attendre brièvement après la sélection d’un champ de texte vide avant d’offrir son aide. Le ton compte : « Voici une idée à considérer… » semble plus constructif qu’une affirmation catégorique.
Transformer la rétroaction en dialogue exploratoire :
Si la rétroaction manque de clarté, permettez aux utilisateurs de poser facilement des questions comme : « Pourquoi suggères-tu de modifier ceci? » Une personnalité d’IA curieuse peut rendre l’échange plus constructif. Comme un thérapeute ou un animateur attentionné, l’agent peut poser des questions pertinentes au bon moment et transformer la rétroaction en conversation propice à l’apprentissage.
Cela aide aussi l’IA à recueillir du contexte, ce qui permet à l’utilisateur et à l’agent d’acquérir une compréhension commune plus claire.
Proposer plusieurs options, idées ou solutions de rechange :
Au lieu de proposer une seule idée, solution ou remise en question, un agent peut présenter plusieurs perspectives. Par exemple, un agent de conception pourrait générer trois mises en page, tandis qu’un agent de rédaction suggérerait différentes versions d’une phrase selon le public. Offrir des options confirme que l’utilisateur conserve le contrôle.
Veiller à ce que la rétroaction tienne compte du contexte :
L’agent devrait adapter son rôle de « partenaire de réflexion » au contexte actuel de l’utilisateur. Si une personne s’arrête à une question ou à un champ de texte, l’IA pourrait poser une question stimulante plutôt que de fournir immédiatement une réponse complète. Lorsqu’un utilisateur veut seulement reformuler une phrase, une suggestion concise qu’il peut accepter ou refuser l’aide à préserver son sentiment d’appropriation.
Surtout, l’IA doit savoir quand se retirer : des échanges trop longs peuvent créer une « boucle infernale » de modifications sans fin et miner la confiance de l’utilisateur. En restant attentive au contexte et aux actions de l’utilisateur, l’IA peut adapter sa rétroaction pour être réellement utile sans outrepasser son rôle.
Définition : La conscience situationnelle est la capacité d’un agent à interpréter en temps réel l’information contextuelle et à adapter son comportement en conséquence. Au lieu de s’appuyer uniquement sur des données prédéterminées, les agents d’IA peuvent traiter continuellement l’information sur l’environnement, l’état actuel de l’utilisateur et d’autres conditions pertinentes.
Cela peut signifier adapter une interface aux besoins immédiats de l’utilisateur ou interpréter les conditions actuelles du marché pour rendre les réponses plus pertinentes.
Utilité : Le monde réel n’est pas statique. Les systèmes d’IA dotés d’une conscience situationnelle peuvent être plus utiles, car ils réagissent aux conditions actuelles. Lorsqu’un agent comprend le contexte pertinent, les interactions semblent plus naturelles, personnalisées et ancrées dans la réalité.
Défi : Il est difficile de créer une IA véritablement consciente de la situation. L’accès aux données nécessaires et leur intégration peuvent entraîner une grande complexité technique.
La frontière est mince entre une conscience contextuelle utile et une intrusion excessive. Les utilisateurs apprécient un agent qui « comprend », mais peuvent être mal à l’aise s’il demande trop d’information ou semble trop insistant. Comme les circonstances peuvent changer rapidement, l’expertise et le jugement humains demeurent essentiels.
Un système d’IA efficace a donc besoin de l’apport des utilisateurs pour maintenir une compréhension utile et actuelle de leur situation.
Montrer aux utilisateurs à quoi ressemble un bon contexte :
Les modèles de raisonnement comme OpenAI o1 ont changé la façon dont les gens fournissent du contexte aux grands modèles de langage. Quel que soit le modèle, un contexte détaillé favorise des réponses plus pertinentes. Des exemples clairs, du texte indicatif et des conseils extensibles peuvent montrer aux utilisateurs quelle information fournir et leur expliquer son importance.
Montrer explicitement à l’utilisateur à quoi ressemble un « bon contexte » peut éliminer l’incertitude qui l’empêche de préciser des détails significatifs.
Faciliter la définition des limites de l’agent :
Les besoins immédiats d’un utilisateur sont importants, mais pas toujours évidents. Un agent doté d’une conscience situationnelle peut collaborer avec l’utilisateur pour définir les sujets, les domaines et les outils à explorer. La recherche approfondie dans ChatGPT soutient cette approche en posant des questions de clarification avant d’entreprendre une tâche de recherche.
Présenter le contexte pour permettre des modifications et des ajouts rapides :
Les utilisateurs peuvent avoir besoin d’un aperçu de ce que l’IA suppose actuellement au sujet de leurs objectifs, de leurs priorités et de leurs sources de données. Un panneau dédié peut expliquer la date limite de ses connaissances, ses hypothèses actuelles et les données pertinentes. Une icône pourrait signaler l’utilisation de données de localisation, tandis qu’un résumé pourrait indiquer le nombre de dossiers ayant contribué à une observation.
Il est utile de voir ce que l’IA « sait » et de pouvoir ajouter, supprimer ou actualiser facilement le contexte pertinent.
Laisser l’IA sélectionner les fonctions d’interface selon leur utilité :
Les agents d’IA peuvent activer ou désactiver certaines capacités en fonction d’indices situationnels. Lorsqu’une personne rédige un livre blanc, un agent pourrait activer des outils de citation avancés; lorsqu’elle révise des notes de présentation, il pourrait mettre en évidence les fonctions de révision. Cela favorise des expériences ciblées sans obliger les utilisateurs à gérer manuellement chaque réglage.
Définition : La conception d’expériences et le développement de produits traitent souvent la recherche utilisateur comme une phase distincte au début d’un projet ou à intervalles fixes. La découverte continue considère la compréhension des comportements, des besoins et des préférences des utilisateurs comme un processus permanent. L’IA peut transformer les conversations, les clics et les commentaires en occasions de révéler des perspectives que les utilisateurs n’expriment pas explicitement.
Essentiellement, l’IA continue d’apprendre et de s’adapter en temps réel au domaine du problème.
Utilité : Il peut être difficile d’obtenir des commentaires utiles d’experts, de praticiens et d’utilisateurs généraux sur l’efficacité ou la convivialité d’un résultat d’IA. Les agents peuvent recueillir les réactions, les perspectives et les intuitions dans leur contexte, pendant que l’expérience est encore fraîche.
Défi : Les commentaires indiquent souvent ce qui s’est produit ou si l’utilisateur a aimé le résultat, sans expliquer pourquoi. Demander aux gens de se rappeler et de consigner chaque étape de leur réflexion peut sembler exigeant, même si ces observations amélioreraient les capacités futures du système.
C’est particulièrement important dans les systèmes d’IA très contraints, où un échange conversationnel ouvert peut être indésirable ou impossible.
Utiliser des indicateurs descriptifs pour saisir les réactions :
Un simple « pouce vers le haut » ou « pouce vers le bas » explique rarement la réaction d’un utilisateur. Des indicateurs descriptifs, comme « utile pour planifier le budget » ou « information réglementaire manquante », fournissent un contexte plus utile. Ces indicateurs peuvent refléter l’interaction actuelle ou inviter les utilisateurs à communiquer brièvement leur point de vue, transformant ainsi une note en information dont l’IA peut tirer des leçons.
Orienter les agents d’IA avec des « cartes-éclair » :
Lorsque l’IA se trompe ou ne réussit qu’en partie, donnez aux utilisateurs un moyen simple de la corriger ou de lui « enseigner ». Par exemple, un agent pourrait demander : « Comment le formuleriez-vous ? » ou « Quel détail avons-nous oublié ? » Les indications obtenues peuvent être conservées pour l’interaction actuelle ou réutilisées plus tard.
Apprendre par l’itération et la variation :
Parfois, la meilleure rétroaction vient d’une nouvelle tentative. De simples commandes de régénération permettent aux utilisateurs de comparer de nouvelles options et de choisir celles qu’ils préfèrent. Ces choix relient la saisie initiale à un résultat plus utile et intègrent l’expérimentation au processus d’apprentissage.
Observer les interactions :
Les agents d’IA peuvent collaborer pour apprendre à partir de multiples interactions. Par exemple, pendant qu’un agent crée un résumé de recherche, un autre pourrait analyser l’échange pour évaluer l’expérience. À la manière d’ethnographes, ces agents peuvent repérer les écarts entre l’intention d’une personne et sa perception de la qualité du résultat.
Ces observations peuvent soutenir l’amélioration continue en faisant ressortir des constats et en suggérant des changements au système.
Définition : L’amplification adapte la saisie, l’invite ou l’instruction d’un utilisateur afin de produire un meilleur résultat tout en préservant l’intention initiale. L’IA effectue en coulisses un travail supplémentaire qui dépasse la demande explicite. Par exemple, une « invite fantôme » peut enrichir une requête avant que le système génère une réponse.
L’utilisateur fournit une idée initiale, puis l’agent enrichit cette saisie lorsque cela peut améliorer le résultat.
Utilité : Les gens donnent souvent des instructions brèves ou générales, alors que la meilleure réponse peut exiger des étapes supplémentaires. Les agents d’IA peuvent combler cet écart sans obliger les utilisateurs à tout expliquer. Par exemple, demander à une IA de « trouver des idées de marketing pour mon nouveau produit de café » pourrait autrement produire une liste générique.
Une approche amplifiée pourrait mener plusieurs séances d’idéation de plus en plus ambitieuses et combiner les meilleures idées pour créer un résultat plus riche et varié.
Défi : Le travail en coulisses peut réduire le sentiment d’appropriation et de transparence de l’utilisateur. Si une IA modifie la demande d’une personne sans expliquer le changement, elle risque de produire un résultat que l’utilisateur ne voulait pas. Les concepteurs doivent équilibrer l’amplification utile et le risque de manipulation indésirable.
Le défi de conception consiste à permettre aux utilisateurs d’orienter l’amplification lorsqu’ils le souhaitent.
Préserver l’intention de l’utilisateur et la développer :
L’amplification devrait renforcer les objectifs déclarés de l’utilisateur sans en introduire de nouveaux. Après que l’IA a enrichi une invite ou accompli des tâches en arrière-plan, elle-même ou un validateur distinct devrait comparer le résultat final à la demande initiale. Les ajouts inattendus devraient être clairement communiqués.
Utiliser l’amplification au service de la sécurité et de la créativité :
Des techniques comme les invites fantômes peuvent susciter des préoccupations quant à la modification clandestine des demandes. Pour préserver la confiance, utilisez-les afin d’améliorer la clarté, la sécurité ou l’exhaustivité sans compromettre l’intention de l’utilisateur. Si un ajustement lié à la sécurité est nécessaire, expliquez-le ou fournissez immédiatement une rétroaction.
Les utilisateurs peuvent voir le résultat d’une modération sans en connaître la logique ou les critères sous-jacents.
Emprunter des techniques d’animation éprouvées :
Les agents d’IA peuvent appliquer des méthodes d’animation et de collaboration, comme les Liberating Structures, pour favoriser des interactions productives. Ces cadres légers aident à maximiser le potentiel créatif et analytique d’une personne.
Pendant une conversation, l’agent peut recourir à des méthodes familières d’idéation et de sélection d’idées. De petits changements dans le déroulement de l’échange peuvent produire un éventail plus large d’idées et de perspectives.
Utiliser des fils parallèles pour faire ressortir le contenu utile :
Plutôt que de s’appuyer sur un seul échange linéaire, un agent peut explorer simultanément plusieurs interprétations, idées ou solutions. Cela ressemble à un groupe d’experts qui réfléchissent selon différents points de vue sans perdre les observations utiles.
Un processus de coordination peut réunir ces différents axes d’exploration en une réponse cohérente et exploitable.
Utiliser l’amplification pour former les utilisateurs :
Une amplification bien conçue peut aussi aider les gens à apprendre à interagir plus efficacement avec l’IA. Si un agent explique : « J’ai tenu compte de X et de Y dans ma réponse », les utilisateurs pourront inclure ces facteurs dans leurs prochaines demandes. Il en résulte une amélioration mutuelle : de meilleures réponses maintenant et de meilleures saisies au fil du temps.
Définition : Ce modèle facilite la compréhension du raisonnement des agents d’IA. Des interactions bien conçues peuvent expliquer pourquoi un agent a produit une réponse, mettre en évidence les sources à l’appui ou rendre visibles les étapes pertinentes de son processus. L’objectif est de favoriser une prise de décision humaine efficace sans accabler l’utilisateur.
La présentation du raisonnement pertinent est optimale lorsque les utilisateurs peuvent l’explorer progressivement et choisir le niveau de détail voulu.
Utilité : La confiance est essentielle à l’adoption de l’IA, particulièrement en entreprise. Les gens sont moins susceptibles de se fier à un système s’ils ne peuvent ni comprendre ni vérifier son comportement. Des résultats transparents facilitent le diagnostic des problèmes, la correction des erreurs et la répétition des approches utiles.
Défi : Il peut être difficile d’expliquer les décisions de l’IA. Trop de détails peuvent accabler les utilisateurs, tandis que les probabilités ou les longs résumés du raisonnement peuvent être difficiles à interpréter. La transparence ne garantit pas non plus l’exactitude.
Les concepteurs doivent tenir compte de la qualité de l’explication, de la clarté de sa présentation et de la façon d’intégrer les preuves à l’appui dans un dialogue utile.
Permettre aux agents de réfléchir largement, puis condenser les résultats :
L’IA peut analyser un problème en profondeur tout en présentant les résultats dans un format facile à assimiler. Les résumés hiérarchiques et la divulgation progressive permettent aux utilisateurs de commencer par le constat principal et de développer les détails à l’appui seulement au besoin.
Une interaction bien conçue peut faciliter l’exploration d’information complexe sans sacrifier la profondeur ni la clarté.
Fournir des citations et des références explorables :
Les réponses générées par l’IA devraient permettre aux utilisateurs d’examiner clairement les sources à l’appui. Cela pourrait inclure des liens, des extraits de rapports internes, des résultats de recherche pertinents ou une vue détaillée des données quantitatives.
Dans les systèmes de génération augmentée par récupération, par exemple, les utilisateurs devraient pouvoir passer d’un résumé de l’IA aux preuves qui le sous-tendent. Cela facilite la vérification et permet l’examen approfondi qui renforce la confiance.
Communiquer les signaux de progression importants :
Les flux de travail complexes des agents peuvent nécessiter un changement de direction, un retour à des étapes antérieures ou la combinaison de plusieurs pistes d’enquête. Les utilisateurs tolèrent plus facilement les délais lorsqu’ils comprennent ce qui se passe. Des mises à jour claires peuvent expliquer ce que l’agent a terminé, ce qu’il fait et ce qui suivra.
L’agent devrait aussi expliquer lorsqu’il est bloqué ou qu’une décision exige des perspectives supplémentaires.
Révéler les résultats de l’IA étape par étape :
Plutôt que de présenter toute une réponse à la fois, un agent peut révéler l’information par étapes. Par exemple, un assistant en placement pourrait présenter une brève recommandation avec l’option d’en développer la justification : « Étape 1 : Évaluer le profil de risque. Étape 2 : Examiner le portefeuille actuel. Étape 3 : Repérer les possibilités de diversification. Étape 4 : Formuler une recommandation. » Les utilisateurs qui veulent plus de détails peuvent explorer chaque étape, tandis que les autres peuvent s’en tenir au résumé.
Expliquer visuellement le raisonnement de l’IA :
Les explications devraient être aussi compréhensibles que le résultat principal. Lorsque le raisonnement fait intervenir des nombres ou des relations, des graphiques et des diagrammes peuvent aider. Visualiser les requêtes, le processus, le raisonnement et les sources d’un agent peut aussi aider les utilisateurs à le réorienter, à expliquer le résultat ou à répéter le processus plus tard.
Des explications visuelles claires aident les utilisateurs à comprendre l’information et à agir plus rapidement.