Todos hemos tenido interacciones decepcionantes con la IA o conocemos a personas que «odian los chatbots», a menudo porque la experiencia «básica» no resulta útil, valiosa ni agradable. Esa decepción suele deberse menos a las capacidades del modelo que a la propia experiencia: la interacción entre las personas, un agente de IA y el resultado deseado. Esto supone una importante barrera para la adopción, sobre todo en entornos empresariales, donde unas interacciones mal diseñadas pueden abrumar, ignorar el contexto en tiempo real o desatender la intención y el comportamiento del usuario.
Desde esta perspectiva, hemos identificado las ventajas de cada patrón, los retos de diseño que plantea y orientaciones prácticas para aplicarlo. Estos patrones se aplican a distintos tipos y modalidades de interacción, y crean oportunidades tanto para experiencias de consumo como para soluciones internas de IA que ayudan a los trabajadores del conocimiento a tomar mejores decisiones.
Queremos compartir los nuevos patrones que observamos al crear y experimentar con numerosas soluciones de IA generativa, para ayudar a diseñar mejores relaciones entre las personas y la IA.
Muchas de nuestras interacciones con la tecnología, ya sea como trabajadores del conocimiento o como consumidores, dificultan las tareas cotidianas más de lo necesario. Limitan nuestra productividad, eficacia y aportación de valor.
Tanto los trabajadores del conocimiento como los consumidores pueden sentirse abrumados por el enorme volumen de información, opciones y herramientas disponibles. Este bombardeo constante de mensajes, a menudo contradictorios, dificulta tomar decisiones claras o mantener la concentración. Las investigaciones indican que los empleados dedican hasta el 40 % de su jornada laboral solo a buscar la información que necesitan (McKinsey). Esta sobrecarga de información afecta tanto a la productividad como al bienestar.
También tenemos una capacidad de atención limitada. Aunque encontremos la información, no podemos procesar ni analizar todo lo necesario para tomar una decisión fundamentada. Solo podemos centrarnos en una pequeña parte de los datos disponibles en cada momento y a menudo nos aferramos a creencias o ideas existentes que limitan nuestra capacidad para considerar alternativas o detectar patrones inesperados.
Las propias herramientas no suelen reconocer estas limitaciones. La mayor parte de la tecnología se diseña para «promedios»: soluciones universales que no se adaptan a cada contexto. Tanto si usamos software de trabajo como aplicaciones de consumo, estas herramientas rara vez tienen en cuenta nuestras necesidades, limitaciones o circunstancias particulares. Como resultado, la tecnología puede volverse ineficiente o contraproducente. La IA generativa ofrece la oportunidad de crear interacciones más adaptables y personales.
Por último, muchos entornos laborales generan un malestar innecesario. El creciente volumen de «tareas improductivas», la presión por estar «siempre disponible» y las tareas repetitivas de poco valor contribuyen a la falta de implicación y al estrés crónico. Aunque la IA generativa y los agentes de IA podrían reducir o eliminar estas experiencias, muchas personas aún desconfían de la capacidad de la IA para mejorar el trabajo en general. Las personas pueden resistirse a la idea de que «la IA tome el control» por miedo a ser desplazadas o porque sienten que el trabajo les pertenece, incluso las tareas que no les gustan.
Aplicar IA por sí solo no es una solución. Una IA mal integrada puede crear nuevas tareas y preocupaciones, especialmente para los trabajadores del conocimiento. Estos retos demuestran la necesidad de unas interacciones entre personas e IA que no solo sean eficientes, sino que también se ajusten a nuestras capacidades cognitivas, circunstancias individuales y limitaciones reales. Los seis patrones siguientes describen enfoques que reconocen las necesidades de las personas y favorecen una relación con la IA más adaptable, transparente y significativa.
La relación entre los nuevos patrones de diseño y los principios para crear experiencias de IA eficaces y centradas en las personas.
Selección: la IA como menú inteligente. La IA selecciona y organiza información, y reduce la sobrecarga al ayudar a explorar enormes conjuntos de datos.
Dar feedback: la IA como compañera de reflexión. La IA ofrece feedback en tiempo real que invita a reflexionar, cuestiona supuestos y aporta perspectivas alternativas.
Conocimiento de la situación: una IA que comprende el aquí y el ahora. La IA se adapta al contexto en tiempo real al procesar continuamente información del entorno y las necesidades del usuario.
Descubrimiento continuo: convertir cada interacción en investigación de usuarios. La IA aprovecha cada interacción para revelar conclusiones y perfeccionar su comprensión, lo que garantiza un aprendizaje y una mejora continuos.
Amplificación: mejorar la entrada del usuario para obtener mejores resultados. La IA mejora entre bastidores la entrada sin alterar la intención original de los usuarios.
Mostrar el proceso: razonamiento transparente de la IA. La IA hace visible y útil su proceso de decisión, lo que fomenta la confianza y ayuda a tomar decisiones mejor fundamentadas.
Estos seis patrones muestran que las soluciones de IA eficaces requieren algo más que una interfaz de usuario bien diseñada. Determinan cómo las personas y los agentes de IA se coordinan, toman decisiones e interactúan en sistemas de conocimiento complejos. Los patrones mejoran la interacción entre personas e IA mediante estas medidas:
Priorizar el intercambio bidireccional de conocimientos: facilitar un diálogo en el que la IA y las personas aporten ideas, contexto y conclusiones. Esto favorece sistemas de IA más capaces, informados por conocimientos expertos e intuiciones aún no codificados.
Crear experiencias que se adapten y cambien según las circunstancias: las herramientas de IA pueden quedar obsoletas o perder relevancia rápidamente. Los sistemas que mantienen el conocimiento de la situación, aprenden continuamente y se adaptan a las circunstancias de cada usuario siguen siendo útiles con el tiempo.
Mejorar la confianza: las interacciones transparentes y colaborativas reducen las barreras a la adopción, aumentan la participación y mejoran la toma de decisiones tanto humana como de la IA. Un diseño bien planteado ayuda a mantener la confianza en las decisiones y resultados de un sistema a lo largo del tiempo.
Diseñar experiencias de IA eficaces es difícil, pero existen enfoques de eficacia probada que pueden ayudar. Los principios fundamentales de comprender a los usuarios y crear experiencias útiles siguen siendo válidos, junto con las nuevas consideraciones que introducen los sistemas de IA con capacidad de acción. Las experiencias que seleccionan información eficazmente, ofrecen feedback útil y aprenden con transparencia pueden reducir la sobrecarga, mejorar las decisiones y generar confianza.
Estos patrones ayudan a superar obstáculos habituales a la adopción y hacen que la IA sea realmente útil, adaptable y más valiosa para todos los implicados.
La guía siguiente analiza cada patrón con más detalle y explica cómo puede contribuir a una experiencia de IA más amplia.
Qué es: en lugar de revisar manualmente interminables resultados de búsqueda o documentos, los agentes de IA pueden seleccionar información de enormes conjuntos de datos y presentar las conclusiones más relevantes. En esencia, la IA se convierte en una bibliotecaria que organiza el conocimiento según el contexto del usuario.
Por qué resulta útil: reduce la sobrecarga de información. Un trabajador del conocimiento dedica de media 1,8 horas al día a buscar información, lo que contribuye al agotamiento de muchos empleados (McKinsey). La selección mediante IA aborda este problema al indexar, localizar y combinar información de numerosas fuentes, lo que ayuda a descubrir datos, opciones y conclusiones que podrían pasar inadvertidos en una búsqueda tradicional.
El reto: pasar de una búsqueda tradicional basada en interfaces a un enfoque asistido por un agente exige que los usuarios ajusten sus expectativas. Las personas están acostumbradas a revisar listas de enlaces o pulsar botones para filtrar un conjunto de datos. En cambio, una IA encargada de la selección sintetiza respuestas a partir de fuentes cuya existencia quizá desconozcan los usuarios. Esto puede reducir la sensación de control de los usuarios sobre el filtrado y obligarlos a confiar en las elecciones del agente. Los mecanismos de búsqueda conocidos pueden facilitar la adaptación a la selección mediante IA sin perder confianza ni control.
Cómo utiliza OpenAI patrones de interacción conocidos para facilitar el descubrimiento de información estructurada y no estructurada.
Presentar los mecanismos de búsqueda como interacciones conocidas:
Para facilitar la transición desde la búsqueda tradicional, conviene ofrecer interacciones conocidas en lugar de lienzos en blanco. Los usuarios se sentirán más cómodos si la experiencia se basa en opciones reconocibles, cuestionarios y sugerencias contextuales.
Usar botones como prompts en vez de exigir una entrada abierta:
Introducir texto libre puede resultar intimidante o llevar mucho tiempo. Los botones predefinidos o generados automáticamente hacen más accesible la selección. Por ejemplo, «Filtrar por más recientes», «Comparar precios» e «Incluir fuentes internacionales» pueden ayudar a acotar los resultados. Esto reduce las barreras a la participación, fomenta la exploración y adapta las recomendaciones de la IA a la intención del usuario.
Permitir que los usuarios cuenten su historia para acotar los resultados:
A veces, contar una historia comunica las necesidades del usuario mejor que las consultas directas o los filtros. En situaciones complejas, como orientarse por paneles densos o buscar el producto adecuado, las herramientas tradicionales pueden abrumar a las personas o no dejar claro qué parámetros ajustar.
Cuando los usuarios pueden «contar su historia» —describir un problema, un objetivo personal o el producto deseado—, la IA puede convertir ese relato en parámetros de búsqueda estructurados. Por ejemplo, quien diga «Acabo de mudarme a una casa más pequeña y necesito soluciones de almacenaje versátiles y asequibles» podría recibir productos seleccionados, consejos prácticos y recomendaciones pertinentes.
Al incorporar relatos, no solo se reduce el esfuerzo mental de decidir qué filtros aplicar, sino que también se aporta más confianza y claridad a los resultados seleccionados.
Usar memes y referencias culturales para personalizar el descubrimiento:
Los memes pueden ayudar a la selección con IA de dos formas: enriquecen la comprensión que el agente tiene del usuario y dan vida a los resultados de una manera más humana y cercana. En primer lugar, al elegir o mencionar memes que ilustran sus objetivos, estado de ánimo o estilo («¡Hoy me apetece darme un capricho!»), los usuarios comparten en la práctica su «teoría de la mente» con la IA. Esto ayuda al agente a afinar la selección al inferir un contexto que podría perderse en una interfaz gráfica convencional o una consulta de texto.
En segundo lugar, el agente puede presentar los resultados como «paquetes de iniciación» temáticos o inspirados en la cultura popular, para que las recomendaciones resulten más pertinentes y personalizadas. Por ejemplo, si alguien está renovando su despacho en casa, la IA podría crear un «paquete de iniciación para teletrabajar» que combine accesorios de escritorio, tecnología e inspiración.
Aportar claridad al usuario mediante las siguientes acciones recomendadas:
Acierte o no con los resultados, un agente de IA debe permitir que los usuarios ajusten fácilmente los parámetros. Por ejemplo, podrían pedir «Muéstrame más opciones como el artículo 2» o «Excluye las fuentes anteriores a 2020». Sugerir los siguientes pasos puede orientar a los nuevos usuarios sin abrumarlos.
Qué es: los agentes de IA suelen plantearse como una forma de delegar trabajos tradicionalmente humanos. Se presta menos atención a su capacidad para colaborar en tiempo real. En lugar de limitarse a seguir instrucciones o generar contenido, un agente puede formular preguntas que inviten a reflexionar, cuestionar supuestos y ofrecer perspectivas alternativas. Así, la IA se convierte en una compañera de reflexión que ayuda a los usuarios a mejorar su trabajo mientras lo desarrollan.
Por qué resulta útil: a todos nos beneficia recibir feedback a tiempo, pero no siempre lo recibimos. Tanto el desacuerdo como el respaldo pueden ayudarnos a identificar patrones antes de apegarnos demasiado a una idea. Los agentes de IA pueden cuestionar nuestros supuestos, generar ideas y sugerir interpretaciones alternativas de los datos sin sustituir el criterio humano. Hemos observado que las personas suelen responder bien a este tipo de feedback de los agentes.
Los agentes de IA pueden generar contraargumentos que revelen lagunas en el razonamiento o destaquen perspectivas alternativas.
El reto: el feedback de la IA debe ser intuitivo y aplicable; de lo contrario, se convierte en una distracción. Nadie quiere un agente que interrumpa con sugerencias irrelevantes o ponga reparos a cada detalle. La IA debe intervenir en los momentos oportunos y con el tono adecuado. Si es demasiado pasiva, se pierden oportunidades útiles; si es demasiado agresiva, los usuarios pueden sentir que se cuestiona su criterio.
El reto consiste en decidir cómo presentar el feedback de la IA: ¿como pistas, como una revisión opcional o como un diálogo bidireccional? Acertar con la interacción determinará si los usuarios adoptan la IA como compañera o la consideran simplemente un Clippy 2.0.
Garantizar que el feedback sea proactivo, pero no molesto:
Hay que permitir que la IA ofrezca sugerencias en momentos naturales de pausa. Por ejemplo, en un editor de documentos podría esperar a que se complete una frase o un párrafo antes de sugerir una revisión. También hemos estudiado la posibilidad de que un agente espere unos instantes tras seleccionar un campo de texto vacío antes de ofrecer ayuda. El tono importa: «Aquí tienes una idea que podrías considerar…» resulta más constructivo que una afirmación tajante.
Convertir el feedback en un diálogo exploratorio:
Si el feedback no está claro, debe ser fácil preguntar, por ejemplo: «¿Por qué sugieres cambiar esto?». Una personalidad curiosa para la IA puede hacer que el intercambio resulte más constructivo. Como un terapeuta o facilitador atento, el agente puede formular preguntas pertinentes en el momento oportuno y convertir el feedback en una conversación que ayude al usuario a aprender.
Esto también ayuda a la IA a recabar contexto, lo que permite al usuario y al agente desarrollar una comprensión compartida más clara.
Ofrecer varias opciones, ideas o alternativas:
En vez de ofrecer una sola idea, solución u objeción, un agente puede presentar varias perspectivas. Por ejemplo, un agente de diseño podría generar tres composiciones alternativas, mientras que uno de redacción sugiere distintas versiones de una frase para públicos diferentes. Ofrecer opciones refuerza la idea de que el usuario conserva el control.
Asegurarse de que el feedback tenga en cuenta el contexto:
El agente debe adaptar su papel de «compañero de reflexión» al contexto actual del usuario. Si alguien se detiene ante una pregunta o un campo de texto, la IA podría plantearle una pregunta que invite a reflexionar en vez de adelantarse con una respuesta completa. Cuando un usuario solo necesita reformular una frase, una sugerencia concisa que pueda aceptar o rechazar ayuda a preservar su autoría.
Es fundamental que la IA sepa cuándo retirarse: un intercambio prolongado puede generar un «bucle fatal» de revisiones interminables y minar la confianza del usuario. Si se mantiene atenta al contexto y a las acciones del usuario, la IA puede adaptar su feedback para que sea realmente útil sin extralimitarse.
Qué es: el conocimiento de la situación es la capacidad de un agente para interpretar información contextual en tiempo real y adaptar su comportamiento en consecuencia. En vez de depender únicamente de entradas predeterminadas, los agentes de IA pueden procesar continuamente información sobre el entorno, el estado actual del usuario y otras condiciones pertinentes.
Esto podría implicar adaptar una interfaz a las necesidades inmediatas del usuario o interpretar las condiciones actuales del mercado para ofrecer respuestas más pertinentes.
Por qué resulta útil: el mundo real no es estático. Los sistemas de IA conscientes de la situación pueden resultar más útiles porque responden a las condiciones actuales. Cuando un agente comprende el contexto pertinente, las interacciones resultan más naturales, personalizadas y fundamentadas.
El reto: crear una IA con un verdadero conocimiento de la situación es difícil. Acceder a los datos necesarios e integrarlos puede introducir una considerable complejidad técnica.
Existe una línea muy fina entre un conocimiento contextual útil y una intromisión invasiva. Los usuarios valoran que un agente «lo entienda», pero pueden sentirse incómodos si solicita demasiada información o parece excesivamente insistente. Como las circunstancias pueden cambiar con rapidez, la experiencia y el criterio humanos siguen siendo esenciales.
Por tanto, un sistema de IA eficaz necesita las aportaciones de los usuarios para mantener una comprensión útil y actualizada de sus circunstancias.
Mostrar a los usuarios cómo es un buen contexto:
Los modelos de razonamiento como OpenAI o1 han cambiado la forma en que las personas proporcionan contexto a los grandes modelos de lenguaje. Con independencia del modelo, un contexto detallado permite ofrecer respuestas más pertinentes. Ejemplos claros, texto de marcador de posición y consejos desplegables pueden mostrar qué información aportar y explicar por qué es importante.
Mostrar explícitamente cómo es un «buen contexto» evita las dudas que, de otro modo, impedirían especificar detalles relevantes.
Facilitar la definición de los límites del agente:
Las necesidades inmediatas de un usuario son importantes, pero quizá no resulten evidentes. Un agente consciente de la situación puede colaborar con el usuario para definir los temas, ámbitos y herramientas que debe explorar. La investigación avanzada de ChatGPT aplica este enfoque al formular preguntas aclaratorias antes de iniciar una tarea de investigación.
Ofrecer un contexto visible para hacer cambios y adiciones rápidamente:
Los usuarios pueden necesitar una instantánea de lo que la IA supone en ese momento sobre sus objetivos, prioridades y fuentes de datos. Un panel específico puede explicar la fecha límite de sus conocimientos, sus supuestos actuales y las entradas pertinentes. Un icono podría indicar cuándo se utilizan datos de ubicación, mientras que un resumen podría mostrar cuántos registros contribuyeron a una conclusión.
Resulta útil ver lo que la IA «sabe» y poder añadir, eliminar o actualizar el contexto pertinente con el mínimo esfuerzo.
Permitir que la IA seleccione funciones de la interfaz según su utilidad:
Los agentes de IA pueden activar o desactivar capacidades de forma selectiva según las señales de la situación. Cuando alguien redacta un libro blanco, un agente podría activar herramientas avanzadas de citación; al editar notas para una presentación, podría destacar funciones de edición. Esto permite ofrecer experiencias centradas sin exigir que los usuarios gestionen manualmente todos los ajustes.
Qué es: el diseño de experiencias y el desarrollo de productos suelen tratar la investigación de usuarios como una fase independiente al inicio de un proyecto o a intervalos definidos. El descubrimiento continuo aborda la comprensión del comportamiento, las necesidades y las preferencias de los usuarios como un proceso permanente. La IA puede convertir conversaciones, clics y comentarios en oportunidades para revelar conclusiones que los usuarios quizá no expresen de forma explícita.
En esencia, la IA sigue aprendiendo y adaptándose al ámbito del problema en tiempo real.
Por qué resulta útil: puede ser difícil obtener comentarios útiles de expertos, profesionales y usuarios generales sobre la eficacia o facilidad de uso de un resultado de IA. Los agentes pueden ayudar a recoger reacciones, conclusiones e intuiciones en contexto mientras la experiencia aún está reciente.
El reto: los comentarios suelen indicar qué ocurrió o si gustó un resultado, pero no explican por qué. Pedir a las personas que recuerden y documenten cada paso de su razonamiento puede resultar laborioso, aunque esas observaciones mejoren las capacidades futuras del sistema.
Esto es especialmente importante en sistemas de IA muy restringidos, donde un intercambio conversacional abierto puede no ser conveniente ni posible.
Usar etiquetas descriptivas para recoger reacciones:
Un simple «pulgar arriba» o «pulgar abajo» rara vez explica la reacción de un usuario. Las etiquetas descriptivas, como «útil para planificar el presupuesto» o «falta información normativa», aportan un contexto más útil. Estas etiquetas pueden reflejar la interacción actual o invitar a compartir una breve opinión, convirtiendo una valoración en información de la que la IA puede aprender.
Orientar a los agentes de IA con «tarjetas didácticas»:
Cuando la IA se equivoque o solo logre un éxito parcial, hay que ofrecer a los usuarios una forma sencilla de corregirla o «enseñarle». Por ejemplo, un agente podría preguntar: «¿Cómo lo formularías?» o «¿Qué detalle se nos ha escapado?». Las indicaciones obtenidas pueden guardarse para la interacción actual o reutilizarse más adelante.
Aprender de la iteración y la variación:
A veces, los mejores comentarios surgen al intentarlo de nuevo. Unos controles sencillos para volver a generar contenido permiten comparar nuevas opciones e identificar las preferidas. Estas elecciones conectan la entrada original con un resultado más útil e incorporan la experimentación al proceso de aprendizaje.
Observar las interacciones:
Los agentes de IA pueden colaborar para aprender a partir de múltiples interacciones. Por ejemplo, mientras un agente crea un resumen de investigación, otro podría analizar el intercambio para evaluar la experiencia. Como si fueran etnógrafos, estos agentes pueden identificar diferencias entre la intención de una persona y su percepción de la calidad del resultado.
Estas observaciones pueden impulsar una mejora continua al revelar conclusiones y sugerir cambios en el sistema.
Qué es: la amplificación adapta la entrada, el prompt o las instrucciones de un usuario para obtener un resultado mejor sin alterar la intención original. La IA realiza entre bastidores tareas adicionales que van más allá de la petición explícita. Por ejemplo, el «prompting en la sombra» puede enriquecer una consulta antes de que el sistema genere una respuesta.
El usuario aporta una idea inicial y el agente amplía esa entrada cuando hacerlo puede mejorar el resultado.
Por qué resulta útil: las personas suelen dar instrucciones breves o generales, aunque la mejor respuesta pueda exigir pasos adicionales. Los agentes de IA pueden salvar esa distancia sin exigir que los usuarios lo expliquen todo. Por ejemplo, pedir a una IA que «proponga ideas de marketing para mi nuevo producto de café» podría generar una lista genérica.
Un enfoque amplificado podría realizar varias sesiones de ideación cada vez más ambiciosas y combinar las mejores ideas para crear un resultado más rico y variado.
El reto: trabajar entre bastidores puede reducir la sensación de control y transparencia del usuario. Si una IA modifica la petición de alguien sin explicar el cambio, podría producir un resultado que el usuario no quería. Los diseñadores deben equilibrar una amplificación útil con el riesgo de una manipulación no deseada.
El reto de diseño consiste en permitir que los usuarios orienten la amplificación cuando lo deseen.
Conservar la intención del usuario y desarrollarla:
La amplificación debe reforzar los objetivos declarados por el usuario sin introducir otros nuevos. Después de que la IA amplíe un prompt o complete tareas en segundo plano, esta o un validador independiente debe comparar el resultado final con la petición original. Las incorporaciones inesperadas deben comunicarse con claridad.
Usar la amplificación para fomentar la seguridad y la creatividad:
Técnicas como el prompting en la sombra pueden suscitar preocupación por la modificación encubierta de las peticiones del usuario. Para mantener la confianza, deben emplearse para mejorar la claridad, la seguridad o la integridad sin menoscabar la intención del usuario. Si se necesita un ajuste por motivos de seguridad, hay que explicarlo u ofrecer información inmediata.
Los usuarios pueden ver el resultado de la moderación sin conocer la lógica o los criterios subyacentes.
Tomar prestadas técnicas de facilitación de eficacia probada:
Los agentes de IA pueden aplicar métodos de facilitación y colaboración, como Liberating Structures, para propiciar interacciones productivas. Estos marcos ligeros ayudan a maximizar el potencial creativo y analítico de una persona.
Durante una conversación, el agente puede recurrir a métodos conocidos para generar y filtrar ideas. Pequeños cambios en el desarrollo del intercambio pueden generar una gama más amplia de ideas y conclusiones.
Usar líneas paralelas para revelar contenido útil:
En vez de depender de un único intercambio lineal, un agente puede explorar simultáneamente varias interpretaciones, ideas o soluciones. Se asemeja a un grupo de expertos que generan ideas desde distintas perspectivas sin perder aportaciones útiles.
Un proceso de coordinación puede combinar esas líneas de exploración en una respuesta coherente que permita actuar.
Usar la amplificación para formar a los usuarios:
Una amplificación bien diseñada también puede enseñar a las personas a interactuar con la IA de forma más eficaz. Si un agente explica «He tenido en cuenta X e Y en mi respuesta», los usuarios podrán incluir esos factores en futuras peticiones. Esto produce una mejora bidireccional: mejores respuestas ahora y mejores entradas con el tiempo.
Qué es: este patrón facilita la comprensión del razonamiento de los agentes de IA. Unas interacciones bien planteadas pueden explicar por qué un agente produjo una respuesta, destacar las fuentes que la respaldan o mostrar pasos pertinentes del proceso. El objetivo es favorecer una toma de decisiones humana eficaz sin abrumar al usuario.
Mostrar el razonamiento pertinente funciona mejor cuando los usuarios pueden explorarlo gradualmente y elegir el nivel de detalle que necesitan.
Por qué resulta útil: la confianza es esencial para adoptar la IA, sobre todo en entornos empresariales. Es menos probable que las personas confíen en un sistema si no pueden comprender o verificar su comportamiento. Los resultados transparentes facilitan el diagnóstico de problemas, la corrección de errores y la repetición de enfoques útiles.
El reto: explicar las decisiones de la IA puede resultar difícil. Un exceso de detalles puede abrumar a los usuarios, mientras que las probabilidades o los resúmenes extensos del razonamiento pueden ser difíciles de interpretar. Además, la transparencia por sí sola no garantiza la precisión.
Los diseñadores deben considerar la calidad de la explicación, la claridad de su presentación y cómo integrar las pruebas que la respaldan en un diálogo útil.
Permitir que los agentes piensen de forma amplia y después sinteticen los resultados:
La IA puede analizar un problema en profundidad y presentar los resultados en un formato fácil de asimilar. Los resúmenes jerárquicos y la presentación progresiva permiten empezar por la conclusión principal y desplegar los detalles que la respaldan solo cuando sea necesario.
Una interacción bien diseñada puede facilitar la exploración de información compleja sin sacrificar profundidad ni claridad.
Ofrecer citas y referencias que puedan explorarse:
Las respuestas generadas por IA deben ofrecer una forma clara de consultar las fuentes que las respaldan. Esto podría incluir enlaces, extractos de informes internos, hallazgos de investigaciones pertinentes o una vista más detallada de datos cuantitativos.
Por ejemplo, en sistemas de generación aumentada por recuperación, los usuarios deben poder pasar de un resumen de IA a las pruebas que lo sustentan. Esto facilita la verificación y permite profundizar en la investigación, lo que genera confianza.
Comunicar señales de progreso importantes:
Los flujos de trabajo complejos de los agentes pueden implicar cambios de rumbo, volver a pasos anteriores o combinar varias líneas de investigación. Los usuarios toleran mejor las demoras cuando entienden qué está ocurriendo. Las actualizaciones claras pueden explicar qué ha completado el agente, qué está haciendo y qué viene después.
El agente también debe explicar cuándo está atascado o cuándo una decisión exige perspectivas adicionales.
Revelar los resultados de la IA paso a paso:
En vez de presentar una respuesta completa de una vez, un agente puede revelar la información por etapas. Por ejemplo, un asistente de inversión podría mostrar una recomendación breve con la opción de ampliar su justificación: «Paso 1: evaluar el perfil de riesgo. Paso 2: revisar la cartera actual. Paso 3: identificar oportunidades de diversificación. Paso 4: formular una recomendación». Quienes deseen más detalles pueden explorar cada paso, mientras que los demás pueden quedarse con el resumen.
Usar explicaciones visuales del razonamiento de la IA:
Las explicaciones deben ser tan comprensibles como el resultado principal. Cuando el razonamiento incluya números o relaciones, los gráficos y diagramas pueden ayudar. Visualizar las consultas, el proceso, el razonamiento y las fuentes de un agente también puede ayudar a los usuarios a corregir su rumbo, explicar el resultado a otras personas o repetir el proceso más adelante.
Unas explicaciones visuales claras ayudan a comprender la información y actuar en consecuencia con mayor rapidez.