Todos hemos tenido interacciones decepcionantes con la IA o conocemos a personas que “odian los chatbots”, a menudo porque la experiencia “básica” no resulta útil, valiosa ni agradable. Esa decepción suele tener menos relación con las capacidades de un modelo que con la experiencia en sí: la interacción entre las personas, un agente de IA y el resultado deseado. Esto constituye una barrera importante para la adopción, especialmente en entornos empresariales, donde las interacciones mal diseñadas pueden abrumar, ignorar el contexto en tiempo real o desatender la intención y el comportamiento de los usuarios.
Desde esta perspectiva, identificamos los beneficios de cada patrón, los desafíos de diseño que plantea y orientaciones prácticas para aplicarlo. Estos patrones se aplican a distintos tipos y modalidades de interacción, y crean oportunidades tanto para experiencias dirigidas a consumidores como para soluciones internas de IA que ayudan a los trabajadores del conocimiento a tomar mejores decisiones.
Queremos compartir los patrones emergentes que observamos —al desarrollar y experimentar con numerosas soluciones de IA generativa— para ayudar a diseñar mejores relaciones entre las personas y la IA.
Muchas de nuestras interacciones con la tecnología, ya sea como trabajadores del conocimiento o consumidores, dificultan las tareas cotidianas más de lo necesario. Limitan nuestra productividad, eficacia y capacidad de aportar valor.
Tanto los trabajadores del conocimiento como los consumidores pueden sentirse abrumados por el enorme volumen de información, opciones y herramientas disponibles. Este bombardeo constante de mensajes, a menudo contradictorios, dificulta tomar decisiones claras o mantener la concentración. Las investigaciones indican que los empleados dedican hasta el 40 % de su jornada laboral solo a buscar la información que necesitan (McKinsey). Esta sobrecarga de información afecta tanto la productividad como el bienestar.
También tenemos una capacidad de atención limitada. Incluso cuando encontramos información, no podemos procesar ni analizar todo lo necesario para tomar una decisión fundamentada. Solo podemos concentrarnos en una pequeña parte de los datos disponibles en un momento dado y solemos aferrarnos a creencias o ideas existentes que limitan nuestra capacidad de considerar alternativas o detectar patrones inesperados.
Las propias herramientas suelen ignorar estas limitaciones. La mayoría de la tecnología está diseñada para “promedios”: soluciones universales que no se adaptan a contextos individuales. Ya sea que usemos software de trabajo o aplicaciones para consumidores, estas herramientas rara vez consideran nuestras necesidades, limitaciones o circunstancias particulares. Como resultado, la tecnología puede volverse ineficiente o contraproducente. La IA generativa ofrece la oportunidad de crear interacciones más adaptables y personales.
Por último, muchos entornos laborales generan un malestar innecesario. El creciente volumen de “trabajo improductivo”, la presión por estar “siempre disponible” y las tareas repetitivas de poco valor contribuyen a la falta de compromiso y al estrés crónico. Aunque la IA generativa y los agentes de IA podrían reducir o eliminar estas experiencias, muchas personas aún desconfían de la capacidad de la IA para mejorar el trabajo en general. Las personas pueden resistirse a la idea de que “la IA tome el control” porque temen ser desplazadas o sienten que su trabajo les pertenece, incluso las tareas que no les gustan.
Aplicar IA por sí sola no es una solución. Una IA mal integrada puede crear nuevas tareas y preocupaciones, especialmente para los trabajadores del conocimiento. Estos desafíos demuestran la necesidad de crear interacciones entre las personas y la IA que no solo sean eficientes, sino que también se ajusten a nuestras capacidades cognitivas, circunstancias individuales y limitaciones del mundo real. Los seis patrones siguientes describen enfoques que reconocen las necesidades de las personas y promueven una relación más adaptable, transparente y significativa con la IA.
La relación entre los patrones de diseño emergentes y los principios para crear experiencias de IA eficaces y centradas en las personas.
Curación: la IA como menú inteligente. La IA selecciona y organiza información, y reduce la sobrecarga al ayudar a las personas a recorrer enormes conjuntos de datos.
Dar retroalimentación: la IA como compañera de reflexión. La IA ofrece en tiempo real comentarios estimulantes que cuestionan supuestos y presentan perspectivas alternativas.
Conciencia situacional: una IA que comprende el aquí y el ahora. La IA se adapta al contexto en tiempo real al procesar continuamente información del entorno y las necesidades del usuario.
Descubrimiento continuo: convertir cada interacción en investigación de usuarios. La IA aprovecha cada interacción para descubrir hallazgos y refinar su comprensión, lo que garantiza un aprendizaje y una mejora continuos.
Amplificación: enriquecer la entrada del usuario para mejorar los resultados. La IA mejora la entrada del usuario en segundo plano sin alterar su intención original.
Mostrar el proceso: razonamiento transparente de la IA. La IA hace visible y útil su proceso de toma de decisiones, fomenta la confianza y ayuda a los usuarios a tomar decisiones mejor fundamentadas.
Estos seis patrones muestran que las soluciones eficaces de IA requieren más que una interfaz de usuario bien diseñada. Determinan cómo las personas y los agentes de IA se coordinan, toman decisiones e interactúan dentro de sistemas de conocimiento complejos. Los patrones mejoran la interacción entre las personas y la IA de las siguientes maneras:
Priorizar el intercambio bidireccional de conocimientos: habilitar un diálogo en el que la IA y las personas aporten ideas, contexto y hallazgos. Esto favorece sistemas de IA más capaces, que aprovechan conocimientos especializados e intuiciones que aún no se han formalizado.
Crear experiencias que se adapten y cambien según las circunstancias: las herramientas de IA pueden volverse obsoletas o irrelevantes rápidamente. Los sistemas que mantienen la conciencia situacional, aprenden continuamente y se adaptan a las circunstancias de cada usuario siguen siendo útiles con el tiempo.
Mejorar la confianza y la seguridad: las interacciones transparentes y colaborativas reducen las barreras de adopción, aumentan la participación y mejoran la toma de decisiones tanto humana como de la IA. Un diseño cuidadoso ayuda a las personas a mantener la confianza en las decisiones y los resultados de un sistema a lo largo del tiempo.
Diseñar experiencias eficaces de IA es difícil, pero existen enfoques comprobados que pueden ayudar. Los principios fundamentales de comprender a los usuarios y crear experiencias útiles siguen vigentes, junto con las nuevas consideraciones que introducen los sistemas de IA capaces de actuar. Las experiencias que seleccionan información eficazmente, ofrecen retroalimentación útil y aprenden de manera transparente pueden reducir la sobrecarga, mejorar la toma de decisiones y generar confianza.
Estos patrones ayudan a superar obstáculos comunes para la adopción y hacen que la IA sea verdaderamente útil, adaptable y valiosa para todas las personas involucradas.
La siguiente guía analiza cada patrón con mayor detalle y explica cómo puede contribuir a una experiencia de IA más amplia.
Qué es: en lugar de que los usuarios revisen manualmente un sinfín de resultados de búsqueda o documentos, los agentes de IA pueden seleccionar información de enormes conjuntos de datos y presentar los hallazgos más relevantes. En esencia, la IA se convierte en una bibliotecaria que organiza el conocimiento según el contexto del usuario.
Por qué es útil: reduce la sobrecarga de información. En promedio, los trabajadores del conocimiento dedican 1,8 horas al día a buscar información, lo que contribuye al agotamiento de muchos empleados (McKinsey). La curación basada en IA aborda este problema al indexar, encontrar y combinar información de una amplia variedad de fuentes, lo que ayuda a los usuarios a descubrir datos, opciones y hallazgos que podrían pasar por alto con una búsqueda tradicional.
El desafío: pasar de la búsqueda tradicional basada en interfaces a un enfoque asistido por agentes exige que los usuarios ajusten sus expectativas. Las personas están acostumbradas a revisar una lista de enlaces o presionar botones para filtrar un conjunto de datos. En cambio, un curador de IA sintetiza respuestas a partir de fuentes cuya existencia quizá desconozcan los usuarios. Esto puede reducir la sensación de control de los usuarios sobre el filtrado y exigirles confiar en las elecciones del agente. Los mecanismos de búsqueda conocidos pueden ayudar a las personas a adaptarse a la curación basada en IA sin perder confianza ni control.
Cómo usa OpenAI patrones de interacción conocidos para facilitar el descubrimiento de información estructurada y no estructurada.
Presentar los mecanismos de búsqueda como interacciones conocidas:
Para facilitar la transición desde la búsqueda tradicional, presente interacciones conocidas en lugar de lienzos en blanco. Los usuarios se sentirán más cómodos cuando la experiencia aproveche opciones, cuestionarios y sugerencias contextuales reconocibles.
Usar botones como prompts en lugar de exigir respuestas abiertas:
Ingresar texto libre puede resultar intimidante o requerir mucho tiempo. Los botones predefinidos o generados automáticamente hacen que la curación sea más accesible. Por ejemplo, “Filtrar por más recientes”, “Comparar precios” e “Incluir fuentes internacionales” pueden ayudar a los usuarios a refinar los resultados. Esto reduce las barreras de participación, fomenta la exploración y adapta las recomendaciones de la IA a la intención del usuario.
Permitir que los usuarios cuenten una historia para refinar los resultados:
A veces, una historia comunica las necesidades del usuario con mayor eficacia que las consultas directas o los filtros. En situaciones complejas —como recorrer paneles cargados de información o buscar el producto adecuado—, las personas pueden sentirse abrumadas por las herramientas tradicionales o no saber qué parámetros ajustar.
Cuando los usuarios pueden “contar su historia” —describir un problema, una meta personal o el producto que desean—, la IA puede convertir ese relato en parámetros de búsqueda estructurados. Por ejemplo, alguien que diga “Me acabo de mudar a una casa más pequeña y necesito soluciones de almacenamiento versátiles y económicas” podría recibir una selección de productos, consejos prácticos y recomendaciones pertinentes.
Al incorporar historias, no solo se reduce el esfuerzo mental de decidir qué filtros aplicar, sino que también se fomenta una mayor confianza y claridad en los resultados finales seleccionados.
Usar memes y referencias culturales para personalizar el descubrimiento:
Los memes pueden ayudar a la curación con IA de dos maneras: enriquecen la comprensión que el agente tiene del usuario y dan vida a los resultados de búsqueda de una forma más humana y cercana. Primero, al seleccionar o mencionar memes que ilustren sus metas, estado de ánimo o estilo (“¡Hoy estoy en modo ‘Treat Yo Self’!”), los usuarios comparten con la IA su “teoría de la mente”. Esto ayuda al agente a afinar su curación al inferir un contexto que podría perderse en una interfaz gráfica convencional o una consulta de texto.
Segundo, el agente puede presentar los resultados en “paquetes iniciales” temáticos o inspirados en la cultura popular, para que las recomendaciones se perciban como más pertinentes y personalizadas. Por ejemplo, si alguien está rediseñando una oficina en casa, la IA podría crear un “paquete inicial para trabajar desde casa” que combine accesorios de escritorio, tecnología e inspiración.
Dar claridad al usuario mediante las mejores acciones siguientes:
Ya sea que los resultados de un agente de IA acierten o no, los usuarios deberían poder refinar los parámetros con facilidad. Por ejemplo, podrían pedir “Muéstrame más opciones como el artículo 2” o “Excluye las fuentes anteriores a 2020”. Las acciones siguientes sugeridas pueden orientar a los nuevos usuarios sin abrumarlos.
Qué es: los agentes de IA suelen presentarse como una forma de delegar tareas tradicionalmente humanas. Su capacidad para colaborar en tiempo real recibe menos atención. En lugar de limitarse a seguir instrucciones o generar contenido, un agente puede formular preguntas estimulantes, cuestionar supuestos y ofrecer perspectivas alternativas. Así, la IA se convierte en una compañera de reflexión que ayuda a los usuarios a mejorar su trabajo mientras lo desarrollan.
Por qué es útil: todos nos beneficiamos de recibir retroalimentación oportuna, pero no siempre la obtenemos. Tanto las objeciones como el apoyo pueden ayudarnos a detectar patrones antes de encariñarnos demasiado con una idea. Los agentes de IA pueden cuestionar nuestros supuestos, generar ideas y sugerir interpretaciones alternativas de los datos sin sustituir el criterio humano. Hemos observado que las personas suelen responder bien a este tipo de retroalimentación de los agentes.
Los agentes de IA pueden generar contraargumentos que revelen vacíos en el razonamiento o destaquen perspectivas alternativas.
El desafío: la retroalimentación de la IA debe ser intuitiva y práctica; de lo contrario, se convierte en una distracción. Nadie quiere un agente que interrumpa con sugerencias irrelevantes o critique cada detalle. La IA debe intervenir en los momentos adecuados y con el tono correcto. Si es demasiado pasiva, se pierden oportunidades valiosas; si es demasiado agresiva, los usuarios pueden sentir que cuestiona constantemente su criterio.
El desafío radica en cómo presentar la retroalimentación de la IA: ¿debería aparecer como sugerencias, una revisión opcional o un diálogo bidireccional? Acertar con la interacción determinará si los usuarios adoptan la IA como colaboradora o simplemente la ven como Clippy 2.0.
Procurar que la retroalimentación sea proactiva, pero no molesta:
Permita que la IA ofrezca sugerencias en pausas naturales. Por ejemplo, en un editor de documentos, podría esperar a que se complete una oración o un párrafo antes de sugerir una revisión. También hemos explorado la posibilidad de que un agente espere brevemente después de seleccionar un campo de texto vacío antes de ofrecer ayuda. El tono importa: “Te propongo una idea para considerar...” resulta más constructivo que una afirmación tajante.
Convertir la retroalimentación en un diálogo exploratorio:
Si la retroalimentación no es clara, facilite que los usuarios hagan preguntas como “¿Por qué sugieres cambiar esto?”Una personalidad curiosa de la IA puede hacer que el intercambio resulte más constructivo. Como un terapeuta o facilitador reflexivo, el agente puede hacer preguntas pertinentes en el momento adecuado y convertir la retroalimentación en una conversación que ayude al usuario a aprender.
Esto también ayuda a la IA a recopilar contexto, lo que permite al usuario y al agente desarrollar una comprensión compartida más clara.
Ofrecer varias opciones, ideas o alternativas:
En lugar de ofrecer una sola idea, solución u objeción, un agente puede presentar varias perspectivas. Por ejemplo, un agente de diseño podría generar tres composiciones alternativas, mientras que uno de redacción sugiere distintas versiones de una oración para públicos diferentes. Ofrecer opciones refuerza la idea de que el usuario mantiene el control.
Asegurar que la retroalimentación tenga en cuenta el contexto:
El agente debe adaptar su papel de “compañero de reflexión” al contexto actual del usuario. Si alguien se detiene ante una pregunta o un campo de texto, la IA podría formular una pregunta estimulante en lugar de adelantarse con una respuesta completa. Cuando un usuario solo necesita reformular una oración, una sugerencia concisa que pueda aceptar o rechazar ayuda a preservar su autoría.
Es fundamental que la IA sepa cuándo dar un paso atrás: un intercambio prolongado puede generar un “ciclo fatal” de ediciones interminables y socavar la confianza del usuario. Al mantenerse atenta al contexto y a las acciones del usuario, la IA puede adaptar su retroalimentación para que sea realmente útil sin extralimitarse.
Qué es: la conciencia situacional es la capacidad de un agente para interpretar información contextual en tiempo real y ajustar su comportamiento en consecuencia. En lugar de depender solo de entradas predeterminadas, los agentes de IA pueden procesar continuamente información sobre el entorno, el estado actual del usuario y otras condiciones pertinentes.
Esto podría implicar adaptar una interfaz a las necesidades inmediatas del usuario o interpretar las condiciones actuales del mercado para ofrecer respuestas más pertinentes.
Por qué es útil: el mundo real no es estático. Los sistemas de IA con conciencia situacional pueden ser más útiles porque responden a las condiciones actuales. Cuando un agente comprende el contexto pertinente, las interacciones se sienten más naturales, personalizadas y fundamentadas.
El desafío: crear una IA con verdadera conciencia situacional es difícil. Acceder a los datos necesarios e integrarlos puede introducir una complejidad técnica considerable.
Hay una línea muy fina entre una conciencia contextual útil y una intromisión excesiva. Los usuarios valoran que un agente “entienda”, pero pueden sentirse incómodos si solicita demasiada información o parece excesivamente insistente. Como las circunstancias pueden cambiar rápidamente, la experiencia y el criterio humanos siguen siendo esenciales.
Por lo tanto, un sistema de IA eficaz necesita la colaboración de los usuarios para mantener una comprensión útil y actualizada de sus circunstancias.
Mostrar a los usuarios cómo es un buen contexto:
Los modelos de razonamiento como o1 de OpenAI han cambiado la forma en que las personas proporcionan contexto a los modelos de lenguaje de gran tamaño. Independientemente del modelo, un contexto detallado permite obtener respuestas más pertinentes. Los ejemplos claros, el texto de marcador de posición y los consejos ampliables pueden mostrar a los usuarios qué información proporcionar y explicar por qué es importante.
Mostrar explícitamente al usuario cómo es un “buen contexto” puede eliminar las dudas que, de otro modo, le impedirían especificar detalles significativos.
Facilitar la definición de los límites del agente:
Las necesidades inmediatas de un usuario son importantes, pero quizá no sean evidentes. Un agente con conciencia situacional puede colaborar con el usuario para definir los temas, ámbitos y herramientas que debe explorar. La investigación profunda en ChatGPT respalda este enfoque al formular preguntas aclaratorias antes de iniciar una tarea de investigación.
Ofrecer un contexto visible para hacer cambios y adiciones rápidos:
Los usuarios quizá necesiten una vista rápida de lo que la IA supone actualmente sobre sus metas, prioridades y fuentes de datos. Un panel específico puede explicar la fecha límite de sus conocimientos, sus supuestos actuales y las entradas pertinentes. Un ícono podría indicar cuándo se usan datos de ubicación, mientras que un resumen podría mostrar cuántos registros contribuyeron a un hallazgo.
Las personas se benefician al ver lo que la IA “sabe” y poder agregar, eliminar o actualizar el contexto pertinente con el mínimo esfuerzo.
Permitir que la IA seleccione funciones de la interfaz según su utilidad:
Los agentes de IA pueden activar o desactivar funciones de forma selectiva según las señales situacionales. Cuando alguien redacta un informe técnico, un agente podría activar herramientas avanzadas de citas; cuando edita notas para una presentación, podría destacar las funciones de edición. Esto permite crear experiencias enfocadas sin exigir que los usuarios administren manualmente cada configuración.
Qué es: el diseño de experiencias y el desarrollo de productos suelen tratar la investigación de usuarios como una fase independiente al inicio de un proyecto o en intervalos definidos. El descubrimiento continuo considera que comprender el comportamiento, las necesidades y las preferencias de los usuarios es un proceso permanente. La IA puede convertir conversaciones, clics y comentarios en oportunidades para descubrir hallazgos que los usuarios quizá no expresen de manera explícita.
En esencia, la IA continúa aprendiendo y adaptándose al ámbito del problema en tiempo real.
Por qué es útil: puede ser difícil obtener comentarios útiles de expertos, profesionales y usuarios generales sobre la eficacia o facilidad de uso del resultado de una IA. Los agentes pueden ayudar a captar reacciones, hallazgos e intuiciones en contexto, mientras la experiencia aún está fresca.
El desafío: los comentarios suelen indicar qué ocurrió o si al usuario le gustó el resultado, pero no explican por qué. Pedir a las personas que recuerden y documenten cada paso de su razonamiento puede resultar agotador, incluso cuando esos hallazgos mejorarían las capacidades futuras de un sistema.
Esto es especialmente importante en sistemas de IA con límites estrictos, donde un intercambio conversacional abierto quizá no sea conveniente ni posible.
Usar etiquetas descriptivas para captar reacciones:
Un simple “pulgar arriba” o “pulgar abajo” rara vez explica la reacción del usuario. Las etiquetas descriptivas —como “útil para planificar el presupuesto” o “falta información normativa”— ofrecen un contexto más valioso. Estas etiquetas pueden reflejar la interacción actual o invitar a los usuarios a compartir una breve perspectiva, convirtiendo una valoración en información de la que la IA puede aprender.
Orientar a los agentes de IA con “tarjetas didácticas”:
Cuando la IA cometa un error o solo logre un éxito parcial, ofrezca a los usuarios una forma sencilla de corregirla o “enseñarle”. Por ejemplo, un agente podría preguntar: “¿Cómo lo dirías?”O bien: “¿Qué detalle se nos escapó?”Las indicaciones resultantes pueden guardarse para la interacción actual o reutilizarse más adelante.
Aprender de la iteración y la variación:
A veces, los mejores comentarios surgen al volver a intentarlo. Los controles sencillos de regeneración permiten que los usuarios comparen nuevas opciones e identifiquen las que prefieren. Estas elecciones conectan la entrada original con un resultado más útil e incorporan la experimentación al proceso de aprendizaje.
Observar las interacciones:
Los agentes de IA pueden colaborar para aprender a partir de múltiples interacciones. Por ejemplo, mientras un agente crea un resumen de investigación, otro podría analizar el intercambio para evaluar la experiencia. Al actuar como etnógrafos, estos agentes pueden identificar diferencias entre la intención de una persona y su percepción de la calidad del resultado.
Estas observaciones pueden impulsar la mejora continua al revelar hallazgos y sugerir cambios en el sistema.
Qué es: la amplificación adapta la entrada, el prompt o la instrucción de un usuario para producir un mejor resultado sin alterar la intención original. La IA realiza trabajo adicional en segundo plano, más allá de la solicitud explícita. Por ejemplo, el “prompt oculto” puede enriquecer una consulta antes de que el sistema genere una respuesta.
El usuario aporta una idea inicial y el agente amplía esa entrada cuando hacerlo puede mejorar el resultado.
Por qué es útil: las personas suelen dar instrucciones breves o generales, aunque la mejor respuesta quizá requiera pasos adicionales. Los agentes de IA pueden cerrar esa brecha sin exigir que los usuarios expliquen todo. Por ejemplo, pedirle a una IA que “proponga ideas de marketing para mi nuevo producto de café” podría generar una lista genérica.
Un enfoque amplificado podría realizar varias sesiones de lluvia de ideas cada vez más ambiciosas y combinar las mejores propuestas para crear un resultado más rico y variado.
El desafío: trabajar en segundo plano puede reducir la sensación de autoría y transparencia del usuario. Si una IA modifica la solicitud de una persona sin explicar el cambio, puede producir un resultado que el usuario no quería. Los diseñadores deben equilibrar una amplificación útil con el riesgo de manipulación no deseada.
El reto de diseño consiste en permitir que los usuarios orienten la amplificación cuando así lo deseen.
Preservar la intención del usuario y desarrollarla:
La amplificación debe reforzar las metas expresadas por el usuario sin introducir otras nuevas. Después de que la IA amplíe un prompt o complete tareas en segundo plano, ella o un validador independiente debería comparar el resultado final con la solicitud original. Las adiciones inesperadas deben comunicarse con claridad.
Usar la amplificación para fomentar la seguridad y la creatividad:
Técnicas como el prompt oculto pueden generar inquietud porque reformulan las solicitudes del usuario sin que este lo sepa. Para mantener la confianza, úselas para mejorar la claridad, la seguridad o la integridad sin socavar la intención del usuario. Si se requiere un ajuste relacionado con la seguridad, explíquelo o proporcione comentarios de inmediato.
Los usuarios pueden ver el resultado de una moderación sin conocer la lógica o los criterios subyacentes.
Tomar prestadas técnicas de facilitación comprobadas:
Los agentes de IA pueden aplicar métodos de facilitación y colaboración, como Liberating Structures, para propiciar interacciones productivas. Estos marcos sencillos ayudan a maximizar el potencial creativo y analítico de una persona.
Durante una conversación, el agente puede recurrir a métodos conocidos de lluvia y selección de ideas. Pequeños cambios en el desarrollo del intercambio pueden generar una mayor variedad de ideas y hallazgos.
Usar líneas paralelas para revelar contenido útil:
En lugar de depender de un único intercambio lineal, un agente puede explorar simultáneamente varias interpretaciones, ideas o soluciones. Esto se asemeja a un grupo de expertos que intercambia ideas desde distintas perspectivas sin perder hallazgos valiosos.
Un proceso de coordinación puede combinar esas distintas líneas de exploración en una respuesta coherente y viable.
Usar la amplificación para educar a los usuarios:
Una amplificación bien diseñada también puede ayudar a las personas a aprender a interactuar con la IA de manera más eficaz. Si un agente explica “Consideré X e Y en mi respuesta”, los usuarios podrían incluir esos factores en solicitudes futuras. Esto genera una mejora en ambos sentidos: mejores respuestas ahora y mejores entradas con el tiempo.
Qué es: este patrón facilita la comprensión del razonamiento de los agentes de IA. Las interacciones bien diseñadas pueden explicar por qué un agente produjo una respuesta, destacar las fuentes de respaldo o mostrar los pasos pertinentes de su proceso. El objetivo es favorecer una toma de decisiones humana eficaz sin abrumar al usuario.
Mostrar el razonamiento pertinente funciona mejor cuando los usuarios pueden explorarlo gradualmente y elegir el nivel de detalle que necesitan.
Por qué es útil: la confianza es esencial para adoptar la IA, especialmente en entornos empresariales. Es menos probable que las personas dependan de un sistema si no pueden comprender ni verificar su comportamiento. Los resultados transparentes facilitan diagnosticar problemas, corregir errores y repetir enfoques útiles.
El desafío: explicar las decisiones de la IA puede ser difícil. Un exceso de detalles puede abrumar a los usuarios, mientras que las probabilidades o los extensos resúmenes de razonamiento pueden resultar difíciles de interpretar. La transparencia por sí sola tampoco garantiza la exactitud.
Los diseñadores deben considerar la calidad de la explicación, la claridad con que se presenta y la manera de integrar la evidencia de respaldo en un diálogo útil.
Permitir que los agentes piensen con amplitud y luego sinteticen los resultados:
La IA puede analizar un problema a fondo y presentar los resultados en un formato fácil de asimilar. Los resúmenes jerárquicos y la divulgación progresiva permiten que los usuarios comiencen por el hallazgo principal y amplíen los detalles de respaldo solo cuando los necesiten.
Una interacción bien diseñada puede facilitar la exploración de información compleja sin sacrificar profundidad ni claridad.
Proporcionar citas y referencias que se puedan explorar:
Las respuestas generadas por IA deben ofrecer a los usuarios una forma clara de consultar las fuentes de respaldo. Esto podría incluir enlaces, extractos de informes internos, resultados de investigaciones pertinentes o una vista más detallada de los datos cuantitativos.
Por ejemplo, en los sistemas de generación aumentada por recuperación, los usuarios deberían poder pasar de un resumen de IA a la evidencia que lo respalda. Esto facilita la verificación y permite realizar el análisis más profundo que genera confianza.
Comunicar señales importantes de progreso:
Los flujos de trabajo complejos de los agentes pueden implicar cambiar de dirección, retomar pasos anteriores o combinar varias líneas de investigación. Los usuarios toleran mejor las demoras cuando comprenden qué está ocurriendo. Las actualizaciones claras de progreso pueden explicar qué completó el agente, qué está haciendo y qué sigue.
El agente también debe explicar cuándo está atascado o cuándo una decisión requiere perspectivas adicionales.
Revelar los resultados de la IA paso a paso:
En lugar de presentar una respuesta completa de una sola vez, un agente puede revelar la información por etapas. Por ejemplo, un asistente de inversiones podría mostrar una recomendación breve con la opción de ampliar su justificación: “Paso 1: evaluar el perfil de riesgo. Paso 2: revisar la cartera actual. Paso 3: identificar oportunidades de diversificación. Paso 4: formular una recomendación”. Quienes deseen más detalles pueden explorar cada paso, mientras que los demás pueden quedarse con el resumen.
Usar explicaciones visuales del razonamiento de la IA:
Las explicaciones deben ser tan comprensibles como el resultado principal. Cuando el razonamiento incluye números o relaciones, las gráficas y los diagramas pueden ayudar. Visualizar las consultas, el proceso, el razonamiento y las fuentes de un agente también puede ayudar a los usuarios a corregir su rumbo, explicar el resultado a otras personas o repetir el proceso más adelante.
Las explicaciones visuales claras ayudan a los usuarios a comprender la información y actuar al respecto con mayor rapidez.