Navegação principal

Como projetar soluções de IA: padrões emergentes no design de experiências

Seis padrões emergentes de design mostram como as pessoas podem colaborar de forma mais eficaz com grandes modelos de linguagem e agentes de IA.

Todos já tivemos interações decepcionantes com IA ou conhecemos pessoas que "odeiam chatbots", muitas vezes porque a experiência "básica" não é útil, valiosa nem agradável. Essa decepção costuma ter menos relação com os recursos de um modelo do que com a própria experiência: a interação entre pessoas, um agente de IA e o resultado desejado. Essa é uma barreira significativa à adoção, sobretudo em ambientes corporativos, nos quais interações mal projetadas podem causar sobrecarga, ignorar o contexto em tempo real ou desconsiderar a intenção e o comportamento do usuário.

A partir dessa perspectiva, identificamos os benefícios oferecidos por cada padrão, os desafios de design envolvidos e orientações práticas para aplicá-lo. Esses padrões se aplicam a diferentes tipos e modalidades de interação, criando oportunidades tanto para experiências voltadas ao consumidor quanto para soluções internas de IA que ajudam profissionais do conhecimento a tomar decisões melhores.

Queremos compartilhar os padrões emergentes que observamos — ao criar e experimentar diversas soluções de IA generativa — para ajudar a projetar relações melhores entre pessoas e IA.

Por que consideramos importantes esses padrões emergentes de design?

Muitas de nossas interações com a tecnologia, seja como profissionais do conhecimento ou consumidores, tornam as tarefas cotidianas mais difíceis do que deveriam ser. Elas limitam nossa produtividade, eficácia e geração de valor.

Tanto profissionais do conhecimento quanto consumidores podem se sentir sobrecarregados pelo enorme volume de informações, escolhas e ferramentas disponíveis. Essa enxurrada constante de mensagens muitas vezes contraditórias dificulta tomar decisões claras ou manter o foco. Pesquisas indicam que os funcionários passam até 40% do dia de trabalho apenas procurando as informações de que precisam (McKinsey). Essa sobrecarga de informações afeta tanto a produtividade quanto o bem-estar.

Também temos uma capacidade limitada de atenção. Mesmo quando encontramos informações, não conseguimos processar nem analisar tudo o que é necessário para tomar uma decisão bem fundamentada. Só conseguimos nos concentrar em uma pequena parcela dos dados disponíveis por vez, muitas vezes nos apegando a crenças ou ideias existentes que limitam nossa capacidade de considerar alternativas ou identificar padrões inesperados.

As próprias ferramentas muitas vezes não reconhecem essas limitações. A maior parte da tecnologia é projetada para "médias" — soluções universais que não se adaptam aos contextos individuais. Seja em softwares de trabalho ou aplicativos voltados ao consumidor, essas ferramentas raramente consideram nossas necessidades, restrições ou circunstâncias específicas. Como resultado, a tecnologia pode se tornar ineficiente ou contraproducente. A IA generativa oferece a oportunidade de criar interações mais adaptáveis e pessoais.

Por fim, muitos ambientes de trabalho geram sofrimento desnecessário. O volume crescente de "tarefas burocráticas", a pressão para estar "sempre disponível" e as atividades repetitivas de baixo valor contribuem para a falta de engajamento e o estresse crônico. Embora a IA generativa e os agentes de IA possam reduzir ou eliminar essas experiências, muitas pessoas ainda desconfiam da capacidade da IA de melhorar o trabalho como um todo. As pessoas podem resistir à ideia de a "IA assumir o controle" por medo de perder espaço ou por sentirem que o trabalho lhes pertence — até mesmo as tarefas de que não gostam.

Aplicar IA, por si só, não é uma solução. Uma IA mal integrada pode criar novas tarefas e ansiedades, especialmente para profissionais do conhecimento. Esses desafios demonstram a necessidade de interações entre pessoas e IA que não sejam apenas eficientes, mas também alinhadas às nossas capacidades cognitivas, circunstâncias individuais e restrições do mundo real. Os seis padrões a seguir apresentam abordagens que reconhecem as necessidades das pessoas e promovem uma relação mais adaptável, transparente e significativa com a IA.

Seis padrões emergentes de design para a interação entre pessoas e IA

Diagrama mostrando seis padrões de design de experiências entre pessoas e IA: curadoria, feedback, consciência situacional, descoberta contínua, amplificação e raciocínio transparente.

A relação entre padrões emergentes de design e princípios para experiências de IA eficazes e centradas nas pessoas.

  • Curadoria: IA como um menu inteligente — A IA seleciona e organiza informações, reduzindo a sobrecarga ao ajudar as pessoas a navegar por vastos conjuntos de dados.

  • Feedback: IA como parceira de raciocínio — A IA fornece feedback instigante em tempo real, questiona premissas e oferece perspectivas alternativas.

  • Consciência situacional: IA que entende o aqui e agora — A IA se adapta ao contexto em tempo real ao processar continuamente informações do ambiente e necessidades do usuário.

  • Descoberta contínua: transformando cada interação em pesquisa com usuários — A IA usa cada interação para revelar insights e refinar sua compreensão, garantindo aprendizagem e melhoria contínuas.

  • Amplificação: aprimorando a entrada do usuário para gerar resultados melhores — A IA melhora a entrada do usuário nos bastidores e preserva sua intenção original.

  • Mostrando o processo: raciocínio transparente da IA — A IA torna seu processo decisório visível e útil, promovendo confiança e ajudando os usuários a tomar decisões mais bem fundamentadas.

Esses seis padrões mostram que soluções de IA eficazes exigem mais do que uma interface bem projetada. Eles moldam a forma como pessoas e agentes de IA se coordenam, tomam decisões e interagem em sistemas complexos de conhecimento. Os padrões melhoram a interação entre pessoas e IA ao:

  1. Priorizar a troca de conhecimento em duas vias: Promova um diálogo no qual a IA e as pessoas contribuam com ideias, contexto e insights. Isso favorece sistemas de IA mais capazes, orientados por conhecimento especializado e intuições que ainda não foram formalizados.

  2. Criar experiências que se adaptem e mudem conforme as circunstâncias: Ferramentas de IA podem se tornar obsoletas ou irrelevantes rapidamente. Sistemas que mantêm consciência situacional, aprendem continuamente e se adaptam às circunstâncias de cada usuário permanecem úteis ao longo do tempo.

  3. Aumentar a confiança: Interações transparentes e colaborativas reduzem as barreiras à adoção, aumentam o engajamento e melhoram as decisões tanto das pessoas quanto da IA. Um design cuidadoso ajuda as pessoas a manter a confiança nas decisões e nos resultados de um sistema ao longo do tempo.

Resumo: indo além do bot

Projetar experiências eficazes com IA é desafiador, mas abordagens comprovadas podem ajudar. Os princípios fundamentais de compreender os usuários e criar experiências úteis continuam válidos, junto às novas questões introduzidas por sistemas de IA com capacidade de agir. Experiências que selecionam informações com eficácia, oferecem feedback útil e aprendem com transparência podem reduzir a sobrecarga, melhorar as decisões e gerar confiança.

Esses padrões ajudam a superar obstáculos comuns à adoção, tornando a IA realmente útil, adaptável e mais valiosa para todos os envolvidos.

O guia a seguir explora cada padrão em mais detalhes e explica como ele pode contribuir para uma experiência mais ampla com IA.

1. Curadoria: IA como um menu inteligente

O que é: Em vez de vasculhar manualmente uma infinidade de resultados de busca ou documentos, os usuários podem contar com agentes de IA para selecionar informações em vastos conjuntos de dados e apresentar os insights mais relevantes. Em essência, a IA se torna uma bibliotecária, organizando o conhecimento de acordo com o contexto do usuário.

Por que é útil: Porque reduz a sobrecarga de informações. Em média, profissionais do conhecimento passam 1,8 hora por dia procurando informações, o que contribui para o esgotamento de muitos funcionários (McKinsey). A curadoria orientada por IA enfrenta esse problema ao indexar, encontrar e combinar informações de diversas fontes, ajudando os usuários a descobrir informações, opções e insights que poderiam passar despercebidos em uma busca tradicional.

O desafio: Passar da busca tradicional baseada em interfaces para uma abordagem assistida por agente exige que os usuários ajustem suas expectativas. As pessoas estão acostumadas a analisar listas de links ou apertar botões para filtrar um conjunto de dados. Já uma IA de curadoria sintetiza respostas com base em fontes cuja existência os usuários talvez desconheçam. Isso pode reduzir a sensação de controle dos usuários sobre a filtragem e exigir que confiem nas escolhas do agente. Mecanismos de busca conhecidos podem ajudar as pessoas a se adaptar à curadoria orientada por IA sem perder confiança nem controle.

Diagrama mostrando como padrões conhecidos de interface ajudam um agente de IA a selecionar informações e orientar a descoberta.

Como a OpenAI usa padrões conhecidos de interação para apoiar a descoberta de informações estruturadas e não estruturadas.

Abordagens úteis para a curadoria com IA

Apresente mecanismos de busca como interações conhecidas:

Para facilitar a transição da busca tradicional, ofereça interações conhecidas em vez de telas em branco. Os usuários se sentirão mais à vontade quando a experiência aproveitar opções reconhecíveis, questionários e sugestões contextuais.

Use botões como prompts em vez de exigir respostas abertas:

Inserir texto livre pode parecer intimidador ou demorado. Botões predefinidos ou gerados automaticamente tornam a curadoria mais acessível. Por exemplo, "Filter by most recent", "Compare pricing" e "Include global sources" podem ajudar os usuários a refinar os resultados. Isso reduz a barreira de participação, incentiva a exploração e ajusta as recomendações da IA à intenção do usuário.

Permita que os usuários contem uma história para refinar os resultados da busca:

Às vezes, contar uma história comunica as necessidades do usuário com mais eficácia do que consultas diretas ou filtros. Em situações complexas — como navegar por painéis densos ou procurar o produto certo —, as pessoas podem se sentir sobrecarregadas pelas ferramentas tradicionais ou não saber quais parâmetros ajustar.

Quando os usuários podem "contar sua história" — descrevendo um problema, objetivo pessoal ou produto desejado —, a IA consegue transformar essa narrativa em parâmetros estruturados de busca. Por exemplo, alguém que diga "I just moved into a smaller home and need versatile, budget-friendly storage solutions" poderia receber sugestões selecionadas de produtos, dicas práticas e recomendações relevantes.

Ao adotar narrativas, você não só reduz o esforço cognitivo de decidir quais filtros aplicar, como também promove mais confiança e clareza nos resultados finais da curadoria.

Use memes e referências culturais para personalizar a descoberta:

Os memes podem ajudar a curadoria com IA de duas formas: enriquecem a compreensão do agente sobre o usuário e dão vida aos resultados da busca de maneira mais humana e próxima. Primeiro, ao selecionar ou mencionar memes que representem seus objetivos, humor ou estilo ("I'm feeling the 'Treat Yo Self' vibe today!"), os usuários compartilham efetivamente sua "teoria da mente" com a IA. Isso ajuda o agente a ajustar a curadoria ao inferir um contexto que poderia se perder em uma interface gráfica convencional ou consulta de texto.

Segundo, o agente pode apresentar os resultados em "kits iniciais" temáticos ou inspirados na cultura pop, tornando as recomendações mais relevantes e personalizadas. Por exemplo, se alguém estiver reformulando um escritório em casa, a IA poderá criar um "WFH starter pack" que combine acessórios de mesa, tecnologia e inspiração.

Dê clareza ao usuário por meio das próximas melhores ações:

Independentemente de os resultados de um agente de IA acertarem ou não, os usuários devem conseguir refinar os parâmetros com facilidade. Por exemplo, podem pedir "Show me more like item 2" ou "Exclude sources older than 2020". Sugestões de próximas ações podem orientar novos usuários sem sobrecarregá-los.

2. Feedback: IA como parceira de raciocínio

O que é: Agentes de IA costumam ser discutidos como uma forma de delegar trabalhos tradicionalmente realizados por pessoas. Sua capacidade de atuar como colaboradores em tempo real recebe menos atenção. Em vez de apenas seguir instruções ou gerar conteúdo, um agente pode fazer perguntas instigantes, questionar premissas e oferecer perspectivas alternativas. Isso transforma a IA em uma parceira de raciocínio que ajuda os usuários a aprimorar o trabalho à medida que ele evolui.

Por que é útil: Todos nos beneficiamos de feedback oportuno, mas nem sempre o recebemos. Tanto a discordância quanto o apoio podem nos ajudar a identificar padrões antes que nos apeguemos demais a uma ideia. Agentes de IA podem questionar nossas premissas, gerar ideias e sugerir interpretações alternativas dos dados sem substituir o julgamento humano. Constatamos que as pessoas costumam reagir bem a esse tipo de feedback com agentes de IA.

Agentes de IA podem gerar contra-argumentos que revelem falhas no raciocínio ou destaquem perspectivas alternativas.

O desafio: O feedback da IA precisa ser intuitivo e prático; caso contrário, vira uma distração. As pessoas não querem um agente que interrompa com sugestões irrelevantes ou critique cada detalhe. A IA deve intervir nos momentos adequados e com o tom certo. Se for passiva demais, oportunidades úteis serão perdidas; se for agressiva demais, os usuários poderão sentir que suas decisões estão sendo constantemente questionadas.

O desafio está em como apresentar o feedback da IA: como dicas, uma revisão opcional ou um diálogo de mão dupla? Acertar na interação determinará se os usuários adotarão a IA como parceira ou se verão nela apenas um Clippy 2.0.

Abordagens úteis para um feedback de IA intuitivo e prático

Garanta que o feedback seja proativo, mas não irritante:

Permita que a IA ofereça sugestões em pontos naturais de pausa. Em um editor de documentos, por exemplo, ela poderia esperar a conclusão de uma frase ou parágrafo antes de sugerir uma revisão. Também exploramos a possibilidade de o agente esperar alguns instantes após a seleção de um campo de texto vazio antes de oferecer ajuda. O tom importa: "Here's an idea to consider..." soa mais construtivo do que uma afirmação direta.

Transforme o feedback em um diálogo exploratório:

Se o feedback não estiver claro, facilite para que os usuários façam perguntas como "Why do you suggest changing this?" Uma persona de IA curiosa pode tornar a conversa mais construtiva. Como um terapeuta ou facilitador atencioso, o agente pode fazer perguntas relevantes no momento certo, transformando o feedback em uma conversa que ajuda o usuário a aprender.

Isso também ajuda a IA a reunir contexto, permitindo que o usuário e o agente desenvolvam uma compreensão compartilhada mais clara.

Ofereça várias opções, ideias ou alternativas:

Em vez de oferecer uma única ideia, solução ou provocação, um agente pode apresentar várias perspectivas. Por exemplo, um agente de design poderia gerar três layouts alternativos, enquanto um agente de redação sugeriria diferentes versões de uma frase para públicos distintos. Oferecer opções reforça que o usuário continua no controle.

Garanta que o feedback considere o contexto:

O agente deve adaptar seu papel de "parceiro de raciocínio" ao contexto atual do usuário. Se alguém fizer uma pausa diante de uma pergunta ou campo de texto, a IA poderá fazer uma pergunta instigante em vez de se antecipar com uma resposta completa. Quando o usuário só precisa reformular uma frase, uma sugestão concisa que possa ser aceita ou rejeitada ajuda a preservar sua autoria.

Acima de tudo, a IA precisa saber quando recuar — trocas prolongadas podem criar um "ciclo interminável" de edições e minar a confiança do usuário. Ao se manter atenta ao contexto e às ações do usuário, a IA pode adaptar seu feedback para ser realmente útil sem ultrapassar limites.

3. Consciência situacional: IA que entende o aqui e agora

O que é: Consciência situacional é a capacidade de um agente interpretar informações contextuais em tempo real e ajustar seu comportamento de acordo com elas. Em vez de depender apenas de entradas predeterminadas, agentes de IA podem processar continuamente informações sobre o ambiente, o estado atual do usuário e outras condições relevantes.

Isso pode significar adaptar uma interface às necessidades imediatas do usuário ou interpretar as condições atuais do mercado para tornar as respostas mais relevantes.

Por que é útil: O mundo real não é estático. Sistemas de IA com consciência situacional podem ser mais úteis porque respondem às condições atuais. Quando um agente entende o contexto relevante, as interações parecem mais naturais, personalizadas e fundamentadas.

O desafio: Criar uma IA com verdadeira consciência situacional é difícil. Acessar e integrar os dados necessários pode introduzir uma complexidade técnica significativa.

Há uma linha tênue entre uma percepção útil do contexto e uma intromissão invasiva. Os usuários valorizam um agente que "entende a situação", mas podem se sentir desconfortáveis se ele solicitar informações demais ou parecer excessivamente insistente. Como as circunstâncias podem mudar rapidamente, o conhecimento especializado e o julgamento humano continuam essenciais.

Portanto, um sistema de IA eficaz precisa da contribuição dos usuários para manter uma compreensão útil e atualizada das circunstâncias deles.

Abordagens úteis para ajudar a IA a se adaptar a uma situação

Mostre aos usuários como é um bom contexto:

Modelos de raciocínio como o OpenAI o1 mudaram a forma como as pessoas fornecem contexto a grandes modelos de linguagem. Independentemente do modelo, um contexto detalhado favorece respostas mais relevantes. Exemplos claros, textos de espaço reservado e dicas expansíveis podem mostrar quais informações fornecer e explicar por que elas são importantes.

Mostrar explicitamente ao usuário como é um "bom contexto" elimina as dúvidas que poderiam impedi-lo de fornecer detalhes relevantes.

Facilite a definição dos limites do agente:

As necessidades imediatas do usuário são importantes, mas podem não ser óbvias. Um agente com consciência situacional pode trabalhar com o usuário para definir os temas, domínios e ferramentas que deverá explorar. A pesquisa aprofundada no ChatGPT adota essa abordagem ao fazer perguntas de esclarecimento antes de iniciar uma tarefa de pesquisa.

Ofereça um contexto visível para edições e acréscimos rápidos:

Os usuários podem precisar de um retrato do que a IA pressupõe atualmente sobre seus objetivos, foco e fontes de dados. Um painel dedicado pode explicar a data de corte do conhecimento, as premissas atuais e as entradas relevantes. Um ícone poderia indicar quando dados de localização estão sendo usados, enquanto um resumo mostraria quantos registros contribuíram para um insight.

É útil para as pessoas ver o que a IA "sabe" e poder adicionar, remover ou atualizar o contexto relevante com o mínimo de atrito.

Permita que a IA selecione recursos da interface conforme a utilidade:

Agentes de IA podem ativar ou desativar recursos seletivamente com base em sinais situacionais. Quando alguém estiver redigindo um relatório técnico, um agente poderá ativar ferramentas avançadas de citação; ao editar notas de apresentação, poderá destacar recursos de edição. Isso promove experiências focadas sem exigir que os usuários gerenciem cada configuração manualmente.

4. Descoberta contínua: transformando cada interação em uma oportunidade de pesquisa com usuários

O que é: O design de experiências e o desenvolvimento de produtos costumam tratar a pesquisa com usuários como uma etapa separada, realizada no início de um projeto ou em intervalos definidos. A descoberta contínua trata a compreensão do comportamento, das necessidades e das preferências dos usuários como um processo permanente. A IA pode transformar conversas, cliques e feedback em oportunidades para revelar insights que os usuários talvez não expressem de forma explícita.

Em essência, a IA continua aprendendo e se adaptando ao espaço do problema em tempo real.

Por que é útil: Pode ser difícil obter feedback útil de especialistas, profissionais e usuários em geral sobre a eficácia ou a usabilidade de um resultado gerado por IA. Os agentes podem ajudar a registrar reações, insights e intuições dentro do contexto, enquanto a experiência ainda está fresca na memória.

O desafio: Muitas vezes, o feedback registra o que aconteceu ou se o usuário gostou do resultado, mas não explica o motivo. Pedir às pessoas que se lembrem e documentem cada etapa do próprio raciocínio pode ser cansativo, mesmo quando esses insights melhorariam os recursos futuros de um sistema.

Isso é particularmente importante em sistemas de IA muito restritos, nos quais uma conversa aberta pode não ser desejável nem possível.

Abordagens úteis para a descoberta contínua com IA

Use marcadores descritivos para registrar reações:

Um simples "curtir" ou "não curtir" raramente explica a reação do usuário. Marcadores descritivos — como "útil para planejar o orçamento" ou "faltam informações regulatórias" — fornecem um contexto mais útil. Esses marcadores podem refletir a interação atual ou convidar os usuários a compartilhar uma breve perspectiva, transformando uma avaliação em informações com as quais a IA pode aprender.

Oriente agentes de IA com "cartões de estudo":

Quando a IA cometer um erro ou tiver sucesso apenas parcial, ofereça aos usuários uma forma simples de corrigi-la ou "ensiná-la". Por exemplo, um agente poderia perguntar: "How would you phrase it?" ou "What detail did we miss?" As orientações resultantes podem ser armazenadas para a interação atual ou reutilizadas depois.

Aprenda com iterações e variações:

Às vezes, o melhor feedback vem de uma nova tentativa. Controles simples de regeneração permitem que os usuários comparem novas opções e identifiquem suas preferidas. Essas escolhas conectam a entrada original a um resultado mais útil e tornam a experimentação parte do processo de aprendizagem.

Observe as interações:

Agentes de IA podem trabalhar juntos para aprender com diversas interações. Por exemplo, enquanto um agente cria um resumo de pesquisa, outro pode analisar a conversa para avaliar a experiência. Agindo como etnógrafos, esses agentes podem identificar diferenças entre a intenção de uma pessoa e a percepção dela sobre a qualidade do resultado.

Essas observações podem promover a melhoria contínua ao revelar insights e sugerir mudanças no sistema.

5. Amplificação: aprimoramento invisível da entrada do usuário para gerar resultados melhores

O que é: A amplificação adapta a entrada, o prompt ou a instrução do usuário para gerar um resultado melhor, preservando a intenção original. A IA realiza nos bastidores um trabalho adicional que vai além da solicitação explícita. Por exemplo, o "shadow prompting" pode enriquecer uma consulta antes que o sistema gere uma resposta.

O usuário fornece uma ideia inicial, e o agente expande essa entrada quando isso pode melhorar o resultado.

Por que é útil: As pessoas costumam fornecer instruções breves ou gerais, embora a melhor resposta possa exigir etapas adicionais. Agentes de IA podem preencher essa lacuna sem exigir que os usuários expliquem tudo. Por exemplo, pedir a uma IA para "brainstorm marketing ideas for my new coffee product" poderia gerar apenas uma lista genérica.

Uma abordagem amplificada poderia conduzir várias sessões de brainstorming cada vez mais ambiciosas e combinar as ideias mais fortes, gerando um resultado mais rico e variado.

O desafio: Trabalhar nos bastidores pode reduzir a sensação de autoria e transparência para o usuário. Se uma IA modificar a solicitação de alguém sem explicar a mudança, poderá gerar um resultado que o usuário não queria. Os designers precisam equilibrar uma amplificação útil com o risco de manipulação indesejada.

O desafio de design é permitir que os usuários orientem a amplificação quando quiserem.

Abordagens úteis para amplificar a entrada do usuário

Preserve a intenção do usuário e desenvolva-a:

A amplificação deve aprimorar os objetivos declarados pelo usuário sem introduzir novos objetivos. Depois que a IA expandir um prompt ou concluir tarefas em segundo plano, ela ou um validador separado deverá comparar o resultado final à solicitação original. Adições inesperadas devem ser comunicadas com clareza.

Use a amplificação para promover segurança e criatividade:

Técnicas como o shadow prompting podem gerar preocupações quanto à reformulação oculta das solicitações dos usuários. Para manter a confiança, use-as para melhorar a clareza, a segurança ou a abrangência sem comprometer a intenção do usuário. Se for necessário um ajuste de segurança, explique-o ou forneça feedback imediato.

Os usuários podem ver o resultado de uma moderação sem conhecer a lógica ou os critérios subjacentes.

Aproveite técnicas de facilitação testadas e aprovadas:

Agentes de IA podem aplicar métodos de facilitação e colaboração, como as Liberating Structures, para promover interações produtivas. Essas estruturas leves ajudam a maximizar o potencial criativo e analítico das pessoas.

Durante uma conversa, o agente pode recorrer a métodos conhecidos de brainstorming e filtragem de ideias. Pequenas mudanças na condução da conversa podem gerar uma variedade maior de ideias e insights.

Use linhas paralelas para revelar conteúdo útil:

Em vez de depender de uma única conversa linear, um agente pode explorar simultaneamente várias interpretações, ideias ou soluções. Isso se assemelha a um grupo de especialistas fazendo brainstorming sob diferentes perspectivas, sem perder insights úteis.

Um processo de coordenação pode combinar essas diferentes linhas de exploração em uma resposta coerente e prática.

Use a amplificação para ensinar os usuários:

Uma amplificação bem projetada também pode ajudar as pessoas a aprender a interagir com a IA de forma mais eficaz. Se um agente explicar "I considered X and Y in my answer", os usuários poderão incluir esses fatores em solicitações futuras. Isso gera uma melhoria em duas frentes: respostas melhores agora e entradas melhores ao longo do tempo.

6. Mostrando o processo: raciocínio e processo de pensamento transparentes da IA

O que é: Esse padrão facilita a compreensão do raciocínio dos agentes de IA. Interações bem planejadas podem explicar por que um agente produziu determinada resposta, destacar fontes de apoio ou tornar visíveis etapas relevantes do processo. O objetivo é promover decisões humanas eficazes sem sobrecarregar o usuário.

A apresentação do raciocínio relevante funciona melhor quando os usuários podem explorá-lo aos poucos e escolher o nível de detalhe necessário.

Por que é útil: A confiança é essencial para a adoção da IA, sobretudo em ambientes corporativos. As pessoas tendem a confiar menos em um sistema quando não conseguem compreender nem verificar seu comportamento. Resultados transparentes facilitam o diagnóstico de problemas, a correção de erros e a repetição de abordagens úteis.

O desafio: Explicar as decisões da IA pode ser difícil. Detalhes em excesso podem sobrecarregar os usuários, enquanto probabilidades ou longos resumos de raciocínio podem ser difíceis de interpretar. A transparência, por si só, também não garante precisão.

Os designers precisam considerar a qualidade da explicação, a clareza de sua apresentação e como as evidências de apoio podem integrar um diálogo útil.

Abordagens úteis para resultados de IA transparentes e confiáveis

Permita que os agentes pensem de forma abrangente e depois sintetizem os resultados:

A IA pode analisar um problema em profundidade e, ao mesmo tempo, apresentar os resultados em um formato fácil de assimilar. Resumos hierárquicos e a divulgação progressiva permitem começar pelo insight principal e expandir os detalhes de apoio somente quando necessário.

Uma interação bem projetada pode facilitar a exploração de informações complexas sem sacrificar profundidade nem clareza.

Forneça citações e referências exploráveis:

Respostas geradas por IA devem oferecer aos usuários uma forma clara de consultar as fontes de apoio. Isso pode incluir links, trechos de relatórios internos, resultados relevantes de pesquisas ou uma visão mais aprofundada dos dados quantitativos.

Em sistemas de geração aumentada por recuperação, por exemplo, os usuários devem conseguir passar de um resumo da IA para as evidências que o sustentam. Isso favorece a verificação e permite uma investigação mais profunda, que gera confiança.

Comunique sinais importantes de progresso:

Fluxos de trabalho complexos com agentes podem envolver mudanças de direção, retomada de etapas anteriores ou combinação de várias linhas de investigação. Os usuários toleram atrasos com mais facilidade quando entendem o que está acontecendo. Atualizações claras de progresso podem explicar o que o agente concluiu, o que está fazendo e o que virá depois.

O agente também deve explicar quando está bloqueado ou quando uma decisão exige perspectivas adicionais.

Revele os resultados da IA passo a passo:

Em vez de apresentar uma resposta inteira de uma só vez, um agente pode revelar as informações em etapas. Um assistente de investimentos, por exemplo, poderia mostrar uma breve recomendação com a opção de expandir a justificativa: "Step 1: Assess the risk profile. Step 2: Review the current portfolio. Step 3: Identify diversification opportunities. Step 4: Formulate a recommendation." Os usuários que quiserem mais detalhes poderão explorar cada etapa; os demais poderão ficar apenas com o resumo.

Use explicações visuais do raciocínio da IA:

As explicações devem ser tão compreensíveis quanto o resultado principal. Quando o raciocínio envolver números ou relações, gráficos e diagramas podem ajudar. Visualizar as consultas, o processo, o raciocínio e as fontes de um agente também pode ajudar os usuários a corrigir seu rumo, explicar o resultado a outras pessoas ou repetir o processo depois.

Explicações visuais claras ajudam os usuários a compreender as informações e agir com mais rapidez.

Autor

Sam Netherwood