A IA voltada para clientes representa sua marca e exige um trabalho de natureza totalmente diferente das ferramentas internas.
A diferença entre um agente funcional e um convincente é mais conceitual do que técnica, pois a maioria dos prompts é escrita como um conjunto de instruções, não como um projeto de diálogo.
Uma perspectiva melhor vem da linguística e da psicologia cognitiva: conversas têm estrutura, e prompts criam um ambiente de atenção. O que você coloca no início, o que repete e como encerra influenciam de forma consistente o comportamento do agente.
Restrições ajudam, mas apenas quando são precisas. Casos extremos demais produzem interações engessadas e prompts difíceis de manejar. Reduzir o número de decisões permite concentrar-se nas mais importantes.
Criar uma IA conversacional voltada para clientes é uma tarefa intimidadora para qualquer empresa.
Mesmo para quem adota intensamente a tecnologia, já incorporou a colaboração com IA ao trabalho de cada funcionário e talvez até tenha desenvolvido ferramentas personalizadas de IA para uso interno, promover a IA à condição de interface entre sua empresa e o mundo é algo completamente diferente.
E é mesmo uma promoção. Quando passa a atender clientes, a IA deixa de ser uma estagiária esforçada e se torna uma funcionária endossada: veste o uniforme e representa a marca aos olhos dos clientes.
Há muito em jogo. Agora, cada deslize é público e pode ser registrado.
Os produtos que criamos costumam ser sistemas multiagente com interações complexas no âmbito dos negócios. No entanto, essa lógica pode ser a parte mais fácil. O maior desafio é convencer os usuários de que estão falando com um único agente o tempo todo e de que vale a pena ouvir o que ele tem a dizer.
Por isso, escrevemos e reescrevemos prompts sem parar.
Alguns agentes são resultado de centenas de iterações de prompts. Todos têm o mesmo objetivo: manter o foco na tarefa e falar com uma voz que repercuta entre usuários humanos.
Nossa experiência com o processo de aprimoramento de prompts nos levou a buscar inspiração de maneira criativa. Começamos a tomar emprestadas ideias de outras disciplinas. É claro que nem tudo funcionou, e o que funcionou raramente deu certo na primeira tentativa. Como resultado dessas explorações, surgiu em nossa equipe um paradigma diferente para a criação de prompts.
A diferença entre um agente que funciona de maneira sistemática e outro que conversa com brilhantismo não é apenas técnica, mas conceitual. É a distância entre o mundo em que você posicionou o agente por meio do prompt e o mundo real da comunicação humana em que ele atua.
Este último é marcado pela ambiguidade, à qual os seres humanos estão bem adaptados e que interlocutores bem-intencionados navegam de forma cooperativa por meio de regras discursivas sutis e implícitas. É fácil identificar um agente despreparado.
Para preservar a quarta parede, ou a ilusão de Turing, podemos fundamentar nossos agentes na arte do diálogo usando conhecimentos da linguística e da psicologia cognitiva.
A linguística dispõe de todo um conjunto de ferramentas para estudar a linguagem em ação, incluindo a Análise da Conversação, que examina como as pessoas estruturam e conduzem conversas momento a momento. Aplicado à criação de prompts, esse referencial nos oferece um vocabulário para pensar na conversa não como uma troca de palavras, mas como uma troca de ações.
Algumas ações são práticas, como obter ou fornecer informações; outras são sociais, como manter uma boa relação ou evitar atritos. Esses movimentos ocorrem dentro da estrutura mais ampla do diálogo e de suas fases, cada qual com ações esperadas. Diálogos têm abertura e encerramento, mas também transições de assunto e até pré-transições: aqueles momentos, às vezes constrangedores, em que uma nova direção é proposta sutilmente, negociada e decidida nas entrelinhas.
Falhas de comunicação acontecem o tempo todo, mesmo quando todas as partes têm as melhores intenções. Embora as pessoas dominem a arte do diálogo em diferentes graus, o ponto é que o LLM por trás do seu agente não vem de fábrica com a intuição que até mesmo um interlocutor humano mediano possui.
Além da análise linguística, a psicologia cognitiva oferece uma perspectiva complementar. Ela explica como atenção, memória e tomada de decisões realmente funcionam: o peso que as pessoas dão ao que vem primeiro ou por último, como estímulos específicos produzem comportamentos consistentes e como restrições podem dar liberdade ao reduzir a carga cognitiva.
Um prompt não é um recipiente neutro para instruções. É um ambiente de atenção. Portanto, o que aparece no início importa. O que aparece no final importa. O que se repete importa. Diante de uma lista, as pessoas tendem a se lembrar mais facilmente do início e do fim do que do meio. Na psicologia, isso é chamado de efeito de posição serial: primazia e recência.
Na prática, observamos algo semelhante nos LLMs. As primeiras orientações estabelecem o contexto: quem é o agente, qual papel desempenha e que tipo de mundo espera encontrar. As orientações finais costumam funcionar como “a última coisa que ele ouve”. Se colocarmos ali as instruções mais importantes, será mais provável que elas sejam seguidas.
Ao mesmo tempo que avaliamos cuidadosamente onde posicionar cada instrução no prompt, também devemos acompanhar o formato geral dos limites que essas instruções criam para o agente.
As instruções funcionam como restrições para o agente, reduzindo o número de possibilidades concorrentes que ele precisa resolver e delimitando o espaço geral do problema. Nossos prompts precisam de restrições suficientes para tornar a tarefa do agente administrável.
Ao instruir funcionários, especialmente os menos experientes, a psicologia indica que é sensato eliminar ambiguidades da tarefa e, assim, reduzir ao máximo a carga cognitiva. Embora restrições possam parecer inibidoras, ter menos decisões a tomar nos deixa livres para focar nas poucas decisões importantes que restam e aplicar criatividade ao agir dentro dos limites.
Por outro lado, tentar eliminar todas as decisões do agente cobrindo cada caso extremo imaginável com listas de exemplos de comportamento é uma ótima maneira de criar um interlocutor engessado, sem falar em um prompt-Frankenstein, cheio de “ses” e “senões”, difícil de manejar e um pesadelo de administrar.
(Few-shots, estamos falando de vocês.)
Um prompt bem delimitado oferece clareza de direção suficiente sem sobrecarregar as instruções nem paralisar o agente. Muitas vezes, isso significa apresentar menos casos extremos ou objetivos ao agente, tanto em relação ao que dizer ou não dizer quanto a como dizer ou não dizer.
Em nossa experiência, se você recorre a um few-shot para ajustar seus limites, é porque eles não têm precisão. Volte às instruções principais e refine-as.
Do ponto de vista da psicologia cognitiva, temos refletido sobre onde posicionar diferentes instruções em um prompt e considerado tanto a quantidade quanto a qualidade das instruções necessárias para delimitar da melhor forma o espaço do problema do agente.
Retomando nossas observações anteriores sobre a arte do diálogo sob a perspectiva linguística, podemos completar nosso paradigma de prompting ao enquadrar as instruções voltadas ao diálogo como parte dos limites mais amplos da tarefa do agente.
Para uma IA voltada para clientes, o diálogo é sempre a metatarefa, quer reconheçamos isso ou não. Quando decidimos abordar o diálogo de forma intencional no prompt, dedicamos parte da capacidade, ou “carga cognitiva”, do agente à percepção do diálogo e à capacidade de responder a ele, melhorando assim sua habilidade de conversar.
Porém, para manter um espaço geral do problema bem delimitado e administrável, provavelmente teremos de reduzir o tamanho da tarefa principal.
Assim, para uma IA voltada para clientes, criamos de forma integrada as condições para melhores diálogos e decisões. Buscamos agentes menores e bem delimitados, cuja tarefa principal seja contextualizada pela metatarefa do diálogo ou a inclua. Não escrevemos pilhas de instruções que precisam ser refinadas por meio de exemplos. Escrevemos um conjunto menor de instruções refinadas, com precisão suficiente para tornar os exemplos desnecessários.
Esse é o paradigma de prompting que usamos para criar agentes que não apenas mantêm o foco na tarefa, mas também o fazem com elegância na conversa.
Com o panorama conceitual traçado, adotaremos uma abordagem mais prática em nosso próximo artigo. Veremos alguns padrões importantes que surgiram de nossas tentativas de aplicar esses princípios a prompts por meio de testes e erros no mundo real. Curiosamente, provedores de modelos de fronteira estão começando a refletir padrões semelhantes em suas próprias orientações para a criação de prompts. Mais sobre isso na próxima vez.