A maior parte da engenharia de prompt se concentra na precisão e na abrangência das instruções. Os maiores ganhos em produção vêm de tratar o próprio diálogo como o principal problema de design.
Especificar intenções de gatilho e ação orienta o modelo sobre como decidir, em vez de lhe dar um roteiro do qual não consegue escapar. A posição em um prompt é, por si só, uma instrução. A identidade vem primeiro; as nuances de comportamento, no meio; as restrições rígidas, no fim; e tudo que é realmente essencial aparece nos dois lugares.
Escrever o prompt no tom de voz desejado, em vez de descrevê-lo, é uma das mudanças de maior impacto disponíveis.
Os agentes mais coerentes são aqueles cujos prompts tratam cada momento da conversa como uma interação distinta, com uma estrutura própria e adequada, sem deixar de manter a mesma voz reconhecível do início ao fim.
Em alguns casos, separar os agentes que pensam dos que falam produz respostas mais coerentes e fundamentadas, além de impedir que o raciocínio interno transpareça nelas.
Anteriormente, apresentamos um novo paradigma para a criação de prompts, baseado em conhecimentos das áreas de linguística e psicologia cognitiva. Falamos sobre a importância de criar um espaço de problema claro e bem delimitado no qual o agente possa atuar, e sobre como esse espaço precisa contemplar a metatarefa do diálogo inerente à IA voltada ao cliente.
Agora, veremos algumas formas práticas de como nossos prompts começaram a mudar à medida que levamos esses princípios para a produção.
Em centenas de iterações de prompts em sistemas ativos voltados ao cliente, os maiores ganhos não vieram de acrescentar mais instruções, acumular exemplos ou seguir as práticas convencionais da engenharia de prompt. Vieram, na verdade, de colocar o diálogo no centro do problema.
A exploração e os testes contínuos revelaram diversas técnicas eficazes. Alterávamos um prompt e observávamos onde a conversa funcionava ou falhava, relacionando as falhas à eficácia das orientações, à estrutura do prompt e ao nosso uso da linguagem. O resultado é um conjunto de padrões reproduzíveis que mudam a forma como o agente interpreta seu papel na conversa, decide a próxima ação e mantém uma voz consistente em diferentes contextos.
O que vem a seguir não é uma estrutura universal nem a afirmação de que a criação de prompts está "resolvida". É a síntese, em cinco padrões, do que funcionou em produção quando o objetivo não era apenas a precisão funcional, mas um diálogo melhor: respostas coerentes, naturais e consistentes o bastante para representar uma marca.
Embora existam muitas formas de estruturar um sistema com agentes de IA, os fluxos de trabalho orquestrados com vários agentes continuam populares. Nesses sistemas, em especial, nossa melhoria mais consistente foi separar os agentes que pensam dos que falam.
Orquestração de intenções, classificação, extração de conhecimento e uso de ferramentas são operações de bastidores. As respostas voltadas ao cliente pertencem à camada de atendimento. Quando o mesmo agente faz as duas coisas na mesma interação, o raciocínio e a lógica internos podem transparecer nas respostas. As respostas ficam evasivas, cheias de ressalvas ou estruturadas em torno da lógica do processo, e não das necessidades da pessoa.
Essa única restrição resolve uma quantidade surpreendente de problemas. Ela mantém as respostas ancoradas na conversa real, evita a redefinição do contexto e produz algo mais próximo do que chamamos de "entregar a diferença". Em última análise, o agente acrescenta apenas a menor informação nova que realmente ajuda o usuário a avançar.
A decisão sobre qual tipo de resposta oferecer também importa. Descobrimos que pedir ao agente responsável pela conversa que escolha um tipo de ação antes de escrever — responder, esclarecer, redirecionar ou aguardar — reduziu de modo consistente a falha mais comum nas conversas: não uma redação ruim, mas uma resposta completamente inadequada.
Vale observar que, nas condições certas, os modelos de fronteira mais recentes estão começando a questionar a premissa desse padrão. Ainda assim, por diversos motivos, muitos desenvolvedores continuam usando modelos menores ou mais antigos. Nesses contextos, certamente recomendamos separar as responsabilidades dos bastidores das responsabilidades de atendimento.
Para modelos sem raciocínio, exemplos few-shot funcionam porque são concretos, rápidos e bem assimilados pelos modelos. O problema é o sobreajuste. Dê um exemplo a um modelo e ele se apegará às palavras, ao ritmo e à estrutura, produzindo continuamente variações muito semelhantes da mesma resposta, mesmo quando a situação mudar.
Sem querer, você criou um roteiro do qual o modelo não consegue escapar.
Intenções de implementação ou heurísticas são uma alternativa mais duradoura. Em vez de mostrar ao modelo o que dizer em situações específicas, fornecemos uma combinação mais ampla de gatilho e ação: se X acontecer, faça Y.
A principal diferença é que, em vez de restringir X e Y exemplo após exemplo, tornando-os cada vez mais rígidos, delimitamos cada um com uma instrução tão precisa que os exemplos se tornam desnecessários. Assim, o agente responde às variações reais da conversa, em vez de apenas buscar em um modelo predefinido um padrão correspondente.
Na prática, isso se parece menos com exemplos e mais com regras práticas executáveis:
Se faltar um detalhe essencial, faça uma única pergunta de esclarecimento.
Se não houver fundamento para a resposta, diga isso diretamente e ofereça a melhor próxima etapa disponível.
Se a solicitação esbarrar em uma proteção, recuse brevemente e redirecione sem cerimônia.
Não é sofisticado, mas é muito mais robusto do que uma biblioteca de respostas de exemplo, pois ensina o modelo a decidir, e não o que repetir.
A posição de um elemento no prompt determina o peso que ele recebe. Esse é um padrão consistente que observamos em diferentes modelos e implantações. O início e o fim de um prompt ganham uma atenção desproporcional. O que fica no meio são as nuances, que estão exatamente onde deveriam estar.
Estruturamos nossos prompts com isso em mente. O papel e a percepção de identidade do agente ficam no início, para que essa identidade seja estabelecida antes de qualquer outra coisa. O meio traz os detalhes de comportamento: como a conversa provavelmente se desenvolverá, as heurísticas que orientam as respostas e a variedade de situações que o agente precisa administrar. As restrições rígidas e os pontos inegociáveis ficam no fim, onde permanecem "em primeiro plano".
Tudo que é realmente essencial aparece nos dois lugares. Uma regra específica de saída — por exemplo, uma instrução firme sobre pontuação ou formatação — pode facilmente se perder se aparecer apenas uma vez no meio de um prompt denso. Repetida no fim, ela é respeitada.
Sobre o efeito de recência, vale observar que as saídas estruturadas, quando usadas, constituem efetivamente a última instrução do prompt. Os campos de descrição das saídas estruturadas afetam qualitativamente as respostas, criando um contrato de saída mais forte que o restante do prompt.
Também aprendemos a não usar exemplos few-shot para definir o tom de voz, e essa foi uma das mudanças de maior impacto que fizemos em nossos agentes de atendimento ao cliente.
Em vez disso, escrevemos o prompt inteiro no tom de voz desejado. Não uma descrição da voz, nem um conjunto de adjetivos que tente reproduzi-la, mas a voz em si, em prosa completa, da primeira à última linha. O prompt se torna a demonstração. Chamamos isso de "antirroteirização": orientar o modelo a imitar o conteúdo recebido, mas permitir que use uma variedade maior de palavras e expressões dentro do mesmo "universo" do prompt.
É assim que usamos prompts para obter variedade sem perder a coerência da voz. Isso faz parte da nossa estratégia para colocar o diálogo no centro da tarefa de qualquer agente, sem gastar espaço com instruções explícitas, que tentamos reduzir ao mínimo.
Quando usamos exemplos explícitos sobre tom de voz, eles mostram "o que não fazer". Por exemplo: "Não use travessões. Nunca. Nada de clichês. Não despeje políticas na resposta. Não explique demais quando uma única frase bastar para encerrar o assunto." Restrições negativas são mais precisas e menos limitantes do que aspirações positivas, pois identificam os padrões de falha para os quais o modelo tende a se desviar.
A formatação também importa e define o tom da resposta. Um prompt repleto de listas, títulos e instruções entre colchetes orienta o modelo a produzir uma resposta mais organizada e impessoal. Se a resposta deve soar como uma conversa, a entrada não pode parecer um documento abreviado de especificações.
A maioria dos prompts sobre tom de voz acaba se resumindo à personalidade. Oferece-se um conjunto de adjetivos para descrever como o agente deve soar. Acolhedor. Profissional. Amigável, mas conciso. Esses adjetivos não estão errados, mas o que realmente determina como uma voz é percebida na conversa é o registro: como o mesmo Personagem se comporta em situações sociais diferentes.
Uma mensagem de espera exibida durante o processamento de uma solicitação não deve soar como uma resposta final. Uma resposta de proteção não deve transmitir a mesma energia de uma conversa informal. Um cliente frustrado não deve receber o mesmo nível de simpatia ou humor que alguém navegando sem compromisso.
Essa é a diferença entre voz da marca e design de conversas. A voz da marca costuma descrever o Personagem; o design de conversas define como esse Personagem se comporta quando a situação muda. Acertar nisso significa que não somos apenas redatores trabalhando em respostas de IA. Estamos projetando como uma voz percorre uma conversa.
Você perceberá que nenhum desses padrões é tecnicamente complexo. E essa é, em parte, a ideia. A arquitetura de um sistema com agentes de IA importa, mas, quando o assunto é qualidade da conversa, será preciso dedicar bastante tempo ao desenvolvimento e ao refinamento dos prompts.
A distância entre uma IA meramente funcional e uma IA realmente capaz de conversar não é eliminada pelo projeto técnico, mas por uma compreensão mais clara de como a linguagem e a atenção funcionam no diálogo humano e pela inclusão do diálogo no centro do espaço do problema dos agentes.
Para equipes de produtos de IA, engenheiros e designers de experiência, o design de conversas merece o mesmo rigor da excelência técnica em sistemas de IA voltados ao cliente. Para quem está do outro lado dessas conversas, não há modelo, colaboração entre vários agentes nem chamada de ferramenta: há apenas uma interação que parece certa ou não. Uma interação que gera confiança ou a destrói.
No fim, ninguém vivencia a arquitetura. As pessoas vivenciam a conversa.
A conversa é o produto.