A maior parte da engenharia de prompts centra-se na exatidão e na cobertura das instruções. Os maiores ganhos em produção surgem quando o próprio diálogo é tratado como o principal problema de design.
Definir intenções de condição e ação orienta o modelo sobre como decidir, em vez de lhe dar um guião do qual não consegue escapar. A posição num prompt é, por si só, uma instrução. A identidade vem primeiro, as nuances comportamentais ficam no meio, as restrições rígidas no fim e tudo o que seja verdadeiramente crítico aparece em ambos os locais.
Escrever o prompt no tom de voz pretendido, em vez de o descrever, é uma das alterações disponíveis com maior impacto.
Os agentes mais coerentes são aqueles cujos prompts tratam diferentes momentos da conversa como interações distintas, cada uma com a sua forma adequada, mantendo sempre um tom de voz reconhecível.
Em alguns casos, separar os agentes que pensam dos que falam produz respostas mais coerentes e fundamentadas e evita que o raciocínio interno passe para as respostas.
Apresentámos anteriormente um novo paradigma de criação de prompts baseado em conhecimentos das áreas da linguística e da psicologia cognitiva. Escrevemos sobre a importância de criar um espaço do problema claro e bem delimitado no qual o nosso agente possa operar, e sobre a necessidade de esse espaço captar a metatarefa de diálogo inerente à IA de contacto com o cliente.
Agora, veremos algumas formas práticas como os nossos prompts começaram a mudar à medida que tentámos aplicar estes princípios em produção.
Ao longo de centenas de iterações de prompts em sistemas reais de contacto com o cliente, os maiores ganhos não vieram de acrescentar instruções, acumular exemplos ou seguir as normas habituais da engenharia de prompts. Vieram antes de assumirmos o diálogo como o cerne do problema.
A exploração e os testes contínuos revelaram várias técnicas eficazes. Alterávamos um prompt e observávamos onde a conversa tinha êxito ou falhava, relacionando as falhas com a eficácia da orientação, a estrutura do prompt e a utilização da linguagem. O resultado é um conjunto de padrões repetíveis que alteram a forma como o agente interpreta o seu papel na conversa, decide o passo seguinte e mantém um tom de voz consistente em contextos variáveis.
O que se segue não é um modelo universal nem a afirmação de que a criação de prompts está agora «resolvida». É a síntese, em cinco padrões, daquilo que funcionou em produção quando o objetivo não era apenas a exatidão funcional, mas um diálogo melhor: respostas coerentes, naturais e suficientemente consistentes para representar uma marca.
Embora existam muitas formas de estruturar um sistema com agentes, os fluxos de trabalho orquestrados com vários agentes continuam a ser populares. Sobretudo nestes sistemas, a melhoria mais consistente que fizemos foi separar os agentes que pensam dos agentes que falam.
A orquestração de intenções, a classificação, a extração de conhecimento e a utilização de ferramentas são operações de bastidores. As respostas destinadas ao cliente pertencem à linha da frente. Quando o mesmo agente faz ambas as coisas no mesmo turno, o raciocínio e a lógica internos podem passar para as respostas. As respostas tornam-se evasivas, excessivamente condicionadas ou estruturadas em torno da lógica do processo, em vez das necessidades da pessoa.
Esta única restrição faz muito mais do que seria de esperar. Mantém as respostas ancoradas na conversa real, evita a reposição do contexto e produz algo mais próximo do que chamamos «entregar apenas a diferença». Em última análise, o agente acrescenta apenas o mínimo de informação nova que faz o utilizador avançar.
A decisão sobre o tipo de resposta a dar também é importante. Descobrimos que pedir ao agente responsável pela fala que selecione um tipo de intervenção antes de escrever — responder, esclarecer, redirecionar ou aguardar — reduzia de forma consistente a falha conversacional mais comum: não uma prosa deficiente, mas uma resposta totalmente inadequada.
Importa referir que, nas condições certas, os mais recentes modelos de fronteira começam a pôr em causa a premissa deste padrão. Ainda assim, muitos criadores continuam a recorrer a modelos mais pequenos ou antigos por diversos motivos e, nesses contextos, recomendamos sem dúvida separar as preocupações de bastidores das de linha da frente.
Nos modelos sem raciocínio, os exemplos few-shot funcionam porque são concretos, rápidos e os modelos respondem-lhes bem. O problema é o sobreajustamento. Quando se dá um exemplo a um modelo, este agarra-se às palavras, ao ritmo e à estrutura, produzindo continuamente variações muito próximas da mesma resposta, mesmo quando a situação mudou.
Sem querer, escreveu um guião do qual o modelo não consegue escapar.
As intenções de implementação ou heurísticas são uma alternativa mais duradoura. Em vez de mostrar ao modelo o que dizer em cenários específicos, fornecemos um par mais abrangente de condição e ação: se X acontecer, fazer Y.
A principal diferença é que, em vez de restringirmos gradualmente X e Y com um exemplo de cada vez, tornando-os cada vez mais rígidos, definimos um limite claro para cada um através de uma instrução tão precisa que dispensa exemplos. Assim, o agente continua a responder às variações reais da conversa, em vez de procurar correspondências com um modelo predefinido.
Na prática, isto assemelha-se menos a exemplos e mais a regras práticas executáveis:
Se faltar um detalhe importante, faça uma única pergunta de esclarecimento.
Se a resposta não estiver fundamentada, diga-o diretamente e proponha o melhor passo seguinte disponível.
Se o pedido acionar um mecanismo de proteção, recuse-o de forma breve e redirecione sem cerimónias.
Não é uma abordagem sofisticada, mas é bastante mais robusta do que uma biblioteca de respostas de exemplo, porque ensina o modelo a decidir, em vez de lhe dizer o que repetir.
A posição de algo num prompt determina o peso que lhe é atribuído. É um padrão consistente que observámos em vários modelos e implementações. O início e o fim de um prompt destacam-se de forma desproporcionada. O que fica no meio são as nuances, que estão exatamente onde devem estar.
Estruturamos os nossos prompts tendo isto em conta. O papel e a noção de identidade do agente ficam no início, para estabelecermos a identidade antes de tudo o resto. O meio contém os pormenores comportamentais: como é provável que a conversa decorra, as heurísticas que orientam as respostas e o leque de situações que o agente terá de gerir. As restrições rígidas e os requisitos não negociáveis ficam no fim, onde permanecem «presentes».
Tudo o que seja verdadeiramente crítico é colocado em ambos os locais. Uma regra específica de output — por exemplo, uma instrução firme sobre pontuação ou formatação — pode perder-se facilmente se aparecer apenas uma vez no meio de um prompt denso. Se for repetida no fim, mantém-se.
Quanto ao efeito de recência, importa notar que os outputs estruturados, quando utilizados, são efetivamente a última instrução do prompt. Os campos de descrição dos outputs estruturados influenciam qualitativamente as respostas, criando um contrato de output mais forte do que o resto do prompt.
Também aprendemos a não usar exemplos few-shot para definir o tom de voz, e esta é uma das alterações com maior impacto que fizemos nos nossos agentes de contacto com o cliente.
Em vez disso, escrevemos todo o prompt no tom de voz pretendido. Não uma descrição desse tom, nem um conjunto de adjetivos que o aproximem, mas o tom real, em prosa integral, da primeira à última linha. O prompt torna-se a demonstração. Chamamos a isto «anti-scriptness»: orientar o modelo para imitar o seu input, permitindo-lhe ao mesmo tempo usar uma maior variedade de linguagem e expressões dentro do mesmo registo do próprio prompt.
É assim que promovemos variedade dentro de um tom de voz coerente através do prompt. Faz parte da nossa estratégia para colocar o diálogo no centro da tarefa de qualquer agente, sem gastar espaço com instruções explícitas, que procuramos reduzir ao mínimo.
Se usarmos exemplos explícitos sobre o tom de voz, estes ilustrarão «o que não fazer». Por exemplo: «Sem travessões longos. Nunca. Sem clichés. Sem despejar políticas. Sem explicações excessivas quando uma única frase basta para resolver.» As restrições negativas são simultaneamente mais precisas e menos limitadoras do que as aspirações positivas, porque identificam os modos de falha para os quais o modelo tem maior tendência para se desviar.
A formatação também é importante e define o tom de uma resposta. Um prompt cheio de listas, títulos e instruções entre parênteses orienta o modelo para um output mais organizado e clínico. Se o output deve parecer uma conversa, o input não deve parecer um documento abreviado de especificações.
A maioria dos prompts sobre o tom acaba por se reduzir à personalidade. Fornece-se um conjunto de adjetivos destinados a descrever como o agente deve soar. Caloroso. Profissional. Amigável, mas conciso. Não estão errados, mas o que realmente determina como um tom é recebido numa conversa é o registo: a forma como a mesma Personagem se comporta em situações sociais diferentes.
Uma mensagem de espera enquanto um pedido está a ser processado não deve soar como uma resposta final. Uma resposta de proteção não deve ter a mesma energia de uma conversa informal. Um cliente frustrado não deve receber o mesmo grau de charme ou humor que alguém que está apenas a explorar.
Esta é a diferença entre a voz da marca e o design de conversação. A voz da marca descreve muitas vezes a Personagem, enquanto o design de conversação decide como essa Personagem se comporta quando as situações mudam. Fazer isto bem significa que não somos apenas redatores a trabalhar em outputs de IA. Estamos a conceber a forma como um tom de voz percorre uma conversa.
É possível notar que nenhum destes padrões é tecnicamente complexo. Essa é, em parte, a ideia. A arquitetura de um sistema com agentes é importante, mas, no que toca à qualidade da conversa, será necessário dedicar bastante tempo à conceção e ao aperfeiçoamento dos prompts.
A distância entre uma IA meramente funcional e uma IA verdadeiramente conversacional não se resolve com design técnico, mas com uma compreensão mais clara de como a linguagem e a atenção funcionam no diálogo humano e colocando o diálogo no centro do espaço do problema dos seus agentes.
Para as equipas de produto de IA, engenheiros e designers de experiência, o design de conversação merece o mesmo rigor que a excelência técnica na IA de contacto com o cliente. Para quem está do outro lado destas conversas, não há modelo, colaboração entre vários agentes ou chamada de ferramenta — há apenas uma interação que parece certa ou não. Uma interação que gera confiança ou a destrói.
No fim, ninguém experiencia a arquitetura. Experiencia a conversa.
A conversa é o produto.