A IA orientada para o cliente representa a sua marca e exige um trabalho de natureza muito diferente do das ferramentas internas.
A diferença entre um agente funcional e um convincente é mais conceptual do que técnica, porque a maioria dos prompts é escrita como um conjunto de instruções, não como um projeto de diálogo.
A linguística e a psicologia cognitiva oferecem um enquadramento melhor: as conversas têm estrutura e os prompts criam um ambiente de atenção. O que coloca no início, o que repete e a forma como termina influenciam de modo consistente o comportamento do agente.
As restrições ajudam, mas apenas quando são precisas. Demasiados casos-limite tornam as interações artificiais e os prompts difíceis de gerir; reduzir o número de decisões permite concentrar a atenção nas mais importantes.
Criar IA conversacional orientada para o cliente é uma tarefa intimidante para qualquer empresa.
Mesmo para os maiores adeptos da tecnologia, que adotaram a colaboração com IA ao nível de cada trabalhador e talvez até tenham desenvolvido ferramentas de IA personalizadas para uso interno, promover a IA à condição de interface entre a empresa e o mundo é algo completamente diferente.
E trata-se mesmo de uma promoção. Quando passa a interagir com clientes, a IA deixa de ser um estagiário diligente e torna-se um trabalhador oficialmente reconhecido: veste a farda e representa a marca aos olhos dos clientes.
Há muito em jogo. Cada passo em falso passa a ser público e pode ficar registado.
Os produtos que criamos são muitas vezes sistemas multiagente, com interações complexas ao nível empresarial. Contudo, essa lógica pode ser a parte mais fácil. O maior desafio é convencer os utilizadores de que estão sempre a falar com o mesmo agente e de que aquilo que este tem para dizer vale a pena.
Por isso, escrevemos e reescrevemos prompts, vezes sem conta.
Alguns agentes resultam de centenas de iterações de prompts. Todos têm o mesmo objetivo: manter-se focados na tarefa e usar uma voz que crie empatia com os utilizadores humanos.
A nossa experiência no aperfeiçoamento de prompts levou-nos a procurar inspiração de forma criativa. Começámos a recorrer a outras disciplinas. É claro que nem tudo resultou e, quando resultou, raramente foi à primeira tentativa. Estes esforços exploratórios levaram ao aparecimento, na nossa equipa, de um paradigma diferente para a criação de prompts.
A diferença entre um agente sistematicamente funcional e outro brilhante a conversar não é apenas técnica: é conceptual. É a distância entre o mundo em que o prompt posicionou o agente e o mundo real da comunicação humana em que este opera.
Este último define-se pela ambiguidade, à qual os seres humanos estão bem adaptados e que os interlocutores bem-intencionados gerem em conjunto através de um conjunto de regras discursivas subtis e implícitas. Um agente mal preparado é fácil de detetar.
Para preservar a quarta parede, ou a ilusão de Turing, podemos alicerçar os nossos agentes na arte do diálogo, recorrendo a conhecimentos da linguística e da psicologia cognitiva.
A linguística dispõe de todo um conjunto de ferramentas para estudar a linguagem em ação, incluindo a Análise da Conversação, que examina como as pessoas estruturam e gerem as conversas momento a momento. Aplicado ao prompting, este enquadramento dá-nos vocabulário para pensar na conversa não como uma troca de palavras, mas como uma troca de ações.
Algumas ações são práticas, como obter ou fornecer informações; outras são sociais, como manter uma boa relação ou evitar atritos. Esses movimentos ocorrem dentro da estrutura mais ampla do diálogo e das suas várias fases, cada uma com ações esperadas. Os diálogos têm aberturas e encerramentos, mas também mudanças de tema e até pré-transições — aqueles momentos por vezes constrangedores em que se propõe subtilmente uma nova direção, negociada e decidida nas entrelinhas.
Os mal-entendidos são constantes, mesmo quando todas as partes têm as melhores intenções. Embora as pessoas dominem a arte do diálogo em graus diferentes, o essencial é que o LLM subjacente ao agente não traz de origem a intuição que até o mais comum dos interlocutores humanos possui.
A par da análise linguística, a psicologia cognitiva oferece-nos uma perspetiva complementar. Mostra-nos como funcionam realmente a atenção, a memória e a tomada de decisões: a importância que as pessoas atribuem ao que surge primeiro ou por último, como estímulos específicos produzem comportamentos previsíveis e como as restrições podem libertar ao reduzir a carga cognitiva.
Um prompt não é um recipiente neutro para instruções. É um ambiente de atenção. Por isso, o que está no início é importante. O que está no fim é importante. O que se repete é importante. Perante uma lista, as pessoas tendem a recordar mais facilmente o início e o fim do que o meio. Os psicólogos chamam-lhe efeito de posição serial: primazia e recência.
Na prática, observamos algo semelhante nos LLM. As primeiras orientações estabelecem o enquadramento: quem é o agente, que papel desempenha e que tipo de mundo espera encontrar. As orientações finais funcionam muitas vezes como «a última coisa que ouve». Se aí colocarmos as instruções mais importantes, haverá mais hipóteses de serem aplicadas.
Ao ponderarmos cuidadosamente onde colocar as várias instruções no prompt, devemos também acompanhar a forma geral do limite que essas instruções criam para o agente.
As instruções funcionam como restrições para o agente, reduzindo o número de possibilidades concorrentes que tem de resolver e delimitando o espaço global do problema. Os nossos prompts precisam de restrições suficientes para tornar a tarefa do agente gerível.
Ao dar instruções a trabalhadores, sobretudo aos menos experientes, a psicologia diz-nos que é sensato eliminar ao máximo a ambiguidade da tarefa e, assim, reduzir a carga cognitiva. Embora as restrições possam parecer limitadoras da liberdade, ter menos decisões para tomar permite-nos concentrar-nos nas poucas decisões importantes que restam e ser criativos ao executar ações dentro dos limites.
Em contrapartida, tentar não deixar ao agente qualquer decisão, abrangendo todos os casos-limite imagináveis com listas de comportamentos exemplificativos, é uma boa forma de criar um interlocutor artificial — além de um prompt Frankenstein, repleto de condições e alternativas, difícil de gerir.
(Few-shots, estamos a falar de vocês.)
Um prompt com limites bem definidos oferece orientação suficientemente clara sem sobrecarregar as instruções nem paralisar o agente. Muitas vezes, isto significa introduzir menos casos-limite ou objetivos para o agente, tanto no que deve ou não dizer como na forma de o dizer.
Segundo a nossa experiência, se recorre a few-shot para ajustar o limite, esse limite não é suficientemente preciso. Volte às instruções fundamentais e aperfeiçoe-as.
Na perspetiva da psicologia cognitiva, temos refletido sobre onde colocar as diferentes instruções num prompt e considerado a quantidade e a qualidade necessárias para delimitar da melhor forma o espaço do problema do agente.
Retomando as observações anteriores sobre a arte do diálogo na perspetiva da linguística, podemos completar o nosso paradigma de prompting, enquadrando as instruções orientadas para o diálogo nos limites mais amplos da tarefa do agente.
Na IA orientada para o cliente, o diálogo é sempre a metatarefa, quer o reconheçamos ou não. Quando optamos por abordar deliberadamente o diálogo no prompt, comprometemo-nos a canalizar parte da capacidade, ou «carga cognitiva», do agente para a atenção e a resposta ao diálogo, melhorando assim a sua capacidade de conversar.
Contudo, em contrapartida, teremos provavelmente de reduzir a dimensão da tarefa principal para manter um espaço global do problema gerível e bem delimitado.
Por isso, na IA orientada para o cliente, concebemos de forma integrada as condições para melhores diálogos e decisões. Procuramos criar agentes mais pequenos e com limites bem definidos, cuja tarefa principal esteja contextualizada na metatarefa do diálogo ou a inclua. Não escrevemos pilhas de instruções para depois as aperfeiçoar através de exemplos. Escrevemos um conjunto mais pequeno de instruções aperfeiçoadas, suficientemente precisas para tornar os exemplos desnecessários.
É este o paradigma de prompting que usamos para criar agentes que não só se mantêm focados na tarefa, como o fazem com elegância na conversação.
Agora que traçámos o mapa conceptual, adotaremos uma abordagem mais prática no próximo artigo do blogue. Analisaremos alguns padrões essenciais que surgiram ao aplicarmos estes princípios a prompts através de tentativa e erro em situações reais. Curiosamente, os fornecedores de modelos de fronteira começam a refletir padrões semelhantes nas suas próprias orientações sobre prompting. Mais no próximo artigo.