La major part de l'enginyeria d'indicacions se centra en la precisió i la cobertura de les instruccions. Les millores més importants en producció s'obtenen quan el diàleg es tracta com el problema central de disseny.
Especificar intencions de desencadenant i acció guia el model sobre com decidir, en lloc de donar-li un guió del qual no pot escapar. La posició dins d'una indicació és, en si mateixa, una instrucció. La identitat va al principi, els matisos de comportament al mig, les restriccions estrictes al final, i tot allò que és realment crític va als dos llocs.
Escriure la indicació amb la veu desitjada, en lloc de descriure-la, és un dels canvis disponibles amb més impacte.
Els agents més coherents són aquells les indicacions dels quals tracten els diferents moments conversacionals com a interaccions diferenciades, cadascuna amb la forma adequada, però mantenint en tot moment una veu clarament reconeixible.
En alguns casos, separar els agents que pensen dels que parlen genera respostes més coherents i fonamentades, i evita que el raonament intern es filtri a les respostes.
Anteriorment vam presentar un nou paradigma d'ús d'indicacions basat en coneixements dels camps de la lingüística i la psicologia cognitiva. Vam parlar de la importància de crear un espai del problema clar i ben delimitat en què pugui operar el nostre agent, i de com aquest espai ha d'incloure la metatasca del diàleg inherent a la IA d'atenció al client.
Ara veurem algunes maneres pràctiques en què les nostres indicacions han començat a canviar mentre intentàvem aplicar aquests principis a producció.
Després de centenars d'iteracions d'indicacions en sistemes reals d'atenció al client, les millores més importants no han vingut d'afegir més instruccions, acumular exemples ni seguir les normes habituals de l'enginyeria d'indicacions. Han vingut, en canvi, de situar el diàleg al centre del problema.
L'exploració i les proves contínues han fet sorgir diverses tècniques eficaces. Modificàvem una indicació i observàvem on la conversa funcionava o fallava, relacionant els errors amb l'eficàcia de les directrius, l'estructura de la indicació i l'ús del llenguatge. El resultat és un grapat de patrons reproduïbles que canvien com l'agent interpreta el seu paper en la conversa, com decideix el pas següent i amb quina constància manté la veu en contextos canviants.
El que segueix no és un marc universal ni una afirmació que l'ús d'indicacions ja estigui "resolt". És la síntesi, en cinc patrons, del que ha funcionat en producció quan l'objectiu no era només la precisió funcional, sinó un diàleg millor: respostes prou coherents, naturals i consistents per representar una marca.
Tot i que hi ha moltes maneres d'estructurar un sistema d'agents, els fluxos de treball orquestrats amb diversos agents continuen sent populars. En aquests sistemes, la millora més constant que vam introduir va ser separar els agents que pensen dels que parlen.
L'orquestració d'intencions, la classificació, l'extracció de coneixement i l'ús d'eines són operacions internes. Les respostes adreçades als clients són la part visible. Quan el mateix agent fa totes dues coses en el mateix torn, el raonament i la lògica interns es poden filtrar a les respostes. Les respostes es tornen evasives, massa matisades o estructurades segons la lògica del procés en lloc de les necessitats de la persona.
Aquesta única restricció fa una quantitat de feina sorprenent. Manté les respostes arrelades en la conversa real, evita que es reiniciï el context i genera una cosa més semblant al que anomenem "aportar el diferencial". En definitiva, l'agent només afegeix la novetat mínima que realment ajuda l'usuari a avançar.
També importa decidir quin tipus de resposta cal donar. Vam comprovar que demanar a l'agent que parla que triés un tipus d'intervenció abans d'escriure —respondre, aclarir, redirigir o fer esperar— reduïa de manera fiable l'error conversacional més habitual: no una mala redacció, sinó una resposta del tot equivocada.
Cal assenyalar que, en les condicions adequades, els últims models d'avantguarda comencen a qüestionar la premissa d'aquest patró. Tot i això, molts desenvolupadors encara depenen de models més petits o antics per diversos motius i, en aquests contextos, recomanem clarament separar l'atenció al client de les operacions internes.
En els models sense raonament, els exemples amb pocs exemples funcionen perquè són concrets, ràpids i els models hi responen bé. El problema és el sobreajustament. Si doneu un exemple a un model, s'aferrarà a les paraules, el ritme i l'estructura, i generarà contínuament respostes molt semblants encara que la situació hagi canviat.
Sense voler, heu escrit un guió del qual el model no pot escapar.
Les intencions d'implementació o les heurístiques són una alternativa més duradora. En lloc de mostrar al model què ha de dir en situacions concretes*,* li proporcionem una parella més general de desencadenant i acció: si passa X, fes Y.
La diferència clau és que, en lloc d'anar restringint X i Y exemple rere exemple fins a fer-los cada cop més rígids, delimitem clarament cadascun mitjançant una instrucció tan precisa que fa innecessaris els exemples. Això manté l'agent receptiu a la variació real de les converses, en comptes de fer-lo encaixar patrons en una plantilla.
A la pràctica, això s'assembla menys a uns exemples i més a unes regles pràctiques executables:
If a key detail is missing, ask one clarifying question.
If the answer isn’t supported, say so directly and offer the best available next step.
If the request hits a guardrail, decline briefly and redirect without ceremony.
No és gaire atractiu, però és força més robust que una biblioteca de respostes d'exemple, perquè ensenya al model com decidir en lloc de què repetir.
La posició d'un element dins d'una indicació determina el pes que té. És un patró constant que hem observat en diversos models i desplegaments. El principi i el final d'una indicació destaquen de manera desproporcionada. Al mig hi ha els matisos, que és justament on han de ser.
Estructurem les indicacions tenint-ho present. El rol i el sentit d'identitat de l'agent van al principi, perquè establim la identitat abans que res. La part central conté els detalls de comportament: com és probable que evolucioni la conversa, les heurístiques que guien les respostes i el ventall de situacions que l'agent ha de gestionar. Les restriccions estrictes i els requisits innegociables van al final, on queden "ben presents".
Tot allò que és realment crític ho posem als dos llocs. Una regla de resultat específica —per exemple, una instrucció ferma sobre la puntuació o el format— es pot perdre fàcilment si només apareix una vegada al mig d'una indicació densa. Si es repeteix al final, es manté.
Pel que fa a l'efecte de recència, convé tenir present que els resultats estructurats, quan s'utilitzen, són de fet l'última instrucció de la indicació. Els camps de descripció dels resultats estructurats influeixen qualitativament en les respostes i formen un contracte de resultat més sòlid que la resta de la indicació.
Hem après a no fer servir exemples amb pocs exemples tampoc per definir el to de veu, i aquest és un dels canvis amb més impacte que hem introduït en els nostres agents d'atenció al client.
En lloc d'això, escrivim tota la indicació amb la veu desitjada. No una descripció de la veu ni un conjunt d'adjectius que s'hi aproximin, sinó la veu real, en prosa i de la primera línia a l'última. La indicació es converteix en la demostració. En diem "antiguionització": guiar el model perquè imiti el text d'entrada, però permetent-li emprar un ventall més ampli de llenguatge i expressions que es mantinguin dins del mateix "terreny" que la indicació.
Així afavorim la varietat dins d'una veu coherent mitjançant les indicacions. Forma part de la nostra estratègia per situar el diàleg al centre de la tasca de qualsevol agent sense haver de dedicar-hi instruccions explícites, que intentem reduir al mínim.
Si fem servir exemples explícits sobre el to de veu, il·lustren "què no s'ha de fer". Per exemple: "No em dashes. Ever. No clichés. No policy dumping. No over-explanation when a single sentence will close the loop." Les restriccions negatives són més precises i menys limitadores que les aspiracions positives, perquè identifiquen els errors cap als quals és més probable que derivi el model.
El format també és important i marca el to de la resposta. Una indicació plena de vinyetes, encapçalaments i instruccions entre claudàtors orienta el model cap a un resultat més organitzat i clínic. Si el resultat ha de semblar una conversa, l'entrada no hauria de tenir l'aspecte d'un document d'especificacions telegràfic.
La majoria de les indicacions sobre el to acaben reduïdes a la personalitat. Es proporciona una llista d'adjectius que descriuen com hauria de sonar l'agent. Càlid. Professional. Amable però concís. No són incorrectes, però el que realment determina com es percep una veu en una conversa és el registre: com es comporta el mateix caràcter de base en situacions socials diferents.
Un missatge d'espera mentre es processa una consulta no hauria de sonar com una resposta definitiva. Una resposta de protecció no hauria de transmetre la mateixa energia que una conversa informal. Un client frustrat no hauria de rebre el mateix grau d'encant o d'humor que un altre que només està donant una ullada.
Aquesta és la diferència entre la veu de marca i el disseny conversacional. La veu de marca sol descriure el caràcter, mentre que el disseny conversacional decideix com es comporta quan canvia la situació. Fer-ho bé vol dir que no som només redactors que treballen en resultats d'IA. Dissenyem com evoluciona una veu al llarg d'una conversa.
Notareu que cap d'aquests patrons és tècnicament complex. Aquesta és, en part, la idea. L'arquitectura d'un sistema d'agents és important, però, pel que fa a la qualitat conversacional, cal dedicar molt de temps a dissenyar i perfeccionar les indicacions.
La distància entre una IA purament funcional i una de realment conversacional no se salva amb el disseny tècnic, sinó entenent millor com funcionen el llenguatge i l'atenció en el diàleg humà i situant el diàleg al centre de l'espai del problema dels agents.
Per als equips de producte d'IA, els enginyers i els dissenyadors d'experiències, el disseny conversacional mereix el mateix rigor que l'excel·lència tècnica en la IA d'atenció al client. Per a les persones a l'altra banda d'aquestes converses, no hi ha cap model, cap col·laboració entre diversos agents ni cap crida a eines: només una interacció que funciona o no. Una interacció que genera confiança o bé l'erosiona.
Al capdavall, ningú experimenta l'arquitectura. El que experimenta és la conversa.
La conversa és el producte.