AI destinată clienților îți reprezintă brandul, iar măiestria necesară este fundamental diferită de cea a instrumentelor interne.
Diferența dintre un agent funcțional și unul convingător este mai degrabă conceptuală decât tehnică, deoarece majoritatea prompturilor sunt scrise ca seturi de instrucțiuni, nu ca proiecte pentru un dialog.
O perspectivă mai bună ne-o oferă lingvistica și psihologia cognitivă: conversațiile au o structură, iar prompturile creează un mediu care direcționează atenția. Ceea ce pui la început, ceea ce repeți și felul în care închei vor modela în mod previzibil comportamentul agentului.
Constrângerile ajută, dar numai când sunt precise. Prea multe cazuri-limită produc interacțiuni rigide și prompturi greu de gestionat, așa că reducerea numărului de decizii permite concentrarea asupra celor mai importante.
Crearea unei AI conversaționale destinate clienților este o perspectivă descurajantă pentru o companie.
Chiar și pentru cei care adoptă tehnologia extrem de rapid, care au integrat colaborarea cu AI la nivelul fiecărui angajat și poate chiar au dezvoltat instrumente AI personalizate pentru uz intern, promovarea AI ca interfață între companie și lume este cu totul altceva.
Și chiar este o promovare. Când ajunge în fața clienților, AI trece de la statutul de stagiar sârguincios la cel de angajat autorizat, îmbracă uniforma și reprezintă brandul în ochii clienților.
Miza este mare. Fiecare pas greșit este acum public și poate fi înregistrat.
Produsele pe care le construim sunt adesea sisteme multi-agent, cu interacțiuni complexe la nivel de business. Totuși, această logică poate fi partea mai ușoară. Provocarea mai mare este să convingem utilizatorii că vorbesc permanent cu același agent și că ceea ce spune acesta merită ascultat.
Așa că scriem și rescriem prompturile, iar și iar.
Unii agenți sunt rezultatul a sute de iterații ale prompturilor. Toți au același scop: să rămână concentrați asupra sarcinii și să vorbească pe o voce care rezonează cu utilizatorii umani.
Experiența noastră în procesul de perfecționare a prompturilor ne-a făcut mai creativi în căutarea inspirației. Am început să preluăm idei din alte discipline. Desigur, nu a funcționat totul, iar ce a funcționat rareori a reușit din prima încercare. În urma acestor explorări, în cadrul echipei noastre a apărut o paradigmă diferită de creare a prompturilor.
Diferența dintre un agent care funcționează sistematic și unul care excelează în conversație nu este pur tehnică, ci conceptuală. Este distanța dintre lumea în care ai plasat agentul prin prompt și lumea reală a comunicării umane, în care acesta operează.
Aceasta din urmă este definită de ambiguitate, la care oamenii sunt bine adaptați și prin care interlocutorii de bună-credință navighează cooperând, cu ajutorul unor reguli de discurs subtile și nerostite. Un agent nepregătit este ușor de recunoscut.
Pentru a păstra iluzia celui de-al patrulea perete sau iluzia Turing, ne putem ancora agenții în arta dialogului, valorificând perspective din lingvistică și psihologia cognitivă.
Lingvistica dispune de un întreg set de instrumente pentru studierea limbajului în acțiune, inclusiv analiza conversației, care examinează modul în care oamenii structurează și gestionează conversațiile de la un moment la altul. Aplicat creării prompturilor, acest cadru ne oferă un vocabular pentru a privi conversația nu ca pe un schimb de cuvinte, ci ca pe un schimb de acțiuni.
Unele acțiuni sunt practice, precum obținerea sau oferirea de informații, iar altele sunt sociale, precum menținerea unei relații bune sau evitarea tensiunilor. Astfel de intervenții au loc în structura mai amplă a dialogului și a etapelor sale, fiecare cu acțiuni așteptate. Dialogurile au formule de deschidere și de încheiere, dar și tranziții între subiecte și chiar pretranziții — acele momente uneori stânjenitoare în care o nouă direcție este propusă subtil, negociată și decisă printre rânduri.
Neînțelegerile apar permanent, chiar și atunci când toate părțile au cele mai bune intenții. Deși oamenii stăpânesc arta dialogului în grade diferite, ideea este că LLM-ul din spatele agentului nu vine echipat cu intuiția pe care o are chiar și un interlocutor uman obișnuit.
Pe lângă analiza lingvistică, psihologia cognitivă ne oferă o perspectivă complementară. Ea ne arată cum funcționează în realitate atenția, memoria și luarea deciziilor — cum acordă oamenii o importanță diferită informațiilor în funcție de poziția lor la început sau la sfârșit, cum anumite declanșatoare specifice produc comportamente previzibile și cum constrângerile pot elibera, reducând efortul cognitiv.
Un prompt nu este un simplu recipient neutru pentru instrucțiuni. Este un mediu care direcționează atenția. De aceea, contează ce apare la început. Contează ce apare la sfârșit. Contează ce se repetă. Atunci când li se prezintă o listă, oamenii tind să rețină mai ușor începutul și sfârșitul decât partea de mijloc. Psihologii numesc acest fenomen efectul poziției seriale: primaritate și recență.
În practică, observăm ceva similar la LLM-uri. Primele îndrumări stabilesc cadrul: cine este agentul, ce rol joacă și la ce fel de lume se așteaptă. Îndrumările de la final se comportă adesea ca „ultimul lucru pe care îl aude”. Dacă plasăm acolo cele mai importante instrucțiuni, cresc șansele ca acestea să fie urmate.
Pe lângă alegerea atentă a locului fiecărei instrucțiuni în prompt, trebuie să urmărim și forma generală a limitelor pe care aceste instrucțiuni le creează pentru agent.
Instrucțiunile acționează ca restricții asupra agentului, reducând numărul posibilităților concurente pe care trebuie să le evalueze și restrângând spațiul general al problemei. Prompturile noastre trebuie să impună suficiente constrângeri pentru ca sarcina agentului să fie gestionabilă.
Atunci când instruim angajați, mai ales pe cei cu mai puțină experiență, psihologia ne arată că este util să eliminăm ambiguitățile din sarcina de îndeplinit și, astfel, să reducem cât mai mult posibil efortul cognitiv. Deși constrângerile pot părea că limitează libertatea, faptul că avem mai puține decizii de luat ne permite să ne concentrăm asupra celor câteva decizii cu adevărat importante și să ne folosim creativitatea pentru a acționa eficient în limitele stabilite.
În schimb, dacă încercăm să nu lăsăm agentului nicio decizie de luat, acoperind fiecare situație imaginabilă prin liste cu exemple de comportamente, riscăm să obținem un interlocutor rigid și artificial. Ca să nu mai vorbim despre un prompt Frankenstein, greoi, plin de condiții de tip „dacă... atunci...”, care devine un coșmar de gestionat.
(Prompturi cu câteva exemple, la voi ne uităm.)
Un prompt cu limite bine definite oferă suficientă claritate în privința direcției, fără să supraîncarce cerințele și să paralizeze agentul. Adesea, aceasta înseamnă să introducem mai puține cazuri-limită sau obiective pentru agent, atât privind ce să spună ori să nu spună, cât și cum să o facă sau nu.
Din experiența noastră, dacă apelezi la câteva exemple pentru a ajusta limitele, acestea nu sunt suficient de precise. Reveno la instrucțiunile de bază și perfecționează-le.
Din perspectiva psihologiei cognitive, am analizat unde ar trebui să plasăm diferitele instrucțiuni într-un prompt și am evaluat atât cantitatea, cât și calitatea instrucțiunilor necesare pentru a delimita optim spațiul problemei agentului.
Revenind la observațiile anterioare despre arta dialogului din perspectivă lingvistică, ne putem completa paradigma de creare a prompturilor incluzând instrucțiunile bazate pe dialog în limitele mai ample ale sarcinii agentului.
Pentru AI destinată clienților, dialogul este întotdeauna metasarcina, indiferent dacă recunoaștem sau nu acest lucru. Când alegem să abordăm dialogul în mod deliberat în prompt, alocăm o parte din capacitatea agentului sau din „efortul său cognitiv” conștientizării dialogului și reacției la acesta, îmbunătățindu-i astfel capacitatea de conversație.
Compromisul este însă că probabil va trebui să restrângem sarcina principală pentru ca spațiul general al problemei să rămână gestionabil și bine delimitat.
Așadar, pentru AI destinată clienților, proiectăm holistic condițiile necesare unor dialoguri și decizii mai bune. Urmărim să creăm agenți mai mici, cu limite bine definite, a căror sarcină principală este contextualizată în metasarcina dialogului sau o include. Nu scriem munți de instrucțiuni pe care apoi să-i rafinăm prin exemple. Scriem un set mai restrâns de instrucțiuni perfecționate, suficient de precise pentru a face exemplele inutile.
Aceasta este paradigma de creare a prompturilor, pe care o folosim pentru a crea agenți care nu doar își respectă sarcina, ci o fac și cu eleganță conversațională.
După ce am conturat cadrul conceptual, în următoarea postare de pe blog vom trece la aspecte mai practice. Vom analiza câteva tipare esențiale, care s-au conturat pe măsură ce am aplicat aceste principii în prompturi, prin încercări și ajustări în situații reale. Interesant este că furnizorii de modele de vârf încep să reflecte tipare similare și în propriile recomandări privind crearea prompturilor. Mai multe, data viitoare.