Az utasítás tervezés többnyire a pontosságra és az instrukciók teljes körű lefedésére összpontosít. Éles környezetben akkor érhető el a legnagyobb javulás, ha magát a párbeszédet tekintjük a tervezés központi problémájának.
A kiváltó okhoz és cselekvéshez kötött szándékok abban segítik a modellt, hogyan döntsön, ahelyett hogy olyan forgatókönyvet adnának neki, amelyből nem tud kitörni. Az utasításon belüli pozíció önmagában is instrukció. Az identitás kerül előre, a viselkedés árnyalatai középre, a szigorú korlátok a végére, ami pedig valóban kritikus, az mindkét helyre.
Az egyik legnagyobb hatású változtatás, ha a kívánt hang leírása helyett eleve azon a hangon írjuk meg az utasítást.
A legegységesebb ügynökök utasításai különálló interakcióként kezelik a beszélgetés eltérő pillanatait, mindegyiknek megfelelő formát adva, miközben végig felismerhetően ugyanazon a hangon szólalnak meg.
Bizonyos esetekben a gondolkodó és a beszélő ügynökök szétválasztása egységesebb, megalapozottabb válaszokat eredményez, és megakadályozza, hogy a belső érvelés kiszivárogjon a válaszokba.
Korábban már bemutattunk egy, a nyelvészet és a kognitív pszichológia felismeréseire épülő új utasítástervezési paradigmát. Írtunk arról, mennyire fontos egy világos, jól körülhatárolt problémateret létrehozni, amelyben az ügynök működhet, és hogy ennek a térnek magában kell foglalnia az ügyfelekkel kommunikáló MI-ben rejlő párbeszéd metafeladatát.
Most bemutatunk néhány gyakorlati változtatást, amelyet ezen elvek éles alkalmazása során kezdtünk bevezetni az utasításainkban.
Az éles, ügyféloldali rendszerekben végzett több száz iteráció során a legnagyobb javulást nem újabb instrukciók és példák hozzáadása, illetve a szokásos utasítás tervezési normák követése hozta. Hanem az, hogy a párbeszédet tettük a probléma középpontjába.
A folyamatos kutatás és tesztelés során több hatékony módszer rajzolódott ki. Módosítottunk egy utasítást, majd megfigyeltük, hol sikerült vagy bukott el a beszélgetés, a hibákat pedig visszavezettük az iránymutatás hatékonyságára, az utasítás szerkezetére és a nyelvhasználatunkra. Az eredmény néhány újra felhasználható minta, amelyek megváltoztatják, hogyan értelmezi az ügynök a beszélgetésben betöltött szerepét, hogyan választja ki a következő lépését, és mennyire következetesen őrzi meg a hangját a változó helyzetekben.
Az alábbiak nem alkotnak univerzális keretrendszert, és nem állítjuk, hogy az utasítástervezést immár „megoldottuk”. Öt mintába sűrítik azt, ami éles környezetben bevált, amikor nem csupán a működés pontossága, hanem a jobb párbeszéd volt a cél: egységes, természetes és egy márka képviseletéhez kellően következetes válaszok.
Bár egy ügynökalapú rendszer sokféleképpen építhető fel, a több ügynököt összehangoló munkafolyamatok továbbra is népszerűek. Különösen ezekben a rendszerekben az hozta a legkövetkezetesebb javulást, hogy elválasztottuk a gondolkodó ügynököket a beszélőktől.
A szándékok összehangolása, az osztályozás, az ismeretek kinyerése és az eszközhasználat mind háttérművelet. Az ügyfeleknek szóló válaszok az ügyféloldalhoz tartoznak. Ha ugyanabban a körben ugyanaz az ügynök végzi mindkettőt, a belső érvelés és logika kiszivároghat a válaszokba. A válaszok bizonytalanná, túlzottan körülményessé válhatnak, vagy a felhasználó igényei helyett a folyamat logikáját követhetik.
Ez az egyetlen korlát meglepően sokat számít. A válaszokat a tényleges beszélgetéshez köti, megakadályozza a kontextus visszaállítását, és közelebb visz ahhoz, amit „csak a különbség átadásának” nevezünk. Az ügynök végső soron csak a lehető legkisebb új információt adja hozzá, amely valóban előrébb viszi a felhasználót.
Az is számít, hogy milyen típusú választ adunk. Azt tapasztaltuk, hogy ha a megszólaló ügynöknek írás előtt ki kell választania a lépés típusát — válasz, pontosítás, átirányítás vagy várakoztatás —, megbízhatóan csökken a leggyakoribb társalgási hiba: nem a rossz szöveg, hanem a teljesen helytelen válasz.
Érdemes megjegyezni, hogy megfelelő körülmények között a legújabb élvonalbeli modellek már megkérdőjelezik e minta alapfeltevését. Sok fejlesztő azonban különféle okokból továbbra is kisebb vagy régebbi modellekre támaszkodik; ilyen esetekben mindenképpen javasoljuk a háttérfolyamatok és az ügyféloldali kommunikáció szétválasztását.
Az érvelést nem végző modelleknél azért működnek a kevés lövéses példák, mert konkrétak, gyorsak, és a modellek jól reagálnak rájuk. A probléma a túlillesztés. Ha példát adunk a modellnek, megragad a szavaknál, a ritmusnál és a szerkezetnél, majd akkor is ugyanannak a válasznak a közeli változatait gyártja, amikor a helyzet már megváltozott.
Akaratlanul olyan forgatókönyvet írtunk, amelyből a modell nem tud kitörni.
A végrehajtási szándékok vagy heurisztikák tartósabb alternatívát kínálnak. Ahelyett, hogy konkrét helyzetekben megmutatnánk a modellnek, mit mondjon, egy általánosabb kiváltó ok–cselekvés párost adunk meg: ha X történik, tedd Y-t.
A fő különbség az, hogy nem példáról példára szűkítjük X és Y jelentését, egyre merevebbé téve őket, hanem olyan pontos utasítással húzunk egyértelmű határt köréjük, amely feleslegessé teszi a példákat. Így az ügynök a beszélgetések valódi változatosságára reagál, ahelyett hogy egy sablon mintáit követné.
A gyakorlatban ez kevésbé hasonlít példákra, inkább végrehajtható ökölszabályokra:
If a key detail is missing, ask one clarifying question.
If the answer isn’t supported, say so directly and offer the best available next step.
If the request hits a guardrail, decline briefly and redirect without ceremony.
Nem látványos megoldás, de jóval megbízhatóbb egy mintaválasz-gyűjteménynél, mert azt tanítja meg a modellnek, hogyan döntsön, nem pedig azt, hogy mit ismételjen.
Az utasításon belüli hely meghatározza, mekkora súlyt kap az adott elem. Ezt a következetes mintát különböző modelleknél és telepítéseknél egyaránt megfigyeltük. Az utasítás eleje és vége aránytalanul nagy figyelmet kap. Középre kerülnek az árnyalatok — pontosan oda, ahová valók.
Ennek tudatában építjük fel az utasításainkat. Az ügynök szerepe és önképe kerül felülre, hogy mindenekelőtt az identitását alapozzuk meg. Középre kerülnek a viselkedés részletei: a beszélgetés várható menete, a válaszokat irányító heurisztikák és az ügynök által kezelendő helyzetek köre. A szigorú korlátok és a nem vitatható szabályok alulra kerülnek, így közvetlenül szem előtt maradnak.
Ami valóban kritikus, azt mindkét helyen feltüntetjük. Egy konkrét kimeneti szabály — például az írásjelekre vagy formázásra vonatkozó határozott utasítás — könnyen elveszhet, ha csak egyszer szerepel egy sűrű utasítás közepén. A végén megismételve viszont megmarad.
Az utolsóként elhelyezett elemek kiemelt hatásával kapcsolatban érdemes megjegyezni, hogy a strukturált kimenetek használatakor gyakorlatilag ezek jelentik az utasítás legutolsó instrukcióját. A strukturált kimenetek leírásmezői érdemben befolyásolják a válaszokat, és az utasítás többi részénél erősebb kimeneti szerződést alkotnak.
Megtanultuk, hogy a hangnem érzékeltetésére sem érdemes kevés lövéses példákat használni; ez volt az egyik legnagyobb hatású változtatás az ügyfelekkel kommunikáló ügynökeinknél.
Ehelyett az egész utasítást a kívánt hangon írjuk meg. Nem leírjuk ezt a hangot, és nem közelítő jelzőket sorolunk fel, hanem ténylegesen ezen a hangon írunk, teljes mondatokban, az első sortól az utolsóig. Maga az utasítás válik szemléltető példává. Ezt „forgatókönyv-ellenességnek” nevezzük: arra ösztönözzük a modellt, hogy utánozza a bemenetet, miközben szabadon használhatja az utasítással azonos stílustartományba eső nyelvi fordulatok és kifejezések szélesebb körét.
Így teremtünk változatosságot az egységes hang megtartása mellett. Ez is része annak a stratégiánknak, amellyel minden ügynöknél a párbeszédet állítjuk a feladat középpontjába, anélkül, hogy sok kifejezett utasításra lenne szükség.
Ha mégis használunk konkrét példákat a hangnemhez, azok azt szemléltetik, „mit ne tegyünk”. Például: “No em dashes. Ever. No clichés. No policy dumping. No over-explanation when a single sentence will close the loop.” A tiltó korlátok pontosabbak és kevésbé kötöttek a pozitív törekvéseknél, mert megnevezik azokat a hibákat, amelyek felé a modell a legnagyobb eséllyel sodródna.
A formázás is számít, és megalapozza a válasz hangnemét. A felsorolásokkal, címsorokkal és zárójeles instrukciókkal teli utasítás rendezettebb, tárgyilagosabb kimenet felé tereli a modellt. Ha a kimenetnek beszélgetésszerűnek kell hatnia, a bemenet ne nézzen ki tömör specifikációs dokumentumnak.
A hangnemre vonatkozó utasítások többsége végül személyiségleírássá válik. Jelzők sorával próbálják meghatározni, hogyan szólaljon meg az ügynök. Meleg hangú. Professzionális. Barátságos, de tömör. Ezek nem hibásak, de azt, hogy egy hang miként érvényesül a beszélgetésben, valójában a beszédmód határozza meg: hogyan viselkedik ugyanaz az alapvető személyiség különböző társas helyzetekben.
A kérés feldolgozása közben megjelenő várakozási üzenetnek nem szabad végleges válaszként hangzania. A védőkorlátról tájékoztató válasz ne legyen ugyanolyan lendületes, mint a kötetlen csevegés. A bosszús ügyféllel nem érdemes ugyanolyan elbűvölően vagy humorosan beszélni, mint azzal, aki csak nézelődik.
Ez a különbség a márkahang és a beszélgetéstervezés között. A márkahang gyakran a személyiséget írja le, a beszélgetéstervezés pedig azt határozza meg, hogyan viselkedjen ez a személyiség a helyzet változásakor. Ha ezt jól csináljuk, nem csupán MI-kimeneteken dolgozó szövegírók vagyunk. Azt tervezzük meg, hogyan alkalmazkodjon egy hang a beszélgetés menetéhez.
Látható, hogy technikailag egyik minta sem összetett. Részben éppen ez a lényeg. Az ügynökalapú rendszer architektúrája fontos, de a jó minőségű beszélgetéshez jelentős időt kell fordítani az utasítások megtervezésére és finomítására.
A pusztán működőképes és a valóban társalgó MI közötti szakadékot nem a műszaki tervezés hidalja át, hanem az emberi párbeszéd nyelvi és figyelmi működésének pontosabb megértése, valamint az, ha a párbeszédet állítjuk az ügynökök problématerének középpontjába.
Az MI-termékcsapatoknak, mérnököknek és élménytervezőknek az ügyfelekkel kommunikáló MI beszélgetéstervezését ugyanolyan alapossággal kell kezelniük, mint a műszaki kiválóságot. A beszélgetés másik oldalán állók számára nincs modell, több ügynök együttműködése vagy eszközhívás — csak egy interakció, amely vagy természetesnek érződik, vagy nem. Vagy bizalmat épít, vagy aláássa azt.
Végső soron senki sem az architektúrát tapasztalja meg. Hanem a beszélgetést.
A beszélgetés maga a termék.