Az ügyfelekkel kapcsolatba kerülő MI a márkát képviseli, ezért megalkotása alapvetően más szakértelmet igényel, mint a belső eszközöké.
Egy működőképes és egy meggyőző ügynök között inkább szemléletbeli, mint technikai a különbség, mivel a legtöbb utasítás párbeszédterv helyett egyszerű instrukcióhalmaz.
Jobb megközelítést kínál a nyelvészet és a kognitív pszichológia: a beszélgetéseknek szerkezetük van, az utasítások pedig figyelmi környezetet teremtenek. Az ügynök viselkedését megbízhatóan alakítja, hogy mit teszünk előre, mit ismétlünk meg, és hogyan zárjuk le az utasítást.
A korlátok segítenek, de csak akkor, ha pontosak. A túl sok szélsőséges eset merev interakciókat és kezelhetetlen utasításokat eredményez; kevesebb döntési helyzet mellett viszont a fontosabbakra összpontosíthatunk.
Egy vállalkozás számára komoly kihívás társalgásra képes, ügyfelekkel kapcsolatba kerülő MI-t létrehozni.
Még azoknak a technológia leglelkesebb alkalmazóinak is egészen más feladat az MI-t a vállalkozásuk és a külvilág közötti kapcsolódási ponttá tenni, akik egyéni munkavállalói szinten már bevezették az MI-vel való együttműködést, sőt akár saját belső MI-eszközöket is fejlesztettek.
Ez pedig valóban előléptetés. Amikor az MI közvetlen kapcsolatba kerül az ügyfelekkel, a szorgalmas gyakornokból hivatalosan felhatalmazott munkatárssá lép elő: felölti az egyenruhát, és az ügyfelek szemében a márkát képviseli.
Nagy a tét. Mostantól minden hibás lépés nyilvános, és akár rögzíthetik is.
Az általunk épített termékek gyakran többügynökös rendszerek, amelyek üzleti szinten összetett interakciókat kezelnek. Ez a logika azonban sokszor az egyszerűbb rész. A nagyobb kihívás elhitetni a felhasználókkal, hogy végig ugyanazzal az ügynökkel beszélnek, és hogy érdemes odafigyelniük arra, amit mond.
Ezért újra és újra megírjuk, majd átírjuk az utasításokat.
Egyes ügynökök több száz utasításváltozat eredményeként születnek meg. Mindegyik célja ugyanaz: maradjon a feladatnál, és az emberi felhasználókat megszólító hangon kommunikáljon.
Az utasítások finomításában szerzett tapasztalataink arra ösztönöztek bennünket, hogy kreatívabban keressünk ihletet. Más tudományterületektől kezdtünk ötleteket kölcsönözni. Természetesen nem minden vált be, és ami igen, az is ritkán működött elsőre. E felfedezőmunka eredményeként csapatunkban az utasításadás új szemléletmódja bontakozott ki.
Egy módszeresen működő és egy kiválóan társalgó ügynök között nem pusztán technikai, hanem szemléletbeli a különbség. Ez a távolság az ügynök számára az utasítással megteremtett világ és az emberi kommunikáció valós közege között, amelyben ténylegesen működik.
Ez utóbbit a kétértelműség jellemzi. Az emberek jól érzékelik ezt, a jóhiszemű kommunikáció résztvevői pedig az érintkezés finom, kimondatlan szabályait együttműködve követik. A felkészületlen ügynököt könnyű felismerni.
A negyedik fal, vagyis a Turing-illúzió fenntartásához a nyelvészet és a kognitív pszichológia felismeréseivel alapozhatjuk meg ügynökeink párbeszédkészségét.
A nyelvészet teljes eszköztárat kínál a használat közbeni nyelv vizsgálatára. Ide tartozik a társalgáselemzés is, amely azt kutatja, hogyan építik fel és irányítják az emberek pillanatról pillanatra a beszélgetéseket. Az utasításadásra alkalmazva ez a keretrendszer olyan fogalmi készletet ad, amellyel a beszélgetésre nem szavak, hanem cselekvések cseréjeként gondolhatunk.
Egyes cselekvések gyakorlatiak, például információ megszerzésére vagy átadására irányulnak, mások társas jellegűek, például a jó kapcsolat fenntartását vagy a súrlódások elkerülését szolgálják. Ezek a lépések a párbeszéd tágabb szerkezetén és annak szakaszain belül zajlanak, amelyek mindegyikéhez elvárt cselekvések tartoznak. A párbeszédeknek van kezdésük és lezárásuk, de témaváltásaik, sőt előzetes átmeneteik is: azok a néha kínos pillanatok, amikor a felek a sorok között finoman felvetnek, egyeztetnek és eldöntenek egy új irányt.
Félreértések a legjobb szándék ellenére is folyton előfordulnak. Bár az emberek eltérő szinten sajátítják el a párbeszéd művészetét, a lényeg az, hogy az ügynök mögött álló LLM még egy átlagos emberi kommunikátor intuíciójával sem rendelkezik eleve.
A nyelvészeti elemzést a kognitív pszichológia felismerései egészítik ki. Megmutatja, hogyan működik valójában a figyelem, az emlékezet és a döntéshozatal: miként súlyozzák az emberek az elsőként és az utolsóként elhangzottakat, hogyan váltanak ki bizonyos ingerek megbízható viselkedést, és miként adhatnak szabadságot a korlátok a kognitív terhelés csökkentésével.
Az utasítás nem az instrukciók semleges tárolója. Figyelmi környezetet teremt. Ezért számít, mi kerül az elejére. Az is számít, mi kerül a végére. És az is, mit ismétlünk meg. Egy listából az emberek általában könnyebben megjegyzik az elejét és a végét, mint a közepét. A pszichológusok ezt szeriális helyzeti hatásnak nevezik: elsőbbségi és újdonsági hatásnak.
A gyakorlatban az LLM-eknél is hasonlót tapasztalunk. A legelső útmutatások kijelölik a keretet: ki az ügynök, milyen szerepet játszik, és milyen világra számít. A záró útmutatás gyakran úgy hat, mint „az utolsó dolog, amit hall”. Ha ide tesszük a legfontosabb instrukciókat, nagyobb eséllyel valósulnak meg.
Miközben gondosan mérlegeljük, hol helyezzük el a különböző instrukciókat az utasításon belül, azt is figyelnünk kell, milyen átfogó keretet szabnak ezek az ügynöknek.
Az instrukciók korlátozzák az ügynököt: csökkentik a mérlegelendő lehetőségek számát, és leszűkítik a teljes problémateret. Utasításainkban elegendő korlátra van szükség ahhoz, hogy az ügynök feladata kezelhető maradjon.
A pszichológia szerint az emberi munkatársak, különösen a kevésbé tapasztaltak eligazításakor érdemes a lehető legegyértelműbbé tenni a feladatot, és ezzel a lehető legjobban csökkenteni a kognitív terhelést. A korlátok látszólag gátolják a szabadságot, de ha kevesebb döntést kell meghoznunk, a fennmaradó néhány fontos döntésre összpontosíthatunk, és kreatívan cselekedhetünk a kijelölt kereteken belül.
Ezzel szemben, ha minden elképzelhető szélsőséges esetre példaviselkedések listáival készülve semmilyen döntést nem hagyunk az ügynöknek, merev társalgópartnert kapunk. Nem beszélve az „ha–akkor” elágazásokból összevarrt, kezelhetetlen Frankenstein-utasításról, amelyet rémálom karbantartani.
(Kevés lövésess módszerek, rátok gondolunk.)
Egy jól körülhatárolt utasítás kellően világos irányt szab anélkül, hogy túlterhelné a feladatleírást és megbénítaná az ügynököt. Ez gyakran azt jelenti, hogy kevesebb szélsőséges esetet vagy célt adunk meg az ügynöknek, akár arról van szó, mit mondjon vagy ne mondjon, akár arról, hogyan tegye vagy ne tegye.
Tapasztalataink szerint, ha kevés lövéses példához nyúlunk a korlát módosításához, akkor a korlát nem elég pontos. Térjünk vissza az alapvető instrukciókhoz, és finomítsuk őket.
Kognitív pszichológiai szempontból azt vizsgáltuk, hol érdemes elhelyezni a különböző instrukciókat az utasításban, valamint mennyi és milyen minőségű instrukció szükséges az ügynök problématerének megfelelő körülhatárolásához.
A párbeszéd művészetéről tett korábbi nyelvészeti megfigyeléseinket felidézve úgy tehetjük teljessé az utasításadási szemléletünket, ha a párbeszéd-központú instrukciókat az ügynök tágabb feladatkeretének részeként kezeljük.
Az ügyfelekkel kapcsolatba kerülő MI számára a párbeszéd mindig metafeladat, akár elismerjük ezt, akár nem. Ha az utasításban tudatosan foglalkozunk a párbeszéddel, az ügynök kapacitásának, vagyis „kognitív terhelésének” egy részét a párbeszéd érzékelésére és az arra adott válaszokra fordítjuk, javítva ezzel társalgási képességét.
Ennek azonban valószínűleg az az ára, hogy az egész problématér kezelhetősége és egyértelmű körülhatároltsága érdekében szűkítenünk kell a fő feladatot.
Az ügyfelekkel kapcsolatba kerülő MI esetében tehát egységes szemlélettel teremtjük meg a jobb párbeszédek és döntések feltételeit. Kisebb, jól körülhatárolt ügynökökre törekszünk, amelyek fő feladata a párbeszéd metafeladatába ágyazódik, vagy azt is magában foglalja. Nem írunk hosszú instrukcióhalmazokat, amelyeket aztán példákkal finomítunk. Kevesebb, gondosan finomított instrukciót írunk, amelyek pontossága feleslegessé teszi a példákat.
Ezzel az utasításadási szemlélettel olyan ügynököket hozunk létre, amelyek nemcsak a feladatra összpontosítanak, hanem választékosan is társalognak.
Miután feltérképeztük az elméleti hátteret, következő blogbejegyzésünkben rátérünk a gyakorlatra. Bemutatunk néhány kulcsfontosságú mintát, amelyek e gyakorlati próbálkozások során rajzolódtak ki, miközben ezeket az elveket valódi utasításokon alkalmaztuk. Érdekes módon az élvonalbeli modellek szolgáltatóinak saját utasításadási útmutatóiban is kezdenek hasonló minták megjelenni. Legközelebb folytatjuk.