Формулисање инструкције углавном је усредсређено на тачност и обухват упутстава. Највећа побољшања у продукцији постижу се када се сам дијалог третира као главни дизајнерски проблем.
Дефинисање намера у облику окидача и радње усмерава модел како да одлучује, уместо да му задаје сценарио из којег не може да изађе. Положај у инструкцији и сам представља упутство. Идентитет иде на почетак, нијансе понашања у средину, строга ограничења на крај, а све што је заиста пресудно ставља се на оба места.
Писање инструкције жељеним тоном, уместо описивања тог тона, једна је од промена са највећим учинком.
Најдоследнији су они агенти чије инструкције различите тренутке у разговору третирају као засебне интеракције, од којих свака има одговарајући облик, док тон све време остаје препознатљиво исти.
У неким случајевима раздвајање агената који размишљају од оних који говоре даје доследније и утемељеније одговоре и спречава да интерно резоновање доспе у њих.
Раније смо представили нову парадигму формулисања инструкције, засновану на увидима из лингвистике и когнитивне психологије. Писали смо о важности стварања јасног и добро ограниченог проблемског простора у којем наш агент може да делује, као и о томе да тај простор мора да обухвати метазадатак дијалога својствен вештачкој интелигенцији окренутој корисницима.
Сада ћемо размотрити неколико практичних начина на које су наше инструкције почеле да се мењају док смо настојали да ове принципе применимо у продукцији.
Током стотина итерација инструкција у активним системима окренутим корисницима, највећа побољшања нису дошла од додавања упутстава, гомилања примера или праћења уобичајених правила формулисања инструкције. Напротив, дошла су захваљујући прихватању дијалога као суштине проблема.
Сталним истраживањем и тестирањем издвојило се неколико делотворних техника. Мењали бисмо инструкцију и пратили где је разговор успео или заказao, повезујући неуспехе са делотворношћу смерница, структуром инструкције и начином на који користимо језик. Резултат је неколико поновљивих образаца који мењају начин на који агент тумачи своју улогу у разговору, бира наредни потез и доследно задржава исти тон у променљивим контекстима.
Ово није универзалан оквир нити тврдња да је формулисање инструкције сада „решено“. Реч је о пет образаца који су се показали поузданим у продукцији када циљ није била само функционална тачност већ и бољи дијалог: доследни, природни и довољно уједначени одговори који могу да представљају бренд.
Иако постоји много начина да се агентски систем структурира, оркестрирани токови рада са више агената и даље су популарни. Посебно у таквим системима, најдоследније побољшање постигли смо раздвајањем агената који размишљају од агената који говоре.
Оркестрација намера, класификација, издвајање знања и употреба алата представљају позадинске операције. Одговори корисницима припадају видљивом слоју. Када исти агент обавља оба задатка у истом потезу, интерно резоновање и логика могу доспети у одговоре. Одговори тада постају неодлучни и преоптерећени оградама или се организују према логици процеса уместо према потребама особе.
То једно ограничење постиже изненађујуће много. Оно задржава одговоре у оквирима стварног разговора, спречава ресетовање контекста и даје нешто ближе ономе што називамо „испоруком разлике“. Агент на крају додаје само најмању нову информацију која корисника заиста води напред.
Важна је и одлука о томе који тип одговора треба дати. Утврдили смо да се најчешћи проблем у разговору поуздано смањује када од агента који говори затражимо да пре писања изабере врсту потеза — одговор, појашњење, преусмеравање или задржавање. Проблем, наиме, није лош стил, већ потпуно погрешан одговор.
Вреди напоменути да најновији гранични модели, под одговарајућим условима, почињу да доводе у питање претпоставку на којој почива овај образац. Ипак, многи програмери из различитих разлога и даље користе мање или старије моделе, па у тим околностима свакако препоручујемо раздвајање позадинских задатака од комуникације са корисницима.
Код модела без резоновања, примери са малим бројем уноса функционишу јер су конкретни, брзо се задају и модели добро реагују на њих. Проблем је прекомерно прилагођавање. Када моделу дате пример, он се веже за речи, ритам и структуру, па непрестано ствара блиске варијације истог одговора чак и када се ситуација промени.
Несвесно сте написали сценарио из којег модел не може да изађе.
Намере примене или хеуристике представљају трајнију алтернативу. Уместо да моделу показујемо шта да каже у одређеним ситуацијама*,* дајемо му шири пар окидача и радње: ако се догоди X, уради Y.
Кључна разлика је у томе што X и Y не сужавамо пример по пример, чинећи их све крућим, већ око сваког постављамо јасну границу помоћу толико прецизног упутства да примери постају сувишни. Тако агент реагује на стварне варијације у разговору уместо да их уклапа у шаблон.
У пракси то мање личи на примере, а више на применљива практична правила:
Ако кључни детаљ недостаје, постави једно питање за појашњење.
Ако одговор није подржан, кажи то директно и понуди најбољи доступан наредни корак.
Ако захтев наиђе на блокаду, накратко одбиј и усмери без церемоније.
Није нарочито упечатљиво, али је знатно поузданије од збирке примера одговора јер модел учи како да одлучи, а не шта да понавља.
Положај садржаја у инструкцији одређује колику ће тежину имати. Овај образац доследно уочавамо у различитим моделима и применама. Почетак и крај инструкције несразмерно су упечатљиви. У средини су нијансе, а управо тамо им је и место.
Имајући то у виду, тако и структурирамо инструкције. Улогу и представу агента о самом себи стављамо на почетак, како бисмо пре свега успоставили идентитет. У средини су детаљи о понашању: како ће се разговор вероватно развијати, хеуристике које усмеравају одговоре и распон ситуација које агент мора да обради. Строга ограничења и правила о којима нема преговора стављамо на крај, где остају „најсвежија у памћењу“.
Све што је заиста пресудно стављамо на оба места. Одређено правило излаза — рецимо, строго упутство о интерпункцији или форматирању — лако се губи ако се само једном појави усред густо написане инструкције. Ако га поновите на крају, биће испоштовано.
Када је реч о предности свежих информација, вреди напоменути да су структурирани излази, када се користе, заправо последње упутство у вашој инструкцији. Поља за опис у структурираним излазима квалитативно утичу на одговоре и успостављају чвршћи уговор о излазу од остатка инструкције.
Научили смо да ни за тон комуникације не користимо примере са малим бројем уноса, а то је једна од промена које су највише унапредиле наше агенте окренуте корисницима.
Уместо тога, целу инструкцију пишемо жељеним тоном. Не описујемо тон нити наводимо придеве који га приближно дочаравају, већ га заиста користимо у целовитом тексту, од првог до последњег реда. Сама инструкција постаје демонстрација. То називамо „избегавањем шаблонског говора“: усмеравамо модел да опонаша унос, али му допуштамо да користи шири распон језика и израза који припадају истом стилском оквиру као и сама инструкција.
Тако инструкцијом подстичемо разноврсност уз доследан тон. То је део наше стратегије да дијалог поставимо у средиште задатка сваког агента, без сувишних изричитих упутстава, која настојимо да сведемо на минимум.
Ако ипак користимо изричите примере тона комуникације, они показују „шта не треба радити“. На пример: “No em dashes. Ever. No clichés. No policy dumping. No over-explanation when a single sentence will close the loop.” Негативна ограничења су истовремено прецизнија и мање спутавајућа од позитивних тежњи јер именују начине на које ће модел највероватније погрешити.
И форматирање је овде важно јер одређује тон одговора. Инструкција пуна набрајања, наслова и упутстава у заградама усмерава модел ка организованијем, формалнијем излазу. Ако излаз треба да делује као разговор, унос не би требало да личи на сажету техничку спецификацију.
Већина инструкција о тону своди се на личност. Наводи се скуп придева који треба да опишу како би агент требало да звучи. Срдачно. Професионално. Пријатељски, али сажето. То није погрешно, али начин на који ће тон бити доживљен у разговору заправо одређује регистар: како се исти основни карактер понаша у различитим друштвеним ситуацијама.
Привремена порука током обраде упита не би требало да звучи као коначан одговор. Одговор којим се примењује заштитно ограничење не би требало да има исту енергију као необавезан разговор. Незадовољном кориснику не треба се обраћати са истом дозом шарма или хумора као некоме ко само необавезно разгледа.
У томе је разлика између гласа бренда и дизајна разговора. Глас бренда често описује карактер, док дизајн разговора одређује како се тај карактер понаша када се околности промене. Када то добро урадимо, више нисмо само писци текстова који обликују излазе вештачке интелигенције. Ми осмишљавамо како се одређени глас развија кроз разговор.
Приметићете да ниједан од ових образаца није технички сложен. То и јесте део поенте. Архитектура агентског система јесте важна, али за квалитет разговора морате уложити много времена у осмишљавање и усавршавање инструкција.
Јаз између чисто функционалне и истински разговорне вештачке интелигенције не премошћује се техничким дизајном, већ бољим разумевањем улоге језика и пажње у људском дијалогу и постављањем дијалога у средиште проблемског простора агената.
За тимове који развијају производе вештачке интелигенције, инжењере и дизајнере корисничког искуства, дизајн разговора заслужује исту темељност као и техничка изврсност система окренутих корисницима. За људе са друге стране тих разговора не постоје ни модел, ни сарадња више агената, ни позив алата — постоји само интеракција која делује како треба или не. Интеракција која гради или подрива поверење.
На крају, нико не доживљава архитектуру. Људи доживљавају разговор.
Разговор је производ.