Повечето подходи към разработването на подкани се съсредоточават върху точността и обхвата на инструкциите. Най-големите подобрения в реална среда идват от разглеждането на самия диалог като основен проблем за проектиране.
Задаването на намерения от типа „условие-действие“ насочва модела как да взема решения, вместо да му дава сценарий, от който не може да се отклони. Позицията в подканата сама по себе си е инструкция. Идентичността е в началото, поведенческите нюанси – в средата, строгите ограничения – накрая, а всичко наистина критично се поставя и на двете места.
Една от промените с най-голям ефект е подканата да бъде написана в желания тон, вместо този тон да бъде описван.
Най-последователни са агентите, чиито подкани разглеждат различните моменти в разговора като отделни взаимодействия, всяко със своя подходяща форма, като същевременно запазват един и същ разпознаваем тон през цялото време.
В някои случаи разделянето на агентите, които мислят, от агентите, които говорят, води до по-последователни и обосновани отговори и предотвратява изтичането на вътрешните разсъждения в отговорите.
По-рано представихме нова парадигма към задаването на подкани, основана на идеи от областите на лингвистиката и когнитивната психология. Писахме за значението на създаването на ясно и добре очертано проблемно пространство, в което агентът ни може да работи, и за това как това пространство трябва да обхваща метазадачата на диалога, присъща на ИИ, предназначен за взаимодействие с клиенти.
Сега ще разгледаме някои практически начини, по които подканите ни започнаха да се променят, докато се опитвахме да приложим тези принципи в реална среда.
След стотици итерации на подканите в реални системи, предназначени за взаимодействие с клиенти, установихме, че най-големите подобрения не идват от добавянето на повече инструкции, натрупването на примери или следването на типичните практики за разработване на подкани. Те идват от поставянето на диалога в центъра на проблема.
Чрез непрекъснато проучване и тестване се откроиха редица ефективни техники. Променяхме дадена подкана и наблюдавахме къде разговорът протича успешно и къде се проваля, като проследявахме причините за неуспехите до ефективността на насоките, структурата на подканата и начина, по който използваме езика. В резултат се оформиха няколко повтаряеми модела, които променят начина, по който агентът възприема ролята си в разговора, взема решение каква да бъде следващата му стъпка и поддържа последователен тон при променящ се контекст.
Това, което следва, не е универсална рамка, нито твърдение, че задаването на подкани вече е „решен проблем“. Това е обобщение в пет модела на онова, което е доказано в реална среда, когато целта не е само функционална точност, а по-добър диалог: отговори, които звучат последователно, естествено и достатъчно устойчиво, за да могат да предадат гласа на дадена марка.
Макар че има много начини за структуриране на агентна система, оркестрираните работни процеси с множество агенти остават популярен подход. Именно при такива системи най-последователното подобрение, което постигнахме, беше да разделим агентите, които мислят, от агентите, които говорят.
Оркестрирането на намерения, класифицирането, извличането на знания и използването на инструменти са вътрешни операции. Отговорите към клиентите са част от комуникационния слой. Когато един и същ агент изпълнява и двете функции в рамките на един и същ ход, вътрешните разсъждения и логиката могат да проникнат в отговорите. Отговорите стават уклончиви, прекалено условни или структурирани според логиката на процеса, а не според нуждите на човека.
Това единствено ограничение върши изненадващо много работа. То поддържа отговорите свързани с действителния разговор, предотвратява нулирането на контекста и дава резултат, по-близък до това, което наричаме „предаване само на разликата“. В крайна сметка агентът добавя само най-малката нова част, която действително помага на потребителя да продължи напред.
Важно е и решението какъв тип отговор да се даде. Установихме, че ако на говорещия агент се възложи да избере вид ход, преди да напише каквото и да било – отговор, уточнение, пренасочване или изчакване – това надеждно намалява най-често срещаната грешка в разговора: не лошият текст, а изцяло неправилният отговор.
Струва си да отбележим, че при подходящи условия най-новите авангардни модели започват да поставят под въпрос основната предпоставка на този подход. Въпреки това много разработчици продължават да разчитат на по-малки или по-стари модели по различни причини и в тези случаи определено препоръчваме да разделяте вътрешните задачи от комуникацията с клиентите.
При моделите без способност за разсъждение примерите с малко повторения работят, защото са конкретни, бързи и моделите реагират добре на тях. Проблемът е свръхнапасването. Дайте пример на модела и той се вкопчва в думите, ритъма и формата му, като постоянно генерира близки варианти на същия отговор, дори когато ситуацията се е променила.
Неусетно сте написали сценарий, от който моделът не може да се отклони.
Намеренията за действие или евристичните правила са по-устойчива алтернатива. Вместо да показваме на модела какво да каже в конкретни ситуации*,* му задаваме по-обща двойка от условие и действие: ако се случи X, направи Y.
Ключовата разлика е, че вместо да стесняваме X и Y с всеки следващ пример, докато те стават все по-неподатливи, очертаваме ясна граница около всяко от тях чрез толкова прецизна инструкция, че примерите стават излишни. Така агентът остава адаптивен към реалните вариации в разговора, вместо да напасва отговорите към шаблон.
На практика това изглежда по-малко като примери и повече като изпълними правила:
Ако липсва ключов детайл, задай един уточняващ въпрос.
Ако отговорът не е подкрепен от наличните данни, кажи го директно и предложи най-добрата налична следваща стъпка.
Ако заявката попада под предпазна мярка, откажи накратко и пренасочи разговора без излишни формалности.
Не звучи впечатляващо, но е значително по-надеждно от библиотека с примерни отговори, защото учи модела как да взема решения, а не какво да повтаря.
Мястото на даден елемент в подканата определя каква тежестта му. Наблюдаваме тази закономерност последователно при различни модели и внедрявания. Началото и краят на подканата имат непропорционално голямо значение. В средата е нюансът – точно там, където му е мястото.
Структурираме подканите си с оглед на това. Поставяме ролята и самоопределението на агента в началото, за да установим неговата идентичност преди всичко останало. В средата са поведенческите подробности: как вероятно ще се развие разговорът, евристичните правила, които насочват отговорите, и диапазонът от ситуации, с които агентът трябва да може да се справи. Строгите ограничения и неотменимите правила са в края, където остават „на преден план“.
За всичко, което е наистина критично, го поставяме и на двете места. Конкретно правило за резултата – например строго изискване относно пунктуацията или форматирането – може лесно да се изгуби, ако се появи само веднъж в средата на плътна подкана. Когато се повтори в края, то се запазва.
По отношение на принципа на скорошността си струва да се отбележи, че когато се използват, структурираните резултати на практика са последната инструкция в подканата. Полетата за описание в структурираните резултати оказват съществено влияние върху отговорите и формират по-силен договор за резултата от останалата част на подканата.
Установихме, че също така не трябва да използваме примери с малко повторения за тона на комуникация. Това е една от промените с най-голям ефект върху нашите агенти за работа с клиенти.
Вместо това пишем цялата подкана в желания тон. Не описание на тона, не набор от прилагателни, които приблизително го предават, а самия тон в свързан текст – от първия до последния ред. Подканата се превръща в демонстрация. Наричаме това „антискриптов подход“: насочване на модела да имитира подадената подкана, като същевременно му позволяваме да използва по-широк набор от думи и изрази в същия стил като самата подкана.
Така подканваме модела да внася разнообразие, без да нарушава последователността на тона. Това е част от стратегията ни да поставим диалога в центъра на задачата за всеки агент, без да добавяме изрични указания, които се стремим да сведем до минимум.
Ако все пак използваме изрични примери за тона, те показват „какво да не се прави“. Например: „Без дълги тирета. Никога. Без клишета. Без изсипване на правила и политики. Без излишни обяснения, когато едно изречение е достатъчно, за да приключи разговора.“ Отрицателните ограничения са едновременно по-точни и по-малко ограничаващи от положителните насоки, защото назовават моделите на грешки, към които моделът най-вероятно ще се отклони.
Форматирането също е важно, защото задава тона на отговора. Подкана, изпълнена със списъци, заглавия и указания в скоби, насочва модела към по-структуриран, делови резултат. Ако резултатът трябва да звучи като разговор, входният текст не трябва да изглежда като телеграфно написана спецификация.
Повечето подходи към задаването на тон се свеждат до индивидуалност. Предоставя се набор от прилагателни, описващи как трябва да звучи агентът. Сърдечен. Професионален. Приветлив, но кратък. Тези определения не са погрешни, но това, което действително определя как се възприема даден глас в разговор, е регистърът: как един и същ персонаж се държи в различни социални ситуации.
Съобщение, което се показва, докато заявката се обработва, не бива да звучи като окончателен отговор. Отговорът, който се задейства от предпазна мярка, не бива да носи същата енергия като непринудения разговор. Разочарован клиент не трябва да получава същата доза чар или хумор като клиент, който просто разглежда.
Това е разликата между гласа на марката и дизайна на разговорите. Гласът на марката често описва персонажа, а дизайнът на разговорите определя как този персонаж се държи при промяна на ситуацията. Да постигнем това правилно означава, че не сме просто копирайтъри, които работят върху резултатите от изкуствения интелект. Ние проектираме начина, по който даден глас се движи през разговора.
Ще забележите, че нито един от тези подходи не е технически сложен. Това донякъде е и идеята. Архитектурата на една агентна система е важна, но за да постигнете качествен разговор, трябва да отделите значително време за проектиране и усъвършенстване на подканите.
Разликата между чисто функционален и истински разговорен изкуствен интелект не се преодолява с технически дизайн, а с по-ясно разбиране за ролята на езика и вниманието в човешкия диалог и с поставянето на диалога в центъра на проблемното пространство на агентите ви.
За екипите за продукти с изкуствен интелект, инженерите и дизайнерите на потребителско изживяване дизайнът на разговори заслужава същата прецизност като техническото съвършенство при изкуствения интелект, с който взаимодействат клиентите. За хората от другата страна на тези разговори няма модел, няма взаимодействие между множество агенти, няма извикване на инструмент – има само взаимодействие, което или се усеща като правилно, или не. Взаимодействие, което или изгражда доверие, или го подкопава.
В крайна сметка никой не възприема архитектурата. Хората възприемат разговора.
Разговорът е продуктът.