Вештачката интелигенција што комуницира со клиентите го претставува вашиот бренд, а вештината потребна за нејзино создавање е суштински различна од онаа за внатрешните алатки.
Разликата меѓу функционален и уверлив агент е повеќе концептуална отколку техничка, бидејќи повеќето промптови се пишуваат како збир инструкции, а не како осмислени дијалози.
Подобра рамка нудат лингвистиката и когнитивната психологија: разговорите имаат структура, а промптовите создаваат средина што го насочува вниманието. Она што ќе го ставите на почетокот, што ќе го повторите и начинот на кој ќе завршите сигурно ќе го обликуваат однесувањето на агентот.
Ограничувањата помагаат, но само кога се прецизни. Премногу гранични случаи создаваат неприродни интеракции и непрактични промптови, па помалиот број одлуки овозможува фокусирање на оние што се поважни.
Создавањето разговорна ВИ што комуницира со клиентите е сериозен предизвик за секоја компанија.
Дури и за најревносните усвојувачи на технологијата, кои ја прифатиле соработката со ВИ на ниво на поединечен вработен, па можеби развиле и сопствени алатки за ВИ за внатрешна употреба, поставувањето на ВИ како посредник меѓу компанијата и светот е сосема друга работа.
А тоа навистина е унапредување. Кога ВИ почнува да комуницира со клиентите, таа напредува од вреден практикант во официјално овластен вработен, ја облекува униформата и го претставува брендот пред клиентите.
Влогот е голем. Секој погрешен чекор сега е јавен и може да биде снимен.
Производите што ги создаваме често се системи со повеќе агенти и сложени интеракции на деловно ниво. Сепак, таа логика може да биде полесниот дел. Поголем предизвик е да ги увериме корисниците дека цело време разговараат со еден агент и дека она што тој го кажува е вредно.
Затоа ги пишуваме и препишуваме промптовите, одново и одново.
Некои агенти се резултат на стотици повторувања и доработки на промптот. Сите имаат иста цел: да останат фокусирани на задачата и да зборуваат со глас што допира до луѓето.
Нашето искуство со усовршувањето на промптовите нè наведе покреативно да бараме инспирација. Почнавме да позајмуваме идеи од други дисциплини. Се разбира, не функционираше сè, а и она што функционираше ретко успеваше од првиот обид. Како резултат на овие истражувачки напори, во нашиот тим се појави поинаква парадигма на промптирање.
Јазот меѓу систематски функционален агент и агент што извонредно разговара не е само технички, туку и концептуален. Тоа е растојанието меѓу светот во кој сте го поставиле агентот преку промптот и реалниот свет на човечката комуникација во кој тој дејствува.
Реалниот свет се одликува со двосмисленост, на која луѓето се добро приспособени и низ која добронамерните соговорници заеднички се снаоѓаат, следејќи низа суптилни, неискажани правила на дискурсот. Веднаш се забележува кога агентот не е добро подготвен.
За да ја зачуваме четвртата сцена, односно Тјуринговата илузија, можеме да ги втемелиме нашите агенти во уметноста на дијалогот, користејќи сознанија од лингвистиката и когнитивната психологија.
Лингвистиката располага со цела низа алатки за проучување на јазикот во употреба, вклучувајќи ја и анализата на разговорот, која проучува како луѓето ги структурираат и водат разговорите од миг во миг. Применета на промптирањето, оваа рамка ни дава поимник со кој разговорот го разгледуваме не како размена на зборови, туку како размена на дејства.
Некои дејства се практични, како добивањето или давањето информации, а други се општествени, како одржувањето добар однос или избегнувањето тензии. Таквите потези се одвиваат во пошироката структура на дијалогот и неговите фази, од кои секоја подразбира очекувани дејства. Дијалозите имаат почеток и крај, но и премини меѓу теми, па дури и воведи во премините — оние понекогаш непријатни мигови кога новата насока суптилно се предлага, усогласува и се договара меѓу редови.
Недоразбирањата се случуваат постојано, дури и кога сите страни имаат најдобри намери. Иако луѓето во различна мера ја владеат уметноста на дијалогот, суштината е дека големите јазични модели (LLM) зад вашиот агент не располагаат однапред со интуицијата што ја има дури и просечниот човечки соговорник.
Покрај лингвистичката анализа, когнитивната психологија нуди и нешто комплементарно. Таа ни покажува како навистина функционираат вниманието, меморијата и одлучувањето — како луѓето различно го вреднуваат она што доаѓа прво и последно, како одредени поттикнувачи доведуваат до предвидливо однесување и како ограничувањата можат да ослободат со намалување на когнитивното оптоварување.
Промптот не е неутрален сад за инструкции. Тој е средина што го насочува вниманието. Затоа е важно што се наоѓа на почетокот. Важно е и што се наоѓа на крајот. Важно е и што се повторува. Кога ќе добијат список, луѓето полесно ги помнат почетокот и крајот отколку средината. Психолозите го нарекуваат ова ефект на сериска позиција: примарност и неодамнешност.
Во практиката забележуваме нешто слично и кај големите јазични модели (LLM). Првичните насоки ја поставуваат рамката: кој е агентот, каква улога има и со каков свет очекува да се сретне. Завршните насоки честопати се однесуваат како „последното нешто што го слуша“. Ако таму ги ставиме најважните инструкции, поголема е веројатноста тие да бидат спроведени.
Додека внимателно одлучуваме каде да ги поставиме различните инструкции во промптот, треба да го следиме и целокупниот облик на границата што тие ја создаваат за нашиот агент.
Инструкциите го ограничуваат агентот, го намалуваат бројот на спротивставени можности што треба да ги разреши и го стеснуваат вкупниот простор на проблемот. Во промптовите ни требаат доволно ограничувања за задачата на агентот да биде совладлива.
Кога им даваме инструкции на вработените, особено на помалку искусните, психологијата ни кажува дека е мудро што повеќе да ја разјасниме задачата и така да го намалиме когнитивното оптоварување. Иако ограничувањата може да ни изгледаат како попречување на слободата, помалиот број одлуки нè ослободува да се сосредоточиме на неколкуте важни одлуки што остануваат и креативно да дејствуваме во зададените граници.
Спротивно на тоа, ако се обидеме да не му оставиме ниту една одлука на агентот така што ќе го опфатиме секој замислив граничен случај со списоци на примерни однесувања, ќе создадеме неприроден соговорник, а згора на тоа и непрактичен, Франкенштајнов промпт од услови „ако“ и „инаку“, кој е кошмар за управување.
(Промптови со мал број примери, на вас мислиме.)
Добро ограничениот промпт дава доволно јасна насока, без да го преоптовари упатството и да го парализира агентот. Тоа често значи воведување помалку гранични случаи или цели за агентот — и во поглед на тоа што треба или не треба да каже, и во поглед на тоа како треба или не треба да го каже.
Според нашето искуство, ако посегнувате по промпт со мал број примери за да ја приспособите границата, таа не е доволно прецизна. Вратете се на основните инструкции и усовршете ги.
Од гледна точка на когнитивната психологија, размислувавме каде треба да ги поставиме различните инструкции во промптот и колкав обем и каков квалитет на инструкции се потребни за најдобро да го ограничиме проблемскиот простор на агентот.
Ако се навратиме на претходните лингвистички согледувања за уметноста на дијалогот, можеме да ја заокружиме нашата парадигма на промптирање така што инструкциите насочени кон дијалогот ќе ги поставиме како дел од пошироката граница на задачата на агентот.
За ВИ што комуницира со клиентите, дијалогот секогаш е метазадача, без оглед дали го признаваме тоа. Кога свесно го опфаќаме дијалогот во промптот, издвојуваме дел од капацитетот, односно „когнитивното оптоварување“ на агентот, за препознавање на дијалогот и соодветно реагирање, со што ја подобруваме неговата способност за разговор.
Но компромисот е во тоа што најверојатно ќе мора да ја намалиме главната задача за целокупниот проблемски простор да остане совладлив и добро ограничен.
Затоа, за ВИ што комуницира со клиентите, условите за подобар дијалог и подобри одлуки ги осмислуваме како целина. Се стремиме кон помали, добро ограничени агенти, чија главна задача е контекстуализирана во рамките на метазадачата на дијалогот или ја опфаќа. Не пишуваме купишта инструкции што потоа се усовршуваат преку примери. Пишуваме помал збир усовршени инструкции, доволно прецизни за примерите да станат непотребни.
Ова е парадигмата на промптирање со која создаваме агенти што не само што остануваат фокусирани на задачата, туку и ја извршуваат со разговорна елеганција.
Откако го исцртавме концептуалниот пејзаж, во следната објава ќе преминеме на попрактични теми. Ќе разгледаме неколку клучни обрасци што се појавија додека, преку обиди и грешки во реални услови, ги применувавме овие принципи во промптовите. Интересно е што давателите на гранични модели почнуваат да вклучуваат слични обрасци и во сопствените насоки за промптирање. Повеќе следниот пат.