Дизајнирањето на промпти најчесто се фокусира на точноста и опфатот на инструкциите. Најголемите подобрувања во продукција доаѓаат кога самиот дијалог се третира како главен дизајнерски проблем.
Задавањето намери во облик на активатор и дејство го насочува моделот како да одлучува, наместо да му дава скрипта од која не може да излезе. Позицијата во промптот е инструкција сама по себе. Идентитетот е на почетокот, нијансите на однесувањето во средината, строгите ограничувања на крајот, а сè што е навистина критично се става на двете места.
Пишувањето на промптот во саканиот тон, наместо негово опишување, е една од достапните промени со најголем ефект.
Најдоследни се агентите чии промпти ги третираат различните моменти од разговорот како посебни интеракции, секоја со соодветна форма, а притоа постојано го задржуваат истиот препознатлив тон.
Во некои случаи, раздвојувањето на агентите што размислуваат од оние што комуницираат создава подоследни и повтемелени одговори и спречува внатрешното расудување да навлезе во нив.
Претходно претставивме нова парадигма за промптирање, заснована на сознанија од лингвистиката и когнитивната психологија. Пишувавме за важноста да се создаде јасен, добро ограничен проблемски простор во кој нашиот агент може да дејствува и за потребата тој простор да ја опфати метазадачата на дијалогот, својствена за ВИ што комуницира со корисници.
Сега ќе разгледаме неколку практични начини на кои нашите промпти почнаа да се менуваат додека се обидувавме да ги примениме овие начела во продукција.
Низ стотици верзии на промпти во активни системи за комуникација со корисници, најголемите подобрувања не дојдоа од додавање инструкции и примери ниту од следење на вообичаените норми за дизајнирање промпти. Наместо тоа, дојдоа од прифаќањето на дијалогот како срж на проблемот.
Со постојано истражување и тестирање се појавија повеќе делотворни техники. Ќе изменевме промпт и ќе набљудувавме каде разговорот успева или потфрла, поврзувајќи ги грешките со делотворноста на насоките, структурата на промптот и начинот на кој го користиме јазикот. Резултатот е неколку повторливи обрасци што го менуваат начинот на кој агентот ја толкува својата улога во разговорот, го избира следниот потег и доследно го задржува тонот при промена на контекстот.
Ова не е универзална рамка ниту тврдење дека промптирањето сега е „решено“. Станува збор за пет обрасци што се покажаа успешни во продукција кога целта не беше само функционална точност, туку подобар дијалог: одговори што звучат доследно, природно и доволно препознатливо за да претставуваат бренд.
Иако постојат многу начини да се структурира систем со агенти, оркестрираните работни текови со повеќе агенти и понатаму се популарни. Особено кај таквите системи, најдоследното подобрување го постигнавме со одделување на агентите што размислуваат од агентите што комуницираат.
Оркестрацијата на намери, класификацијата, извлекувањето знаење и употребата на алатки се заднински операции. Одговорите упатени до корисниците се дел од слојот за комуникација со нив. Кога истиот агент ги извршува двете задачи во еден чекор, внатрешното расудување и логиката може да навлезат во одговорите. Одговорите стануваат неодлучни, преоптоварени со огради или структурирани според логиката на процесот, наместо според потребите на човекот.
Тоа единствено ограничување постигнува изненадувачки многу. Ги задржува одговорите втемелени во тековниот разговор, спречува ресетирање на контекстот и создава нешто поблиско до она што го нарекуваме „испорачување на разликата“. На крајот, агентот го додава само најмалиот нов елемент што навистина му помага на корисникот да продолжи напред.
Важна е и одлуката каков вид одговор да се даде. Утврдивме дека барањето агентот што комуницира да избере вид на потег пред да напише што било — одговор, појаснување, пренасочување или задржување — сигурно ја намалува најчестата грешка во разговорот: не лошо напишан текст, туку сосема погрешен одговор.
Вреди да се напомене дека, во соодветни услови, најновите гранични модели почнуваат да ја доведуваат во прашање претпоставката зад овој образец. Сепак, многу развивачи поради разни причини и понатаму се потпираат на помали или постари модели, па во тие случаи секако препорачуваме да ги раздвоите заднинските задачи од комуникацијата со корисниците.
Кај моделите без расудување, примерите во промпт со мал број примери функционираат затоа што се конкретни, брзи и моделите добро реагираат на нив. Проблемот е прекумерното приспособување. Кога ќе му дадете пример на моделот, тој се врзува за зборовите, ритамот и формата и постојано создава слични верзии на истиот одговор, дури и кога ситуацијата се променила.
Несакајќи сте напишале скрипта од која моделот не може да излезе.
Намерите за постапување или хеуристиките се потрајна алтернатива. Наместо да му покажуваме на моделот што да каже во конкретни ситуации, задаваме поширок пар од активатор и дејство: ако се случи X, направи Y.
Клучната разлика е што, наместо со секој нов пример да ги стеснуваме X и Y и така да стануваат сè поригидни, поставуваме цврста граница околу секое од нив преку толку прецизна инструкција што примерите стануваат непотребни. Така агентот реагира на вистинските варијации во разговорот, наместо да бара совпаѓање со шаблон.
Во практика, тоа помалку личи на примери, а повеќе на применливи практични правила:
If a key detail is missing, ask one clarifying question.
If the answer isn’t supported, say so directly and offer the best available next step.
If the request hits a guardrail, decline briefly and redirect without ceremony.
Не е впечатливо, но е значително поотпорно од библиотека со примерни одговори, бидејќи го учи моделот како да одлучува, а не што да повторува.
Местото на нешто во промптот одредува колкава тежина ќе има. Ова е доследен образец што го забележавме кај различни модели и имплементации. Почетокот и крајот на промптот се несразмерно впечатливи. Во средината се нијансите, токму таму каде што им е местото.
Имајќи го тоа предвид, вака ги структурираме нашите промпти. Улогата и самосвеста на агентот ги ставаме на почетокот, за прво да го утврдиме неговиот идентитет. Средината ги содржи подробностите за однесувањето: како најверојатно ќе се одвива разговорот, хеуристиките што ги насочуваат одговорите и опсегот на ситуации со кои агентот треба да се справи. Строгите ограничувања и нештата за кои нема компромис ги ставаме на крајот, каде што остануваат „најсвежи во умот“.
Сè што е навистина критично го ставаме на двете места. Конкретно правило за резултатот — на пример, строга инструкција за интерпункцијата или форматирањето — лесно може да се изгуби ако се појави само еднаш во средината на густ промпт. Кога ќе се повтори на крајот, се почитува.
Во контекст на ефектот на неодамнешност, вреди да се напомене дека структурираните резултати, кога се користат, практично се последната инструкција во вашиот промпт. Полињата за опис во структурираните резултати квалитативно влијаат врз одговорите и создаваат поцврст договор за резултатот од остатокот на промптот.
Научивме дека ни за тонот на комуникација не треба да користиме примери во промпт со мал број примери, а ова е една од промените со најголем ефект што сме ги направиле кај нашите агенти за комуникација со корисници.
Наместо тоа, го пишуваме целиот промпт во саканиот тон. Не опис на тонот, не низа придавки што приближно го доловуваат, туку самиот тон, во целосно обликуван текст, од првиот до последниот ред. Промптот станува демонстрација. Ова го нарекуваме „антискриптираност“: го насочуваме моделот да го имитира влезниот текст, а сепак му овозможуваме да користи поширок спектар зборови и изрази што се во истиот стилски опсег како самиот промпт.
Вака поттикнуваме разновидност во рамките на доследен тон. Тоа е дел од нашата стратегија дијалогот да биде во сржта на задачата на секој агент, без да трошиме простор на изречни инструкции, кои настојуваме да ги сведеме на минимум.
Ако сепак користиме изречни примери за тонот, тие покажуваат „што да не се прави“. На пример: “No em dashes. Ever. No clichés. No policy dumping. No over-explanation when a single sentence will close the loop.” Негативните ограничувања се и попрецизни и помалку рестриктивни од позитивните стремежи, бидејќи ги именуваат грешките кон кои моделот најверојатно ќе застапи.
И форматирањето е важно и го задава тонот на одговорот. Промпт полн со набројувања, наслови и инструкции во загради го насочува моделот кон поорганизиран и посув резултат. Ако резултатот треба да звучи како разговор, влезниот текст не треба да изгледа како скратен документ со спецификации.
Повеќето промпти за тон на комуникација се сведуваат на личност. Се задава низа придавки што треба да опишат како да звучи агентот. Срдечно. Професионално. Пријателски, но концизно. Овие насоки не се погрешни, но начинот на кој тонот се доживува во разговорот всушност зависи од регистарот: како истиот основен карактер се однесува во различни општествени ситуации.
Пораката при чекање додека се обработува барањето не треба да звучи како конечен одговор. Одговорот поради заштитно ограничување не треба да има иста енергија како неврзан разговор. Незадоволен корисник не треба да добие иста доза шарм или хумор како некој што само разгледува.
Тоа е разликата меѓу тонот на брендот и дизајнот на разговорот. Тонот на брендот често го опишува карактерот, а дизајнот на разговорот одредува како тој карактер се однесува кога се менуваат ситуациите. Ако го направиме тоа како што треба, не сме само автори што ги обликуваат резултатите од ВИ. Ние осмислуваме како тонот се приспособува во текот на разговорот.
Ќе забележите дека ниту еден од овие обрасци не е технички сложен. Делумно, токму тоа е поентата. Архитектурата на систем со агенти е важна, но за квалитетен разговор ќе треба да посветите значително време на дизајнирањето и усовршувањето на промптите.
Јазот меѓу чисто функционална и вистински разговорна ВИ не се премостува со технички дизајн, туку со појасно разбирање на улогата на јазикот и вниманието во човечкиот дијалог и со поставување на дијалогот во сржта на проблемскиот простор на вашите агенти.
За тимовите за производи со ВИ, инженерите и дизајнерите на корисничко искуство, дизајнот на разговорот кај ВИ за корисници заслужува иста ригорозност како и техничката извонредност. За луѓето од другата страна на овие разговори нема модел, соработка меѓу повеќе агенти ниту повик на алатка — има само интеракција што или делува како што треба или не. Интеракција што или ја гради довербата или ја поткопува.
На крајот, никој не ја доживува архитектурата. Луѓето го доживуваат разговорот.
Разговорот е производот.