Да ли вам се икада догодило да одређена инструкција добро функционише, а онда изненада престане?
Да ли сте се икада нашли у зачараном кругу непрестаног преправљања системске инструкције у покушају да побољшате резултате, али ништа није помогло?
Учење системске инструкције можда је управо оно што вам треба.
Учење системске инструкције (SPL) нова је област интересовања у заједници која се бави вештачком интелигенцијом, а у мају ју је на мрежи X широко популаризовао Андреј Карпати.
Учење системске инструкције решава ограничења нефлексибилних и крхких система вештачке интелигенције који се ослањају на статичне системске инструкције или незграпне поставке финог подешавања. Оно пружа још један начин за подршку непрекидном учењу у системима вештачке интелигенције.
Пре него што се упустимо у детаље, укратко ћемо поновити основе задавања инструкција.
Када развијамо агента или прилагођени модел, најпре морамо осмислити две кључне компоненте:
Системску инструкцију
Корисничку инструкцију
Системске инструкције утврђују основна правила понашања модела. Када се пишу за прилагођена решења вештачке интелигенције, често почињу овако:
“You are an intelligent assistant. Your role is to perform <insert task here>.
You must not do (A), (B), or (C).”
Насупрот томе, корисничке инструкције обично садрже корисников упит и друге релевантне податке, попут временске зоне и подешавања. Корисничка инструкција може изгледати овако:
I’m in the capital city of Portugal. Can you suggest some things I can do tonight?
Цурење системских инструкција постало је уобичајено након објављивања нових модела великих лабораторија за вештачку интелигенцију, јер корисници заобилазе заштитне мере чет-ботова како би открили њихове основне инструкције. Популаран GitHub депо сада обједињује многе од тих системских инструкција на једном месту. Оне откривају „тајни састојак“ који су лабораторије за вештачку интелигенцију временом развиле како би подстакле одговарајуће понашање модела. На пример, недавно процурела системска инструкција за GPT-5 (откривена у ChatGPT-у) садржи приближно 6.000 речи, што показује колико знања и смерница мора да се кодира да би се обликовало понашање система.
Ове свеобухватне системске инструкције обично покривају неколико кључних области, као што су:
Инструкције за претрагу
Дефиниције алата
Корисничка подешавања
Инструкције за навођење извора
Брзе закрпе за познате проблеме
У пракси, програмери прилагођених система вештачке интелигенције ручно и итеративно преправљају системске инструкције док тестирају и усавршавају апликације, ослањајући се првенствено на евалуације које усмеравају тај процес.
Други начини усмеравања понашања модела обухватају:
Формулисање инструкције, укључујући генерисање допуњено проналажењем информација (RAG), којим се контролише садржај достављен моделу
Фино подешавање (директно мењање основних тежина модела)
Шта ако постоји још један начин да се утиче на понашање модела? Замислите систем који динамички учи и усавршава сопствену системску инструкцију помоћу претходно генерисаних размишљања, планова и стратегија. За процену својих резултата могао би да користи и повратне информације корисника и евалуације типа LLM као судија.
Размислите о трајном пословном изазову који желите да аутоматизујете помоћу агентског система. Делотворна решења захтевају способности резоновања које превазилазе основну аутоматизацију радних токова. У таквим случајевима неопходно је да у систем вештачке интелигенције укључите компоненту за генерисање планова. То омогућава систему да на различите начине ради са више агената, зависно од задатка. Појединачни кораци могу да обухватају инструкције за приступ другим агентима ради извршавања подзадатака или коришћење алата.
Напомена: Агентски алат је свака спољна функција, API или ресурс који агент вештачке интелигенције може да позове како би превазишао рад са текстом и предузео стварне радње.
Можете одлучити да системску инструкцију модела „засејете“ планом који прати логичне кораке које би предузео човек, мада су великим језичким моделима обично потребне конкретније смернице за коришћење алата, форматирање резултата и сродне захтеве. Понекад оптимална стратегија није јасна или се можда бавите проблемом који није поново разматран јер се раније сматрао решеним. Тада на сцену ступа учење системске инструкције (SPL).
SPL итеративно побољшава системску инструкцију уграђивањем претходно генерисаних стратегија. Како се јављају нови проблеми, систем постепено прикупља знање и постаје отпорнији. Замислите то као израду приручника за решавање проблема у вашој области.
SPL постепено уграђује увиде из повратних информација корисника у системску инструкцију. Како систем сазрева, можете открити проблеме који се понављају и свести их на општије принципе вишег нивоа.
Погледајмо детаљније како овај процес функционише, корак по корак:
Почните од корисничког упита којим се од система тражи да обави одређени задатак.
Ако систем решава само један проблем, можете применити „похлепни“ приступ и изабрати најбоље оцењене стратегије из претходних покретања. Можете и да подстакнете истраживање узорковањем из расподеле која даје предност високо оцењеним стратегијама, али повремено укључује и оне са нижим оценама. То је нарочито корисно када тек почињете да прикупљате стратегије.
За системе намењене решавању разноврсних скупова проблема, размотрите додавање слоја за класификацију или употребу угнежђивања и косинусне сличности — истих техника које се обично користе у RAG-у — ради проналажења релевантних приступа. То вам помаже да изаберете стратегије прилагођене конкретном проблему, на пример стратегије за програмерске задатке.
Напомена: Угнежђивања употребљена са косинусном сличношћу омогућавају нам да измеримо колико су два податка повезана, па лакше можемо да упаримо документе, упите или идеје чак и када се њихове формулације разликују.
Пример почетне тачке за поједностављено складиште стратегија за решавање програмерских проблема.
Напомена: Приказане „почетне стратегије“ служе као илустрација. У стварним програмерским сценаријима додатно бисмо их усавршили. За специфичне пословне проблеме било би потребно временом прикупити додатне увиде.
Generation_id (обрнути редослед) | Тема | Оцена | Strategy_text | Објашњење |
|---|---|---|---|---|
4 | програмирање | 1 | Разумети проблем, ограничења и рубне случајеве. Осмислити алгоритам са одговарајућим структурама података. Проверити план на примерима и инваријантама. Написати чист и читљив код. Усавршити решење рефакторисањем, оптимизацијом и коначним форматирањем. Употреба алата: При коришћењу алата укратко објаснити зашто је био потребан. | Укључује и спаја најбоље елементе три стратегије у наставку. |
3 | програмирање | 1 | Разумети проблем, ограничења и рубне случајеве. Осмислити алгоритам са одговарајућим структурама података. Проверити план на примерима и инваријантама. Написати чист и читљив код. Усавршити решење рефакторисањем, оптимизацијом и коначним форматирањем. | Свеобухватнија стратегија, али без смерница за коришћење алата. |
2 | програмирање | -1 | Разумети проблем, ограничења и рубне случајеве. Осмислити алгоритам са одговарајућим подацима. Написати чист и читљив код. Употреба алата: при приступању алатима навести кратак сажетак разлога за коришћење тог алата. | Боља стратегија која помиње употребу алата, али још може да се унапреди. |
1 | програмирање | -1 | Овлаш прегледати проблем. Решити проблем. Направити минималне тестове. Предати било шта што ради. | Помиње тестове, али је у целини слаба стратегија. |
3. Након узорковања N стратегија, укључите их у системску инструкцију. Тако се генерисање планова заснива на претходним повратним информацијама стручњака, уместо да модел прави планове уз минималне смернице. Подстакните модел да „размишља ван оквира“ и по потреби додаје кораке, уместо да само дословно копира примере стратегија.
4. Помоћу динамички направљене системске инструкције генеришите нову стратегију за решавање корисниковог захтева. Овај процес треба да произведе додатне задатке који побољшавају коначни резултат. Циљ је креативност: спојите најбоље елементе претходних стратегија, обједините кораке који се преклапају и по потреби додајте нове корисне кораке.
Напомена: Имајте на уму да је температура параметар који се може подесити ради добијања разноврснијих и мање детерминистичких резултата, што је корисно када је пожељна креативност. Ако температура није нула, сваки генерисани план може бити другачији.
5. Када добијете резултат модела, оцените га уз помоћ човека или великог језичког модела (LLM) као судије, према конкретним критеријумима који дефинишу добро решење вашег проблема. За раније поменути пример активности у Португалији, критеријуми за оцењивање могли би да обухвате:
Сажетост (одговор ограничен на једну реченицу)
Релевантност предложене активности
Тачност локације
6. На основу ове оцене, употребите други модел да усавршите стратегију. Опциона повратна спона може да обухвати допринос људи и омогући заједничка побољшања. Сачувајте усавршену стратегију у бази података са одговарајућим метаподацима ради праћења верзија и измена.
Зашто онда улагати сав тај труд? Могли бисте ручно да прегледате резултате и у складу с њима прилагодите системску инструкцију. Међутим, моћни модели за резоновање могу да усавршавају стратегије користећи и контекст резултата и повратне информације људи. Иако људи лако уочавају недостатке једноставних приступа, њихово препознавање постаје тешко и заморно у сложеним системима који решавају шири скуп проблема.
Велики језички модели често захтевају детаљне инструкције и додатне кораке како би прикупили контекстуално знање које људи природно уносе у решавање проблема. Број потребних задатака може брзо да расте како се систем проширује ради решавања ширег скупа проблема. На пример, људи који решавају програмерске проблеме могу интуитивно да разумеју околни код, док велики језички модел (LLM) можда најпре мора да „прочита“ више датотека.
Када помаже: Замислите да водите тим корисничке подршке, а агент вештачке интелигенције разврстава пријаве. SPL би временом могао да открије метод категоризације који ваш тим није разматрао, чиме би се смањила учесталост ескалација.
Када не помаже: Ако захтеви усклађености или прописи већ дефинишу ваше радне токове, као код финансијског извештавања, SPL може донети мало користи јер креативност постаје ризик уместо предности.
Када помаже: На пословима који захтевају интензивно истраживање, попут анализе тржишта или стратегије производа, можете сарађивати са вештачком интелигенцијом тако што ћете усавршавати њене планове, обогаћивати резултате и уграђивати побољшања за будућу употребу. Свака интеракција повећава ефикасност система.
Када не помаже: Ако ваш тим углавном користи вештачку интелигенцију за једноставне радне токове са минималним учешћем људи, као што је обрада фактура, трошкови сарадње могу надмашити корист.
Када помаже: Претпоставимо да се ширите на ново подручје и да вештачка интелигенција одједном мора да обрађује упите о локалним порезима. SPL вам омогућава да брзо кодирате нова правила и хеуристике како се појављују и тако спречите понављање грешака.
Када не помаже: Ако је ваше окружење статично, на пример када транскрипте састанака претварате у стандардизоване сажетке, стално прилагођавање доноси минималну корист.
Све ово теоретски звучи обећавајуће, али примена SPL-а доноси стварне изазове. У наставку разматрамо неке од главних изазова:
У раним фазама генерисања стратегије напредак често застаје: нови резултати се не надовезују на претходне и замах слаби. То обично узрокују два главна проблема:
Решење: Унапред кодирајте сво расположиво пословно знање како би систем имао довољно садржаја на који може да се ослони.
Решење: Осмислите нијансирани систем бодовања који оцењује више аспеката одговора, попут тачности, јасноће и релевантности, па прилагодите узорковање тим сигналима.
Ако систем генерише стотине стратегија, али добија мало повратних информација за разликовање добрих од лоших, узорковање брзо постаје неуправљиво. Решење је орезивање.
При усавршавању складишта стратегија размотрите следеће:
Животни век: Повуците стратегије када прекораче дефинисани временски период или број генерација.
Оцена: Помоћу система оцењивања уклоните стратегије које непрекидно дају лоше резултате. Комбиновањем овога са животним веком задржавате само приступе који временом докажу своју вредност.
Оцењивање помоћу LLM-а: Повремено процените стратегије како бисте препознали оне које више не пружају јединствене увиде, јер су њихови корисни елементи вероватно већ уграђени у новије верзије.
Решење: Посматрајте базу стратегија као жив систем: редовно је орезујте како би остало само релевантно знање велике вредности.
Учење системске инструкције још је у повоју, али има огроман потенцијал. Предузећа која се ослањају искључиво на статичне инструкције или бескрајно фино подешавање наићи ће на позната ограничења: крхке системе, све веће трошкове и узалудан труд. SPL нуди излаз из тог циклуса изградњом система који се временом побољшавају и кодирају принципе вишег нивоа уместо изолованих закрпа.
SPL се и даље развија, али смер је јасан: системи који могу да уче од себе надмашиће оне који то не могу. Сада је време да експериментишете, почнете од малих корака, бележите научено и поставите темеље за системе вештачке интелигенције који напредују са сваком интеракцијом.