Համակարգային հարցման ուսուցում․ նոր հարացույց AI համակարգերի համար

Երբևէ նկատե՞լ եք, որ որոշակի հարցում լավ է աշխատում, իսկ հետո հանկարծ դադարում է աշխատել։

Երբևէ հայտնվե՞լ եք մի շրջափուլում, երբ շարունակ փոփոխում եք համակարգային հարցումը՝ փորձելով բարելավել արդյունքները, բայց ոչինչ չի ստացվում։

Համակարգային հարցման ուսուցումը կարող է լինել հենց այն, ինչ ձեզ անհրաժեշտ է։

Համակարգային հարցման ուսուցումը (SPL) AI համայնքի հետաքրքրության նոր ձևավորվող ուղղություն է, որը մայիսին X-ում լայնորեն տարածեց Անդրեյ Կարպատին։

Համակարգային հարցման ուսուցումը հաղթահարում է ոչ ճկուն ու խոցելի AI համակարգերի սահմանափակումները, որոնք հիմնվում են անփոփոխ համակարգային հարցումների կամ դժվար կառավարելի լրացուցիչ ուսուցման կառուցակարգերի վրա։ Այն AI համակարգերում շարունակական ուսուցմանը նպաստելու ևս մեկ միջոց է առաջարկում։

Նախքան մանրամասներին անցնելը՝ համառոտ անդրադառնանք հարցումների կազմման հիմունքներին։

Ագենտ կամ հատուկ մոդել մշակելիս նախ պետք է նախագծենք երկու հիմնական բաղադրիչ՝

1. Համակարգային հարցում

2. Օգտատիրոջ հարցում

Համակարգային հարցումները սահմանում են մոդելի վարքագծի հիմնական կանոնները։ Հատուկ AI լուծումների համար դրանք հաճախ սկսվում են այսպիսի տեքստով՝

“You are an intelligent assistant. Your role is to perform <insert task here>.

You must not do (A), (B), or (C).”

Ի տարբերություն դրանց՝ օգտատիրոջ հարցումները սովորաբար պարունակում են օգտատիրոջ հարցն ու այլ համապատասխան տեղեկություններ, օրինակ՝ նրա ժամային գոտին և նախընտրությունները։ Օգտատիրոջ հարցումը կարող է այսպիսի տեսք ունենալ՝

I’m in the capital city of Portugal. Can you suggest some things I can do tonight?

AI խոշոր լաբորատորիաների նոր մոդելների թողարկումից հետո համակարգային հարցումների արտահոսքերը սովորական են դարձել․ օգտատերերը շրջանցում են չաթբոտների պաշտպանական սահմանափակումները՝ բացահայտելով դրանց հիմքում ընկած հրահանգները։ Այժմ GitHub-ի հայտնի պահոցներից մեկը այս համակարգային հարցումներից շատերը հավաքում է մեկ տեղում։ Դրանք բացահայտում են այն «գաղտնի բաղադրատոմսը», որը AI լաբորատորիաները ժամանակի ընթացքում մշակել են՝ մոդելի պատշաճ վարքագիծն ապահովելու համար։ Օրինակ՝ վերջերս արտահոսած GPT-5 համակարգային հարցումը (բացահայտված ChatGPT-ում) պարունակում է մոտ 6,000 բառ՝ ցույց տալով, թե որքան գիտելիք և ուղղորդում է պետք ներառել համակարգի վարքագիծը ձևավորելու համար։

Այս համապարփակ համակարգային հարցումները սովորաբար ընդգրկում են մի քանի հիմնական ոլորտ, օրինակ՝

• Որոնման հրահանգներ

• Գործիքների սահմանումներ

• Օգտատիրոջ նախընտրություններ

• Հղումներ կատարելու հրահանգներ

• Հայտնի խնդիրների արագ շտկումներ

Գործնականում հատուկ AI համակարգերի մշակողները հավելվածները փորձարկելիս ու կատարելագործելիս համակարգային հարցումները ձեռքով և փուլ առ փուլ շտկում են՝ բարելավման գործընթացը հիմնականում ուղղորդելով գնահատումներով։

Մոդելի վարքագիծն ուղղորդելու այլ միջոցներից են՝

• Հարցումների կազմումը, ներառյալ որոնմամբ ընդլայնված գեներացումը (RAG), որը վերահսկում է մոդելին տրամադրվող բովանդակությունը

• Լրացուցիչ ուսուցումը (մոդելի հիմքում ընկած կշիռների անմիջական փոփոխությունը)

Իսկ եթե մոդելի վարքագծի վրա ազդելու մեկ այլ միջոց լինե՞ր։ Պատկերացրեք մի համակարգ, որը նախկինում ստեղծված մտքերի, ծրագրերի և ռազմավարությունների միջոցով դինամիկորեն սովորում ու կատարելագործում է սեփական համակարգային հարցումը։ Իր արդյունքները գնահատելու համար այն կարող է օգտվել թե՛ օգտատերերի արձագանքներից, թե՛ LLM-ը՝ որպես դատավոր գնահատումներից։

Դիտարկենք բիզնեսի մի մշտական խնդիր, որը ցանկանում եք ավտոմատացնել ագենտային համակարգի միջոցով։ Արդյունավետ լուծումները պահանջում են դատողության կարողություններ, որոնք գերազանցում են աշխատանքային գործընթացների պարզ ավտոմատացումը։ Նման դեպքերում անհրաժեշտ է AI համակարգում ներառել ծրագիր ստեղծող բաղադրիչ։ Դրա շնորհիվ համակարգը կարող է առաջադրանքից կախված տարբեր կերպ աշխատել մի քանի ագենտների հետ։ Առանձին քայլերը կարող են ներառել ենթաառաջադրանքները կատարելու համար այլ ագենտների դիմելու կամ գործիքներ օգտագործելու հրահանգներ։

Նշում․ Ագենտի գործիք է համարվում ցանկացած արտաքին գործառույթ, API կամ ռեսուրս, որը AI ագենտը կարող է կանչել՝ տեքստի սահմաններից դուրս գալու և իրական գործողություններ կատարելու համար։

Կարող եք մոդելի համակարգային հարցման մեջ որպես «սկզբնական հիմք» ներառել մարդու տրամաբանական քայլերին հետևող ծրագիր, թեև LLM-ներին սովորաբար անհրաժեշտ են ավելի հստակ ցուցումներ գործիքների օգտագործման, արդյունքի ձևաչափման և հարակից պահանջների վերաբերյալ։ Երբեմն օպտիմալ ռազմավարությունը կարող է ակնհայտ չլինել, կամ գուցե զբաղվում եք մի խնդրով, որը երկար ժամանակ չի վերագնահատվել, քանի որ նախկինում այն լուծված է համարվել։ Հենց այստեղ է օգտակար համակարգային հարցման ուսուցումը (SPL)։

SPL-ը փուլ առ փուլ բարելավում է համակարգային հարցումը՝ ներառելով նախկինում ստեղծված ռազմավարությունները։ Նոր խնդիրների ի հայտ գալուն զուգընթաց համակարգն աստիճանաբար գիտելիք է կուտակում և դառնում ավելի կայուն։ Պատկերացրեք, որ ստեղծում եք ձեր ոլորտի խնդիրները լուծելու ձեռնարկ։

SPL-ն օգտատերերի արձագանքներից ստացված գաղափարներն աստիճանաբար ներառում է համակարգային հարցման մեջ։ Համակարգի զարգացման ընթացքում կարող եք հայտնաբերել կրկնվող խնդիրներ, որոնք հնարավոր է վերածել ավելի ընդհանրական, բարձր մակարդակի սկզբունքների։

Ավելի մանրամասն դիտարկենք, թե ինչպես է գործընթացն աշխատում՝ քայլ առ քայլ․

1. Սկսեք օգտատիրոջ հարցումից՝ համակարգին հանձնարարելով կատարել որոշակի առաջադրանք։

2. 1. Եթե ձեր համակարգը լուծում է միայն մեկ խնդիր, կարող եք կիրառել «ագահ» մոտեցում՝ ընտրելով նախորդ գործարկումներից ամենաբարձր միավոր ստացած ռազմավարությունները։ Կամ կարող եք խրախուսել ուսումնասիրությունը՝ ընտրանք վերցնելով մի բաշխումից, որը նախապատվություն է տալիս բարձր գնահատված ռազմավարություններին, բայց երբեմն ներառում է նաև ցածր գնահատվածները։ Սա հատկապես օգտակար է, երբ նոր եք սկսում ռազմավարություններ հավաքել։

   2. Տարբեր խնդիրներ լուծելու համար նախատեսված համակարգերում դիտարկեք դասակարգման շերտ ավելացնելու կամ համապատասխան մոտեցումները գտնելու համար ներդրումներ և կոսինուսային նմանություն կիրառելու տարբերակը․ նույն մեթոդները սովորաբար օգտագործվում են RAG-ում։ Սա օգնում է ընտրել տվյալ խնդրին համապատասխան ռազմավարություններ, օրինակ՝ ծրագրավորման առաջադրանքների համար մշակված մոտեցումներ։

Նշում․ Ներդրումները՝ կոսինուսային նմանության հետ կիրառելիս թույլ են տալիս չափել, թե երկու տեղեկություն որքանով են կապված՝ հեշտացնելով փաստաթղթերի, հարցումների կամ գաղափարների համադրումը, նույնիսկ երբ դրանց ձևակերպումները տարբեր են։

Ծրագրավորման խնդիրներ լուծելու պարզեցված ռազմավարությունների շտեմարանի սկզբնական օրինակը։

Նշում․ Այստեղ ներկայացված «սկզբնական ռազմավարությունները» միայն օրինակներ են։ Ծրագրավորման իրական սցենարներում մենք դրանք ավելի կկատարելագործեինք։ Նեղ մասնագիտական բիզնես խնդիրների համար ժամանակի ընթացքում պետք է լրացուցիչ գիտելիքներ հավաքել։

3. N ռազմավարություն ընտրելուց հետո դրանք ներառեք համակարգային հարցման մեջ։ Այսպիսով ծրագրերի ստեղծումը հիմնվում է նախորդ փորձագիտական արձագանքների վրա, և մոդելը չի փորձում դրանք ստեղծել նվազագույն ուղղորդմամբ։ Խրախուսեք մոդելին «մտածել ընդունված շրջանակներից դուրս» և անհրաժեշտության դեպքում քայլեր ավելացնել՝ օրինակելի ռազմավարությունները բառացի պատճենելու փոխարեն։

4. Դինամիկորեն ստեղծված համակարգային հարցման միջոցով մշակեք օգտատիրոջ խնդրանքը կատարելու նոր ռազմավարություն։ Այս գործընթացը պետք է ստեղծի լրացուցիչ առաջադրանքներ, որոնք կբարելավեն վերջնական արդյունքը։ Նպատակը ստեղծարարությունն է․ համադրեք նախորդ ռազմավարությունների լավագույն տարրերը, միավորեք կրկնվող քայլերը և անհրաժեշտության դեպքում ավելացրեք օգտակար նոր քայլեր։

Նշում․ Հիշեք, որ ջերմաստիճանը կարգավորվող պարամետր է, որի միջոցով կարելի է ստանալ ավելի բազմազան և պակաս կանխորոշված արդյունքներ, ինչը օգտակար է, երբ ստեղծարարություն է պահանջվում։ Զրոյից բարձր ջերմաստիճանի դեպքում ստեղծված յուրաքանչյուր ծրագիր կարող է տարբերվել։

5. Մոդելի արդյունքը ստանալուց հետո այն գնահատեք մարդու կամ LLM դատավորի միջոցով՝ հիմնվելով ձեր խնդրի լավ լուծումը սահմանող հստակ չափանիշների վրա։ Ավելի վաղ նշված Պորտուգալիայի ժամանցի օրինակի գնահատման չափանիշները կարող են ներառել՝

• Հակիրճություն (պատասխանը սահմանափակված է մեկ նախադասությամբ)

• Առաջարկված զբաղմունքի համապատասխանություն

• Տեղադրության ճշգրտություն

6. Այս գնահատման հիման վրա մեկ այլ մոդելի միջոցով կատարելագործեք ռազմավարությունը։ Ըստ ցանկության՝ հետադարձ կապի շրջափուլում կարելի է ներառել մարդկանց կարծիքը և աջակցել համատեղ բարելավումներին։ Կատարելագործված ռազմավարությունը պահեք ձեր տվյալների բազայում՝ տարբերակներին ու փոփոխություններին հետևելու համար ավելացնելով համապատասխան մետատվյալներ։

Ուրեմն ինչո՞ւ անցնել այս ամբողջ դժվարության միջով։ Դուք կարող եք ձեռքով ուսումնասիրել արդյունքները և համապատասխանաբար փոփոխել համակարգային հարցումը։ Սակայն դատողության հզոր մոդելները կարող են կատարելագործել ռազմավարությունները՝ օգտագործելով թե՛ արդյունքի համատեքստը, թե՛ մարդկանց արձագանքները։ Թեև պարզ մոտեցումների թերությունները մարդիկ հեշտությամբ են նկատում, ավելի լայն խնդիրներ լուծող բարդ համակարգերում դրանք բացահայտելը դառնում է դժվար և հոգնեցուցիչ։

LLM-ներին հաճախ անհրաժեշտ են մանրամասն հրահանգներ ու լրացուցիչ քայլեր՝ հավաքելու այն համատեքստային գիտելիքը, որը մարդիկ բնականաբար կիրառում են խնդիրը լուծելիս։ Պահանջվող առաջադրանքների թիվը կարող է արագ աճել, երբ համակարգն ընդլայնվում է՝ ընդգրկելով խնդիրների ավելի լայն շրջանակ։ Օրինակ՝ ծրագրավորման խնդիր լուծող մարդը կարող է ինտուիտիվ հասկանալ շրջակա կոդային բազան, իսկ LLM-ը գուցե նախ ստիպված լինի «կարդալ» մի քանի ֆայլ։

• Երբ է օգտակար․ Պատկերացրեք, որ ղեկավարում եք հաճախորդների աջակցության թիմ, իսկ AI ագենտը դասակարգում է դիմումները։ Ժամանակի ընթացքում SPL-ը կարող է բացահայտել դասակարգման մի եղանակ, որը ձեր թիմը չէր դիտարկել՝ նվազեցնելով վերադասին փոխանցվող դիմումների թիվը։

• Երբ օգտակար չէ․ Եթե համապատասխանության պահանջները կամ կանոնակարգերն արդեն սահմանում են ձեր աշխատանքային գործընթացները, օրինակ՝ ֆինանսական հաշվետվության դեպքում, SPL-ը կարող է քիչ արժեք տալ, քանի որ ստեղծարարությունը դառնում է ոչ թե առավելություն, այլ ռիսկ։

• Երբ է օգտակար․ Հետազոտություն պահանջող դերերում, օրինակ՝ շուկայի վերլուծության կամ արտադրանքի ռազմավարության ոլորտում, կարող եք համագործակցել AI-ի հետ՝ կատարելագործելով դրա ծրագրերը, հարստացնելով արդյունքները և հետագա օգտագործման համար ներառելով այդ բարելավումները։ Յուրաքանչյուր փոխազդեցություն բարձրացնում է համակարգի արդյունավետությունը։

• Երբ օգտակար չէ․ Եթե ձեր թիմը AI-ն հիմնականում կիրառում է պարզ աշխատանքային գործընթացներում, որտեղ մարդու մասնակցությունը նվազագույն է, օրինակ՝ հաշիվ-ապրանքագրերի մշակման համար, համագործակցության ծախսերը կարող են գերազանցել օգուտը։

• Երբ է օգտակար․ Ենթադրենք՝ մուտք եք գործում նոր տարածաշրջան, և AI-ն հանկարծ պետք է պատասխանի տեղական հարկերի վերաբերյալ հարցերին։ SPL-ը թույլ է տալիս նոր կանոններն ու գործնական մոտեցումներն ի հայտ գալուն պես արագ ներառել համակարգում՝ կանխելով կրկնվող սխալները։

• Երբ օգտակար չէ․ Եթե ձեր միջավայրն անփոփոխ է, օրինակ՝ հանդիպումների վերծանումները ստանդարտ ամփոփագրերի վերածելիս, մշտական հարմարվողականությունը քիչ օգուտ է տալիս։

Տեսականորեն այս ամենը խոստումնալից է հնչում, սակայն SPL-ի ներդրումն իրական դժվարություններ է առաջացնում։ Ստորև ներկայացնում ենք հիմնականներից մի քանիսը՝

Ռազմավարության ստեղծման սկզբնական փուլերում առաջընթացը հաճախ կանգ է առնում․ նոր արդյունքները չեն զարգացնում նախորդները, և ընթացքը դանդաղում է։ Սովորաբար դրա հիմքում երկու հիմնական խնդիր է՝

• • Լուծում․ Սկզբից իսկ ներառեք բիզնեսի վերաբերյալ հասանելի ամբողջ գիտելիքը, որպեսզի համակարգը խորքային հիմք ունենա։

• • Լուծում․ Մշակեք մանրամասն սանդղակ, որը կգնահատի պատասխանի մի քանի կողմ՝ ճշգրտությունը, հստակությունը և համապատասխանությունը, ապա այդ ազդակների հիման վրա կարգավորեք ընտրանքը։

Եթե համակարգը ստեղծում է հարյուրավոր ռազմավարություններ, բայց քիչ արձագանք է ստանում լավն ու վատը տարբերակելու համար, ընտրանքը շուտով դառնում է դժվար կառավարելի։ Լուծումը զտումն է։

Ռազմավարությունների շտեմարանը կատարելագործելիս հաշվի առեք՝

• Կյանքի տևողություն․ Հրաժարվեք ռազմավարություններից, երբ դրանք գերազանցեն սահմանված ժամկետը կամ սերունդների քանակը։

• Միավոր․ Գնահատման սանդղակով զտեք մշտապես ցածր արդյունավետություն ցուցաբերող ռազմավարությունները։ Սա կյանքի տևողության հետ համատեղ ապահովում է, որ պահպանեք միայն ժամանակի ընթացքում իրենց արժեքն ապացուցած մոտեցումները։

• LLM-ի գնահատում․ Պարբերաբար գնահատեք ռազմավարությունները՝ գտնելու այլևս եզակի գաղափարներ չավելացնող տարբերակները, քանի որ դրանց օգտակար տարրերը հավանաբար արդեն ներառվել են նոր տարբերակներում։

Լուծում․ Ռազմավարությունների տվյալների բազան դիտարկեք որպես կենդանի համակարգ․ պարբերաբար զտեք այն, որպեսզի մնան միայն համապատասխան և բարձրարժեք գիտելիքները։

Համակարգային հարցման ուսուցումը դեռ սկզբնական փուլում է, սակայն դրա ներուժը հսկայական է։ Միայն անփոփոխ հարցումների կամ անվերջ լրացուցիչ ուսուցման վրա հիմնվող բիզնեսները կբախվեն ծանոթ սահմանափակումների՝ խոցելի համակարգերի, աճող ծախսերի և ապարդյուն ջանքերի։ SPL-ը հնարավորություն է տալիս դուրս գալ այդ շրջափուլից՝ ստեղծելով ժամանակի ընթացքում բարելավվող և առանձին շտկումների փոխարեն ավելի ընդհանրական սկզբունքներ ներառող համակարգեր։

SPL-ը դեռ ձևավորման փուլում է, բայց ուղղությունն արդեն պարզ է․ ինքնուրույն սովորող համակարգերն առաջ կանցնեն այն համակարգերից, որոնք դա չեն կարող։ Հիմա է փորձարկելու, փոքրից սկսելու, քաղած դասերն արձանագրելու և յուրաքանչյուր փոխազդեցությամբ բարելավվող AI համակարգերի հիմքը կառուցելու ժամանակը։