A ju ka ndodhur ndonjëherë që një kërkesë e caktuar të funksionojë mirë dhe më pas, papritur, të mos funksionojë më?
A keni ngecur ndonjëherë në një cikël ku arnonit vazhdimisht kërkesën e sistemit për të përmirësuar rezultatet, por asgjë nuk funksiononte?
Të nxënit e kërkesës së sistemit mund të jetë pikërisht ajo që ju nevojitet.
Të nxënit e kërkesës së sistemit (SPL) është një fushë e re interesi në komunitetin e AI-së dhe u bë gjerësisht i njohur nga Andrej Karpathy në X në maj.
Të nxënit e kërkesës së sistemit trajton kufizimet e sistemeve të ngurta e të brishta të AI-së, të cilat mbështeten në kërkesa statike të sistemit ose në konfigurime të vështira për përshtatje të imët. Ai ofron një mënyrë tjetër për të mbështetur të nxënit e vazhdueshëm në sistemet e AI-së.
Para se të hyjmë në hollësi, le të rikujtojmë shkurtimisht disa parime bazë të hartimit të kërkesave.
Kur zhvillojmë një agjent ose model të personalizuar, fillimisht duhet të projektojmë dy përbërës kyç:
Një kërkesë sistemi
Një kërkesë përdoruesi
Kërkesat e sistemit përcaktojnë rregullat bazë të sjelljes së një modeli. Kur shkruhen për zgjidhje të personalizuara të AI-së, ato shpesh fillojnë kështu:
“You are an intelligent assistant. Your role is to perform <insert task here>.
You must not do (A), (B), or (C).”
Ndërsa kërkesat e përdoruesit zakonisht përmbajnë pyetjen e tij dhe informacione të tjera përkatëse, si zona kohore dhe preferencat. Një kërkesë përdoruesi mund të duket kështu:
I’m in the capital city of Portugal. Can you suggest some things I can do tonight?
Rrjedhjet e kërkesave të sistemit janë bërë të zakonshme pas publikimit të modeleve të reja nga laboratorët kryesorë të AI-së, pasi përdoruesit u heqin kufizimet mbrojtëse chatbot-ëve për t’u zbuluar udhëzimet bazë. Një depo e njohur në GitHub tani mbledh shumë prej këtyre kërkesave të sistemit në një vend. Ato zbulojnë «përbërësin sekret» që laboratorët e AI-së kanë zhvilluar me kalimin e kohës për të nxitur sjelljen e duhur të modeleve. Për shembull, kërkesa e sistemit e GPT-5 e zbuluar së fundmi (brenda ChatGPT) përmban rreth 6 000 fjalë, duke treguar sa shumë njohuri dhe udhëzime duhen koduar për të formësuar sjelljen e sistemit.
Këto kërkesa gjithëpërfshirëse të sistemit zakonisht mbulojnë disa fusha kyç, si:
Udhëzimet e kërkimit
Përkufizimet e mjeteve
Preferencat e përdoruesit
Udhëzimet për citimet
Arnime të shpejta për probleme të njohura
Në praktikë, zhvilluesit e sistemeve të personalizuara të AI-së i arnojnë manualisht e në mënyrë përsëritëse kërkesat e sistemit ndërsa testojnë dhe përmirësojnë aplikacionet, duke përdorur kryesisht vlerësime për ta drejtuar këtë proces.
Mënyra të tjera për të drejtuar sjelljen e një modeli përfshijnë:
Hartimin e kërkesave, përfshirë gjenerimin e përforcuar me rikthim informacioni (RAG), që kontrollon përmbajtjen që i jepet modelit
Përshtatjen e imët (ndryshimin e drejtpërdrejtë të peshave bazë të modelit)
Po sikur të kishte një mënyrë tjetër për të ndikuar në sjelljen e modelit? Imagjinoni një sistem që mëson dhe përmirëson në mënyrë dinamike kërkesën e vet të sistemit, duke përdorur mendime, plane dhe strategji të krijuara më parë. Për të vlerësuar rezultatet, ai mund të mbështetet si te komentet e përdoruesve, ashtu edhe te vlerësimet LLM-si-gjykues.
Mendoni për një sfidë të vazhdueshme biznesi që dëshironi ta automatizoni me një sistem agjentik. Zgjidhjet efektive kërkojnë aftësi arsyetimi përtej automatizimit bazë të proceseve. Në raste të tilla, përfshirja e një përbërësi për krijimin e planeve në sistemin tuaj të AI-së bëhet thelbësore. Kjo i mundëson sistemit të punojë në mënyra të ndryshme me disa agjentë, në varësi të detyrës. Hapat individualë mund të përfshijnë udhëzime për përdorimin e agjentëve të tjerë për të kryer nëndetyra ose për përdorimin e mjeteve.
Shënim: Një mjet agjenti është çdo funksion, API ose burim i jashtëm që një agjent AI mund ta thërrasë për të shkuar përtej tekstit dhe për të ndërmarrë veprime reale.
Mund të zgjidhni ta «mbillni» kërkesën e sistemit të modelit me një plan që ndjek hapat logjikë të një njeriu, megjithëse LLM-të zakonisht kanë nevojë për udhëzime më specifike për përdorimin e mjeteve, formatimin e rezultateve dhe kërkesa të ngjashme. Ndonjëherë strategjia optimale mund të jetë e paqartë, ose mund të trajtoni një problem që nuk është rivlerësuar sepse më parë konsiderohej i zgjidhur. Këtu hyn në lojë të nxënit e kërkesës së sistemit (SPL).
SPL-ja e përmirëson në mënyrë përsëritëse një kërkesë sistemi duke përfshirë strategji të krijuara më parë. Ndërsa shfaqen probleme të reja, sistemi grumbullon gradualisht njohuri dhe bëhet më i qëndrueshëm. Mendojeni si ndërtimin e një manuali për zgjidhjen e problemeve në fushën tuaj.
SPL-ja përfshin gradualisht në kërkesën e sistemit njohuritë e nxjerra nga reagimet e përdoruesve. Ndërsa sistemi juaj piqet, mund të zbuloni probleme të përsëritura që mund të përmblidhen në parime më të përgjithshme e të nivelit më të lartë.
Le të shohim më nga afër se si funksionon procesi, hap pas hapi:
Filloni me pyetjen e përdoruesit, duke i kërkuar sistemit të kryejë një detyrë specifike.
Nëse sistemi juaj trajton vetëm një problem, mund të ndiqni një qasje «lakmitare» duke zgjedhur strategjitë me vlerësimet më të larta nga ekzekutimet e mëparshme. Përndryshe, mund të nxitni eksplorimin duke marrë kampione nga një shpërndarje që favorizon strategjitë e vlerësuara lart, por herë pas here përfshin edhe ato me vlerësime më të ulëta. Kjo është veçanërisht e dobishme kur sapo keni filluar të mblidhni strategji.
Për sistemet e projektuara për të trajtuar grupe të ndryshme problemesh, merrni parasysh shtimin e një shtrese klasifikimi ose përdorimin e përfaqësimeve vektoriale dhe të ngjashmërisë kosinusale (të njëjtat teknika që përdoren zakonisht në RAG) për të identifikuar qasjet përkatëse. Kjo ju ndihmon të zgjidhni strategji të përshtatshme për problemin specifik, për shembull strategji të përshtatura për detyra programimi.
Shënim: Përfaqësimet vektoriale të përdorura me ngjashmërinë kosinusale na lejojnë të matim sa ngushtë lidhen dy pjesë informacioni, duke e bërë më të lehtë përputhjen e dokumenteve, pyetjeve ose ideve, edhe kur formulimi i tyre ndryshon.
Shembull i një pike fillestare për një depo të thjeshtuar strategjish për zgjidhjen e problemeve të programimit.
Shënim: «Strategjitë fillestare» të paraqitura këtu janë vetëm ilustruese. Në skenarë realë programimi, do t’i përmirësonim më tej. Problemet e specializuara të biznesit do të kërkonin mbledhjen e njohurive shtesë me kalimin e kohës.
Generation_id (rend i kundërt) | Subjekti | Vlerësimi | Strategy_text | Shpjegimi |
|---|---|---|---|---|
4 | programim | 1 | Kuptoni problemin, kufizimet dhe rastet skajore. Projektoni një algoritëm me strukturat e duhura të të dhënave. Vërtetoni planin me shembuj dhe invarianta. Zbatoni kod të pastër e të lexueshëm. Përmirësojeni përmes rifaktorizimit, optimizimit dhe formatimit përfundimtar. Përdorimi i mjeteve: Kur përdorni një mjet, shpjegoni shkurtimisht pse nevojitej. | Përfshin dhe ndërthur elementet më të forta të tri strategjive më poshtë. |
3 | programim | 1 | Kuptoni problemin, kufizimet dhe rastet skajore. Projektoni një algoritëm me strukturat e duhura të të dhënave. Vërtetoni planin me shembuj dhe invarianta. Zbatoni kod të pastër e të lexueshëm. Përmirësojeni përmes rifaktorizimit, optimizimit dhe formatimit përfundimtar. | Një strategji më e plotë, por nuk përmban udhëzime për përdorimin e mjeteve. |
2 | programim | -1 | Kuptoni problemin, kufizimet dhe rastet skajore. Projektoni një algoritëm me të dhënat e duhura. Zbatoni kod të pastër e të lexueshëm. Përdorimi i mjeteve: kur përdorni mjete, jepni një përmbledhje të shkurtër se pse e përdorët atë mjet. | Një strategji më e mirë që përmend përdorimin e mjeteve, por ende mund të përmirësohet. |
1 | programim | -1 | Hidhini një sy problemit. Zgjidheni problemin. Krijoni teste minimale. Dorëzoni çfarëdo që ekzekutohet. | Përmend testet, por në tërësi është një strategji e dobët. |
3. Pasi të merrni kampionin N, përfshijeni në kërkesën e sistemit. Kjo e mbështet krijimin e planeve në reagimet e mëparshme të ekspertëve, në vend që ta lërë modelin të krijojë plane me udhëzime minimale. Nxiteni modelin të «mendojë jashtë kornizave» dhe të shtojë hapa kur nevojitet, në vend që thjesht t’i kopjojë fjalë për fjalë strategjitë shembull.
4. Me kërkesën e sistemit të krijuar në mënyrë dinamike, gjeneroni një strategji të re për të trajtuar kërkesën e përdoruesit. Ky proces duhet të prodhojë detyra shtesë që përmirësojnë rezultatin përfundimtar. Synimi është krijimtaria: ndërthurini elementet më të forta të strategjive të mëparshme, bashkoni hapat që mbivendosen dhe shtoni hapa të rinj të dobishëm aty ku nevojiten.
Shënim: Mos harroni se temperatura është një parametër që mund të rregullohet për të prodhuar rezultate më të larmishme e më pak përcaktuese, gjë që është e dobishme kur kërkohet krijimtari. Kur temperatura nuk është zero, çdo plan i gjeneruar mund të jetë i ndryshëm.
5. Pasi të merrni rezultatin e modelit, vlerësojeni me një vlerësues njerëzor ose me një LLM gjykues, sipas kritereve specifike që përcaktojnë një zgjidhje të mirë për problemin tuaj. Për shembullin e aktiviteteve në Portugali të përmendur më herët, kriteret e vlerësimit mund të përfshijnë:
Koncizitetin (një përgjigje e kufizuar në një fjali)
Përshtatshmërinë e aktivitetit të sugjeruar
Saktësinë e vendndodhjes
6. Bazuar në këtë vlerësim, përdorni një model tjetër për të përmirësuar strategjinë. Një cikël opsional reagimesh mund të përfshijë kontributin njerëzor dhe të mbështetë përmirësimet bashkëpunuese. Ruajeni strategjinë e përmirësuar në bazën tuaj të të dhënave, me metadatat e duhura për të gjurmuar versionet dhe ndryshimet.
Atëherë, pse gjithë ky mundim? Mund t’i shqyrtoni rezultatet manualisht dhe ta përshtatni kërkesën e sistemit sipas tyre. Megjithatë, modelet e fuqishme të arsyetimit mund t’i përmirësojnë strategjitë duke përdorur si kontekstin e rezultatit, ashtu edhe reagimet njerëzore. Ndonëse njerëzit i dallojnë lehtësisht të metat në qasjet e thjeshta, identifikimi i tyre bëhet i vështirë dhe i lodhshëm në sisteme komplekse që trajtojnë grupe më të gjera problemesh.
LLM-të shpesh kanë nevojë për udhëzime të hollësishme dhe hapa shtesë për të mbledhur njohuritë kontekstuale që njerëzit i sjellin natyrshëm në një problem. Numri i detyrave të nevojshme mund të rritet shpejt ndërsa sistemi zgjerohet për të trajtuar grupe më të gjera problemesh. Për shembull, njerëzit që zgjidhin probleme programimi mund ta kuptojnë intuitivisht bazën përreth të kodit, ndërsa një LLM-je mund t’i duhet fillimisht të «lexojë» disa skedarë.
Kur ndihmon: Imagjinoni se drejtoni një ekip të mbështetjes së klientëve dhe një agjent AI kryen klasifikimin fillestar të kërkesave. Me kalimin e kohës, SPL-ja mund të zbulojë një metodë kategorizimi që ekipi juaj nuk e kishte marrë parasysh, duke ulur shkallën e përshkallëzimit.
Kur nuk ndihmon: Nëse kërkesat e pajtueshmërisë ose rregulloret i përcaktojnë tashmë proceset tuaja, si në raportimin financiar, SPL-ja mund të ketë pak vlerë, sepse krijimtaria kthehet në pengesë dhe jo në avantazh.
Kur ndihmon: Në role që kërkojnë shumë hulumtim, si inteligjenca e tregut ose strategjia e produktit, mund të bashkëpunoni me AI-në duke i përmirësuar planet, duke i pasuruar rezultatet dhe duke i përfshirë këto përmirësime për përdorim të ardhshëm. Çdo ndërveprim rrit efektivitetin e sistemit.
Kur nuk ndihmon: Nëse ekipi juaj e përdor AI-në kryesisht për procese të drejtpërdrejta ku kontributi njerëzor është minimal, si përpunimi i faturave, barra e bashkëpunimit mund ta tejkalojë përfitimin.
Kur ndihmon: Supozoni se zgjeroheni në një rajon të ri dhe AI-ja duhet të trajtojë papritur pyetje për taksat vendore. SPL-ja ju lejon të kodoni shpejt rregulla dhe heuristika të reja sapo shfaqen, duke parandaluar gabimet e përsëritura.
Kur nuk ndihmon: Nëse mjedisi juaj është statik, si gjatë shndërrimit të transkripteve të takimeve në përmbledhje të standardizuara, përshtatja e vazhdueshme sjell pak përfitime.
Në teori, e gjithë kjo tingëllon premtuese, por zbatimi i SPL-së paraqet sfida reale. Më poshtë trajtojmë disa prej sfidave kryesore:
Në fazat e hershme të krijimit të strategjive, përparimi shpesh ngec: rezultatet e reja nuk bazohen tek ato të mëparshmet dhe ritmi ngadalësohet. Kjo zakonisht shkaktohet nga dy probleme kryesore:
Zgjidhja: Kodoni që në fillim të gjitha njohuritë e disponueshme të biznesit, në mënyrë që sistemi të ketë një bazë të thellë ku të mbështetet.
Zgjidhja: Hartoni një rubrikë të hollësishme që vlerëson disa aspekte të përgjigjes, si saktësia, qartësia dhe rëndësia, dhe përshtateni kampionimin për t’i pasqyruar këto sinjale.
Nëse sistemi krijon qindra strategji, por merr pak reagime për të dalluar të mirat nga të këqijat, kampionimi bëhet shpejt i papërballueshëm. Zgjidhja është krasitja.
Kur përmirësoni depon e strategjive, merrni parasysh:
Jetëgjatësinë: Hiqini nga përdorimi strategjitë pasi të tejkalojnë një periudhë ose numër të përcaktuar brezash.
Vlerësimin: Përdorni rubrikën tuaj të vlerësimit për të filtruar strategjitë që vazhdimisht japin rezultate të dobëta. Kombinimi i kësaj me jetëgjatësinë siguron që të mbani vetëm qasjet që e dëshmojnë vlerën e tyre me kalimin e kohës.
Gjykimin nga LLM-ja: Vlerësojini periodikisht strategjitë për të identifikuar ato që nuk sjellin më njohuri unike, pasi elementet e tyre të dobishme ka të ngjarë të jenë përfshirë tashmë në versione më të reja.
Zgjidhja: Trajtojeni bazën e të dhënave të strategjive si një sistem të gjallë: krasiteni rregullisht që të mbeten vetëm njohuritë përkatëse me vlerë të lartë.
Të nxënit e kërkesës së sistemit është ende në fillesat e veta, por potenciali i tij është i jashtëzakonshëm. Bizneset që mbështeten vetëm në kërkesa statike ose në përshtatje të imët pa fund do të ndeshen me kufizime të njohura: sisteme të brishta, kosto në rritje dhe përpjekje të çuara dëm. SPL-ja ofron një rrugëdalje nga ky cikël duke ndërtuar sisteme që përmirësohen me kalimin e kohës dhe kodojnë parime të nivelit më të lartë, në vend të arnimeve të izoluara.
SPL-ja është ende në zhvillim, por drejtimi i saj është i qartë: sistemet që mund të mësojnë nga vetvetja do t’ua kalojnë atyre që nuk munden. Tani është koha të eksperimentoni, të filloni me hapa të vegjël, të dokumentoni mësimet dhe të hidhni themelet për sisteme AI që përmirësohen me çdo ndërveprim.