Nám kerfiskvaðninga: nýtt viðmið fyrir gervigreindarkerfi

Hefur þú einhvern tíma fundið kvaðningu sem virkar vel en hættir svo skyndilega að virka?

Hefur þú einhvern tíma lent í vítahring þar sem þú reynir sífellt að laga kerfiskvaðninguna til að bæta niðurstöðurnar en ekkert virkar?

Nám kerfiskvaðninga gæti verið nákvæmlega það sem þú þarft.

Nám kerfiskvaðninga (SPL) er nýtt áhugasvið innan gervigreindarsamfélagsins og Andrej Karpathy vakti mikla athygli á því á X í maí.

Nám kerfiskvaðninga tekur á takmörkunum ósveigjanlegra og brothættra gervigreindarkerfa sem reiða sig á fastar kerfiskvaðningar eða ómeðfærilegar fínstillingar. Það býður upp á aðra leið til að styðja við sífellt nám gervigreindarkerfa.

Áður en lengra er haldið skulum við rifja stuttlega upp grunnatriði kvaðninga.

Þegar fulltrúi eða sérsniðið líkan er þróað þarf fyrst að hanna tvo lykilþætti:

1. Kerfiskvaðningu

2. Notandakvaðningu

Kerfiskvaðningar setja grunnreglur um hegðun líkans. Þegar þær eru skrifaðar fyrir sérsniðnar gervigreindarlausnir byrja þær oft einhvern veginn svona:

“You are an intelligent assistant. Your role is to perform <insert task here>.

You must not do (A), (B), or (C).”

Notandakvaðningar innihalda hins vegar yfirleitt fyrirspurn notanda og aðrar viðeigandi upplýsingar, svo sem tímabelti og óskir. Notandakvaðning gæti litið svona út:

I’m in the capital city of Portugal. Can you suggest some things I can do tonight?

Leki kerfiskvaðninga er orðinn algengur eftir útgáfu nýrra líkana frá helstu gervigreindarrannsóknarstofum, þar sem notendur brjóta varnir spjallmenna til að afhjúpa undirliggjandi fyrirmæli þeirra. Vinsæl GitHub-geymsla safnar nú mörgum þessara kerfiskvaðninga á einn stað. Þær afhjúpa „leynilega uppskrift“ sem gervigreindarrannsóknarstofur hafa þróað með tímanum til að stuðla að viðeigandi hegðun líkana. Til dæmis inniheldur nýlega lekna GPT-5-kerfiskvaðningin (sem var afhjúpuð í ChatGPT) um 6.000 orð. Það sýnir hversu mikla þekkingu og leiðsögn þarf að kóða til að móta hegðun kerfisins.

Slíkar ítarlegar kerfiskvaðningar ná yfirleitt yfir nokkur lykilsvið, svo sem:

• Leiðbeiningar um leit

• Skilgreiningar verkfæra

• Óskir notenda

• Leiðbeiningar um tilvísanir

• Skyndilausnir á þekktum vandamálum

Í reynd lagfæra þróunaraðilar sérsniðinna gervigreindarkerfa kerfiskvaðningar handvirkt ítrekað samhliða prófunum og endurbótum á forritunum. Þeir nota einkum mat til að stýra umbótaferlinu.

Aðrar leiðir til að stýra hegðun líkans eru meðal annars:

• Fyrirspurnahönnun, þar á meðal sækibætt myndun (RAG), sem stýrir því efni sem líkan fær

• Fínstilling (undirliggjandi vægi líkansins breytt beint)

Hvað ef til væri önnur leið til að hafa áhrif á hegðun líkana? Ímyndaðu þér kerfi sem lærir og betrumbætir eigin kerfiskvaðningu á virkan hátt með áður mynduðum hugsunum, áætlunum og aðferðum. Það gæti nýtt bæði endurgjöf notenda og mat frá LLM sem dómara til að meta úttak sitt.

Hugleiddu viðvarandi viðskiptaáskorun sem þú vilt sjálfvirknivæða með kerfi fulltrúa. Árangursríkar lausnir krefjast rökgetu umfram einfalda sjálfvirknivæðingu verkferla. Í slíkum tilvikum er nauðsynlegt að bæta þætti sem myndar áætlanir við gervigreindarkerfið. Þannig getur kerfið unnið með marga fulltrúa á mismunandi hátt eftir verkefninu. Einstök skref geta falið í sér fyrirmæli um að leita til annarra fulltrúa til að ljúka undirverkefnum eða nota verkfæri.

Athugaðu: Verkfæri fulltrúa er ytri aðgerð, API eða tilföng sem gervigreindarfulltrúi getur kallað á til að gera meira en að vinna með texta og framkvæma raunverulegar aðgerðir.

Þú gætir valið að „sá“ áætlun í kerfiskvaðningu líkansins sem fylgir rökréttum skrefum manneskju, þótt LLM þurfi yfirleitt nákvæmari leiðsögn um notkun verkfæra, snið úttaks og tengdar kröfur. Stundum er besta aðferðin óljós eða þú fæst við vandamál sem hefur ekki verið endurmetið vegna þess að áður var talið að það væri leyst. Þar kemur nám kerfiskvaðninga (SPL) til sögunnar.

SPL bætir kerfiskvaðningu ítrekað með því að fella inn aðferðir sem hafa áður verið myndaðar. Þegar ný vandamál koma upp safnar kerfið smám saman þekkingu og verður traustara. Hugsaðu um þetta sem handbók um lausn vandamála á þínu sviði.

SPL fellir innsýn úr endurgjöf notenda smám saman inn í kerfiskvaðninguna. Þegar kerfið þroskast gætir þú uppgötvað endurtekin vandamál sem hægt er að draga saman í almennari meginreglur á hærra stigi.

Skoðum nánar hvernig ferlið virkar, skref fyrir skref:

1. Byrjaðu á fyrirspurn notandans þar sem kerfið er beðið um að vinna tiltekið verkefni.

2. 1. Ef kerfið tekur aðeins á einu vandamáli gætir þú valið „gráðuga“ nálgun og valið þær aðferðir úr fyrri keyrslum sem fengu hæstu einkunn. Einnig má hvetja til könnunar með úrtaki úr dreifingu sem setur aðferðir með háa einkunn í forgang en tekur stundum með aðferðir með lægri einkunn. Þetta nýtist sérstaklega vel þegar söfnun aðferða er rétt að hefjast.

   2. Fyrir kerfi sem eiga að takast á við fjölbreytt vandamál má bæta við flokkunarlagi eða nota vigranir og kósínuslíkingu — sömu aðferðir og yfirleitt eru notaðar í RAG — til að finna viðeigandi nálganir. Þetta hjálpar þér að velja aðferðir sem henta tilteknu vandamáli, til dæmis aðferðir sérsniðnar að forritunarverkefnum.

Athugaðu: Vigranir sem notaðar eru með kósínuslíkingu gera okkur kleift að mæla hversu skyldar tvær upplýsingar eru. Þannig er auðveldara að para saman skjöl, fyrirspurnir eða hugmyndir þótt orðalagið sé ólíkt.

Dæmi um einfaldan aðferðagrunn til að leysa forritunarverkefni.

Athugaðu: „Frumaðferðirnar“ sem hér eru sýndar eru aðeins til skýringar. Í raunverulegum forritunarverkefnum myndum við betrumbæta þær frekar. Sérhæfð viðskiptavandamál myndu krefjast þess að frekari innsýn yrði safnað með tímanum.

3. Þegar búið er að taka N sýni skaltu fella þau inn í kerfiskvaðninguna. Þannig byggir myndun áætlana á fyrri endurgjöf sérfræðinga í stað þess að láta líkanið mynda áætlanir með lítilli leiðsögn. Hvettu líkanið til að „hugsa út fyrir rammann“ og bæta við skrefum eftir þörfum í stað þess að afrita sýnishornaðferðir orðrétt.

4. Notaðu kerfiskvaðninguna sem var búin til á virkan hátt til að mynda nýja aðferð við beiðni notandans. Þetta ferli ætti að skapa viðbótarverkefni sem bæta lokaúttakið. Markmiðið er sköpun: sameina bestu þætti fyrri aðferða, samþætta skref sem skarast og bæta við gagnlegum skrefum eftir þörfum.

Athugaðu: Mundu að hitastig er færibreyta sem má stilla til að fá fjölbreyttara og síður fyrirsjáanlegt úttak, sem nýtist þegar sköpunar er þörf. Ef hitastigið er ekki núll getur hver mynduð áætlun verið frábrugðin hinum.

5. Þegar úttak líkansins hefur borist skal láta annaðhvort mannlegan matsaðila eða LLM-dómara meta það út frá tilteknum viðmiðum sem skilgreina góða lausn á vandamálinu. Fyrir dæmið um afþreyingu í Portúgal sem áður var nefnt gætu matsviðmiðin verið:

• Hnitmiðun (svar takmarkað við eina setningu)

• Hversu viðeigandi afþreyingin er

• Nákvæmni staðsetningar

6. Notaðu annað líkan til að betrumbæta aðferðina út frá þessu mati. Valfrjáls endurgjafarlykkja getur tekið við framlagi frá fólki og stutt sameiginlegar umbætur. Geymdu betrumbættu aðferðina í gagnagrunninum ásamt viðeigandi lýsigögnum til að rekja útgáfur og breytingar.

En hvers vegna að leggja allt þetta á sig? Þú gætir farið handvirkt yfir úttakið og breytt kerfiskvaðningunni í samræmi við það. Öflug rökfærslulíkön geta hins vegar betrumbætt aðferðir með bæði samhengi úttaksins og endurgjöf frá fólki. Þótt fólk komi auðveldlega auga á galla einfaldra aðferða verður bæði erfitt og þreytandi að finna þá í flóknum kerfum sem takast á við fjölbreyttari vandamál.

LLM þurfa oft ítarleg fyrirmæli og fleiri skref til að afla þeirrar samhengisþekkingar sem fólk nýtir vandræðalaust við úrlausn vandamála. Nauðsynlegum verkefnum getur fjölgað hratt þegar kerfi er útvíkkað til að takast á við fjölbreyttari vandamál. Fólk sem leysir forritunarverkefni getur til dæmis skilið nærliggjandi kóðagrunn með innsæi en LLM gæti fyrst þurft að „lesa“ margar skrár.

• Þegar það hjálpar: Ímyndaðu þér að þú stýrir þjónustuteymi og gervigreindarfulltrúi flokkar þjónustubeiðnir. Með tímanum gæti SPL uppgötvað flokkunaraðferð sem teyminu hafði ekki dottið í hug og þannig fækkað málum sem þarf að vísa áfram.

• Þegar það hjálpar ekki: Ef kröfur um reglufylgni eða reglugerðir skilgreina þegar verkferlana, til dæmis við fjárhagsskýrslugerð, getur SPL haft lítið gildi því sköpun verður þá fremur áhætta en kostur.

• Þegar það hjálpar: Í rannsóknarmiðuðum störfum, svo sem markaðsgreiningu eða vöruáætlanagerð, getur þú unnið með gervigreindinni með því að betrumbæta áætlanir hennar, auðga úttakið og nýta umbæturnar síðar. Hver samskipti auka skilvirkni kerfisins.

• Þegar það hjálpar ekki: Ef teymið notar gervigreind einkum í einfalda verkferla þar sem framlag fólks er lítið, til dæmis við vinnslu reikninga, getur fyrirhöfnin við samstarfið vegið þyngra en ávinningurinn.

• Þegar það hjálpar: Segjum að þú hefjir starfsemi á nýju svæði og gervigreindin þurfi skyndilega að svara fyrirspurnum um staðbundna skatta. SPL gerir þér kleift að kóða nýjar reglur og þumalputtareglur hratt um leið og þær koma fram og koma þannig í veg fyrir endurtekin mistök.

• Þegar það hjálpar ekki: Ef umhverfið er stöðugt, til dæmis þegar fundarafritum er breytt í staðlaðar samantektir, skilar sífelld aðlögun litlum ávinningi.

Fræðilega hljómar þetta allt vel en innleiðing SPL hefur í för með sér raunverulegar áskoranir. Hér á eftir fjöllum við um nokkrar þeirra helstu:

Á fyrstu stigum aðferðamyndunar stöðvast framfarir oft: nýtt úttak byggir ekki á fyrra úttaki og dregur úr skriðþunganum. Yfirleitt liggja tvö meginvandamál að baki:

• • Lausn: Kóðaðu alla tiltæka viðskiptaþekkingu strax svo kerfið hafi yfirgripsmikilli þekkingu að ráða.

• • Lausn: Hannaðu vandaðan matsramma sem gefur einkunn fyrir marga þætti svars, svo sem nákvæmni, skýrleika og mikilvægi, og lagaðu úrtakið að þessum merkjum.

Ef kerfið myndar hundruð aðferða en fær litla endurgjöf til að greina góðar frá slæmum verður úrtak fljótt óviðráðanlegt. Lausnin er grisjun.

Við betrumbætur á aðferðasafninu skaltu huga að:

• Líftíma: Taktu aðferðir úr notkun þegar þær fara yfir skilgreindan tíma eða fjölda kynslóða.

• Einkunn: Notaðu matsrammann til að sía frá aðferðir sem skila stöðugt slökum árangri. Ásamt líftíma tryggir þetta að aðeins séu varðveittar aðferðir sem sanna gildi sitt með tímanum.

• Mat LLM: Metið aðferðir reglulega til að finna þær sem veita ekki lengur einstaka innsýn, enda hafa gagnlegir þættir þeirra líklega þegar verið teknir upp í nýrri útgáfur.

Lausn: Líttu á aðferðagagnagrunninn sem lifandi kerfi: grisjaðu hann reglulega svo aðeins viðeigandi og verðmæt þekking varðveitist.

Nám kerfiskvaðninga er enn á frumstigi en möguleikarnir eru gríðarlegir. Fyrirtæki sem reiða sig eingöngu á fastar kvaðningar eða endalausa fínstillingu munu rekast á kunnuglegar takmarkanir: brothætt kerfi, vaxandi kostnað og sóaða vinnu. SPL býður leið út úr þessum vítahring með kerfum sem batna með tímanum og kóða almennar meginreglur í stað stakra lagfæringa.

SPL er enn að ryðja sér til rúms en stefnan er skýr: kerfi sem geta lært af sjálfum sér munu skjóta þeim sem það geta ekki ref fyrir rass. Nú er rétti tíminn til að gera tilraunir, byrja smátt, skrá lærdóminn og leggja grunn að gervigreindarkerfum sem batna með hverjum samskiptum.