Flest gervigreindarteymi sem sækjast eftir betri frammistöðu fulltrúa grípa til sömu ráða: stærri samhengisglugga, fleiri skjala og snjallari kvaðninga. Í þessari grein er því haldið fram að það sé algerlega röng nálgun. Það sem vantar er ekki meiri upplýsing. Það er stýring. Vel hannað stýrilag skilur á milli fulltrúa sem virkar í sýnikennslu og fulltrúa sem virkar í rekstri.
Stærra minni, fleiri skjöl eða lengri samhengisgluggi gera gervigreindarfulltrúa ekki snjallari — aðeins hægari og dýrari. Raunverulegur ávinningur fæst með því að kenna fulltrúanum að velja hvað hann þarf og hvenær, í stað þess að vinna úr öllu í einu.
Áreiðanleikinn kemur frá lykkjunni, ekki líkaninu. Það sem skilur á milli fulltrúa sem vekur hrifningu í sýnikennslu og fulltrúa sem stenst kröfur í rekstri er ekki gæði gervigreindarinnar heldur hvort kerfið yfirfer eigin vinnu. Fulltrúar sem skipuleggja, framkvæma, fylgjast með og sannprófa hvert skref grípa eigin mistök í stað þess að hafa rangt fyrir sér af fullu sjálfstrausti.
Flestir gervigreindarfulltrúar í dag eru í raun spjallmenni með aukaskrefum — þá vantar leið til að vita hvort þeir séu á réttri leið, hvenær eigi að stöðva eða hvenær eigi að reyna aðra nálgun. Rétt stýrilag — skýr árangursviðmið, skipulögð staða og sannprófanir — breytir fyrirbæri sem líkist fulltrúa í eitthvað sem raunverulega má treysta.
Hvað borðaðirðu í hádeginu í gær?
Þú rifjaðir líklega ekki upp hverja einustu minningu þar til þú fannst „gær + hádegismatur“. Þú fórst beint í þann hluta reynslunnar þar sem þessi hugtök eiga heima. Þetta er gagnlegt hugarlíkan við smíði fulltrúa:
Risastór samhengisgluggi er ekki minni.
Bunki af sóttum skjölum er ekki skilningur.
Löng hugsanakeðja er ekki áreiðanleiki.
Þetta eru hráefni. En það sem lætur fulltrúa virka eins og fulltrúa er hið sama og kemur í veg fyrir að heilinn leiti með hráafli í allri ævisögunni: stýring.
Nýlegt yfirlit — Agentic Reasoning for Large Language Models — dregur vel saman (og gefur heiti) breytinguna sem mörg okkar hafa fundið fyrir við þróun: frá rökum inni í líkaninu yfir í rök með gagnvirkni. Þessi grein er ekki samantekt á þeirri ritgerð. Hún er tilraun til að yfirfæra breytinguna á hagnýta kerfishönnun:
Ef þú byggir fulltrúa eins og spjallmenni með verkfæri færðu áfram sömu bilanir og í spjallmennum — en mistökin verða dýrari.
Um tíma var sjálfgefna uppskriftin að því að „gera líkanið snjallara“ í meginatriðum þessi: betri kvaðningar, hugsanakeðja, sjálfssamræmi / úrbætur með úrtaki og ef til vill einhver leit.
ReAct markaði þáttaskil því það gerði „hugsun → aðgerð → athugun“ eðlilegt. Takið þó eftir innbyggðu skorðunni: mikið af þessu verður enn að „ein-skots ályktun, en með fleiri tókum“. Framsetning yfirlitsins er skarpari: rök fulltrúa leggja áherslu á að skala gagnvirkni á prófunartíma — að breyta ályktun í ítrekað ferli þar sem líkanið, minnið og umhverfið haldast öll í lykkjunni.
Ef þú hefur smíðað (eða notað) fulltrúa sem virka glæsilega í sýnikennslu en brothættir í raunverulegum verkferlum er þetta fyrir þig.
Ég ætla að lýsa mynstri sem ég hef oft séð (og sannarlega sjálfur smíðað útgáfur af):
Taktu gott spjalllíkan
Bættu við nokkrum verkfærum (leit, gagnagrunnsfyrirspurn og ef til vill keyrslu kóða)
Bættu við RAG
Bættu við kerfiskvaðningunni „þú ert sjálfstæður fulltrúi“
Settu allt í while-lykkju þar til það stöðvast eða tíminn rennur út
Til hamingju, þú ert komin(n) með fyrirbæri í líki fulltrúa. En það bregst gjarnan með fyrirsjáanlegum hætti:
Uppblásið samhengi: hverri athugun er bætt við; kvaðningarnar verða að fornleifalögum.
Fálm með verkfæri: sjálfgefna bilunin verður að „velja rangt verkfæri af fullu sjálfstrausti“.
Engin stöðvunarskilyrði: það heldur áfram af því að það getur það, ekki af því að það ætti að gera það.
Enginn agi um rauveruleikabundin svör: það tekur ekki eftir að það hafi rangt fyrir sér nema það sé þvingað til þess.
Minni = spjallferill: sem er í raun bara skráning atvika kölluð nám.
Þess vegna virka „fulltrúar“ oft töfrandi í sýnikennslu en óreiðukenndir í rekstri. Reynsla okkar af rekstri fulltrúakerfa endurspeglar þetta líka: þegar ekki er lengur verið að meta líkan heldur kerfi ná bilanir meðal annars til leiðarstýringar, agaðrar verkfæranotkunar, grisjunar samhengis og hönnunar mats — ekki aðeins þess hvort „líkanið svaraði rétt“.
Spurningin verður því: hvernig er markvissi fulltrúinn?
Til að gera þetta áþreifanlegra er hér einfaldur verkferill sem flestir geta séð fyrir sér: “Book me a flight from London to New York next Tuesday. Arrive before 6pm. Keep it under £900. Aisle seat.”
Algeng útfærsla sem „líkist fulltrúa“ er á þessa leið:
Sækir strax fjölda skjala um reglur flugfélaga / ferðalaga (jafnvel þótt þeirra sé ekki enn þörf).
Kallar í leitarverkfæri, límir langan niðurstöðulista inn í kvaðninguna og „velur eitt“.
Bókar of snemma án þess að sannreyna skilyrði (komutíma / farangur / sæti / reglur).
Ef það mistekst reynir kerfið aftur með örlítið öðrum hætti — en án skýrrar hugmyndar um hvað breyttist eða hvað það lærði.
Bilunin stafar ekki af því að líkanið geti ekki beitt rökum, heldur því að kerfið stýrir ekki verkferlinu.
Fulltrúamiðaðri útgáfa meðhöndlar verkefnið sem gagnvirkt ferli með skýrri stöðu og prófunum:
SKIPULEGGJA: endurtaka skilyrði + telja upp upplýsingar sem vantar (t.d. „hvaða flugvöll kýstu?“ / „er eitt millilendingarflug í lagi?“).
FRAMKVÆMA: kalla í flugleit með skipulagðri fyrirspurn (dagsetningabil, komutímaskilyrði, fjárhagsáætlun).
FYLGJAST MEÐ: vista niðurstöður í samþjöppuðum stöðuhlut (fimm bestu kostirnir með verði/komutíma/millilendingum), ekki sem risastóran innlímdan texta.
UPPFÆRA: betrumbæta fyrirspurnina ef skilyrði eru ekki uppfyllt (t.d. „koma fyrir kl. 18 er of þröngt skilyrði — víkka tímabilið eða hækka hámarksverðið?“).
SANNPRÓFA: keyra sannprófara („koma < 18:00“, „verð ≤ £900“, „samræmist reglum“, „hægt að velja sæti“).
STÖÐVA: aðeins þegar bókunar-API skilar staðfestingu og allar sannprófanir standast.
Breytingin er lúmsk en afgerandi. Gagnaöflun er skilyrt (ekki ósjálfráð), samhengi er stýrt (staðan er skipulögð en ekki safnað upp) og sannprófun er hluti af lykkjunni (ekki látin notandanum eftir). Skiptu „bóka flug“ út fyrir „stofna innkaupapöntun“, „gefa út endurgreiðslu“, „breyta uppsetningu í rekstri“ eða „afhenda PR“ og sagan er sú sama: um leið og fulltrúinn getur framkvæmt skiptir lykkjan meira máli en kvaðningin.
Í fyrrnefndu yfirliti er rökum fulltrúa skipt í þrjú lög: grunnlag (skipulagning/notkun verkfæra/leit), sjálfsþróun (endurgjöf + minni) og samvinnu (samhæfing margra fulltrúa).
Dýpri hugmyndin er þó þessi: rök verða leiðarstefið í skipulagningu, ákvarðanatöku og sannprófun — ekki aðeins leið til að mynda trúverðuga hugsanakeðju. Þetta hljómar óhlutbundið þar til það er tengt við breytingarnar á kerfishöguninni. Þrjú meginatriði þarf að muna:
Góður fulltrúi ætti ekki að líta á gagnaöflun sem eitthvað sem „alltaf skal gera“. Hún er ákvörðun, ekki ósjálfráð viðbrögð.
Hér er hagnýt þumalputtaregla:
Ef kerfið sækir gögn í hverri lotu hefurðu ekki byggt gagnaöflun — heldur samhengisskatt.
Þetta kemur sífellt upp í raunverulegum verkefnum. Við kembingu rekstraratviks hellirðu ekki öllum atvikaskrám inn í samhengið; þú ákveður hvaða mæligögn eða færslur á að sækja næst út frá núverandi tilgátu. Það er „fulltrúamiðuð gagnaöflun“. Hér er skýrara mynstur:
Ákveða hvort sækja þurfi gögn
Ef já: semja fyrirspurn, sækja, renna yfir, draga út
Ef gögn stangast á: sækja aftur
Aðeins þá skal vinna heildarniðurstöðu
Hér fer „fulltrúamiðað RAG“ einnig að skilja sig frá hefðbundnu RAG: gagnaöflun verður markvisst skref í rökum en ekki sjálfgefið stig vinnslupípu.
Um leið og hætt er að meta „líkan“ og farið að meta „kerfi“ fara stöðuskráning og rakning að skipta máli.
Eitt sem greinin hefur nú gert skýrara er sýnileiki í verkferlum fulltrúa. Agents SDK frá OpenAI er til dæmis með innbyggða rakningu og Traces-yfirlit sem skráir keyrslur fulltrúa (úttak, verkfæraköll, afhendingar, varnir og sérsniðna atburði), sérstaklega svo hægt sé að kemba og yfirfara skref fyrir skref hvað gerðist.
Þetta er ekki bara „gott að hafa“. Þetta skilur á milli kerfis sem hægt er að kemba og kerfis sem aðeins er hægt að meta eftir tilfinningu.
Að mínu mati er gagnlegasti hluti yfirlitsins hversu afdráttarlaust það fjallar um endurgjöf. Þar er endurgjöf skipt í þrjá flokka: ígrundandi endurgjöf (búa til → gagnrýna → endurskoða), stikaaðlögun (læra með fínstillingu / styrkingarnámi) og endurgjöf frá sannprófara (reyna aftur þar til sannprófun stenst).
Flest teymi ættu að byrja á endurgjöf frá sannprófara því hún er óspennandi en árangursrík. Ef hægt er að skrifa einhvern sannprófara sem einingaprófar, athugar skema, framfylgir viðskiptareglum / skorðum („engar endurgreiðslur yfir X án þess að vísa málinu áfram“) eða sannreynir staðreyndir („tilvísana krafist“), má breyta ófyrirsjáanlegu úttaki líkans í eitthvað sem raunverulega er hægt að treysta.
Ein af þessum ófyrirséðu breytingum er einföld: í heimi fulltrúa kemur áreiðanleiki oft frekar frá lykkjunni en líkaninu.
Þetta er einfaldasta lykkjureglan sem ég hef fundið til að bæta hegðun með áreiðanlegum hætti án þjálfunar:
Vinnið í skrefum: Skipuleggja → Framkvæma → Fylgjast með → Uppfæra,
Eftir hverja framkvæmd skal draga athugunina saman í 1–3 punktum,
Stöðvið þegar árangursviðmið hafa náðst eða fjárheimild er uppurin; skilið bestu þekktu niðurstöðu ásamt því sem enn er óvíst.
Markmiðið er ekki að gera líkanið langort. Markmiðið er að gera kerfið skiljanlegt og þvinga fram „snertingu við raunveruleikann“ í hverju skrefi. Dæmi sem verkfræðingar þekkja vel er raunveruleikabundin lokuð lykkja að hætti samfelldrar samþættingar (CI):
Skipuleggja: leggja til lista yfir breytingar
Framkvæma: keyra prófanir / kóðagreiningu
Fylgjast með: greina bilanir
Uppfæra: lagfæra og reyna aftur
Nokkrar spurningar sem gjarnan afhjúpa fulltrúahönnun sem varð til fyrir slysni:
„Velur fulltrúinn minn hverju á að sækja eða sæki ég alltaf gögn?“
Ef gögn eru sótt skilyrðislaust greiðirðu fyrir það með töfum, kostnaði, útþynntu samhengi og aukinni hættu á að rusl inn skili rusli út.
„Getur fulltrúinn minn áttað sig á að hann hafi rangt fyrir sér?“
Ef eina endurgjöfin til fulltrúans er „notandinn verður pirraður“ ertu að stunda styrkingarnám með mannlegri þjáningu. Endurtekningarlykkja með sannprófara er hreinlegasta leiðin til að láta hann horfast í augu við raunveruleikann.
„Er hægt að skrifa í minnið og batnar það með tímanum?“
Ef „minnið“ þitt bætir bara spjallferlinum aftan við ertu í raun aðeins að skrifa atvikaskrár. Framsetning yfirlitsins á minni er mikilvæg: minni verður að sívaxandi samhengi sem fulltrúar betrumbæta með tímanum — ekki bara afriti af samskiptum.
Atvikaskrár segja hvað gerðist en minni segir hvað eigi að gera næst. Spjallferill er afrit af samskiptum. Minni er stefna í stöðugri þróun um hvað sé þess virði að varðveita.
Hagnýt byrjun er lítil tafla yfir „lærdóm“, skipulögð eftir verkgerð, verkfæri og bilunarhætti, þar sem skráð er hvað virkaði og hvað ber að forðast. Markmiðið er ekki að smíða fullkomið þekkingargraf. Markmiðið er að skapa uppsafnaðan ávinning: minni og endurgjöf breyta fulltrúum úr „aðstoðarmönnum án stöðu“ í kerfi sem batna með tímanum.
Freistandi er að bæta fleiri fulltrúum við vandann, en það margfaldar oft kostnaðinn við samhæfingu. Gott mynstur fyrir „lágmarksstarfhæft teymi“:
Samhæfingaraðili: skiptir niður + úthlutar
Framkvæmdaraðili: sér um verkfæraköll / breytingar
Gagnrýnandi/matsaðili: kannar réttmæti/áhættu
Minnisvörður: skráir/ritstýrir lærdómi
Ef þú getur ekki útskýrt ábyrgð hvers fulltrúa þarftu líklega ekki marga fulltrúa enn.
Ef við trúum raunverulega á þessa hugmyndabreytingu hættum við líklega að troða öllu í kvaðningar, líta á bilanir sem lokaúttak og meta fulltrúa eins og spjallmenni. Þess í stað förum við að líta á fulltrúa sem það sem þeir eru: hugbúnaðarkerfi þar sem tungumál er stýrilagið — og áreiðanleikinn kemur frá lykkjunni.
Bættu við annarri matslykkju áður en þú bætir við öðru líkani. Gerðu gagnaöflun skilyrta áður en þú sækir allt. Settu einn sannprófara í rekstur áður en þú setur tíu. Farðu með minni eins og stefnumótandi ákvarðanir, ekki gagnagrunn. Og þegar þú ferð yfir í marga fulltrúa skaltu byrja á tveimur, ekki tuttugu. Þetta eru ekki reglur heldur mynstrin sem stóðust raunverulegan rekstur.