Einfaldari beisli og fulltrúar sem keyra kóða henta betur fyrir opin verkefni, þar sem of stíf stýring getur takmarkað afköst líkansins.
Kóðakeyrsla og sandkassavæðing eru því orðin mikilvægir þættir í grunnarkitektúr fulltrúakerfa.
Agents SDK dregur úr flækjustigi og kóðamagninu sem þarf til að smíða fulltrúa sem keyra kóða, allt að sexfalt í prófunum okkar.
Lengi vel fólust framfarir í fulltrúakerfum í bættri stýringu: betri kvaðningum, verkfæraviðmótum, samhengi og þéttara stýriflæði. En eftir því sem kóðunarfulltrúar verða öflugri er þetta jafnvægi tekið að breytast.
Í mörgum opnum verkferlum er lykkja fulltrúans sjálfs ekki lengur flöskuhálsinn, heldur keyrslulagið: sandkassinn þar sem líkanið skrifar kóða, keyrir skipanir, skoðar niðurstöður og endurtekur ferlið. Eftir því sem meira af rökunum fyrir hvert verkefni færist inn í þetta umhverfi þarf stýringin umhverfis það að verða einfaldari svo líkanið geti nýtt getu sína til fulls.
Þessi breyting er einmitt það sem nýja útgáfan af Agents SDK gerir kleift. Í prófunum okkar á foraðgangstímabilinu kom í ljós að í stað þess að bæta við enn einu lagi af rökvirkni umgjörðarinnar gerir hún keyrslulagið einingaskiptara og auðveldara að samþætta, svo að aðrir hlutar kerfisins geti haldist einfaldir.
Í hönnun beisla er nú í tísku að einfalda beislið eins mikið og unnt er án þess að það missi virkni sína. Í stórum dráttum er beislið hugbúnaðurinn umhverfis líkanið: lagið sem stýrir samhengi, verkfærum, stýriflæði og endurgjafarlykkjum svo líkanið geti unnið á áreiðanlegan hátt.
Undanfarin ár hafa margar framfarir í afköstum fulltrúa komið til vegna styrkingar þessa lags. Betri verkfæri, minni og endurheimt, skýrari niðurbrot verkefna og þéttari stýring gerðu kerfin oft áreiðanlegri og öflugri. Samkvæmt þessari nálgun fólust framfarir að mestu í því að færa meiri verkefnarök inn í hugbúnaðinn umhverfis líkanið.
Þetta mynstur er nú að veikjast, að minnsta kosti fyrir ákveðinn flokk opinna verkefna. Sífellt fleiri verkefni og rannsóknargreinar benda til þess að afköst batni ekki alltaf þegar beislið verður meira fyrirskipandi. Í aðstoð við forritun, langvinnum verkefnum, notkun vafra og verkefnum með löngu samhengi birtist sama mynstrið aftur og aftur: þegar líkanið er orðið nægilega greint getur of mikið verkefnaskipulag í hugbúnaðinum umhverfis það orðið að hindrun fremur en kostum.
Hlutverk beislisins er því að breytast. Í stað þess að reyna að sjá verkefnið fyrir með stífri stýringu þjónar beislið í auknum mæli sem hreint keyrsluumhverfi: sandkassi þar sem líkanið getur skoðað stöðu, keyrt kóða, jafnað sig eftir villur og aðlagað eigin nálgun, innan þeirra viðmóta og öryggisráðstafana sem kerfið setur. Þetta svipar til breytingarinnar sem Andrej Karpathy lýsti í Software Engineer 3.0: hluti rökvirkninnar sem áður var í hugbúnaðinum færist upp í „kvaðninguna“.
Lærdómurinn er ekki sá að fjarlægja eigi allt skipulag úr fulltrúakerfum. Mörg verkefni njóta enn góðs af skýrum verkferlum, brjóstviti og ófrávíkjanlegum varnarreglum, einkum þegar verkefnið er afmarkað, unnið í miklu magni eða hefur skýr árangursviðmið. Eins og við héldum fram í fyrri færslu okkar um brjóstvit við hönnun fulltrúakerfa skiptir öflug stýring enn máli þegar áreiðanlegt rökflæði er bæði mögulegt og æskilegt.
Áherslan er að færast til þegar kemur að opnum verkefnum. Áskorunin felst síður í sífellt flóknari stýrilögum og frekar í að byggja keyrsluumhverfi sem eru nógu einföld, gagnsæ og einingaskipt til að líkanið geti unnið skilvirkt innan þeirra.
Þegar fulltrúi getur lesið skrár, skrifað kóða, keyrt skeljarskipanir og sett af stað langvinn verkefni breytist verkfræðiáskorunin. Erfiðasti hlutinn er ekki lengur aðeins að fínstilla kvaðningar eða beina verkfærum rétta leið. Þar sem fulltrúinn vinnur nú í raunverulegu kerfi verða þessir fulltrúar mun öflugri, en jafnframt viðkvæmari vegna þess að öryggis- og verndaráhættan eykst. Fulltrúi sem getur keyrt kóða getur til dæmis unnið tjón ef umhverfi hans er illa einangrað (sjá Sandbox Bench frá AISI).
Sandkassavæðing verður því sífellt mikilvægari í umgjörðum fulltrúa. Í eldri kerfum var keyrsla oft meðhöndluð sem viðbót: verkfæri sem var fest utan á beislið. En þegar keyrslan verður stöðuvitund, langvinn eða fjartengd fer sú nálgun að bresta. Umsjón með sandkassanum sjálfum, líftíma hans, stöðu, viðmótum og tengingu við lykkju fulltrúans verður fljótt að sjálfstæðu kerfishönnunarverkefni. Það er ein ástæða þess að sífellt fleiri þjónustuaðilar bjóða nú stýrð umhverfi fyrir kóðakeyrslu, þar á meðal Container API og skeljarverkfæri OpenAI, Modal, Cloudflare, Daytona og E2B.
Þessi aðgreining skiptir máli því kóðakeyrsla krefst öflugri einangrunar og strangari keyrslustýringar en aðrir hlutar beislisins. Í reynd geta illa útfærðir fulltrúar sem keyra kóða skapað þrjár rekstrarlega alvarlegar áhættur: stjórnlausan tölvukostnað, skaðlegar aðgerðir í innri kerfum og afhjúpun viðkvæmra upplýsinga. Með réttri gámavæðingu, einangrun og öryggisráðstöfunum við keyrslu má halda þessari áhættu innan marka sem eru ásættanleg við raunverulega innleiðingu.
Líta má á þetta sem að fulltrúinn fái sitt eigið lokaða vinnusvæði í stað lyklanna að allri skrifstofunni. Hann getur samt unnið gagnleg störf innan svæðisins, en aðeins innan skýrt skilgreindra marka. Hægt er að takmarka tölvuaflið sem hann notar, hvaða kerfi og skrár hann getur snert og hvaða upplýsingar standa honum yfirleitt til boða.
Þetta útilokar ekki alla áhættu en breytir vandanum úr „fulltrúi laus í innviðum þínum“ í „fulltrúi sem starfar í stýrðu umhverfi“. Ef þetta lag á að verða staðalbúnaður fulltrúakerfa þarf umgjörðin sjálf að styðja það sem grunnþátt. Þannig verður sandkassinn að einingaskiptu keyrslulagi með færanlegum grunneiningum sem forritarar geta tekið hratt í notkun, flutt milli þjónustuaðila og kvarðað án þess að endurvinna sífellt rökvirkni fulltrúans.
Þegar fulltrúi keyrir kóða þarf að stýra sandkassanum sjálfum. Að færa staðbundna frumgerð yfir í fjarkeyrslu, mörg bakendakerfi eða langar setur eykur rekstrarálagið gríðarlega. Þú þarft samræmda leið til að búa til umhverfi, stöðva þau, gera hlé og halda áfram, taka stöðumyndir, tengjast aftur síðar og sjá um þetta allt þvert á þjónustuaðila.
Ekkert af þessu er sérstaklega spennandi í fræðilegum skilningi, en það skiptir máli í framkvæmd. Þetta er einmitt sú tegund innviða sem verður erfið þegar hvert teymi endurbyggir fulltrúamiðað vinnsluferli frá grunni, einkum þegar það er ekki samþætt umgjörð fulltrúans…
Þarna verður betri stuðningur umgjarðarinnar mikilvægur. Við fengum foraðgang að nýrri útgáfu OpenAI Agents SDK og notuðum hana sjálf til að smíða fulltrúa í sandkössum. Það sem vakti athygli var breytt áhersla í arkitektúrnum: SDK-lausnin meðhöndlar keyrslu sem grunnlag fremur en jaðarverkfæri. Í reynd þýðir þetta að hægt er að ræsa fulltrúa í sandkassa, taka stöðumynd af sandkassa eða halda keyrslu áfram með minni kóða (um sexfalt minni í sumum prófunum okkar) og síðan skipta um bakendakerfi án þess að endurskrifa rökvirkni fulltrúans í kring.
Þessi skýrari aðgreining ábyrgðar gerir beislinu kleift að einbeita sér að rökum, samhengi og verkferli. Keyrslulagið getur einbeitt sér að einangrun, færanleika og keyrslustöðu. Þessi óhlutbundna útfærsla auðveldar smíði kóðunarfulltrúa sem eru bæði öflugri og auðveldari í þróun, geta færst milli staðbundinnar keyrslu og fjarkeyrslu, stutt langvinnari verkefni og skipt um bakendakerfi án þess að endurhanna allt kerfið.
Eftir því sem meiri verkefnarök færast úr beislinu inn í líkanið fylgir hluti af flækjustigi kerfisins með niður í keyrslulagið. Kóðakeyrsla og sandkassavæðing eru nú grundvallaratriði í arkitektúr fulltrúakerfa, einkum fyrir kóðunarþung og opin verkefni. Nú er jafn mikilvægt að hanna umhverfið þar sem fulltrúinn getur starfað örugglega, áreiðanlega og til lengri tíma og að hanna sjálft vinnsluferli fulltrúans.
Þess vegna skipta yfirskipaðar óhlutbundnar lausnir fyrir keyrslu í sandkössum máli. Nýrra OpenAI Agents SDK stefnir í þessa átt með því að meðhöndla keyrslu sem einingaskipt lag kerfisins: færanlegt milli bakendakerfa, með varðveittri stöðu í langvinnum verkefnum og nógu einfalt í notkun til að ekki þurfi að endurbyggja sömu innviði fyrir hvert nýtt uppsetningarafbrigði.
Almenni lærdómurinn er sá að næsta kynslóð umgjarða fulltrúa mun líklega síður ráðast af því hve mikilli stýrirökvirkni þær bæta við og frekar af því hve vel þær skipuleggja keyrsluumhverfin sem fulltrúar reiða sig í auknum mæli á.