Harnesses eħfef u aġenti li jeżegwixxu l-kodiċi huma aktar adatti għal kompiti miftuħa, fejn orkestrazzjoni riġida żżejjed tista’ tillimita l-prestazzjoni tal-mudell.
Għaldaqstant, l-eżekuzzjoni tal-kodiċi u s-sandboxing issa huma kwistjonijiet arkitettoniċi ewlenin għas-sistemi aġentiċi.
Fl-ittestjar tagħna, l-Agents SDK naqqas sa sitt darbiet il-kumplessità u l-ammont ta’ kodiċi meħtieġ biex jinbnew aġenti li jeżegwixxu l-kodiċi.
Għal żmien twil, il-progress fis-sistemi ta’ aġenti kien ġej mit-titjib tal-orkestrazzjoni: prompts aħjar, interfaċċi tal-għodod, ġestjoni tal-kuntest u fluss ta’ kontroll aktar strett. Iżda hekk kif l-aġenti tal-ipprogrammar isiru aktar kapaċi, dan il-bilanċ qed jibda jinbidel.
F’ħafna flussi tax-xogħol miftuħa, il-punt kritikament limitanti m’għadux iċ-ċiklu tal-aġent innifsu, iżda s-saff tal-eżekuzzjoni: is-sandbox fejn il-mudell jikteb il-kodiċi, iħaddem il-kmandi, jeżamina r-riżultati u jirrepeti l-proċess. Hekk kif aktar raġunament marbut mal-kompitu jgħaddi għal dak l-ambjent, l-orkestrazzjoni ta’ madwaru trid issir aktar sempliċi biex il-mudell ikun jista’ juri l-kapaċità kollha tiegħu.
Din il-bidla hija preċiżament dak li tippermetti l-verżjoni l-ġdida tal-Agents SDK. Mill-ittestjar tagħna waqt l-aċċess bikri sibna li, minflok iżżid saff ieħor ta’ loġika tal-qafas, din tagħmel is-saff tal-eżekuzzjoni aktar modulari u kombinabbli biex il-bqija tas-sistema jibqa’ ħafif.
Fl-inġinerija tal-harness saret popolari t-tendenza li l-harness jitnaqqas għall-aktar forma effettiva minima tiegħu. B’mod ġenerali, il-harness huwa s-software madwar il-mudell: is-saff li jimmaniġġja l-kuntest, l-għodod, il-fluss tal-kontroll u ċ-ċikli ta’ feedback biex il-mudell ikun jista’ jwettaq ix-xogħol b’mod affidabbli.
Tul dawn l-aħħar snin, ħafna mit-titjib fil-prestazzjoni tal-aġenti ġie mit-tisħiħ ta’ dak is-saff. Għodod aħjar, memorja u rkupru aħjar, tqassim aktar espliċitu u orkestrazzjoni aktar stretta spiss għamlu s-sistemi aktar affidabbli u kapaċi. F’dak il-paradigma, il-progress fil-biċċa l-kbira kien ifisser li aktar loġika tal-kompitu tiġi inkorporata fis-software madwar il-mudell.
Dan ix-xejra issa qed titlef is-saħħa, għall-inqas għal ċerta kategorija ta’ kompiti miftuħa. Għadd dejjem jikber ta’ proġetti u studji jissuġġerixxi li l-prestazzjoni mhux dejjem titjieb meta l-harness isir aktar preskrittiv. Fl-ipprogrammar assistit, fil-kompiti fit-tul, fl-użu tal-brawżer, u fil-kompiti b’kuntest twil, l-istess xejra tidher ripetutament: ladarba l-mudell ikun intelliġenti biżżejjed, l-impożizzjoni ta’ struttura żejda tal-kompitu fis-software ta’ madwaru tista’ ssir restrizzjoni minflok vantaġġ.
Għalhekk, ir-rwol tal-harness qed jinbidel. Minflok jipprova jbassar il-kompitu minn qabel permezz ta’ orkestrazzjoni riġida, il-harness qed iservi dejjem aktar biex jipprovdi wiċċ ta’ eżekuzzjoni nadif: sandbox fejn il-mudell jista’ jeżamina l-istat, iħaddem il-kodiċi, jirkupra mill-iżbalji u jadatta l-approċċ tiegħu, filwaqt li jibqa’ marbut mal-interfaċċi u l-miżuri ta’ sikurezza tas-sistema. Din tixbah il-bidla li Andrej Karpathy ddeskriva f’Software Engineer 3.0: parti mil-loġika li qabel kienet tinsab fis-software titla’ fil-“prompt”.
Il-lezzjoni mhijiex li s-sistemi ta’ aġenti għandhom ineħħu l-istruttura minn kullimkien. Ħafna kompiti għadhom jibbenefikaw minn flussi tax-xogħol espliċiti, ewristiċi u salvagwardji deterministiċi, speċjalment meta l-kompitu jkun speċifiku, ta’ volum għoli jew ikollu kriterju ċar ta’ suċċess. Kif argumentajna fl-artiklu preċedenti tagħna dwar l-Ewristiċi għad-Disinn ta’ Sistemi Aġentiċi, orkestrazzjoni b’saħħitha tibqa’ importanti meta fluss loġiku affidabbli jkun kemm possibbli kif ukoll mixtieq.
Għall-kompiti miftuħa, l-enfasi qed tinbidel. L-isfida mhijiex tant li jitfasslu saffi ta’ orkestrazzjoni dejjem aktar elaborati, iżda li jinbnew ambjenti ta’ eżekuzzjoni sempliċi, osservabbli u modulari biżżejjed biex il-mudell jaħdem fihom b’mod effettiv.
Ladarba aġent ikun jista’ jaqra fajls, jikteb kodiċi, iħaddem kmandi tax-shell u jibda kompiti fit-tul, l-isfida tal-inġinerija tinbidel. Il-parti diffiċli m’għadhiex biss l-ottimizzazzjoni tal-prompt jew ir-rotta tal-għodod. Il-fatt li l-aġent issa qed jopera fuq sistema reali jagħmel lil dawn l-aġenti ferm aktar b’saħħithom, iżda wkoll aktar sensittivi, għax iżidu l-firxa ta’ riskji għas-sikurezza u s-sigurtà. Pereżempju, aġent li jista’ jeżegwixxi kodiċi jista’ jieħu azzjonijiet ta’ ħsara jekk l-ambjent tiegħu ma jkunx iżolat sew (ara s-Sandbox Bench tal-AISI).
Għaldaqstant, is-sandboxing qed isir kwistjoni kritika fl-oqfsa tal-aġenti. F’sistemi preċedenti, l-eżekuzzjoni spiss kienet titqies bħala żieda: għodda mwaħħla mal-harness. Iżda ladarba l-eżekuzzjoni ssir ibbażata fuq l-istat, fit-tul jew remota, dak l-approċċ jibda jfalli. Il-ġestjoni tas-sandbox innifsu—iċ-ċiklu tal-ħajja, l-istat u l-interfaċċi tiegħu, kif ukoll l-integrazzjoni tiegħu maċ-ċiklu tal-aġent—malajr issir problema separata tad-disinn tas-sistema. Din hija waħda mir-raġunijiet għaliex qed naraw aktar fornituri joffru ambjenti ġestiti għall-eżekuzzjoni tal-kodiċi, fosthom il-Container API u l-għodda shell ta’ OpenAI, Modal, Cloudflare, Daytona, E2B u oħrajn.
Din is-separazzjoni hija importanti għax l-eżekuzzjoni tal-kodiċi teħtieġ iżolament aktar b’saħħtu u kontroll aktar strett waqt it-tħaddim mill-bqija tal-harness. Fil-prattika, aġenti li jeżegwixxu l-kodiċi u jkunu implimentati ħażin jistgħu joħolqu tliet riskji kritiċi għan-negozju: infiq mhux ikkontrollat fuq il-komputazzjoni, azzjonijiet distruttivi fuq sistemi interni u esponiment ta’ informazzjoni sensittiva. B’konteniturizzazzjoni, iżolament u salvagwardji xierqa waqt it-tħaddim, dawn ir-riskji jistgħu jinżammu f’livell aċċettabbli għal implimentazzjonijiet fid-dinja reali.
Mod kif tħares lejha huwa li timmaġina li tagħti lill-aġent workspace issiġillat għalih, minflok iċ-ċwievet tal-uffiċċju kollu. Xorta jista’ jagħmel xogħol utli f’dak l-ispazju, iżda biss f’limiti definiti b’mod ċar. Tista’ tillimita kemm juża riżorsi tal-komputazzjoni, tirrestrinġi liema sistemi u fajls jista’ jaċċessa, u tikkontrolla x’informazzjoni tkun disponibbli għalih mill-bidu nett.
Dan ma jeliminax ir-riskju għalkollox, iżda jbiddel il-problema minn “aġent jiġri ħieles fl-infrastruttura tiegħek” għal “aġent li jopera f’ambjent ikkontrollat”. Jekk dan is-saff se jsir parti standard mis-sistemi ta’ aġenti, jeħtieġ appoġġ dirett fil-qafas innifsu. B’hekk, is-sandbox isir saff ta’ eżekuzzjoni modulari bi primitivi portabbli li l-iżviluppaturi jistgħu jadottaw malajr, jibdlu bejn il-fornituri u jespandu mingħajr ma joqogħdu kontinwament ibiddlu l-loġika tal-aġent.
Ladarba aġent jeżegwixxi l-kodiċi, is-sandbox innifsu jkun jeħtieġ orkestrazzjoni. Il-mixja minn prova tal-kunċett lokali għal eżekuzzjoni remota, diversi backends jew sessjonijiet fit-tul iżżid il-piż operattiv b’mod esponenzjali. Teħtieġ mod konsistenti kif toħloq l-ambjenti, twaqqafhom, tissospendihom u tkomplihom, tieħu snapshot tal-istat, terġa’ tikkonnettja aktar tard u timmaniġġja dan kollu fost diversi fornituri.
Xejn minn dan mhu attraenti bħala kunċett, iżda fil-prattika huwa importanti. Din hija preċiżament it-tip ta’ infrastruttura li ssir ta’ piż meta kull tim jerġa’ jibni pipeline aġentiku mill-bidu, speċjalment meta ma jkunx integrat fil-qafas tal-aġent…
Hawnhekk isir importanti appoġġ aħjar mill-qafas. Kellna aċċess bikri għall-OpenAI Agents SDK il-ġdid u użajnieh biex nibnu aġenti f’sandbox. L-aktar li spikka kien it-tibdil fl-enfasi arkitettonika: l-SDK jittratta l-eżekuzzjoni bħala saff ewlieni u mhux bħala għodda periferali. Fil-prattika, dan ifisser li tista’ tibda aġent f’sandbox, tieħu snapshot ta’ sandbox jew tkompli l-eżekuzzjoni b’inqas kodiċi (madwar sitt darbiet inqas f’xi testijiet tagħna), imbagħad tibdel il-backend mingħajr ma terġa’ tikteb il-loġika tal-aġent ta’ madwaru.
Din is-separazzjoni aktar ċara tar-responsabbiltajiet tippermetti lill-harness jibqa’ ffukat fuq ir-raġunament, il-kuntest u l-fluss tax-xogħol. Is-saff tal-eżekuzzjoni jista’ jiffoka fuq l-iżolament, il-portabbiltà u l-istat waqt it-tħaddim. Din l-astrazzjoni tagħmilha eħfef li jinbnew aġenti tal-ipprogrammar li jkunu aktar kapaċi u aktar faċli biex jiġu żviluppati, li jistgħu jaqilbu bejn eżekuzzjoni lokali u remota, jappoġġjaw kompiti itwal u jibdlu l-backend tal-eżekuzzjoni mingħajr ma jeħtieġu disinn mill-ġdid tas-sistema kollha.
Hekk kif aktar loġika marbuta mal-kompitu tgħaddi mill-harness għall-mudell, parti mill-kumplessità tas-sistema tgħaddi magħha—’l isfel, lejn is-saff tal-eżekuzzjoni. L-eżekuzzjoni tal-kodiċi u s-sandboxing issa huma kwistjonijiet arkitettoniċi ewlenin għas-sistemi aġentiċi, speċjalment għal kompiti miftuħa u dawk li jinvolvu ħafna pprogrammar. Issa huwa importanti daqstant li tfassal il-pipeline aġentiku daqskemm tfassal l-ambjent fejn l-aġent jista’ jaġixxi b’mod sikur, affidabbli u tul iż-żmien.
Għalhekk huma importanti l-astrazzjonijiet ta’ livell ogħla għall-eżekuzzjoni f’sandbox. L-OpenAI Agents SDK il-ġdid jimxi f’din id-direzzjoni billi jittratta l-eżekuzzjoni bħala saff modulari tas-sistema: portabbli bejn il-backends, kapaċi jżomm l-istat tul kompiti fit-tul u sempliċi biżżejjed biex jintuża mingħajr ma terġa’ tinbena l-istess infrastruttura għal kull konfigurazzjoni ġdida.
Il-lezzjoni usa’ hija li l-ġenerazzjoni li jmiss ta’ oqfsa tal-aġenti x’aktarx se tkun definita inqas minn kemm iżżid loġika ta’ orkestrazzjoni u aktar minn kemm tistruttura tajjeb l-ambjenti ta’ eżekuzzjoni li l-aġenti qed jiddependu dejjem aktar fuqhom.