कमी गुंतागुंतीचे हार्नेस आणि कोड चालवणारे एजंट मुक्त स्वरूपाच्या कामांसाठी अधिक योग्य असतात, कारण अतिशय कडक समन्वयामुळे मॉडेलची कामगिरी मर्यादित होऊ शकते.
त्यामुळे कोड कार्यान्वयन आणि सँडबॉक्सिंग हे आता एजंट-आधारित प्रणालींच्या रचनेतील मुख्य मुद्दे बनले आहेत.
आमच्या चाचण्यांमध्ये, एजंट एसडीकेमुळे कोड चालवणारे एजंट तयार करण्यासाठी लागणारी गुंतागुंत आणि कोड सहापट कमी झाला.
दीर्घकाळ एजंट प्रणालींची प्रगती समन्वय सुधारण्यातून झाली: अधिक परिणामकारक प्रॉम्प्ट, अधिक चांगले साधन आंतरफलक, संदर्भ व्यवस्थापन आणि अधिक काटेकोर नियंत्रण प्रवाह. मात्र कोडिंग एजंट अधिक सक्षम होत असल्याने हे संतुलन बदलू लागले आहे.
मुक्त स्वरूपाच्या अनेक कार्यप्रवाहांमध्ये आता एजंटचे आवर्तन नव्हे, तर कार्यान्वयन स्तर अडथळा ठरतो: म्हणजे मॉडेल जिथे कोड लिहिते, आदेश चालवते, निष्पत्ती तपासते आणि पुन्हा प्रयत्न करते तो सँडबॉक्स. कामाशी संबंधित अधिक रीझनिंग या वातावरणात होत असल्याने, मॉडेलला आपली पूर्ण क्षमता वापरता यावी यासाठी सभोवतालचा समन्वय अधिक सोपा करणे आवश्यक आहे.
नेमका हाच बदल एजंट एसडीकेच्या नव्या आवृत्तीमुळे शक्य होतो. प्रारंभिक प्रवेशादरम्यान केलेल्या चाचण्यांत आम्हाला आढळले की, चौकट-तर्काचा आणखी एक स्तर जोडण्याऐवजी ही आवृत्ती कार्यान्वयन स्तर अधिक घटकाधारित आणि संयोज्य बनवते, त्यामुळे उर्वरित प्रणाली साधी राहू शकते.
हार्नेस अभियांत्रिकीमध्ये हार्नेसचे स्वरूप किमान आवश्यक घटकांपुरते मर्यादित ठेवण्याचा कल वाढला आहे. व्यापक अर्थाने, हार्नेस म्हणजे मॉडेलभोवती असलेले सॉफ्टवेअर: मॉडेलला विश्वासार्हपणे काम करता यावे म्हणून संदर्भ, साधने, नियंत्रण प्रवाह आणि अभिप्राय आवर्तने व्यवस्थापित करणारा स्तर.
गेल्या काही वर्षांत एजंटच्या कामगिरीतील अनेक सुधारणा हा स्तर बळकट केल्यामुळे झाल्या. अधिक चांगली साधने, स्मृती आणि माहिती पुनर्प्राप्ती, अधिक स्पष्ट कार्यविभाजन आणि काटेकोर समन्वय यांमुळे प्रणाली अनेकदा अधिक विश्वासार्ह व सक्षम झाल्या. या पद्धतीत प्रगतीचा अर्थ प्रामुख्याने मॉडेलभोवतीच्या सॉफ्टवेअरमध्ये कामाचे अधिक तर्क समाविष्ट करणे असा होता.
मुक्त स्वरूपाच्या किमान काही प्रकारच्या कामांसाठी हा कल आता कमी होत आहे. हार्नेस अधिक निर्देशात्मक केल्याने कामगिरी नेहमीच सुधारते असे नाही, हे प्रकल्प आणि संशोधनपत्रांची वाढती संख्या दर्शवते. सहाय्यित कोडिंग, दीर्घकाळ चालणारी कामे, ब्राउझरचा वापर आणि दीर्घ संदर्भाची कामे यांत एकच नमुना वारंवार दिसतो: मॉडेल पुरेसे बुद्धिमान झाल्यावर सभोवतालच्या सॉफ्टवेअरमध्ये कामाची अतिरिक्त संरचना लादणे फायद्याऐवजी मर्यादा ठरू शकते.
त्यामुळे हार्नेसची भूमिका बदलत आहे. कडक समन्वयाद्वारे कामाचे आगाऊ नियोजन करण्याऐवजी हार्नेस आता स्वच्छ कार्यान्वयन पृष्ठभाग पुरवण्याचे काम अधिकाधिक करत आहे: असा सँडबॉक्स जिथे मॉडेल स्थिती तपासू शकते, कोड चालवू शकते, त्रुटींमधून सावरू शकते आणि प्रणालीच्या आंतरफलक व सुरक्षा उपायांच्या मर्यादेत राहून स्वतःची पद्धत बदलू शकते. हा बदल आंद्रेज कारपॅथी यांनी सॉफ्टवेअर अभियंता 3.0 मध्ये वर्णन केलेल्या बदलासारखा आहे: पूर्वी सॉफ्टवेअरमध्ये असलेला काही तर्क वरच्या स्तरावरील “प्रॉम्प्ट”मध्ये जातो.
याचा अर्थ एजंट प्रणालींनी सर्वत्र संरचना काढून टाकावी असा नाही. अनेक कामांना अजूनही स्पष्ट कार्यप्रवाह, अनुभवाधारित नियम आणि निर्धारक सुरक्षामर्यादांचा फायदा होतो, विशेषतः कामाची व्याप्ती मर्यादित किंवा प्रमाण मोठे असेल अथवा यशाचा निकष स्पष्ट असेल तेव्हा. एजंट-आधारित प्रणाली रचनेसाठी अनुभवाधारित नियम या मागील लेखात आम्ही मांडल्याप्रमाणे, विश्वासार्ह तर्कप्रवाह शक्य आणि अपेक्षित असेल तेव्हा सक्षम समन्वय अजूनही महत्त्वाचा असतो.
मुक्त स्वरूपाच्या कामांसाठी मात्र भर बदलत आहे. आव्हान आता अधिकाधिक गुंतागुंतीचे समन्वय स्तर तयार करण्याचे नसून, मॉडेलला प्रभावीपणे काम करता यावे इतके सोपे, निरीक्षणक्षम आणि घटकाधारित कार्यान्वयन वातावरण उभारण्याचे आहे.
एजंट फायली वाचू व कोड लिहू शकतो, शेल आदेश चालवू शकतो आणि दीर्घकाळ चालणारी कामे सुरू करू शकतो, तेव्हा अभियांत्रिकी आव्हान बदलते. आता केवळ प्रॉम्प्टचे अनुकूलन किंवा साधनांचे मार्गनिर्धारण हा कठीण भाग राहिलेला नाही. एजंट आता प्रत्यक्ष प्रणालीवर काम करत असल्यामुळे हे एजंट बरेच अधिक शक्तिशाली झाले आहेत; मात्र सुरक्षा आणि संरक्षणाचा व्याप वाढल्याने ते अधिक संवेदनशीलही झाले आहेत. उदाहरणार्थ, वातावरण योग्य प्रकारे विलग केलेले नसेल तर कोड चालवू शकणारा एजंट हानिकारक कृती करू शकतो. AISI चे सँडबॉक्स बेंच पाहा.
त्यामुळे एजंट चौकटींमध्ये सँडबॉक्सिंग हा अत्यंत महत्त्वाचा मुद्दा बनत आहे. पूर्वीच्या प्रणालींमध्ये कार्यान्वयनाकडे अनेकदा अतिरिक्त जोड म्हणून पाहिले जाई: हार्नेसला जोडलेले एक साधन. मात्र कार्यान्वयन स्थितीपूर्ण, दीर्घकाळ चालणारे किंवा दूरस्थ झाले की ही पद्धत अपुरी पडू लागते. सँडबॉक्स, त्याचे जीवनचक्र, स्थिती आणि आंतरफलक व्यवस्थापित करणे तसेच ते एजंट आवर्तनाशी जोडणे ही लवकरच स्वतंत्र प्रणाली-रचना समस्या बनते. म्हणूनच आता अधिकाधिक प्रदाते कोड कार्यान्वयनासाठी व्यवस्थापित वातावरणे देत आहेत. त्यांत OpenAI चे कंटेनर एपीआय आणि शेल साधन, Modal, Cloudflare, Daytona आणि E2B यांचा समावेश आहे.
ही सीमारेषा महत्त्वाची आहे, कारण कोड कार्यान्वयनासाठी उर्वरित हार्नेसपेक्षा अधिक सक्षम विलगीकरण आणि अधिक काटेकोर कार्यकालीन नियंत्रण आवश्यक असते. प्रत्यक्ष वापरात, सदोष अंमलबजावणी केलेले कोड-कार्यान्वयन एजंट व्यवसायासाठी तीन गंभीर धोके निर्माण करू शकतात: संगणकीय खर्चावरील नियंत्रण सुटणे, अंतर्गत प्रणालींवर विध्वंसक कृती होणे आणि संवेदनशील माहिती उघड होणे. योग्य कंटेनरीकरण, विलगीकरण आणि कार्यकालीन सुरक्षा उपायांद्वारे हे धोके प्रत्यक्ष उपयोजनासाठी स्वीकारार्ह पातळीवर मर्यादित करता येतात.
हे समजून घेण्यासाठी एजंटला संपूर्ण कार्यालयाच्या चाव्या देण्याऐवजी त्याचा स्वतःचा बंदिस्त वर्कस्पेस दिल्याची कल्पना करा. त्या जागेत तो उपयुक्त काम करू शकतो, पण केवळ स्पष्टपणे ठरवलेल्या मर्यादांमध्ये. तो किती संगणकीय क्षमता वापरू शकतो यावर मर्यादा घालता येते, कोणत्या प्रणाली आणि फायली वापरता येतील हे ठरवता येते आणि सुरुवातीपासूनच त्याला कोणती माहिती उपलब्ध असेल हे नियंत्रित करता येते.
यामुळे धोका पूर्णपणे नाहीसा होत नाही, पण समस्या “तुमच्या पायाभूत सुविधांमध्ये मोकाट फिरणारा एजंट” याऐवजी “नियंत्रित वातावरणात काम करणारा एजंट” अशी बदलते. हा स्तर एजंट प्रणालींचा प्रमाणित भाग होणार असेल, तर चौकटीतच त्याला प्रमुख घटक म्हणून समर्थन मिळणे आवश्यक आहे. यामुळे सँडबॉक्स हा सहज वापरता येणाऱ्या, प्रदात्यांनुसार बदलता येणाऱ्या आणि एजंटचा तर्क सतत नव्याने न लिहिता विस्तारता येणाऱ्या पोर्टेबल मूलघटकांचा घटकाधारित कार्यान्वयन स्तर बनतो.
एजंट कोड चालवू लागल्यावर सँडबॉक्सचाही समन्वय करावा लागतो. स्थानिक संकल्पना-प्रमाणातून दूरस्थ कार्यान्वयन, अनेक पार्श्वप्रणाली किंवा दीर्घकाळ चालणाऱ्या सत्रांकडे गेल्यावर परिचालन भार झपाट्याने वाढतो. वातावरणे तयार करणे, थांबवणे, विराम देऊन पुन्हा सुरू करणे, स्थितीची प्रतिमा जतन करणे, नंतर पुन्हा जोडणे आणि हे सर्व विविध प्रदात्यांवर व्यवस्थापित करणे यासाठी सुसंगत पद्धत आवश्यक असते.
यापैकी काहीही संकल्पनेच्या दृष्टीने आकर्षक नसले, तरी प्रत्यक्ष वापरात ते महत्त्वाचे आहे. विशेषतः एजंट चौकटीत एकत्रीकरण नसताना, प्रत्येक संघाने एजंट-आधारित प्रक्रिया सुरुवातीपासून पुन्हा उभारल्यास अशा प्रकारच्या पायाभूत सुविधा त्रासदायक ठरतात…
इथेच चौकटीचे अधिक चांगले समर्थन महत्त्वाचे ठरते. आम्हाला नवीन OpenAI एजंट एसडीकेचा प्रारंभिक प्रवेश मिळाला आणि त्याचा वापर करून आम्ही स्वतः सँडबॉक्समधील एजंट तयार केले. वास्तुरचनेतील भर बदललेला विशेष जाणवला: एसडीके कार्यान्वयनाकडे दुय्यम साधन म्हणून नव्हे, तर प्रमुख स्तर म्हणून पाहतो. प्रत्यक्षात याचा अर्थ, कमी कोडमध्ये सँडबॉक्समधील एजंट सुरू करता येतो, सँडबॉक्सची स्थिती-प्रतिमा जतन करता येते किंवा कार्यान्वयन पुन्हा सुरू करता येते. आमच्या काही चाचण्यांत सुमारे सहापट कमी कोड लागला. त्यानंतर सभोवतालचा एजंट तर्क पुन्हा न लिहिता पार्श्वप्रणाली बदलता येते.
जबाबदाऱ्यांचे हे अधिक स्पष्ट विभाजन हार्नेसला रीझनिंग, संदर्भ आणि कार्यप्रवाहावर लक्ष केंद्रित करू देते. कार्यാന्वयन स्तर विलगीकरण, सुवाह्यता आणि कार्यकालीन स्थितीवर लक्ष केंद्रित करू शकतो. या संकल्पनात्मक स्तरामुळे अधिक सक्षम आणि विकसित करायला सोपे असे कोडिंग एजंट तयार करता येतात. ते स्थानिक व दूरस्थ कार्यान्वयनादरम्यान हलू शकतात, अधिक काळ चालणाऱ्या कामांना समर्थन देऊ शकतात आणि संपूर्ण प्रणालीची पुनर्रचना न करता कार्यान्वयन पार्श्वप्रणाली बदलू शकतात.
कामाशी संबंधित अधिक तर्क हार्नेसमधून मॉडेलमध्ये जात असताना, प्रणालीतील काही गुंतागुंतही त्यासोबत खालच्या कार्यान्वयन स्तराकडे जाते. विशेषतः मोठ्या प्रमाणावर कोडिंग असलेल्या आणि मुक्त स्वरूपाच्या कामांसाठी, कोड कार्यान्वयन व सँडबॉक्सिंग हे आता एजंट-आधारित प्रणालींच्या रचनेतील मुख्य मुद्दे आहेत. एजंट-आधारित प्रक्रिया तयार करण्याइतकेच, एजंट सुरक्षितपणे, विश्वासार्हपणे आणि दीर्घकाळ काम करू शकेल असे वातावरण तयार करणेही आता महत्त्वाचे आहे.
म्हणूनच सँडबॉक्समधील कार्यान्वयनाभोवतीचे उच्च-स्तरीय संकल्पनात्मक स्तर महत्त्वाचे ठरतात. नवीन OpenAI एजंट एसडीके कार्यान्वयनाला प्रणालीचा घटकाधारित स्तर मानून त्या दिशेने वाटचाल करतो: विविध पार्श्वप्रणालींवर सुवाह्य, दीर्घकाळ चालणाऱ्या कामांमध्ये स्थितीपूर्ण आणि प्रत्येक नव्या मांडणीसाठी त्याच पायाभूत सुविधा पुन्हा उभाराव्या लागू नयेत इतका वापरण्यास सोपा.
व्यापक निष्कर्ष असा की, एजंट चौकटींची पुढील पिढी किती समन्वय तर्क जोडते यापेक्षा एजंट ज्यांवर अधिकाधिक अवलंबून आहेत त्या कार्यान्वयन वातावरणांची ती किती चांगली रचना करते, यावरून तिची ओळख ठरेल.