हल्के हार्नेस और कोड चलाने वाले एजेंट खुले स्वरूप वाले कार्यों के लिए बेहतर हैं, क्योंकि अत्यधिक कठोर समन्वय मॉडल के प्रदर्शन को सीमित कर सकता है.
इस बदलाव के साथ, कोड निष्पादन और सैंडबॉक्सिंग अब एजेंट-आधारित प्रणालियों की संरचना के प्रमुख पहलू बन गए हैं.
हमारे परीक्षणों में एजेंट एसडीके ने कोड चलाने वाले एजेंट बनाने की जटिलता और आवश्यक कोड को छह गुना तक घटाया है.
लंबे समय तक एजेंट प्रणालियों में प्रगति बेहतर समन्वय से हुई: बेहतर प्रॉम्प्ट, टूल इंटरफ़ेस, संदर्भ प्रबंधन और अधिक सुदृढ़ नियंत्रण प्रवाह. लेकिन जैसे-जैसे कोडिंग एजेंट अधिक सक्षम हो रहे हैं, यह संतुलन बदलने लगा है.
कई खुले स्वरूप वाले कार्यप्रवाहों में अब एजेंट लूप नहीं, बल्कि निष्पादन परत बाधा बनती है: वह सैंडबॉक्स, जहां मॉडल कोड लिखता है, कमांड चलाता है, परिणामों की जांच करता है और बार-बार सुधार करता है. जैसे-जैसे कार्य-स्तरीय रीज़निंग इस परिवेश में पहुंचती है, आसपास के समन्वय को सरल बनाना ज़रूरी है, ताकि मॉडल अपनी पूरी क्षमता दिखा सके.
एजेंट एसडीके का नया संस्करण ठीक यही बदलाव संभव बनाता है. प्रारंभिक उपलब्धता के दौरान किए गए परीक्षणों में हमने पाया कि यह फ़्रेमवर्क तर्क की एक और परत जोड़ने के बजाय निष्पादन परत को अधिक मॉड्यूलर और संयोज्य बनाता है, जिससे बाकी प्रणाली हल्की बनी रह सकती है.
हार्नेस अभियांत्रिकी में हार्नेस को उसके न्यूनतम प्रभावी रूप तक सीमित करना अब प्रचलित हो गया है. व्यापक रूप से देखें तो हार्नेस मॉडल के आसपास का सॉफ़्टवेयर है: वह परत जो संदर्भ, टूल, नियंत्रण प्रवाह और फ़ीडबैक लूप संभालती है, ताकि मॉडल भरोसेमंद ढंग से काम कर सके.
पिछले कुछ वर्षों में एजेंट के प्रदर्शन में हुए कई सुधार इस परत को सुदृढ़ बनाने से आए हैं. बेहतर टूल, बेहतर स्मृति और पुनर्प्राप्ति, अधिक स्पष्ट कार्य-विभाजन तथा सुदृढ़ समन्वय ने अक्सर प्रणालियों को अधिक भरोसेमंद और सक्षम बनाया. इस प्रतिमान में प्रगति का अर्थ मुख्यतः मॉडल के आसपास के सॉफ़्टवेयर में अधिक कार्य-तर्क समाहित करना था.
कम से कम खुले स्वरूप वाले कुछ कार्यों के लिए अब यह रुझान कमज़ोर पड़ रहा है. परियोजनाओं और शोधपत्रों की बढ़ती संख्या बताती है कि हार्नेस को अधिक निर्देशात्मक बनाने से प्रदर्शन हमेशा बेहतर नहीं होता. सहायक कोडिंग, लंबे समय तक चलने वाले कार्यों, ब्राउज़र के उपयोग और लंबे संदर्भ वाले कार्यों में एक ही रुझान बार-बार दिखता है: मॉडल के पर्याप्त बुद्धिमान हो जाने पर आसपास के सॉफ़्टवेयर में बहुत अधिक कार्य-संरचना थोपना लाभ के बजाय बाधा बन सकता है.
इसलिए हार्नेस की भूमिका बदल रही है. कठोर समन्वय से कार्य का पहले ही अनुमान लगाने के बजाय हार्नेस अब अधिकाधिक एक स्वच्छ निष्पादन आधार देता है: ऐसा सैंडबॉक्स, जहां मॉडल स्थिति की जांच कर सकता है, कोड चला सकता है, त्रुटियों से उबर सकता है और प्रणाली के इंटरफ़ेस व सुरक्षा उपायों की सीमाओं में रहते हुए अपना तरीका बदल सकता है. यह उस बदलाव के करीब है जिसका वर्णन आंद्रेज कारपैथी ने सॉफ़्टवेयर इंजीनियर 3.0 में किया था: पहले सॉफ़्टवेयर में रहने वाला कुछ तर्क ऊपर उठकर “प्रॉम्प्ट” में चला जाता है.
इसका अर्थ यह नहीं है कि एजेंट प्रणालियों से हर जगह संरचना हटा दी जानी चाहिए. कई कार्यों में अब भी स्पष्ट कार्यप्रवाह, अनुभव-आधारित नियम और नियतात्मक सुरक्षा सीमाएं लाभदायक हैं, खासकर जब कार्य सीमित दायरे का हो, बड़ी मात्रा में किया जाता हो या उसकी सफलता का स्पष्ट मानदंड हो. जैसा कि हमने एजेंट-आधारित प्रणाली की रूपरेखा के लिए अनुभव-आधारित नियम पर अपनी पिछली पोस्ट में कहा था, जहां भरोसेमंद तर्क-प्रवाह संभव और वांछनीय हो, वहां सुदृढ़ समन्वय अब भी महत्वपूर्ण है.
खुले स्वरूप वाले कार्यों के लिए प्राथमिकता बदल रही है. अब चुनौती लगातार अधिक जटिल समन्वय परतें बनाने की नहीं, बल्कि ऐसे निष्पादन परिवेश बनाने की है जो सरल, निरीक्षण योग्य और इतने मॉड्यूलर हों कि मॉडल उनमें प्रभावी ढंग से काम कर सके.
जब कोई एजेंट फ़ाइलें पढ़ सकता है, कोड लिख सकता है, शेल कमांड चला सकता है और लंबे समय तक चलने वाले कार्य शुरू कर सकता है, तो अभियांत्रिकी चुनौती बदल जाती है. अब कठिनाई केवल प्रॉम्प्ट को बेहतर बनाने या टूल का मार्ग तय करने में नहीं है. वास्तविक प्रणाली पर काम करने से ये एजेंट कहीं अधिक शक्तिशाली हो जाते हैं, लेकिन सुरक्षा से जुड़ा क्षेत्र बढ़ने के कारण वे अधिक संवेदनशील भी बनते हैं. उदाहरण के लिए, कोड चला सकने वाला एजेंट अपने परिवेश के ठीक से पृथक न होने पर हानिकारक कार्रवाई कर सकता है. एआईएसआई का सैंडबॉक्स बेंच देखें.
इसलिए एजेंट फ़्रेमवर्क में सैंडबॉक्सिंग एक अत्यंत महत्वपूर्ण विषय बन रही है. पहले की प्रणालियों में निष्पादन को अक्सर एक अतिरिक्त सुविधा माना जाता था: हार्नेस पर जोड़ा गया एक टूल. लेकिन निष्पादन के स्थितिपूर्ण, लंबे समय तक चलने वाले या दूरस्थ बनते ही यह तरीका विफल होने लगता है. सैंडबॉक्स, उसके जीवनचक्र, स्थिति और इंटरफ़ेस का प्रबंधन तथा उसे एजेंट लूप से जोड़ना जल्द ही अपने आप में प्रणाली की रूपरेखा से जुड़ी समस्या बन जाता है. यही एक कारण है कि अब अधिक प्रदाता कोड निष्पादन के लिए प्रबंधित परिवेश दे रहे हैं. इनमें OpenAI का कंटेनर एपीआई और शेल टूल, मोडल, क्लाउडफ़्लेयर, डेटोना और ई2बी शामिल हैं.
यह सीमा महत्वपूर्ण है, क्योंकि कोड निष्पादन के लिए शेष हार्नेस की तुलना में अधिक सुदृढ़ पृथक्करण और रनटाइम पर कड़ा नियंत्रण चाहिए. व्यवहार में, खराब ढंग से लागू किए गए कोड-निष्पादक एजेंट कारोबार के लिए तीन गंभीर जोखिम पैदा कर सकते हैं: कंप्यूट पर अनियंत्रित खर्च, आंतरिक प्रणालियों पर विनाशकारी कार्रवाई और संवेदनशील जानकारी का खुलासा. उचित कंटेनरीकरण, पृथक्करण और रनटाइम सुरक्षा उपायों से इन जोखिमों को वास्तविक परिनियोजन के लिए स्वीकार्य स्तर तक सीमित किया जा सकता है.
इसे ऐसे समझें कि एजेंट को पूरे कार्यालय की चाबियां देने के बजाय उसका अपना सीलबंद वर्कस्पेस दिया जा रहा है. वह उस जगह में उपयोगी काम कर सकता है, लेकिन केवल स्पष्ट रूप से तय सीमाओं के भीतर. आप उसके कंप्यूट उपयोग की सीमा तय कर सकते हैं, यह सीमित कर सकते हैं कि वह किन प्रणालियों और फ़ाइलों को छू सके, और यह नियंत्रित कर सकते हैं कि उसे शुरुआत में कौन-सी जानकारी मिले.
इससे जोखिम पूरी तरह समाप्त नहीं होता, लेकिन समस्या “आपके बुनियादी ढांचे में खुला घूमता एजेंट” से बदलकर “नियंत्रित परिवेश में काम करता एजेंट” हो जाती है. यदि यह परत एजेंट प्रणालियों का मानक हिस्सा बनेगी, तो फ़्रेमवर्क में ही इसे प्रमुख सुविधा के रूप में समर्थन मिलना चाहिए. इससे सैंडबॉक्स स्थानांतरण योग्य मूल घटकों वाली मॉड्यूलर निष्पादन परत बन जाता है, जिसे विकासकर्ता तुरंत अपना सकते हैं, प्रदाताओं के बीच बदल सकते हैं और एजेंट तर्क पर बार-बार काम किए बिना विस्तारित कर सकते हैं.
एजेंट के कोड चलाते ही सैंडबॉक्स को भी समन्वय की आवश्यकता होती है. स्थानीय अवधारणा-प्रमाण से दूरस्थ निष्पादन, कई बैकएंड या लंबे सत्रों की ओर जाने पर संचालन का बोझ कई गुना बढ़ जाता है. आपको परिवेश बनाने, रोकने, विराम देने और फिर शुरू करने, स्थिति का स्नैपशॉट लेने, बाद में दोबारा जुड़ने तथा प्रदाताओं के बीच यह सब प्रबंधित करने का सुसंगत तरीका चाहिए.
इनमें से कुछ भी अवधारणा के स्तर पर आकर्षक नहीं है, लेकिन व्यवहार में यह महत्वपूर्ण है. जब हर टीम एजेंट-आधारित पाइपलाइन को शुरू से दोबारा बनाती है, तो ऐसा बुनियादी ढांचा परेशानी का कारण बनता है, खासकर जब वह एजेंट फ़्रेमवर्क में एकीकृत न हो…
यहीं फ़्रेमवर्क का बेहतर समर्थन महत्वपूर्ण हो जाता है. हमें नए OpenAI एजेंट एसडीके की प्रारंभिक उपलब्धता मिली और हमने उससे स्वयं सैंडबॉक्स वाले एजेंट बनाए. सबसे अलग बात संरचनात्मक प्राथमिकता में बदलाव थी: एसडीके निष्पादन को सहायक टूल के बजाय एक प्रमुख परत मानता है. व्यवहार में इसका अर्थ है कि आप कम कोड में सैंडबॉक्स वाला एजेंट शुरू कर सकते हैं, सैंडबॉक्स का स्नैपशॉट ले सकते हैं या निष्पादन फिर शुरू कर सकते हैं. हमारे कुछ परीक्षणों में लगभग छह गुना कम कोड लगा. इसके बाद आप आसपास का एजेंट तर्क दोबारा लिखे बिना बैकएंड बदल सकते हैं.
उत्तरदायित्वों का यह स्पष्ट विभाजन हार्नेस को रीज़निंग, संदर्भ और कार्यप्रवाह पर केंद्रित रहने देता है. निष्पादन परत पृथक्करण, स्थानांतरणीयता और रनटाइम स्थिति पर ध्यान दे सकती है. यह अमूर्तन ऐसे कोडिंग एजेंट बनाना आसान बनाता है जो अधिक सक्षम हों और जिन्हें विकसित करना भी सरल हो. वे स्थानीय तथा दूरस्थ निष्पादन के बीच जा सकते हैं, लंबे कार्यों का समर्थन कर सकते हैं और पूरी प्रणाली की रूपरेखा बदले बिना निष्पादन बैकएंड बदल सकते हैं.
जैसे-जैसे कार्य-स्तरीय तर्क हार्नेस से मॉडल में जाता है, प्रणाली की कुछ जटिलता भी उसके साथ नीचे निष्पादन परत में चली जाती है. कोड निष्पादन और सैंडबॉक्सिंग अब एजेंट-आधारित प्रणालियों की संरचना के प्रमुख पहलू हैं, खासकर कोडिंग-प्रधान और खुले स्वरूप वाले कार्यों के लिए. अब एजेंट-आधारित पाइपलाइन की रूपरेखा बनाना उतना ही महत्वपूर्ण है, जितना ऐसा परिवेश बनाना जिसमें एजेंट सुरक्षित, भरोसेमंद ढंग से और लंबे समय तक काम कर सके.
इसीलिए सैंडबॉक्स वाले निष्पादन से जुड़े उच्च-स्तरीय अमूर्तन महत्वपूर्ण हैं. नया OpenAI एजेंट एसडीके निष्पादन को प्रणाली की मॉड्यूलर परत मानकर इसी दिशा में बढ़ता है: इसे अलग-अलग बैकएंड पर ले जाया जा सकता है, यह लंबे कार्यों के दौरान स्थिति बनाए रखता है और इतना सरल है कि हर नई व्यवस्था के लिए वही बुनियादी ढांचा दोबारा बनाने की आवश्यकता नहीं पड़ती.
व्यापक निष्कर्ष यह है कि एजेंट फ़्रेमवर्क की अगली पीढ़ी की पहचान संभवतः इस बात से कम होगी कि वे कितना समन्वय तर्क जोड़ते हैं, और इससे अधिक कि वे एजेंटों के लिए लगातार महत्वपूर्ण होते जा रहे निष्पादन परिवेशों को कितनी अच्छी तरह संरचित करते हैं.