Οι λιτότεροι μηχανισμοί και οι πράκτορες που εκτελούν κώδικα ενδείκνυνται περισσότερο για εργασίες ανοιχτού τύπου, όπου η υπερβολικά άκαμπτη ενορχήστρωση μπορεί να περιορίσει την απόδοση του μοντέλου.
Έτσι, η εκτέλεση κώδικα και η απομόνωση σε sandbox αποτελούν πλέον βασικά αρχιτεκτονικά ζητήματα για τα συστήματα πρακτόρων.
Στις δοκιμές μας, το Agents SDK μείωσε έως και 6 φορές την πολυπλοκότητα και τον όγκο κώδικα που απαιτούνται για τη δημιουργία πρακτόρων που εκτελούν κώδικα.
Για μεγάλο διάστημα, η πρόοδος στα συστήματα πρακτόρων προερχόταν από τη βελτίωση της ενορχήστρωσης: καλύτερες προτροπές, διεπαφές εργαλείων, διαχείριση περιβάλλοντος και αυστηρότερη ροή ελέγχου. Καθώς όμως οι πράκτορες προγραμματισμού γίνονται ικανότεροι, αυτή η ισορροπία αρχίζει να αλλάζει.
Σε πολλές ροές εργασίας ανοιχτού τύπου, το σημείο συμφόρησης δεν είναι πλέον ο ίδιος ο βρόχος του πράκτορα, αλλά το επίπεδο εκτέλεσης: το sandbox όπου το μοντέλο γράφει κώδικα, εκτελεί εντολές, εξετάζει αποτελέσματα και επαναλαμβάνει τη διαδικασία. Καθώς περισσότερη συλλογιστική σε επίπεδο εργασίας μεταφέρεται σε αυτό το περιβάλλον, η ενορχήστρωση που το περιβάλλει πρέπει να απλοποιηθεί, ώστε το μοντέλο να αξιοποιεί πλήρως τις δυνατότητές του.
Αυτή ακριβώς τη μετάβαση καθιστά δυνατή η νέα έκδοση του Agents SDK. Από τις δοκιμές μας κατά την πρώιμη πρόσβαση διαπιστώσαμε ότι, αντί να προσθέτει ακόμη ένα επίπεδο λογικής πλαισίου, καθιστά το επίπεδο εκτέλεσης πιο αρθρωτό και συνδυάσιμο, ώστε το υπόλοιπο σύστημα να παραμένει λιτό.
Στη μηχανική μηχανισμών έχει γίνει τάση να περιορίζεται ο μηχανισμός στην ελάχιστη αποτελεσματική μορφή του. Σε γενικές γραμμές, ο μηχανισμός είναι το λογισμικό γύρω από το μοντέλο: το επίπεδο που διαχειρίζεται το περιβάλλον, τα εργαλεία, τη ροή ελέγχου και τους βρόχους ανατροφοδότησης, ώστε το μοντέλο να εκτελεί εργασίες αξιόπιστα.
Τα τελευταία χρόνια, πολλές βελτιώσεις στην απόδοση των πρακτόρων προήλθαν από την ενίσχυση αυτού του επιπέδου. Καλύτερα εργαλεία, καλύτερη μνήμη και ανάκτηση, σαφέστερη ανάλυση σε επιμέρους βήματα και αυστηρότερη ενορχήστρωση συχνά έκαναν τα συστήματα πιο αξιόπιστα και ικανά. Σε αυτό το πρότυπο, πρόοδος σήμαινε κυρίως την ενσωμάτωση περισσότερης λογικής της εργασίας στο λογισμικό γύρω από το μοντέλο.
Αυτό το πρότυπο εξασθενεί πλέον, τουλάχιστον για μια κατηγορία εργασιών ανοιχτού τύπου. Όλο και περισσότερα έργα και ερευνητικές δημοσιεύσεις δείχνουν ότι η απόδοση δεν βελτιώνεται πάντα όταν ο μηχανισμός γίνεται πιο κανονιστικός. Στον υποβοηθούμενο προγραμματισμό, στις εργασίες μεγάλης διάρκειας, στη χρήση προγράμματος περιήγησης και στις εργασίες μεγάλου περιβάλλοντος, εμφανίζεται επανειλημμένα το ίδιο πρότυπο: όταν το μοντέλο διαθέτει επαρκή νοημοσύνη, η επιβολή υπερβολικά πολλής δομής εργασίας μέσω του περιβάλλοντος λογισμικού μπορεί να λειτουργήσει ως περιορισμός και όχι ως πλεονέκτημα.
Ο ρόλος του μηχανισμού αλλάζει, επομένως. Αντί να προσπαθεί να προβλέψει εκ των προτέρων την εργασία μέσω άκαμπτης ενορχήστρωσης, ο μηχανισμός παρέχει όλο και περισσότερο μια καθαρή επιφάνεια εκτέλεσης: ένα sandbox όπου το μοντέλο μπορεί να εξετάζει την κατάσταση, να εκτελεί κώδικα, να ανακάμπτει από σφάλματα και να προσαρμόζει την προσέγγισή του, παραμένοντας εντός των ορίων των διεπαφών και των δικλίδων ασφαλείας του συστήματος. Αυτό προσεγγίζει τη μετάβαση που περιέγραψε ο Andrej Karpathy στο Software Engineer 3.0: μέρος της λογικής που προηγουμένως βρισκόταν στο λογισμικό μεταφέρεται σε ανώτερο επίπεδο, στην «προτροπή».
Το συμπέρασμα δεν είναι ότι τα συστήματα πρακτόρων πρέπει να καταργήσουν κάθε δομή. Πολλές εργασίες εξακολουθούν να ωφελούνται από σαφείς ροές εργασίας, ευρετικές μεθόδους και ντετερμινιστικές δικλίδες ασφαλείας, ιδίως όταν έχουν στενό πεδίο, μεγάλο όγκο ή σαφές κριτήριο επιτυχίας. Όπως υποστηρίξαμε στην προηγούμενη δημοσίευσή μας για τις Ευρετικές μεθόδους σχεδιασμού συστημάτων πρακτόρων, η ισχυρή ενορχήστρωση εξακολουθεί να έχει σημασία όταν μια αξιόπιστη λογική ροή είναι εφικτή και επιθυμητή.
Στις εργασίες ανοιχτού τύπου, η έμφαση μετατοπίζεται. Η πρόκληση δεν είναι τόσο ο σχεδιασμός ολοένα πιο περίτεχνων επιπέδων ενορχήστρωσης, όσο η δημιουργία περιβαλλόντων εκτέλεσης που είναι αρκετά απλά, παρατηρήσιμα και αρθρωτά ώστε το μοντέλο να λειτουργεί αποτελεσματικά μέσα σε αυτά.
Όταν ένας πράκτορας μπορεί να διαβάζει αρχεία, να γράφει κώδικα, να εκτελεί εντολές κελύφους και να εκκινεί εργασίες μεγάλης διάρκειας, η μηχανική πρόκληση αλλάζει. Το δύσκολο μέρος δεν είναι πλέον μόνο η βελτιστοποίηση της προτροπής ή η δρομολόγηση εργαλείων. Το γεγονός ότι ο πράκτορας λειτουργεί πλέον σε πραγματικό σύστημα καθιστά αυτούς τους πράκτορες πολύ ισχυρότερους, αλλά και πιο ευαίσθητους, καθώς διευρύνει την επιφάνεια ασφάλειας και προστασίας. Για παράδειγμα, ένας πράκτορας που μπορεί να εκτελεί κώδικα ενδέχεται να προβεί σε επιβλαβείς ενέργειες αν το περιβάλλον του δεν είναι επαρκώς απομονωμένο (βλ. το Sandbox Bench του AISI).
Η απομόνωση σε sandbox καθίσταται, επομένως, κρίσιμο ζήτημα στα πλαίσια ανάπτυξης πρακτόρων. Σε παλαιότερα συστήματα, η εκτέλεση αντιμετωπιζόταν συχνά ως πρόσθετο: ένα εργαλείο προσαρτημένο στον μηχανισμό. Όταν όμως η εκτέλεση αποκτά κατάσταση, διαρκεί πολύ ή γίνεται απομακρυσμένα, αυτή η προσέγγιση παύει να λειτουργεί. Η διαχείριση του ίδιου του sandbox —του κύκλου ζωής, της κατάστασης, των διεπαφών και της σύνδεσής του με τον βρόχο του πράκτορα— μετατρέπεται γρήγορα σε αυτοτελές πρόβλημα σχεδιασμού συστήματος. Αυτός είναι ένας από τους λόγους για τους οποίους όλο και περισσότεροι πάροχοι προσφέρουν πλέον διαχειριζόμενα περιβάλλοντα εκτέλεσης κώδικα, όπως το Container API και το εργαλείο shell της OpenAI, καθώς και οι Modal, Cloudflare, Daytona, E2B κ.ά.
Αυτός ο διαχωρισμός έχει σημασία, επειδή η εκτέλεση κώδικα απαιτεί ισχυρότερη απομόνωση και αυστηρότερο έλεγχο κατά την εκτέλεση από τον υπόλοιπο μηχανισμό. Στην πράξη, οι κακώς υλοποιημένοι πράκτορες που εκτελούν κώδικα μπορούν να δημιουργήσουν τρεις κρίσιμους επιχειρηματικούς κινδύνους: ανεξέλεγκτες δαπάνες υπολογιστικών πόρων, καταστροφικές ενέργειες σε εσωτερικά συστήματα και έκθεση ευαίσθητων πληροφοριών. Με κατάλληλη χρήση κοντέινερ, απομόνωση και δικλίδες ασφαλείας κατά την εκτέλεση, αυτοί οι κίνδυνοι μπορούν να περιοριστούν σε επίπεδο αποδεκτό για πραγματικές υλοποιήσεις.
Μπορείτε να το σκεφτείτε σαν να δίνετε στον πράκτορα τον δικό του σφραγισμένο χώρο εργασίας, αντί για τα κλειδιά ολόκληρου του γραφείου. Μπορεί να συνεχίσει να εκτελεί χρήσιμες εργασίες μέσα σε αυτόν τον χώρο, αλλά μόνο εντός σαφώς καθορισμένων ορίων. Μπορείτε να περιορίσετε τους υπολογιστικούς πόρους που χρησιμοποιεί, τα συστήματα και τα αρχεία στα οποία έχει πρόσβαση, καθώς και τις πληροφορίες που είναι εξαρχής διαθέσιμες σε αυτόν.
Αυτό δεν εξαλείφει πλήρως τον κίνδυνο, αλλά μετατρέπει το πρόβλημα από «έναν πράκτορα ανεξέλεγκτο στην υποδομή σας» σε «έναν πράκτορα που λειτουργεί σε ελεγχόμενο περιβάλλον». Αν αυτό το επίπεδο πρόκειται να γίνει καθιερωμένο μέρος των συστημάτων πρακτόρων, χρειάζεται εγγενή υποστήριξη από το ίδιο το πλαίσιο. Έτσι, το sandbox γίνεται ένα αρθρωτό επίπεδο εκτέλεσης με φορητά δομικά στοιχεία, τα οποία οι προγραμματιστές μπορούν να υιοθετήσουν γρήγορα, να εναλλάσσουν μεταξύ παρόχων και να κλιμακώνουν χωρίς να ανασχεδιάζουν συνεχώς τη λογική του πράκτορα.
Όταν ένας πράκτορας εκτελεί κώδικα, το ίδιο το sandbox χρειάζεται ενορχήστρωση. Η μετάβαση από ένα τοπικό πρωτότυπο σε απομακρυσμένη εκτέλεση, πολλαπλά συστήματα υποστήριξης ή συνεδρίες μεγάλης διάρκειας αυξάνει εκθετικά τον λειτουργικό φόρτο. Χρειάζεστε έναν ενιαίο τρόπο για να δημιουργείτε και να τερματίζετε περιβάλλοντα, να τα θέτετε σε παύση και να τα συνεχίζετε, να αποθηκεύετε στιγμιότυπα κατάστασης, να επανασυνδέεστε αργότερα και να τα διαχειρίζεστε όλα αυτά σε διαφορετικούς παρόχους.
Τίποτα από αυτά δεν είναι ιδιαίτερα συναρπαστικό ως ιδέα, αλλά έχει σημασία στην πράξη. Πρόκειται ακριβώς για το είδος υποδομής που γίνεται επίπονο όταν κάθε ομάδα δημιουργεί εξαρχής μια διοχέτευση πρακτόρων, ιδίως όταν αυτή δεν είναι ενσωματωμένη στο πλαίσιο πρακτόρων…
Εδώ αποκτά σημασία η καλύτερη υποστήριξη από το πλαίσιο. Είχαμε πρώιμη πρόσβαση στο νεότερο OpenAI Agents SDK και το χρησιμοποιήσαμε για να δημιουργήσουμε οι ίδιοι πράκτορες σε sandbox. Αυτό που ξεχώρισε ήταν η μετατόπιση της αρχιτεκτονικής έμφασης: το SDK αντιμετωπίζει την εκτέλεση ως βασικό επίπεδο και όχι ως περιφερειακό εργαλείο. Στην πράξη, αυτό σημαίνει ότι μπορείτε με λιγότερο κώδικα να εκκινήσετε έναν πράκτορα σε sandbox, να αποθηκεύσετε στιγμιότυπο ενός sandbox ή να συνεχίσετε την εκτέλεση —έως και περίπου 6 φορές λιγότερο σε ορισμένες δοκιμές μας— και έπειτα να αλλάξετε σύστημα υποστήριξης χωρίς να ξαναγράψετε την περιβάλλουσα λογική του πράκτορα.
Αυτός ο σαφέστερος διαχωρισμός αρμοδιοτήτων επιτρέπει στον μηχανισμό να παραμένει επικεντρωμένος στη συλλογιστική, το περιβάλλον και τη ροή εργασίας. Το επίπεδο εκτέλεσης μπορεί να επικεντρώνεται στην απομόνωση, τη φορητότητα και την κατάσταση κατά την εκτέλεση. Αυτή η αφαίρεση διευκολύνει τη δημιουργία πρακτόρων προγραμματισμού που είναι ικανότεροι και εξελίσσονται ευκολότερα, μπορούν να μεταβαίνουν μεταξύ τοπικής και απομακρυσμένης εκτέλεσης, να υποστηρίζουν εργασίες μεγαλύτερης διάρκειας και να αλλάζουν συστήματα υποστήριξης εκτέλεσης χωρίς να απαιτείται ανασχεδιασμός ολόκληρου του συστήματος.
Καθώς περισσότερη λογική σε επίπεδο εργασίας μεταφέρεται από τον μηχανισμό στο μοντέλο, μέρος της πολυπλοκότητας του συστήματος τη συνοδεύει και μετατοπίζεται προς το επίπεδο εκτέλεσης. Η εκτέλεση κώδικα και η απομόνωση σε sandbox αποτελούν πλέον βασικά αρχιτεκτονικά ζητήματα για τα συστήματα πρακτόρων, ιδίως σε εργασίες με έντονο προγραμματιστικό χαρακτήρα ή ανοιχτού τύπου. Ο σχεδιασμός της διοχέτευσης πρακτόρων είναι πλέον εξίσου σημαντικός με τον σχεδιασμό του περιβάλλοντος στο οποίο ο πράκτορας μπορεί να ενεργεί με ασφάλεια, αξιοπιστία και σε βάθος χρόνου.
Γι’ αυτό έχουν σημασία οι αφαιρέσεις υψηλότερου επιπέδου γύρω από την εκτέλεση σε sandbox. Το νεότερο OpenAI Agents SDK κινείται προς αυτή την κατεύθυνση, αντιμετωπίζοντας την εκτέλεση ως αρθρωτό επίπεδο του συστήματος: φορητό μεταξύ συστημάτων υποστήριξης, με διατήρηση κατάστασης σε εργασίες μεγάλης διάρκειας και αρκετά απλό στη χρήση ώστε να μη χρειάζεται να αναδημιουργείται η ίδια υποδομή για κάθε νέα διαμόρφωση.
Το γενικότερο συμπέρασμα είναι ότι η επόμενη γενιά πλαισίων πρακτόρων πιθανότατα θα καθορίζεται λιγότερο από την ποσότητα της λογικής ενορχήστρωσης που προσθέτουν και περισσότερο από το πόσο καλά οργανώνουν τα περιβάλλοντα εκτέλεσης από τα οποία εξαρτώνται όλο και περισσότερο οι πράκτορες.