Hệ thống điều khiển tinh gọn và các tác nhân có khả năng thực thi mã phù hợp hơn với những tác vụ mở, nơi cơ chế điều phối quá cứng nhắc có thể hạn chế hiệu năng của mô hình.
Do đó, việc thực thi mã và tạo môi trường cô lập hiện là những vấn đề kiến trúc cốt lõi của các hệ thống tác nhân.
Agents SDK giúp giảm độ phức tạp và lượng mã cần thiết để xây dựng các tác nhân thực thi mã tới 6 lần trong thử nghiệm của chúng tôi.
Trong một thời gian dài, tiến bộ của các hệ thống tác nhân đến từ việc cải thiện khả năng điều phối: câu lệnh tốt hơn, giao diện công cụ tốt hơn, quản lý ngữ cảnh hiệu quả hơn và luồng điều khiển chặt chẽ hơn. Tuy nhiên, khi các tác nhân lập trình ngày càng có năng lực hơn, cán cân này đang bắt đầu thay đổi.
Trong nhiều quy trình mở, nút thắt không còn nằm ở chính vòng lặp tác nhân mà ở lớp thực thi: môi trường cô lập nơi mô hình viết mã, chạy lệnh, kiểm tra kết quả và lặp lại quy trình. Khi ngày càng nhiều hoạt động suy luận ở cấp tác vụ chuyển vào môi trường đó, cơ chế điều phối xung quanh cần trở nên đơn giản hơn để mô hình phát huy toàn bộ năng lực.
Sự chuyển dịch đó chính là điều mà phiên bản Agents SDK mới hỗ trợ. Qua thử nghiệm trong giai đoạn truy cập sớm, chúng tôi nhận thấy rằng thay vì bổ sung một lớp logic khung mới, SDK này giúp lớp thực thi có tính mô-đun và khả năng kết hợp cao hơn, nhờ đó phần còn lại của hệ thống vẫn tinh gọn.
Trong lĩnh vực kỹ thuật hệ thống điều khiển, việc tinh giản hệ thống điều khiển xuống dạng hiệu quả tối thiểu đang trở thành xu hướng. Xét ở cấp độ tổng thể, hệ thống điều khiển là phần mềm bao quanh mô hình: lớp quản lý ngữ cảnh, công cụ, luồng điều khiển và vòng lặp phản hồi để mô hình có thể thực hiện công việc một cách đáng tin cậy.
Trong vài năm qua, nhiều cải thiện về hiệu năng của tác nhân đến từ việc củng cố lớp này. Công cụ tốt hơn, bộ nhớ và khả năng truy xuất tốt hơn, cách phân rã rõ ràng hơn cùng cơ chế điều phối chặt chẽ hơn thường giúp hệ thống đáng tin cậy và có năng lực hơn. Theo mô hình này, tiến bộ chủ yếu đồng nghĩa với việc mã hóa thêm logic tác vụ vào phần mềm bao quanh mô hình.
Mô hình đó hiện đang mất dần hiệu quả, ít nhất là với một nhóm tác vụ mở. Ngày càng nhiều dự án và bài nghiên cứu cho thấy hiệu năng không phải lúc nào cũng được cải thiện khi hệ thống điều khiển áp đặt nhiều quy tắc hơn. Trong lập trình có hỗ trợ, tác vụ kéo dài, sử dụng trình duyệt và tác vụ có ngữ cảnh dài, cùng một mô hình liên tục xuất hiện: khi mô hình đã đủ thông minh, việc ép quá nhiều cấu trúc tác vụ vào phần mềm bao quanh có thể trở thành rào cản thay vì lợi thế.
Vì vậy, vai trò của hệ thống điều khiển đang thay đổi. Thay vì cố dự đoán trước tác vụ thông qua cơ chế điều phối cứng nhắc, hệ thống điều khiển ngày càng đóng vai trò cung cấp một bề mặt thực thi gọn gàng: môi trường cô lập nơi mô hình có thể kiểm tra trạng thái, chạy mã, khắc phục lỗi và tự điều chỉnh phương pháp, đồng thời vẫn tuân theo các giao diện và biện pháp bảo vệ của hệ thống. Điều này gần với sự chuyển dịch mà Andrej Karpathy mô tả trong Kỹ sư phần mềm 3.0: một phần logic trước đây nằm trong phần mềm được chuyển lên cấp «câu lệnh».
Bài học ở đây không phải là các hệ thống tác nhân nên loại bỏ cấu trúc ở mọi nơi. Nhiều tác vụ vẫn hưởng lợi từ quy trình rõ ràng, các quy tắc kinh nghiệm và rào chắn mang tính xác định, nhất là khi tác vụ có phạm vi hẹp, khối lượng lớn hoặc tiêu chí thành công rõ ràng. Như chúng tôi đã lập luận trong bài viết trước về Quy tắc kinh nghiệm khi thiết kế hệ thống tác nhân, khả năng điều phối mạnh vẫn rất quan trọng khi một luồng logic đáng tin cậy vừa khả thi vừa đáng mong muốn.
Với các tác vụ mở, trọng tâm đang thay đổi. Thách thức giờ đây không còn nằm ở việc thiết kế các lớp điều phối ngày càng phức tạp, mà ở việc xây dựng môi trường thực thi đủ đơn giản, dễ quan sát và có tính mô-đun để mô hình hoạt động hiệu quả bên trong.
Khi một tác nhân có thể đọc tệp, viết mã, chạy lệnh shell và khởi chạy các tác vụ kéo dài, thách thức kỹ thuật sẽ thay đổi. Phần khó không còn chỉ là tối ưu hóa câu lệnh hay định tuyến công cụ. Việc tác nhân giờ đây hoạt động trên một hệ thống thực khiến các tác nhân này mạnh hơn đáng kể, nhưng cũng nhạy cảm hơn vì làm tăng đáng kể phạm vi rủi ro về an toàn và bảo mật. Ví dụ, một tác nhân có khả năng thực thi mã có thể thực hiện hành động gây hại nếu môi trường không được cách ly tốt (xem Sandbox Bench của AISI).
Do đó, việc tạo môi trường cô lập đang trở thành một vấn đề then chốt trong các khung tác nhân. Trong các hệ thống trước đây, việc thực thi thường được xem là một tiện ích bổ sung: một công cụ gắn thêm vào hệ thống điều khiển. Nhưng khi hoạt động thực thi bắt đầu có trạng thái, kéo dài hoặc diễn ra từ xa, cách tiếp cận đó dần bộc lộ hạn chế. Việc quản lý chính môi trường cô lập, vòng đời, trạng thái, giao diện và cách kết nối môi trường này với vòng lặp tác nhân nhanh chóng trở thành một bài toán thiết kế hệ thống riêng. Đó là một trong những lý do ngày càng nhiều nhà cung cấp đưa ra môi trường được quản lý dành cho việc thực thi mã, gồm Container API và công cụ shell của OpenAI, Modal, Cloudflare, Daytona, E2B, v.v.
Ranh giới này rất quan trọng vì việc thực thi mã đòi hỏi khả năng cách ly mạnh hơn và kiểm soát thời gian chạy chặt chẽ hơn so với phần còn lại của hệ thống điều khiển. Trên thực tế, các tác nhân thực thi mã được triển khai kém có thể gây ra ba rủi ro nghiêm trọng đối với doanh nghiệp: chi phí điện toán mất kiểm soát, hành động phá hoại hệ thống nội bộ và lộ thông tin nhạy cảm. Với biện pháp đóng gói trong vùng chứa, cách ly và bảo vệ thời gian chạy phù hợp, các rủi ro này có thể được kiểm soát ở mức chấp nhận được khi triển khai trong thực tế.
Có thể hình dung điều này như việc cấp cho tác nhân một không gian làm việc biệt lập riêng, thay vì trao chìa khóa của toàn bộ văn phòng. Tác nhân vẫn có thể làm việc hữu ích trong không gian đó, nhưng chỉ trong những ranh giới được xác định rõ ràng. Bạn có thể giới hạn tài nguyên điện toán mà tác nhân sử dụng, hạn chế những hệ thống và tệp mà tác nhân có thể truy cập, đồng thời kiểm soát thông tin được cung cấp ngay từ đầu.
Điều đó không loại bỏ hoàn toàn rủi ro, nhưng biến bài toán từ «một tác nhân tự do hoạt động trong hạ tầng của bạn» thành «một tác nhân hoạt động trong môi trường được kiểm soát». Nếu lớp này trở thành một phần tiêu chuẩn của hệ thống tác nhân, nó cần được hỗ trợ như một thành phần cốt lõi ngay trong khung. Nhờ đó, môi trường cô lập trở thành một lớp thực thi mô-đun với các thành phần cơ bản có tính di động, giúp nhà phát triển nhanh chóng áp dụng, chuyển đổi giữa các nhà cung cấp và mở rộng quy mô mà không phải liên tục làm lại logic tác nhân.
Khi một tác nhân thực thi mã, chính môi trường cô lập cũng cần được điều phối. Việc chuyển từ bản thử nghiệm ý tưởng cục bộ sang thực thi từ xa, nhiều phần phụ trợ hoặc các phiên kéo dài làm tăng mạnh gánh nặng vận hành. Bạn cần một phương thức nhất quán để tạo và dừng môi trường, tạm dừng rồi tiếp tục, chụp nhanh trạng thái, kết nối lại sau và quản lý tất cả hoạt động này trên nhiều nhà cung cấp.
Xét về ý tưởng, những việc này không hề hào nhoáng, nhưng trên thực tế lại rất quan trọng. Đây chính là loại hạ tầng sẽ trở nên phiền phức khi mỗi nhóm phải xây dựng lại quy trình tác nhân từ đầu, nhất là khi hạ tầng đó không được tích hợp vào khung tác nhân…
Đây là lúc khả năng hỗ trợ tốt hơn từ khung trở nên quan trọng. Chúng tôi đã được trải nghiệm sớm OpenAI Agents SDK mới và dùng SDK này để tự xây dựng các tác nhân trong môi trường cô lập. Điểm nổi bật là sự thay đổi về trọng tâm kiến trúc: SDK coi việc thực thi là một lớp cốt lõi thay vì một công cụ ngoại vi. Trên thực tế, điều đó có nghĩa là bạn có thể khởi tạo một tác nhân trong môi trường cô lập, chụp nhanh môi trường hoặc tiếp tục thực thi với lượng mã ít hơn (khoảng 6 lần trong một số thử nghiệm của chúng tôi), rồi chuyển phần phụ trợ mà không cần viết lại logic tác nhân xung quanh.
Việc phân tách trách nhiệm rõ ràng hơn này giúp hệ thống điều khiển tập trung vào suy luận, ngữ cảnh và quy trình làm việc. Lớp thực thi có thể tập trung vào khả năng cách ly, tính di động và trạng thái thời gian chạy. Lớp trừu tượng này giúp việc xây dựng các tác nhân lập trình vừa mạnh hơn vừa dễ phát triển hơn: có thể chuyển đổi giữa thực thi cục bộ và từ xa, hỗ trợ tác vụ kéo dài hơn và thay đổi phần phụ trợ thực thi mà không buộc phải thiết kế lại toàn bộ hệ thống.
Khi ngày càng nhiều logic cấp tác vụ chuyển từ hệ thống điều khiển vào mô hình, một phần độ phức tạp của hệ thống cũng chuyển theo, xuống lớp thực thi. Việc thực thi mã và tạo môi trường cô lập hiện là những vấn đề kiến trúc cốt lõi của hệ thống tác nhân, nhất là với các tác vụ thiên về lập trình và có tính mở. Thiết kế quy trình tác nhân giờ đây cũng quan trọng như thiết kế môi trường để tác nhân có thể hoạt động an toàn, đáng tin cậy và lâu dài.
Đó là lý do các lớp trừu tượng cấp cao hơn dành cho hoạt động thực thi trong môi trường cô lập lại quan trọng. Phiên bản OpenAI Agents SDK mới tiến theo hướng đó khi coi việc thực thi là một lớp mô-đun của hệ thống: có thể di chuyển giữa các phần phụ trợ, duy trì trạng thái xuyên suốt các tác vụ kéo dài và đủ đơn giản để sử dụng mà không phải xây dựng lại cùng một hạ tầng cho mỗi cấu hình mới.
Bài học rộng hơn là thế hệ khung tác nhân tiếp theo có thể sẽ không được định hình bởi lượng logic điều phối mà chúng bổ sung, mà bởi cách chúng tổ chức hiệu quả những môi trường thực thi mà các tác nhân ngày càng phụ thuộc vào.