DeepSeek ra mắt DSec: Hạ tầng sandbox quy mô lớn phục vụ huấn luyện AI tác tử

DeepSeek vừa công bố một báo cáo kỹ thuật về DeepSeek Elastic Compute (DSec) — một nền tảng sandbox cấp sản xuất được thiết kế riêng cho việc huấn luyện và đánh giá các mô hình ngôn ngữ lớn (LLM) dưới dạng tác tử (agentic). Đây là một trong những hạ tầng quan trọng đứng sau quá trình huấn luyện AI tác tử ở quy mô công nghiệp.

Khác với các mô hình AI thông thường chỉ cần dữ liệu văn bản, AI tác tử cần được đặt trong môi trường thực thi có trạng thái, biệt lập — nơi chúng có thể đọc mã nguồn, gọi công cụ, chạy lệnh và tương tác với các dịch vụ chuyên biệt. Điều này đặt ra yêu cầu hạ tầng hoàn toàn mới.

Vì sao sandbox truyền thống không còn đủ?

Theo nhóm nghiên cứu của DeepSeek, các khối lượng công việc huấn luyện tác tử có những đặc điểm rất khác biệt:

• Tạo sandbox theo từng đợt lớn: hàng nghìn môi trường có thể được khởi tạo cùng lúc thay vì rải rác.
• Đa dạng về nhu cầu biệt lập: có tác vụ chỉ cần gọi hàm đơn giản, có tác vụ lại cần máy ảo hoàn chỉnh.
• Duy trì trạng thái lâu dài: các phiên tương tác kéo dài, đòi hỏi môi trường phải "nhớ" trạng thái qua nhiều bước.
• Kho ảnh (image) khổng lồ nhưng ít tái sử dụng: mỗi tác vụ thường cần một ảnh môi trường riêng.

Chính vì vậy, một runtime sandbox đơn lẻ là không đủ. DeepSeek lập luận rằng cần một nền tảng thực thi đàn hồi (elastic execution platform) thay vì chỉ một công cụ chạy sandbox đơn thuần.

DSec hoạt động như thế nào?

DSec cung cấp một SDK thống nhất cho bốn loại backend sandbox khác nhau: FnCall, container, microVM và full-VM. Nhờ đó, cùng một giao diện lập trình có thể phục vụ nhiều mức độ biệt lập và hiệu năng khác nhau.

Một số điểm kỹ thuật đáng chú ý:

• Điều phối vị trí và vòng đời trên toàn cụm máy chủ, giúp phân bổ tài nguyên hợp lý.
• Ghép môi trường từ các lớp phiên bản độc lập, cho phép tái sử dụng và cập nhật linh hoạt.
• Chia sẻ bộ nhớ, thu hồi và lập lịch CPU để đạt mật độ thực thi cao.
• Tải dữ liệu ảnh theo nhu cầu từ Fire-Flyer File System (3FS) — hệ thống tập tin phân tán toàn cụm do chính DeepSeek phát triển.

Đáng chú ý, DSec được thiết kế đồng thời với khung học tăng cường (RL). Hệ thống tách việc thực thi rollout có trạng thái khỏi phần huấn luyện GPU có thể bị ngắt (preemptible), nhờ đó vừa bảo toàn trạng thái phiên tác tử vừa thu hồi được tài nguyên nhàn rỗi. Cơ chế này cũng giúp giảm thiểu các hành vi sai lệch của tác tử, chẳng hạn như reward hacking — hiện tượng mô hình tìm cách "lách" để đạt điểm thưởng mà không thực sự hoàn thành nhiệm vụ.

Việc đồng thiết kế hạ tầng sandbox với khung học tăng cường là điểm khác biệt cốt lõi của DSec so với các nền tảng sandbox thông thường.

Những con số ấn tượng

Theo báo cáo, một đơn vị quy mô sản xuất của DSec trải rộng trên khoảng 160 nút, phục vụ khoảng 3 triệu sandbox mỗi ngày. Trong môi trường vận hành thực tế, hệ thống:

• Duy trì hơn 380.000 sandbox đồng thời.
• Đạt tốc độ tạo mới hơn 5.000 sandbox mỗi giây.

Nhóm tác giả cho biết các cơ chế này giúp giảm chi phí thiết lập môi trường và phân phối ảnh, nâng cao hiệu quả sử dụng bộ nhớ, đồng thời giữ được hiệu năng nhạy cảm với độ trễ ngay cả khi hệ thống bị cam kết quá mức (overcommit) ở mật độ cao.

Ý nghĩa với cộng đồng AI

Báo cáo DSec cho thấy cuộc đua AI hiện nay không chỉ diễn ra ở tầng mô hình mà còn ở tầng hạ tầng. Khi các tác tử AI ngày càng được ứng dụng rộng rãi — từ trợ lý lập trình đến tự động hóa quy trình — nhu cầu về sandbox hiệu quả, an toàn và có khả năng mở rộng sẽ trở thành yếu tố cạnh tranh then chốt.

Với các kỹ sư và nhà phát triển tại Việt Nam đang xây dựng sản phẩm AI, DSec là một ví dụ đáng tham khảo về cách tách biệt việc thực thi tác tử khỏi tài nguyên huấn luyện đắt đỏ, đồng thời tận dụng hệ thống tập tin phân tán để tối ưu chi phí lưu trữ và truyền tải.

Chi tiết kỹ thuật đầy đủ có thể tham khảo tại bài báo trên arXiv với mã arXiv:2609.22978.