Maxwell: AI tối ưu hóa mã máy ngay trong lúc chương trình đang chạy

Việc dùng LLM để viết mã đã trở nên phổ biến, nhưng chỉ dừng ở đó thì chưa đủ. Startup DoubleAI có trụ sở tại Tel Aviv (Israel), thành lập năm 2023, vừa trình làng Maxwell – một mô hình thực thi mã (Code Execution Model – CEM) có khả năng đánh giá, tối ưu và viết lại mã nhị phân ngay trong lúc chương trình đang vận hành.

Điểm đáng chú ý là Maxwell không đụng tới mã nguồn gốc. Thay vào đó, nó tiền xử lý các thuật toán và tập lệnh máy để tối đa hóa hiệu năng trên phần cứng thực tế đang sử dụng, đồng thời dùng chứng minh hình thức (formal verification) để đảm bảo đoạn mã thay thế tương đương về mặt logic với đoạn mã ban đầu.

Khác biệt so với trình biên dịch JIT

Về ý tưởng, Maxwell có nét tương đồng với trình biên dịch JIT (just-in-time compiler), nhưng linh hoạt hơn nhiều. Gal Beniamini, đồng sáng lập DoubleAI và có bằng tiến sĩ khoa học máy tính lý thuyết, giải thích:

"Cả Maxwell và JIT đều hoạt động khi chương trình đang chạy và đều tạo ra mã máy mới. Khác biệt nằm ở chỗ trình biên dịch không thể lập luận ở mức cao. Nó không thể thay đổi thuật toán. Maxwell thì có thể."

Theo Beniamini, trình biên dịch JIT buộc phải đưa ra các quyết định mang tính "cứng nhắc" và thận trọng vì chúng là những thuật toán cổ điển, không có khả năng tư duy. Chúng cũng chỉ hoạt động trong một lượt và không thể tự điều chỉnh linh hoạt.

Maxwell thì khác. Nó nhìn thấy chính xác phần cứng mà chương trình đang chạy trên đó, hình dạng và kiểu dữ liệu thực tế đang lưu chuyển – những thông tin chỉ có được trong lúc runtime. Nó cũng nắm được trạng thái môi trường, những gì đang chạy song song trong cùng chương trình, và điểm nghẽn thực sự xuất hiện trong điều kiện nào.

Lấy ví dụ về sắp xếp dữ liệu: trình biên dịch sẽ giúp thuật toán sắp xếp đa dụng chạy nhanh nhất có thể, nhưng không bao giờ thay nó bằng một thuật toán khác. Maxwell thì có thể làm điều đó.

Hiệu năng ấn tượng nhưng còn tùy trường hợp

Theo DoubleAI, Maxwell đã giúp các pipeline dữ liệu chạy nhanh hơn 38 lần và kernel suy luận AI nhanh hơn 4,5 lần. Một ví dụ đáng chú ý là LTX-2.5 – mô hình thế giới mở có khả năng tạo video 4K – đã đạt tốc độ gần gấp đôi khi dùng Maxwell, nhờ việc giảm dữ liệu trao đổi giữa các GPU và tối ưu lựa chọn kernel để loại bỏ phần đệm token không cần thiết.

Tuy nhiên, mức độ cải thiện phụ thuộc vào mã nguồn và phần cứng cụ thể. Beniamini cho biết:

• Maxwell hiệu quả nhất với mã mang tính thuật toán và có thể tùy biến cho phần cứng theo cách không tầm thường.
• Ngay cả mã viết bằng ngôn ngữ bậc cao như Python cũng thường được hưởng lợi lớn nhờ "dư địa" tối ưu còn nhiều.
• Các đồ thị PyTorch, kể cả khi đã qua trình biên dịch của Torch, vẫn thường ở rất xa mức tối ưu.

Lợi ích về bảo mật và chi phí vận hành

Ngoài hiệu năng, Maxwell còn có thể hỗ trợ bảo mật mã nguồn. Beniamini cho biết công cụ này có thể loại bỏ các vấn đề như lỗi bộ nhớ bằng cách chứng minh chúng không tồn tại trong quá trình hình thức hóa. Ông tiết lộ nhóm đã tìm ra những lỗi như vậy ngay trong bản thân Python.

Về chi phí, quá trình theo dõi và phân tích của Maxwell gần như không tạo gánh nặng:

"Mức overhead tối đa của Maxwell là 2% (khi không theo dõi thì về 0), và lợi ích tối ưu mang lại vượt xa con số đó. Chúng tôi còn áp dụng Maxwell cho chính runtime, nên mức tăng tốc tổng thể còn lớn hơn nhiều. Tóm lại: nó không bao giờ chậm hơn."

Việc cài đặt cũng khá nhẹ nhàng: lập trình viên chỉ cần cài runtime và chạy mã, mô hình Maxwell do DoubleAI vận hành trên hạ tầng của họ. Tất nhiên, cách làm này đòi hỏi một mức độ tin tưởng nhất định từ phía người dùng – điểm mà các doanh nghiệp Việt Nam cần cân nhắc khi triển khai cho hệ thống quan trọng.

"AI đầu tiên làm việc cho máy, không phải cho lập trình viên"

Amnon Shashua, đồng sáng lập kiêm CEO DoubleAI, người sáng lập và chuẩn bị rời ghế CEO Mobileye, đồng thời là giáo sư khoa học máy tính tại Đại học Hebrew Jerusalem, nhận định AI đã thay đổi cách phần mềm được viết ra và giờ đang thay đổi cách nó vận hành.

"CEM, và Maxwell nói riêng, là những agent đại diện cho phần cứng, khác với các code agent đại diện cho người dùng. Nói cách khác, đây là AI đầu tiên làm việc cho cỗ máy, chứ không phải cho lập trình viên."

Với các đội ngũ phát triển tại Việt Nam đang chạy các mô hình AI trên hạ tầng GPU hạn chế, một công cụ có thể tự động tối ưu mã máy mà không cần sửa mã nguồn có thể là hướng đi đáng quan tâm – dù câu chuyện về độ tin cậy và quyền riêng tư dữ liệu vẫn cần được đặt lên bàn cân trước khi áp dụng vào sản phẩm thực tế.