MIT phát triển phương pháp buộc AI tuân thủ nghiêm ngặt các quy tắc an toàn

Các nhà nghiên cứu tại Viện Công nghệ Massachusetts (MIT) đã công bố một thuật toán mang tên HardFlow, cho phép một lớp mô hình AI tạo sinh đáp ứng các yêu cầu "cứng" – những quy tắc không thể vi phạm – ở đầu ra cuối cùng. Phương pháp này không bắt buộc mọi bước trung gian trong quá trình tạo phải tuân thủ, nhờ đó mô hình có nhiều tự do hơn để tìm ra giải pháp chất lượng cao. Kết quả ban đầu rất khả quan, nhưng tất cả mới chỉ dừng lại ở mô phỏng máy tính.

Minh họa phương pháp HardFlow với các đường dẫn hội tụ về một điểm

Vấn đề: AI tạo sinh và những quy tắc không thể thương lượng

Các mô hình AI tạo sinh hiện đại – từ tạo ảnh, lập kế hoạch chuyển động cho cánh tay robot đến điều khiển quy trình vật lý – thường xây dựng kết quả dần dần qua nhiều bước. Tuy nhiên, không có gì trong cách chúng được xây dựng đảm bảo rằng kết quả cuối cùng sẽ tuân thủ một quy tắc nghiêm ngặt nào đó, ví dụ như không được va vào vật cản hoặc không được vượt quá giới hạn an toàn.

"Lời hứa của AI tạo sinh nằm ở khả năng khám phá một không gian rộng lớn các khả năng, nhưng thế giới thực đặt ra ranh giới cho những khả năng nào là chấp nhận được. Cách tiếp cận của chúng tôi cho phép giữ nguyên sức mạnh tạo sinh đó trong khi vẫn thực thi các yêu cầu không thể thương lượng của những ứng dụng có rủi ro cao hoặc liên quan đến an toàn." – Navid Azizan, phó giáo sư tại MIT.

Nhóm nghiên cứu do Zeyang Li (nghiên cứu sinh ngành kỹ thuật cơ khí, Phòng thí nghiệm Hệ thống Thông tin và Quyết định của MIT) dẫn đầu, cùng với Kaveh Alim và Navid Azizan, đã tìm cách giải quyết vấn đề này.

HardFlow hoạt động như thế nào?

Các mô hình được nhắm tới sử dụng kỹ thuật gọi là flow matching – tạo đầu ra bằng cách bắt đầu từ dữ liệu ngẫu nhiên và dần dần dẫn dắt nó về kết quả hoàn chỉnh thông qua một "trường vận tốc" đã được học. HardFlow tiếp cận bài toán thực thi quy tắc cứng như một bài toán điều khiển: nó coi những điều chỉnh nhỏ đối với trường vận tốc là các biến điều khiển có thể thay đổi.

Điểm mấu chốt: thay vì buộc mọi bước trung gian phải tuân thủ quy tắc, HardFlow chỉ yêu cầu quy tắc được thỏa mãn ở bước cuối cùng. Thuật toán chia quá trình thành chuỗi bài toán một bước ngắn và giải lần lượt. Nhờ cách tiếp cận này, nó có thể áp dụng trực tiếp lên một mô hình đã được huấn luyện sẵn mà không cần huấn luyện lại.

"Đối với việc thỏa mãn ràng buộc, điều quan trọng nhất là đầu ra cuối cùng của mô hình, vì quá trình nội bộ sẽ bị loại bỏ. Bằng cách không yêu cầu mọi bước trung gian thỏa mãn ràng buộc, chúng tôi cho mô hình nhiều tự do hơn để tìm ra các giải pháp chất lượng cao mà vẫn khả thi ở kết quả cuối." – Zeyang Li.

Kết quả thử nghiệm: Ấn tượng nhưng chỉ trong mô phỏng

Nhóm nghiên cứu đã so sánh HardFlow với sáu phương pháp khác trên bốn tác vụ khác nhau:

• Cánh tay robot tránh vật cản (bộ kiểm chuẩn D3IL)
• Điều hướng trong mê cung
• Điều khiển điều kiện biên của một quá trình vật lý
• Chỉnh sửa ảnh theo hướng dẫn văn bản

Trong các thí nghiệm được báo cáo – tất cả đều chạy trong môi trường mô phỏng – HardFlow thỏa mãn ràng buộc bắt buộc trong mọi lần thử, đồng thời cho kết quả chất lượng cao hơn các phương pháp đối thủ. Thời gian tính toán tương đương hoặc thấp hơn phần lớn trong số đó.

Đáng chú ý, trong thử nghiệm điều khiển robot, HardFlow giúp cánh tay robot mô phỏng vừa tránh được vật cản vừa tìm ra đường đi nhanh nhất đến mục tiêu, trong khi hầu hết phương pháp khác hoặc va vào vật cản hoặc đi đường vòng dài hơn đáng kể.

Những điều cần lưu ý

Mặc dù kết quả rất hứa hẹn, cần nhấn mạnh rằng mọi kết quả trong bài báo đều đến từ mô phỏng, chưa có thử nghiệm trên robot thật hay hệ thống đã triển khai. Bài báo không báo cáo kiểm thử trên phần cứng thực tế hoặc hệ thống sản xuất.

Ngoài ra, "thỏa mãn ràng buộc hoàn hảo" không phải là đảm bảo tuyệt đối trong mọi điều kiện. Phương pháp dựa trên một phép xấp xỉ về đầu ra cuối cùng ở giữa quá trình tạo, và các đảm bảo lý thuyết phụ thuộc vào giới hạn toán học cụ thể cho từng bài toán. Do đó, thành tích hoàn hảo trên bốn bộ kiểm chuẩn không đồng nghĩa với việc quy tắc sẽ luôn được tuân thủ trong một bối cảnh khác.

Hiện chưa có phòng thí nghiệm độc lập nào ngoài nhóm MIT tái lập các so sánh trong bài báo. Bài báo đã được bình duyệt và công bố trên tạp chí IEEE Transactions on Pattern Analysis and Machine Intelligence với tiêu đề "HardFlow: Hard-Constrained Sampling for Flow-Matching Models via Trajectory Optimization", nhưng bình duyệt đánh giá phương pháp luận và cách trình bày chứ không chạy lại thí nghiệm.

Còn nhiều câu hỏi chưa có lời đáp

Vẫn chưa rõ liệu HardFlow có thể xử lý được các quy tắc an toàn mơ hồ, khó hình thức hóa – vốn liên quan đến đầu ra của mô hình ngôn ngữ – hay không, thay vì chỉ các ràng buộc hình học và vật lý đã được kiểm thử. Cũng chưa biết phương pháp này có hoạt động với các họ mô hình tạo sinh khác ngoài flow matching, chẳng hạn như mô hình ngôn ngữ tự hồi quy (autoregressive), hay không.

Trong tương lai, nhóm nghiên cứu cho biết có thể mở rộng khung này cho các tình huống mà bản thân mô hình AI được cập nhật song song với bước thực thi ràng buộc, điều mà họ gợi ý có thể cải thiện cả mức độ tuân thủ lẫn chất lượng đầu ra.

Đối với độc giả Việt Nam quan tâm đến AI ứng dụng trong công nghiệp và robot, đây là một hướng nghiên cứu đáng theo dõi, nhưng cần thận trọng trước khi kỳ vọng vào khả năng triển khai thực tế. Khoảng cách từ mô phỏng đến sản phẩm thật vẫn còn rất lớn, đặc biệt trong lĩnh vực an toàn.