LLM Đa Luồng: Nghiên cứu mới về việc song song hóa các tác vụ Tư duy, Đầu vào và Đầu ra

Các mô hình ngôn ngữ lớn (LLM) hiện nay như ChatGPT đã trở thành động lực chính cho các tác nhân tự chủ (autonomous agents) trong các ứng dụng như lập trình hay sử dụng máy tính. Tuy nhiên, cốt lõi của các hệ thống này vẫn dựa trên định dạng trao đổi tin nhắn tuần tự, nơi các thông điệp được trao đổi lần lượt giữa người dùng, hệ thống, chính mô hình (qua chuỗi tư duy - chain-of-thought) và các công cụ khác.

Điểm nghẽn của việc phụ thuộc vào một luồng tính toán duy nhất này dẫn đến nhiều hạn chế. Cụ thể, tác nhân không thể thực hiện hành động (tạo đầu ra) trong khi đang đọc thông tin, và ngược lại, không thể phản ứng với thông tin mới trong khi đang viết. Tương tự, chúng không thể hành động trong khi suy nghĩ và không thể suy nghĩ trong khi đang đọc hoặc xử lý thông tin.

Trong bài báo mới có tựa đề "Multi-Stream LLMs: Unblocking Language Models with Parallel Streams of Thoughts, Inputs and Outputs", các tác giả Guinan Su, Yanwu Yang, Xueyan Li và Jonas Geiping đã đề xuất một giải pháp đột phá. Thay vì fine-tune theo lệnh cho các định dạng tin nhắn tuần tự, họ đề xuất phương pháp fine-tune cho nhiều luồng tính toán song song, tách biệt từng vai trò thành một luồng riêng biệt.

Cơ chế hoạt động mới

Với kiến trúc này, mỗi lần truyền thẳng (forward pass) của mô hình ngôn ngữ sẽ đồng thời đọc từ nhiều luồng đầu vào và tạo ra token trong nhiều luồng đầu ra. Tất cả các luồng này đều phụ thuộc nhân quả vào các mốc thời gian trước đó, đảm bảo tính logic nhưng cho phép xử lý song song.

Các tác giả lập luận rằng thay đổi dựa trên dữ liệu này sẽ khắc phục nhiều hạn chế về tính khả dụng đã nêu ở trên.

Lợi ích của kiến trúc Multi-Stream

Việc chuyển sang kiến trúc đa luồng mang lại ba lợi ích chính:

• Tăng hiệu suất mô hình: Nhờ khả năng song song hóa, mô hình có thể xử lý nhiều tác vụ cùng lúc, giảm thời gian chờ đợi và tối ưu hóa tài nguyên tính toán.
• Cải thiện bảo mật: Việc tách biệt rõ ràng các mối quan tâm (separation of concerns) giữa các luồng giúp kiểm soát luồng dữ liệu tốt hơn và giảm thiểu các lỗ hổng bảo mật tiềm ẩn.
• Tăng khả năng giám sát: Việc tách biệt tư duy, đầu vào và đầu ra giúp việc theo dõi và kiểm tra hành vi của AI trở nên minh bạch và dễ dàng hơn đối với các nhà phát triển.

Nghiên cứu này mở ra hướng đi mới cho việc phát triển các tác nhân AI thông minh hơn, phản ứng nhanh hơn và an toàn hơn trong tương lai, đặc biệt là trong các ứng dụng đòi hỏi sự tương tác phức tạp theo thời gian thực.