AI ra quyết định định hình lại cách kiểm duyệt nội dung

Các mô hình ra quyết định (decision model) đang trở thành chủ đề nóng trong giới AI, và một công ty tên Musubi vừa tìm ra cách ứng dụng chúng vào một bài toán quen thuộc: kiểm duyệt nội dung.

PolicyLM-1.7B — mô hình kiểm duyệt chạy nhanh, mở hoàn toàn

Vào thứ Ba, Musubi công bố PolicyLM-1.7B, một mô hình ra quyết định nhẹ được thiết kế cho việc kiểm duyệt theo thời gian thực. Điểm đáng chú ý là mô hình này được phát hành kèm trọng số mở (open weights), cho phép bất kỳ ai cũng có thể tải về và tự chạy.

Ý tưởng cốt lõi rất đơn giản: lấy một chính sách nội dung viết bằng ngôn ngữ tự nhiên, rồi áp dụng nó lên các tin nhắn trong vòng chưa đầy 50 mili-giây.

Theo Musubi, mô hình này có chi phí và tốc độ tương đương các hệ thống phân loại AI đang vận hành việc kiểm duyệt trên phần lớn mạng xã hội hiện nay. Nhưng nhờ sở hữu sự linh hoạt của một mô hình ngôn ngữ lớn (LLM) hiện đại, nó có thể xử lý các chính sách phức tạp mà không cần huấn luyện chuyên biệt.

Điểm quan trọng hơn cả: mô hình không cần huấn luyện lại khi chính sách thay đổi. Điều này cho phép những người đặt ra chính sách có thể điều chỉnh, thử nghiệm và lặp lại bao nhiêu lần tùy nhu cầu — một lợi thế rất lớn trong bối cảnh các quy định về nội dung thay đổi liên tục.

Góc nhìn từ người trong cuộc

Theo ông Filip Jankovic, đồng sáng lập kiêm Giám đốc AI của Musubi, giải pháp này mang đến cho các nhà quản lý nền tảng một cách gắn nhãn nội dung mang tính chủ động.

"Các đội sản phẩm chỉ muốn hiểu rõ hơn điều gì đang diễn ra trên nền tảng của họ, đặc biệt khi lượng nội dung đang tăng theo cấp số nhân. Việc có thể gắn nhãn toàn bộ nội dung đó theo cách có khả năng mở rộng và tùy biến cao là cực kỳ hữu ích."

Mô hình ra quyết định — làn sóng mới của AI

Mô hình ra quyết định đã trở thành đề tài được bàn luận sôi nổi kể từ khi TypeSafe AI phát hành Jev vào tháng 9, sau đó nhanh chóng có các mô hình cạnh tranh từ OpenAI và Amazon.

Khác với mô hình ngôn ngữ thông thường vốn xuất ra văn bản, mô hình ra quyết định đưa ra xác suất kết quả. Trong trường hợp của PolicyLM-1.7B, mô hình đưa ra phán quyết nhị phân: nội dung thuộc hoặc không thuộc một danh mục nhất định.

Bằng cách giới hạn đầu ra trong một tập lựa chọn đã định trước, mô hình ra quyết định có thể chạy nhanh hơn và rẻ hơn so với các LLM lớn, mà vẫn giữ được sự linh hoạt của kiến trúc transformer.

Một trong những ứng dụng ban đầu là kiểm soát hành vi sai lệch của các tác nhân AI (AI agent) — vậy nên việc áp dụng công nghệ tương tự cho hành vi sai lệch của con người cũng là điều dễ hiểu.

Đáng chú ý, ông Jankovic cho biết mối quan tâm của mình với mô hình ra quyết định có từ trước cả Jev, bắt nguồn từ một dự án năm 2024 mang tên GLiNER (Mô hình tổng quát cho nhận diện thực thể có tên). Dự án này đã triển khai nhiều kỹ thuật tương tự.

Không ngại so sánh với Jev

Dù vậy, Musubi không tỏ ra e dè khi bị đem ra so sánh với các mô hình ra quyết định khác. Trái lại, công ty còn tận dụng sự chú ý mới dành cho làn sóng này để làm nổi bật chủ đề kiểm duyệt nội dung.

Thông báo sản phẩm của Musubi viết thẳng thắn:

"Nếu Jev khiến bạn để mắt tới, thì PolicyLM-1.7B cũng chính là dạng mô hình như vậy, được huấn luyện riêng cho việc kiểm duyệt nội dung, và bạn có thể tự vận hành nó."

Ý nghĩa với các nền tảng và nhà phát triển tại Việt Nam

Với các nền tảng mạng xã hội, diễn đàn và ứng dụng nhắn tin tại Việt Nam, việc kiểm duyệt nội dung luôn là bài toán tốn kém cả về nhân lực lẫn hạ tầng. Một mô hình 1,7 tỷ tham số, chạy dưới 50 mili-giây và không cần huấn luyện lại khi đổi chính sách rõ ràng mở ra hướng tiếp cận mới, đặc biệt với các đội ngũ có ngân sách hạn chế.

Việc phát hành trọng số mở càng có ý nghĩa: các công ty, startup, thậm chí các nhóm nghiên cứu tại Việt Nam có thể tự triển khai, tinh chỉnh cho phù hợp với tiếng Việt và các đặc thù văn hóa, ngữ cảnh bản địa mà các mô hình đóng khó đáp ứng.

Tất nhiên, câu hỏi cũ vẫn còn nguyên: liệu một mô hình gắn nhãn tự động có đủ tinh tế để phân biệt giữa chỉ trích chính đáng và ngôn từ gây hại? Và ranh giới đó do ai đặt ra?

Đó vẫn là những câu hỏi về con người, không phải về thuật toán. Nhưng ít nhất, công cụ để đặt và thay đổi những ranh giới ấy giờ đây đã trở nên nhanh hơn, rẻ hơn và dễ tiếp cận hơn với tất cả mọi người.