Anthropic giới hạn phát hành Mythos: Để bảo vệ internet hay để bảo vệ chính mình?

Anthropic giới hạn phát hành Mythos: Để bảo vệ internet hay để bảo vệ chính mình?

Tuần này, Anthropic tuyên bố họ sẽ hạn chế việc phát hành mô hình mới nhất của mình, có tên Mythos, bởi vì nó quá khả năng trong việc tìm kiếm các lỗ hổng bảo mật trong phần mềm mà người dùng trên toàn thế giới đang tin dùng.

Thay vì tung Mythos ra công chúng, phòng thí nghiệm AI hàng đầu này sẽ chia sẻ nó với một nhóm các công ty và tổ chức lớn vận hành cơ sở hạ tầng trực tuyến quan trọng, từ Amazon Web Services đến JPMorgan Chase. OpenAI cũng được cho là đang xem xét kế hoạch tương tự cho công cụ an ninh mạng tiếp theo của mình. Ý tưởng rõ ràng ở đây là để các doanh nghiệp lớn này đi trước một bước so với những kẻ xấu có thể tận dụng các LLM tiên tiến để xâm nhập phần mềm bảo mật.

Tuy nhiên, từ "doanh nghiệp" (enterprise) trong câu trên là một gợi ý cho thấy chiến lược phát hành này có thể còn nhiều ý nghĩa hơn là chỉ đơn thuần về an ninh mạng — hay việc thổi phồng khả năng của mô hình.

Mối lo ngại về an ninh mạng hay lợi ích kinh doanh?

Dan Lahav, CEO của phòng thí nghiệm an ninh mạng AI Irregular, đã chia sẻ với TechCrunch vào tháng 3, trước khi Mythos ra mắt, rằng mặc dù việc phát hiện lỗ hổng bởi các công cụ AI là rất quan trọng, nhưng giá trị cụ thể của bất kỳ điểm yếu nào đối với kẻ tấn công phụ thuộc vào nhiều yếu tố, bao gồm cả cách chúng có thể được sử dụng kết hợp.

"Câu hỏi luôn thường trực trong đầu tôi là liệu họ có thực sự tìm ra thứ gì đó có thể khai thác được một cách ý nghĩa, dù là riêng lẻ hay là một phần của một chuỗi tấn công không?" Lahav nói.

Anthropic khẳng định Mythos có khả năng khai thác lỗ hổng tốt hơn nhiều so với mô hình trước đó là Opus. Tuy nhiên, chưa rõ liệu Mythos có thực sự là mô hình an ninh mạng tối thượng hay không. Aisle, một startup về an ninh mạng AI, cho biết họ có thể tái tạo phần lớn những gì Anthropic tuyên bố Mythos đã đạt được bằng cách sử dụng các mô hình mã nguồn mở nhỏ hơn. Đội ngũ của Aisle lập luận rằng các kết quả này cho thấy không có một mô hình học sâu duy nhất nào cho an ninh mạng, mà thay vào đó phụ thuộc vào nhiệm vụ cụ thể.

Chiến lược ngăn chặn "chưng cất" mô hình

Xét rằng Opus đã được coi là một bước ngoặt trong an ninh mạng, có một lý do khác khiến các phòng thí nghiệm hàng đầu muốn giới hạn việc phát hành cho các tổ chức lớn: Nó tạo ra một cỗ máy thúc đẩy các hợp đồng doanh nghiệp khổng lồ, đồng thời khiến đối thủ khó hơn trong việc sao chép mô hình của họ bằng kỹ thuật chưng cất (distillation) — một kỹ thuật tận dụng các mô hình tiên tiến để đào tạo LLM mới với chi phí rẻ.

"Đây là chiêu trò tiếp thị cho thực tế là các mô hình cao cấp hiện nay bị khóa bởi các thỏa thuận doanh nghiệp và không còn sẵn có cho các phòng thí nghiệm nhỏ để chưng cất," David Crawshaw, một kỹ sư phần mềm và CEO của startup exe.dev, nhận định trong một bài đăng trên mạng xã hội. "Đến khi bạn và tôi có thể sử dụng Mythos, sẽ có một phiên bản cao cấp mới khác chỉ dành cho doanh nghiệp. Sự chạy đua này giúp dòng tiền doanh nghiệp tiếp tục chảy (chiếm phần lớn doanh thu) bằng cách đẩy các công ty chưng cất xuống vị trí thứ hai," Crawshaw nói.

Phân tích này phù hợp với những gì chúng ta đang thấy trong hệ sinh thái AI: Cuộc đua giữa các phòng thí nghiệm hàng đầu phát triển các mô hình lớn và mạnh mẽ nhất, với những công ty như Aisle dựa vào nhiều mô hình và coi các LLM mã nguồn mở (thường từ Trung Quốc và được cho là phát triển thông qua chưng cất) là con đường để đạt lợi thế kinh tế.

Các phòng thí nghiệm hàng đầu đã có thái độ cứng rắn hơn với việc chưng cất trong năm nay, với Anthropic công khai tiết lộ những gì họ gọi là nỗ lực của các công ty Trung Quốc nhằm sao chép mô hình của họ, và ba phòng thí nghiệm hàng đầu — Anthropic, Google và OpenAI — đã hợp tác để xác định và chặn các đơn vị chưng cất, theo một báo cáo của Bloomberg. Việc chưng cất là một mối đe dọa đối với mô hình kinh doanh của các phòng thí nghiệm hàng đầu vì nó loại bỏ lợi thế mang lại bởi việc sử dụng lượng vốn khổng lồ để mở rộng quy mô.

Việc chặn chưng cất vì vậy là một nỗ lực đáng giá, nhưng cách tiếp cận phát hành có chọn lọc cũng mang lại cho các phòng thí nghiệm một cách để phân biệt các dịch vụ doanh nghiệp của họ khi danh mục này trở thành chìa khóa cho việc triển khai có lợi nhuận.

Kết luận

Việc Mythos hay bất kỳ mô hình mới nào thực sự đe dọa đến sự an toàn của internet hay không vẫn còn phải chờ xem, và việc triển khai công nghệ một cách thận trọng là một cách tiếp cận có trách nhiệm.

Anthropic chưa phản hồi các câu hỏi của chúng tôi về việc liệu quyết định này có liên quan đến lo ngại về chưng cất hay không vào thời điểm báo chí, nhưng công ty có thể đã tìm ra một cách tiếp cận khôn ngoan để bảo vệ internet — và lợi nhuận của chính họ.