Nhà nghiên cứu AI rời Anthropic với cảnh báo: 'Chúng ta đang đánh bạc với mạng sống'

Một làn sóng chấn động mới trong lĩnh vực trí tuệ nhân tạo vừa xuất hiện khi Jacob Coxon, một nhà nghiên cứu an toàn AI tại Anthropic, tuyên bố từ chức với một thông điệp vô cùng gây sốc. Anh không chỉ đơn thuần chia tay công ty từng được coi là "ngọn cờ đầu" về an toàn AI, mà còn thể hiện sự thất vọng sâu sắc trước việc ban lãnh đạo các hãng công nghệ lớn liên tục phớt lờ các nguy cơ sinh tồn. Cảnh báo của anh ngay lập tức trở thành tâm điểm trong cộng đồng công nghệ toàn cầu, đặc biệt được lan truyền mạnh trên các diễn đàn như Hacker News.

Tại sao một chuyên gia an toàn lại "quay lưng"?

Jacob Coxon có một hồ sơ làm việc đáng nể khi từng công tác tại OpenAI trước khi chuyển sang Anthropic — hai trong số những tập đoàn dẫn đầu cuộc đua AI tạo sinh thế giới. Trong một loạt bài phát biểu và đăng tải cá nhân sau khi rời đi, Coxon cáo buộc rằng cả hai công ty đều có chung một lỗ hổng chết người về văn hóa doanh nghiệp: họ ưu tiên lợi nhuận và danh tiếng hơn là nghiên cứu các tình huống xấu nhất.

Anh thẳng thắn tuyên bố rằng các cuộc đua về mô hình ngôn ngữ lớn (LLM) hiện nay không khác gì việc "mò mẫm trong bóng tối mà không có phanh khẩn cấp". Theo Coxon, thuật ngữ "an toàn AI" trong phòng họp của các công ty công nghệ ngày nay đã bị bóp méo, thường chỉ dùng để mô tả việc tránh các rủi ro thương mại trước mắt như vi phạm bản quyền hoặc kiểm duyệt nội dung nhạy cảm, chứ ít khi nào đề cập đến nguy cơ hủy diệt nhân loại.

Chúng ta đang đánh bạc với mạng sống của hàng tỷ người mỗi ngày. Tốc độ chạy đua vũ khí AI đã vượt xa khả năng kiểm soát của con người, và những người nắm quyền quyết định dường như không thực sự lắng nghe các nhà nghiên cứu nội bộ của chính họ.

Hai thái cực của "sự hủy diệt" trong AI

Coxon cảnh báo về một viễn cảnh "cực đoan nhưng hợp lý" mà giới chuyên gia thường gọi là nguy cơ tuyệt chủng (x-risk). Ông phân tích rằng không cần AI phải "có ý thức", chỉ cần nó thông minh hơn con người trong việc tối ưu một mục tiêu sai lầm, thì nó có thể gây ra những tổn hại khôn lường. Ví dụ, các tác nhân AI được trang bị khả năng truy cập internet và hệ thống tài chính hoặc quân sự mà không có sự giám sát chặt chẽ có thể dẫn đến các cuộc tấn công kỹ thuật số quy mô khủng khiếp.

Đáng chú ý, anh cáo buộc rằng các phòng thí nghiệm hàng đầu đã làm sai lệch quy trình báo cáo. Nếu một thử nghiệm đột xuất cho thấy dấu hiệu hành vi "lừa dối" của AI, những phát hiện đó thường bị hạ cấp mức độ hoặc cất vào ngăn kéo vì sợ ảnh hưởng đến đợt gọi vốn. Sự thật về mức độ mất kiểm soát chỉ được biết đến bởi một nhóm nhỏ các kỹ sư, trong khi các CEO lại công khai trấn an công chúng và các nhà hoạch định chính sách.

Phản ứng trái chiều từ cộng đồng khoa học

Câu chuyện của Coxon nhanh chóng nhận được sự ủng hộ từ những tiếng nói lâu năm trong phong trào "AI an toàn", nhưng cũng vấp phải sự hoài nghi từ các nhà phát triển kỹ thuật. Một số lập luận rằng việc bỏ việc sẽ chỉ khiến tiếng nói của anh yếu đi và "làm mất ghế" trong phòng họp, nơi các quyết định thực sự được đưa ra. Tuy nhiên, trước đó, các nhà điều hành cấp cao tại OpenAI và Anthropic đều nhiều lần bác bỏ những cáo buộc tương tự và khẳng định họ có các Ủy ban An toàn riêng độc lập.

Bài học với giới công nghệ Việt Nam

Với cộng đồng AI Việt Nam — nơi đang ngày càng tích cực học hỏi và nghiên cứu mô hình ngôn ngữ lớn — câu chuyện của Jacob Coxon là một lời nhắc nhở quan trọng về nghiên cứu đạo đức và trách nhiệm kỹ thuật. Việc phát triển công cụ AI cho thị trường nội địa không nên chạy theo trend đơn thuần mà cần xây dựng các bài kiểm tra về độ tin cậy, sự thiên vị và đặc biệt là khả năng chống lại các lệnh tấn công. Khi các tập đoàn toàn cầu có hàng nghìn nhân sự vẫn phải đối mặt với bài toán khó kiểm soát này, thì các đội ngũ nhỏ hơn càng cần áp dụng nguyên tắc "an toàn từ giai đoạn thiết kế".

Dù tương lai của AI đi về đâu, việc một nhân viên cấp cao chấp nhận đánh đổi sự nghiệp chỉ để lên tiếng về an toàn cho thấy vấn đề đã thực sự nghiêm trọng. Đã đến lúc các nhà lãnh đạo và KOL công nghệ Việt cần đặt lại câu hỏi sâu sắc hơn về việc chúng ta đang huấn luyện những "cỗ máy" nào cho ngày mai, trước khi mọi thứ đi quá xa tầm kiểm soát.