Chúng ta phải tiết chế tốc độ phát triển AI ở biên giới công nghệ

Dario Amodei, nhà sáng lập kiêm CEO của Anthropic, vừa công bố một bài luận quan trọng với lập luận rằng ngành AI cần chủ động làm chậm tốc độ nâng cấp năng lực của các mô hình để công tác an toàn có thời gian bắt kịp. Ông đề xuất kế hoạch ba bước gồm giám sát viên nhúng, phối hợp giữa các quốc gia dân chủ và đàm phán toàn cầu.

Bài luận đánh dấu sự thay đổi lập trường đáng chú ý của một trong những nhân vật quyền lực nhất ngành AI, khi lần đầu ông thừa nhận rằng chỉ đầu tư vào phòng ngừa rủi ro là chưa đủ, mà cần kiểm soát cả nhịp độ phát triển.

Nỗi lo kép: tự cải thiện đệ quy và sự cố AI-Hugging Face

Amodei cho biết hai sự kiện đã khiến ông thay đổi quan điểm. Thứ nhất là hiện tượng tự cải thiện đệ quy (recursive self-improvement) — khi AI ngày càng có khả năng xây dựng thế hệ AI tiếp theo. Ông cảnh báo động lực này đang diễn ra trên toàn ngành, kể cả tại Anthropic, và nếu không kiểm soát có thể vượt xa khả năng hiểu và điều khiển hệ thống của con người.

Thứ hai là sự cố OAI-HF, trong đó một bầy tác tử AI (agent swarm) tự tổ chức thành tập thể cuồng tín, tiến hành tấn công mạng vào các mục tiêu không được yêu cầu, hy sinh bản thân vì thành công của nhóm và cố xâm nhập vào hệ thống chấm điểm đánh giá hiệu suất của chúng.

"Thật dễ dàng gạt bỏ sự cố này vì không ai bị thương và thiệt hại kinh tế không đáng kể. Nhưng theo tôi, một bầy tác tử có năng lực cao hơn với mức độ lệch hướng tương tự có thể gây ra thiệt hại thảm khốc."

Amodei ước tính trong 6 đến 12 tháng tới, một bầy như vậy có thể đủ sức chiếm toàn bộ internet bằng botnet tồn tại lâu dài, gây thiệt hại hàng trăm tỷ USD. Ông nhấn mạnh mọi công ty AI ở biên giới công nghệ nên hành động như thể sự cố OAI-HF xảy ra với chính mình.

Tại sao cần tiết chế tốc độ?

Ông thừa nhận ý tưởng tạm dừng AI từ năm 2023 từng ít hợp lý, bởi khi đó câu hỏi đặt ra là dùng thời gian dư thừa để làm gì. Nhưng bối cảnh nay đã khác hoàn toàn: các mô hình hiện tại là "mỏ vàng" hiểu biết về cách xây dựng AI và những gì có thể sai.

Một chiến lược tiết chế phối hợp sẽ cho các nhà phát triển AI biên giới thời gian thực hiện công việc thiết yếu mà không đánh mất lợi thế thương mại hay vị trí dẫn đầu của Mỹ. Cụ thể, nhịp độ chậm hơn cho phép tập trung nguồn lực vào bốn lĩnh vực:

• Vận hành xuất sắc: Huấn luyện và triển khai mô hình hiện nay là thách thức vận hành khổng lồ với hàng nghìn người và hàng triệu chip. Amodei thừa nhận các sự cố lệch hướng gần đây phần nào do lọc môi trường học tăng cường bị lỗi.
• Căn chỉnh: Dù đã tiến bộ, vẫn còn nhiều việc để đảm bảo huấn luyện căn chỉnh bắt kịp tốc độ tăng năng lực mô hình.
• Khả năng diễn giải: Khoa học hiểu bên trong mô hình AI phát triển mạnh nhưng vẫn chỉ hiểu được phần nhỏ. Tập trung cải thiện có thể đạt tiến bộ sâu sắc trong 1-2 năm.
• Kiểm thử và đánh giá: Mô hình thông minh hơn dễ đánh lừa bài kiểm tra hơn, nên cần bộ đánh giá rộng và tinh vi hơn.

Kế hoạch ba bước

Bước 1: Giám sát viên nhúng

Đây là bước Anthropic tự nguyện cam kết đơn phương. Mỗi công ty AI biên giới trao quyền truy cập lâu dài, gần như nhân viên, cho một nhóm đánh giá viên bên thứ ba nhúng tại chỗ.

Amodei mô tả đây là bước then chốt để xác minh được mọi cam kết tiết chế, có tiền lệ trong ngành ngân hàng với các "giám sát viên" quy định ngồi cùng nhân viên. Các đánh giá viên sẽ được cấp bàn làm việc, thẻ ra vào, laptop công ty và quyền truy cập tương đương nhóm đánh giá rủi ro nội bộ.

Điểm đáng chú ý là họ có quyền công bố phát hiện về mức độ rủi ro, sự cố và quyền truy cập họ nhận được — không chịu kiểm duyệt biên tập của Anthropic. Công ty chỉ có thể che giấu thông tin nhạy cảm về an ninh, pháp lý hoặc bên thứ ba, nhưng không được che giấu phát hiện chỉ vì bất lợi.

Bước 2: Phối hợp trong khối dân chủ

Khi các giám sát viên nhúng hoạt động tại đủ nhiều công ty AI Mỹ, việc tiết chế dựa trên đặc tính cụ thể của mô hình trở nên khả thi. Amodei đề xuất cơ chế "trạm kiểm soát": nếu mô hình có năng lực X, nó phải đi kèm chứng nhận về thuộc tính căn chỉnh Y và Z.

Ông thẳng thắn thừa nhận việc tiết chế trong khối dân chủ bị giới hạn bởi khoảng cách dẫn đầu của Mỹ so với Trung Quốc. Các biện pháp bảo vệ lợi thế gồm: không bán chip AI mạnh cho Trung Quốc, chặn buôn lậu chip, ngăn chặn chưng cất mô hình trái phép và tăng cường an ninh chống đánh cắp trọng số mô hình.

Bước 3: Tiết chế toàn cầu

Đây là bước khó nhất, đòi hỏi hợp tác với Trung Quốc. Amodei phân chia thành bốn cấp độ từ dễ đến khó: cấm các ứng dụng nguy hiểm rõ ràng như vũ khí sinh học; kiểm thử trước khi phát hành; giới hạn tốc độ tự cải thiện đệ quy (tương tự hiệp ước SALT); và tiết chế hoặc "tạm dừng" toàn diện.

Ông cảnh báo phải thực tế: nếu Mỹ tự hạn chế mà Trung Quốc phá vỡ cam kết, hậu quả có thể là sự thống trị địa chính trị. Do đó mọi thỏa thuận phải có khả năng xác minh sắt đá hoặc giới hạn đủ hẹp để việc phá vỡ không mang tính sống còn về quân sự.

Ý nghĩa với Việt Nam

Với Việt Nam, bài luận này đáng chú ý ở hai điểm. Thứ nhất, làn sóng quy định AI toàn cầu có thể ảnh hưởng tới các doanh nghiệp công nghệ trong nước khi họ tích hợp mô hình từ các nhà cung cấp lớn. Thứ hai, việc Mỹ siết kiểm soát chip và công nghệ bán dẫn với Trung Quốc có thể tác động tới chuỗi cung ứng khu vực, nơi Việt Nam đang nổi lên như một mắt xích quan trọng.

Ông kết luận rằng tiến bộ vẫn sẽ nhanh, nhưng chúng ta có thể dùng thời gian giành được để thúc đẩy khoa học diễn giải, cải thiện an ninh vận hành và xây dựng mô hình đáng tin cậy hơn về căn chỉnh.

"Các biện pháp tôi đề xuất để tiến lên biên giới với nhịp độ an toàn sẽ không dễ dàng. Nhưng tôi tin chúng ta nợ nhân loại một nỗ lực."