Làm sao để thực thi một lệnh 'tạm dừng AI'? Bài toán chưa có lời giải

Nhiều nhà nghiên cứu AI tin chắc rằng công nghệ họ đang phát triển có thể trở nên cực kỳ nguy hiểm trong tương lai. Nhưng ngay cả trong giới tinh hoa kỹ thuật của ngành, câu hỏi làm thế nào để giữ những thuật toán khó lường này trong tầm kiểm soát vẫn chưa có lời đáp.

Một bài toán chưa được nghiên cứu đúng mức

Trong những năm gần đây, các nhà nghiên cứu đã đưa ra đủ loại ý tưởng nhằm ngăn AI "nổi loạn". Có những đề xuất ít gây tranh cãi như siết chặt quy định của chính phủ, tìm cách đo lường tiến bộ mới, hay mổ xẻ hoạt động bên trong các mô hình. Cũng có những phương án kỳ lạ hơn hẳn, chẳng hạn gắn thiết bị theo dõi vào trong GPU, thậm chí tổ chức nghi lễ tiêu hủy hàng loạt chip AI.

Dù áp lực chính trị và dư luận đang gia tăng đòi hỏi một cách tiếp cận thận trọng hơn với AI, câu trả lời vẫn còn bỏ ngỏ.

"Chúng ta cần bắt đầu coi đây là một bài toán nghiên cứu. Chúng ta thực sự chưa hiểu nổi các lựa chọn của mình là gì, hoặc chúng sẽ dẫn tới đâu."

Đó là nhận định của Raymond Douglas, nhà nghiên cứu AI tại Đại học Toronto, đồng tác giả báo cáo mới mang tên Pacing the Frontier, A Research Agenda. Báo cáo cảnh báo rằng việc làm chậm quá trình phát triển AI vẫn là một câu đố chưa có lời giải.

Làn sóng lo ngại về "ngày tận thế AI"

Những cuộc thảo luận về nguy cơ diệt vong do AI đã lên tới đỉnh điểm trong vài tuần gần đây, sau khi một nhà nghiên cứu của Anthropic rời công ty và cảnh báo rằng chỉ trong vài năm nữa, AI có thể đủ khả năng xóa sổ loài người. Người đứng đầu phòng thí nghiệm an toàn AI của Anthropic nhanh chóng lên tiếng đồng tình.

Lãnh đạo các công ty AI lớn nhất nước Mỹ — Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (SpaceXAI) và Demis Hassabis (Google DeepMind) — đều đã lên tiếng ủng hộ một hình thức làm chậm hoặc tạm dừng AI.

Vấn đề càng trở nên cấp bách vì các công ty AI hiện dùng chính AI để xây dựng những mô hình mạnh hơn. Điều này làm dấy lên nỗi lo về vòng lặp tự cải thiện đệ quy (RSI) — khi AI vượt qua khả năng hiểu biết của con người về chính nó chỉ trong vài năm.

Bản thân các phòng thí nghiệm AI đã bắt đầu quảng bá những cách tiếp cận mới. Tuần này, Anthropic công bố một số phương pháp theo dõi tốc độ tiến bộ của AI, kèm cảnh báo về mức độ nguy hiểm. Chẳng hạn, các kỹ thuật này cho thấy Claude hiện đảm nhiệm 26% hoạt động nghiên cứu AI của Anthropic, so với mức 0 vào đầu năm 2026. Chúng cũng tiết lộ Anthropic dành 6% ngân sách tính toán để tìm cách làm AI an toàn hơn.

Tuy nhiên, Douglas và các chuyên gia khác cho rằng muốn kiểm soát AI hiệu quả và đáng tin cậy, cần có nguồn lực và chuyên môn từ bên ngoài chính các phòng thí nghiệm.

Giám định viên "độc lập"

Một ý tưởng thường được các công ty AI nhắc tới là trao cho bên thứ ba quyền truy cập sâu hơn vào mô hình của họ. Các giám định viên này kiểm tra năng lực mô hình và "red team" bằng cách cố tình khơi gợi hành vi sai lệch trong môi trường được kiểm soát.

Geoffrey Irving, cựcu​n giám đốc khoa học của Viện An ninh AI Vương quốc Anh, trước đó từng là nhà nghiên cứu tại Google DeepMind, tin rằng các cuộc thanh tra nghiêm ngặt có thể tạm thời làm chậm đà phát triển AI tiên tiến.

"Trong ngắn hạn, thanh tra và kiểm toán có tác dụng, thậm chí chỉ cần các thỏa thuận song phương. Tôi thực sự nghĩ các công ty đang sợ RSI và kịch bản cất cánh lệch hướng."

Một số người bi quan cho rằng các cuộc thanh tra cần độc lập và chặt chẽ về mặt khoa học hơn hiện nay. Việc một số tác tử AI gần đây thoát khỏi vùng kiểm soát trong lúc thử nghiệm dường như cho thấy cần thêm sự nghiêm ngặt.

Connor Leahy, người đứng đầu Control AI — tổ chức phi lợi nhuận vận động cho việc kiểm soát AI — cho rằng thanh tra nên có sự tham gia của FBI hoặc NSA.

"Khi các công ty AI lớn nói 'giám định viên độc lập', họ muốn nói 'tôi muốn trả tiền cho bạn bè tôi để xem các câu lệnh của tôi'."

Douglas cho rằng nghiên cứu mới có thể cải thiện việc đánh giá mô hình. Ông dẫn chứng công trình gần đây cho thấy người ngoài có thể kiểm tra cách mô hình được sử dụng mà không tiết lộ thông tin mật. Các kỹ thuật khác gồm những cách mới để "nhìn xuyên" vào bên trong mô hình nhằm hiểu rõ hơn chúng đang làm gì.

Leahy đồng ý cần thêm nghiên cứu về đánh giá mô hình, cũng như về ý nghĩa thực sự của việc "căn chỉnh" một mô hình cho phản ánh giá trị con người.

"Các công ty này đã có một chiến dịch tiếp thị rất có chủ đích nhằm trình bày việc đánh giá như một hoạt động khoa học. Nhưng chúng ta thực sự không hiểu AI vận hành thế nào."

Mức độ sẵn sàng can thiệp của chính phủ Mỹ để hạn chế phát triển AI vẫn chưa rõ ràng. Tổng thống Trump phần lớn gạt bỏ nhu cầu quản lý ngành này, nhưng có dấu hiệu cho thấy sự ủng hộ lưỡng đảng cho việc kiểm soát AI đang tăng lên.

Kiểm soát năng lực tính toán

Một số chuyên gia tin rằng giới hạn phát triển AI rốt cuộc phải bao gồm kiểm soát năng lực tính toán thô — thứ nguyên liệu cốt lõi để huấn luyện AI. Những mô hình mạnh nhất được huấn luyện bằng hàng nghìn GPU Nvidia tiên tiến đặt trong các trung tâm dữ liệu khổng lồ.

Chính phủ Mỹ từng thử theo dõi việc này qua sắc lệnh hành pháp về AI thời Biden năm 2023, yêu cầu doanh nghiệp báo cáo các lần huấn luyện vượt một ngưỡng tính toán nhất định.

Một sách trắng chính sách tháng 3/2024 lập luận rằng các nhà cung cấp dịch vụ đám mây có thể đóng vai trò then chốt nhờ khả năng quan sát các đợt huấn luyện AI lớn. Sách trắng đề xuất theo dõi hồ sơ thanh toán, mức sử dụng GPU, lưu lượng mạng và mức tiêu thụ điện năng như những chỉ báo gián tiếp cho năng lực AI.

Các chuyên gia cũng đề xuất cách theo dõi và kiểm soát nỗ lực xây dựng AI tiên tiến bằng chính việc sửa đổi chip:

• Theo dõi bằng phần cứng: Năm 2024, các nhà nghiên cứu tại RAND đề xuất sửa đổi một linh kiện đo hiệu năng sẵn có trên GPU để nó ghi lại hồ sơ tính toán được mã hóa, có thể kiểm tra định kỳ. Cách này có thể phát hiện việc một công ty huấn luyện AI vượt ngưỡng cho phép.
• Linh kiện chống can thiệp: Xây dựng các linh kiện mới không thể giả mạo, thu thập thông tin chi tiết về cách sử dụng, và bắt buộc dùng mật mã để chạy trọng số của một số mô hình nhất định.
• Công tắc từ xa: Gắn "công tắc tắt nhúng" vào chip, đòi hỏi xác thực mật mã từ xa mới chạy được một số mô hình. Cách này có thể ngăn các bên không được phép huấn luyện AI, hoặc vô hiệu hóa chip nếu chúng rơi vào tay kẻ xấu.

Hiệp ước ràng buộc

Hầu hết chuyên gia đồng ý rằng tìm cách hợp tác quốc tế là điều then chốt, vì các quốc gia khác — đặc biệt là Trung Quốc — cũng có năng lực xây dựng AI tiên tiến.

"Về trung hạn, cách đơn giản nhất là cùng Trung Quốc thu hẹp đà tăng trưởng phần cứng thông qua một hiệp ước."

Mỹ từng tìm cách hạn chế AI Trung Quốc bằng lệnh cấm xuất khẩu chip Nvidia mạnh nhất. Biện pháp này chỉ đạt hiệu quả hạn chế vì doanh nghiệp vẫn có thể huấn luyện mô hình bằng năng lực đám mây ở nước ngoài.

Mỹ và Trung Quốc dự kiến sẽ thảo luận về rủi ro AI trong chuyến thăm Mỹ của Chủ tịch Tập Cận Bình vào cuối tháng này. Dù các chuyên gia Trung Quốc cũng lo ngại về rủi ro từ AI tiến bộ nhanh, họ hoài nghi về một lệnh làm chậm khiến doanh nghiệp nước này tụt lại so với đối thủ Mỹ.

Một số ý tưởng hợp tác nghe như bước ra từ truyện khoa học viễn tưởng hơn là đề xuất chính sách. Toby Ord, triết gia tại Đại học Oxford chuyên về rủi ro hiện hữu, từng hình dung rằng nếu các quốc gia đồng thuận hạn chế phát triển AI — và nếu rủi ro đủ nghiêm trọng — các cường quốc có thể đưa GPU tới một vùng lãnh thổ trung lập và tiêu hủy chúng. Động thái kịch tính đó đòi hỏi cả hai nước đồng ý dừng hoàn toàn việc phát triển AI.

Theo dõi vòng lặp tự cải thiện

Toàn bộ bài toán chắc chắn sẽ phức tạp thêm bởi tiến bộ kỹ thuật gần đây. Sự bất định quanh vòng lặp tự cải thiện đệ quy khiến việc theo dõi lĩnh vực này trở nên đặc biệt quan trọng.

Một thước đo chuẩn mới có tên RSI Index là một trong nhiều nỗ lực như vậy. Do Vals AI — một startup — phát triển, thước đo này cố gắng theo dõi tiến độ phát triển AI bằng AI, thông qua việc so sánh hiệu năng của các mô hình công khai với nghiên cứu do các nhà khoa học AI là con người công bố.

Rayan Krishnan, đồng sáng lập kiêm CEO của Vals AI, cho biết thước đo này gợi ý rằng trong vòng một năm tới, AI có thể đảm nhiệm những công việc mà nhà nghiên cứu AI không thể theo kịp.

Tuy nhiên, cách tốt nhất để giám sát AI không chỉ là thách thức kỹ thuật. Báo cáo của Douglas và cộng sự cảnh báo rằng việc vội vàng áp đặt các biện pháp kiểm soát không phù hợp có thể khiến nỗ lực này bị chìm trong chính trị hoặc bị các nhóm lợi ích thâu tóm.

"Tôi không chắc việc chỉ bảo chính phủ Mỹ đóng cửa tất cả sẽ kết thúc tốt đẹp. Hành động nửa vời với một kế hoạch tồi có thể còn tệ hơn cả việc không làm gì."

Đối với độc giả Việt Nam, câu chuyện này đáng chú ý ở hai điểm. Thứ nhất, các quy định về năng lực tính toán và xuất khẩu chip có thể ảnh hưởng trực tiếp tới khả năng tiếp cận hạ tầng AI của doanh nghiệp trong nước. Thứ hai, khi các nước lớn còn loay hoay tìm cách kiểm soát AI tiên tiến, việc xây dựng khung quản trị AI ở cấp quốc gia ngay từ bây giờ sẽ giúp Việt Nam tránh bị động trước những thay đổi chính sách toàn cầu sắp tới.