Nút "công tắc ngắt" AI có thể cần được quy định bắt buộc, đồng sáng lập Anthropic nói với BBC

Một cơ chế "công tắc ngắt" (kill switch) đối với trí tuệ nhân tạo — có thể được bên thứ ba kiểm chứng — có thể sẽ cần trở thành yêu cầu bắt buộc đối với các công ty công nghệ. Đây là nhận định của Jack Clark, một trong bảy nhà đồng sáng lập của Anthropic, hãng AI lớn hàng đầu thế giới, trong cuộc trả lời phỏng vấn BBC.

Theo Clark, xã hội "có thể sẽ muốn ban hành các quy định" quanh vấn đề này, đặc biệt khi AI ngày càng trở nên mạnh mẽ và những lo ngại về rủi ro của nó đối với nhân loại đang được đẩy lên cao trào.

"Hầu hết các phòng thí nghiệm đều có cách rút phích cắm"

Clark cho biết "hầu hết các phòng thí nghiệm AI đều có những cách khác nhau để có thể rút phích cắm", trong đó có Anthropic. Tuy nhiên, ông nhấn mạnh rằng các nhà lập pháp có thể cần phải bắt buộc điều này.

"Liệu bạn có nên bắt buộc các công ty chắc chắn phải có một công tắc ngắt? Công tắc ngắt đó có thể được bên thứ ba kiểm chứng không? Tôi nghĩ đó là kiểu vấn đề mà xã hội sẽ muốn biết và có thể sẽ muốn ban hành quy định."

Vị đồng sáng lập Anthropic nói thêm rằng các chi tiết cụ thể về yêu cầu công tắc ngắt và việc xác minh nó nên nằm trong "cuộc đối thoại chính sách lớn hơn" đang diễn ra quanh AI.

Bối cảnh: Những cảnh báo ngày càng gay gắt

Sự phát triển nhanh chóng của AI cùng nỗi sợ về rủi ro mà nó gây ra cho nhân loại đã trở thành tâm điểm sau hàng loạt cảnh báo từ các lãnh đạo và nhân viên trong ngành. Một số người công khai cho rằng công nghệ này, nếu không được kiểm soát, có thể tiêu diệt toàn bộ loài người.

Cuối tuần qua, CEO Anthropic Dario Amodei đã kêu gọi làm chậm tốc độ phát triển AI và giám sát chặt chẽ hơn. Tuy nhiên, ông cũng lưu ý rằng bất kỳ hành động nào nhằm kiềm chế AI cũng nên được thực hiện "mà không đánh đổi lợi thế thương mại".

Đáng chú ý, tuần trước, một bài đăng của một nhà nghiên cứu AI rời Anthropic vì lo ngại AI có thể xóa sổ loài người đã lan truyền mạnh mẽ. Đáp lại, nhà khoa học của Anthropic, Evan Hubinger, nói rằng cá nhân ông cho rằng khả năng AI gây ra sự tuyệt chủng của con người là "hơn 10% trong thập kỷ tới".

Giáo sư khoa học máy tính và chủ nhân giải Nobel Geoffrey Hinton — được biết đến với danh xưng "Cha đỡ đầu của AI" — nói với BBC hôm thứ Sáu rằng xác suất 10% AI giết chết toàn bộ con người là "không phải bất hợp lý".

Những ý kiến phản bác trong ngành

Không phải ai trong ngành AI cũng đồng tình với những lo ngại này. Một số người cho rằng nỗi sợ AI hủy diệt nhân loại là bị thổi phồng hoặc có thể được thiết kế để tạo sự chú ý.

Clement Delangue, lãnh đạo nền tảng phát triển Hugging Face, từng nói: "Xin lỗi, nhưng hỏi Jacob [Coxon] về rủi ro tuyệt chủng do AI cũng giống như hỏi anh thợ sửa điều hòa về biến đổi khí hậu". Ông cho rằng cần giữ mọi thứ trong tầm nhìn hợp lý.

George Arison, lãnh đạo ứng dụng hẹn hò Grindr, thì cho rằng nỗi sợ đang lan truyền quanh các công cụ AI đang bị chính các công ty lợi dụng để hỗ trợ kế hoạch kinh doanh của họ.

"Cách duy nhất để biện minh cho những mức định giá này là thực sự tuyên bố: 'Tôi sẽ chiếm lấy mọi ngành công nghiệp, mọi công việc, và AI của tôi sẽ làm tất cả những việc đó.'"

Chính phủ Mỹ và Anh phản đối ý tưởng công tắc ngắt

Các nhà lập pháp Mỹ đã đưa ra dự luật mang tên "Kill Switch Act" (Đạo luật Công tắc ngắt), yêu cầu các công ty phải có cách tắt các công cụ AI có vấn đề. Dự luật cũng trao cho một số cơ quan chính phủ quyền yêu cầu tắt hoặc hạn chế một công cụ AI.

Tuy nhiên, Tổng thống Mỹ Donald Trump đã bác bỏ các lời kêu gọi làm chậm phát triển AI, viết trên mạng xã hội rằng "AI thống trị thế giới, hủy diệt nhân loại và mọi thứ tồi tệ khác là một TRÒ LỪA ĐẢO". Ông sau đó so sánh nỗi sợ này với những lo ngại về "trò lừa đảo nóng lên toàn cầu".

Tại Anh, chính phủ gần đây cũng đã bác bỏ ý tưởng tạo công tắc ngắt, với người phát ngôn nói rằng nó "sẽ không ngăn được việc các công cụ AI bị phát triển hoặc lạm dụng ở nơi khác".

Ý nghĩa với ngành AI và người dùng

Anthropic — đơn vị tạo ra chatbot phổ biến Claude và đang được định giá 965 tỷ USD — hiện đang chuẩn bị cho đợt phát hành cổ phiếu lần đầu ra công chúng (IPO). OpenAI, với định giá gần nhất 852 tỷ USD, cũng được kỳ vọng sẽ làm điều tương tự, nhưng CEO Sam Altman cho biết việc này sẽ không diễn ra trong năm nay do cuộc tranh luận hiện tại về an toàn AI.

Đối với người dùng Việt Nam và cộng đồng công nghệ toàn cầu, câu chuyện này đặt ra một câu hỏi quan trọng: Ai sẽ là người quyết định khi nào một hệ thống AI cần bị "rút phích cắm"? Và liệu một cơ chế như vậy, nếu được quy định bắt buộc, có thực sự đủ để bảo vệ nhân loại trước những rủi ro khó lường của AI?

"Chúng ta đang đổ xúc xắc với những rủi ro khổng lồ. Và vấn đề là chúng ta phải thay đổi hướng đi của ngành công nghiệp này."