Vua Anh Charles III lo ngại về AI: "Cần kiểm soát trước khi quá muộn"

Vua Charles III của Anh vừa có những phát biểu đáng chú ý về trí tuệ nhân tạo (AI) tại một hội nghị thượng đỉnh kín tổ chức ngày thứ Năm tại Dumfries House, Scotland. Sự kiện quy tụ những gương mặt quyền lực nhất của ngành AI và chính phủ Anh, bao gồm CEO Nvidia Jensen Huang, đại diện từ OpenAI và Anthropic, Bộ trưởng AI mới của Anh Kanishka Narayan, cùng người đứng đầu cơ quan tình báo đối ngoại nước này.

Điều đáng chú ý là hoàng gia Anh thường rất thận trọng trong các vấn đề chính trị vì lý do hiến pháp, trong khi AI đang là một trong những chủ đề nóng nhất toàn cầu hiện nay. Việc nhà vua trực tiếp lên tiếng cho thấy mức độ nghiêm trọng mà ông nhìn nhận về công nghệ này.

Nhà vua kêu gọi kiểm soát AI trước khi quá muộn

Phát biểu tại hội nghị, Vua Charles III nhấn mạnh sự phát triển nhanh chóng của AI là điều "vừa hấp dẫn vừa đáng lo ngại sâu sắc". Ông kêu gọi các nhà lãnh đạo trong phòng họp tìm cách kiểm soát AI "trước khi quá muộn".

"AI đã cho thấy năng lực to lớn trong việc cải thiện và cứu sống con người. Tuy nhiên, chính những người tạo ra các công nghệ này giờ đây ngày càng cảnh báo rằng AI có nguy cơ phát triển những khả năng đen tối hơn, thậm chí có thể lấy đi mạng sống."

Phát biểu này được đưa ra chỉ vài tuần sau khi một nhà nghiên cứu của Anthropic nghỉ việc và công khai viết rằng các công ty AI đang "chạy đua để chế tạo những cỗ máy thông minh hơn bất kỳ con người nào" và rằng nhân loại "có thể không sống sót qua điều này".

Nhà vua tiếp tục nhấn mạnh sự cấp thiết của việc xem xét đúng mức những "hiểm họa hiện hữu" nếu công nghệ này rơi vào tay kẻ xấu và bị sử dụng theo những cách "có khả năng gây thảm họa".

Cân bằng giữa đổi mới và giá trị vĩnh cửu

Khi kết thúc bài phát biểu, Vua Charles III kêu gọi các nhà lãnh đạo tìm cách khai thác mặt tốt của AI và xây dựng hợp tác quốc tế để đạt được mục tiêu đó.

"Nhiệm vụ trước mắt các bạn không chỉ là thúc đẩy công nghệ, mà là đảm bảo nó phục vụ con người, cộng đồng và thế giới tự nhiên. Khi đón nhận những gì mới mẻ, chúng ta không được đánh mất những gì trường tồn."

Vua Charles III, Demis Hassabis và Jensen Huang tại hội nghị AI ở Scotland

Theo các nguồn tin, nhà vua chỉ ở lại khoảng 20 phút trước khi rời đi để các khách mời tự thảo luận. Về phía các công ty công nghệ, OpenAI cử Giám đốc tài chính Sarah Frair tham dự, trong khi Anthropic cử Tino Cuéllar, người phụ trách các vấn đề toàn cầu. Ông Cuéllar cho biết công ty "lấy làm vinh dự" khi được tham gia thảo luận và cảm ơn nhà vua vì đã "tập hợp các nhà lãnh đạo ngành và tiếng nói từ khắp xã hội để bàn về vai trò của AI trong việc phục vụ lợi ích công cộng".

Bối cảnh chia rẽ trong ngành AI

Đây không phải lần đầu Vua Charles III nói về những thách thức và lợi ích của AI, khi ông từng đề cập vào năm 2023 và 2024. Tuy nhiên, hội nghị lần này đặc biệt thời sự khi AI tiếp tục chi phối mọi ngành nghề và mọi cuộc thảo luận.

Sự kiện diễn ra trong bối cảnh ngành AI đang chia rẽ sâu sắc. Trong tháng này, CEO OpenAI Sam Altman, Elon Musk và CEO Anthropic Dario Amodei đã kêu gọi giảm tốc độ phát triển AI, nhưng CEO Nvidia Jensen Huang và Tổng thống Mỹ Donald Trump nhanh chóng bác bỏ lời kêu gọi đó.

"Chúng ta đang dẫn đầu Trung Quốc về AI. Chúng ta là quốc gia tinh vi nhất thế giới, và tôi muốn giữ nguyên điều đó bởi ai thắng AI, người đó thắng tất cả."

Điều này cho thấy mức độ phức tạp của vấn đề khi lợi ích của Big Tech, chính trị và xã hội va chạm nhau. Trong năm qua, OpenAI và Anthropic từng úp mở về các thương vụ IPO hoành tráng, dù gần đây OpenAI cho biết kế hoạch IPO đã bị đình trệ trong năm nay do những lo ngại về an toàn AI vẫn còn dai dẳng.

Câu chuyện về việc một vị vua lên tiếng can thiệp vào cuộc tranh luận toàn cầu về AI cho thấy công nghệ này đã vượt ra khỏi phạm vi phòng thí nghiệm và trở thành vấn đề của toàn xã hội. Với các độc giả Việt Nam, đây cũng là lời nhắc nhở rằng việc xây dựng khung quản trị AI phù hợp — cân bằng giữa đổi mới sáng tạo và kiểm soát rủi ro — sẽ là bài toán cấp thiết cho mọi quốc gia, không chỉ các cường quốc công nghệ.