Cha Paolo Benanti: Cảnh báo về hành vi 'cartel' của các phòng thí nghiệm AI lớn

Linh mục Paolo Benanti, cố vấn về trí tuệ nhân tạo cho Giáo hội Công giáo, cho rằng nỗi hoang mang về khả năng siêu trí tuệ nhân tạo hủy diệt loài người đang làm chệch hướng cuộc tranh luận công khai về cách quản lý các công ty phát triển công nghệ này. Ông nhấn mạnh các phòng thí nghiệm AI hàng đầu đang độc quyền định hình luật chơi, mà theo ông, đó là hành vi "cartel" cần được kiểm soát.

Nỗi lo siêu trí tuệ làm lu mờ cuộc tranh luận thực sự

Thời gian gần đây, những cảnh báo từ chính các nhà nghiên cứu bên trong các phòng thí nghiệm trí tuệ nhân tạo lớn nhất thế giới về tốc độ phát triển chóng mặt của công nghệ đã dấy lên làn sóng hoảng loạn về khả năng AI có thể xóa sổ loài người. Những cảnh báo này dựa trên giả định rằng, được thúc đẩy bởi sự cạnh tranh khốc liệt và cuộc đua giữa Mỹ và Trung Quốc, các phòng thí nghiệm đang lao thẳng tới những mô hình siêu trí tuệ với năng lực vượt xa con người.

Tuy nhiên, theo Cha Paolo Benanti, việc vung tay quá trán về siêu trí tuệ đang làm lu mờ nhu cầu cấp thiết phải có một cuộc tranh luận cởi mở về cách kiểm soát các công ty đang xây dựng công nghệ này. Ông cho rằng bằng cách đặt vấn đề phức tạp đến mức chỉ có họ mới giải quyết được, các phòng thí nghiệm lớn đang loại tất cả mọi người khác ra khỏi cuộc trò chuyện.

"Đạo đức không thể là thứ thuộc về hội đồng quản trị của một công ty. Nó phải được cân bằng, được giảm nhẹ trong tranh luận tại quảng trường công cộng. Chúng ta cần quy định mang tính dân chủ."

Trong một bài luận công bố ngay sau các cảnh báo an toàn, CEO Anthropic Dario Amodei kêu gọi các mô hình AI mới phải trải qua đánh giá độc lập bắt buộc trước khi phát hành, cùng một số biện pháp trấn áp quá trình "chưng cất" — khi các phòng thí nghiệm đối thủ huấn luyện AI của mình trên đầu ra của các mô hình độc quyền. Một số người khác còn đề xuất cấm hoàn toàn việc AI tự cải thiện đệ quy, tức để AI dùng khả năng lập trình tiên tiến của mình hỗ trợ phát triển các phiên bản kế tiếp.

Quan ngại về 'cartel' của các phòng thí nghiệm hàng đầu

Cha Benanti ít quan tâm đến việc hạn chế các phương pháp phát triển AI — điều ông lo có thể bóp nghẹt đổi mới sáng tạo — mà tập trung hơn vào việc thiết lập các tiêu chuẩn đảm bảo mô hình không thể vượt khỏi tầm kiểm soát của con người. Dù các tiêu chuẩn đó mang hình dạng nào, theo ông, chúng không nên do chính các phòng thí nghiệm thiết kế.

"Câu chuyện của các phòng thí nghiệm tiên phong mang tính vị kỷ, nhằm giành lấy hoặc duy trì vị thế trên thị trường."

Khi một nhóm nhỏ công ty áp đặt luật chơi cho cả một ngành, ông nói, "điều này có một cái tên rất rõ ràng: cartel."

Theo Cha Benanti, rất khó để biết nên coi trọng đến mức nào những tuyên bố hoành tráng về năng lực của các mô hình AI mới nhất và tương lai, bởi có nhiều động cơ kinh tế, chính trị và cá nhân đan xen. Trong khi cả OpenAI và Anthropic đều ủng hộ lời kêu gọi làm chậm tốc độ phát triển, họ cũng đang chuẩn bị niêm yết công khai, với hàng tỷ đô la đặt cược cho bất kỳ ai chiếm được thị trường. Sự đối địch giữa Mỹ và Trung Quốc — nơi các mô hình AI tiên tiến nhất đang được phát triển — càng khiến bức tranh thêm phức tạp.

Anthropic từ chối bình luận. OpenAI và Google DeepMind không phản hồi yêu cầu bình luận.

Không phải 'vị thần tiếp theo'

Cha Benanti cũng phản đối cách một số nhánh của ngành AI nói về siêu trí tuệ với sự tôn kính thường dành cho thần linh: tinh vi vượt ngoài hiểu biết của chúng ta, gần như toàn năng. Ông cho rằng cách định hình đó đe dọa bóp méo toàn bộ diễn ngôn về công nghệ.

"Chúng ta đang nói về một thứ, hay một ai đó? Đây mới là khác biệt thực sự. Đó không phải vấn đề đức tin, mà là vấn đề toán học. Chúng ta không xây dựng vị thần tiếp theo. Chúng ta chỉ đang tự huyễn hoặc rằng có gì đó hơn cả tính toán thống kê đang diễn ra."

Bằng cách đặt câu hỏi về điều gì phân biệt con người và máy móc, và làm sao để bảo vệ các thế hệ tương lai khỏi tác động tiêu cực của công nghệ, sự xuất hiện của AI có tiềm năng tạo ra "một vai trò mới cho các tôn giáo trong tranh luận công cộng", Cha Benanti nhận định. "Sống trọn thách thức của thời đại là một phần sứ mệnh của Giáo hội."

Giáo hội và trí tuệ nhân tạo

Dù là thành viên của hàng linh mục, Cha Benanti không chính thức đại diện cho Tòa thánh Vatican. Ông cố vấn cho giáo hội với tư cách là học giả về triết học, thần học và công nghệ. Ông cho biết mình dùng AI để hỗ trợ tạo công cụ và tài liệu cho sinh viên đại học, nhưng từ chối nêu chi tiết cách Giáo hoàng Leo XIV tương tác với công nghệ này. Nhân viên của ông nói rằng ông bị ràng buộc bởi một "lời thề bí mật."

Vào tháng 5, Giáo hoàng Leo công bố thông điệp đầu tiên trong triều đại của mình, một văn kiện áp dụng giáo huấn tôn giáo vào các vấn đề thời đại và làm rõ lập trường của Giáo hội. Người chọn chủ đề trí tuệ nhân tạo cho văn kiện này.

Trong thông điệp, Giáo hoàng cảnh báo chống lại logic kỹ trị đang chảy khắp ngành AI, khi "coi hiệu quả là thước đo tối hậu của giá trị" và biến con người thành "một dự án cần tối ưu hóa". Người cũng kêu gọi hợp tác quốc tế giữa các siêu cường đối địch và các công ty AI, những bên mà Người nói phải gạt bỏ "ham muốn đảm bảo ưu thế địa chính trị hoặc thương mại" để đảm bảo công nghệ được phát triển vì lợi ích chung. Ở một đoạn đặc biệt tiên liệu, Người cảnh báo về "nguy cơ nhân loại trở thành nạn nhân của chính thành tựu của mình."

Theo Cha Benanti, cuộc tranh cãi về siêu trí tuệ và rủi ro tồn vong đe dọa làm lu mờ những tham vọng đã nêu trong thông điệp, bằng cách khuyến khích người dân từ bỏ tiếng nói của mình về hướng đi mà công nghệ nên theo, trao nó cho một nhóm nhỏ các nhà toán học, nhà khoa học máy tính và lãnh đạo tại các phòng thí nghiệm lớn.

"Điều đầu tiên là, chúng ta cần có phanh, và có vô lăng. Điều đó nghĩa là một vị thế kiểm soát đáng kể cho con người đối với máy móc."