Giáo hoàng Leo XIV cảnh báo về AI: Bỏ qua AGI để tập trung bảo vệ nhân phẩm con người

Vào thứ Hai vừa qua, Giáo hoàng Leo XIV đã công bố một thư chung mang tên Magnifica Humanitas, đề cập trực tiếp đến các tác động xã hội của trí tuệ nhân tạo (AI). Văn kiện này đưa ra một lời cảnh báo mạnh mẽ: "việc sử dụng AI không bao giờ là vấn đề thuần túy kỹ thuật; khi nó tham gia vào các quy trình ảnh hưởng đến cuộc sống con người, nó chạm đến quyền lợi, cơ hội, địa vị và tự do".

Giáo hoàng và các nhà lãnh đạo công nghệ

Đáng chú ý, bên cạnh Giáo hoàng tại sự kiện là Christopher Olah, đồng sáng lập Anthropic và trưởng nhóm giải thích khả năng của mô hình. Sự hiện diện này đánh dấu sự hợp tác giữa Giáo hội Công giáo và một trong những "ông lớn" trong lĩnh vực AI.

Phản ứng từ giới công nghệ

Thư chung của Giáo hoàng đã thu hút nhiều phản ứng trái chiều từ trong và ngoài ngành công nghệ. Hầu hết mọi người đều đồng ý rằng văn kiện này sẽ có sức ảnh hưởng lớn. Tuy nhiên, một số nhà phê bình cho rằng nó chưa đi sâu đủ, trong khi những người khác lại băn khoăn về việc tại sao nó không đề cập đến Trí tuệ nhân tạo tổng quát (AGI) – khái niệm về siêu trí tuệ mà nhiều công ty khẳng định đang đến rất gần.

Sacha Haworth, giám đốc điều hành của Tech Oversight Project, nhận định rằng đây là một lời chỉ trích gián tiếp nhưng rõ ràng đối với các CEO công nghệ: "Những người đang công khai tuyên bố sa thải nhân sự để thay thế 'vốn con người giá trị thấp' bằng AI, và đang dùng tiền để mua quyền viết luật theo hướng có lợi cho họ".

Bối cảnh này xuất hiện khi làn sóng phản đối quyền lực ngày càng tăng của AI đang gia tăng. Khảo sát cho thấy 60% người trưởng thành tại Mỹ cảm thấy họ có "ít hoặc không có quyền kiểm soát" đối với cách AI được sử dụng trong cuộc sống hàng ngày. Các cuộc biểu tình phản đối việc xây dựng trung tâm dữ liệu ngày càng phổ biến, và thậm chí đã có những nỗ lực tấn công nhằm vào các CEO của công ty AI.

Chiến lược của Anthropic và vấn đề AGI

Sự xuất hiện của Olah cho thấy thông điệp của Giáo hoàng nhìn nhận AI như một công nghệ có thể mang lại ứng dụng tích cực. Tuy nhiên, quyết định hợp tác với Vatican được xem là một nước đi chiến lược của Anthropic – công ty đã xây dựng thương hiệu dựa trên uy tín là một lựa chọn đáng tin cậy hơn so với các đối thủ. Gần đây, Anthropic đã vướng vào cuộc tranh luận với Lầu Năm Góc về giới hạn sử dụng AI quân sự, và mối liên hệ với một tổ chức tôn giáo quyền lực có thể giúp củng cố vị thế của họ.

Một khía cạnh gây tranh cãi trong giới công nghệ là việc văn kiện hoàn toàn không đề cập đến AGI hay siêu trí tuệ. Mặc dù thừa nhận các hệ thống AI thường vượt trội hơn con người về tốc độ và khả năng tính toán, thư chung khẳng định chúng "thiếu góc độ cảm xúc, quan hệ và tâm linh thông qua đó con người phát triển sự khôn ngoan".

Dean W. Ball, một thành viên cấp cao tại Foundation for American Innovation, cho rằng thư chung sẽ tốt hơn nếu ít thiên về các quan điểm truyền thống của giới học thuật/dân sự và tham gia sâu hơn vào hướng đi tương lai của AI. Ngược lại, nhiều người trong giới Công giáo và công nghệ lập luận rằng mục đích của văn kiện không phải là bàn về kỹ thuật.

"Đó không phải là về AI. Đó là về việc bảo vệ con người trong kỷ nguyên AI", Sister Susan Francois, trợ lý bề trên của Dòng Sisters of St. Joseph of Peace, chia sẻ với The Verge.

Rủi ro hệ thống thay vì viễn tưởng AGI

Đối với một số người, việc bỏ qua AGI không phải là thiếu sót, mà là sự tập trung đúng đắn vào tác động thực tế của AI đối với các cộng đồng dễ bị tổn thương hiện nay, thay vì những rủi ro tiềm năng trong tương lai xa vời.

Aaron Fulkerson, CEO của Opaque Systems, nhận định Giáo hoàng đang thực sự nhìn vào hệ thống và làm nổi bật một rủi ro mang tính hệ thống mà nhiều người trong ngành công nghệ nhận thấy. "Tôi không nói về AGI. Tôi đang nói về nền kinh tế toàn cầu của chúng ta".

Ngay cả trước làn sóng AI hiện tại, sự tập trung của ngành công nghệ đã tiềm ẩn nguy hiểm. Các sự cố như lỗi của CrowdStrike hay sự cố tại Amazon Web Services (AWS) đã tê liệt các ngân hàng, bệnh viện và hàng không trên toàn cầu. Theo Fulkerson, rủi ro đối với nền kinh tế toàn cầu chỉ tăng lên khi quyền lực tập trung vào tay một vài phòng thí nghiệm AI.

"Chúng ta đang bước đi trong mộng vào một thế giới nơi một hoặc hai phòng thí nghiệm là hạ tầng nhận thức của mọi ngành công nghiệp trên Trái đất – điều đó có nghĩa là nhân loại ít khả năng phục hồi hơn, chứ không phải năng lực hơn".

Trong thư chung, Giáo hoàng đã so sánh AI với Tháp Babel, một cấu trúc mà ông mô tả là "được hỗ trợ bởi sự đồng nhất loại bỏ sự đa dạng và chọn sự đồng nhất hóa thay vì sự hiệp thông". Thế giới phải "tránh 'hội chứng Babel'", ông viết, đó là "sự sùng bái lợi nhuận hy sinh người yếu, sự đồng nhất hóa trung hòa hóa sự khác biệt, và sự giả vờ rằng một ngôn ngữ duy nhất – ngay cả ngôn ngữ kỹ thuật số – có thể dịch mọi thứ, bao gồm cả bí ẩn của con người, thành dữ liệu và hiệu suất".

Trong quan điểm của ông, AI không chỉ là một công nghệ mới, mà là một cuộc đấu tranh mang tính Kinh Thánh. "Rủi ro phi nhân hóa là một cám dỗ cổ xưa và luôn mới, ngày nay nó mang một hình thức kỹ thuật". Trọng lượng của những tuyên bố này, chứ không phải các chi tiết kỹ thuật, có lẽ sẽ là tác động lâu dài nhất của văn kiện.