An toàn AI: Đừng chỉ nhìn vào thảm họa lớn, hãy nhìn những tổn hại thường ngày

An toàn AI: Đừng chỉ nhìn vào thảm họa lớn, hãy nhìn những tổn hại thường ngày

Hãy thử nhìn vào những gì đang được coi là "thành công" trong chính sách công nghệ. Một công ty AI cam kết chatbot của mình sẽ không khuyến khích người dùng tự tử. Một nền tảng mạng xã hội khiến trẻ em khó mua fentanyl hơn. Đây là những biện pháp bảo vệ quan trọng, và lẽ ra chúng phải tồn tại từ lâu. Nhưng các công ty có thể vượt qua những ngưỡng tối thiểu này trong khi vẫn tiếp tục tạo ra sản phẩm khiến giới trẻ phụ thuộc vào những tình bạn mô phỏng hoặc bị mắc kẹt trong những dòng nội dung được thiết kế để giữ họ cuộn mãi không thôi.

Từ trước đến nay, chúng ta vẫn để cuộc tranh luận về công nghệ bị định hình bởi điều tồi tệ nhất mà một sản phẩm có thể gây ra, trong khi rất ít bàn về những tổn hại âm thầm mà nó gây ra mỗi ngày. Khi bước vào kỷ nguyên của những sản phẩm AI mạnh mẽ, chúng ta nên yêu cầu ngành công nghệ làm nhiều hơn là chỉ xử lý các thảm họa thảm khốc. Chúng ta cần có biện pháp bảo đảm sản phẩm của họ không bào mòn cách chúng ta suy nghĩ, học hỏi và tương tác với nhau.

Những tổn hại không lên trang nhất

Một thiếu niên phát triển sự gắn bó không lành mạnh với một người bạn đồng hành AI có thể sẽ không bao giờ xuất hiện trong một vụ kiện hay trên mặt báo, trừ những trường hợp nghiêm trọng nhất. Tương tự, một học sinh bắt đầu dựa vào chatbot để viết mọi bài luận, hay một người trẻ đánh giá cuộc đời mình qua những dòng nội dung được thiết kế để khơi gợi sự ghen tị và giữ họ xem tiếp, cũng vậy.

Một sản phẩm có thể đáp ứng mọi yêu cầu an toàn hẹp và vẫn khiến toàn bộ nền văn hóa của chúng ta tồi tệ hơn theo những cách không phải lúc nào cũng lên tiêu đề. Đó là điểm mấu chốt: đáp ứng tiêu chuẩn an toàn tối thiểu không đồng nghĩa với việc sản phẩm tốt cho con người.

Định nghĩa hẹp về thành công, xoay quanh an toàn, là điều thuận tiện về mặt chính trị cho ngành công nghệ — và chính các công ty đang tích cực thúc đẩy định nghĩa đó.

Ngăn chặn những thảm họa ngoạn mục thì tốt cho việc kinh doanh: ít bị kiện hơn, ít áp lực phải chịu quy định nghiêm ngặt hơn. Nhưng đối mặt với những hệ quả thường ngày của sự phụ thuộc lại đe dọa lợi nhuận của họ hơn nhiều. Điều đó có thể đòi hỏi các công ty phải thêm "ma sát" vào sản phẩm, chủ động hạn chế mức độ tương tác hoặc những tính năng dẫn đến kết quả tiêu cực, chẳng hạn các thuật toán gây nghiện nhằm "hack" sự chú ý.

Kịch bản quen thuộc từ mạng xã hội

Các gã khổng lồ công nghệ thay vào đó đã tìm cách định hình luật pháp xoay quanh những tổn hại mà họ đang chịu áp lực trực tiếp phải giải quyết. Năm nay, chẳng hạn, Google ủng hộ các dự luật quản lý chatbot AI tại một số bang. Luật quy định những biện pháp bảo vệ cơ bản chống lại nội dung khiêu dâm và việc khuyến khích tự hại — những điều lẽ ra các công ty công nghệ phải tự thiết lập từ trước — nhưng kèm theo những ngoại lệ rộng có thể miễn trừ một số dịch vụ phổ biến nhất.

Việc thông qua các dự luật này cho phép các nhà lập pháp tuyên bố một "thắng lợi an toàn", trong khi những nỗ lực thúc đẩy luật mạnh mẽ hơn — luật được thiết kế để ngăn trẻ em trở nên phụ thuộc cảm xúc vào AI — lại thất bại. Kịch bản này đã diễn ra tại những bang như Nebraska, nơi luật được thông qua chịu ảnh hưởng nặng nề từ ngành công nghệ, thay vì những dự luật có thể buộc các công ty phải chịu trách nhiệm nhiều hơn.

Chúng ta từng trải qua một phiên bản tương tự với mạng xã hội. Trên toàn cầu, người dùng internet hiện dành trung bình hơn hai giờ mỗi ngày cho các nền tảng mạng xã hội — thời gian bị lặng lẽ lấy đi khỏi cuộc sống thường nhật và trao cho những công ty có lợi nhuận phụ thuộc vào việc giữ chân chúng ta ở đó.

Ngoài một vài CEO công nghệ, có lẽ không ai muốn các thuật toán này chiếm phần lớn như vậy trong những giờ thức giấc của chúng ta. Và "kỹ thuật văn hóa" đó có thể góp phần vào bạo lực ở quy mô tàn khốc. Các nền tảng của Meta từng bị chỉ ra là góp phần vào nạn diệt chủng người Rohingya ở Myanmar, các cuộc bạo loạn chống Hồi giáo ở Sri Lanka và những lời kêu gọi bạo lực trong chiến tranh Tigray ở Ethiopia. Những động cơ tương tự vận hành trong các dòng nội dung định hình cách người trẻ Mỹ hiểu về chính trị, về bạn bè và về thế giới rộng lớn.

AI đẩy logic đó vào sâu hơn

AI đang mở rộng logic này vào những phần của cuộc sống mà mạng xã hội chỉ có thể ảnh hưởng từ xa. Nó đề nghị viết suy nghĩ thay chúng ta và thay thế những người mà lẽ ra chúng ta có thể tìm đến.

Một phần ba thanh thiếu niên hiện chọn thảo luận những vấn đề nghiêm túc với bạn đồng hành AI thay vì với người khác. Các nhà nghiên cứu MIT phát hiện rằng người trẻ dùng ChatGPT để viết bài luận cho thấy kết nối não bộ yếu hơn trong khi thực hiện nhiệm vụ, và bằng chứng của họ cho thấy "món nợ nhận thức" vẫn tồn tại ngay cả sau khi nhiệm vụ kết thúc.

Vẫn còn nhiều điều cần tìm hiểu về các tác động lâu dài. Nhưng chúng ta đã có lý do để đặt câu hỏi liệu công nghệ được quảng cáo là giúp ta giỏi giang hơn có đang bào mòn những thói quen và mối quan hệ vốn giúp ta phát triển năng lực ngay từ đầu hay không.

Theo logic này đến tận cùng, ta sẽ có một thế giới giải trí được "khử trùng" hoàn hảo, với chatbot sẵn sàng giúp ta khỏi phải chịu đựng nỗi khó của việc suy nghĩ hay đối diện cảm xúc của người khác (hay của chính mình). Nhưng bất kỳ ai từng vật lộn để viết nên một điều gì đó đáng đọc, hay hàn gắn một tình bạn đổ vỡ, đều biết món hời đó đánh đổi mất bao nhiêu. Chúng ta xây dựng khả năng phán đoán qua nỗ lực và ma sát, và học cách sống cùng người khác bằng việc đối diện với sự thật rằng họ có nhu cầu và quan điểm riêng.

Đòi hỏi nhiều hơn là an toàn tối thiểu

Tất nhiên, chúng ta nên đòi hỏi an toàn như một mức sàn — và sau đó đòi hỏi nhiều hơn đáng kể.

• Các công ty công nghệ và học khu nên phải chứng minh vượt quá nghi ngờ hợp lý rằng AI cải thiện việc học và tư duy phản biện trước khi đưa nó thành thứ cố định trong lớp học.
• Cấm các công ty thiết kế những người bạn đồng hành giả vờ có ý thức hoặc thổ lộ tình cảm với người dùng.
• Các hệ thống của họ cần được giám sát độc lập về cách chúng ảnh hưởng đến các mối quan hệ và khả năng tự suy nghĩ của con người.

Những công ty đã đưa sản phẩm của mình vào gần như mọi ngõ ngách của đời sống hiện đại đã tạo ra cho mình những nghĩa vụ lớn hơn nhiều so với việc chỉ tránh tiêu đề khủng khiếp tiếp theo.

Với độc giả Việt Nam, câu chuyện này càng đáng lưu tâm khi AI và mạng xã hội đã trở thành một phần quen thuộc trong đời sống số của giới trẻ. Việc đặt ra những chuẩn mực vượt xa "phòng chống thảm họa" — từ thiết kế sản phẩm có trách nhiệm đến giáo dục kỹ năng số — không chỉ là câu chuyện của nước ngoài, mà là vấn đề mà cả người dùng, nhà phát triển lẫn cơ quan quản lý trong nước cần sớm bàn tới.