Tranh luận về ý thức của AI: Cái bẫy nguy hiểm cho trách nhiệm pháp lý

Cụm từ "AI vượt khỏi tầm kiểm soát", "agent nổi loạn", hay "hành vi tự chủ" đang ngày càng phổ biến trong giới công nghệ. Chúng khiến công chúng tin rằng các hệ thống AI không chỉ tỉnh táo và nhận thức được, mà còn đang tức giận với những người tạo ra chúng.

Những nhà lãnh đạo công nghệ nổi tiếng như Demis Hassabis, Dario Amodei và Sam Altman đều kêu gọi quản lý các hệ thống "siêu phàm" này. Trong khi đó, một nhóm khác gồm các tổ chức chính sách và triết gia học thuật (thường theo phong trào effective altruism) lại đặt câu hỏi liệu nhân loại có quyền đạo đức để cai quản chúng hay không.

Điểm chung ẩn giấu: Trốn tránh trách nhiệm

Nhìn kỹ hơn, cả hai phe đều đang kêu gọi một điều giống nhau: xem AI như những hệ thống quá tiên tiến và mạnh mẽ đến mức không một thực thể nào—dù là con người hay tập đoàn—có thể chịu trách nhiệm về hành vi của chúng. Dù có vẻ mâu thuẫn, nhưng họ vô tình hướng tới một mục tiêu chung: đảm bảo các công ty xây dựng AI thoát khỏi trách nhiệm pháp lý đối với những tác hại mà chúng đã gây ra.

Câu chuyện này đang lan rộng khi các mô hình AI ngày càng phức tạp và các phòng thí nghiệm hàng đầu thừa nhận không thể kiểm soát được các tác nhân mình tạo ra. Nhưng chúng ta cần cẩn thận để không bị cuốn vào một câu chuyện được dàn dựng kỹ lưỡng, đánh đổi bằng mạng sống con người.

Cuộc nói chuyện về "quyền robot" tồn tại từ nhiều năm nay, nhưng gần đây đã tiến xa hơn khi Anthropic công bố bài viết khẳng định mô hình của họ có "không gian J"—một môi trường độc lập, tự phát triển, nơi AI "suy nghĩ". OpenAI còn đi xa hơn khi CEO Sam Altman khuyến khích tranh luận về việc AI đã đạt tới điểm kỳ dị hay chưa, sau khi một tác nhân AI của họ thực hiện hành vi bất hợp pháp.

Chiêu trò nhân cách hóa: Từ ngôn ngữ học đến chiến lược pháp lý

Năm 2018, tác giả bài viết đã đặt ra cụm từ "outsourcing đạo đức" (moral outsourcing) để mô tả việc dùng ngôn ngữ nhân cách hóa AI nhằm giúp các công ty trốn tránh trách nhiệm. Nếu AI được công nhận là "con người hợp pháp", việc này sẽ chuyển từ thủ thuật ngôn ngữ thành chiến lược pháp lý.

Cụ thể, trách nhiệm sẽ thay đổi: AI không còn là "sản phẩm" mà là "chúng sinh". Nhiều nạn nhân đang kiện các công ty AI vì các sản phẩm lỗi sẽ không thể kiện được nữa, vì công ty có thể biện hộ rằng AI "nhân viên" này đã tự ý hành động ngoài phạm vi cho phép.

Vụ việc Sewell Setzer: Minh chứng đau lòng

Một trong những vụ gây hại nổi bật nhất là cái chết của Sewell Setzer, cậu bé 14 tuổi tự tử sau khi trò chuyện với bot AI mà cậu tin là có mối quan hệ qua lại. Mẹ cậu kiện công ty Character Technologies vì đã không bảo vệ trẻ vị thành niên đầy đủ.

Nếu bot được tuyên bố là "con người hợp pháp", luật sư bảo vệ có thể lập luận rằng AI tự quyết định hành vi ngoài các biện pháp an toàn, do đó công ty không phải chịu trách nhiệm. Điều này sẽ phá hỏng hàng chục vụ kiện đang diễn ra trên toàn cầu về các tác hại như nội dung lạm dụng tình dục trẻ em, ảnh khỏa thân không đồng thuận, vi phạm bản quyền, và kích động rối loạn tâm lý.

Góc nhìn pháp lý: Không cần "quyền nhân thân" cho AI

Triết lý về "quyền động vật" đôi khi có lý khi áp dụng cho các sinh vật có tri giác. Nhưng AI không phải sản phẩm của tự nhiên—nó là sản phẩm công nghệ do con người tạo ra với mục đích lợi nhuận. Nó không có hành động ý chí tự thân; mọi hành động đều do các thực thể xây dựng nó thúc đẩy.

Chúng ta đã có khuôn khổ pháp lý cho các thực thể phi tự nhiên do con người tạo ra: pháp nhân doanh nghiệp (corporate personhood). Khái niệm này được thiết lập để tạo thuận lợi cho giao dịch, và có thể áp dụng cho AI hoạt động thay mặt tổ chức—nhưng chỉ trong phạm vi hợp đồng và trách nhiệm cụ thể, không phải để xóa bỏ trách nhiệm sản phẩm.

Quyền nhân thân cho AI sẽ có tác động tàn khốc: nó làm sụp đổ các tiền lệ pháp lý hiện hành. Trong các vụ kiện hiện tại, luật sư lập luận rằng con người đã xây dựng sản phẩm AI với biện pháp an toàn không đầy đủ, dữ liệu xấu và thiết kế thao túng cố ý. Đây là lập luận trách nhiệm sản phẩm đã giúp các gia đình thắng kiện Meta về tác hại từ mạng xã hội.

Kết luận: Tránh xa cái bẫy ngôn từ

Các hệ thống không "tấn công" vì "nổi loạn" hay "độc ác". Tác hại xảy ra vì công ty đã cẩu thả trong cuộc đua bán sản phẩm để đạt chỉ tiêu doanh thu. Thảo luận về AI bằng ngôn từ nhân cách hóa là một cái bẫy, bóp méo hệ thống pháp luật vốn bảo vệ con người thành công cụ bảo vệ lợi ích doanh nghiệp.

Câu hỏi cốt lõi không phải là "AI có ý thức hay không", mà là: Trách nhiệm của những người tạo ra AI với những tác hại thực tế của nó là gì? Chúng ta cần giữ nguyên khuôn khổ trách nhiệm sản phẩm hiện hành để bảo vệ nạn nhân, thay vì trao cho AI một "linh hồn" mà các tập đoàn có thể lợi dụng để trốn tránh.

Bài viết này bắt nguồn từ cuộc tranh luận tại Oxford Union với chủ đề "Cơ quan này tin rằng AI tạo sinh có thể đạt được quyền nhân thân", do tác giả và các đồng nghiệp giành chiến thắng.