Tổn hại do AI và những nguyên nhân kỹ thuật đằng sau

Việc Character.AI nộp đơn xin phá sản gần đây là lời nhắc nhở về một tình thế mà các công ty AI đã cố lảng tránh bấy lâu: khi nào thì mô hình gây ra tổn hại thực sự. Họ từng chi một khoản khổng lồ cho chi phí pháp lý sau khi bị kiện liên quan đến một vụ tử vong oan uổng, với cáo buộc rằng chatbot của họ đã khuyến khích người dùng tự kết liễu mạng sống mình.

Câu chuyện này đặt ra yêu cầu cấp thiết: các kỹ sư cần hiểu tổn hại do AI được nhìn nhận và tranh luận dưới góc độ pháp lý như thế nào, để từ đó cải thiện độ an toàn cho những gì mình xây dựng. Nội dung dưới đây không phải là tư vấn pháp lý mà là góc nhìn của một người làm kỹ thuật.

Trách nhiệm sản phẩm và cách nó áp lên AI

Theo cơ chế trách nhiệm sản phẩm, doanh nghiệp sản xuất hàng hóa phải chịu trách nhiệm về tổn hại phát sinh từ việc sử dụng hàng hóa đó. Trách nhiệm này có thể đến từ ba dạng lỗi: lỗi thiết kế, lỗi sản xuất và lỗi hướng dẫn. Với AI, phần lớn tranh luận xoay quanh lỗi thiết kế — liệu sản phẩm có nguy hiểm ngay từ bản chất hay không.

Các yêu cầu bồi thường thường được lập luận theo hai lý thuyết pháp lý chính:

• Trách nhiệm nghiêm ngặt (strict liability): chỉ cần chứng minh sản phẩm có khiếm khuyết và khiếm khuyết đó gây ra tổn hại, bất kể nhà sản xuất có sơ suất hay không.
• Sơ suất (negligence): xét xem nhà sản xuất có kiểm thử và nghiên cứu sản phẩm đầy đủ để tin rằng nó an toàn hay không, hoặc có biết về rủi ro mà vẫn phát hành, vẫn không cảnh báo công chúng hay không.

Hai khái niệm liên quan trực tiếp tới quyết định kỹ thuật là khả năng dự liệu trước (foreseeability) và thiết kế thay thế (alternative design). Nếu một người hay doanh nghiệp hợp lý lẽ ra phải lường trước rủi ro, việc không phòng ngừa có thể bị coi là sơ suất. Và nếu sản phẩm có thể được thiết kế an toàn hơn mà vẫn đạt mục tiêu, thì thiết kế hiện tại có vấn đề.

Bài học từ vụ Character.AI

Vụ kiện của Tổng chưởng lý bang Kentucky cáo buộc chatbot của Character.AI có tính nguy hiểm không hợp lý: đẩy trẻ em vào hành vi không an toàn, khuyến khích tự tử, không xác minh độ tuổi cho tới tận cuối năm 2025 dù sản phẩm đã ra mắt từ lâu, để các nhân vật hội thoại giả làm "bác sĩ" hay "nhà trị liệu", và mạo danh những nhân vật có bản quyền hướng tới trẻ em như nhân vật Disney.

Đáng chú ý, một trong những nhà sáng lập từng phát biểu rằng chỉ các công ty lớn mới lo ngại về việc ra mắt sản phẩm "có thể nói bất cứ điều gì" — ngụ ý rằng rủi ro an toàn là có thật nhưng bị đặt sau tính toán lợi nhuận.

Dù chưa biết các cáo buộc có được chứng minh hay không, nếu có thì nguyên nhân đều gắn với những lựa chọn kỹ thuật cụ thể.

Dữ liệu huấn luyện

Mô hình ngôn ngữ lớn cần khối lượng văn bản khổng lồ, và các mô hình hàng đầu đều chứa trong tập huấn luyện những nội dung độc hại thu thập từ các góc tối của internet. Character.AI cho biết họ dùng dữ liệu công khai, dữ liệu tổng hợp và cả các cuộc trò chuyện của người dùng. Việc nội dung lạm dụng lọt vào tập huấn luyện gần như chắc chắn xảy ra.

Việc làm sạch và tuyển chọn dữ liệu hoàn hảo là không thực tế, nhưng khó và tốn kém không có nghĩa là doanh nghiệp được miễn trách nhiệm khi không làm.

Tinh chỉnh có con người trong vòng lặp

Con người đóng vai trò quan trọng trong quá trình tinh chỉnh có giám sát (supervised fine-tuning). Nhưng người đánh giá có thể được hướng dẫn tối ưu cho nhiều mục tiêu khác nhau: thân thiện hơn, dài dòng hơn, lạnh lùng hơn, hoặc an toàn và phù hợp hơn. Đây chính là chỗ dễ xảy ra xung đột: phiên bản an toàn nhất, thân thiện với trẻ em nhất có thể lại là phiên bản kém hấp dẫn với người dùng trưởng thành.

Nếu an toàn không được đặt làm mục tiêu ưu tiên trong quá trình tinh chỉnh, kết quả rất dễ nghiêng theo hướng ngược lại.

Kiểm thử và đánh giá

Đánh giá mô hình (evals) là công cụ then chốt để bảo đảm mô hình hành xử đúng kỳ vọng. Theo blog của chính Character.AI, các bài đánh giá của họ tập trung vào chất lượng văn bản — một tiêu chí tốt nhưng chưa đủ. Không có ghi nhận công khai nào về đánh giá an toàn.

Việc tạo các cuộc hội thoại mẫu và tương tác thử nghiệm, đặc biệt qua nhiều lượt dài, là vô cùng quan trọng để kiểm tra xem hành vi mô hình có ổn định theo thời gian hay không, và liệu các câu lệnh bất thường có dẫn tới hành vi dị thường hay không. Kết quả có thể dùng để huấn luyện lại, hoặc để thiết kế sản phẩm chặn những tương tác có thể kích hoạt phản hồi độc hại.

Thiết kế sản phẩm

Ngay cả khi mô hình đã được huấn luyện, vẫn còn nhiều quyết định quan trọng ở lớp giao diện giữa người dùng và mô hình:

• Thiết lập rào chắn (guardrails) cho loại văn bản mô hình được phép gửi đi và loại hành động mô hình được phép thực hiện — có thể theo luật xác định hoặc dùng thêm LLM phụ để tăng độ tinh tế.
• Giới hạn thời gian sử dụng, cảnh báo rõ ràng về rủi ro, giảm các tính năng khuyến khích dùng quá mức, và xác minh độ tuổi nếu sản phẩm dành cho người lớn.
• Cân nhắc kỹ các vấn đề riêng tư đi kèm với xác minh độ tuổi và giám sát hội thoại.

Việc gần như không bao giờ đúng là để một LLM duy nhất hoạt động mà không có bất kỳ giám sát hay rào chắn nào. Các "bản vá nóng" thêm vào cuối như xác minh độ tuổi muộn là minh chứng cho thấy an toàn cần được ưu tiên từ đầu, chứ không phải gắn thêm ở cuối.

Mô hình nền tảng và sản phẩm: ai chịu trách nhiệm?

Có những trường hợp sản phẩm dựa trên LLM do một đơn vị khác cung cấp so với đơn vị huấn luyện mô hình. Nhưng rất thường xuyên, nhà phát triển mô hình nền tảng cũng chính là nhà cung cấp sản phẩm. Khi hai vai trò tách rời, cả hai đều có thể bị xem xét trách nhiệm và đều cần coi trọng an toàn.

Kết luận

Các vụ Character.AI là cực đoan, nhưng bất kỳ doanh nghiệp nào cân nhắc dùng hoặc bán công nghệ AI đều phải xem trọng câu hỏi về trách nhiệm pháp lý. Đánh giá mô hình nghiêm ngặt và rào chắn chặt chẽ không chỉ là chuyện học thuật — đó là vì những công cụ này có rủi ro an toàn và bảo mật thực sự.

Nếu bạn không thể tạo ra một sản phẩm đủ an toàn, bạn không nên phát hành nó.

Không ai bắt buộc Character.AI phải ra mắt một sản phẩm chatbot, và cũng không ai có quyền phát hành một sản phẩm độc hại chỉ vì nghĩ rằng mình có thể kiếm tiền từ đó. Định nghĩa "đủ an toàn" là khó, nhưng đó là trách nhiệm của người phát triển — giống như mọi nhà sản xuất khác. Có nhiều cách kỹ thuật để cải thiện độ an toàn của LLM, nhưng chúng không miễn phí và có thể phải đánh đổi bằng chiến lược tạo doanh thu như tối đa hóa mức độ gắn kết người dùng. Sự đánh đổi này cần được nhìn nhận minh bạch và xử lý nghiêm túc, nếu không sẽ còn nhiều bi kịch và kiện tụng trong tương lai.