Nam Phi thu hồi chính sách AI do ChatGPT bịa ra tài liệu tham khảo: Bài học đắt giá về giám sát con người

Nam Phi vừa phải thu hồi dự thảo chính sách Trí tuệ Nhân tạo (AI) cấp quốc gia sau khi phát hiện văn bản này trích dẫn hàng loạt nguồn tin không có thật, xuất phát từ "sự tưởng tượng phong phú" của một chatbot.

Bộ Truyền thông và Công nghệ Số của Nam Phi đã xác nhận vào cuối tuần qua rằng dự thảo, vốn đã được Nội các thông qua và đang trong giai đoạn lấy ý kiến công chúng, đã bao gồm "nhiều nguồn tin hư cấu" trong danh mục tài liệu tham khảo.

Sai lầm nghiêm trọng và hậu quả

Bộ trưởng Truyền thông Solly Malatsi cho biết bộ đã kiểm tra lại dự thảo sau khi các báo cáo chỉ ra các tài liệu tham khảo giả mạo và kết quả là một số trích dẫn thực sự bịa đặt. Điều này dẫn đến quyết định rút lại văn bản ngay lập tức.

"Thất bại này không chỉ là một vấn đề kỹ thuật đơn thuần mà đã làm tổn hại đến tính toàn vẹn và uy tín của dự thảo chính sách," ông Malatsi đăng trên mạng xã hội X. Ông nhận định rằng các trích dẫn do AI tạo hình như đã lọt lưới mà không có bất kỳ ai thực hiện việc kiểm tra xác thực.

Hiện tại, văn bản đã bị gỡ bỏ và ông Malatsi cho biết những người liên quan đến việc soạn thảo và phê duyệt sẽ phải đối mặt với "quản lý hậu quả" thích đáng.

Bài học về giám sát con người

"Sự sơ suất không thể chấp nhận được này chứng minh tại sao sự giám sát chặt chẽ của con người đối với việc sử dụng trí tuệ nhân tạo lại quan trọng đến vậy. Đây là một bài học chúng tôi tiếp nhận với sự khiêm tốn," Bộ trưởng Malatsi nhấn mạnh.

Dự thảo chính sách hiện đã bị hủy bỏ từng được quảng bá là một khung pháp lý hướng tới tương lai, nói nhiều về "sự công bằng giữa các thế hệ" và lợi ích của AI cho thế hệ hiện tại cũng như tương lai. Tuy nhiên, giờ đây nó nổi tiếng nhất vì phần tài liệu tham khảo không thể đứng vững trước sự kiểm chứng.

Báo chí địa phương News24 đưa tin rằng có ít nhất sáu trích dẫn trong báo cáo là bịa đặt. Các chuyên gia nhận định các lỗi này khớp với hiện tượng "ảo giác" (hallucination) kinh điển của AI: nhìn bề ngoài rất thuyết phục nhưng bên trong hoàn toàn bịa đặt.

Sau khi bài báo của News24 được công bố, Khusela Sangoni-Diko, chủ tịch của ủy ban giám sát bộ, đã công khai yêu cầu ông Malatsi rút tài liệu trước khi nó gây thêm sự xấu hổ. Bà cũng đề nghị rằng bản dự thảo lại nên "bỏ qua việc dùng ChatGPT lần này", đồng thời cho rằng chính phủ nên ngừng tìm kiếm kẻ tế sinh, hay "kẻ tế sinh là robot".

Không phải là trường hợp duy nhất

Về tổng thể, đây là một hình ảnh không tốt đẹp chút nào đối với một chính phủ đang cố gắng đặt ra các quy tắc cho AI khi chính sách của họ lại không vượt qua được một bài kiểm tra tính xác thực cơ bản. Và đây cũng không hẳn là một sự cố hi hữu.

Vào năm ngoái, The Register đã đưa tin về việc Deloitte phải giúp dọn dẹp một báo cáo của chính phủ Úc sau khi các trích dẫn do AI tạo ra và thậm chí là một trích dẫn tòa án bịa đặt đã lọt lưới. Đây là một lời nhắc nhở rằng việc để máy móc viết văn bản là một chuyện, còn việc kiểm tra lại chúng là một chuyện hoàn toàn khác.

Nam Phi hiện đã học được bài học này theo cách đắt giá nhất. Khi chính sách AI quốc gia của bạn không thể phân biệt được nguồn tin thật và giả, có lẽ nó chưa sẵn sàng để điều chỉnh máy móc của người khác.