Sự cố AI "ảo giác": Hai quan chức Nam Phi bị đình chỉ vì tài liệu tham khảo giả mạo

Sự cố AI "ảo giác": Hai quan chức Nam Phi bị đình chỉ vì tài liệu tham khảo giả mạo

Bộ Nội vụ Nam Phi (DHA) vừa trở thành cơ quan chính phủ mới nhất phát hiện việc sử dụng sai lệch Trí tuệ nhân tạo (AI) trong các tài liệu chính thức của mình. Vụ việc nghiêm trọng này đã dẫn đến việc đình chỉ hai quan chức liên quan đến một văn bản chính sách quan trọng vừa được sửa đổi gần đây.

Minh họa về Trí tuệ nhân tạo

Theo thông báo vào thứ Năm, một quan chức bị đình chỉ là Giám đốc trưởng của đơn vị công dân và nhập cư, trong khi quan chức thứ hai - người tham gia soạn thảo văn bản - sẽ nhận quyết định đình chỉ vào đầu tuần tới. Bộ này thừa nhận sự "xấu hổ" gây ra và cam kết sẽ sử dụng sự kiện này làm bài học để hiện đại hóa quy trình làm việc nội bộ.

Hiện tượng "ảo giác" trong tài liệu công

Các sai sót được phát hiện nằm trong danh mục tài liệu tham khảo đính kèm trong "Sách trắng" sửa đổi về công dân, nhập cư và bảo vệ người tị nạn. Bộ Nội vụ xác định các tài liệu tham khảo này là kết quả của hiện tượng "ảo giác" (hallucinations) - thuật ngữ dùng để chỉ việc các mô hình ngôn ngữ lớn (LLM) tạo ra thông tin sai lệch hoặc hư cấu một cách tự tin do thiếu dữ liệu thực tế.

"Có vẻ như các tài liệu tham khảo này được tạo ra và thêm vào tài liệu sau khi đã soạn thảo xong, vì chúng không được trích dẫn trong nội dung văn bản," đại diện DHA cho biết.

Để xử lý hậu quả, bộ đã bổ nhiệm hai công ty luật độc lập để lần lượt quản lý quy trình kỷ luật và rà soát tất cả các tài liệu chính sách được sản xuất kể từ ngày 30 tháng 11 năm 2022. Mốc thời gian này được chọn vì nó trùng với thời điểm ChatGPT - mô hình ngôn ngữ lớn đầu tiên gây tiếng vang lớn - được phát hành rộng rãi cho công chúng.

Bối cảnh rộng hơn và thách thức quản lý

Động thái đình chỉ diễn ra chỉ một tuần sau khi Bộ Truyền thông và Công nghệ Số (DCDT) cũng buộc phải rút lại một văn bản chính sách về AI của chính mình. Tương tự như DHA, các nguồn và trích dẫn giả mạo đã được tìm thấy trong dự thảo Chính sách AI Quốc gia.

Minh họa ứng dụng công nghệ

Tuy nhiên, DHA khẳng định rằng nội dung chính của chính sách sửa đổi về công dân, nhập cư và người tị nạn "vẫn phản ánh chính xác lập trường của chính phủ". Họ cho rằng các biện pháp này được đưa ra thông qua quá trình tham vấn rộng rãi và không bị ảnh hưởng đáng kể bởi các trích dẫn AI giả mạo trong danh mục tham khảo riêng biệt.

Bộ này cũng chấp nhận sự gia tăng sử dụng AI trong xã hội và cho rằng các tổ chức cần nỗ lực hơn để khai thác đúng cách lợi ích của nó.

"Đây là một công nghệ mang tính chuyển đổi nhưng gây xáo trộn, đang thay đổi cách các tổ chức hoạt động trong cả khu vực tư nhân và công cộng. Chúng ta giờ phải thích ứng để bắt kịp," DHA kết luận.

Bộ cho biết thêm, trong tương lai, họ sẽ thiết kế và triển khai các quy trình kiểm tra AI và yêu cầu khai báo việc sử dụng công cụ này như một phần của quy trình phê duyệt nội bộ.