Bộ Nội vụ Anh đối diện nguy cơ bị điều tra vì dùng công cụ AI của OpenAI xử lý hồ sơ tị nạn

Cơ quan giám sát độc lập của chính phủ Anh đang xem xét mở một cuộc điều tra về việc Bộ Nội vụ (Home Office) sử dụng các công cụ AI tạo sinh để xử lý đơn xin tị nạn, theo thông tin mà WIRED nắm được.

Động thái này diễn ra sau khi các nghị sĩ và nhà nghiên cứu công khai đặt dấu hỏi về độ chính xác của các công cụ, cũng như sự im lặng của chính phủ xung quanh cách chúng được dùng.

Công cụ gì đang được dùng?

Theo tài liệu do tổ chức phi lợi nhuận về quyền kỹ thuật số Open Rights Group (ORG) thu thập được, Bộ Nội vụ Anh sử dụng hai công cụ:

• ACS (Asylum Case Summarisation): tóm tắt bản ghi các buổi phỏng vấn người xin tị nạn.
• APS (Asylum Policy Search): trợ lý tra cứu, tìm và tóm tắt thông tin chính sách về quốc gia gốc của người xin tị nạn.

Cả hai được xây dựng trên mô hình ngôn ngữ lớn GPT-4 (phiên bản 2023) của OpenAI kết hợp nền tảng Microsoft Foundry. Bộ Nội vụ bắt đầu thử nghiệm từ cuối năm 2024, trong bối cảnh chính phủ Công đảng nỗ lực giải quyết tồn đọng khoảng 100.000 hồ sơ tị nạn.

Lo ngại về độ chính xác và tính minh bạch

Vấn đề lớn nhất nằm ở chỗ: đây là những quyết định liên quan trực tiếp đến sinh mạng con người — cụ thể là có trục xuất ai đó về một quốc gia mà họ lo sợ bị bức hại hay không.

ORG phát hiện tỷ lệ các bản tóm tắt do ACS tạo ra bị đánh giá là không dùng được (thường do sai sót thực tế hoặc mô tả sai lệch) cao hơn đáng kể so với con số lỗi 9% được công bố trong đánh giá thử nghiệm. Trong khi đó, các bản tóm tắt do APS tạo ra hoàn toàn không có kiểm soát chất lượng.

"Chúng ta đang nói về sinh mạng con người. Chúng ta đang nói về những người đã trải qua những hoàn cảnh tồi tệ nhất, và lẽ ra chúng ta phải đưa ra quyết định dựa trên sự thật và hiểu biết về tổn hại. Tôi không nghĩ việc để máy móc làm điều đó là phù hợp."

— Nghị sĩ Bell Ribeiro-Addy (Công đảng)

Hồi tháng 7, một thẩm phán Anh đã cáo buộc Bộ Nội vụ viện dẫn một tài liệu "do AI bịa ra" (hallucinated) để từ chối đơn xin tị nạn của một phụ nữ Maroc và con cô, với lý do quốc gia gốc của cô an toàn để trở về.

Rào cản văn hóa và quyền được khiếu nại

Các nhà nghiên cứu cũng lo ngại về định kiến văn hóa vốn được ghi nhận rộng rãi trong các mô hình GPT, có thể dẫn đến rào cản ngôn ngữ và làm mất đi các sắc thái văn hóa trong bản tóm tắt — từ đó dẫn tới những quyết định mang tính phân biệt đối xử.

Đáng chú ý, người xin tị nạn không được thông báo khi các công cụ AI này được dùng trong hồ sơ của họ. Sara Alsherif, người phụ trách chương trình công lý số cho người di cư của ORG, cho biết ngay cả các tổ chức di dân và luật sư hành nghề cũng ít ai biết về việc sử dụng công cụ này.

Việc không thể phản đối một bản tóm tắt AI sai lệch về thông tin cá nhân của mình có thể vi phạm luật quyền dữ liệu của Anh, theo ý kiến pháp lý độc lập do hãng luật Cloisters soạn thảo theo yêu cầu của ORG.

Chính phủ nói gì?

Đại diện Bộ Nội vụ khẳng định các quyết định tị nạn vẫn do nhân viên được đào tạo đưa ra, và AI chỉ đóng vai trò hỗ trợ tra cứu bản ghi phỏng vấn cùng thông tin chính sách.

"Các quyết định tị nạn được đưa ra bởi nhân viên xử lý được đào tạo, với công cụ AI chỉ được dùng để hỗ trợ tra cứu hồ sơ phỏng vấn và thông tin chính sách. Chúng không thể được dùng một cách độc lập và không đưa ra quyết định về đơn xin tị nạn."

— Phát ngôn viên Bộ Nội vụ Anh

Phía OpenAI cho biết công ty đang tiếp tục cải thiện độ chính xác của các mô hình và sẽ ngừng hỗ trợ GPT-4 vào tháng 1 tới.

Lỗ hổng trong quy định

Trong khi chưa có luật điều chỉnh chính thức, "AI Playbook" của Anh yêu cầu các bộ, ngành phải minh bạch về các công cụ thuật toán dùng trong quá trình ra quyết định và công khai thông tin, bao gồm việc niêm yết chúng trên một kho dữ liệu công khai. Tuy nhiên, ACS và APS không có trong danh sách đó.

Caroline Selman, nghiên cứu viên cấp cao của Public Law Project, cho biết đây chỉ là 2 trong số 11 hệ thống AI rủi ro cao mà nhóm bà phát hiện đang được dùng trong bộ máy chính phủ nhưng vắng mặt khỏi kho dữ liệu công khai.

"Các công cụ khác đang được dùng nhưng hoàn toàn không được công bố. Bạn thậm chí không thể bắt đầu đặt câu hỏi về một thứ nếu bạn không biết nó đang được dùng."

— Caroline Selman, Public Law Project

Cả ORG và Public Law Project đã gửi phát hiện của mình tới cơ quan quản lý dữ liệu Anh (Information Commission), nơi hiện đang điều tra việc Bộ Nội vụ từ chối tiết lộ cách nhân viên sử dụng và được đào tạo để dùng hai công cụ AI này.

Góc nhìn cho Việt Nam

Câu chuyện tại Anh là lời cảnh báo đáng chú ý khi Việt Nam đang đẩy mạnh ứng dụng AI trong khu vực công. Việc đưa AI vào các quy trình hành chính có thể mang lại hiệu quả rõ rệt, nhưng bài học từ Bộ Nội vụ Anh cho thấy ba yêu cầu cốt lõi không thể bỏ qua:

• Minh bạch: công khai danh mục các hệ thống AI được dùng trong quy trình ra quyết định.
• Kiểm soát chất lượng: đánh giá độ chính xác độc lập, không chỉ dựa vào báo cáo tự thân của đơn vị triển khai.
• Quyền của người bị tác động: đảm bảo công dân biết khi AI được dùng trong hồ sơ của mình và có thể khiếu nại kết quả sai lệch.

Khi AI tham gia vào những quyết định ảnh hưởng trực tiếp đến quyền lợi và sinh mạng con người, tốc độ xử lý không bao giờ được phép đánh đổi bằng tính chính xác và trách nhiệm giải trình.