FCA yêu cầu các tổ chức tài chính báo cáo cả sự cố AI và các trường hợp suýt xảy ra

Cơ quan quản lý tài chính Vương quốc Anh (FCA) đang tìm cách mở rộng nghĩa vụ báo cáo sự cố để bao gồm các lỗi AI nghiêm trọng và cả những trường hợp suýt gây hậu quả (near-miss). Động thái này phản ánh mối lo ngại ngày càng tăng về rủi ro từ các hệ thống AI ngày càng tự chủ trong lĩnh vực dịch vụ tài chính.

Phát biểu tại sự kiện UK Policy Series do Bloomberg tổ chức hôm thứ Hai, bà Jessica Rusu — Giám đốc phụ trách dữ liệu, thông tin và tình báo của FCA — cho biết cơ quan này muốn Vương quốc Anh dẫn đầu về ứng dụng AI an toàn trong dịch vụ tài chính. Tuy nhiên, mức độ tự chủ cao hơn đòi hỏi trách nhiệm giải trình rõ ràng.

Rủi ro từ AI kém quản trị

"AI được quản trị kém có thể gây thiệt hại cho người tiêu dùng, tạo ra lỗ hổng an ninh mạng và thất bại vận hành, với tốc độ và quy mô lớn hơn nhiều", bà Rusu nhận định.

Theo bà Rusu, các quy định hiện hành đã yêu cầu doanh nghiệp báo cáo các sự cố nghiêm trọng, và yêu cầu này cần được mở rộng sang các lỗi AI quan trọng cùng những trường hợp suýt xảy ra. Bà cũng cho biết việc báo cáo near-miss đối với AI tự chủ (agentic AI) đang trở thành ưu tiên an ninh quốc gia, đồng thời là ưu tiên của cơ quan quản lý.

Ngành tài chính Anh và sức ép từ AI

Vương quốc Anh có vị thế vượt trội trong lĩnh vực dịch vụ tài chính. Năm 2025, ngành này đóng góp 223,6 tỷ bảng Anh cho nền kinh tế nước này, tương đương 8% sản lượng quốc gia — mức cao thứ tư trong các nước OECD.

Bối cảnh trên khiến các rủi ro liên quan đến AI càng trở nên đáng lo ngại. Tuần trước, Bộ trưởng AI Kanishka Narayan cho biết chính phủ Anh dự định phối hợp với Quốc hội và các chuyên gia kỹ thuật để đánh giá cách tăng cường cơ chế bảo vệ đất nước trước các mối đe dọa an ninh mạng do AI gây ra, cũng như rủi ro mất kiểm soát.

"Điều đó bao gồm việc xác định và báo cáo các sự cố nghiêm trọng cùng những trường hợp suýt xảy ra, giảm thiểu rủi ro do AI gây ra trên các dịch vụ thiết yếu và đảm bảo các sự cố AI nghiêm trọng có thể được xem xét đúng mức", ông Narayan nói.

Học hỏi từ ngành hàng không

Ông Steven Adler, đồng sáng lập kiêm nhà khoa học trưởng của tổ chức phi lợi nhuận độc lập Guidelight AI Standards, cũng đề xuất với các nghị sĩ rằng hoạt động giám sát AI có thể học hỏi từ ngành hàng không, nơi việc báo cáo near-miss là bắt buộc ở hầu hết các quốc gia.

"Cách thức vận hành trong ngành hàng không là bạn không chỉ muốn biết về những vụ tai nạn nghiêm trọng khiến ai đó thiệt mạng; bạn còn muốn biết về những trường hợp suýt xảy ra, bởi vì bạn có thể học từ đó và giúp tránh chúng trong tương lai", ông Adler giải thích.

Chính phủ vẫn chưa cam kết cụ thể

Dù vậy, chính phủ Anh vẫn chưa cam kết bổ sung các biện pháp dành riêng cho AI vào Dự luật An ninh mạng và Khả năng phục hồi (Hệ thống Thông tin và Mạng). Bà Alexandra Jones — Tổng giám đốc phụ trách Tăng trưởng, Khoa học và Quốc tế tại Bộ Khoa học, Đổi mới và Công nghệ — cho biết các sửa đổi vẫn đang được xem xét.

Hồi tháng 1, Ủy ban Ngân khố Hạ viện đã kêu gọi các cơ quan quản lý tài chính thực hiện kiểm tra sức chịu đựng (stress test) để đảm bảo doanh nghiệp sẵn sàng trước các cú sốc thị trường do AI gây ra. Ủy ban này cũng nhấn mạnh sự cần thiết của những đường dây trách nhiệm giải trình rõ ràng khi các hệ thống AI tạo ra kết quả có hại hoặc bất công.

Ý nghĩa với thị trường Việt Nam

Đối với Việt Nam, nơi các ngân hàng và công ty fintech đang đẩy mạnh ứng dụng AI trong chấm điểm tín dụng, phát hiện gian lận và chăm sóc khách hàng tự động, kinh nghiệm của FCA là một tín hiệu đáng tham khảo. Việc bắt buộc báo cáo cả near-miss thay vì chỉ sự cố nghiêm trọng giúp tổ chức phát hiện và xử lý rủi ro trước khi chúng gây thiệt hại thực tế — một bài học quản trị AI mà các cơ quan quản lý trong nước có thể cân nhắc khi xây dựng khung pháp lý cho AI trong tài chính.