NHS yêu cầu chuyển hàng trăm kho lưu trữ GitHub sang chế độ riêng tư vì lo ngại về AI và bảo mật

Dịch vụ Y tế Quốc gia Anh (NHS) hiện đang yêu cầu tất cả các lãnh đạo công nghệ của tổ chức này phải tạm thời "hạ màn" đối với các dự án mã nguồn mở. Quyết định bất ngờ này được đưa ra dựa trên những lo ngại liên quan đến trí tuệ nhân tạo (AI) tiên tiến và mô hình Mythos của Anthropic.

Theo hướng dẫn nội bộ được The Register tiếp cận, tất cả các kho lưu trữ trên GitHub phải được chuyển đổi từ trạng thái công khai sang riêng tư trước ngày 11 tháng 5.

Lo ngại về rủi ro từ AI

Tài liệu hướng dẫn nêu rõ rằng: "Các kho lưu trữ công khai làm tăng đáng kể rủi ro lộ mã nguồn, quyết định kiến trúc, chi tiết cấu hình và thông tin ngữ cảnh có thể bị khai thác – đặc biệt là khi các mô hình AI có khả năng tiêu thụ, suy luận và lý luận mã ở quy mô lớn đang phát triển nhanh chóng (ví dụ: sự phát triển của mô hình Mythos)."

Hướng dẫn cũng khẳng định các kho lưu trữ GitHub không nên ở chế độ công khai "trừ khi có nhu cầu đặc biệt và ngoại lệ rõ ràng". Quyết định này đã được Hội đồng Kỹ thuật của NHS phê duyệt.

Một phát ngôn viên của NHS England cho biết đây chỉ là biện pháp tạm thời trong khi tổ chức củng cố tư thế an ninh mạng của mình.

"Chúng tôi đang tạm thời hạn chế quyền truy cập vào một phần mã nguồn của NHS England để tăng cường an ninh mạng hơn nữa trong khi chúng tôi đánh giá tác động của sự phát triển nhanh chóng của các mô hình AI," phát ngôn viên này cho biết.

Đảo ngược chính sách mã nguồn mở

Nguồn tin từ NHS cho biết rất ít trong số hàng trăm kho lưu trữ mã nguồn mở của tổ chức chứa thông tin nhạy thực sự. Các ví dụ về kho lưu trữ công khai bao gồm những kho dành cho tài liệu, sơ đồ kiến trúc và cơ sở mã cho các công cụ nội bộ, chẳng hạn như ứng dụng web để quản lý lịch phòng khám.

Mặc dù có các lỗi mà một mô hình AI tiên tiến như Mythos có thể phát hiện ra, người ta cho rằng rủi ro đối với các dịch vụ y tế là rất thấp.

Tuy nhiên, quyết định của NHS trong việc che giấu mã nguồn của mình đánh dấu một bước ngoặt quan trọng, dù là tạm thời, trong chính sách lâu đời ủng hộ mã nguồn mở của họ. Phản ánh chính sách của chính phủ Anh rộng lớn hơn, sổ tay dịch vụ của tổ chức quy định rằng tất cả mã nguồn mới nên được mã nguồn mở và có thể chia sẻ theo giấy phép phù hợp.

Sổ tay viết: "Các dịch vụ công được xây dựng bằng tiền thuế. Vì vậy, trừ khi có lý do chính đáng không nên, mã nguồn dựa trên đó nên được cung cấp cho người khác sử dụng lại và xây dựng tiếp."

Mối đe dọa từ Mythos và tranh cãi

Các độc giả của The Register chắc hẳn đã bắt được những tin đồn xoay quanh mô hình AI mới nhất của Anthropic, Mythos. Anthropic quảng bá đây là một mô hình có khả năng nhanh chóng tìm ra các lỗ hổng mà các nhóm con người lành nghề có thể bỏ sót. Tuy nhiên, những người khác lại coi đây là sự thổi phồng quá mức.

Các cơ quan chức năng quốc gia, bao gồm Viện An toàn AI của Anh và Trung tâm An ninh Mạng Quốc gia (NCSC), đã phần nào xác nhận các tuyên bố của Anthropic rằng Mythos đại diện cho một bước tiến vượt ra khỏi chu kỳ phát triển AI dự báo.

Tuy nhiên, những người khác hoài nghi hơn về khả năng săn lỗi lỗi được tuyên bố. Anthropic vẫn chưa tiết lộ số lượng dương tính giả mà mô hình đưa ra khi chạy quét lỗ hổng, đây là một vấn đề phổ biến của AI cho đến nay.

Các bài kiểm tra so sánh Mythos với các mô hình mã nguồn mở cũng đã tiết lộ rằng khoảng cách về trình độ thực sự hẹp hơn những gì Anthropic gợi ý.

Hiện tại, Mythos đang bị khóa trong dự án Project Glasswing, chỉ dành cho các tổ chức được chọn. Nhưng các nhà phân tích của Forrester cảnh báo rằng khi các mô hình mạnh mẽ tiếp cận được công chúng – và cả những kẻ tấn công – phần mềm mã nguồn mở sẽ đối mặt với một mối đe dọa thực sự.

Quan điểm của các chuyên gia

Terence Eden, cựu trưởng bộ phận công nghệ mở của NHSX, lập luận rằng việc chuyển các kho lưu trữ mã nguồn mở từ công khai sang riêng tư sẽ không cung cấp sự phòng thủ ý nghĩa nào trước các khả năng AI tiên tiến.

"Mã nguồn mở của mọi người đã được 'tiêu thụ' cho 'mục đích huấn luyện' từ nhiều năm rồi," ông viết trong một blog gần đây. "Nếu nó khá thú vị, thì nó đã được sao lưu bởi một người sưu tập kỹ thuật số. Nó đã được lưu trữ bởi các thư viện kỹ thuật số khác nhau. Bất kỳ ai muốn nghiên cứu cơ sở mã của bạn đều có thể làm điều đó."

"Việc đóng cửa ngay bây giờ không bảo vệ bạn một cách có ý nghĩa."

Eden thêm rằng nhiều lỗ hổng nghiêm trọng đối mặt với một tổ chức không nhất thiết nằm trong cơ sở mã của họ, mà nằm trong chuỗi cung ứng phần mềm của họ – hệ điều hành và thư viện, v.v.

"Rủi ro lớn hơn không đến từ các lỗi logic tinh vi mà từ những kẻ lừa đảo qua mạng (phishing), thói quen mật khẩu kém và các mối đe dọa từ nội bộ. Bảo vệ các hệ thống hiện có của bạn mang lại nhiều sự bảo vệ hơn là vội vàng chuyển mã nguồn của bạn sang chế độ riêng tư."