Anthropic và OpenAI muốn đưa chuyên gia đánh giá an toàn vào nội bộ: Liệu có thực sự độc lập?

Trong một bài luận dài công bố vào cuối tuần trước, CEO Anthropic Dario Amodei đưa ra đề xuất mà chỉ một năm trước đây ngành AI sẽ lập tức bác bỏ: đưa các đơn vị đánh giá bên thứ ba vào làm việc bên trong mọi công ty AI tiên phong, trao cho họ quyền báo cáo sự cố an toàn, đánh giá liệu mô hình AI có thực sự được căn chỉnh đúng hay không, và công bố những phát hiện chưa qua tô vẽ ra toàn thế giới.

Amodei cho biết Anthropic sẽ cam kết trao cho các đơn vị đánh giá độc lập như METR và Redwood Research quyền truy cập chưa từng có vào hệ thống của công ty. CEO Sam Altman cũng nói OpenAI sẽ tham gia thực hiện cơ chế này, báo hiệu một thay đổi có thể rất sâu sắc trong cách ngành công nghiệp AI hợp tác với các nhóm nghiên cứu bên ngoài.

Những đơn vị đánh giá độc lập trả lời TechCrunch nhìn chung hoan nghênh đề xuất, nhưng cho rằng cần làm rõ nhiều chi tiết — và lý tưởng nhất là phải có luật pháp đứng sau — thì mới biết được liệu họ sẽ hoạt động như những "cảnh sát" thực sự độc lập hay chỉ là nhà cung cấp dịch vụ làm việc theo điều kiện của các công ty AI.

Vì sao cần nhìn sâu vào bên trong

Quyền truy cập sâu hơn đang trở nên quan trọng hơn bao giờ hết khi các mô hình ngày càng giỏi nhận biết lúc mình đang bị đánh giá, làm tăng nguy cơ chúng cư xử ngoan ngoãn trong lúc kiểm tra nhưng lại che giấu những hành vi đáng lo ngại. Các nhà nghiên cứu nói rằng manh mối về hành vi đó có thể bị bỏ sót khi chỉ kiểm tra mô hình đã hoàn thiện, nhưng lại lộ ra khi điều tra cách mô hình hành xử xuyên suốt quá trình huấn luyện.

"Các công ty AI lẽ ra phải trả lời được những câu hỏi rất cơ bản về quá trình huấn luyện của mình, chẳng hạn: AI có từng chủ động tìm cách phá hoại chính quá trình huấn luyện căn chỉnh của nó không?" — Alexander Meinke, trưởng bộ phận nghiên cứu tại Apollo Research, nói với TechCrunch.

Ông nhấn mạnh câu trả lời phải là một tiếng "không" dứt khoát, nhưng hiện tại công chúng hoàn toàn phụ thuộc vào việc các công ty vừa tự kiểm tra kỹ lưỡng, vừa báo cáo trung thực với công chúng — và những sự cố gần đây cho thấy mặc định họ chẳng làm cả hai. Nếu là đơn vị đánh giá được đưa vào nội bộ, giới nghiên cứu mới có thể thực sự kiểm chứng.

Trước đây, các công ty AI thường mời chuyên gia bên ngoài kiểm tra mô hình đã hoàn thiện ngay trước khi phát hành. Giờ đây, những đơn vị mà TechCrunch trò chuyện đề xuất được trao quyền truy cập không chỉ vào mô hình cuối cùng mà cả các phiên bản trung gian, gọi là checkpoint, trong suốt vòng đời huấn luyện.

Adam Gleave, CEO của Far.AI, cho biết các đơn vị đánh giá có thể so sánh những checkpoint này để xác định thời điểm hành vi đáng lo ngại xuất hiện, kiểm tra môi trường hậu huấn luyện vốn thưởng cho mô hình những hành vi nhất định, và đối chiếu nhật ký đánh giá để xác minh các tuyên bố của công ty về hiệu suất mô hình.

Mờ mịt về phạm vi và thời điểm

Hiện vẫn chưa rõ Anthropic và OpenAI dự định cung cấp kiểu quyền truy cập đó khi nào và như thế nào. Cả hai công ty đều không tiết lộ họ sẽ làm việc với đơn vị đánh giá nào, khi nào họ được đưa vào nội bộ, bao nhiêu đơn vị, được tiếp cận chính xác những hệ thống và thông tin gì, hay những gì được phép công bố ra công chúng — dù TechCrunch đã hỏi nhiều lần.

Việc "nhìn dưới nắp ca-pô" như vậy rất quan trọng, bởi một mô hình đạt điểm cao trên các bài kiểm tra an toàn chưa chắc đã an toàn nếu nó được huấn luyện riêng để vượt qua đúng bài kiểm tra đó. John Steidley, trưởng bộ phận chiến lược tại Palisades Research, dẫn ví dụ về một bài kiểm tra khả năng chống lại lệnh tắt máy, đo xem AI có chống lại việc bị tắt trong một số tình huống nhất định hay không.

Ông so sánh tình huống này với bê bối Dieselgate của Volkswagen, khi xe được lập trình để nhận biết bài kiểm tra khí thải và chạy khác đi trong điều kiện kiểm tra. Nếu AI được huấn luyện riêng để làm tốt bài kiểm tra đó, kết quả sẽ chẳng còn nhiều ý nghĩa.

Gleave lưu ý rằng quyền truy cập thực chất có thể vượt ra ngoài phạm vi mô hình, khi đơn vị đánh giá được phép phỏng vấn nhân viên để kiểm tra liệu tài liệu và mô tả công khai về thực hành an toàn của công ty có khớp với thực tế nội bộ hay không.

Amodei có đưa ra một đề xuất khá toàn diện, bao gồm quyền "công bố những phát hiện then chốt về mức độ rủi ro, sự cố, thực hành và quyền truy cập mà họ được nhận hoặc bị từ chối — mà không chịu sự kiểm duyệt biên tập của Anthropic". Nhưng các đơn vị đánh giá nói hệ thống như vậy chỉ vận hành được nếu công ty AI thực sự sẵn sàng trao đi quyền kiểm soát quy trình. Những nỗ lực đánh giá độc lập trước đây cho thấy sự nhượng bộ đó rất khó đạt được, khi bên thứ ba thường vướng mắc về quyền truy cập, thời gian, bảo mật và phạm vi được phép công bố.

Gleave cho biết Far.AI từng phải từ chối hợp đồng với một số nhà phát triển AI tiên phong vì họ muốn kiểm soát quá nhiều quá trình đánh giá, đe dọa tính độc lập của công ty. Mặc định, các đơn vị đánh giá bị đối xử như nhà thầu thông thường: ràng buộc bởi thỏa thuận bảo mật nghiêm ngặt và những điều khoản cho nhà phát triển quyền kiểm soát lớn với những gì cuối cùng được công bố.

Vấn đề thời hạn

Một câu hỏi khác là liệu các đơn vị đánh giá có đủ thời gian và quyền truy cập để làm công việc được giao hay không. Khi điều tra sự cố Hugging Face, OpenAI chỉ cho METR và Redwood khoảng một tuần làm việc tại chỗ, và cả hai sau đó đều nói không thể đưa ra kết luận chắc chắn, một phần vì giới hạn về phạm vi và thời gian.

Tình huống tương tự cũng xảy ra trong đợt kiểm tra trước phát hành GPT-6 Astra, mô hình mà OpenAI quảng bá là được căn chỉnh tốt nhất từ trước đến nay. Theo phần đóng góp của Apollo Research trong model card, công ty này chỉ được cho ba ngày để kiểm tra Astra, khiến việc đưa ra kết luận vững chắc trở nên khó khăn.

"Apollo cho rằng, với tỷ lệ mô hình nhận biết mình đang bị đánh giá cao hơn và cửa sổ đánh giá hạn hẹp, tỷ lệ hành vi sai lệch thấp ở đây không cung cấp bằng chứng đáng kể về việc mô hình được căn chỉnh hay chưa" — nhóm nghiên cứu viết trong báo cáo đánh giá.

Lịch sử đó khiến các đơn vị đánh giá đặt ra một câu hỏi cơ bản: Vì sao lần này sẽ khác?

"Hoàn toàn có thể Dario và Sam chỉ vừa đổi ý, và họ sẽ rất cởi mở về việc này. Nhưng tài sản trí tuệ của những công ty này quá giá trị với họ, nên tôi nghĩ mặc định họ sẽ rất thận trọng về những gì được chia sẻ" — Gleave nói.

Cần một khuôn khổ minh bạch, và cả luật pháp

Nhiều nhà nghiên cứu nói với TechCrunch rằng cần một khuôn khổ minh bạch mà tất cả các bên cùng cam kết công khai. Steidley cho rằng khuôn khổ đó nên bao gồm tiêu chuẩn về loại đơn vị kiểm toán mà công ty được phép thuê, để tránh tình trạng họ "đi chợ" tìm đơn vị không đủ năng lực hoặc không quan tâm đánh giá rủi ro đáng lo ngại nhất.

Henry Papadatos, giám đốc điều hành của Safer AI, nói vấn đề là dù có khuôn khổ công khai, biện pháp tự nguyện vẫn luôn phụ thuộc vào thiện chí của công ty.

"Lý tưởng nhất là phải có quy định pháp luật bắt buộc điều này… bởi khi đó công ty không thể đổi ý vào ngày mai nếu gặp một cuộc khủng hoảng truyền thông lớn" — Papadatos nói.

Ông cho rằng luật pháp cũng là cách buộc mọi công ty tuân thủ quy tắc, không chỉ những công ty tự nguyện nhất.

Không phải ai cũng đã ký vào đề xuất này. Đến nay, Meta, SpaceXAI và Google DeepMind chưa cam kết đưa đơn vị đánh giá bên thứ ba vào nội bộ, dù CEO DeepMind Demis Hassabis có đề xuất một cơ quan tiêu chuẩn ngành riêng để kiểm tra độc lập các mô hình AI tiên phong. Google, OpenAI và Anthropic cũng đã âm thầm thảo luận về các kế hoạch an toàn AI trong nhiều tuần.

Pháp lý đang dần định hình

Một số đạo luật đã bắt đầu hình thành quanh ý tưởng đánh giá bên thứ ba. SB 53 của bang California, được ký năm ngoái, yêu cầu các nhà phát triển AI tiên phong quy mô lớn công bố khuôn khổ an toàn và báo cáo các sự cố an toàn nghiêm trọng. Đạo luật mới SB 813, được ký trong tháng này, tạo khuôn khổ cho các tổ chức xác minh độc lập được bang công nhận, có chuyên môn đánh giá rủi ro AI.

Tại châu Âu, EU AI Act yêu cầu nhà phát triển AI tiên phong thực hiện và ghi chép lại các đánh giá mô hình, kiểm thử đối kháng và báo cáo sự cố nghiêm trọng. Văn phòng AI của EU cũng có thể tự tiến hành đánh giá và chỉ định chuyên gia độc lập.

Hiện tại, luật pháp vẫn chưa rộng bằng đề xuất của Amodei, khiến các phòng thí nghiệm AI tiên phong phần lớn tự quyết định mức độ chịu sự giám sát độc lập. Papadatos nói tự điều chỉnh theo kiểu tự nguyện vẫn tốt hơn không có gì, nhưng suy cho cùng, các công ty không thể vừa đòi quyền tự đặt ra quy tắc an toàn cho mình, vừa yêu cầu công chúng tin rằng họ đang tuân thủ.

"Bạn không thể có cả hai: vừa không chịu bất kỳ trách nhiệm giải trình nào từ bên ngoài, vừa nói rằng 'tôi sẽ tự có những quy tắc linh hoạt của riêng mình'" — Papadatos nói.

Với độc giả Việt Nam quan tâm đến AI, diễn biến này đáng chú ý bởi nó đặt ra câu hỏi về mô hình quản trị AI trong tương lai: liệu các phòng thí nghiệm AI toàn cầu có thực sự chấp nhận bị giám sát độc lập, hay đây vẫn chỉ là một cam kết tự nguyện có thể thay đổi bất cứ lúc nào.