Anthropic mở cửa cho METR: Bước ngoặt minh bạch trong an toàn AI

Anthropic vừa công bố một bước đi được giới công nghệ đánh giá là đột phá: cấp quyền truy cập ngang cấp nhân viên cho các nhà nghiên cứu độc lập từ METR, tổ chức phi lợi nhuận chuyên kiểm định các mô hình AI tiên tiến.

Quyền truy cập ngang nhân viên nội bộ

Theo thông báo trên blog chính thức hôm thứ Năm, sáu nhà nghiên cứu của METR sẽ được cấp laptop do Anthropic trang bị, không gian làm việc trong văn phòng công ty, và quyền truy cập vào các công cụ nội bộ — gần như ngang bằng với những gì đội ngũ đánh giá rủi ro của chính Anthropic đang sử dụng.

Điều đáng chú ý là nhân viên Anthropic được khuyến khích chia sẻ thông tin với nhóm METR giống như với đồng nghiệp nội bộ đang xử lý rủi ro căn chỉnh (alignment risk). Đây là mức độ cởi mở chưa từng có trong ngành AI.

Anthropic so sánh mô hình này với lĩnh vực ngân hàng, nơi các cơ quan quản lý đặt giám định viên thường trú bên trong những ngân hàng lớn nhất.

"Chúng tôi muốn chịu trách nhiệm công khai về những quyết định mình đưa ra. Mục tiêu là thu hẹp khoảng cách giữa hiểu biết của đơn vị đánh giá về hệ thống của một công ty AI tiên tiến và hiểu biết của chính công ty đó."

Không thể phủ quyết công bố

Điểm then chốt của thỏa thuận: METR được tự do công bố đánh giá của mình về rủi ro, sự cố và thông lệ của Anthropic. Công ty đã từ bỏ quyền chặn các công bố này.

Tuy nhiên, Anthropic vẫn có thể yêu cầu che giấu (redact) thông tin nằm trong một số nhóm hẹp được định nghĩa trước, chẳng hạn như:

• Dữ liệu khách hàng
• Thông tin thuộc đặc quyền luật sư – khách hàng (attorney-client privileged)
• Chi tiết về kiến trúc mô hình

METR được tự do mô tả công khai các phần bị che giấu và nêu quan điểm liệu việc che giấu đó có chính đáng hay không — miễn là không tiết lộ chính nội dung bị che.

Hệ thống ba tầng đánh giá

Đây là mô hình phân tầng Anthropic đang xây dựng:

• Tầng dưới cùng: các đơn vị như SecureBio (phi lợi nhuận về an toàn sinh học) thực hiện đánh giá hẹp và cần Anthropic phê duyệt mới được công bố.
• Tầng giữa: được cung cấp nhiều thông tin hơn và có thể công bố mà không cần phê duyệt.
• Tầng cao nhất: bổ sung quyền truy cập ngang nhân viên — hiện chỉ METR đạt được.

Bối cảnh và ý nghĩa

Thông báo này hiện thực hóa cam kết mà CEO Dario Amodei đưa ra trong một bài luận hồi tháng 9, khi ông đề xuất đưa các đơn vị đánh giá bên ngoài vào làm việc bên trong các phòng thí nghiệm AI như bước đầu tiên để làm chậm tốc độ phát triển công nghệ.

Động thái diễn ra trong bối cảnh các sự cố AI agent hành xử ngoài chỉ dẫn được công bố gần như mỗi tuần hoặc hai tuần kể từ cuối tháng 8, làm dấy lên yêu cầu ngày càng gay gắt về việc kiểm tra độc lập các công ty AI.

OpenAI cũng nhanh chóng cam kết thực hiện điều tương tự. Cả hai công ty, cùng với Google, Meta, Nvidia và xAI, đã ký một thỏa thuận tại Nhà Trắng cam kết ủng hộ việc đánh giá độc lập.

Góc nhìn cho Việt Nam

Với các doanh nghiệp và nhà phát triển AI tại Việt Nam, động thái này đặt ra câu hỏi về việc liệu một khuôn khổ đánh giá độc lập tương tự có cần thiết trong tương lai. Khi AI ngày càng tham gia sâu vào các hệ thống tài chính, y tế và hạ tầng số, việc thiết lập cơ chế kiểm định minh bạch — dù ở quy mô nhỏ hơn — sẽ là bước chuẩn bị cần thiết cho cả cơ quan quản lý lẫn doanh nghiệp công nghệ trong nước.