Anthropic mở quyền truy cập nội bộ cho đơn vị đánh giá độc lập METR

Anthropic vừa công bố bước tiến mới trong cam kết minh bạch hóa quy trình đánh giá an toàn AI, khi chính thức cấp quyền truy cập nội bộ cho một nhóm chuyên gia từ METR — tổ chức phi lợi nhuận chuyên đánh giá các mô hình AI tiên tiến. Đây được xem là động thái quan trọng trong bối cảnh các công ty AI hàng đầu đang chịu áp lực ngày càng lớn về trách nhiệm giải trình.

Vì sao cần các đơn vị đánh giá độc lập?

Khi các mô hình AI trở nên mạnh mẽ hơn, chúng cũng đòi hỏi những biện pháp bảo vệ chặt chẽ hơn và các đánh giá rủi ro phức tạp hơn. Anthropic cho biết họ muốn chịu trách nhiệm công khai về các quyết định của mình, nhưng không thể chia sẻ toàn bộ thông tin liên quan đến công tác an toàn.

Một phần thông tin có thể bị kẻ xấu lợi dụng, hoặc mang tính nhạy cảm về mặt thương mại như dữ liệu tính toán (compute) hay huấn luyện. Thay vào đó, công ty trao quyền truy cập sâu cho bên thứ ba và để họ công bố bằng chứng cùng kết luận lý giải về các rủi ro.

Mục tiêu của Anthropic là thu hẹp khoảng cách giữa hiểu biết của đơn vị đánh giá về hệ thống của một công ty AI tiên tiến và hiểu biết của chính công ty đó.

Theo Anthropic, một đơn vị đánh giá đủ năng lực cần hội tụ bốn yếu tố: chuyên môn về năng lực mô hình tiên tiến, tính độc lập (không nắm cổ phần hay phụ thuộc tài chính vào công ty được đánh giá), đủ quyền truy cập để đánh giá rủi ro một cách có ý nghĩa, và quyền tự do công bố các quan sát, đánh giá của mình.

Họ so sánh mô hình này với hoạt động giám sát ngân hàng: các ngân hàng hiểu rõ vị thế rủi ro của mình hơn người ngoài, nên cơ quan quản lý cử thanh tra thường trú làm việc bên trong các ngân hàng lớn nhất.

Đơn vị đánh giá độc lập giám sát rủi ro mô hình AI

"Quyền truy cập như nhân viên" nghĩa là gì?

Anthropic đã tiếp nhận sáu nhân sự của METR với đầy đủ phần cứng công ty, không gian làm việc và quyền truy cập vào các công cụ, hệ thống nội bộ — gần tương đương với quyền của chính đội đánh giá rủi ro của Anthropic.

Ngoại trừ một số hạng mục được định nghĩa rõ ràng (như dữ liệu khách hàng, thông tin thuộc diện đặc quyền luật sư - khách hàng, hoặc thông tin về kiến trúc mô hình), nhân viên Anthropic được khuyến khích chia sẻ thông tin với nhóm METR như với một đồng nghiệp cùng làm về rủi ro căn chỉnh (alignment risk).

Điểm đáng chú ý: METR sẽ công bố phân tích của mình về mức độ rủi ro, các sự cố hoặc thông lệ của Anthropic. Anthropic không thể phủ quyết việc công bố, nhưng có thể yêu cầu che giấu thông tin nếu thuộc các hạng mục hẹp đã định trước. METR được tự do mô tả công khai các phần bị che giấu và bày tỏ liệu việc che giấu đó có chính đáng hay không.

Ba cấp độ truy cập cho đơn vị đánh giá

Anthropic đang xây dựng ba cấp độ truy cập khác nhau, với tham vọng theo thời gian sẽ có nhiều đơn vị đánh giá ở cấp ba, mỗi nhóm tự công bố phân tích riêng về mức độ rủi ro và các quyết định then chốt của công ty.

• Cấp một: Đơn vị đánh giá thực hiện các điều tra rủi ro trong phạm vi hẹp. Anthropic quyết định mức truy cập và đơn vị đánh giá chỉ công bố phát hiện sau khi được chấp thuận.

• Cấp hai: Đơn vị đánh giá được công bố mà không cần Anthropic chấp thuận, đồng thời có quyền truy cập nhiều thông tin hơn. Anthropic vẫn có thể yêu cầu loại bỏ một số hạng mục thông tin cụ thể, nhưng đơn vị đánh giá được nêu quan điểm về tính chính đáng của việc che giấu đó.

• Cấp ba: Là thỏa thuận như với METR — quyền truy cập kiểu nhân viên cùng quyền công bố tương tự cấp hai.

Hiện SecureBio đang ở cấp một, đang xem xét chương về vũ khí hóa học và sinh học trong Báo cáo Rủi ro tháng 8 của Anthropic. Với Accenture và Faculty, công ty đang hướng tới một quan hệ đối tác tham vọng gồm đánh giá và red-team mô hình, thực hiện đánh giá căn chỉnh, kiểm thử biện pháp bảo vệ mô hình và xây dựng năng lực giữa các tổ chức.

Ý nghĩa với ngành AI và Việt Nam

Anthropic nhấn mạnh họ tham gia cơ chế đánh giá độc lập một cách tự nguyện và cho rằng mọi công ty AI tiên tiến đều nên làm điều tương tự. Trước đó, công ty đã ký Thỏa thuận Nhà Trắng về Siêu trí tuệ, trong đó các doanh nghiệp cam kết hợp tác với kiểm toán viên hoặc đơn vị đánh giá bên ngoài độc lập.

Động thái này phản ánh xu hướng chung trên toàn cầu: khi AI ngày càng thâm nhập vào hạ tầng quan trọng, yêu cầu về kiểm toán độc lập sẽ trở nên tương tự như trong ngành tài chính. Với các doanh nghiệp công nghệ và startup AI tại Việt Nam, đây là tín hiệu đáng theo dõi — việc chủ động xây dựng quy trình đánh giá rủi ro minh bạch có thể trở thành lợi thế cạnh tranh khi làm việc với đối tác quốc tế và cơ quan quản lý trong tương lai gần.