Anthropic cấp quyền truy cập "như nhân viên" cho tổ chức giám sát AI độc lập

Anthropic vừa trao cho các đơn vị đánh giá bên ngoài quyền truy cập "tương đương nhân viên" để đánh giá rủi ro các mô hình AI của mình. Động thái này là bước hiện thực hóa cam kết tăng cường các biện pháp bảo vệ, trong bối cảnh lo ngại ngày càng lớn về khả năng công nghệ này vượt khỏi tầm kiểm soát.

Tổ chức phi lợi nhuận METR — đơn vị từng hợp tác với nhiều phòng thí nghiệm AI hàng đầu như OpenAI, Anthropic, Google và Meta — hiện đã có một đội ngũ làm việc trực tiếp tại văn phòng của hãng tạo ra Claude. Nhóm này được cấp quyền truy cập vào phần cứng và các hệ thống nội bộ của công ty.

Bước tiến cụ thể trong giám sát AI

Việc trao vai trò lớn hơn cho các bên đánh giá độc lập nằm trong những biện pháp cụ thể chủ chốt mà các phòng thí nghiệm AI đã đề xuất. Đây là phản ứng trước lo ngại ngày càng tăng rằng các hệ thống AI có năng lực cao hơn có thể gây ra những rủi ro nghiêm trọng đối với nền kinh tế, an ninh mạng và toàn nhân loại.

Điểm đáng chú ý nhất trong thỏa thuận này là METR có thể công bố các phát hiện của mình mà không cần sự chấp thuận của Anthropic. Điều này có ý nghĩa quan trọng, bởi nó đảm bảo tính độc lập của quá trình đánh giá — một yếu tố mà giới chuyên gia từ lâu nhấn mạnh là thiết yếu để việc giám sát AI thực sự đáng tin cậy.

Việc cho phép công bố kết quả mà không cần phê duyệt là một trong những yêu cầu cốt lõi của các nhà nghiên cứu lo ngại về sự phát triển AI thiếu kiểm soát.

Vì sao cần các tổ chức giám sát độc lập?

Trong những năm gần đây, khi các mô hình AI ngày càng mạnh mẽ, câu hỏi về việc ai sẽ là người giám sát các phòng thí nghiệm phát triển chúng đã trở nên cấp thiết. Các công ty như Anthropic, OpenAI và Google thường tự thực hiện việc đánh giá rủi ro, nhưng giới nghiên cứu và các nhà hoạch định chính sách cho rằng cần có sự tham gia của bên thứ ba độc lập.

Quyền truy cập "như nhân viên" mà Anthropic cấp cho METR được xem là mức độ tiếp cận sâu hơn nhiều so với các hình thức hợp tác giám sát thông thường. Thay vì chỉ nhận báo cáo từ phía công ty, các đánh giá viên nay có thể trực tiếp quan sát quy trình, kiểm tra hệ thống và phần cứng — từ đó đưa ra những đánh giá khách quan hơn.

Ý nghĩa cho thị trường AI toàn cầu

Động thái này của Anthropic có thể tạo áp lực lên các phòng thí nghiệm AI khác trong việc mở rộng quyền truy cập cho các tổ chức giám sát độc lập. Khi một hãng lớn tiên phong áp dụng mô hình minh bạch hơn, các đối thủ sẽ khó duy trì cách làm cũ mà không đối mặt với chỉ trích.

Đối với cộng đồng công nghệ Việt Nam và các doanh nghiệp đang ứng dụng AI, xu hướng này cũng đáng được theo dõi. Việc các công ty lớn chấp nhận bị giám sát độc lập có thể định hình lại các tiêu chuẩn quản trị AI, hướng tới sự minh bạch và trách nhiệm giải trình cao hơn — những yếu tố ngày càng được các cơ quan quản lý tại châu Á và trên thế giới quan tâm.

Trong bối cảnh các quy định về AI đang được xây dựng ở nhiều quốc gia, những bước đi như của Anthropic được kỳ vọng sẽ đóng vai trò tham chiếu cho các chuẩn mực quốc tế về phát triển AI an toàn.