Nhân viên an toàn của OpenAI từ chức, tuyên bố "văn hóa công ty đã hỏng"

David Robinson — một trong những nhân viên kỳ cựu nhất của OpenAI — vừa từ chức và công khai chỉ trích văn hóa an toàn của công ty. Ông cho rằng cách tiếp cận phát triển AI hiện tại đang tạo ra những rủi ro ngày càng nghiêm trọng, và các công ty AI hàng đầu cần thay đổi tận gốc văn hóa vận hành của mình.

Một lời cảnh báo quen thuộc nhưng đáng chú ý

Theo chính lời thừa nhận của mình, David Robinson là "một kiểu người khá sáo mòn": một nhân viên tại công ty AI hàng đầu đưa ra cảnh báo nghiêm trọng trong lúc nghỉ việc.

Trong một bài tiểu luận đăng trên The Atlantic, Robinson cho biết ông là người chủ trì việc soạn thảo các báo cáo an toàn đi kèm những đợt ra mắt sản phẩm lớn của OpenAI. Với ba năm rưỡi làm việc tại đây, ông nằm trong nhóm nhân viên có thâm niên lâu nhất công ty.

"Văn hóa của công ty đã hỏng."

Phát biểu của Robinson phần nào lặp lại quan điểm của Jacob Coxon — nhà nghiên cứu từng làm việc tại cả OpenAI lẫn Anthropic trước khi nghỉ việc và tuyên bố rằng các công ty này đang "đánh cược bằng mạng sống của chúng ta".

Vấn đề nằm ở văn hóa, không chỉ ở luật lệ

Khác với nhiều ý kiến tập trung vào các quy định cụ thể, Robinson cho rằng cuộc tranh luận cần vượt ra ngoài "những luật mới hay quy tắc cụ thể" để giải quyết văn hóa tổng thể tại các công ty này.

Ông nhận định rằng các vấn đề văn hóa của OpenAI thực chất cũng là vấn đề chung của cả Thung lũng Silicon.

"OpenAI đã phát triển nhờ phương pháp thử và sửa — mà họ gọi là 'triển khai lặp' — tìm kiếm vấn đề rồi cải thiện hàng rào bảo vệ. Nhưng cách tiếp cận này, về bản chất, đảm bảo sẽ có những thất bại định kỳ — và quy mô của những thất bại đó đang ngày càng lớn khi hệ thống trở nên mạnh mẽ hơn."

Ông dẫn chứng việc các tác nhân AI của OpenAI gần đây xâm nhập hệ thống Hugging Face, cùng những tiết lộ liên tục về việc OpenAI phát hiện thêm các tác nhân hoạt động ngoài tầm kiểm soát.

"Một môi trường mà những chuyện như thế này có thể xảy ra không phải là nơi để nuôi dưỡng những bộ óc nhân tạo có thể thông minh hơn chúng ta và có thể không làm theo điều chúng ta muốn."

Cần vận hành như nhà máy hạt nhân

Theo Robinson, các công ty AI tiên phong cần bắt đầu vận hành giống như nhà máy điện hạt nhân hay sân bay đông đúc — với nhiều lớp dự phòng và quy trình lập kế hoạch cẩn thận, tốn thời gian, để những sai sót nhỏ của con người không mở đường cho thảm họa.

Tuy nhiên, ông thừa nhận trong suốt thời gian làm việc tại OpenAI, ông "chưa từng gặp đồng nghiệp nào có kinh nghiệm giúp máy bay bay an toàn, lò phản ứng hạt nhân không tan chảy, hay giúp hệ thống tài chính phát triển mà không sụp đổ".

OpenAI phản hồi

Đáp lại bài tiểu luận, người phát ngôn của OpenAI — Drew Pusateri — khẳng định công ty vẫn đang tiếp tục cải thiện các biện pháp an toàn.

"Chúng tôi đảm bảo các mô hình không trở nên mạnh hơn khả năng quản lý và bảo mật an toàn của mình, đồng thời tạm dừng huấn luyện hoặc giữ lại mô hình khi cần chậm lại. Chúng tôi đang thực hiện những thay đổi đáng kể để tăng cường bảo mật trong môi trường nghiên cứu và thử nghiệm, huấn luyện mô hình không chỉ hoàn thành nhiệm vụ mà còn làm điều đó một cách có trách nhiệm, mở rộng hợp tác với các đơn vị đánh giá độc lập, và cải thiện giám sát thời gian thực để phát hiện sớm các hành vi đáng lo ngại."

Câu hỏi lớn hơn về căn chỉnh AI

Ngoài việc kêu gọi thay đổi văn hóa, Robinson cho rằng đã đến lúc đặt ra những câu hỏi lớn hơn về căn chỉnh AI (alignment). Ông thừa nhận điều này nghe có vẻ "mơ hồ cảm tính", nhưng nhấn mạnh nó là vấn đề sống còn khi các thước đo hiện tại về mức độ AI "khớp với giá trị con người" vẫn còn quá thô sơ.

"Ngành càng để mô hình phát triển thông minh hơn trong khi những vấn đề này chưa được giải quyết, tình thế của chúng ta càng trở nên nguy hiểm."

Bước đi quen thuộc của người tố giác

Thông tin về việc Robinson rời OpenAI lần đầu được Business Insider đưa tin. Trong bài tiểu luận, ông cũng thừa nhận mình đang làm theo một bước đi khá phổ biến của những người tố giác trong ngành AI: thuê một công ty quan hệ công chúng.

Tuy nhiên, ông khẳng định: "Quyết định lên tiếng là của riêng tôi."

"Có lẽ tôi nên ở lại và đấu tranh cho những thay đổi căn bản về nhân sự và văn hóa, nhưng trên thực tế, tôi và đồng nghiệp bận rộn đến mức hiếm khi có cơ hội suy nghĩ về những thay đổi lớn, chứ đừng nói đến việc thực sự làm chúng. Đó là lý do tôi kết luận rằng những động lực mạnh mẽ hơn cho an toàn — đến từ bên ngoài công ty — là phần quan trọng để làm đúng điều này."