Kỹ sư Google từ chức vì lo ngại AI phát triển quá nhanh

Robert O'Callahan, một kỹ sư phần mềm kỳ cựu đang làm việc cho Google tại New Zealand, vừa công bố quyết định nghỉ việc. Lý do không phải là lương bổng hay môi trường làm việc — anh thừa nhận mình yêu công việc và đồng nghiệp — mà là một vấn đề đạo đức: công việc của anh đang góp phần đẩy nhanh sự phát triển của AI, điều mà anh cho là không tốt cho nhân loại ở thời điểm hiện tại.

Công việc "vô hại" hóa ra lại tăng tốc AI

O'Callahan không làm trực tiếp vào năng lực của AI. Anh làm về các công cụ cải tiến thiết kế chip phần cứng. Ban đầu, anh tự nhủ công việc này tương đối vô hại. Nhưng theo thời gian, anh nhận ra tác động chính của những công cụ này là tăng tốc thiết kế một thế hệ chip AI mới.

"Nếu thành công, chúng sẽ khiến AI rẻ hơn và nhanh hơn rất nhiều — khiến AI trở nên phổ biến hơn, và cũng mạnh hơn, vì chúng ta đã học được cách tăng năng lực bằng việc đốt nhiều token suy luận hơn."

Anh thừa nhận mình từng muốn nhắm mắt làm ngơ trước tác động này, nhưng với tư cách một người theo đạo Cơ đốc, anh thấy điều đó là không thể chấp nhận. Anh thậm chí đã thẳng thắn nói với quản lý cấp trên rằng mình "ít nhất là miễn cưỡng khi thấy dự án của họ thành công".

Việc chuyển sang một nhóm kỹ thuật khác tại Google gần như bất khả thi, phần lớn vì Google không muốn đặt các nhóm kỹ thuật tại New Zealand — nơi anh sinh sống. Anh cũng cho biết thời điểm nghỉ việc không liên quan đến làn sóng từ chức gần đây trong ngành AI, mà chỉ trùng hợp với một chuyến đi bộ đường dài mười ngày đã lên kế hoạch từ lâu.

Những lo ngại về AI: rủi ro thực nhưng chưa chắc chắn

O'Callahan chia sẻ rằng anh có nhiều suy nghĩ về AI nhưng không trình bày hết trong bài viết. Tóm lại, anh tin rằng:

• Những rủi ro hiện hữu mà nhiều người cảnh báo là đáng được coi trọng. Nhiều hiện tượng mà giới "doomer" dự đoán đã trở thành sự thật, như reward hacking, misalignment, mô hình lừa dối, và các bầy tác tử mất kiểm soát.
• Anh không cho rằng xác suất thảm họa do siêu trí tuệ nhân tạo (ASI) là 100%, nhưng rủi ro là có thật và chưa thể xác định rõ — và điều đó tự nó đã rất đáng báo động.
• Anh lo ngại về những vấn đề khác liên quan đến AI: sự đầu hàng nhận thức, chứng loạn thần và cô đơn do AI gây ra, tập trung quyền lực, gián đoạn kinh tế, an ninh mạng, và thiếu trách nhiệm giải trình.

Điều anh chắc chắn là năng lực của AI sẽ tiếp tục tăng đều đặn chừng nào con người còn làm việc trên nó. Anh ước AI sẽ đạt đến một giới hạn nào đó, hoặc con người sẽ tìm ra những năng lực nhận thức mà AI không bao giờ bắt chước được nếu không có một bước ngoặt mô hình. Nhưng anh không tin những điều ước đó sẽ thành hiện thực.

Tốc độ thay đổi quá nhanh để con người thích nghi

Một trong những điểm mạnh trong lập luận của O'Callahan là tốc độ. Anh cho rằng ngay cả khi có một con đường dẫn tới tương lai tốt đẹp hơn nhờ AI, tốc độ thay đổi hiện nay vẫn là quá cao.

"AI đang phát triển nhanh hơn mức con người — với tư cách cá nhân và tập thể — có thể hiểu và thích nghi."

Anh so sánh điều này với các cuộc cách mạng công nghệ trước đây mà anh từng trải qua: máy tính cá nhân, Internet, điện thoại thông minh. Ngay cả trong Cách mạng Công nghiệp, thay đổi diễn ra chậm hơn nhiều, và vẫn có những lĩnh vực hoạt động của con người không bị ảnh hưởng trực tiếp bởi máy móc mới. Điều đó ngày nay không còn đúng nữa.

Anh cũng bác bỏ quan điểm của một số người chỉ trích AI nổi tiếng, cho rằng AI chỉ là một trò lừa đảo sẽ không thực sự hoạt động. Theo anh, nó sẽ hoạt động.

Điều gì tiếp theo?

O'Callahan cho biết anh sẽ tiếp tục duy trì Pernosco và rr — hai dự án mã nguồn mở về gỡ lỗi mà anh gắn bó. Anh cũng có kế hoạch nghiên cứu cách các tác tử AI gỡ lỗi mã nguồn hiện nay, và liệu các công cụ gỡ lỗi có thể giúp chúng làm việc hiệu quả hơn hay không.

Anh muốn dùng tác tử AI để hiện thực hóa một số ý tưởng dự án cá nhân, nhưng một cách thận trọng — theo hướng có lợi cho con người và giữ cho đầu óc mình minh mẫn. Anh nhấn mạnh rằng mọi công việc trong tương lai của mình phải "rõ ràng là vì con người".

Với độc giả Việt Nam, câu chuyện này đáng chú ý ở chỗ nó phản ánh một xu hướng đang nổi lên trong giới kỹ sư công nghệ toàn cầu: không phải tất cả những người làm AI đều tin rằng tăng tốc là điều đúng đắn. Trong khi Việt Nam đang tích cực thúc đẩy phát triển AI và bán dẫn như một động lực kinh tế, quan điểm của O'Callahan cũng đặt ra câu hỏi về trách nhiệm cá nhân và đạo đức nghề nghiệp trong một ngành có tác động xã hội ngày càng sâu rộng.