Chuyên gia duy nhất của Elon Musk trong vụ kiện OpenAI lo ngại về cuộc chạy đua vũ trang AGI

Chuyên gia duy nhất của Elon Musk trong vụ kiện OpenAI lo ngại về cuộc chạy đua vũ trang AGI

Stuart Russell, giáo sư khoa học máy tính tại UC Berkeley, đã làm chứng trong phiên tòa của Elon Musk chống lại OpenAI. Ông cảnh báo về những rủi ro của Trí tuệ nhân tạo tổng quát (AGI) và kêu gọi chính phủ cần có sự điều chỉnh chặt chẽ hơn đối với các phòng thí nghiệm AI hàng đầu.

Khi nào chúng ta nên coi trọng những lời tiên tri về sự diệt vong do AI? Đó là ý nghĩa ẩn dụ quan trọng trong nỗ lực của Elon Musk nhằm đóng cửa hoạt động kinh doanh AI vì lợi nhuận của OpenAI. Các luật sư của ông lập luận rằng tổ chức này được thành lập như một tổ chức từ thiện tập trung vào an toàn AI, nhưng đã lạc lối trong việc theo đuổi lợi nhuận. Để chứng minh điều đó, họ trích dẫn các email cũ và tuyên bố của các nhà sáng lập về nhu cầu cần một đối trọng có tinh thần công vụ đối với Google DeepMind.

Hôm nay, họ đã gọi nhân chứng chuyên gia duy nhất của mình: Stuart Russell, giáo sư khoa học máy tính tại Đại học California, Berkeley, người đã nghiên cứu AI trong nhiều thập kỷ. Nhiệm vụ của ông là cung cấp bối cảnh về AI và xác định rằng công nghệ này đủ nguy hiểm để đáng lo ngại.

Lời kêu gọi tạm dừng và mâu thuẫn

Russell đã cùng ký một bức thư ngỏ vào tháng 3 năm 2023 kêu gọi tạm dừng nghiên cứu AI trong sáu tháng. Trong một dấu hiệu của những mâu thuẫn ở đây, Musk cũng đã ký bức thư tương tự, ngay cả khi ông đang tung ra xAI, phòng thí nghiệm AI vì lợi nhuận của riêng mình.

Russell nói với bồi thẩm đoàn và Thẩm phán Yvonne Gonzalez Rodgers rằng có nhiều rủi ro liên quan đến sự phát triển của AI, từ các mối đe dọa an ninh mạng đến các vấn đề về sự lệch pha (misalignment) và tính chất "người thắng lấy tất cả" trong việc phát triển Trí tuệ nhân tạo tổng quát (AGI). Cuối cùng, ông nói rằng có sự căng thẳng giữa việc theo đuổi AGI và an toàn.

Cuộc chạy đua vũ trang công nghệ

Những lo ngại lớn hơn của Russell về các mối đe dọa tồn vong của AI không bị kiểm soát đã không được đưa ra xét xử công khai sau khi các luật sư của OpenAI phản đối, dẫn đến việc thẩm phán hạn chế lời khai của Russell. Tuy nhiên, Russell đã lâu là người chỉ trích động thái chạy đua vũ trang được tạo ra bởi các phòng thí nghiệm tiên phong trên toàn cầu cạnh tranh để đạt được AGI trước tiên, và kêu gọi chính phủ điều chỉnh lĩnh vực này chặt chẽ hơn.

Các luật sư của OpenAI đã dành thời gian thẩm vấn đối chất để xác nhận rằng Russell không trực tiếp đánh giá cấu trúc doanh nghiệp của tổ chức hoặc các chính sách an toàn cụ thể của họ.

Lòng tham đối đầu với an toàn

Nhưng phóng viên này (cũng như thẩm phán và bồi thẩm đoàn) sẽ cân nhắc xem nên đặt bao nhiêu giá trị vào mối quan hệ giữa lòng tham của các tập đoàn và mối lo ngại về an toàn AI. Hầu như mọi nhà sáng lập của OpenAI đều đã cảnh báo mạnh mẽ về rủi ro của AI, đồng thời nhấn mạnh lợi ích, cố gắng xây dựng AI càng nhanh càng tốt — và lên kế hoạch cho các doanh nghiệp AI vì lợi nhuận mà họ sẽ kiểm soát.

Từ bên ngoài, một vấn đề rõ ràng ở đây là sự nhận thức ngày càng tăng bên trong OpenAI sau khi thành lập rằng tổ chức này đơn giản là cần chi tiêu nhiều hơn cho điện toán (compute) nếu muốn thành công. Số tiền đó chỉ có thể đến từ các nhà đầu tư vì lợi nhuận. Nỗi sợ hãi của đội ngũ sáng lập về AGI nằm trong tay một tổ chức duy nhất đã thúc đẩy họ tìm kiếm nguồn vốn mà cuối cùng đã xé nát đội ngũ, tạo ra cuộc chạy đua vũ trang mà chúng ta thấy ngày nay — và dẫn chúng ta đến vụ kiện này.

Cùng một động thái này đang diễn ra ở cấp độ quốc gia: Nỗ lực của Thượng nghị sĩ Bernie Sanders nhằm thông qua một luật áp đặt việc tạm dừng xây dựng trung tâm dữ liệu đã trích dẫn những nỗi sợ hãi về AI được Musk, Sam Altman, Geoffrey Hinton và những người khác tuyên bố. Hoden Omar, người làm việc tại tổ chức thương mại Center for Data Innovation, đã phản đối việc Sanders trích dẫn nỗi sợ của họ mà không có hy vọng của họ, nói với TechCrunch rằng "không rõ tại sao công chúng nên bỏ qua mọi thứ mà các tỷ phú công nghệ nói, ngoại trừ khi lời nói của họ có thể được tuyển dụng để lấp đầy những khoảng trống trong một lập luận mong manh".

Bây giờ, cả hai bên của vụ án đều đang yêu cầu tòa án làm đúng điều đó: coi trọng một phần lập luận của Altman và Musk, nhưng bỏ qua những phần ít hữu ích hơn cho lập luận pháp lý của họ.