Larry Ellison: "Công dân sẽ cư xử tốt nhất vì chúng ta đang ghi lại mọi thứ"

Larry Ellison, một nhân vật lâu năm trong ngành công nghệ và hiện là CTO của gã khổng lồ đám mây Oracle, đã đưa ra một dự báo đầy gây tranh cãi về tương lai của xã hội. Tại một cuộc họp với các nhà phân tích tài chính vào tháng 9 năm 2024, ông đã vẽ ra một bức tranh nơi công nghệ AI, máy bay không người lái (drones) và các hệ thống giám sát bổ sung sẽ đóng vai trò trung tâm trong việc duy trì trật tự.

Larry Ellison tại sự kiện Oracle

Ông Ellison thẳng thắn tuyên bố: "Công dân sẽ cư xử tốt nhất, bởi vì chúng ta đang liên tục ghi lại và báo cáo mọi thứ đang diễn ra."

Viễn cảnh của nhà nước giám sát hiện đại

Thế giới mà Ellison mô tả xoay quanh việc các công nghệ AI xử lý lượng khổng lồ hình ảnh video từ sự bùng nổ của các camera trên đường phố, trong ô tô, trước cửa nhà và thậm chí là trên người cảnh sát. Theo ông, AI sẽ tự động báo cáo các vấn đề mà nó phát hiện trong quá trình phân tích dữ liệu thời gian thực.

Với khả năng quét và phát hiện sai phạm trên diện rộng, trong khi gánh nặng xử lý và ra quyết định được giảm bớt nhờ AI, Ellison cho rằng công dân sẽ tương ứng điều chỉnh hành vi của mình. Tuy nhiên, tầm nhìn này gợi nhớ một cách đáng sợ đến những gì George Orwell đã mô tả trong cuốn tiểu thuyết 1984, nơi "Anh Cả" (Big Brother) luôn theo dõi mọi hành động của công dân.

Hệ thống camera và AI giám sát

Cuộc chiến chống lại sự dystopia được thúc đẩy bởi AI

Phong trào phản đối việc AI tham gia vào hoạt động giám sát đang ngày càng lớn mạnh, với nhiều bình luận và nghiên cứu chỉ ra các cách thức mà việc này đang diễn ra. Điển hình là những lo ngại về việc Bộ An ninh Nội địa Hoa Kỳ (DHS) sử dụng AI để giám sát mạng xã hội, quét và tóm tắt các phát hiện.

Các báo cáo khác cũng cho thấy các công ty lớn đang tham gia vào giám sát nơi làm việc. Ví dụ, CEO của Meta, Mark Zuckerberg, gần đây đã thừa nhận trong một cuộc gọi với nhân viên rằng công ty đang sử dụng AI để nghiên cứu và xử lý các hành động hàng ngày của nhân viên nhằm thu thập dữ liệu đào tạo các mô hình và tác nhân AI trong tương lai. Điều này diễn ra sau các báo cáo cho rằng công ty sẽ theo dõi các cú nhấp chuột và nhấn phím trên thiết bị.

Cho dù là tại nơi làm việc hay trong xã hội nói chung, xu hướng trong vài thập kỷ qua đã ủng hộ việc tăng cường giám sát và theo dõi. Rõ ràng, Ellison lo ngại rằng các công nghệ mới nổi sẽ chỉ tiếp tục "thêm dầu vào lửa" cho xu hướng này, đặt ra những câu hỏi lớn về sự cân bằng giữa an ninh và quyền riêng tư.