Con người không khao khát sự tự động hóa: Khi "bộ não phần mềm" gặp thực tế

Con người không khao khát sự tự động hóa: Khi "bộ não phần mềm" gặp thực tế

Trong vài tuần qua, khi chúng tôi thực hiện các bài báo cáo về AI và có những cuộc trò chuyện trên chương trình Decoder, tôi đã day dứt với một ý tưởng mà tôi gọi là "bộ não phần mềm" (software brain). Đây là một cách nhìn thế giới đặc thù, nơi mọi thứ đều được gói gọn trong các thuật toán, cơ sở dữ liệu và các vòng lặp — hay nói cách khác là phần mềm.

"Bộ não phần mềm" là một khái niệm mạnh mẽ. Nó là tư duy đã tạo ra thế giới hiện đại của chúng ta. Marc Andreessen, hiện thân của tư duy này, đã từng nói đúng khi ông viết bài xã luận "Tại sao phần mềm đang nuốt chửng thế giới" trên The Wall Street Journal vào năm 2011. Tuy nhiên, tư duy phần mềm hiện nay đang được AI thúc đẩy mạnh mẽ đến mức tôi nghĩ nó giải thích được khoảng cách khổng lồ giữa sự hào hứng của ngành công nghệ công nghệ và sự ngày càng chán ghét của người bình thường đối với công nghệ này.

Mô tả khái niệm bộ não phần mềm

Thực tế, các số liệu khảo sát cho thấy nhiều người thực sự ghét AI. Gen Z dường như là nhóm ghét AI nhất khi tiếp xúc với nó. Một cuộc thăm dò của NBC News cho thấy AI có mức độ ủng hộ thấp hơn cả Cơ quan Thực thi Di trú và Hải quan Mỹ (ICE), và chỉ cao hơn một chút so với chiến tranh tại Iran. Điều này xảy ra khi gần hai phần ba số người được hỏi cho biết họ đã sử dụng ChatGPT hoặc Copilot trong tháng trước. Quinnipiac cũng phát hiện rằng hơn một nửa người Mỹ nghĩ AI sẽ gây hại nhiều hơn là mang lại lợi ích.

Cuộc thăm dò này cho thấy Gen Z sử dụng AI nhiều nhất nhưng cũng có cảm xúc tiêu cực nhất. Gallup nhận thấy chỉ 18% Gen Z hy vọng vào AI, giảm từ mức 27% (đã rất thấp) của năm ngoái. Trong khi đó, sự giận dữ đang gia tăng: 31% người thuộc Gen Z cho biết họ cảm thấy tức giận về AI, tăng từ 22% so với năm ngoái.

Không phải là vấn đề tiếp thị

Tôi nói chuyện với nhiều giám đốc điều hành công nghệ và các nhà hoạch định chính sách, và họ đều biết AI không được lòng dân. Họ nghĩ đây là một vấn đề tiếp thị. OpenAI vừa chi 200 triệu USD cho podcast TBPN vì công ty nghĩ điều đó sẽ giúp mọi người thích AI hơn. Sam Altman đã nói rõ ràng: "Nếu AI là một ứng cử viên chính trị, nó sẽ là ứng cử viên không được ưa chuộng nhất trong lịch sử".

Nhưng tôi cần nói rõ một điều: AI không có vấn đề về tiếp thị. Mọi người trải nghiệm các công cụ này mỗi ngày. ChatGPT có 900 triệu người dùng hàng tuần, và ai cũng đã thấy các bản tóm tắt AI trong Google Search cũng như vô số nội dung rác trên feed của mình. Bạn không thể dùng quảng cáo để thay đổi phản ứng của họ đối với trải nghiệm thực tế của chính mình. Đây là sự ngắt kết nối cơ bản giữa cách những người có "bộ não phần mềm" nhìn thế giới và cách người bình thường sống cuộc đời của họ.

Thế giới là một cơ sở dữ liệu?

Vậy "bộ não phần mềm" là gì? Định nghĩa đơn giản nhất là khi bạn nhìn cả thế giới như một loạt các cơ sở dữ liệu có thể được kiểm soát bằng ngôn ngữ có cấu trúc và mã code. Đây là một cách nhìn mạnh mẽ. Zillow là cơ sở dữ liệu của các ngôi nhà. Uber là cơ sở dữ liệu của xe và hành khách. YouTube là cơ sở dữ liệu video. Khi bạn bắt đầu nhìn thế giới như một tập hợp các cơ sở dữ liệu, bạn sẽ cảm thấy mình có thể kiểm soát mọi thứ nếu kiểm soát được dữ liệu.

Nhưng điều đó không luôn luôn hiệu quả. Ví dụ, khi Elon Musk và DOGE tiếp quản chính phủ, điều đầu tiên họ làm là kiểm soát một loạt cơ sở dữ liệu. Và họ đã gặp phải sự thật không thể chối cãi rằng cơ sở dữ liệu không phải là thực tế. Chính phủ không phải là phần mềm. Con người không phải là máy tính, và họ không sống trong các vòng lặp có thể tự động hóa được gọn gàng trong cơ sở dữ liệu.

Luật pháp không phải là mã code

Một ví dụ khác là ý tưởng cho rằng AI sẽ thay thế luật sư. Có sự tương đồng sâu sắc giữa tư duy phần mềm và tư duy luật sư. Cả hai đều phụ thuộc vào tiền lệ và ngôn ngữ có cấu trúc để hướng dẫn hành vi của các hệ thống phức tạp. Tuy nhiên, luật không thực sự là code, và xã hội không phải là máy tính.

Trái tim của hệ thống pháp lý của chúng ta thực chất là sự mơ hồ. Chính sự mơ hồ tạo nên nghề luật. Bạn không thể đưa ra các sự kiện và luật viết để dự đoán kết quả vụ việc với bất kỳ sự chắc chắn nào, dù hình thức của hệ thống pháp luật khiến mọi người nghĩ nó hoạt động như một máy tính. Bridget McCormack, cựu Chánh án Tòa án Tối cao Michigan, từng đề xuất một hệ thống trọng tài hoàn toàn tự động bằng AI. Đây là tư duy "bộ não phần mềm" thuần túy: ý tưởng ép thế giới thực hoạt động như một máy tính.

Tự động hóa trong doanh nghiệp và cuộc sống

Bạn có thể thấy điều tương tự xảy ra trong mọi ngành công nghiệp. Các quy trình kinh doanh trông giống như code nói chuyện với cơ sở dữ liệu theo cách lặp đi lặp lại đều là mục tiêu của AI. Đó là lý do Anthropic tập trung vào khách hàng doanh nghiệp và OpenAI đang chuyển hướng sang sử dụng kinh doanh. Có giá trị thực sự khi đưa AI vào kinh doanh vì phần lớn kinh doanh hiện đại đã là phần mềm.

Minh họa về Decoder và công nghệ

Tuy nhiên, không phải mọi thứ đều là kinh doanh, và toàn bộ trải nghiệm con người không thể bị bắt gọn trong một cơ sở dữ liệu. Đó là giới hạn của "bộ não phần mềm". Đó là lý do mọi người ghét AI. Nó làm phẳng hóa họ. Người bình thường không nhìn thấy cơ hội viết code là một cơ hội. Con người không khao khát sự tự động hóa.

Tôi là một người nghiện nhà thông minh, nhưng những gã khổng lồ như Apple, Google và Amazon đã vật lộn hơn một thập kỷ để khiến người bình thường quan tâm đến tự động hóa nhà thông minh, và họ thực sự không quan tâm. AI sẽ không khắc phục được điều đó. Hầu hết mọi người không thu thập dữ liệu về mọi thứ họ làm. Việc yêu cầu mọi người kết nối các hệ thống này chỉ làm họ hoảng sợ.

Làm cho con người "dễ đọc" với AI

Ngành công nghiệp AI ám ảnh việc đưa mọi thứ vào cơ sở dữ liệu. Ezra Klein đã mô tả những người ở Thung lũng Silicon đang tích cực cố gắng "làm phẳng" chính mình thành một cơ sở dữ liệu: "Họ đang đua nhau để tích hợp hoàn toàn AI vào cuộc sống và công ty của mình. Nhưng điều đó không chỉ có nghĩa là sử dụng AI. Nó có nghĩa là làm cho chính mình dễ dàng được AI đọc hiểu."

Bạn có thể cho AI quyền truy cập vào mọi thứ: tệp, email, lịch trình, tin nhắn. Nó hoạt động liên tục trong nền, xây dựng bộ nhớ về sở thích và mô hình của bạn. Nhưng tôi đã xem xét rất nhiều sản phẩm công nghệ và có thể nói rằng, yêu cầu con người thích nghi với máy tính là một sự thất bại. Máy tính nên thích nghi với con người. Yêu cầu con người biến mình thành cơ sở dữ liệu là một ý tưởng doomed (định mệnh bi thảm).

Đối với những người trả hàng nghìn đô la mỗi tháng để thiết lập các tác nhân AI và viết hàng nghìn dòng code, họ nhìn thế giới và thấy cơ hội tự động hóa. AI tuyệt vời đối với họ. Nhưng đối với tất cả những người khác, AI chỉ là một con quái vật đòi hỏi và tạo ra rác rưởi. Nó là một mối đe dọa.

Ngành công nghệ đang vội vã đưa AI đến khắp mọi nơi với chi phí khổng lồ về năng lượng và khí thải, mà không nhận ra họ đang yêu cầu con người trở nên ít tính "con người" hơn. Sau đó họ ngồi tự hỏi tại sao mọi người lại ghét họ. Tôi không nghĩ một vài chiến dịch tiếp thị sẽ giải quyết được vấn đề này.