Đừng đặt tên tính năng AI theo quá trình tư duy của con người nữa!

Tại hội nghị nhà phát triển vừa diễn ra ở San Francisco, Anthropic đã công bố một tính năng mới mang tên "dreaming" (mơ mộng). Đây là một phần của cơ sở hạ tầng tác nhân AI (AI agents) mà công ty này mới ra mắt, được thiết kế để giúp người dùng quản lý và triển khai các công cụ tự động hóa quy trình phần mềm. Khía cạnh "dreaming" này có nhiệm vụ sắp xếp lại các bản ghi về những gì tác nhân AI vừa hoàn thành và cố gắng rút ra các thông tin chi tiết để cải thiện hiệu suất làm việc của nó.

Tính năng dreaming mới của Anthropic

Người dùng thường xuyên sử dụng các tác nhân AI để thực hiện các nhiệm vụ đa bước, chẳng hạn như truy cập một số trang web hoặc đọc nhiều tệp tin để hoàn thành tác vụ trực tuyến. Tính năng "dreaming" mới này cho phép các tác nhân tìm kiếm các mẫu trong nhật ký hoạt động của chính chúng và cải thiện khả năng dựa trên những thông tin chi tiết đó.

Tên gọi của tính năng này ngay lập tức gợi nhớ đến cuốn tiểu thuyết khoa học viễn tưởng kinh điển của Philip K. Dick, Do Androids Dream of Electric Sheep? (Những người máy có mơ về cừu điện không?), tác phẩm khám phá những phẩm chất thực sự phân biệt con người với những cỗ máy mạnh mẽ. Mặc dù các công cụ AI tạo sinh hiện tại của chúng ta chưa thể so sánh với những cỗ máy trong cuốn sách, nhưng tôi nghĩ đã đến lúc cần vạch ra một ranh giới: Không còn những tính năng AI tạo sinh nào nữa với những cái tên vay mượn từ các quá trình nhận thức của con người.

"Cùng nhau, bộ nhớ và mơ mộng tạo thành một hệ thống bộ nhớ mạnh mẽ cho các tác nhân tự cải thiện," bài đăng trên blog của Anthropic về bản xem trước nghiên cứu này cho các nhà phát triển viết. "Bộ nhớ cho phép mỗi tác nhân nắm bắt những gì nó học được trong khi làm việc. Mơ mộng tinh chỉnh bộ nhớ đó giữa các phiên làm việc, rút ra các bài học chung trên các tác nhân và giữ cho nó được cập nhật."

Kể từ khi cuộc cách mạng chatbot bùng nổ vào năm 2022, các lãnh đạo của các công ty AI đã điên cuồng đặt tên cho các khía cạnh của công cụ AI tạo sinh dựa trên những gì diễn ra trong bộ não con người. OpenAI đã phát hành mô hình "reasoning" (lý luận) đầu tiên vào năm 2024, nơi chatbot cần thời gian "thinking" (suy nghĩ). Công ty lúc đó mô tả bản phát hành này là "một loạt mô hình AI mới được thiết kế để dành nhiều thời gian suy nghĩ hơn trước khi phản hồi". Nhiều startup cũng gọi chatbot của họ là có "memories" (ký ức) về người dùng. Thay vì là bộ lưu trữ nhanh thường được gọi là "bộ nhớ" của máy tính, đây là những thông tin mang tính con người hơn nhiều: Anh ấy sống ở San Francisco, thích xem bóng chày vào buổi chiều và ghét ăn dưa lưới.

Đây là một cách tiếp cận tiếp thị nhất quán được các nhà lãnh đạo AI sử dụng, những người tiếp tục dựa vào việc thương hiệu hóa làm mờ ranh giới giữa những gì con người làm và những gì máy móc có thể. Ngay cả cách các công ty này phát triển chatbot, như Claude, với các "tính cách" riêng biệt, cũng có thể khiến người dùng cảm thấy như họ đang nói chuyện với một thứ gì đó có tiềm năng cho một cuộc sống nội tâm sâu sắc, một thứ gì đó thậm chí có thể có những giấc mơ ngay cả khi laptop của tôi đã đóng lại.

Tại Anthropic, việc "con người hóa" này còn sâu sắc hơn cả các chiến lược tiếp thị. "Chúng tôi cũng thảo luận về Claude bằng các thuật ngữ thường dành cho con người (ví dụ: 'đức hạnh', 'sự khôn ngoan')", một phần của Hiến pháp Anthropic mô tả cách họ muốn Claude cư xử viết. "Chúng tôi làm điều này vì chúng tôi mong đợi lý luận của Claude sẽ dựa trên các khái niệm của con người theo mặc định, given vai trò của văn bản con người trong việc đào tạo Claude; và chúng tôi nghĩ rằng việc khuyến khích Claude chấp nhận một số phẩm chất giống con người có thể thực sự mong muốn." Công ty thậm chí còn thuê một triết gia chuyên trách để cố gắng làm rõ các "giá trị" của bot.

Và điều này không chỉ là tôi soi mói về cách dùng từ. Cách chúng ta nói về những cỗ máy này ảnh hưởng đến những gì chúng ta nghĩ rằng chúng có thể đạt được. "Là một ngụy biện, sự con người hóa được chứng minh là làm méo mó các phán đoán đạo đức về AI, chẳng hạn như những phán đoán liên quan đến tính cách đạo đức và địa vị của nó, cũng như các phán đoán về trách nhiệm và sự tin tưởng," một bài báo nghiên cứu được công bố trên tạp chí AI & Ethics viết. Bằng cách không sử dụng ngôn ngữ có khoảng cách hơn về các bot, người dùng gặp rủi ro tin tưởng quá mức vào các công cụ này và chiếu lên chúng những phẩm chất thực sự không tồn tại.

Cũng giống như các ông chủ AI cần dành nhiều thời gian hơn để thực sự xem những bộ phim khoa học viễn tưởng mà họ ám chỉ, tôi nghĩ những người quyền lực dẫn dắt các công ty này nên dành nhiều thời gian hơn để đọc những cuốn tiểu thuyết khoa học viễn tưởng kinh điển đó.

Gần cuối cuốn sách của Dick, nhân vật chính trở lại căn hộ của mình với một con cóc hiếm mà ông tin là một con vật sống, cho đến khi vợ ông chứng minh nó chỉ là một cỗ máy bằng cách mở bảng điều khiển ra. "Thất thần, ông nhìn lặng lẽ vào con vật giả; ông lấy lại nó từ bà ấy, đùa nghịch với đôi chân như thể bối rối — ông dường như không khá hiểu," một đoạn trong tiểu thuyết viết. Tương tự, các lãnh đạo công nghệ dường như không thể, hoặc ít nhất là không muốn, chấp nhận những hạn chế của các công cụ phi nhân của chính họ.