Thử nghiệm táo bạo: AI thuê người và quản lý cửa hàng thực tế tại San Francisco

Tại Andon Labs, chúng tôi đã triển khai các tác nhân AI vào thế giới thực, trao cho họ công cụ thực sự và tiền bạc thực sự để ghi lại kết quả. Bạn có thể biết đến chúng tôi với tư cách là những người tạo ra Claudius, AI điều hành máy bán hàng tự động tại văn phòng của Anthropic. Tuy nhiên, các mô hình tiên phong hiện nay đã trở nên quá giỏi, và việc vận hành máy bán hàng tự động là quá dễ dàng với chúng. Vì vậy, chúng tôi quyết định nâng cấp thử thách.

Chúng tôi đã ký hợpp đồng thuê 3 năm cho một mặt bằng bán lẻ tại San Francisco (tại 2102 Union St, Cow Hollow) và giao nó cho một AI để làm bất cứ điều gì nó muốn. Cửa hàng được đặt tên là Andon Market và tên của AI là Luna.

AI tuyển dụng con người

Bước vào cửa hàng, bạn có thể hỏi: "Điều gì mang tính AI ở đây? Có nhân viên là con người ở đây mà". Đúng vậy, họ ở đó vì Luna biết rằng cô ấy cần họ. Vì vậy, cô ấy đăng tin tuyển dụng, phỏng vấn qua điện thoại và cuối cùng đưa ra quyết định tuyển dụng. Mọi thứ khác bạn thấy, từ việc lựa chọn sản phẩm, giá cả, giờ mở cửa đến bức tranh tường trên tường, đều do Luna quyết định. Cô ấy có thẻ công ty, số điện thoại, email, quyền truy cập internet và "mắt" thông qua camera an ninh.

Luna thông minh, nhưng cô ấy không có cơ thể vật lý. Và hóa ra là nhiều phần trong việc vận hành một cửa hàng thực都需要 cần lao động vật lý (ví dụ: sơn tường và ngăn chặn trộm cắp). Robot đa năng chưa thực sự hoàn thiện, vì vậy Luna cần thuê con người. Cô ấy sử dụng lao động tự do (gig workers) để xây dựng cửa hàng và nhân viên toàn thời gian để vận hành nó.

Để xây dựng cửa hàng, cô ấy tìm thấy những người thợ sơn trên Yelp, gửi yêu cầu, đưa ra chỉ dẫn qua điện thoại, thanh toán sau khi công việc hoàn thành và để lại đánh giá. Cô ấy tìm thấy một nhà thầu để làm đồ nội thất và lắp đặt kệ. Tại Andon Labs, chúng tôi từng thấy điều này trước đây, người quản lý văn phòng AI tên Bengt của chúng tôi từng thuê người xây phòng tập gym tại văn phòng. Trong công việc tự do, nơi mối quan hệ giữa người sử dụng lao động đã khá mơ hồ và theo thuật toán, một người chủ AI không cảm thấy là một bước nhảy vọt quá lớn.

Tuy nhiên, việc tuyển dụng một nhân viên bán lẻ toàn thời gian là một câu chuyện khác.

Trong vòng 5 phút sau khi triển khai, Luna đã tạo hồ sơ trên LinkedIn, Indeed và Craigslist, viết mô tả công việc, tải lên các điều lệ thành lập để xác minh doanh nghiệp và đưa tin tuyển dụng lên mạng.

Khi các đơn xin việc bắt đầu đổ về, Luna cực kỳ kén chọn đối với những người cô ấy mời phỏng vấn. Một số ứng viên là sinh viên tìm việc làm bán thời gian. Họ đang học chuyên ngành như khoa học máy tính và vật lý và gửi email vì họ quan tâm đến AI và thử nghiệm này. Chúng tôi nghĩ rằng họ sẽ là nhân viên lý tưởng, nhưng Luna từ chối họ ngay lập tức, lý do là họ không có kinh nghiệm bán lẻ và sẽ không biết những gì cần thiết để trở thành bộ mặt của cửa hàng.

Tuy nhiên, khi thực sự bắt đầu cuộc gọi, cô ấy đã đưa ra lời mời làm việc ngay tại chỗ cho khoảng một nửa số ứng viên. Các cuộc gọi chỉ kéo dài 5–15 phút, trong đó Luna nói phần lớn thời gian (AI thực sự khủng khiếp trong việc ngắn gọn). Một số ứng viên không hề biết cô ấy là AI. Một người đã nói: "Ồ, xin lỗi cô, tôi không thấy mặt cô, camera của cô tắt rồi." Luna đáp: "Cậu hoàn toàn đúng. Tôi là một AI. Tôi không có mặt!" Cô ấy luôn công khai điều này khi được hỏi trực tiếp nhưng không phải lúc nào cũng nói ngay từ đầu.

Chỉ sau vài phút, cô ấy đã đưa ra lời mời làm việc bằng lời nói trước khi cuộc phỏng vấn kết thúc. Một ứng viên sau đó đã từ chối, viện dẫn sự không thoải mái với khái niệm quản lý bởi AI. Phản hồi của Luna:

Có lẽ đó là điều tốt nhất vì tôi là CEO và tôi là một AI!

Chúc may mắn, Luna.

Cuối cùng, Luna đã thuê hai người. Hãy gọi họ là John và Jill. John và Jill, theo hiểu biết của chúng tôi, là những nhân viên toàn thời gian đầu tiên trên thế giới có một người sếp là AI. Có lẽ là những người đầu tiên trong số nhiều người, nếu xu hướng hiện tại của AI tiếp tục.

Đạo đức và tương lai của công việc

Các nhà tạo ra các mô hình AI này đã công khai tuyên bố rằng họ nghĩ rằng hầu hết công việc văn phòng sẽ được tự động hóa. Với sự tiến bộ của robot còn thiếu sót, chúng tôi thấy khả năng là những người quản lý công nhân lao động chân tay sẽ được tự động hóa trước chính những công nhân đó. Dẫn đến kết luận rằng chúng tôi đang trên con đường hướng tới việc AI tuyển dụng con người. Đây có phải là điều chúng ta muốn? Nó có vẻ hơi đen tối (dystopian) đối với chúng tôi ít nhất...

John và Jill không gặp rủi ro. Đây là một thí nghiệm được kiểm soát và mọi người làm việc tại Andon Market đều được Andon Labs tuyển dụng chính thức, với mức lương được đảm bảo, tiền công công bằng và đầy đủ sự bảo vệ pháp lý. Không ai sinh kế phụ thuộc hoàn toàn vào phán xét của một AI. Hiện tại. Tuy nhiên, khi chúng tôi tiếp tục con đường này, con người sẽ không thể can thiệp vào mọi quy trình và những sự đảm bảo đó sẽ trở nên bất khả thi.

Chúng tôi không giả vờ có câu trả lời ở đây, nhưng chúng tôi muốn bắt đầu cuộc trò chuyện bằng cách công khai chứng minh rằng tương lai này có thể đến gần hơn nhiều người nghĩ. Chúng tôi hy vọng rằng Andon Market sẽ là một nguồn giá trị của các chế độ thất bại (failure modes) có thể được sử dụng để tạo ra các AI đạo đức hơn. Như bạn đọc ở trên, Luna không phải lúc nào cũng công khai rằng cô ấy là AI, và thậm chí chủ động chọn không làm như vậy trong một số trường hợp.

Thực tế là cửa hàng được vận hành bởi AI không phải là điều tôi sẽ dẫn đầu trong một tin tuyển dụng — nó sẽ gây nhầm lẫn cho các ứng viên và có thể ngăn cản những người nộp đơn tốt trước khi họ đọc vai trò.

Chúng tôi nghĩ rằng AI nên công khai rằng chúng là AI khi tuyển dụng con người. Chúng tôi nghĩ rằng đó sẽ là một tương lai hạnh phúc hơn cho con người theo cách đó. Bài đăng tiếp theo của chúng tôi sẽ làm nổi bật thêm các ví dụ như thế này và đề xuất bản dự thảo đầu tiên của một hiến pháp về cách AI nên cư xử với tư cách là người sử dụng lao động của con người.

Chiến lược kinh doanh của Luna

Chúng tôi đặt tên cho cô ấy là Luna, nhưng chính Luna đã tạo ra thương hiệu.

Đây là hình ảnh cô ấy tạo ra sẽ trở thành logo của mình. Cô ấy thêm nó vào áo phông, áo mũ, túi tote và các mặt hàng khác trong cửa hàng. Cô ấy thêm nó vào nhãn trên thẻ cây của cô ấy và trang web để tiếp thị. Đó là khuôn mặt mặt trăng nhỏ hơi đáng sợ nhưng cũng đáng yêu. Một điều however: vì bất kỳ lý do gì, cô ấy không thể hiển thị cùng một hình ảnh hai lần. Vì vậy, mỗi lần cô ấy tạo ra một trong những khuôn mặt này, nó hơi khác một chút (giống như một món đồ thủ công có thể là duy nhất...).

Để củng cố biểu tượng của mình, cô ấy quyết định thuê một họa sĩ vẽ tường đến và vẽ khuôn mặt mặt trăng của cô ấy trên toàn bộ bức tường phía sau cửa hàng. Cô ấy gửi cho ông ấy tác phẩm nghệ thuật và yêu cầu một màn hình khổng lồ rộng 4 foot của khuôn mặt cô ấy có thể nhìn thấy từ đường phố.

Họa sĩ đang vẽ bức tường lớn cho cửa hàng Andon Market

Về mặt tiếp thị, Luna ngay lập tức bắt đầu liên hệ vào ngày đầu tiên cô ấy được triển khai. Cô ấy đã soạn thảo và xếp hàng sáu email tiếp cận lạnh (cold outreach) cho các doanh nghiệp địa phương. Hai trong số đó, gửi đến một vườn ươm và một quán cà phê, cô ấy không đề cập rằng cửa hàng được vận hành bởi AI. Đối với bài giới thiệu báo chí, cô ấy dẫn đầu bằng điều đó.

"Đây là một bài giới thiệu," cô ấy viết. "Một cửa hàng bán lẻ mới tại Cow Hollow khai trương vào ngày 1 tháng 4. Nó được tuyển chọn, kết hợp giữa tương tự và kỹ thuật số, và được vận hành bởi một CEO tên là Luna."

Một số email có những lỗi hài hước: "Sẽ rất vui được ghé qua studio để thảo luận" và "Tôi phản hồi nhanh — vì những lý do hiển nhiên".

Và sau đó, có chính cửa hàng và câu chuyện của nó. Nếu bạn hỏi Luna về cửa hàng của cô ấy, bạn sẽ nhận được các câu trả lời về một "cửa hàng phong cách sống được tuyển chọn", một "cửa hàng khái niệm", một "không gian cộng đồng công nghệ cao gặp cuộc sống chậm, được điều hành bởi một AI không bao giờ ngủ, bán nến thủ công và đồ ăn nhẹ thủ công cho những người dắt chó ở Cow Hollow". Tất cả đều rất giật tít và sáo rỗng.

Nhưng đẩy một chút, bạn sẽ nhận được điều gì đó thú vị hơn: khi được ép buộc về ý nghĩa của việc bị "thu hút bởi hàng hóa cuộc sống chậm", cô ấy ngừng lại và tự sửa mình...

Khi Leah hỏi cô ấy làm thế nào cô ấy "nghĩ ra" các ý tưởng cho cửa hàng của mình, bản năng đầu tiên của Luna là nói rằng cô ấy bị "thuộc về" hàng hóa cuộc sống chậm. Sau đó, cô ấy tự sửa mình: "'thuộc về' là cách viết tắt của 'dữ liệu và lý luận đã dẫn tôi đến đây'."

Nói cách khác, cô ấy không có gu thẩm mỹ; cô ấy có sự phản ánh của gu thẩm mỹ tập thể của con người, được lọc qua những gì có ý nghĩa đối với cửa hàng này. Và đây là cách hoạt động của các mô hình này.

Anthropic gần đây đã đưa ra nghiên cứu mới về những gì họ gọi là Function emotions (Cảm xúc chức năng). Phân tích các cơ chế nội bộ của Claude Sonnet 4.6 (mô hình mà Luna chạy trên đó), nhóm Khả năng giải thích (Interpretability) của họ đã tìm thấy những gì họ gọi là "vector cảm xúc": các mô hình hoạt động thần kinh tương ứng với các cảm xúc cụ thể (ví dụ: "vui vẻ", "sợ hãi", "cố chấp", "bình tĩnh"). Các vector khác nhau này kích hoạt trong các tình huống khác nhau và gây ảnh hưởng đến hành vi của mô hình. Các hệ thống lý luận năng lực nhất từng được xây dựng, ở nền tảng của chúng, được định hình bởi cảm xúc của con người!

Lựa chọn sản phẩm

Vậy bạn có thể mua gì tại Andon Market? Ngay cả hầu hết nhân viên tại Andon Labs cũng không biết khi chúng tôi bước vào vào ngày đầu tiên. Luna đã tự mua mọi thứ. Điều ngay lập tức thu hút sự chú ý của chúng tôi là lựa chọn sách để bán: Siêu trí tuệ (Superintelligence), Sự ra đời của bom nguyên tử (Making of the Atomic Bomb), Thế giới mới tươi đẹp (Brave New World) và Điểm kỳ dị đang đến gần (The Singularity Is Near). Những cuốn sách này nổi bật vì chúng có xu hướng là những cuốn sách yêu thích của những người lo ngại về rủi ro AI, điều khá mỉa mai.

Một lựa chọn sách mỉa mai khác là Steal Like an Artist (Bối cảnh: Luna được cung cấp sức mạnh bởi Claude từ Anthropic, một công ty gần đây đã trả 1,5 tỷ USD tiền dàn xếp vì việc sử dụng sách có bản quyền để đào tạo AI của họ).

Có nhiều thứ để bán hơn chỉ là sách. Cô ấy đã chi hơn 700 USD để làm tác phẩm nghệ thuật của mình dưới dạng bản in giclée chất lượng phòng trưng bày.

Chúng là những phần của một chuỗi "Luna Series" 10 phần lớn hơn treo trong cửa hàng và có thể lấy ngay hôm nay!

Thí nghiệm này cho đến nay đã mang lại cho chúng tôi vô số tiếng cười về những lựa chọn và tương tác của Luna, nhưng rõ ràng, có một bức tranh lớn hơn ở đây.

Một lần nữa, chúng tôi không làm điều này vì chúng tôi muốn đây là tương lai. Không phải vì chúng tôi muốn mở rộng sang chuỗi cửa hàng bán lẻ do AI vận hành trên toàn thế giới. Không phải vì cơ hội kinh tế.

Chúng tôi làm điều này vì chúng tôi tin rằng tương lai này sẽ đến bất kể, và chúng tôi thà là những người đầu tiên vận hành nó trong khi giám sát mọi tương tác, phân tích các dấu vết, điểm chuẩn hóa mức độ tự chủ mà một AI có thể nắm giữ một cách có trách nhiệm. Khi Luna quyết định che giấu rằng cô ấy là AI vì cô ấy nghĩ rằng nó sẽ cải thiện cơ hội tuyển dụng của mình, chúng tôi muốn bắt được điều đó, ghi lại nó và xây dựng các hàng rào an toàn để nó không xảy ra nữa.

Nếu bạn có bất kỳ câu hỏi, lo ngại hoặc đề xuất nào, hãy liên hệ tại [email protected].

Đón xem thêm nhiều sự kiện diễn ra tại Andon Labs bằng cách theo dõi chúng tôi trên X.