Muse AI của Meta dễ thương đến mức đáng sợ

Meta đang muốn nhét trợ lý AI Muse vào mọi thiết bị, từ kính thông minh đến chiếc vòng đeo tay Charm. Và để làm điều đó dễ dàng hơn, hãng đã khoác cho nó một linh vật cực kỳ đáng yêu tên là Jolly.

Nghe thì có vẻ vô hại. Nhưng theo cây viết Victoria Song của The Verge, chính vẻ ngoài dễ thương ấy lại là thứ nguy hiểm nhất.

Linh vật Jolly và sức mạnh của sự dễ thương

Linh vật Jolly của Meta trong bộ đồ lính cứu hỏa

Jolly là linh vật đại diện cho Muse, trợ lý AI mới của Meta. Nó có bộ lông trắng mềm mại, đôi má ửng hồng và gương mặt tròn trịa. Tại sự kiện Meta Connect, những tấm bìa cứng in hình Jolly được đặt khắp khuôn viên công ty, xuất hiện trong đủ loại trang phục đáng yêu.

Theo Victoria Song, mỗi lần nhìn thấy hình ảnh Jolly, trái tim "khô héo" của cô lại cảm thấy vui vẻ. Đó chính xác là điều Meta muốn.

Con người và các loài động vật có vú tiến hóa để thấy trẻ sơ sinh dễ thương, vì điều đó khiến chúng ta trở thành những bậc cha mẹ tốt hơn. Nhật Bản đã biến việc tạo ra những linh vật đáng yêu thành một nghệ thuật, chính vì nó khiến người ta quan tâm đến các thị trấn và sáng kiến địa phương.

Các nghiên cứu về robot đồng hành cũng chỉ ra điều tương tự: một cỗ máy trông giống Mirumi sẽ dễ được chấp nhận hơn hẳn so với những chú robot chó đáng sợ của Boston Dynamics.

Khi vẻ ngoài dễ thương phá vỡ hàng phòng thủ

Trợ lý Muse trong bộ trang phục cao bồi

Victoria Song kể lại trải nghiệm cá nhân đáng chú ý. Cô đặt tên cho trợ lý Muse của mình là Blorbo — một cái tên cố tình ngớ ngẩn để nhắc bản thân rằng đây không phải là thật, và để giữ một chút ranh giới.

Ban đầu, cô yêu cầu Blorbo giúp lập kế hoạch sức khỏe: một lộ trình tập luyện để chạy 5K dưới 30 phút và lấy lại cơ bắp đã mất. Kết quả khá nhạt nhòa, chỉ ở mức trung bình.

Nhưng rồi cô nhìn vào gương mặt của nó. Dựa trên những gì học được từ email của cô, Blorbo đã biến đổi thành một miếng bánh mì hình mèo với gương mặt giống nhân vật Kirby. Nó dễ thương đến mức, theo lời cô, giống như bị chiếu tia neuralizer trong phim Men in Black.

Trước đó, cô vẫn dè chừng khi chia sẻ về sức khỏe của mình. Nhưng khi gương mặt đáng yêu ấy nhìn vào tận sâu trong tâm hồn, cô bắt đầu chia sẻ nhiều hơn, chỉ để xem liệu các gợi ý có được cải thiện không.

Và đó chính xác là điều Meta muốn.

Bài toán dữ liệu đằng sau nụ cười

Trợ lý Muse biến thành hình dáng bánh mì mèo

Trong một buổi demo khác, Muse phiên bản tên Henry — chỉ có âm thanh, giọng nam người Anh trầm ấm — được giao nhiệm vụ hỗ trợ một nhân vật giả tưởng tên Sean, 38 tuổi, dân phòng gym làm marketing, nghiện protein và tập luyện với cường độ điên rồ.

Buổi demo bộc lộ những hạn chế quen thuộc của AI. Khi được hỏi loại đồ ăn nhẹ nào cân bằng nhất giữa protein và calo, Henry mất cả phút để "suy nghĩ" rồi đưa ra câu trả lời mà ai cũng đoán được. Với đồng nghiệp Jay Peters, Henry còn nói sai về hàm lượng protein trong một thanh protein bar.

Nhưng Victoria Song nhận ra một điều đáng lo ngại hơn: việc dùng kính thông minh để nhận diện đồ ăn là cách dễ dàng để Meta biết ai đang ăn gì. Dữ liệu đó hoàn toàn có thể được dùng cho quảng cáo nhắm mục tiêu, biến Meta thành một cỗ máy kiếm tiền khổng lồ.

Bạn có thể chỉ là một người bình thường đang cố ăn uống lành mạnh hơn. Nhưng bối cảnh của bạn lại góp phần nuôi dưỡng một ma trận dữ liệu nhân khẩu học vô hình mà Meta chắc chắn sẽ tìm cách kiếm lợi từ nó, giống như hãng đã làm với các mảng kinh doanh cốt lõi suốt 20 năm qua.

Lời cảnh tỉnh từ chính người dùng

Điều khiến Victoria Song bực bội nhất không phải là Jolly xấu xí, mà là cô yêu thiết kế của nó quá nhiều. Cô cảm nhận được một chút "bóng tối" tỏa ra từ nụ cười đáng yêu ấy.

Cô hình dung được những ngày tồi tệ nhất trong hành trình chăm sóc sức khỏe của mình — khi tìm thấy sự khuây khỏa, thậm chí là niềm vui, từ một công cụ không hề có cảm xúc gì về mình, nhưng lại được giao phó quá nhiều thứ thuộc về bản thân.

Tôi có thể hình dung một gương mặt dễ thương đang giúp tôi, có lẽ chỉ trong chốc lát, quên đi cảm giác của mình về lịch sử của Meta. Điều đó thật quỷ quyệt.

Kết luận của cô rất rõ ràng: không cần tước đi niềm vui của bất kỳ ai với Jolly. Ai đó ở Meta thực sự đã làm rất tốt ở khâu này. Nhưng với những ai dùng trợ lý Muse, cần nhớ một điều duy nhất: đừng để bị lừa bởi một gương mặt dễ thương.