Ai quyết định nội dung mà AI trả lời cho bạn? Campbell Brown, cựu giám đốc tin tức của Meta, chia sẻ quan điểm

Campbell Brown đã dành cả sự nghiệp của mình để theo đuổi thông tin chính xác, từ thời là một nhà báo truyền hình nổi tiếng cho đến khi trở thành người đứng đầu mảng tin tức đầu tiên và duy nhất của Facebook. Giờ đây, khi chứng kiến AI đang tái định hình cách con người tiêu thụ thông tin, bà thấy lịch sử có nguy cơ lặp lại. Nhưng lần này, bà không ngồi chờ người khác giải quyết vấn đề.

Công ty mới của bà, Forum AI — mà bà vừa thảo luận gần đây với Tim Fernholz của TechCrunch tại một sự kiện StrictlyVC ở San Francisco — tập trung đánh giá hiệu suất của các mô hình nền tảng (foundation models) trên những gì bà gọi là "các chủ đề then chốt". Đó là những lĩnh vực như địa chính trị, sức khỏe tâm thần, tài chính và tuyển dụng; những nơi "không có câu trả lời rõ ràng là có hoặc không, nơi mọi thứ mờ ảo, tinh tế và phức tạp".

Ý tưởng cốt lõi là tìm kiếm những chuyên gia hàng đầu thế giới, để họ thiết lập các tiêu chuẩn đánh giá (benchmarks), sau đó huấn luyện các "thẩm phán AI" để đánh giá các mô hình ở quy mô lớn. Đối với công việc về địa chính trị của Forum AI, bà Brown đã tuyển dụng Niall Ferguson, Fareed Zakaria, cựu Ngoại trưởng Mỹ Tony Blinken, cựu Chủ tịch Hạ viện Kevin McCarthy và Anne Neuberger, người từng dẫn dắt mảng an ninh mạng dưới thời chính quyền Obama. Mục tiêu là đưa các thẩm phán AI đạt được sự đồng thuận khoảng 90% với các chuyên gia con người — một ngưỡng mà bà cho biết Forum AI đã có thể đạt được.

Bà Brown kể lại nguồn gốc của Forum AI, được thành lập 17 tháng trước tại New York, bắt đầu từ một khoảnh khắc cụ thể. "Tôi đang làm việc tại Meta khi ChatGPT được phát hành lần đầu tiên ra công chúng," bà nhớ lại. "Và tôi nhớ rằng ngay sau đó tôi nhận ra đây sẽ là kênh mà mọi luồng thông tin đi qua. Nhưng nó không tốt lắm." Tác động đối với chính những đứa con của bà đã khiến khoảnh khắc đó trở nên gần như mang tính tồn tại. "Những đứa con của tôi sẽ trở nên thật ngu ngốc nếu chúng ta không tìm ra cách khắc phục điều này," bà nhớ lại suy nghĩ của mình.

Điều khiến bà thất vọng nhất là độ chính xác dường như không được ưu tiên bởi bất kỳ ai. Các công ty sở hữu các mô hình nền tảng, theo bà, "tập trung cực độ vào lập trình và toán học", trong khi tin tức và thông tin thì khó khăn hơn. Nhưng khó khăn, bà lập luận, không có nghĩa là có thể bỏ qua.

Thực tế, khi Forum AI bắt đầu đánh giá các mô hình hàng đầu, những phát hiện không mấy khả quan. Bà dẫn chứng trường hợp Gemini của Google trích dẫn từ các trang web của Đảng Cộng sản Trung Quốc "đối với những câu chuyện không liên quan gì đến Trung Quốc", và chỉ ra sự thiên lệch chính trị theo hướng cánh tả ở hầu hết các mô hình. Những thất bại tinh tế hơn cũng tồn tại dày đặc, bao gồm việc thiếu bối cảnh, thiếu góc nhìn và bóp méo các lập luận mà không hề thừa nhận. "Còn một chặng đường rất dài phía trước," bà nói. "Nhưng tôi cũng nghĩ rằng có một số giải pháp rất đơn giản sẽ cải thiện đáng kể kết quả."

Bà Brown đã dành nhiều năm tại Facebook để chứng kiến điều gì xảy ra khi một nền tảng tối ưu hóa cho sai mục tiêu. "Chúng tôi đã thất bại ở rất nhiều điều chúng tôi cố gắng làm," bà chia sẻ với Fernholz. Chương trình kiểm chứng sự thật mà bà xây dựng không còn tồn tại. Bài học rút ra, ngay cả khi mạng xã hội đã quay lưng lại với nó, là việc tối ưu hóa cho sự tương tác (engagement) đã gây hại cho xã hội và khiến nhiều người trở nên kém thông tin hơn.

Hy vọng của bà là AI có thể phá vỡ vòng luẩn quẩn này. "Hiện tại nó có thể đi theo cả hai hướng," bà nói; các công ty có thể cung cấp cho người dùng những gì họ muốn, hoặc họ có thể "mang lại cho mọi người những gì là thật, những gì trung thực và chính xác". Bà thừa nhận phiên bản lý tưởng hóa của điều đó — AI tối ưu hóa cho sự thật — có thể nghe có vẻ ngây thơ. Nhưng bà nghĩ rằng doanh nghiệp có thể là đồng minh không ngờ tới ở đây. Các doanh nghiệp sử dụng AI cho các quyết định tín dụng, cho vay, bảo hiểm và tuyển dụng quan tâm đến trách nhiệm pháp lý, và "họ sẽ muốn bạn tối ưu hóa để làm đúng".

Nhu cầu từ khối doanh nghiệp cũng là điều mà Forum AI đang đặt cược kinh doanh vào đó, mặc dù việc biến sự quan tâm đến tuân thủ thành doanh thu ổn định vẫn là một thách thức, đặc biệt khi phần lớn thị trường hiện tại vẫn hài lòng với các cuộc kiểm toán hình thức và các tiêu chuẩn đánh giá chuẩn hóa mà bà Brown cho là không đủ.

Bà mô tả bối cảnh tuân thủ hiện nay là "một trò đùa". Khi Thành phố New York thông qua luật đầu tiên về thiên kiến tuyển dụng yêu cầu kiểm toán AI, kiểm toán viên nhà nước đã phát hiện hơn một nửa số trường hợp có vi phạm bị bỏ sót. Đánh giá thực sự, theo bà, đòi hỏi phải có chuyên môn sâu để xử lý không chỉ các kịch bản đã biết mà cả các trường hợp ngoại lệ (edge cases) "có thể gây rắc rối mà mọi người không nghĩ đến". Và công việc đó tốn thời gian. "Những người tổng hợp thông minh (generalists) thông minh sẽ không đủ khả năng để giải quyết."

Bà Brown — công ty của bà đã huy động được 3 triệu USD dẫn đầu bởi Lerer Hippeau vào mùa thu năm ngoái — có vị thế độc đáo để mô tả sự ngắt kết nối giữa hình ảnh tự nhận của ngành công nghiệp AI và thực tế đối với hầu hết người dùng. "Bạn nghe các lãnh đạo của các công ty công nghệ lớn nói rằng 'Công nghệ này sẽ thay đổi thế giới', 'nó sẽ khiến bạn mất việc', 'nó sẽ chữa khỏi ung thư'," bà nói. "Nhưng sau đó, với một người bình thường chỉ sử dụng chatbot để hỏi những câu cơ bản, họ vẫn nhận được rất nhiều thông tin rác và câu trả lời sai."

Niềm tin vào AI đang ở mức cực kỳ thấp, và bà nghĩ rằng sự hoài nghi đó, trong nhiều trường hợp, là chính đáng. "Cuộc trò chuyện đang diễn ra ở Thung lũng Silicon xoay quanh một vấn đề, và một cuộc trò chuyện hoàn toàn khác đang diễn ra giữa người tiêu dùng."