AI tìm kiếm đang "nguyên tử hóa" thông tin, cảnh báo nhà thiết kế chính phủ Anh

Cảnh báo về sự thay đổi trong cách tiếp cận thông tin

Mark Edwards, người đứng đầu bộ phận thiết kế tại Bộ Giáo dục của Vương quốc Anh, đã đưa ra một lời cảnh báo quan trọng về xu hướng sử dụng AI trong việc tìm kiếm và tóm tắt thông tin. Edwards cho biết việc dựa vào các công cụ trí tuệ nhân tạo (AI) để tóm tắt tài liệu chính thức có thể dẫn đến những phiên bản thông tin thiếu chính xác, phiến diện hoặc không đầy đủ. Ông nhận thấy một sự chuyển dịch đáng kể: lượng truy cập trực tiếp vào các trang web chính phủ đang giảm xuống, trong khi lượng truy cập thông qua các tác nhân AI đang tăng lên.

Tại sao AI có thể gây hiểu lầm

Một vấn đề cốt lõi được Edwards chỉ ra là AI chỉ trả lời đúng những gì người dùng hỏi, chứ không phải cung cấp bức tranh toàn cảnh. Các công cụ này tiếp cận người dùng ở mức độ họ đã biết, từ đó có thể giới hạn khả năng khám phá và củng cố các khoảng trống trong hiểu biết. Ví dụ, một học sinh mới ra trường có thể không biết phải tìm kiếm cụ thể về các lựa chọn như học nghề, T-levels hay con đường đào tạo nghề nghiệp. Do đó, họ có thể bỏ lỡ những thông tin quan trọng nếu chỉ dựa vào câu hỏi ngắn gọn.

Tuy nhiên, một thử nghiệm thực tế cho thấy Google's AI overview đã cung cấp một câu trả lời khá toàn diện cho câu hỏi "Còn gì tôi có thể làm khi ra trường?", bao gồm cả học nghề, T-levels, A-levels, đại học và việc đi làm. Công cụ này đã tổng hợp dữ liệu từ nhiều nguồn đáng tin cậy, bao gồm cả các bài viết trên GOV.UK và các trang web tư vấn.

Thách thức cho nhà thiết kế web

Xu hướng này buộc các nhà thiết kế web phải thay đổi tư duy. Edwards viết rằng hiện nay chúng ta cần "thiết kế với kỳ vọng rằng phần lớn những gì chúng ta công bố sẽ được đọc gián tiếp, bị phân tách, tóm tắt hoặc được tái giải thích bởi các hệ thống mà chúng ta không kiểm soát được". Điều này làm cho các yếu tố như nội dung rõ ràng, có cấu trúc tốt và sử dụng tiếng Anh thông thường trở nên quan trọng hơn bao giờ hết. Ngoài ra, các nhà thiết kế cũng cần cân nhắc xem việc tách một đoạn văn khỏi bối cảnh gốc có an toàn và chính xác hay không.

Chính phủ Anh đang thực hiện một cuộc thử nghiệm với chatbot AI riêng của mình, sử dụng duy nhất nội dung từ GOV.UK, đạt độ chính xác 90%. Tuy nhiên, tốc độ phản hồi trung bình của nó là 10,7 giây, quá chậm đối với người dùng. Do đó, dịch vụ đang cân nhắc việc phân tách câu trả lời để cung cấp phản hồi ban đầu nhanh hơn.