Tại sao AI hoạt động kém hiệu quả khi thiếu ngữ cảnh và giải pháp khắc phục

Tại sao AI hoạt động kém hiệu quả khi thiếu ngữ cảnh và giải pháp khắc phục

Khoảng cách giữa lời hứa hẹn và hiệu suất thực tế của AI là rất rõ ràng. Cùng một mô hình có thể tạo ra kết quả chính xác và hữu ích trong hệ thống này, nhưng lại đưa ra những câu trả lời chung chung và không liên quan trong hệ thống khác.

Vấn đề không nằm ở mô hình. Nó nằm ở ngữ cảnh.

Hầu hết các hệ thống doanh nghiệp không được xây dựng để phù hợp với cách thức vận hành của AI. Dữ liệu bị phân tán rải rác trên các công cụ khác nhau. Danh tính người dùng không nhất quán. Các tín hiệu đến muộn hoặc không hề có. Hệ thống ghi lại các sự kiện nhưng thất bại trong việc kết nối chúng thành một cái nhìn liên tục.

AI phụ thuộc vào tính liên tục đó. Nếu thiếu nó, mô hình sẽ tự điền vào các khoảng trống để kết quả trông có vẻ bóng bẩy nhưng lại thiếu tính liên quan. Đây chính là nơi mà hầu hết các đội ngũ kỹ thuật bị mắc kẹt.

Một mô hình tốt hơn không thể khắc phục dữ liệu bị phân mảnh, cũ kỹ hoặc đại trà. Theo ước tính của Gartner, các tổ chức mất trung bình 12,9 triệu USD mỗi năm do chất lượng dữ liệu kém. AI không giải quyết được vấn đề này; nó chỉ phơi bày vấn đề đó nhanh hơn và ở quy mô lớn hơn.

Thử nghiệm "chiếc gương"

Có một bài kiểm tra chẩn đoán nhanh cho vấn đề này. Hãy cung cấp cho AI của bạn một tín hiệu khách hàng hoàn hảo với ý định cao (high-intent) và xem kết quả trả về. Nếu đầu ra chung chung hoặc không liên quan, mô hình cần được cải thiện. Nhưng nếu mô hình tạo ra thứ sắc bén và hữu ích trên dữ liệu sạch, sau đó lại bị hỏng khi gặp dữ liệu sản xuất thực tế, thì vấn đề nằm ở dữ liệu.

Trong thực tế, kịch bản thứ hai hầu như luôn đúng. AI hoạt động giống như một chiếc kính lúp, khiến các hệ thống dữ liệu mạnh trở nên mạnh mẽ hơn đáng kể, và những hệ thống yếu trở nên rõ ràng hơn. Các tổ chức đã dựa vào dữ liệu khách hàng phân mảnh, tích hợp kém không còn có thể ẩn đằng sau độ trễ báo cáo và sự diễn giải thủ công nữa. AI làm rõ vấn đề ngay trước mắt.

Ngữ cảnh là lớp nhận diện mới

Đây thực sự là nơi bước tiến hóa tiếp theo trở nên thú vị. Ngay cả sau khi bạn giải quyết vấn đề chất lượng dữ liệu, vẫn có sự thay đổi thứ hai đang diễn ra trong cách xây dựng và sử dụng hồ sơ khách hàng.

Trong nhiều năm, các hệ thống dữ liệu doanh nghiệp lưu trữ nội dung: giao dịch trong CRM, nhân khẩu học trong kho dữ liệu, phản hồi chiến dịch trong nền tảng marketing. Các bản ghi này mô tả những gì đã xảy ra. Chúng hữu ích cho báo cáo nhưng không được xây dựng cho AI.

AI yêu cầu ngữ cảnh. Ngữ cảnh không phải là một bản ghi tĩnh. Nó là cái nhìn hiện tại về khách hàng bao gồm hành vi gần đây, tín hiệu đa kênh và ý định đang nổi lên. Đó là sợi dây kết nối một tương tác với tương tác tiếp theo. Danh tính cho bạn biết ai đó là ai. Ngữ cảnh cho bạn biết họ đang làm gì và họ có khả năng làm gì tiếp theo.

Hãy xem xét một ví dụ đơn giản: yêu cầu AI gợi ý điểm đến nghỉ dưỡng biển, nó có thể gợi ý Hawaii hoặc Florida. Cho nó biết bạn có ba đứa con, nó sẽ đưa ra các lựa chọn thân thiện với gia đình. Cung cấp cho nó quyền truy cập vào các mẫu tìm kiếm gần đây, tín hiệu khả năng chi trả của bạn và nơi bạn đã tìm kiếm trong năm qua, và lời khuyên sẽ thay đổi hoàn toàn vì mô hình không còn làm việc từ các danh mục nhân khẩu học mà từ bức tranh sống động về bạn là ai và bạn đang làm gì ngay bây giờ.

Hầu hết các hệ thống doanh nghiệp được xây dựng để lưu trữ trạng thái, không phải duy trì ngữ cảnh. Chúng nắm bắt các sự kiện, nhưng không duy trì tính liên tục giữa chúng.

Đó chính là khoảng trống mà AI phơi bày.

Nhưng đối với các kỹ sư thực tế, thách thức không phải là khái niệm; nó là kiến trúc. Ngữ cảnh không sống trong một hệ thống duy nhất. Nó bị phân mảnh trên các luồng sự kiện, công cụ phân tích sản phẩm, CRM, kho dữ liệu và đường ống thời gian thực. May vá chúng thành thứ mà hệ thống AI thực sự có thể sử dụng đòi hỏi phải chuyển từ mô hình dữ liệu hướng theo lô (batch) sang kiến trúc luồng (streaming) hoặc gần thời gian thực, nơi các tín hiệu được liên tục thu nạp, giải quyết và cung cấp tại thời điểm suy luận (inference time).

Đây là nơi nhiều sáng kiến AI bị đình trệ. Mô hình đã sẵn sàng, nhưng lớp ngữ cảnh chưa được vận hành. Các hệ thống không được thiết kế để truy xuất các tín hiệu đúng trong vài mili-giây, hoặc để giải quyết danh tính qua các kênh theo thời gian thực. Nếu không có điều đó, "ngữ cảnh" vẫn chỉ là lý thuyết thay vì có thể hành động.

Các kiến trúc như Model Context Protocol (MCP) đang thúc đẩy sự chuyển dịch này bằng cách cung cấp cho các hệ thống AI một cách để truyền bộ nhớ về người dùng giữa các ứng dụng, về cơ bản là tạo ra một dòng ngữ cảnh liên tục xung quanh một cá nhân trên các tương tác khác nhau. Kết quả là một hồ sơ trở nên phong phú và có khả năng dự đoán hơn theo thời gian, tạo ra một đường liên tục giữa những gì ai đó đã làm, những gì họ đang làm bây giờ và những gì họ có khả năng làm tiếp theo.

Khi lớp danh tính đó mạnh, cùng một mô hình sẽ tạo ra kết quả tốt hơn. Khi nó yếu, không có mô hình nào có thể bù đắp.

Lợi thế cộng hưởng

Các tổ chức đã xây dựng hệ thống dữ liệu bên thứ nhất (first-party) và cơ sở hạ tầng danh tính bền vững trước làn sóng AI hiện đang được hưởng lợi từ hiệu ứng cộng hưởng. Dữ liệu tốt hơn huấn luyện các mô hình thông minh hơn. Các mô hình thông minh hơn thu hút nhiều người dùng đồng ý hơn. Nhiều người dùng đồng ý hơn tạo ra các tín hiệu hành vi phong phú hơn.

Các đối thủ không có nền tảng đó không thể sao chép điều này, bất kể họ đang chạy mô hình nào. Khoảng cách mang tính cấu trúc, không phải thuật toán, và vì các hệ thống danh tính được cải thiện từng chút một theo thời gian, các tổ chức bắt đầu đầu tư sớm hơn có những lợi thế thực sự khó để thu hẹp.

Ý nghĩa thực tế

Hàm ý thực tế là sự thay đổi trong việc đầu tư vào AI. Các tổ chức đang có kết quả nhất quán từ AI đang coi nó như một lớp xử lý cho một hệ thống dữ liệu sống động, không phải là một khả năng độc lập được gắn vào cơ sở hạ tầng hiện có.

Đối với những người xây dựng và vận hành, điều này chuyển thành một bộ ưu tiên khác so với hai năm thử nghiệm AI vừa qua:

• Thứ nhất, thiết lập cho tín hiệu thời gian thực. Các đường ống theo lô và làm mới hàng đêm là không đủ khi các hệ thống AI được mong đợi phản hồi với ý định của người dùng ngay khi nó xảy ra. Các đội ngũ cần kiến trúc hướng sự kiện (event-driven) nắm bắt và hiển thị các tín hiệu hành vi trong thời gian gần thực.

• Thứ hai, làm cho ngữ cảnh có thể truy xuất tại thời điểm suy luận. Việc lưu trữ dữ liệu trong kho dữ liệu là chưa đủ. Hệ thống phải được thiết kế để ngữ cảnh liên quan có thể được giải quyết và đưa vào lời nhắc (prompts) hoặc được truy xuất bởi các tác nhân trong vài mili-giây.

• Thứ ba, đầu tư vào giải quyết danh tính như một cơ sở hạ tầng. Kết nối các tín hiệu phân mảnh trên các thiết bị và kênh để hệ thống hiểu các cá nhân thực thay vì các tương tác ẩn danh là nền tảng, không phải tùy chọn.

• Thứ tư, coi quản trị và sự đồng ý là một phần của thiết kế hệ thống. Dữ liệu bên thứ nhất được xây dựng dựa trên sự tin tưởng không chỉ an toàn hơn; nó bền vững hơn và cuối cùng có giá trị hơn dữ liệu bên thứ ba mà đối thủ có thể truy cập.

Những khoản đầu tư này ít được nhìn thấy hơn việc ra mắt một mô hình mới và cũng khó sao chép hơn nhiều.

Cuộc đua thực sự

Các mô hình hiện nay có thể thay thế cho nhau. Sự khác biệt sẽ đến từ ai có thể vận hành hóa ngữ cảnh ở quy mô lớn và coi mô hình là một lớp xử lý, không phải là lợi thế.

Lợi thế đó đến từ nhiều năm đầu tư vào cơ sở hạ tầng danh tính, dữ liệu bên thứ nhất và các hệ thống giữ cho ngữ cảnh khách hàng luôn được cập nhật.

Các tổ chức chiến thắng sẽ không phải là những người có lời nhắc (prompts) tốt hơn. Họ sẽ là những người có hệ thống hiểu khách hàng trước khi lời nhắc nào được viết ra.

Neej Gore là Giám đốc Dữ liệu (Chief Data Officer) tại Zeta Global.

Bài viết được tài trợ bởi Zeta Global.