Thế hệ tiếp theo của sản phẩm AI: Khi tư duy hệ thống quan trọng hơn cú pháp

Hilary Mason tại QCon AI

Trong bối cảnh công nghệ đầy biến động hiện nay, Hilary Mason — nhà đồng sáng lập và CEO của Hidden Door — đã có bài thuyết trình đầy sâu sắc tại hội nghị QCon AI về tương lai của các sản phẩm trí tuệ nhân tạo. Bà không chỉ chia sẻ hành trình cá nhân từ giảng đường đại học đến việc xây dựng các hệ thống AI quy mô lớn, mà còn đưa ra những góc nhìn thực tế về sự thay đổi trong tư duy kỹ thuật và vai trò của các kỹ sư trong kỷ nguyên mới.

Từ kỹ thuật xác định đến tư duy xác suất

Mason bắt đầu bằng cách nhìn lại sự tiến hóa của các thuật ngữ công nghệ. Từ thời kỳ "Big Data" khi chúng ta tập trung vào việc thu thập và xử lý dữ liệu, đến Data Science với khả năng dự đoán, và giờ đây là AI và Generative AI. Tuy nhiên, bà nhấn mạnh rằng bản chất toán học, mã nguồn và dữ liệu vẫn không thay đổi.

Điều quan trọng nhất là sự chuyển dịch trong tư duy: từ kỹ thuật xác định (discrete engineering) sang tư duy xác suất (probabilistic mindsets). Trong thế giới của các mô hình ngôn ngữ lớn (LLM), chúng ta không còn làm việc với các logic đúng/sai tuyệt đối mà là với các khả năng và xác suất. Điều này đòi hỏi một cách tiếp cận hoàn toàn mới đối với việc thiết kế hệ thống và sản phẩm.

Bản chất thực tế của Generative AI

Mason đưa ra một định nghĩa rất thực tế về LLM: về cơ bản, chúng là động cơ tạo ra các nội dung có chất lượng "trung bình" (mid content). Chúng nén tất cả dữ liệu huấn luyện và tạo ra thứ gì đó giống với phần phổ biến nhất trong dữ liệu đó.

Điều này dẫn đến những vấn đề cố hữu như hallucination (ảo giác) và bias (thiên kiến). Mason ví von rằng Sci-Fi đã hứa hẹn một AI với logic lạnh lùng, nhưng thực tế chúng ta có một thứ "hơi như say xỉn", có thể vượt qua các bài kiểm tra luật nhưng không đếm được số chữ cái trong một từ đơn giản. Việc hiểu rõ giới hạn này là chìa khóa để xây dựng sản phẩm tốt, tránh việc bị cuốn theo các quảng cáo quá lố.

Tại sao xây dựng sản phẩm AI lại khó khăn?

Một trong những nhận định mạnh mẽ nhất của Mason là: "Chat là một giao diện tồi cho phần mềm". Mặc dù thành công của ChatGPT đã khiến mọi người bắt chước theo giao hội thoại, nhưng nó không phải lúc nào cũng là cách hiệu quả nhất để người dùng hoàn thành công việc, đặc biệt là trong việc tạo ra sự kết nối xã hội hoặc hỗ trợ tâm lý.

Bà cũng thảo luận về khái niệm "Agents" (tác nhân). Đối với các nhà đầu tư, đó là cơ hội kinh tế để bán phần mềm như bán lao động. Nhưng đối với kỹ sư, agents thực chất chỉ là "hàng ngàn lời gọi LLM được mặc một chiếc áo choàng", nơi quản lý ngữ cảnh và quy trình là yếu tố cốt lõi.

Khủng hoảng hiện sinh của kỹ sư phần mềm

Mason chỉ ra rằng cộng đồng kỹ sư đang đối mặt với một cuộc khủng hoảng về vai trò và định hướng nghề nghiệp. Khi các công cụ AI như Copilot hay Codex có thể viết mã nguồn tốt, việc thuộc lòng cú pháp hay các thủ thuật tối ưu hóa không còn là lợi thế cạnh tranh.

Thay vào đó, kỹ năng quan trọng nhất chuyển sang phán đoán tốt (good judgment), tư duy hệ thống (systems thinking) và khả năng định nghĩa "điều gì là tốt". Trong một thế giới mà bạn có thể tạo ra 12 giải pháp khác nhau trong tích tắc, khả năng chọn ra giải pháp tốt nhất và hiểu rõ bối cảnh sản phẩm mới là thứ tạo nên sự khác biệt giữa một kỹ sư giỏi và một kỹ sư bình thường.

Quản lý ngữ cảnh: Thách thức lớn nhất năm 2025

Theo Mason, thách thức lớn nhất hiện nay đối với các hệ thống AI là quản lý ngữ cảnh (context management). Đó là việc xác định thông tin nào được sử dụng cho nhiệm vụ nào, mô hình nào được gọi, và phản hồi được kiểm soát như thế nào.

Bà chia sẻ ví dụ thực tế từ Hidden Door, nơi họ kết hợp cơ sở dữ liệu từ vựng phong phú với các mô hình AI để kiểm soát nội dung do người dùng tạo ra. Thay vì chỉ dựa hoàn toàn vào các mô hình đắt tiền, họ sử dụng các phương pháp đơn giản và hiệu quả để lọc ngôn ngữ, đảm bảo an toàn và giảm chi phí vận hành.

Kết luận

Bài thuyết trình kết lại với thông điệp tích cực: Đây là thời điểm tuyệt vời để xây dựng sản phẩm. Chi phí của việc tạo ra nội dung và phần mềm đang thay đổi, mở ra những mô hình kinh doanh mới và trải nghiệm sản phẩm chưa từng có. Tuy nhiên, để thành công, các technologist cần nhìn nhận toàn bộ "stack" công nghệ, từ dữ liệu, mô hình đến trải nghiệm người dùng và chiến lược kinh doanh, với một tư duy hệ thống vững chắc.