Khoảng cách ngày càng lớn giữa cơn sốt AI và thực tế kỹ thuật phần mềm

Trong khi giới tài chính đang say sưa với cơn sốt AI, một bộ phận đáng kể các kỹ sư phần mềm kỳ cựu lại đang quay lưng với công cụ này. Nhiều dự án mã nguồn mở hàng đầu — bao gồm cả những hệ thống đang vận hành chính các trung tâm dữ liệu AI — đã chính thức cấm hoặc hạn chế nghiêm ngặt các đóng góp được hỗ trợ bởi mô hình ngôn ngữ lớn (LLM). Điều này đặt ra câu hỏi lớn: phải chăng AI đang giỏi đánh lừa con người hơn là thực sự giải quyết vấn đề?

Debian, một trong những bản phân phối Linux lớn nhất, đang tiến hành bỏ phiếu giữa các nhà phát triển về việc có nên áp dụng lệnh cấm AI đối với mã nguồn, tài liệu, bản dịch và báo cáo lỗi hay không. Quyết định này đến từ những chuyên gia hàng đầu trong lĩnh vực — không phải vì họ lạc hậu, mà vì họ hiểu rõ bản chất thật sự của công nghệ này.

Vì sao LLM lại dễ gây ảo tưởng?

Đầu ra của một LLM thường trông rất thuyết phục, chuyên nghiệp và chính xác. Con người có xu hướng tin tưởng thông tin dựa trên các yếu tố phụ như sự tự tin trong cách diễn đạt, nhưng lại rất kém trong việc kiểm chứng, đối chiếu thực tế — nhất là khi phải tốn nhiều công sức.

Sự bất cân xứng thông tin đóng vai trò then chốt. Bạn càng ít hiểu về một lĩnh vực, bạn càng dễ bị đánh lừa. Trong lập trình, điều này thể hiện rõ khi một lượng lớn lập trình viên mới sử dụng AI để tạo ra phần mềm trông "có vẻ hoạt động" nhưng thực chất chứa đầy lỗi nghiêm trọng. Họ không đủ chuyên môn để phân biệt đâu là kết quả đúng, đâu là "rác" mà AI tạo ra.

Các kỹ sư kỳ cựu sau đó phải mất hàng giờ để rà soát và sửa chữa những dòng code kém chất lượng này. Họ cảm thấy thời gian quý báu của mình bị lãng phí, và nhiều người đã ngừng hướng dẫn thế hệ trẻ vì không muốn truyền đạt cho những người chỉ muốn "giao phó mọi thứ cho AI".

Hiện tượng nhân cách hóa máy móc

Bộ não con người có khuynh hướng tự nhiên gán cho các vật vô tri những cảm xúc và trí tuệ. Khi một cỗ máy viết lách trôi chảy như con người hoặc trò chuyện phản hồi một cách tự nhiên, chúng ta tự động mặc định nó có nhận thức. Tác giả bài viết khuyên mọi người nên thử chạy LLM cục bộ trên laptop để thấy được bản chất "thô" của công cụ này — và hãy ngừng nói "làm ơn" với một mô hình thống kê thuần túy.

Hiểu về "nhiệt độ" trong LLM

Nhiệt độ là tham số kiểm soát tính ngẫu nhiên trong quá trình sinh token của mô hình. Khi để nhiệt độ bằng 0, kết quả sẽ hoàn toàn nhất quán cho cùng một câu hỏi, vì mô hình chỉ chọn theo các kết nối mạnh nhất trong mạng nơ-ron. Khi tăng nhiệt độ, sự ngẫu nhiên được thêm vào — tạo cảm giác mô hình đang "suy nghĩ" sáng tạo, nhưng cũng làm tăng khả năng tạo ra câu trả lời sai một cách tự tin.

Điều quan trọng cần nhớ: trọng số của LLM chỉ thay đổi trong quá trình huấn luyện. Khi chạy, nó không thực sự "hiểu" hay "học" gì mới — nó chỉ thực hiện các phép tính xác suất trên dữ liệu đã được nạp cố định.

Điểm chuẩn không kể hết câu chuyện

Dù các benchmark cho thấy AI đang cải thiện liên tục, con số thực tế vẫn đáng lo ngại:

• Humanity's Last Exam: Tỷ lệ đạt chỉ khoảng 50% với mô hình tốt nhất.
• SWE-bench: Mô hình hàng đầu hiện nay giải quyết được dưới 77% bài toán.
• Greg Kroah-Hartman, nhà bảo trì Linux kernel, từng nhận định: "Ngay cả với công cụ tốt nhất hiện tại và thế hệ tiếp theo, ít nhất 1/3 kết quả chúng tạo ra là hoàn toàn sai hoặc gây hại."

Trong khi tạo video mèo dễ thương, tỷ lệ lỗi không đáng kể — nhưng trong kỹ thuật phần mềm, sự sai sót đó là không thể chấp nhận. Chúng ta vận hành hệ thống hàng không toàn cầu an toàn mỗi ngày nhờ vào sự chính xác của con người — điều mà AI chưa thể đảm bảo.

AI chỉ là công cụ — nhưng cần có giới hạn

Tác giả khẳng định LLM không phải trò lừa đảo, mà là công cụ hữu ích trong nhiều tình huống. Nhưng quan niệm AI sắp vượt qua con người về năng lực và hiệu quả là không đúng với hiện trạng. Lời khuyên thiết thực:

• Chỉ sử dụng AI cho những việc mà bạn đủ khả năng tự kiểm chứng kết quả.
• Không nên gửi bất cứ thứ gì mà công sức người đọc bỏ ra lớn hơn công sức bạn đã bỏ ra để tạo ra nó.
• Duy trì chuẩn mực cao trong code — cấu trúc rõ ràng, dễ đọc, có tài liệu đầy đủ.

Tương lai: cần chuẩn mực xã hội mới

Khi ngày càng nhiều dự án mã nguồn mở áp dụng chính sách giới hạn hoặc cấm AI, tác giả dự đoán sẽ sớm xuất hiện các vụ vi phạm bị xử lý — mở ra tiền lệ quan trọng. Xã hội cũng cần phát triển các chuẩn mực mới về trách nhiệm của con người khi máy móc hành động ngày càng độc lập.

Trong lúc này, khi còn nghi ngờ, hãy ưu tiên tương tác giữa con người với nhau. Không có gì phải vội vàng với AI — ngay cả khi bạn là một người lạc quan công nghệ.

Bài viết dựa trên phân tích từ Otto Kekalainen — một kỹ sư phần mềm có góc nhìn sâu sắc và thực tế về AI trong phát triển phần mềm, người luôn nhấn mạnh tầm quan trọng của tư duy phản biện giữa thời đại công nghệ bùng nổ.