Cộng đồng lập trình viên đang dùng mô hình AI mặc định nào và vì sao?

Trên diễn đàn Hacker News, một chủ đề tưởng chừng đơn giản — "Bạn dùng mô hình AI mặc định nào và vì sao?" — đã nhanh chóng thu hút sự chú ý của cộng đồng lập trình viên. Câu hỏi tưởng như chỉ mang tính khảo sát này lại mở ra một bức tranh khá phong phú về cách giới phát triển phần mềm đang thực sự làm việc với các mô hình ngôn ngữ lớn mỗi ngày.

Chi phí và tốc độ là hai bài toán lớn

Một trong những chia sẻ đáng chú ý nhất đến từ một lập trình viên chủ yếu làm web và mobile, phần lớn là backend trên cloud. Người này cho biết ban đầu dùng một mô hình cao cấp nhưng nhận ra nó "quá mức cần thiết" với công việc của mình, thậm chí còn đốt sạch hạn mức phiên làm việc của gói Max chỉ trong vài phút khi chạy bốn tác nhân (agent) để lên kế hoạch cho một ứng dụng di động.

Sau khi tôi chờ hết thời gian timeout 6 tiếng và bắt đầu lại, bộ nhớ đệm đã hết hạn nên chỉ trong chưa đầy một phút đã tiêu tốn 2% hạn mức phiên.

Từ trải nghiệm đó, người dùng này chuyển sang một mô hình rẻ hơn nhưng "đủ tốt" và coi đó là lựa chọn mặc định, chỉ nâng cấp khi thực sự cần thiết. Đây là một mô-típ quen thuộc: nhiều lập trình viên nhận ra rằng không phải tác vụ nào cũng cần tới mô hình mạnh nhất.

Chiến lược "chia việc cho nhiều mô hình"

Một hướng tiếp cận khác được nhiều người áp dụng là phân chia công việc theo từng loại mô hình, thay vì dùng một mô hình duy nhất cho mọi thứ.

• Dùng mô hình nhanh, rẻ cho các tác vụ đơn giản như điền stub phương thức
• Dùng kế hoạch chi tiết và bộ kiểm thử để giảm rủi ro sai sót
• Chỉ nâng lên mô hình mạnh hơn khi bị "tắc"

Một người dùng cho biết dòng mô hình Flash có tốc độ nhanh hơn đáng kể — khoảng 3-4 lần so với đối thủ — và điều đó giúp họ hoàn thành công việc nhanh hơn hẳn. Trong khi đó, một người khác lại dùng mô hình mạnh để tạo ra tệp PLAN.md, rồi để các mô hình khác thực thi kế hoạch đó, và thường thì mô hình lập kế hoạch sẽ tự chọn những mô hình cân bằng giữa sức mạnh và chi phí.

Rào cản từ các "khung" tác nhân

Một điểm đáng lưu ý là vấn đề khóa nhà cung cấp. Có ý kiến cho rằng một số gói đăng ký có thể dùng trong nhiều khung tác nhân khác nhau, trong khi ít nhất một nhà cung cấp lại giới hạn điều này. Điều đó khiến việc lựa chọn mô hình mặc định không chỉ phụ thuộc vào chất lượng, mà còn vào tính linh hoạt của hệ sinh thái xung quanh.

Khi nào nên dùng mô hình mạnh nhất?

Không phải ai cũng đồng tình với việc dùng mô hình hàng đầu cho mọi việc. Một bình luận thẳng thắn cho rằng:

Hầu hết các tác vụ kỹ thuật không cần tới các mô hình ngôn ngữ tiên tiến nhất. Khi chúng bị tắc, tôi mới cân nhắc nâng lên mô hình mạnh hơn.

Người này cũng đặt câu hỏi liệu việc mua gói đăng ký cao cấp có thực sự cần thiết hay không.

Mặt trái của việc lạm dụng AI

Đáng chú ý là một số ý kiến lại lo ngại về chất lượng đầu ra khi lập trình viên phụ thuộc quá nhiều vào AI. Một người dùng nhận xét rằng các tác vụ mà AI làm tốt hơn kỹ sư trung bình lại có thể gây hại về lâu dài: nếu không có sẵn nền tảng sản phẩm được thiết kế và viết tốt từ trước, kết quả tạo ra trông giống như "rác được ngụy trang thành thiết kế chỉn chu" — với lựa chọn typography kém dù dùng đúng mô hình, hay bố cục thiếu hợp lý dù dùng các framework CSS phổ biến.

Kỹ sư kém thì vẫn mãi là kỹ sư kém.

Một bình luận dí dỏm bổ sung thêm: ai cũng đang dùng "eyebrow" trong bố cục mà chẳng ai biết vì sao nó tồn tại, và trang chủ của ai cũng có một thẻ trạng thái (status pill) bay lơ lửng phía trên dòng tiêu đề — mà nội dung thì chẳng liên quan gì tới trạng thái cả.

Ý nghĩa với lập trình viên Việt Nam

Với cộng đồng lập trình viên Việt Nam, cuộc thảo luận này mang lại vài gợi ý thiết thực. Thứ nhất, không cần chạy theo mô hình đắt nhất — hãy bắt đầu từ những mô hình có tỷ lệ giá trên hiệu năng tốt, rồi nâng cấp khi công việc thực sự đòi hỏi. Thứ hai, việc phân chia tác vụ cho nhiều mô hình khác nhau đang trở thành kỹ năng đáng học, giúp tiết kiệm chi phí và tăng tốc độ. Thứ ba, dù AI có mạnh đến đâu, nền tảng kỹ thuật vững vàng vẫn là thứ quyết định chất lượng sản phẩm cuối cùng.