IBM: Mô hình mở giờ đã đủ tốt và rẻ để chạy tại chỗ

Trong buổi công bố kết quả kinh doanh quý 3, CEO IBM Arvind Krishna khẳng định khoảng cách giữa các mô hình trọng số mở và mô hình đóng đã thu hẹp đáng kể. Theo ông, doanh nghiệp giờ đây có thể đạt phần lớn hiệu năng với chi phí chỉ bằng một phần nhỏ, khiến triển khai AI tại chỗ trở thành lựa chọn khó bỏ qua.

Khoảng cách hiệu năng đã thu hẹp mạnh

Krishna kể lại rằng vào năm 2024, các mô hình đóng hàng đầu tỏ ra vượt trội rõ rệt so với các lựa chọn mở. Ông đưa ra một ví dụ dễ hình dung:

"Nếu bạn chạy một bài đánh giá tổng quát, không hẹp, mô hình đóng tốt nhất có thể đạt 70 điểm, còn mô hình mở chỉ được 20 hoặc 30 điểm."

Tuy nhiên, bước sang cuối năm 2025, khoảng cách này bắt đầu co lại — có thể chỉ còn mức 70 so với 50. Và đến thời điểm hiện tại, các mô hình trọng số mở đã đạt khoảng 90% hiệu quả của mô hình tiên tiến nhất, trong khi chi phí token chỉ bằng 10% đến 25%.

Bài toán chi phí của doanh nghiệp

Theo CEO IBM, đây là một câu hỏi đơn giản với bất kỳ doanh nghiệp nào: chọn giải pháp có chi phí bằng một phần mười mà vẫn đạt 90% chất lượng, hay chịu trả cao gấp mười lần cho phần chênh lệch nhỏ còn lại?

Krishna cho rằng phần lớn doanh nghiệp sẽ nghiêng về phương án tiết kiệm. Ông thừa nhận một số nhiệm vụ đặc thù vẫn cần mô hình mạnh nhất, nhưng với đa số công việc phổ biến thì không cần thiết:

• Tóm tắt email
• Rà soát hợp đồng
• Trả lời cuộc gọi khách hàng
• Soạn thảo email

Tất cả những tác vụ này đều có thể được xử lý tốt với giải pháp rẻ hơn nhiều.

Hạ tầng AI tại chỗ: Cơ hội và thách thức

Những con số trên đang thúc đẩy nhu cầu về hạ tầng AI tại chỗ. Krishna ước tính nhiều doanh nghiệp có thể dựng một hệ thống AI hữu ích chỉ với hai đến ba tủ rack (rack).

Dù vậy, ông thẳng thắn thừa nhận phần khó nằm ở khâu vận hành. Doanh nghiệp thường loay hoay với những câu hỏi như:

• Kỹ sư kernel của chúng tôi đâu?
• Ai chịu trách nhiệm về hạ tầng mạng bên dưới?
• Ai đảm bảo mô hình được phân cụm trên các GPU gần nhau về khoảng cách mạng?
• Ai lo việc lưu đệm kết quả đúng cách để có phản hồi nhanh?

Krishna không đưa ra câu trả lời trực tiếp, nhưng cho biết IBM sẽ phát triển phần mềm giúp việc triển khai AI trở nên dễ dàng hơn. Ông cũng dự đoán nhu cầu AI tại chỗ sẽ thúc đẩy doanh số card tăng tốc Spyre cho máy chủ mainframe của hãng.

Kết quả kinh doanh: Phần mềm khởi sắc, phần cứng chậm lại

Doanh thu mảng hạ tầng của IBM tăng 5% so với cùng kỳ, đạt 3,7 tỷ USD — mức tăng khiêm tốn hơn so với các đối thủ Dell, HPE và Lenovo. Trong khi đó, doanh thu mainframe giảm 20%, điều mà IBM cho là bình thường vì dòng z17 đã ra mắt được 18 tháng.

Mảng phần mềm lại là điểm sáng với mức tăng 9%, đạt 7,8 tỷ USD. Red Hat dẫn đầu khi tăng trưởng 11% và doanh thu định kỳ hằng năm tăng 30%. Các sản phẩm ảo hóa của Red Hat đã giành được 800 triệu USD hợp đồng, cùng đường ống đơn hàng trị giá thêm 750 triệu USD — kết quả đáng khích lệ cho dòng sản phẩm ra mắt năm 2024, nhất là khi một số khách hàng VMware đang có ý định chuyển đổi.

Tổng doanh thu quý đạt 17,1 tỷ USD, tăng 5%. Cổ phiếu IBM dao động trong phiên giao dịch sau giờ và kết thúc giảm một vài điểm.

Sự cố trên IBM Cloud

Một vấn đề khác đáng chú ý là sự cố mức độ nghiêm trọng cấp 1 trên IBM Cloud, do "bảo trì khẩn cấp" khiến người dùng không thể khởi tạo tài nguyên mới hoặc mạng riêng ảo trong 90 phút. Người dùng IBM Classic Cloud — dịch vụ mà IBM mua lại từ SoftLayer năm 2013 — được thông báo sẽ khôi phục khả năng khởi tạo và quản lý tài nguyên trước 08:00 UTC thứ Năm, nghĩa là sự cố kéo dài ít nhất 16 giờ.

Đáng chú ý, IBM bắt đầu công việc này chỉ vài giờ sau khi công bố các lỗ hổng nghiêm trọng trong PHP. Hiện chưa rõ liệu việc vá lỗ hổng đó có phải nguyên nhân dẫn đến sự cố hay không.

Góc nhìn cho doanh nghiệp Việt Nam

Với các doanh nghiệp Việt Nam đang cân nhắc đầu tư vào AI, nhận định của IBM mang lại tín hiệu đáng lưu ý. Thay vì phụ thuộc hoàn toàn vào API của các mô hình đóng đắt đỏ, nhiều tổ chức có thể tận dụng các mô hình trọng số mở như Llama, Mistral hay Qwen để triển khai tại chỗ — vừa kiểm soát chi phí, vừa đảm bảo dữ liệu không rời khỏi hạ tầng nội bộ, một yếu tố quan trọng với các ngành như tài chính, y tế và khu vực công.

Tuy nhiên, bài toán nhân lực vẫn là rào cản lớn. Việc vận hành cụm GPU, tối ưu mạng và lưu đệm đòi hỏi đội ngũ kỹ sư có kinh nghiệm — nguồn lực mà không phải doanh nghiệp nào ở Việt Nam cũng sẵn có.