Vì sao ngành công nghiệp phần mềm cần được quản lý chặt chẽ hơn

Kỹ sư xây dựng ký con dấu trách nhiệm lên bản vẽ họ phê duyệt, và nếu công trình đổ sập vì lỗi thiết kế, họ phải chịu trách nhiệm trực tiếp, thậm chí là cá nhân. Trong khi đó, một kỹ sư phần mềm có thể triển khai code làm chết hàng trăm người mà không phải đối mặt với bất kỳ mức trách nhiệm tương xứng nào. Pete Warden, tác giả bài viết gốc, cho rằng tình trạng này không chỉ bất công mà còn khó duy trì lâu dài.

Minh họa về AI và quản lý phần mềm

Khi code đã lấy máu nhiều hơn cả công trình

Có một câu nói quen thuộc trong giới kỹ thuật: các quy định pháp luật thường được viết bằng máu. Phải đến sau thảm họa vỡ đập St Francis năm 1928 làm khoảng 400 người chết, bang California mới yêu cầu cấp phép hành nghề cho kỹ sư xây dựng. Nhưng các lỗi thiết kế phần mềm đã gây ra thiệt hại lớn hơn thế từ lâu.

Trong cuộc chiến ở Ukraine, các drone tự động đã phải đưa ra quyết định giết mục tiêu nào dựa trên phần mềm. Các mô hình AI cũng đang trở thành thành phần thiết yếu trong những hệ thống trọng yếu về an toàn ở gần như mọi ngành. Tác giả thừa nhận ông hoài nghi trước những dự đoán mang tính khải huyền về việc AI đạt được ý thức, nhưng nạn nhân của một thảm họa sẽ không quan tâm nguyên nhân là do một "Skynet" đầy ác ý hay chỉ đơn thuần là kỹ thuật kém cỏi.

Vì sao phần mềm vẫn thoát khỏi vòng quản lý?

Theo Warden, có nhiều rào cản khiến việc quản lý ngành phần mềm diễn ra chậm chạp:

• Rào cản gia nhập quá thấp: Viết code dễ hơn xây đập rất nhiều. Ước tính có khoảng hai triệu kỹ sư phần mềm ở Mỹ, so với khoảng hai trăm nghìn kỹ sư xây dựng, và phần lớn coder tự học, không có bằng cấp chính quy. Việc kiểm soát ai được hành nghề gần như không khả thi.
• Phần mềm không có vị trí địa lý: Cầu được xây ở một nơi, nên nhà chức trách dễ quan sát và kiểm soát. Code và mô hình có thể được tạo ở bất cứ đâu trên thế giới và triển khai toàn cầu, nên không có thẩm quyền rõ ràng.
• Quy trình làm việc mang tính cộng tác và lặp liên tục: Thiết kế hệ thống thay đổi liên tục khi hiểu thêm về nhu cầu người dùng. Một tòa nhà chọc trời có bản thiết kế được thống nhất trước khi khởi công, còn phần mềm không có mẫu quy trình cố định nào để áp dụng.
• Kỹ sư không có quyền quyết định về an toàn: Nếu một giám đốc muốn phát hành phần mềm xe tự lái có lỗi chết người, họ có thể phủ quyết mọi phản đối. Nghỉ việc cũng vô ích vì công ty chỉ cần thuê người khác.
• Nhiều dự án không có chủ sở hữu rõ ràng: Các framework mã nguồn mở có thể do một nhóm người đánh giá, còn code thương mại chuyển qua nhiều tay theo thời gian, khiến việc xác định ai chịu trách nhiệm trở nên cực khó.
• Văn hóa ngành mang tính cá nhân cao: Giới công nghệ tôn sùng tinh thần "di chuyển nhanh và phá vỡ mọi thứ", và Silicon Valley đã thành công đến mức khó phản bác triết lý đó.

Cơ hội đang thu hẹp dần

Tác giả tin rằng về lâu dài, ngành phần mềm chắc chắn sẽ bị ràng buộc trách nhiệm. Câu hỏi chỉ là liệu chúng ta chủ động xây dựng khuôn khổ của riêng mình, hay để người ngoài ngành áp đặt luật lệ lên mình.

"Rõ ràng là nếu nhìn vào làn sóng phản đối lưỡng đảng đối với các trung tâm dữ liệu, các công ty công nghệ đang đánh mất sự bao dung mà công chúng từng dành cho mình."

Một khi huyền thoại lãng mạn từng che chở cho ngành này mất đi sức mạnh, phần mềm sẽ bị quản lý như mọi ngành khác. Tuy nhiên, Warden cho rằng vẫn còn cơ hội xây dựng một khuôn khổ giảm thiểu rủi ro mà không bóp nghẹt đổi mới, chỉ có điều cánh cửa đang đóng lại rất nhanh.

Lộ trình đề xuất

Tác giả đưa ra một số bước đi cụ thể:

• Đưa đạo đức vào chương trình đào tạo: Phần lớn bằng khoa học máy tính ở Mỹ không có học phần bắt buộc về đạo đức. Cam kết "dùng sức mạnh cho điều tốt" không thể cưỡng chế, nhưng nếu là điều kiện tốt nghiệp, ít nhất không ai có thể nói mình không được cảnh báo về trách nhiệm.
• Tự xây dựng cơ chế công nhận hành nghề: Không cần bắt buộc, chỉ cần xem đó là dấu hiệu của sự xuất sắc và là điều mong muốn cho các vị trí kỹ sư cấp cao. Hiệp hội ACM có thể đóng vai trò trung tâm.
• Thử nghiệm ở các ngành đã có quy định chặt: Thay vì cố quản lý toàn bộ ngành phần mềm ngay lập tức, hãy bắt đầu từ y tế và giao thông — những lĩnh vực đã có khung pháp lý mạnh — để thử nghiệm các quy tắc mong muốn.
• Mỗi dự án có một chủ sở hữu rõ ràng: Người này có quyền phủ quyết các quyết định ảnh hưởng đến an toàn, thường là tech lead. Tại Apple, mọi nhiệm vụ đều có một Directly Responsible Individual (DRI). Nếu kỹ sư phản đối có thể ghi lại ý kiến với tham chiếu đến bộ quy tắc đạo đức được công nhận rộng rãi, các vụ kiện sau này sẽ dễ thành công hơn.
• Xây dựng hệ thống báo cáo ẩn danh: Ngành hàng không có ASRS — kênh báo cáo sự cố an toàn ẩn danh mà NASA dùng để nhận diện các mẫu rủi ro. Một hệ thống tương tự cho phần mềm, có bảo vệ người tố giác, sẽ giúp xây dựng hướng dẫn an toàn dựa trên dữ liệu thực tế.
• Tận dụng sức mạnh của người mua: Phần mềm có thể toàn cầu, nhưng doanh thu lại mang tính địa phương. Nhiều tổ chức lớn quan tâm đến an toàn chi rất nhiều cho phần mềm. Nếu họ yêu cầu tiêu chuẩn chất lượng với sản phẩm mua vào, nhiều nhà cung cấp sẽ phải đáp ứng — đây sẽ là một cuộc vận động mang tính chính trị rõ rệt, vì phần lớn người mua lớn nằm trong khu vực chính phủ.

Không chỉ là an toàn

Warden thừa nhận ông tập trung vào an toàn vì đó là mối nguy rõ ràng nhất, nhưng phần mềm và AI có tác động khổng lồ ở nhiều khía cạnh khác. Mạng xã hội đã cho thấy sức ảnh hưởng chính trị của nó. Ông muốn có những kỳ vọng rõ ràng về cách các kỹ sư tham gia vào hệ thống nên hành xử.

Tác giả cho biết mình vừa tham gia sáng lập Alliance for Principled Tech, quy tụ những người trong ngành — kỹ sư, nhà sáng lập, nhà thiết kế, lãnh đạo, nhà đầu tư — cùng tin rằng công nghệ vẫn có thể được xây dựng vì lợi ích công cộng.

"Chúng ta biết những hệ thống này được xây dựng như thế nào, và những lựa chọn kiến trúc nào âm thầm quyết định hướng đi của xã hội chúng ta. Điều cấp thiết là phải cùng nhau đặt ra những quy tắc và giá trị mà chúng ta muốn đứng về phía nào."

Đối với độc giả Việt Nam, câu chuyện này đáng để theo dõi: khi các quy định về AI và an toàn phần mềm tại Mỹ và EU ngày càng siết chặt, các doanh nghiệp công nghệ Việt Nam — đặc biệt là những đơn vị làm gia công phần mềm hoặc xuất khẩu sản phẩm số — sẽ phải tuân thủ các tiêu chuẩn đó nếu muốn tiếp cận thị trường quốc tế.