Thẩm phán Mỹ phán quyết việc DOGE dùng ChatGPT để cắt giảm tài trợ là vi hiến

Một thẩm phán liên bang tại Mỹ mới đây đã ra phán quyết gây chú ý, tuyên bố việc chính quyền Trump hủy bỏ hàng loạt khoản tài trợ nhân văn thông qua Bộ phận Hiệu quả Chính phủ (DOGE) là vi hiến. Điểm đáng quan tâm nhất đối với cộng đồng công nghệ là việc tòa án đã chỉ trích mạnh mẽ việc DOGE sử dụng trí tuệ nhân tạo (AI), cụ thể là ChatGPT, để thực hiện các quyết định cắt giảm ngân sách này.

Tổng thống Trump và Elon Musk tại Nhà Trắng

Vai trò của AI trong cuộc tranh chấp pháp lý

Thẩm phán Colleen McMahon tại Manhattan đã ra lệnh cấm vĩnh viễn chính quyền hủy bỏ các khoản tài trợ này, đồng thời nhấn mạnh rằng DOGE không có thẩm quyền pháp lý để chấm dứt nguồn vốn đã được Quốc hội phê duyệt. Trong phán quyết của mình, bà McMahon đã dành nhiều sự quan tâm đến cách thức các quan chức chính phủ sử dụng công nghệ để phân loại và mục tiêu hóa các khoản tài trợ.

Theo hồ sơ vụ án, các quan chức đã sử dụng nền tảng AI ChatGPT để quét và đánh dấu các dự án tài trợ được cho là liên quan đến Đa dạng, Công bằng và Hòa nhập (DEI). Tuy nhiên, việc sử dụng thuật toán này đã dẫn đến những sai sót nghiêm trọng. Một ví dụ điển hình được thẩm phán đưa ra là cuốn tuyển tập truyện ngắn mang tên "In the Shadow of the Holocaust: Short Fiction by Jewish Writers from the Soviet Union" (Trong bóng tối của Holocaust: Truyện ngắn của các nhà văn Do Thái từ Liên Xô) đã bị ChatGPT gắn nhãn là nội dung DEI và bị cắt tài trợ.

AI không phải là "lá chắn" pháp lý

Luật sư của chính phủ lập luận rằng việc phân loại quan điểm dựa trên DEI là do ChatGPT thực hiện, do đó không phải là hành động trực tiếp của con người hay chính phủ. Tuy nhiên, Thẩm phán McMahon đã bác bỏ hoàn toàn lập luận này.

Bà viết trong phán quyết: "ChatGPT là công cụ được lựa chọn của Chính phủ cho mục đích dự án này, và việc DOGE sử dụng AI để xác định tài liệu liên quan đến DEI không phải là lý do để biện minh cho hành vi vi hiến, cũng không trao cho Chính quyền tấm vé thông hành để tham gia vào hành vi đó."

Quan điểm này đặt ra một tiền lệ quan trọng về trách nhiệm pháp lý khi áp dụng AI trong quản lý nhà nước. Nó khẳng định rằng việc chuyển giao quyết định hành chính cho các thuật toán tự động không miễn trừ trách nhiệm cho các cơ quan chức năng về tính hợp pháp và hiến pháp của các quyết định đó.

Hệ quả cho cộng đồng công nghệ

Quyết định này không chỉ ảnh hưởng đến các nhà nghiên cứu và tổ chức nhân văn mà còn gửi đi một thông điệp mạnh mẽ đến ngành công nghệ và các nhà hoạch định chính sách về việc sử dụng AI trong chính phủ (Government AI).

Việc sử dụng AI để sàng lọc dữ liệu quy mô lớn có thể mang lại hiệu quả về mặt chi phí, nhưng vụ việc này cho thấy những rủi ro tiềm ẩn về độ chính xác và thiên kiến (bias) của các mô hình ngôn ngữ lớn (LLM). Khi các quyết định quan trọng ảnh hưởng đến đời sống con người và ngân sách công được giao phó cho AI, sự minh bạch và sự giám sát của con người trở nên cực kỳ quan trọng.

Các nhóm nguyên đơn, bao gồm Hiệp hội Các nhà văn Mỹ và Hiệp hội Lịch sử Mỹ, đã hoan nghênh phán quyết. Họ coi đây là một chiến thắng trong việc bảo vệ tự do ngôn luận và đảm bảo rằng công nghệ không bị lạm dụng để đàn áp các quan điểm trái chiều dưới vỏ bọc của "hiệu quả chính phủ".