Luật sư dùng ChatGPT bị kỷ luật vì trích dẫn lời khai giả từ nhân chứng không có thật

Một luật sư tại bang New Mexico (Mỹ) đã bị tuyên phạm tội khinh thường tòa án sau khi nộp bản lập luận do ChatGPT tạo ra, trong đó có những lời khai giả từ các nhân chứng hoàn toàn không tồn tại. Vụ việc một lần nữa gióng lên hồi chuông cảnh báo về việc sử dụng AI trong lĩnh vực pháp lý mà không kiểm chứng.

Theo lệnh của Tòa án Tối cao bang New Mexico, luật sư Stephen Aarons đã thừa nhận trước tòa rằng ông không xác minh các tuyên bố thực tế cũng như căn cứ pháp lý trong bản lập luận do AI tạo ra trước khi ký và nộp. Ông cũng không thông báo cho thân chủ về sai sót này, dù văn bản chứa nhiều sai lệch về mặt thực tế lẫn pháp lý.

Chuyện gì đã xảy ra?

Ông Aarons là luật sư bào chữa hình sự tại New Mexico với hơn 40 năm hành nghề. Ông được gia đình một bị cáo thuê để kháng cáo bản án giết người. Thân chủ cũ của ông, Oscar Renee Sandoval, bị kết án tù chung thân vào tháng 2 năm 2025 sau khi bị kết tội giết Shiereen Al-Jibury, vốn là bạn đời và là mẹ các con của anh ta.

Bản lập luận mà Aarons nộp lên tòa chứa "lời khai giả từ những nhân chứng hoàn toàn bịa đặt", bao gồm cả lời khai giả của cảnh sát cùng nhiều lỗi khác. Tòa án Tối cao bang đã chuyển vụ việc của luật sư này sang hội đồng kỷ luật để xử lý tiếp, đồng thời kết luận rằng ông "thể hiện sự thiếu ăn năn và thiếu quan tâm đến thân chủ".

"Tôi không biết rằng AI có thể tạo ra thông tin sai lệch (hallucinate)," luật sư bào chữa của New Mexico phân trần.

Vấn đề "ảo giác" của AI

Đây không phải là lần đầu tiên giới luật sư gặp rắc rối vì AI. Hiện tượng "ảo giác" (hallucination) — khi mô hình ngôn ngữ lớn tự tin tạo ra thông tin sai sự thật, bao gồm cả án lệ và trích dẫn không có thật — đã trở thành cạm bẫy phổ biến với những người dùng pháp lý.

Các chuyên gia pháp lý nhấn mạnh rằng:

• AI có thể tạo ra các trích dẫn trông rất thuyết phục nhưng hoàn toàn bịa đặt
• Luật sư vẫn phải chịu trách nhiệm cuối cùng về mọi nội dung mình ký và nộp
• Việc không kiểm chứng đầu ra của AI có thể dẫn đến hậu quả pháp lý và nghề nghiệp nghiêm trọng

Vụ việc của Aarons cho thấy một nghịch lý: công cụ AI ngày càng mạnh mẽ nhưng cũng đòi hỏi người dùng phải có trách nhiệm cao hơn trong việc kiểm chứng thông tin. Với ngành luật, nơi độ chính xác là yếu tố sống còn, việc phó mặc cho AI mà không rà soát lại là sai lầm có thể phá hủy cả một sự nghiệp.

Bài học cho người dùng AI

Câu chuyện này cũng mang lại bài học cho bất kỳ ai đang sử dụng AI tạo sinh trong công việc, không riêng gì luật sư. Dù AI giúp tiết kiệm thời gian đáng kể, người dùng vẫn cần:

• Coi đầu ra của AI là điểm khởi đầu, không phải kết quả cuối cùng
• Kiểm chứng mọi dữ kiện, số liệu và trích dẫn trước khi sử dụng chính thức
• Chịu trách nhiệm cá nhân về nội dung mang tên mình

Với độc giả Việt Nam đang ngày càng sử dụng các công cụ như ChatGPT, Gemini hay Claude trong học tập và công việc, vụ việc của luật sư Aarons là lời nhắc nhở rõ ràng: AI rất hữu ích, nhưng không thể thay thế hoàn toàn tư duy phản biện và trách nhiệm của con người.