Luật sư bị phạt 5.000 USD vì dùng AI bịa ra nhân chứng trong vụ án giết người

Tòa án Tối cao bang New Mexico vừa ra phán quyết phạt luật sư Stephen Aarons 5.000 USD và tuyên bố ông phạm tội khinh thường tòa, sau khi phát hiện bản kháng cáo do ông nộp chứa các nhân chứng hoàn toàn không có thật cùng những lời khai cảnh sát bịa đặt — tất cả đều do ChatGPT tạo ra.

Minh họa về AI và pháp luật

Chuyện gì đã xảy ra?

Theo hồ sơ của tòa, bản kháng cáo mà luật sư Aarons nộp cho thân chủ đang bị kết án giết người đã "chứa lời khai sai sự thật từ những nhân chứng được bịa đặt hoàn toàn", cùng với những mô tả sai lệch về trang phục và ngoại hình của nghi phạm xả súng.

Điều đáng nói là ông Aarons thừa nhận trong phiên điều trần hồi tháng 8 rằng mình đã dùng ChatGPT và tin rằng công cụ này sẽ tạo ra một "bản tóm tắt không thể bắt bẻ" cho phiên tòa. Ông không hề kiểm chứng lại các thông tin do AI đưa ra trước khi đưa vào hồ sơ pháp lý chính thức.

Khi thẩm phán hỏi: "Ông có xem thời sự không?"

Phản ứng của Thẩm phán C. Shannon Bacon tại phiên điều trần đã trở thành tâm điểm của vụ việc:

"Thưa luật sư, ông có xem thời sự không? Ông có nghe đài không? Ông có đọc bất cứ điều gì về những gì đang diễn ra trên thế giới không? Bởi vì vấn đề luật sư phụ thuộc vào ảo giác AI là tin tức trang nhất mỗi ngày."

Câu nói này phản ánh rõ mức độ nghiêm trọng của vấn đề: các vụ việc luật sư bị phát hiện nộp trích dẫn pháp lý giả do AI tạo ra đã trở nên quá phổ biến, đến mức một thẩm phán phải thốt lên rằng đó là câu chuyện "trên trang nhất" hằng ngày.

Không phải trường hợp cá biệt

Đây không phải lần đầu tiên giới luật pháp Mỹ đối mặt với hệ lụy từ ảo giác AI (hallucination) — hiện tượng mô hình ngôn ngữ tạo ra thông tin nghe có vẻ hợp lý nhưng hoàn toàn sai sự thật:

• Năm ngoái, một thẩm phán đã chỉ trích nặng nề hai hãng luật vì nộp bản tóm tắt chứa "nhiều trích dẫn và câu trích pháp lý sai lệch, không chính xác và gây nhầm lẫn".
• Các luật sư đại diện cho Mike Lindell (MyPillow) cũng bị phạt vì đưa vào hồ sơ những câu trích dẫn giả cùng trích dẫn pháp lý do AI tạo ra.

Có thể thấy số lượng luật sư sử dụng công cụ AI trong công việc đang tăng lên, và kéo theo đó là số vụ việc tòa án phát hiện các trích dẫn bị bịa đặt cũng tăng theo tỷ lệ thuận.

Bài học cho người dùng AI chuyên nghiệp

Vụ việc của luật sư Aarons mang lại bài học rõ ràng cho bất kỳ ai sử dụng AI tạo sinh trong công việc chuyên môn, không chỉ riêng ngành luật:

• Luôn kiểm chứng thông tin: AI có thể tạo ra câu trả lời trôi chảy, thuyết phục nhưng hoàn toàn sai. Trách nhiệm xác minh vẫn thuộc về con người.
• Không giao phó hoàn toàn cho AI: Các mô hình như ChatGPT hoạt động dựa trên dự đoán văn bản, không phải tra cứu cơ sở dữ liệu thực tế, nên chúng có thể "bịa" ra sự kiện hoặc nguồn tham chiếu.
• Hiểu rõ rủi ro trước khi dùng: Việc không nắm bắt được giới hạn của công cụ không phải là lý do miễn trách nhiệm pháp lý.

Trong tuyên bố gửi Reuters, luật sư Aarons cho biết: "Tôi hối hận, nhưng hy vọng hội đồng kỷ luật sẽ xem xét rằng đây là một sai sót vô ý."

Dù vậy, phán quyết của Tòa án Tối cao New Mexico cho thấy sự "vô ý" trong thời đại AI không còn được xem là lá chắn miễn trừ trách nhiệm — đặc biệt trong những lĩnh vực đòi hỏi độ chính xác cao như pháp lý. Đối với người dùng Việt Nam, câu chuyện này cũng là lời nhắc nhở rằng dù AI ngày càng hữu ích, con người vẫn phải là người chịu trách nhiệm cuối cùng cho sản phẩm mình tạo ra.