Công cụ mới giúp phát hiện trích dẫn pháp lý do AI tạo ra trong hồ sơ luật sư

Các trích dẫn pháp lý sai lệch do AI tạo ra đang xuất hiện ngày càng nhiều trong hồ sơ tòa án, gây ra những hậu quả pháp lý nghiêm trọng. Một công cụ trực tuyến mới mang tên CiteProof hứa hẹn sẽ giúp luật sư rà soát và phát hiện những trích dẫn giả mạo này trước khi chúng dẫn đến các án phạt hoặc sự bẽ mặt trước tòa.

Vấn đề nhức nhối từ AI trong ngành luật

Trong vài năm trở lại đây, ngày càng nhiều luật sư sử dụng AI để soạn thảo hồ sơ pháp lý, nhưng công cụ này lại thường xuyên "ảo giác" — tức tạo ra thông tin không có thật. Những trích dẫn án lệ, điều luật hay quan điểm của tòa được AI tạo ra một cách trôi chảy nhưng hoàn toàn bịa đặt đã khiến không ít luật sư phải chịu án phạt.

Những câu chuyện về các trích dẫn do AI bịa ra trong hồ sơ pháp lý giờ đây xuất hiện khắp nơi, và đã gây ra những hậu quả nghiêm trọng vượt xa các lời khiển trách nghề nghiệp.

Thậm chí, một phán quyết của tòa án bang Georgia đã từng bị hủy bỏ sau khi người ta phát hiện lệnh của tòa chứa các trích dẫn hư cấu.

Không chỉ các mô hình của OpenAI gây rắc rối. Năm ngoái, chính các luật sư của Anthropic cũng từng đổ lỗi cho Claude khi bảo vệ công ty trước một vụ kiện về bản quyền âm nhạc — bản khai trong vụ án có chứa hai trích dẫn do Claude định dạng trỏ đến các hồ sơ không hợp lệ mà không ai phát hiện trong quá trình rà soát.

CiteProof hoạt động như thế nào?

CiteProof ra đời nhằm lấp đầy khoảng trống mà con người thường bỏ sót. Công cụ này cho phép người dùng kiểm tra các trích dẫn án lệ hoặc điều luật trong hồ sơ pháp lý để xác minh xem chúng có thật hay không.

• Người dùng miễn phí: Có thể chạy các kiểm tra riêng lẻ để tra cứu trích dẫn hoặc điều luật.
• Người dùng trả phí: Được sử dụng các tính năng quét chuyên sâu như báo cáo xác minh chi tiết, kiểm tra phần trích dẫn nguyên văn và quét hàng loạt.

Điều đáng chú ý là CiteProof không sử dụng AI để kiểm tra hồ sơ do AI tạo ra. Đại diện công ty chia sẻ:

"Bạn không thể phát hiện những ảo giác của AI một cách đáng tin cậy bằng cách dùng thêm AI để phỏng đoán. Đây là nguyên tắc nền tảng của CiteProof."

Thay vì dùng mô hình ngôn ngữ lớn hay các mô hình xác suất, CiteProof thực hiện các truy vấn trực tiếp, mang tính xác định trên hồ sơ tòa án công khai để tìm bằng chứng cho thấy trích dẫn có thật. Dữ liệu duy nhất rời khỏi máy chủ của công ty là các chuỗi ký tự được trích xuất từ các trích dẫn, đưa vào CourtListener để kiểm tra. Mọi thứ vận hành tại Mỹ và không có dữ liệu nào được lưu trữ hay gửi đến một mô hình AI nào.

Không rẻ, nhưng "còn hơn không"

Công cụ này không hề miễn phí nếu bạn muốn sử dụng nghiêm túc. Một hồ sơ đơn lẻ tốn 49 USD để kiểm tra, gói năm hồ sơ có giá 199 USD, và gói dành cho các công ty luật có thể lên tới 499 USD mỗi tháng cho 200 lượt rà soát hồ sơ.

Một hạn chế cần lưu ý: CiteProof không đánh giá chất lượng lập luận của bạn, mà chỉ giúp giải phóng nhân viên pháp lý khỏi việc kiểm tra trích dẫn thủ công để tập trung vào công việc hữu ích hơn.

Vì sao lại khuyến khích luật sư dùng AI?

Câu hỏi đặt ra là tại sao lại tiếp tay cho việc dùng AI trong ngành luật khi nó vốn không đáng tin cậy. Theo đại diện CiteProof, "con thần đèn đã ra khỏi chai" — luật sư và trợ lý pháp lý đã dùng AI để tăng tốc nghiên cứu và soạn thảo, và xu hướng này sẽ không dừng lại.

"CiteProof không khuyến khích việc sử dụng AI một cách mù quáng — nó đóng vai trò như một rào chắn khách quan, phi AI, đảm bảo rằng nếu ai đó dùng công cụ tạo sinh để soạn thảo thì các trích dẫn bịa đặt sẽ được phát hiện trước khi lọt vào hồ sơ tòa án."

Đối với độc giả Việt Nam đang theo dõi làn sóng ứng dụng AI trong các lĩnh vực đòi hỏi độ chính xác cao như pháp lý, câu chuyện này là một lời nhắc nhở: AI có thể tăng tốc công việc, nhưng con người vẫn cần những công cụ kiểm chứng độc lập để đảm bảo tính xác thực của thông tin — đặc biệt khi sai sót có thể dẫn đến hậu quả pháp lý nghiêm trọng.