Pangram: 'Cảnh sát AI' gây tranh cãi — Liệu bạn có nên tin tưởng công cụ phát hiện AI này?

Pangram, một công ty khởi nghiệp về AI chỉ có 24 nhân viên, đặt trụ sở tại Brooklyn, từng chỉ huy động được 13 triệu USD — một con số nhỏ bé so với OpenAI. Nhưng giờ đây, cái tên này đang trở thành nỗi ám ảnh của giới viết lách toàn cầu.

Với công nghệ tuyên bố có thể xác định phần trăm nội dung do AI tạo ra, Pangram đã gây ra những chấn động lớn: hủy bỏ hợp đồng xuất bản, phơi bày các bài viết bị nghi ngờ và được Substack tích hợp. Tuy nhiên, câu hỏi đặt ra là: Công cụ này có thực sự đáng tin cậy, hay nó chỉ là một 'vị thần' với những quyết định đầy chủ quan?

Sự trỗi dậy của một 'cảnh sát AI'

Trong những tháng đầu năm nay, loạt bê bối liên tiếp xảy ra trong ngành xuất bản đều gắn với điểm số AI đến từ Pangram. Cuốn tiểu thuyết Shy Girl của tác giả Mia Ballard bị hủy xuất bản tại Hachette sau khi CEO của Pangram tuyên bố sách có 78% nội dung do AI viết. Một bài viết trên chuyên mục Modern Love của The New York Times nhận điểm 100%. Người chiến thắng giải thưởng truyện ngắn Commonwealth cũng bị phát hiện với con số tương tự.

Pangram, công ty do Max Spero (30 tuổi) đồng sáng lập, sử dụng phương pháp gọi là 'phản chiếu tổng hợp' — lấy văn bản của con người và cho các mô hình ngôn ngữ tạo ra bản sao gần giống để học cách AI viết. Spero nhấn mạnh vào sự minh bạch: 'Tất cả dữ liệu của chúng tôi đều được cấp phép hợp pháp', anh nói. 'Tôi nghĩ điều đó hiếm có trong thế giới AI ngày nay.'

Nỗi sợ hãi của giới sáng tác

Không phải ai cũng hoan nghênh sự xuất hiện của 'cảnh sát AI' này. Tác giả Jane Friedman, một chuyên gia về ngành xuất bản, bày tỏ sự phẫn nộ: 'Có sự chán ghét và tức giận đối với phần mềm phát hiện AI. Cảm giác như chúng còn ác độc hơn cả chính các công ty AI.'

Nhiều tác giả lo sợ sự nghiệp của họ có thể bị hủy hoại chỉ bằng một cú click chuột. Shuster, một đại diện văn học nổi tiếng, thừa nhận ông đã sử dụng Pangram để phân tích bản thảo và đã có những cuộc trò chuyện khó khăn với các tác giả khi phát hiện nội dung của họ có tới 50-95% do AI viết.

Vấn đề về độ tin cậy và sự thiên vị

Các nhà phê bình chỉ ra những sai sót nghiêm trọng. Một nghiên cứu từ Đại học Notre Dame phát hiện Pangram gắn cờ 64–80% các đoạn văn bản học thuật có chỉnh sửa nhẹ của AI là do AI viết toàn bộ. Nghiêm trọng hơn, các mô hình phát hiện AI trước đây từng bị chứng minh là thiên vị đối với người viết không phải người bản ngữ.

Giáo sư Sam Illingworth đến từ Đại học Edinburgh Napier khẳng định: 'Tôi không nghĩ các công cụ phát hiện hoạt động hiệu quả. Chúng có thành kiến đối với một số nhóm người nhất định.' Điều đáng chú ý, ba trong số những vụ bê bối lớn nhất về AI trong xuất bản đều liên quan đến các tác giả da màu.

Con số và sự thật đằng sau

Pangram tuyên bố tỷ lệ dương tính giả chỉ 0,0041%. Tuy nhiên, ngay cả CEO Spero cũng thừa nhận công cụ này hoạt động kém hiệu quả với văn bản dưới 100 từ và kết quả có thể khác nhau nếu cùng một đoạn văn được kiểm tra riêng lẻ hay trong ngữ cảnh lớn hơn.

Điều đáng lo ngại nhất là khi AI tạo ra văn bản được đưa qua các công cụ 'nhân hóa', tỷ lệ phát hiện của Pangram tụt xuống dưới 4%. Điều này cho thấy các tác giả sử dụng AI một cách tinh vi có thể dễ dàng qua mặt công cụ, trong khi những người viết trung thực lại có nguy cơ bị nghi ngờ oan.

Một vấn đề đạo đức khác: Spero từng nhận bản thảo của tác giả Mia Ballard từ các trang web vi phạm bản quyền — một chi tiết gây tranh cãi về tính hợp pháp và đạo đức trong quy trình làm việc của Pangram. Khi được hỏi, Spero trả lời một cách hờ hững: 'Ừ, và nó là như vậy đấy. Tôi không nhìn kỹ lắm. Tôi chỉ đưa thẳng nó vào Pangram.'

Cuộc chiến giành quyền kiểm soát câu chuyện

Với tham vọng trở thành trọng tài tối thượng về tính nguyên gốc trong nhiều lĩnh vực — từ giáo dục, pháp lý đến tuyển dụng — Pangram đã tạo ra một hệ sinh thái có ảnh hưởng lớn. Giáo sư Tuhin Chakrabarty, người nghiên cứu các tác phẩm tự xuất bản, đồng thời là bạn thân của CEO Spero, thừa nhận: 'Pangram không nên là phán quyết cuối cùng. Nhưng sự đánh giá của chính bạn kết hợp với phán quyết của Pangram thì sẽ không sai.'

Kết luận: Sự mỉa mai của một 'cỗ máy phán xét'

Pangram đặt tham vọng phân tích mọi sắc thái của ngôn từ con người và quy về một con số đơn giản. Nhưng sự thật là con người phức tạp hơn nhiều so với những thuật toán. Trong khi Pangram tuyên bố sẽ ngày càng hoàn thiện với độ phân giải cao hơn, giới xuất bản vẫn đang loay hoay trong một trạng thái mơ hồ: tin dùng một công cụ có thể hủy hoại sự nghiệp chỉ trong vài giây, nhưng lại không thể kiểm chứng đầy đủ độ chính xác của nó.

Câu hỏi cốt lõi không còn là AI có viết giỏi hay không, mà là liệu chúng ta có đang trao quá nhiều quyền lực cho một nhóm nhỏ các 'cảnh sát AI' với những thuật toán đầy hạn chế?