Từ vụ lừa đảo bằng giọng nói deepfake, cô gái trẻ lập startup chống giả mạo

Khi Tarini Padmanabhuni kể lại câu chuyện của ông nội mình, điều khiến cô day dứt không phải là số tiền bị mất, mà là việc ông hoàn toàn không có cách nào nhận ra mình đang bị lừa. Từ bi kịch đó, cô đã thành lập DetectifAI – startup phát triển công nghệ phát hiện giọng nói deepfake ngay trên điện thoại, không cần kết nối đám mây.

Cuộc gọi đến, và ông nội của Tarini Padmanabhuni tin rằng mình đang nói chuyện với anh trai mình. Giọng nói ở đầu dây bên kia thông báo rằng anh trai ông đã bị bắt cóc và cách duy nhất để đưa ông về là trả tiền chuộc. Ông đã trả tiền, rồi sau đó mới biết anh trai mình đang ở một nơi hoàn toàn khác, không hề hay biết gì về sự việc. Giọng nói đó, hóa ra, là một deepfake – bản mô phỏng do AI tạo ra, giả giọng anh trai ông.

"Điều ám ảnh tôi không phải là số tiền. Mà là ông không có cách nào để nhận ra đó là giả." – Padmanabhuni chia sẻ.

Câu chuyện xảy ra khoảng hai năm trước. Hôm nay, Padmanabhuni cho biết DetectifAI, công ty do cô sáng lập tại San Francisco, đặt mục tiêu đảm bảo rằng người khác sẽ không thể bị lừa theo cách tương tự.

Một thị trường đang lớn lên từng ngày

Đây là một vấn đề lớn và ngày càng nghiêm trọng, kéo theo đó là một thị trường tương xứng. Theo FBI, người dân Mỹ đã mất gần 900 triệu USD vào các vụ lừa đảo do AI thực hiện trong năm ngoái, tăng 24% so với năm 2024. Những người từ 60 tuổi trở lên mất số tiền gấp đôi so với nhóm từ 50 đến 59 tuổi.

Không thiếu đối thủ trong lĩnh vực phát hiện giọng nói deepfake, từ các công ty như Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety cho đến Nuance (cũng thuộc sở hữu của Microsoft). Tuy nhiên, theo Padmanabhuni, các sản phẩm phát hiện hiện nay đều chạy trên đám mây thông qua máy chủ từ xa, khiến các nhà sản xuất điện thoại không thể tích hợp chúng trực tiếp vào thiết bị, đồng nghĩa với việc người dùng bị nhắm mục tiêu gần như không có biện pháp phòng vệ nào.

Thiết kế mô hình AI nhỏ ngay từ đầu

Thay vì thu nhỏ các mô hình đám mây lớn để vừa với điện thoại như một số công ty khác, DetectifAI cho biết họ thiết kế các mô hình AI nhỏ gọn ngay từ đầu, đủ nhỏ để chạy bên trong hệ điều hành của điện thoại thông minh. Mục tiêu là đưa ra phán quyết tức thì về việc giọng nói có phải do AI tạo ra hay không trong các cuộc gọi, tin nhắn thoại và các âm thanh khác – mà không cần đưa dữ liệu âm thanh rời khỏi thiết bị.

DetectifAI đang bán sản phẩm trước tiên cho các nhà sản xuất điện thoại, cấp phép các công cụ phần mềm để tính năng phát hiện có thể được tích hợp sẵn vào hệ điều hành của máy. Padmanabhuni so sánh với vai trò của AT&T trong lần ra mắt iPhone đầu tiên, khi thỏa thuận độc quyền với nhà mạng đã tạo nên sự khác biệt so với các đối thủ: nhà sản xuất điện thoại đầu tiên tích hợp DetectifAI sẽ có lợi thế cạnh tranh, và cô lập luận rằng phát hiện deepfake sẽ trở thành một thông số tiêu chuẩn, giống như độ phân giải camera.

Sản phẩm và nguồn thu

Cốt lõi của sản phẩm là bộ công cụ phát triển phần mềm (SDK) của DetectifAI – một gói mã nguồn mà các công ty khác có thể tích hợp vào sản phẩm của mình và có thể được cấp phép thông qua các kênh hiện có. Padmanabhuni cho biết nguồn thu thứ hai sẽ đến từ việc cấp phép công nghệ cho các doanh nghiệp và công ty phòng chống gian lận.

Trong khi đó, startup này đã có doanh thu ban đầu và xử lý hơn 100.000 cuộc gọi mỗi tháng cho các tổ chức tài chính tại Ấn Độ. Những cuộc gọi đó được thực hiện bởi các tác nhân giọng nói AI đảm nhiệm việc thu hồi nợ và theo dõi tài liệu vay, với tính năng phát hiện deepfake và xác minh người nói (xác nhận người gọi đúng là người họ tự nhận) trên mỗi cuộc gọi. Cô từ chối nêu tên khách hàng, với lý do các thỏa thuận bảo mật.

Hành trình từ tuổi 12 đến Startup Battlefield

Padmanabhuni cho biết cô bắt đầu làm việc với học máy từ năm 12 tuổi, sau đó theo học ngành hệ thống không gian mạng (công nghệ kết nối phần mềm với máy móc vật lý) tại Học viện Công nghệ Manipal ở Ấn Độ, nơi cô trở thành trưởng nhóm trẻ nhất của phân ban xe đua không người lái đầu tiên tại Ấn Độ trong cuộc thi Formula Student – một cuộc thi kỹ thuật sinh viên quốc tế.

Khi được hỏi về khoảnh khắc đáng nhớ nhất của startup cho đến nay, cô nhắc đến một thử nghiệm beta nhỏ trên WhatsApp, nơi người dùng chuyển tiếp các tin nhắn thoại khả nghi và nhận lại đánh giá xem chúng có thật hay không. Một người thử nghiệm, có người thân từng bị lừa đảo, đã gọi điện nói rằng họ sẵn sàng trả tiền cho dịch vụ này không chút do dự.

"Ông nội tôi đã không có được điều đó." – cô nói.

Tiềm năng và định hướng

DetectifAI đến nay đã huy động được một khoản hạt giống nhỏ từ các nhà đầu tư Josh Constine (cựu biên tập viên của TechCrunch) và Manohar Kamath, giám đốc tại công ty tư vấn KM Growth. Startup này là một trong những công ty được đội ngũ biên tập TechCrunch sàng lọc để tham gia cuộc thi Startup Battlefield danh giá, diễn ra tại TechCrunch Disrupt từ ngày 13 đến 15 tháng 10 tại trung tâm San Francisco.

Đối với độc giả Việt Nam, câu chuyện này đặc biệt đáng chú ý khi các vụ lừa đảo qua điện thoại và tin nhắn giả mạo cũng đang gia tăng tại khu vực Đông Nam Á, trong đó có Việt Nam. Việc tích hợp khả năng phát hiện deepfake trực tiếp vào điện thoại – thay vì phụ thuộc vào các dịch vụ đám mây – có thể là hướng đi thiết thực giúp bảo vệ người dùng phổ thông, đặc biệt là người cao tuổi, trước các chiêu trò ngày càng tinh vi của tội phạm công nghệ cao.