AI trợ lý cá nhân đang đọc dữ liệu của bạn bè mà không ai đồng ý

Ngày càng nhiều thiết bị tiêu dùng được thiết kế để "theo dõi" mọi thứ và mọi người xung quanh bạn, bất kể họ có đồng ý hay không. Với sự ra đời của các trợ lý AI cá nhân như Muse của Meta, người dùng đang được yêu cầu một cách vui vẻ không chỉ trao đi dữ liệu của chính mình, mà còn cả thông tin của bạn bè, gia đình và gần như tất cả những ai họ từng tiếp xúc.

Minh họa về việc trợ lý AI thu thập dữ liệu của người khác

Sự đánh đổi quen thuộc của Thung lũng Silicon

Kể từ khi ra mắt được một tháng, Muse đã được tải xuống hàng triệu lần và đứng đầu bảng xếp hạng App Store của Apple. Với hình đại diện ảo đáng chú ý, ứng dụng này khuyến khích người dùng cấp quyền truy cập vào tài khoản ngân hàng, mật khẩu, danh bạ, nhật ký trò chuyện và mọi thứ có thể giúp nó thực hiện mệnh lệnh của người dùng.

Đây là mô hình kinh doanh quen thuộc mà Thung lũng Silicon đã theo đuổi suốt nhiều thập kỷ: bạn trao dữ liệu riêng tư để đổi lấy một chút tiện lợi. Nhiều người cảm thấy hấp dẫn khi có một trợ lý ảo có thể làm những việc nhàm chán như điền hóa đơn hay gửi email — đặc biệt nếu họ không nhận ra mình đang cho đi bao nhiêu dữ liệu.

"Các hệ thống này được quảng cáo như những trợ lý tự chủ, thần đèn hay người hầu, làm những gì bạn cần trước cả khi bạn yêu cầu", Meredith Whittaker, chủ tịch Signal Foundation, nhận định.

Bà Whittaker nhấn mạnh rằng những hành động tự chủ này áp dụng "không chỉ cho người đã cài đặt Muse trên thiết bị của họ, mà còn cho tất cả những người họ liên lạc — được suy ra từ những thông tin riêng tư nhất như email, tin nhắn, danh bạ, ảnh và hơn thế nữa".

Những sự cố đáng báo động

Không phải ai cũng có thể điều hướng được các tùy chọn và cài đặt của ứng dụng. Đã có những báo cáo về việc trợ lý ảo này gây ra đủ loại rắc rối, chẳng hạn như thu thập hàng triệu tin nhắn mà người dùng tin rằng nằm ngoài tầm với. Meta phản bác rằng trợ lý không thể truy cập tin nhắn mà không có sự cho phép, và quy cho sự cố là do quyền ứng dụng được cấu hình sai.

Trong một sự cố khác, Muse đã tiết lộ địa chỉ nhà của một nhà đánh giá công nghệ và triệu tập một người lạ đến căn hộ của anh ta. Trong trường hợp này, nhà đánh giá đã cấp quyền cho Muse truy cập dữ liệu đó nhưng đơn giản là không nhận ra.

Eva Galperin, giám đốc an ninh mạng của Electronic Frontier Foundation, cho rằng những sự cố này không có gì đáng ngạc nhiên, vì các trợ lý AI như Muse được thiết kế để khiến người dùng nhầm lẫn và cho đi càng nhiều dữ liệu càng tốt.

"Cách giao diện người dùng được thiết kế nhằm khuyến khích bạn chia sẻ càng nhiều càng tốt, thường nhiều hơn bạn nhận ra, cho đến khi quá muộn", bà Galperin nói.

Vấn đề không chỉ của riêng bạn

Sau khi các nhà nghiên cứu bảo mật trích xuất hướng dẫn vận hành của Muse, họ phát hiện một quy trình nội bộ biên soạn và cập nhật hồ sơ của từng người trong cuộc sống của người dùng theo từng giờ. Mục tiêu là xây dựng một chân dung chi tiết về đời sống của người dùng để làm cơ sở cho các đề xuất được cá nhân hóa.

Điều này có nghĩa là người dùng không chỉ đối mặt với nguy cơ rò rỉ thông tin nhạy cảm của chính mình, mà còn của tất cả những người khác mà họ từng liên lạc kỹ thuật số. Và giống như với kính thông minh của Meta, không có cách nào để từ chối một cách có ý nghĩa — ngay cả khi bạn liên tục theo dõi các dấu hiệu rằng dữ liệu của mình bị xâm phạm.

"Meta nói Muse chỉ ghi nhớ những gì bạn chọn chia sẻ. Nhưng ý tưởng rằng mọi người đang đưa ra lựa chọn sáng suốt trong trường hợp này thật nực cười", Whittaker nói.

Bà lập luận rằng điều này phản ánh cách các công ty công nghệ đã sử dụng chính sách bảo mật và điều khoản dịch vụ từ những năm 1990: đặt gánh nặng bảo mật lên người tiêu dùng, rồi tránh trách nhiệm về hậu quả trong khi thu lợi từ mô hình quảng cáo.

Neil Richards, giáo sư luật bảo mật tại Đại học Washington, cho rằng không công bằng khi đặt gánh nặng giám sát một công cụ AI phức tạp lên người tiêu dùng, trong khi chính các giám đốc điều hành của công ty đã thừa nhận trước Quốc hội rằng họ thậm chí không hiểu hết cách nó hoạt động ở một mức độ nào đó.

Rủi ro lan rộng và câu hỏi về trách nhiệm

Các trợ lý AI như Muse đang tạo ra một biến thể mới của vấn đề quyền riêng tư cổ điển: ngay cả khi bạn tránh sử dụng trợ lý AI, không có gì đảm bảo rằng người quen của bạn sẽ không chia sẻ cuộc trò chuyện riêng tư, địa chỉ hay lịch sử cá nhân của bạn với trợ lý ảo này.

Whittaker cảnh báo rằng trong một thế giới mà các trợ lý AI có thể tự do truy cập và sử dụng thông tin liên lạc riêng tư, các công ty và chính phủ có thể có khả năng truy cập dữ liệu riêng tư bằng cách lách qua mã hóa mà không cần phá vỡ nó. Điều này có thể gây thảm họa cho các nhà hoạt động và những người sử dụng liên lạc mã hóa để tự bảo vệ.

Meta khẳng định mọi thông tin được chia sẻ với Muse đều nằm trong một tệp văn bản bên trong máy ảo chuyên dụng, được cho là ngăn mô hình AI giao tiếp với các tác nhân khác. Nhưng công ty chưa bao giờ che giấu việc họ có thể truy cập dữ liệu này, và giống như các mô hình khác của đối thủ, Muse đã được phát hiện thoát khỏi "lồng" ảo để thực hiện các hành vi trái phép.

Các chuyên gia cho rằng giải pháp phải là sự kết hợp giữa sửa đổi luật pháp, biện pháp bảo vệ kỹ thuật và việc đặt trách nhiệm lên chính các công ty.

"Xét về mặt pháp lý, gánh nặng phải chuyển từ người đã nhấp vào lời nhắc đồng ý sang các công ty đã xây dựng những hệ thống nền tảng này", Whittaker kết luận.

Trong khi chờ đợi, người tiêu dùng cần cân nhắc kỹ hơn về tác động mà lựa chọn sử dụng công nghệ này gây ra, cả với bản thân và với người khác — và liệu sự tiện lợi mà các công ty này cung cấp có thực sự đáng giá hay không.