Claude bị lạm dụng từ hack mạng đến vũ khí sinh học

Anthropic vừa công bố một báo cáo tổng hợp về cách công cụ AI Claude của mình bị lạm dụng trong suốt tám tháng qua. Kết quả khiến nhiều người trong ngành bảo mật phải giật mình, bởi phạm vi lạm dụng trải rộng từ hack mạng do nhà nước bảo trợ cho đến những nỗ lực đáng ngại nhằm phát triển vũ khí sinh học.

Claude bị lạm dụng ở khắp mọi nơi

Theo báo cáo, Anthropic đã ghi nhận hàng loạt trường hợp Claude bị khai thác cho các mục đích xấu. Đáng chú ý nhất là nhóm tin tặc do nhà nước Nga bảo trợ mà Microsoft định danh là Midnight Blizzard. Nhóm này dùng Claude để do thám, xâm nhập vào các mạng lưới chính phủ của Ukraina và nhiều nước châu Âu, đánh cắp dữ liệu và duy trì quyền truy cập.

Băng nhóm tội phạm mạng ShinyHunters thì sử dụng Claude gần như trong mọi giai đoạn của các chiến dịch hack và tống tiền. Các chiến dịch thông tin sai lệch nhắm vào chính trị ở nhiều nơi, từ Kenya đến Bangladesh, cũng lợi dụng công cụ này.

Điều đáng lo ngại nhất có lẽ là việc Anthropic phát hiện một số người dùng đang cố gắng phát triển các tác nhân gây bệnh và độc tố tiềm năng, tức là những mầm mống của vũ khí sinh học.

Anthropic khẳng định đã ngăn chặn được tất cả các hoạt động này khi chúng đang diễn ra. Tuy nhiên, báo cáo lại mang đến cảm giác bất an nhiều hơn là yên tâm. Bởi lẽ, không có gì đảm bảo Anthropic đã phát hiện ra mọi hành vi lạm dụng. Khi tính đến cả các đối thủ cạnh tranh và những công cụ AI mã nguồn mở được bảo vệ lỏng lẻo hơn, báo cáo này giống như một lời cảnh báo về sự hỗn loạn do AI gây ra trong tương lai hơn là một bảng thành tích về các rào chắn an toàn.

Mỹ triệt phá thị trường đen lớn nhất internet

Trong một diễn biến khác, chính phủ Mỹ đã ra tay với Xinbi Guarantee, thị trường bất hợp pháp lớn nhất trên internet. Trong suốt bốn năm tồn tại, nền tảng này đã thực hiện khối lượng giao dịch ước tính hơn 30 tỷ USD, phần lớn là hoạt động rửa tiền cho các chiến dịch lừa đảo tiền mã hóa kiểu "mổ lợn", chủ yếu có trụ sở tại Đông Nam Á.

Nền tảng này còn phục vụ cả nạn buôn người và dịch vụ quấy rối thuê. Tất cả hoạt động đều diễn ra trên Telegram. Cách đây một năm, Telegram từng đóng Xinbi, nhưng nó nhanh chóng được dựng lại và thậm chí còn phình to hơn trước.

Lần này, Bộ Tư pháp Mỹ đã tịch thu các kênh của Xinbi trên Telegram và áp đặt lệnh trừng phạt lên thị trường này. Đồng thời, cơ quan này thông báo đột kích 13 khu ổ lừa đảo tại Madagascar. Đây là dấu hiệu cho thấy cơ quan thực thi pháp luật phương Tây bắt đầu nghiêm túc đối phó với nạn lừa đảo tiền mã hóa dùng lao động cưỡng bức, nhưng cũng cho thấy mức độ lan rộng của các hoạt động này.

Thành viên băng nhóm ransomware Conti lĩnh án bốn năm tù

Băng nhóm ransomware Conti từng là một trong những nhóm tin tặc nguy hiểm nhất thế giới cho đến khi chính thức giải tán vào năm 2022. Theo cơ quan thực thi pháp luật Mỹ, nhóm này đã tấn công hơn một nghìn nạn nhân, tống tiền hàng triệu USD và có lúc làm tê liệt hệ thống chính phủ Costa Rica đến mức khiến nước này ban bố tình trạng khẩn cấp.

Giờ đây, một thành viên của nhóm phải đối mặt với công lý. Oleksii Oleksiyovych Lytvynenko, 44 tuổi, người Ukraina, đã bị kết án bốn năm tù. Đây là một trường hợp hiếm hoi khi một kẻ liên quan đến ransomware phải ngồi tù thực sự tại Mỹ.

Meta bỏ sót video lạm dụng trẻ em do AI tạo ra

Theo điều tra của Futurism, Facebook đang dung dưỡng một mạng lưới tài khoản lớn đăng tải các video do AI tạo ra mô tả cảnh bạo lực với trẻ em. Những đoạn clip này cho thấy trẻ nhỏ bị đánh đập, đốt, giam hãm và bỏ đói. Nhiều video thu hút hàng nghìn lượt tương tác từ những người dùng dường như tin rằng cảnh quay là thật.

Các phóng viên của Futurism đã tìm thấy hầu hết tài khoản bằng cách mở một tài khoản rồi đi theo luồng gợi ý của Facebook, nơi cung cấp liên tục các video tương tự. Điều này cho thấy chính hệ thống của Meta đã có thể nhận diện được loại nội dung mà công ty tuyên bố cấm.

Futurism đã báo cáo tám tài khoản qua kênh người dùng tiêu chuẩn. Meta chỉ xóa hai tài khoản, trong đó một tài khoản bị xóa sau khi ban đầu bị từ chối báo cáo. Một số quyết định mất hơn một tuần. Công ty đã xóa phần lớn video được gửi đến bộ phận báo chí, nhưng ban đầu vẫn để nguyên một số video khác, bao gồm cả video cho thấy một đứa trẻ bị nhốt trong tủ đông.

Ngoài lệnh cấm toàn diện đối với tài liệu lạm dụng tình dục trẻ em, chính sách bằng văn bản của Meta cấm mô tả hành vi lạm dụng trẻ em phi tình dục, dù là thật hay tổng hợp, với ngoại lệ cho nghệ thuật, phim hoạt hình, phim ảnh và trò chơi. Chính sách này không nêu rõ liệu video do AI tạo ra có thuộc các ngoại lệ đó hay không. Trong một tuyên bố, Meta nói với các phóng viên rằng một số liên kết bị gắn cờ không vi phạm quy tắc của họ và yêu cầu họ đừng viết khác đi.