Khi AI của Amazon vô tình khóa tài khoản người dùng và họa sĩ webcomic

Khi AI của Amazon vô tình khóa tài khoản người dùng và họa sĩ webcomic

Vào tháng 1 vừa qua, tôi đã kể về việc Amazon đã chấm dứt hoàn toàn tài khoản khách hàng kéo dài hàng thập kỷ của tôi. Tôi đã mất toàn bộ lịch sử đặt hàng, bộ sưu tập truyện tranh trên Comixology, tài khoản Prime, các chức năng Alexa và cả liên kết tiếp thị liên kết. Mặc dù việc mất dịch vụ gây phiền toái, nhưng nó không ảnh hưởng trực tiếp đến thu nhập của tôi.

Tuy nhiên, câu chuyện lại hoàn toàn khác đối với những người phụ thuộc vào Amazon để kiếm sống.

Hình ảnh minh họa về sự cố

Họa sĩ mất nguồn thu nhập vì lệnh cấm bất ngờ

Gần đây, Tom Ray đã chia sẻ trường hợp tương tự khi tài khoản Amazon của ông bị đóng cửa hoàn toàn. Đáng chú ý là ông đã bán bản sao các truyện tranh "HomeMade Cartoons" và "Bobert" độc quyền thông qua Amazon kể từ năm 2018.

Mọi cuốn sách ông tạo ra đều được định dạng riêng cho nền tảng của Amazon để nhận thanh toán theo "trang" thay vì theo "tựa sách". Nhưng nay, dòng thu nhập đó đã biến mất. Câu chuyện của ông rất giống của tôi: mọi việc vẫn bình thường, cho đến khi nhận được email thông báo tài khoản bị chấm dứt với lý do chung chung là "vi phạm điều khoản".

Điều đáng nói là truyện tranh của ông không chứa nội dung khiêu dâm, bạo lực hay thô tục. Sự đột ngột của việc hủy tài khoản, kết hợp với việc thiếu hoàn toàn quy trình kháng cáo, khiến tôi tin rằng đây là kết quả của việc Amazon chuyển giao quy trình xem xét tài khoản cho AI.

Ba giả thuyết về cách AI hoạt động

Có vẻ như Amazon đã tạo ra một tác nhân AI để quét mọi tài khoản và thay vì chỉ gắn cờ các vi phạm tiềm năng, nó đã hủy bỏ tài khoản ngay lập tức. Điều này dẫn đến ba khả năng về cách họ vận hành hệ thống:

• Không kiểm thử: Họ giả định AI sẽ hoạt động tốt và đẩy thẳng vào môi trường sản xuất. Đây là một "thực hành tồi tệ" trong phát triển phần mềm.
• Tính toán chi phí: Họ đã kiểm thử, thấy quá nhiều cờ báo sai (false positives) nhưng cho rằng doanh thu mất do sai lầm thấp hơn thiệt hại do gian lận. Tuy nhiên, với sản phẩm kỹ thuật số, "mất mát" không giống như mất hàng hóa vật lý.
• Thái độ ngạo mạn: Họ biết AI quá nhạy cảm nhưng vẫn triển khai vì họ là "gã khổng lồ" và không quan tâm đến người dùng cá nhân.

Tôi nghiêng về khả năng cuối cùng. Amazon kiếm được quá nhiều tiền từ nhiều người đến mức họ không còn quan tâm việc một cá nhân có còn là khách hàng hay không.

Bài học về sự phụ thuộc nền tảng

Tom Ray rất thất vọng vì ông đã "đặt tất cả trứng vào một giỏ Amazon". May mắn thay, ông vẫn có các nguồn thu nhập khác từ âm nhạc và kinh doanh đồ chơi cổ điển. Vụ việc này vừa là lời cảnh tỉnh, vừa là bài học về thực hành tốt nhất: luôn đa dạng hóa nguồn thu nhập.

Minh họa sự cố kỹ thuật

Chúng ta đang sống trong một thế giới nơi các tập đoàn công nghệ khổng lồ như Amazon, Google hay Microsoft chi phối mọi mặt. Rất khó để tách mình hoàn toàn khỏi họ mà không sống tách biệt xã hội. Tuy nhiên, việc tự chủ càng nhiều dịch vụ "trong nội bộ" và thực sự sở hữu dữ liệu của mình sẽ giúp bạn an toàn hơn trước những quyết định tự động của AI.