Đã đến lúc "giải phóng" Palantir: Bài học về AI, giám sát và ngôn ngữ công nghệ

Đã đến lúc "giải phóng" Palantir: Bài học về AI, giám sát và ngôn ngữ công nghệ

Trong bối cảnh công nghệ trí tuệ nhân tạo (AI) và các nền tảng đám mây đang phát triển như vũ bão, chúng ta thường bị choáng ngợp bởi các thuật ngữ kỹ thuật phức tạp và những hứa hẹn hoa mỹ từ các gã khổng lồ công nghệ. Một trong những thuật ngữ đáng chú ý nhất hiện nay là "Palantir" — tên của một công ty công nghệ hàng đầu về phân tích dữ liệu và giám sát. Tuy nhiên, ít người biết rằng tên gọi này thực chất bắt nguồn từ tác phẩm văn học kinh điển của J.R.R. Tolkien. Đã đến lúc chúng ta cần "giải phóng" thuật ngữ này để hiểu rõ hơn về bản chất nguy hiểm của các công cụ giám sát hiện đại.

Minh họa về khái niệm Palantir và giám sát

Lấy lại ngôn ngữ của công nghệ

Juan Sebastián Pinto, một cựu nhân viên trong ngành AI, người từng làm việc với các khách hàng từ thương mại đến Lầu Năm Góc, đã chia sẻ về tầm quan trọng của việc thấu hiểu ngôn ngữ mà các công ty công nghệ sử dụng. Ông cho rằng chúng ta đã để các CEO và đội ngũ marketing định nghĩa cách chúng ta nói về AI và giám sát quá lâu.

Thực tế đáng báo động là các công cụ này đang được sử dụng trên quy mô chưa từng có. Từ việc Palantir tham gia vào hệ thống y tế quốc gia NHS của Anh cho đến các cáo buộc liên quan đến việc công cụ của họ được sử dụng trong các vùng chiến tranh và gây ra thương vong cho dân thường, việc hiểu rõ cách thức vận hành của các hệ thống này không còn là lựa chọn mà là nhu cầu cấp thiết. Chúng ta không cần phải là kỹ sư để hiểu được cấu trúc vô hình của các nền tảng này; những người làm chính sách, pháp lý và người lao động hoàn toàn có thể — và nên — làm điều đó.

Cấu trúc của những "Viên đá Palantir" hiện đại

Trong thế giới của Tolkien, Palantir là những "viên đá nhìn thấu" cho phép người dùng nhìn thấy những nơi xa xôi và dự đoán tương lai, nhưng chúng cũng gây ra sự tự tin thái quá và dẫn đến những quyết định sai lầm. Ngày nay, thuật ngữ này nên được hiểu theo nghĩa rộng hơn để mô tả bất kỳ công ty hay nền tảng nào thu thập dữ liệu để cung cấp quyền lực giám sát và dự đoán.

Hầu hết các nền tảng giám sát đám mây hiện nay (thường được bán dưới dạng phần mềm dịch vụ B2B) đều tuân theo một mô hình dữ liệu đầu vào-đầu ra tương tự. Chúng ta có thể hình dung cấu trúc này như một kim tự tháp với ba lớp chính:

Sơ đồ cấu trúc của một nền tảng đám mây

1. Lớp Dữ liệu (Data): Đây là lớp nền tảng quan trọng nhất. Chúng ta phải xem xét kỹ lưỡng về độ thiên kiến, chất lượng, tính pháp lý và nguồn gốc của dữ liệu đầu vào. Mọi quyết định và tự động hóa sau này đều dựa trên nền tảng này.
2. Lớp Phân tích (Analytics): Tại đây, dữ liệu được chuyển đổi thành ý nghĩa. Đây là nơi thiên kiến, sự lựa chọn có chủ đích và phân biệt đối xử có thể xảy ra thông qua các thuật toán và ngưỡng phân loại.
3. Lớp Hành động và Tự động hóa (Action & Automation): Dữ liệu và phân tích chuyển hóa thành các quyết định và quy trình tự động, nơi vai trò của con người được ủy quyền cho máy móc. Câu hỏi đặt ra là: Ai chịu ảnh hưởng? Quyết định đó công bằng không và bao nhiêu phần trăm quy trình được tự động hóa?

Palantir và các nền tảng tương tự cho phép bất kỳ tổ chức nào xây dựng các đường ống dữ liệu này theo cách trung lập, nhưng mục tiêu cuối cùng của họ là tích hợp dọc (vertical integration). Họ muốn bán công cụ của mình qua nhiều phòng ban, tự động hóa càng nhiều chức năng càng tốt để khiến tổ chức trở nên phụ thuộc vào họ.

Mối nguy từ "Bản thể luận" (Ontology)

Một thuật ngữ quan trọng khác mà Palantir thường sử dụng là "ontology" (bản thể luận). Trong triết học và tin học, thuật ngữ này mô tả cách con người và các tổ chức hiểu về thực tế và mối quan hệ giữa các thực thể. Palantir định nghĩa "ontology" của họ như một "lớp ngữ nghĩa" giúp tạo ra mô phỏng của một tổ chức.

Tuy nhiên, vấn đề nằm ở chỗ "ontology" này chính là nơi ý thức hệ chính trị được tiêm vào các hệ thống quản trị. Khả năng mô phỏng và mô hình hóa tổ chức của Palantir bắt nguồn từ việc phát hiện các mô hình cuộc sống của cá nhân và điều tra các đồ thị xã hội. Ban đầu, công nghệ này được dùng để vũ khí hóa dữ liệu cá nhân chống lại họ trong các hoạt động tình báo. Ngày nay, nó được mở rộng để xây dựng các mô phỏng cho mọi loại dữ liệu.

Minh họa về bản thể luận và vũ khí hóa dữ liệu

Điều đáng lo ngại là các "ontology" này có thể được cấu hình lại để gây hại cho con người và phản ánh các mục tiêu chính trị của các chính phủ độc tài. Ví dụ, việc sử dụng các công cụ của Palantir để thực thi các mệnh lệnh hành chính liên quan đến giới tính hoặc chấm dứt các chương trình nghiên cứu về sự công bằng và hòa nhập cho thấy cách các thuật ngữ như "bình đẳng" hay "bao hàm" có thể bị xóa bỏ khỏi hệ thống chính phủ chỉ bằng một cài đặt phần mềm. Khi một danh mục giới tính thứ ba không còn được công nhận trong "ontology" của biên giới, những người thuộc nhóm đó có thể gặp khó khăn trong việc quay về nhà nước của mình.

Kết luận: Thách thức những "phù thủy" công nghệ

J.R.R. Tolkien, một nhà nhân văn học lỗi lạc, đã tạo ra một thế giới giả tưởng dựa trên sự phong phú của văn hóa và ngôn ngữ con người. Ngược lại, công ty mang tên Palantir ngày nay đang đẩy mạnh cuộc chiến chống lại các trường đại học nghệ thuật tự do và nhân văn, đồng thời thúc đẩy những loại xung đột toàn cầu mà Tolkien từng viết về sự kinh hoàng của chiến tranh.

Chúng ta không nên chấp nhận một "quan điểm thế giới" hay "ontology" được áp đặt từ trên xuống, đặc biệt là từ một tập đoàn hay một "viên đá ma thuật" công nghệ. Những phù thủy ác trong Trung Địa muốn áp đặt ý chí của họ thông qua ma thuật, trong khi những người Elf nguyên thủy cai trị thông qua sự mê hoặc — bảo vệ các viên đá Palantir bằng tình huynh đệ và nghiêm ngặt.

Khi đối mặt với bóng tối của công nghệ, ý nghĩa và mục đích đến từ sự đấu tranh, từ kinh nghiệm thực tế và từ việc phát triển sự hiểu biết chung về thực tại của chúng ta. Bằng cách thách thức các quan niệm có sẵn và những câu chuyện cổ tích được Big Tech thúc đẩy, chúng ta có thể thay thế chúng bằng những tầm nhìn của chính mình. Giống như Tolkien đã viết, "Giả tưởng vẫn là một quyền lợi của con người."