HEIR: Trình biên dịch mã hóa đồng cấu đang tiến gần hơn đến thực tế

Trong bài viết mới trên blog Google Security, tác giả Jeremy Kun đã chia sẻ những cập nhật quan trọng về HEIR, trình biên dịch mã hóa đồng cấu (homomorphic encryption - HE) do Google phát triển. Dự án này cho phép biên dịch các chương trình thông thường thành phiên bản hoạt động trực tiếp trên dữ liệu đã mã hóa, mở ra tiềm năng cho các dịch vụ suy luận AI bảo mật tuyệt đối.

HEIR đã đạt được những bước tiến đáng kể trong việc biên dịch các mô hình học máy đã được huấn luyện sẵn, với các ví dụ cụ thể về phát hiện gian lận thẻ tín dụng, phát hiện bất thường mạng, hệ thống gợi ý và nhận diện từ khóa nói.

Hiệu năng: Từ con số 4.000x chậm hơn đến triển vọng GPU

Thử nghiệm đơn giản nhất với mô hình phát hiện gian lận thẻ tín dụng (mạng nơ-ron 3 lớp với kích thước 128-64-2) cho thấy thời gian suy luận trên dữ liệu mã hóa là khoảng 2 giây trên CPU đơn luồng, so với 0.5ms khi chạy trên dữ liệu gốc - tức chậm hơn khoảng 4.000 lần. Tuy nhiên, con số này không bao gồm chi phí khởi tạo và có thể được cải thiện đáng kể với phần cứng chuyên dụng.

Khi sử dụng GPU như H100, khối lượng công việc criteo (mô hình gợi ý) có thể chạy trong khoảng 500ms, giảm độ trễ xuống chỉ còn chậm hơn 50 lần so với baseline. Các mô hình phức tạp hơn như mạng nơ-ron tích chập 10 lớp cho nhận diện từ khóa nói mất khoảng 20 phút trên CPU, nhưng con số này được kỳ vọng sẽ cải thiện nhanh chóng với sự hỗ trợ của GPU, FPGA và ASIC.

Những thách thức kỹ thuật chính

Quản lý khóa (Key Management)

Một trong những rào cản lớn nhất khi triển khai HE ở quy mô lớn là kích thước khóa đánh giá (evaluation keys). Mỗi người dùng cần bộ khóa riêng, và với các mô hình lớn, khóa có thể lên tới 40 GiB mỗi người dùng. Việc lưu trữ và nạp khóa vào GPU khi có yêu cầu từ người dùng tạo ra bottleneck nghiêm trọng về hệ thống.

"Cho đến khi cộng đồng HE tìm ra cách giảm yêu cầu bộ nhớ đi một bậc độ lớn, tôi chỉ tìm kiếm các ứng dụng không có quá nhiều người dùng đồng thời."

Giới hạn kiến trúc mô hình

Các mô hình transformer lớn với hàng tỷ tham số vẫn nằm ngoài tầm với của HE thực tế. Tuy nhiên, tác giả nhấn mạnh rằng nhiều lĩnh vực vẫn chưa thấy lợi ích từ transformer và vẫn sử dụng kiến trúc từ khoảng năm 2020, với convolution là lựa chọn chủ đạo - điều này phù hợp với khả năng hiện tại của HE.

Ứng dụng thực tế tiềm năng

Dựa trên các ràng buộc về bảo mật hai chiều (cả dữ liệu người dùng và mô hình của nhà cung cấp đều nhạy cảm), tác giả đề xuất ba ứng dụng phù hợp:

• Chẩn đoán từ xa: Cho phép nhà sản xuất phân tích thiết bị công nghiệp của khách hàng mà không lộ thông tin sản xuất nhạy cảm
• Phân tích B2B: Các báo cáo kinh doanh định kỳ giữa hai doanh nghiệp, chấp nhận độ trễ cao
• Sinh trắc học trong tình huống đặc biệt: Xác thực khuôn mặt hoặc vân tay trong các quy trình không thường xuyên như tạo tài khoản hoặc khôi phục thẻ bảo mật

Lộ trình phát triển: Từ thư viện đến backend thực thụ

HEIR hiện tại sử dụng kiến trúc tương tự LLVM với hai binary chính: heir-opt và heir-translate. Mặc dù các backend hiện tại chủ yếu dựa trên thư viện ngoài như Lattigo và OpenFHE, nhóm phát triển đang dần xây dựng backend thực thụ với việc triển khai trực tiếp các thuật toán HE dưới dạng compiler passes.

Các hướng phát triển chính bao gồm:

• Hỗ trợ GPU và TPU: Tích hợp với các thư viện như CHEDDAR và hợp tác với các đối tác phần cứng như Niobium, Cornami, Optalysys
• Hỗ trợ các scheme mới: Gentry-Lee tối ưu cho phép nhân ma trận, Poulpy đơn giản hóa toán học đa thức CKKS
• Chuẩn hóa benchmark: Hợp tác với fhe-benchmarking.org để tạo ra chuẩn đánh giá chung cho toàn ngành

Kết luận

Mặc dù mã hóa đồng cấu vẫn còn nhiều thách thức về hiệu năng và khả năng mở rộng, HEIR đang chứng minh tính khả thi của công nghệ này cho các ứng dụng cụ thể. Với mã nguồn mở hoàn toàn và cộng đồng phát triển tích cực, dự án hứa hẹn sẽ là nền tảng quan trọng cho việc đưa HE vào sản xuất thực tế trong tương lai gần, đặc biệt là khi phần cứng chuyên dụng ngày càng trở nên phổ biến.