Toyota và AISIN phát triển chip AI lưu mô hình cùng hệ điều hành ngay trên chip

Toyota đang lấn sân sang bộ xử lý AI với một thiết kế chip do AISIN phát triển cùng các đối tác nghiên cứu tại Đại học Tohoku. Điểm khác biệt là chip tích hợp bộ nhớ để lưu cả trọng số mô hình AI lẫn hệ điều hành, nhằm giảm việc truyền dữ liệu giữa bộ xử lý và bộ nhớ ngoài.

Theo AISIN, cách tiếp cận này có thể giúp các tác vụ AI chạy trực tiếp trên thiết bị, như nhận diện hình ảnh, hoạt động hiệu quả hơn. Công ty cũng cho biết bộ nhớ DRAM hiện có chi phí rất cao.

Tích hợp bộ nhớ để giảm độ trễ

Chip được chế tạo trên quy trình FinFET 16 nm, với bộ xử lý trung tâm Arm Cortex A53 lõi kép và bộ xử lý đồ họa Arm Mali G31. Bên trong chip có bộ nhớ STT-MRAM — loại bộ nhớ truy cập ngẫu nhiên từ tính sử dụng cơ chế mô-men xoắn truyền spin — để lưu trọng số mô hình AI và hệ điều hành.

AISIN và Đại học Tohoku cho biết chip có thể khởi chạy nhân hệ điều hành trong 65,7 mili giây tính từ lúc bật nguồn, nhanh hơn 38 lần so với khi sử dụng bộ nhớ ngoài. Chip cũng có thể chạy thuật toán phát hiện đối tượng Tiny YOLOv3.

Giảm kích thước dữ liệu trọng số

Để tận dụng dung lượng bộ nhớ tích hợp hạn chế, nhóm nghiên cứu phát triển kiến trúc nhân lai, kết hợp phép nhân 8 bit và 16 bit. Theo thông báo của Đại học Tohoku, cách này kết hợp các phép nhân 16×16, 16×8 và 8×8 bit.

Nhờ đó, lượng dữ liệu trọng số của mô hình AI giảm 53%, từ 17,7 MB xuống 9,36 MB, trong khi vẫn duy trì độ chính xác 16 bit.

AISIN là nhà cung cấp linh kiện ô tô đã có quan hệ bán hàng với Toyota và các hãng xe khác. Tuy nhiên, công ty chưa cho biết liệu chip này có được đưa vào sản xuất hay không, cũng như thời điểm cụ thể. Trong khi đó, Nvidia và Qualcomm cũng đang tìm cách cung cấp chip cho các nhà sản xuất ô tô.

Góc nhìn

Việc đưa trọng số mô hình và hệ điều hành vào bộ nhớ tích hợp có thể giúp giảm lưu lượng dữ liệu giữa chip và bộ nhớ ngoài — một hướng thiết kế đáng chú ý cho các tác vụ AI chạy trực tiếp trên thiết bị. Với nhà phát triển và kỹ sư, kết quả về thời gian khởi chạy và dung lượng trọng số cho thấy việc tối ưu cả phần cứng lẫn mô hình có thể là yếu tố quan trọng khi tài nguyên bộ nhớ bị giới hạn.

Dù vậy, AISIN chưa công bố kế hoạch sản xuất, nên hiện chưa thể xác định thiết kế này sẽ được ứng dụng trong sản phẩm ô tô nào.