Safeworld: Bài toán an toàn cho robot trí tuệ nhân tạo

Khi xu hướng robot chuyển sang giao quyền điều khiển cho các mô hình trí tuệ nhân tạo tạo sinh (generative AI), một vấn đề nan giải xuất hiện: kiến trúc này không thể dự đoán trước như các thuật toán truyền thống. Vậy làm sao để đảm bảo robot hình người mới của bạn thực sự an toàn?

Safeworld — công ty khởi nghiệp do Tiến sĩ Ding Zhao, người đứng đầu phòng thí nghiệm Safe AI tại Đại học Carnegie Mellon, cùng cựu giám đốc điều hành khởi nghiệp Kyle Wong và kỹ sư học máy Simo Rachidi thành lập — đang nỗ lực giải quyết bài toán này. Công ty vừa chính thức ra khỏi chế độ ẩn (stealth) với vòng gọi vốn hạt giống hơn 12 triệu USD, dẫn dắt bởi Shine Capital và a16z Speedrun, cùng sự tham gia của Box Group, Carnegie Mellon University Endowment, Innovation Endeavors và SV Angel.

Thách thức an toàn của trí tuệ nhân tạo xác suất

Theo Tiến sĩ Zhao, thách thức an toàn ở đây là sự kết hợp của hai yếu tố. Thứ nhất là đánh giá xác suất của trí tuệ nhân tạo tạo sinh tiên tiến — làm thế nào để bảo lãnh rủi ro cho một hệ thống mang tính xác suất? Thứ hai, và cũng khó hơn, là yếu tố niềm tin.

"Bạn cần cả hai yếu tố này để có thể triển khai một robot," Zhao nhấn mạnh.

Jonathan Lai, đối tác tại a16z Speedrun, cho rằng thời điểm xây dựng tiêu chuẩn an toàn ngành là ngay bây giờ, khi robot đang được thiết kế và triển khai.

"Khi đã có robot trong các hộ gia đình va chạm với trẻ em và gây ra sự cố an toàn, lúc đó đã quá muộn," Lai nói.

Mô phỏng với con người kỹ thuật số

Chuyên môn của Safeworld là đánh giá hệ thống điều khiển robot trong các mô phỏng có sự tham gia của các mô hình con người chân thực. Cách tiếp cận này tương tự thách thức mà Tesla hay Wayve phải đối mặt khi đảm bảo xe tự hành phản ứng phù hợp với nhiều tình huống bất ngờ trên đường.

Tuy nhiên, theo Zhao, bài toán với robot sẽ khó hơn vì chúng hoạt động trong môi trường không có cấu trúc, và mỗi cơ sở sẽ có tiêu chuẩn an toàn khác nhau.

Ví dụ, trong một nhà máy có góc khuất, cần xác định tốc độ hoặc khoảng cách dừng như thế nào để robot không va chạm với người. Nếu một người đang mang thùng hàng, liệu robot có phát hiện ra người đó không?

Để trả lời, Safeworld xây dựng phiên bản kỹ thuật số của góc khuất đó trong các mô hình như Genesis hoặc MuJoCo, đưa vào mô phỏng robot đang được đánh giá (chạy bằng phần mềm thật của nó), rồi chạy hàng nghìn kịch bản nơi các mô hình con người gặp gỡ robot.

Điều này khó hơn vẻ ngoài vì con người rất khó dự đoán. Ngay cả hành vi vấp ngã cũng được mô phỏng nhiều lần, thay vì phải thực sự vấp ngã trước mặt robot — một việc khó thực hiện thường xuyên.

Vì sao cần bên thứ ba xác thực

Có những điểm tương đồng giữa nền tảng Safeworld đang xây dựng và các công cụ mà nhà sản xuất robot dùng nội bộ. Nhưng các nhà sáng lập tin rằng ngoài chuyên môn riêng, họ vẫn sẽ được các nhà sản xuất robot tìm đến để xác thực độc lập, đơn giản vì họ có thể chia sẻ thông tin về các tình huống an toàn giữa các đối thủ.

"Nhiều người đang đánh giá thấp mức độ khó của một số tình huống biên. Chúng tôi không lo về robot trong môi trường chân không hay bản demo, mà lo về robot được triển khai ở quy mô lớn, với những người có thể chưa từng vận hành robot bao giờ," Zhao nói.

Hợp tác thực tế với Gritt Robotics

Vishal Dugar, CTO của Gritt Robotics, đang phát triển bộ não AI cho robot giúp công nhân lắp đặt tấm quang điện tại các trang trại năng lượng mặt trời quy mô công nghiệp, với tham vọng đảm nhận các nhiệm vụ xây dựng phức tạp hơn. Công ty ông đang hợp tác với Safeworld để phát triển các mô phỏng an toàn.

"Khó khăn với hầu hết hệ thống của chúng tôi là rất khó chứng minh hình thức bằng cách viết phương trình và khẳng định hệ thống an toàn. Điều này buộc phải được thực hiện theo phương pháp thực nghiệm," Dugar cho biết.

Robot của ông hoạt động cùng công nhân, và việc đảm bảo cánh tay robot không đánh trúng họ là ưu tiên hàng đầu. Để xác minh trong thực tế, cần xem xét mọi loại tình huống: con người với nhiều hình dáng, tư thế khác nhau — quỳ, đứng, vấp ngã, ngồi xổm, chạy — cùng vô số biến thể về quần áo, kích thước, chiều cao, màu da.

Còn nhiều thách thức phía trước

Cả Safeworld lẫn trí tuệ nhân tạo tạo sinh trong robot đều còn ở giai đoạn sơ khai. Công ty vẫn đang tìm ra mô hình sản phẩm tốt nhất — nền tảng cho người dùng bên ngoài hay phương pháp dựa trên dịch vụ.

Dù vậy, đội ngũ tin rằng họ đang giải quyết đúng bài toán.

"Chúng tôi có thể sẽ là công ty đầu tiên sinh lời trong lĩnh vực này, vì nếu ai muốn triển khai robot, họ cần trả tiền để chúng tôi xử lý tình huống," Zhao khẳng định.