Logo UL quen thuộc phức tạp hơn bạn nghĩ và vai trò của nó trong kỷ nguyên AI

Logo UL quen thuộc phức tạp hơn bạn nghĩ và vai trò của nó trong kỷ nguyên AI

UL Solutions

Bạn có thể đã nhìn thấy biểu tượng "UL" nhỏ xíu trên mặt sau của sạc laptop, bàn ủi hoặc các thiết bị điện tử khác trong nhà. Nó là một dấu hiệu quen thuộc đến mức hầu hết chúng ta chẳng bao giờ để ý tới. Nhưng đằng sau logo đơn giản đó là một tổ chức phức tạp với lịch sử hơn 100 năm, và hiện tại, họ đang đối mặt với thách thức lớn nhất: làm thế nào để đảm bảo an toàn trong kỷ nguyên trí tuệ nhân tạo (AI).

Mới đây, Nilay Patel từ The Verge đã có cuộc phỏng vấn với Jennifer Scanlon, CEO của UL Solutions (trước đây là Underwriters Laboratories) để bàn về vai trò của an toàn trong công nghệ hiện đại.

"Phá vỡ mọi thứ" để đảm bảo an toàn

UL được thành lập từ năm 1894 với mục đích ban đầu là kiểm tra an toàn điện cho các công ty bảo hiểm, ngăn chặn hỏa hoạn. Ngày nay, tổ chức này có 15.000 nhân viên trên toàn thế giới và công việc của họ nghe có vẻ như một giấc mơ của những đứa trẻ thích nổ tung đồ vật: "Chúng tôi phá vỡ mọi thứ, nổ tung chúng và đốt cháy chúng", Scanlon chia sẻ.

Tại các phòng thí nghiệm của UL, các kỹ sư thực hiện hàng nghìn bài kiểm tra khắt khe. Từ việc thả pin lithium-ion để xem chúng có nổ tung không, đến việc xếp chồng hai triệu lon nước ngọt trong một nhà kho để kiểm tra khả năng chịu lửa. Mặc dù nghe có vẻ thú vị, nhưng mục đích đằng sau những vụ nổ đó là cực kỳ nghiêm túc: bảo vệ tính mạng con người trước những rủi ro của công nghệ mới.

Một ví dụ điển hình là vấn đề xe đạp điện (e-bike) tại New York. Khi các vụ cháy do pin sạc quá nhiệt gây ra cái chết cho hàng chục người, UL đã làm việc với chính quyền thành phố để xây dựng các tiêu chuẩn an toàn mới. Kết quả là sau khi các tiêu chuẩn này được áp dụng, số ca tử vong đã giảm tới 75%.

Cấu trúc phức tạp và niềm tin

Một câu hỏi lớn đặt ra là: Tại sao các công ty lại muốn tham gia quá trình kiểm định khắt khe của UL? Scanlon giải thích rằng động lực đến từ nhiều phía: các công ty bảo hiểm, chính phủ, và quan trọng nhất là niềm tin của người tiêu dùng.

Năm 2012, UL đã tái cấu trúc, tách thành ba thực thể riêng biệt: UL Standards & Engagement (phi lợi nhuận, viết tiêu chuẩn), UL Research Institutes (phi lợi nhuận, nghiên cứu khoa học) và UL Solutions (công ty lợi nhuận, thực hiện kiểm tra và cấp chứng nhận). Mặc dù UL Solutions là một công ty niêm yết trên sàn chứng khoán, nhưng Scanlon khẳng định rằng việc duy trì tính toàn vẹn khoa học là ưu tiên hàng đầu. "Nếu chúng tôi bao giờ đi chệch khỏi các tiêu chuẩn chất lượng cao nhất, điều đó sẽ xói mòn niềm tin mà khách hàng dành cho chúng tôi trong 132 năm qua", bà nói.

Thách thức mới: An toàn cho AI

Hiện nay, UL đang bước vào một lĩnh vực mới đầy thách thức: an toàn AI. Họ vừa công bố tiêu chuẩn mới mang tên UL 3115, một khung cấu trúc để đánh giá các sản phẩm dựa trên AI trước và trong khi triển khai.

Vấn đề cốt lõi là AI không xác định (non-deterministic) – nó có thể hành động khác nhau trong các tình huống giống nhau. Vậy làm thế nào để kiểm tra an toàn cho một hệ thống như vậy? Thay vì cố gắng kiểm tra "hộp đen" của thuật toán, UL tập trung vào quy trình tạo ra nó. Tiêu chuẩn UL 3115 thiết lập hơn 200 tiêu chí về cách các nhà phát triển xây dựng mô hình, bao gồm tính minh bạch, quyền riêng tư, thiên kiến trong dữ liệu và độ chính xác của nguồn dữ liệu huấn luyện.

"Chúng tôi tập trung vào việc thiết lập các tiêu chí về cách họ nên suy nghĩ về thiên kiến, tính minh bạch, sự công bằng và quyền riêng tư khi đưa ra quyết định về phát triển mã code," Scanlon giải thích.

Tuy nhiên, việc áp dụng các tiêu chuẩn này cho ngành công nghiệp AI không hề dễ dàng. Nhiều công ty công nghệ lớn thường thích tự thiết lập các tiêu chuẩn riêng của mình hoặc che chở dưới sự bảo hộ của sở hữu trí tuệ. Hơn nữa, sự bùng nổ của các công ty khởi nghiệp nhỏ lẻ và các sản phẩm giá rẻ trên các nền tảng như Amazon tạo ra một "khoảng trống" nơi các tiêu chuẩn an toàn có thể bị bỏ qua.

Scanlon thừa nhận rằng đây là một "trận chiến uphill" (đổ dốc). Nhưng bà tin rằng cuối cùng, người dùng cuối và các khách hàng doanh nghiệp lớn sẽ lên tiếng yêu cầu sự an toàn, giống như cách họ đã làm với xe đạp điện.

Kết luận

Trong một thế giới nơi công nghệ phát triển với tốc độ chóng mặt, từ pin lithium-ion đến các mô hình AI tạo sinh, vai trò của các tổ chức như UL càng trở nên quan trọng. Dù không phải mọi sản phẩm đều đạt được chứng nhận, nhưng sự tồn tại của các tiêu chuẩn này tạo ra một sân chơi chung, nơi sự an toàn vẫn là thước đo cuối cùng cho sự thành công bền vững.