Bài học từ trại huấn luyện An toàn AI đầu tiên cho giới luật sư và chuyên gia quản trị

An toàn AI đã trở thành chủ đề chính thống. Ngày càng nhiều người muốn tham gia nghiên cứu an toàn AI, và đã có những thắng lợi thực sự về chính sách tại Mỹ, Anh và châu Âu. Nhưng ý chí chính trị và động lực thị trường giờ đây mới là điểm nghẽn — các cán bộ chính sách không thể một mình đảm bảo việc triển khai đúng đắn.

Hình minh họa về an toàn AI

Từ chương trình AI có trách nhiệm đến nỗi lo còn bỏ ngỏ

Sau khi xây dựng một chương trình AI có trách nhiệm tại một liên doanh của Accenture, tác giả nhận ra rằng các công ty vì lợi nhuận rất khó lái hướng, nhưng những người bên trong họ vẫn có thể thay đổi thực tiễn theo cách tích lũy dần: điều khoản hợp đồng chặt chẽ hơn, giám sát nhà cung cấp kỹ lưỡng hơn, và ít kẽ hở hơn để các nhà cung cấp trốn tránh tuân thủ.

Liên minh châu Âu không có phòng thí nghiệm biên giới (frontier lab) bản địa nào, nhưng lại là một thị trường khổng lồ — với một cơ quan quản lý có cả đơn vị chuyên về an toàn AI. Đòn bẩy đó chỉ phát huy tác dụng nếu các chuyên gia thực thi luật an toàn AI, và những người soạn thảo cơ chế pháp lý đằng sau nó, hiểu được bức tranh kỹ thuật: cách đọc nghiên cứu, và những điểm mà các lời hứa về an toàn bị phá vỡ.

Thị trường lẽ ra phải lựa chọn không phải những mô hình mạnh nhất, mà là những đối tác có động lực mạnh nhất hướng tới an toàn. Và chỉ một cộng đồng có kiến thức này mới có thể lan tỏa được điều đó.

Hội thảo châu Âu đầu tiên về AI biên giới và Pháp luật

Vào đầu tháng 9, ML4Good, hợp tác với EquiStamp, đã tổ chức Hội thảo châu Âu đầu tiên về AI biên giới và Pháp luật: một trại huấn luyện nội trú 5 ngày tại East Sussex cho 19 chuyên gia cấp cao về pháp lý, quản trị và rủi ro đến từ 12 khu vực pháp lý khác nhau.

Chương trình dẫn dắt người tham gia đi qua toàn bộ quy trình AI biên giới, từ huấn luyện và đánh giá đến tác nhân (agent) và biện pháp bảo vệ. Mỗi giai đoạn đều gắn với những câu hỏi họ gặp trong công việc thực tế: mua sắm, đánh giá rủi ro, và những điểm mà các tuyên bố an toàn của nhà cung cấp bị phá vỡ.

Điều làm nên sự khác biệt của trại huấn luyện này so với các học bổng an toàn AI tương tự chính là đối tượng mà ban tổ chức tập hợp. Họ nhắm đến những chuyên gia đã có kinh nghiệm, đang chịu trách nhiệm về pháp lý, tuân thủ, rủi ro và các chức năng AI có trách nhiệm trong tổ chức của mình — với rất ít hoặc không có tiếp xúc trước đó với các sự kiện an toàn AI.

Nhóm tham gia bao gồm luật sư làm việc tại các hãng luật và nội bộ doanh nghiệp, chuyên gia về quyền riêng tư và tuân thủ trong quản trị AI, chuyên gia rủi ro và tài chính tư vấn về quản trị AI, cùng các học giả pháp lý và nghiên cứu viên. Ngoài ra còn có đại diện từ ngành tư pháp và khu vực công.

Tác giả đồng dẫn dắt phiên bản đầu tiên này với Elsa Donnat, và thiết kế phần bài tập thực hành của chương trình. Các phiên kỹ thuật do Douw Marx và Jeff Iuliano trình bày — những người đã đảm nhận nhiệm vụ đầy thách thức là chuyển thể các khái niệm kỹ thuật phức tạp cho một khán giả phi kỹ thuật, chủ yếu là pháp lý.

Những người có chức danh lớn có thể cô đơn đến bất ngờ

Tác giả trải nghiệm điều này trực tiếp khi là một trong số ít người trong môi trường làm việc của mình suy nghĩ nghiêm túc về những câu hỏi như: Điều gì làm cho AI an toàn? Hậu quả của việc triển khai nhiều loại hệ thống AI khác nhau, cho nhiều mục đích sử dụng rất khác biệt, trên khắp một công ty lớn là gì? Điều đó có ý nghĩa gì với xã hội, thị trường, hay cả ngành?

Nhưng khi công việc thực tế của bạn là AI có trách nhiệm, tuân thủ AI, quy định hoặc rủi ro, việc có những mối quan tâm như vậy đôi khi bị coi là làm phân tâm khỏi nhiệm vụ trước mắt. Và ngay cả khi không bị như vậy, bạn có thể đơn giản là không có thời gian hay không gian để có những cuộc trò chuyện ý nghĩa về điều làm mình lo lắng, quan tâm, hay nghĩ sẽ xảy ra tiếp theo.

Khi ban tổ chức tập hợp một nhóm chuyên gia rất cấp cao, mỗi người đối mặt với thách thức riêng trong bối cảnh nghề nghiệp của họ, họ không thể ngừng trò chuyện với nhau. Yếu tố cộng đồng hóa ra lại là một trong những tài sản lớn nhất của chương trình: tình bạn, các kết nối, và những cuộc trò chuyện tiếp tục rất lâu sau khi các phiên chính thức kết thúc.

Tìm thấy "người của mình"

Theo truyền thống của các trại huấn luyện ML4Good, ban tổ chức có "sugar cubes": phong bì ghi tên từng người, nơi người tham gia có thể để lại giấy nhớ với điều tích cực cho người có tên trên phong bì.

Một trong những người tham gia cấp cao nhất để lại cho tác giả một mẩu giấy. Nội dung đại ý: "Cảm ơn bạn vì điều này. Tôi đã tìm thấy người của mình."

Nhiều nhà nghiên cứu ở đây đã biết cảm giác này. Điều có thể ít rõ ràng hơn là những người ở phía bên kia của phương trình — những người giám sát điều khoản nhà cung cấp, đàm phán hợp đồng, phê duyệt triển khai và quản trị các hệ thống này — cũng có thể trải nghiệm điều tương tự khi chia sẻ những mối lo đó.

Những hiểu lầm nhỏ mở ra nhiều tò mò lớn

Một phiên về đánh giá và biện pháp bảo vệ tập trung một phần vào sự cố Hugging Face. Phiên này kéo dài hơn dự kiến vì mọi người có quá nhiều câu hỏi.

Điều tuyệt vời nhất về những câu hỏi đó là mọi người không tìm kiếm sự xác nhận cho điều họ đã tin. Họ đến với sự khiêm tốn của người biết mình không phải chuyên gia. Họ có quyền tiếp cận các chuyên gia, và họ muốn hiểu.

Một số hiểu lầm đơn giản được sửa chữa dẫn đến hai điều cùng lúc: tò mò hơn để tiếp tục học, và đánh giá cao hơn nhiều về lý do tại sao một số vấn đề này lại quan trọng.

• Điều gì thực sự xảy ra với mô hình trong quá trình suy luận?
• Không, ChatGPT không đơn thuần ghi lại mọi thứ bạn nói và "học" từ đó trong cuộc trò chuyện.
• Không, thứ bạn thấy khi Claude có vẻ đang suy nghĩ không phải là chuỗi suy nghĩ thực sự của mô hình.

Những khoảnh khắc nhỏ kiểu "Ồ, tôi tưởng nó hoạt động khác" là một trong những phần yêu thích nhất của tác giả trong chương trình. Thành thật mà nói, cảm giác như có thể dành thêm cả một ngày chỉ để trả lời câu hỏi.

Gánh nặng vô hình của cố vấn sản phẩm

Nếu bạn là cố vấn sản phẩm tại một công ty xây dựng hệ thống AI, công việc của bạn không chỉ là đảm bảo không có gì bất hợp pháp xảy ra, hay các điều khoản và điều kiện được soạn đúng.

Bạn sẽ bị quy trách nhiệm khi có sự cố. Và bạn không nhất thiết sẽ nhận được mức độ sẵn lòng tương tự từ các nhóm kỹ thuật để giải thích dự án đang làm gì, hay công nghệ bên dưới hoạt động thế nào — như mức độ chỉ trích bạn nhận được nếu bỏ sót điều gì đó quan trọng.

Điều đó có thể hiểu được. Công việc của chúng ta là biết mình đang làm gì, và không nên mong đợi được cầm tay chỉ việc liên tục. Nhưng điều đó cũng có nghĩa là khi cuối cùng bạn có cơ hội đặt ra tất cả câu hỏi kỹ thuật đã tích lũy, bạn sẽ tận dụng nó.

Bạn sẽ hỏi về sự khác biệt giữa mô hình độc quyền và mô hình trọng số mở. Bạn sẽ hỏi năng lực khác nhau thế nào giữa các mô hình. Bạn sẽ hỏi các giai đoạn hậu huấn luyện khác nhau ảnh hưởng thế nào đến cả an toàn lẫn hiệu năng. Bạn sẽ hỏi các đánh giá thực sự cho bạn biết điều gì — và không cho bạn biết điều gì.

Lỗ hổng giữa an ninh mạng và an toàn AI

Các nhà nghiên cứu và kỹ sư an toàn AI mang đến những năng lực mà các hồ sơ chuyên môn khác đơn giản là không có.

Nếu bạn từng là nhà phát triển sản phẩm hoặc kỹ sư phần mềm và giờ làm nghiên cứu an toàn AI, bạn có thể hiểu cả hai phía. Bạn hiểu mô hình, huấn luyện an toàn, đánh giá, và logic áp dụng cho mô hình. Nhưng bạn cũng hiểu sản phẩm, ứng dụng, và điều thực sự xảy ra khi một mô hình được tích hợp vào hệ thống thực tế.

Các chuyên gia bảo mật thường hỏi: Làm sao một bên thứ ba hoặc kẻ xấu bên ngoài có thể gây hại cho hệ thống này, và chúng ta ngăn chặn họ thế nào?

An toàn AI đặt một câu hỏi bổ sung: Làm sao chính hệ thống có thể gây hại cho con người? Kịch bản xấu nhất là gì? Điều chúng ta đang xây dựng có thể ảnh hưởng thế nào đến người tiêu dùng, người dùng, hay xã hội? Và chúng ta cần cơ chế gì để ngăn chặn điều đó?

Để chơi với định kiến: luật sư quan tâm đến các vụ kiện tụng. Chúng ta ở một mức độ nào đó là những người mô hình hóa mối đe dọa. Chúng ta hỏi: Quyết định này có thể dẫn đến tranh chấp, hành động quản lý, khiếu nại bảo vệ người tiêu dùng, hay hậu quả pháp lý nào khác? Chúng ta có thể làm gì để ngăn chặn?

Nhưng khi bạn là chuyên gia về AI có trách nhiệm, GRC, rủi ro hoặc pháp lý làm việc tại một công ty kỹ thuật, nhiều vấn đề pháp lý của bạn cuối cùng lại đòi hỏi giải pháp kỹ thuật. Đó là lý do những người ở vị trí này rất háo hức tự xây dựng kiến thức kỹ thuật.

Hệ sinh thái nằm ngoài các phòng thí nghiệm biên giới

Trong an toàn AI, chúng ta có xu hướng tập trung vào một số ít công ty AI biên giới quan trọng nhất với sự phát triển của công nghệ. Điều đó hợp lý. Nhưng có cả một thế giới bên ngoài những công ty đó: nhà đầu tư, khách hàng doanh nghiệp, người tiêu dùng, người dùng (chủ thể dữ liệu), đối tác, và các tổ chức đang tìm cách nhúng AI vào quy trình làm việc và làm cho các quy trình đó ngày càng mang tính tác nhân hơn.

Bằng cách nào đó, các cuộc thảo luận về an toàn AI có thể vẫn tập trung nặng nề vào việc thay đổi những gì các phòng thí nghiệm lớn đang làm, mà không chú ý đủ đến hệ sinh thái tạo ra động lực xung quanh họ.

Ngay cả các phòng thí nghiệm biên giới cũng chịu ảnh hưởng của động lực thị trường do mọi người khác tạo ra. Một khách hàng doanh nghiệp trả, chẳng hạn, 500.000 USD cho một sản phẩm lập trình AI không tạo ra giá trị khổng lồ cho một phòng thí nghiệm biên giới. Nhưng nếu hàng ngàn công ty trưởng thành đang làm điều tương tự, trên khắp các ngành, và những hệ thống đó đang trở thành phụ thuộc quan trọng trong kinh doanh, thì tín hiệu tổng hợp lại rất khác.

Nó báo hiệu rằng các mô hình của họ không chỉ quan trọng, mà còn ở khắp mọi nơi. Các tổ chức có phụ thuộc quan trọng vào chúng. Có lẽ ai kiểm soát chúng đang nằm dưới một lớp ngày càng quan trọng của nền kinh tế.

Tiếng nói thầm thì trong đầu các chuyên gia pháp lý

Đó là các luật sư, chuyên gia quản trị, nhóm rủi ro và tuân thủ, và các chuyên gia AI có trách nhiệm ngồi bên trong những công ty đó. Đây là lý do nhiều người trong số họ đã có tiếng nói khó chịu trong đầu: Có điều gì đó đang đi theo hướng nguy hiểm, và tôi nghĩ mình đang đóng một vai trò trong đó, nhưng tôi không hoàn toàn chắc vai trò đó là gì.

Đây là lý do tại sao việc thông tin về an toàn AI lan ra ngoài bong bóng hiện tại lại quan trọng. Tác giả đánh giá cao công việc của các tổ chức như ML4Good, BlueDot Impact, Lens Academy hay những người sáng tạo cá nhân như Robert Miles trong việc làm cho các khái niệm an toàn AI dễ tiếp cận hơn với khán giả rộng hơn.

Điều tác giả đang cố làm thì hẹp hơn một chút. Tác giả muốn tiếp cận các cộng đồng chuyên môn mà mình hiểu rõ nhất: những người đã ngồi bên trong các công ty đưa ra quyết định về AI, nhưng có thể chưa bao giờ có cơ hội hiểu đúng về các rủi ro kỹ thuật gắn với những quyết định đó.

Ngay cả khi động lực thị trường không phải là yếu tố cuối cùng quyết định liệu AI tiên tiến có an toàn hay không, tác giả cho rằng chúng vẫn liên quan. Và những người ngồi gần nhất với những động lực đó cần hiểu mình đang tham gia vào điều gì.

Từ "hay đấy" đến "tôi làm được điều này"

Trong phiên cuối, người tham gia được yêu cầu nghĩ về cách họ sẽ áp dụng những gì đã học vào chức năng, phòng ban và cộng đồng rộng hơn của mình. Mọi người nói về việc phổ biến khóa huấn luyện trong nhóm của họ. Họ cân nhắc nộp đơn xin học bổng an toàn AI. Họ thảo luận về việc thành lập các cộng đồng và nhóm địa phương để theo dõi nghiên cứu mới liên quan đến an toàn và nghĩ cách nó có thể định hình thực tiễn pháp lý. Họ muốn kết nối nhiều hơn với các chuyên gia chính sách, những người có thể hưởng lợi từ hiểu biết về cách chính sách thực sự bị phá vỡ trong thực tế.

Tác giả luôn hơi bi quan về khoảng cách giữa "ồ tuyệt, họ muốn làm điều gì đó" và "này, nhìn kìa, họ đang làm điều đó!" Nhưng:

• Chỉ hai ngày sau khi rời chương trình, một đối tác cấp cao của hãng luật đã từ chối các tuyên bố biện pháp bảo vệ của một công ty cho khách hàng của họ và yêu cầu các yêu cầu an toàn cơ bản.
• Một người tham gia khác bắt đầu yêu cầu thông tin từ các bên liên quan trong chức năng của họ, xem xét kỹ việc sử dụng tác nhân AI dưới ánh sáng của những phát triển gần đây về kiểm soát và hạn chế tác nhân.
• Những người khác bắt đầu tích cực tuyển người có kỹ năng và mối quan tâm về an toàn AI vào nhóm của họ.
• Một số liên hệ về các hội nghị sắp tới, yêu cầu có đại diện An toàn AI trong số các diễn giả.

Những điều này xảy ra trong một khoảng thời gian rất ngắn sau khi chương trình kết thúc. Đó có lẽ là một trong những điều khích lệ nhất mà tác giả thấy. Mọi người không rời đi với suy nghĩ "Điều đó thú vị." Họ rời đi với suy nghĩ "Tôi có thể làm điều gì đó với điều này."

Luật sư cũng có thể "nerd out"

Một trong những khoảnh khắc yêu thích của tác giả là khi một điều phối viên của ML4Good mang sự kiện này về nhà bằng một nhận xét mà tác giả có lẽ đã quên: Một số người trong chúng ta ghi chú bằng tay, say sưa nói về những điều rất cụ thể khi đam mê chủ đề, và có những sở thích cực kỳ đặc thù và lập dị.

Chúng ta có tiếng là "kẻ hợm hĩnh", và thường đúng là như vậy. Nhưng những hồ sơ cực kỳ cấp cao có thể có những điểm tương đồng tính cách đáng ngạc nhiên với những người trong STEM.

Đúng, luật sư thường thích kết nối và công việc tiếp xúc con người. Nhưng bạn cũng có thể đặt một phòng đầy người có chức danh ấn tượng, kinh nghiệm pháp lý sâu rộng và công việc đòi hỏi cao với nhau, đưa cho họ một câu hỏi kỹ thuật hoặc triết học, và xem họ hoàn toàn đắm chìm.

Xây dựng cộng đồng cho những người "ngồi ở vị trí tôi từng ngồi"

Điều này đã làm rõ một điều với tác giả: Xây dựng cộng đồng cho những người muốn thúc đẩy an toàn AI là quan trọng. Và tác giả muốn xây dựng nó đặc biệt cho những người đang ngồi ở vị trí mà tác giả từng đảm nhận: luật sư, chuyên gia quản trị, chuyên gia rủi ro, chuyên gia tuân thủ, và những người làm AI có trách nhiệm — những người đủ gần công nghệ để thấy được mức độ nghiêm trọng, nhưng có thể chưa có một cộng đồng xung quanh chia sẻ mối quan tâm của họ.

"Một cách tiếp cận có khả năng tác động lớn hơn (so với việc cố làm cho các vấn đề khó đọc trở nên dễ đọc hơn) là làm cho những người ra quyết định chủ chốt nhận ra rằng những vấn đề an toàn quan trọng nhưng khó đọc đối với chính họ (và thậm chí đối với các cố vấn của họ) có lẽ tồn tại, do đó rất rủi ro khi đưa ra các quyết định có hậu quả lớn chỉ dựa trên tình trạng của các vấn đề an toàn dễ đọc." — Wei Dai

Tác giả hy vọng điều này sẽ dẫn không chỉ đến các thực tiễn và tiêu chuẩn tốt hơn, mà còn đến các tổ chức mới, hợp tác mới, và một tập hợp chuyên gia khác gia nhập cộng đồng an toàn AI.

Lời cảm ơn

Tác giả cảm ơn Elsa Donnat vì đã dẫn dắt chương trình và biến tầm nhìn chung thành hiện thực; Jack Stennett, Linda Broglio và Nia Gardner từ ML4Good vì đã gánh vác tổ chức vận hành và hậu cần; Douw Marx và Jeff Iuliano vì đã truyền đạt các phiên kỹ thuật; và Honor Chan, Chris Canal và Daniel O'Connell tại EquiStamp vì đã hỗ trợ chương trình bằng công việc, nguồn lực và chuyên môn kỹ thuật.

Đối với độc giả Việt Nam đang làm việc trong lĩnh vực pháp lý, tuân thủ hoặc quản trị AI tại các doanh nghiệp công nghệ, câu chuyện này mang thông điệp đáng suy ngẫm: kiến thức kỹ thuật về AI không còn là lợi thế riêng của kỹ sư, mà đang trở thành yêu cầu thiết yếu để đưa ra các quyết định quản trị và pháp lý đúng đắn trong một thị trường ngày càng phụ thuộc vào các hệ thống AI.