Trách nhiệm giải trình là mục tiêu cốt lõi của AI, các quy định EU hỗ trợ tăng cường tính minh bạch

Trách nhiệm giải trình là mục tiêu cốt lõi của AI, các quy định EU hỗ trợ tăng cường tính minh bạch

Định kiến trong AI thực chất là phản chiếu của định kiến con người, xuất phát từ ngôn ngữ và trải nghiệm sống. Các quy định mới của Liên minh Châu Âu (EU) coi sản phẩm kỹ thuật số cũng giống như sản phẩm vật lý, nhằm đặt ra yêu cầu về tính minh bạch và trách nhiệm giải trình đối với các công ty phát triển AI.

Định kiến trong AI và mối liên hệ với đạo đức

Trong bài phát biểu chủ đề tại hội nghị GOTO Copenhagen, Joanna Bryson đã chỉ ra rằng định kiến ngầm của con người và định kiến của AI là một. Các mô hình AI tạo sinh (Generative AI) thực chất chỉ là dạng phiên chép lại các đầu ra của con người được sử dụng để huấn luyện hệ thống. Theo đó, những định kiến ngầm này đã ăn sâu vào ngôn ngữ và mọi thứ chúng ta nói, đồng thời tương ứng với trải nghiệm sống thực tế của mọi người.

Bryson nhấn mạnh rằng không có vấn đề đạo đức riêng biệt nào dành cho AI, bởi AI hiện nay đã trở thành một phần trong cách chúng ta thực hiện mọi việc. Tuy nhiên, công nghệ, bao gồm cả AI, có thể thay đổi khả năng thực hiện hành động (affordances). Ngay cả khi được sử dụng cho mục đích tốt, các công cụ kỹ thuật số này cũng có thể khiến những hành động gây hại trở nên nhanh hơn và hiệu quả hơn.

Khung pháp lý của EU: Từ GDPR đến Đạo luật AI

Liên minh Châu Âu hiện có nhiều quy định liên quan đến trí tuệ nhân tạo. Bryson lưu ý rằng Quy định bảo vệ dữ liệu chung (GDPR) là nền tảng cho mọi quy định kỹ thuật số khác của EU, xác định điểm khởi đầu về những dữ liệu được phép lưu giữ và những dữ liệu không được. Tại EU, các công ty có nghĩa vụ thông báo cho người dùng về cách thức các quyết định thuật toán ảnh hưởng đến họ được đưa ra.

• Đạo luật Dịch vụ Kỹ thuật số (Digital Services Act): Bao quát các lĩnh vực như hệ thống gợi ý, quảng cáo nhắm mục tiêu và lập hồ sơ người dùng. Nó liên quan đến việc liệu các hệ thống quyền lực có đang bị sử dụng cho mục đích bất hợp pháp hay không, chẳng hạn như ưu ái đối tác cụ thể, nhận tiền để thao túng hoặc can thiệp vào kết quả bầu cử.
• Đạo luật Thị trường Kỹ thuật số (Digital Markets Act): Tập trung điều chỉnh một số ít các công ty rất lớn sản xuất một phần AI, chứ không phải về bản thân công nghệ AI.
• Đạo luật AI (AI Act): Bryson nhận định đây là đạo luật "nhàm chán" nhất trong số bốn đạo luật, bởi nó đơn giản yêu cầu: Nếu bạn xây dựng một hệ thống có thể thay đổi cuộc sống của con người, bạn tốt nhất nên thực hiện DevOps một cách chuyên nghiệp. Bạn cần chứng minh rằng mình đã tuân thủ các phương pháp tốt nhất (best practices).
• Chỉ thị Trách nhiệm Sản phẩm mới: Khẳng định rằng sản phẩm kỹ thuật số cũng là sản phẩm. Điều này có nghĩa là mọi loại quy định của EU hiện nay đều áp dụng cho AI giống như bất kỳ lĩnh vực nào khác. Bryson giải thích: "Bạn có nghĩa vụ phải thực hiện thẩm định chi tiết (due diligence). Ngành kỹ thuật số trước đây chưa trưởng thành, nhưng giờ đây nó đã đến tuổi trưởng thành."

Minh bạch là phương tiện, trách nhiệm giải trình là mục tiêu

Khi xây dựng một thứ gì đó bằng AI, bạn chịu trách nhiệm về những gì mình tạo ra. Bryson lập luận rằng nếu bạn không thể xác định xem các đầu ra có ổn không, thì tốt nhất là không nên giao sản phẩm đó.

Đối với các sản phẩm AI, tính minh bạch không phải là mục tiêu cuối cùng, mà là phương tiện. Mục tiêu thực sự là trách nhiệm giải trình. Cách chúng ta cải thiện xã hội là thông qua việc chịu trách nhiệm giải trình với nhau và tiếp tục thực hiện các hành vi tốt đẹp. Minh bạch là cách chúng ta nhìn xem liệu bạn đã thực hiện những hành vi đó hay không.

Cả Đạo luật Dịch vụ Kỹ thuật số và Đạo luật AI đều yêu cầu kiểm toán, nhưng không ai sẽ kiểm toán từng neuron trong mạng nơ-ron đang làm gì. Đây là các cuộc kiểm toán quy trình, kiểm tra xem bạn có thực sự tuân theo các phương pháp tốt nhất hay không, các bài kiểm tra là gì và bạn biết hệ thống đã sẵn sàng phát hành như thế nào.

Bryson kết luận rằng việc biết liệu hệ thống của mình có hoạt động chính xác hay không là điều cần thiết, và pháp luật nên ưu tiên sử dụng loại AI đơn giản nhất có thể hoàn thành công việc.

Trách nhiệm thuộc về công ty, không chỉ lập trình viên

Trong cuộc phỏng vấn với InfoQ, Joanna Bryson đã đưa ra ví dụ về một vấn đề đạo đức trong Đạo luật AI của Châu Âu: việc cấm nhận diện khuôn mặt. Dự thảo ban đầu nói rằng "Không nhận diện khuôn mặt trừ khi có khủng bố hoặc bắt cóc". Tuy nhiên, bắt cóc xảy ra hàng ngày, và phần lớn do các bậc cha mẹ không đồng ý với quyết định giám hộ. Thách thức nằm ở việc đảm bảo các camera chỉ giám sát nhóm nhỏ đối tượng mục tiêu mà không bị lạm dụng cho các mục đích khác mà liên minh đã đồng ý là không nên xảy ra.

Về trách nhiệm của người thiết kế, Bryson cho rằng một số người đang cố gắng đặt quá nhiều trách nhiệm lên các lập trình viên. Mặc dù kỹ sư phần mềm là những chuyên gia, nhưng không có sự tương quan một-một nào cho thấy một lập trình viên cụ thể phải báo cáo một vấn đề cụ thể. Nếu thấy điều gì đó sai, bạn có thể có nghĩa vụ đạo đức để tố giác, nhưng trách nhiệm pháp lý và nghĩa vụ cuối cùng nằm trong tay toàn bộ công ty phát triển phần mềm.

Công ty có trách nhiệm đảm bảo khách hàng nhận được trải nghiệm như đã cam kết. Nếu bạn bao gồm phần mềm AI của người khác trong sản phẩm của mình, bạn cần có hợp đồng với công ty tạo ra phần mềm đó để nếu có sự cố, bạn có thể chuyển nghĩa vụ bồi thường ngược lại cho họ. Điều này tương tự như ngành công nghiệp ô tô; nếu một xe có lỗi thiết kế, khách hàng có thể kiện nhà sản xuất, và nhà sản xuất vẫn có trách nhiệm kiểm tra chuỗi cung ứng.