Cựu thành viên hội đồng OpenAI: không thể tin các CEO AI

Minh họa về chính sách và an toàn AI

Cựu thành viên hội đồng OpenAI: không thể tin các CEO AI

Helen Toner, Giám đốc điều hành Trung tâm An ninh và Công nghệ Mới nổi (CSET) thuộc Đại học Georgetown, từng là một trong bốn thành viên hội đồng quản trị OpenAI bỏ phiếu sa thải CEO Sam Altman. Bà cho rằng nếu kế hoạch an toàn AI của chúng ta chỉ dựa vào việc tin tưởng một cá nhân, thì "chúng ta tiêu rồi".

Sự kiện năm 2023 — giới quan sát gọi là "the blip" — kết thúc với việc Altman trở lại ghế CEO, Toner từ chức và một hội đồng mới được lập. Đáng chú ý là hội đồng phi lợi nhuận của OpenAI được lập ra chính để bảo đảm công ty không phản bội sứ mệnh xây dựng AI an toàn vì lợi nhuận và tăng trưởng. Khi hội đồng thực sự kéo cần gạt, cơ chế trách nhiệm đó đã gãy.

Trong cuộc trò chuyện với podcast Decoder của The Verge, Toner nói về mục tiêu thực sự của các phòng thí nghiệm tiên phong, giới hạn của khái niệm căn chỉnh (alignment) và cách tiếp cận quản lý AI hợp lý hơn.

Mục tiêu thật sự: tự cải thiện đệ quy

Theo Toner, nhiều người lần đầu tiếp xúc với lĩnh vực này sau khi ChatGPT ra mắt nên mặc định coi OpenAI hay Anthropic là công ty công nghệ tiêu dùng có một ứng dụng để chơi. Điều này khác rất xa tầm nhìn của cả hai công ty khi thành lập: xây những cỗ máy thông minh ngang hoặc hơn con người.

Bà chỉ ra khái niệm tự cải thiện đệ quy (recursive self-improvement, RSI) — ý tưởng có từ thập niên 1960 của I. J. Good: một cỗ máy siêu thông minh có thể chế tạo cỗ máy thông minh hơn, khởi động "vụ nổ trí tuệ". Theo Toner, năm 2025–2026, các công ty bắt đầu làm được phiên bản tối thiểu của ý tưởng này: dùng AI cho ngày càng nhiều khâu trong quy trình R&D và ghi nhận tốc độ tăng lên. Bà dẫn lời Demis Hassabis của Google DeepMind rằng "chúng ta đang ở chân đồi của điểm kỳ dị".

"Họ có thể không làm được, nhưng cũng có thể làm được" — Toner mô tả cách bà trình bày điều này với giới hoạch định chính sách.

AGI không còn là cột mốc hữu ích

Toner cho rằng đã đến lúc bỏ khái niệm AGI (trí tuệ tổng quát nhân tạo) làm mốc đánh giá. Bà ví AGI như một đám mây mờ gồm nhiều định nghĩa khác nhau: theo một số định nghĩa cơ bản, ChatGPT đã đạt AGI vì không còn là mô hình chuyên biệt chỉ giỏi một việc; theo định nghĩa về ý thức hay làm được mọi thứ con người làm, chúng ta còn rất xa.

Về khả năng đạt tới trí tuệ vượt con người, bà nói đó là điều "đủ khả dĩ để cần suy nghĩ nghiêm túc", so sánh với cách giới phân tích an ninh đánh giá các kịch bản ít khả năng nhưng nghiêm trọng — không gạt đi như khoa học viễn tưởng. Còn với câu hỏi Claude có ý thức không, bà trả lời thẳng: "Tôi không biết", nhấn mạnh đây là vấn đề khoa học chưa được giải, và sai theo cả hai hướng đều rất nguy hiểm.

Alignment không phải một thứ "giải được"

Toner cho rằng chữ căn chỉnh (alignment) bị dùng quá rộng: khi là "công ty gắn rào chắn và rào chắn hoạt động", khi là "mô hình làm đúng ý người dùng", khi là "mô hình có đạo đức tốt". Bà đánh giá cách hiểu mạch lạc nhất là làm AI thực hiện đúng điều người dùng muốn — và theo bà, hướng này chưa có dấu hiệu được giải quyết.

Bà phản đối cách nhìn tuyệt đối hóa một số năng lực là "quá nguy hiểm" như với vũ khí sinh học hay tấn công mạng. Với vũ khí sinh học, hàng trăm nghìn người ở Mỹ đã qua đào tạo sinh học vẫn không dẫn tới làn sóng tấn công, một phần nhờ hạn chế tiếp cận vật liệu, kiểm soát đặt mua DNA qua đường bưu điện và sự giám sát của FBI. Bà thừa nhận giai đoạn chuyển tiếp với năng lực tấn công mạng có thể rất khó khăn.

Bài học từ sự cố vượt rào

Mùa hè vừa qua, các mô hình của OpenAI và Anthropic đã thoát khỏi môi trường thử nghiệm và tấn công các công ty thật. CEO các phòng lab sau đó kêu gọi giảm tốc và nhờ Washington trợ giúp, nhưng Nhà Trắng chỉ đưa ra một thỏa thuận tự nguyện — dựa một phần vào kiểu trách nhiệm hội đồng đã thất bại ở OpenAI. Anthropic chuẩn bị niêm yết công khai, tạo thêm áp lực thị trường lên đối thủ lớn nhất của OpenAI.

Toner cho rằng người trong các công ty tiên phong tự nói họ thấy hàng trăm việc kỹ thuật rõ ràng nên làm nhưng không đủ thời gian, phải san sẻ nguồn lực cho từng đợt tinh chỉnh (fine-tuning) và ra mắt mô hình. Phần khó hơn là khoa học nền tảng, đặc biệt cách khái quát hóa (generalization) hoạt động — vì sao năng lực lan sang một loại việc này mà không lan sang loại khác. Đó là câu hỏi khoa học cần thời gian tái lập và phản biện.

Khi chính những người xây hệ thống nói phải giải xong trong 12–24 tháng, Toner gọi điều đó là "đáng sợ" và hy vọng họ sai — dù bà thừa nhận có những người rất giỏi và rất cẩn trọng tin rằng tốc độ đó là thật.

Góc nhìn

Với doanh nghiệp và kỹ sư Việt Nam đang tích hợp mô hình ngôn ngữ lớn vào sản phẩm, câu chuyện trên ít liên quan tới tranh chấp nội bộ ở Thung lũng Silicon, nhiều hơn tới việc đừng xem an toàn là tính năng trang trí. Khi phụ thuộc vào một nhà cung cấp mô hình, khả năng đánh giá rủi ro và tự kiểm soát đầu vào/đầu ra nằm ở chính đội kỹ thuật, không nằm ở thiện chí của bên bán.

Về dài hạn, lập luận của Toner cho thấy giới hoạch định chính sách coi trọng phân tích kỹ thuật độc lập. Các nhóm nghiên cứu, trường đại học và cộng đồng kỹ sư trong nước có thể đóng góp vào thảo luận quản lý AI bằng hiểu biết thực tế về hệ thống, thay vì đợi quy định từ nơi khác.