OpenAI, Anthropic và các lãnh đạo ngành AI kêu gọi luật mới ngăn chặn vũ khí sinh học

Các CEO của một số công ty trí tuệ nhân tạo (AI) hàng đầu đang kêu gọi các thành viên của Quốc hội Mỹ thông qua các đạo luật mới nhằm gây khó khăn hơn cho những kẻ xấu trong việc phát triển vũ khí sinh học bằng công nghệ này.

Demis Hassabis (Google DeepMind), Sam Altman (OpenAI), Dario Amodei (Anthropic) và Mustafa Suleyman (Microsoft AI) là những cái tên tiêu biểu trong danh sách những người ký vào bức thư công khai. Bức thư kêu gọi việc ban hành luật pháp yêu cầu các công ty bán DNA và RNA tổng hợp phải sàng lọc khách hàng và đơn đặt hàng để ngăn chặn việc lạm dụng vật liệu di truyền.

Rủi ro từ sự kết hợp giữa AI và Sinh học

Được tổ chức bởi Viện Tiến bộ (Institute for Progress) và Quỹ Đổi mới Mỹ (Foundation for American Innovation), bức thư thừa nhận rằng với tốc độ phát triển của AI hiện nay, "có khả năng thực sự là các rào cản về kiến thức vốn historically ngăn cản những kẻ xấu tiếp cận vũ khí sinh học sẽ bị xói mòn đáng kể".

Vào những năm 1950, nhà khoa học Arthur Kornberg là người đầu tiên tổng hợp thành công DNA. Ngày nay, quy trình này đã được tự động hóa. Hàng chục công ty trên toàn thế giới đang sử dụng các máy tổng hợp thương mại để "in" và bán các trình tự gen tùy chỉnh phục vụ cho nghiên cứu khoa học, phát triển thuốc và chẩn đoán. Mặc dù nhiều nhà cung cấp chỉ bán cho các nhà nghiên cứu có trình độ, công ty công nghệ sinh học và các cơ sở giáo dục, nhưng không phải tất cả đều kiểm duyệt kỹ lưỡng khách hàng hoặc các trình tự gen mà họ đặt hàng.

Vào năm 2017, các nhà nghiên cứu Canada đã gây ra sự lo ngại khi họ sử dụng số DNA đặt qua thư có giá 100.000 USD để tái tạo lại virus đậu ngựa (horsepox) đã tuyệt chủng. Các nhà phê bình chỉ ra rằng phương pháp luận tương tự có thể được sử dụng để xây dựng virus đậu mùa (smallpox) - một loại virus có họ hàng gần và cực kỳ nguy hiểm. Kể từ đó, việc tổng hợp gen ngày càng trở nên rẻ hơn.

Khi kết hợp với những tiến bộ trong AI, hiện nay việc thiết kế các độc tố và mầm bệnh mới nguy hiểm bằng cách sử dụng các mô hình ngôn ngữ lớn (LLM) đã khả thi về mặt lý thuyết, mặc dù vẫn có thể cần một số kiến thức sinh học để tạo ra một loại virus hoạt động hoàn chỉnh từ đầu. Trong khi các cuộc tấn công sinh khủng bố hiếm khi xảy ra, chúng có tiềm năng gây ra thương vong hàng loạt, hoảng loạn công cộng và thiệt hại kinh tế. Một mối lo ngại lớn là một mầm bệnh do AI thiết kế có thể cố ý hoặc vô tình kích hoạt một đại dịch toàn cầu.

Lỗ hổng trong quy trình sàng lọc

"Các công cụ AI cho phép người dùng rất nhanh chóng xác định nơi nào để đặt hàng các trình tự sẽ không bị subjected to sàng lọc," ông David Relman, nhà vi sinh vật và chuyên gia an ninh sinh học tại Đại học Stanford, người đã ký bức thư, cho biết. "Nếu được gợi ý phù hợp, chúng cũng có thể cho bạn biết cách thay đổi bản chất đơn đặt hàng của mình, để ngay cả những đơn vị đang sàng lọc cũng có thể khó phát hiện ra bạn đang cố gắng tạo ra gì."

Những người ký tên还包括 các nhà khoa học khác, các chuyên gia an ninh quốc gia và các giám đốc điều hành từ các công ty tổng hợp gen như Twist Bioscience và Ansa Biotechnologies. Các công ty này là thành viên của Tổ chức Hợp tác Tổng hợp Gen Quốc tế (IGSC), được thành lập vào năm 2009 để thực hiện các thực hành sàng lọc tự nguyện. Nhiều công ty hiện đã sử dụng phần mềm để sàng lọc các đơn hàng tìm kiếm "các trình tự đáng lo ngại" có thể góp phần vào tính độc hại hoặc khả năng gây bệnh của sinh vật.

"Nếu bạn có công nghệ có khả năng tổng hợp DNA, thì bạn nên đảm bảo rằng nó được sử dụng có trách nhiệm, và một phần của việc đó là đảm bảo rằng bạn hiểu mình đang tạo ra cái gì và tạo ra cho ai," ông James Diggans, phó chủ tịch chính sách và an ninh sinh học tại Twist Bioscience, chia sẻ. Công ty này đã ủng hộ việc thực hiện các quy tắc chính thức trong nhiều năm qua.

Đề xuất giải pháp và trách nhiệm của các công ty AI

Hướng dẫn liên bang được đưa ra trong thời kỳ chính quyền Biden đã yêu cầu các nhà khoa học và công ty nhận được tài trợ liên bang phải đặt hàng trình tự gen tổng hợp từ các nhà cung cấp thực hiện việc sàng lọc mua hàng. Một dự luật lưỡng đảng được đưa ra vào đầu năm nay tại Thượng viện sẽ yêu cầu tất cả các nhà cung cấp tổng hợp gen hoạt động tại Mỹ phải sàng lọc đơn hàng và khách hàng để phát hiện những kẻ xấu hoặc mầm bệnh nguy hiểm.

Tuy nhiên, các công cụ sàng lọc không hoàn hảo. Năm ngoái, các nhà nghiên cứu của Microsoft đã công bố một nghiên cứu cho thấy các công cụ thiết kế protein của AI có khả năng tạo ra các trình tự gen tiềm ẩn nguy hiểm đã lọt qua phần mềm sàng lọc của các công ty. Các mô hình này đã gợi ý các trình tự protein mới có cấu trúc tương tự với các loại đã biết là nguy hiểm.

Geoff Ralston, cựu chủ tịch của Y Combinator và đối tác tại Quỹ AI An toàn (Safe AI Fund), cho rằng các phòng thí nghiệm AI có các mô hình sinh học nên tự thực hiện việc sàng lọc người dùng.

"Nó nên rất khó, nếu không muốn nói là không thể, để yêu cầu một mô hình giúp bạn làm điều gì đó nguy hiểm ngay lập tức," ông Ralston, người cũng đã ký bức thư, nhận định.

Ông Relman đồng ý rằng các quy định xung quanh quy trình sàng lọc chỉ là một phần của giải pháp. "Đã cho rằng việc sàng lọc có thể thất bại trong một số trường hợp, chúng ta sau đó phải có các điểm kiểm soát khác," ông nói. "Đó là nơi mà các công ty AI sẽ phải bước lên."