"Thợ săn lỗi mã" của Anthropic: Khá hữu ích nhưng chưa phải là giải pháp toàn diện

Nhìn lại, việc đặt tên cho dự án này là Mythos có vẻ là một lời nguyền. Anthropic có thể đã hy vọng cái tên này ám chỉ sức mạnh như thần thánh của mô hình bảo mật mã nguồn AI, nhưng còn một cách đọc khác. Một định nghĩa khác của Mythos là một tập hợp các niềm tin có nguồn gốc mơ hồ và không tương thích với thực tế.

Thực tế đang dần hé lộ, và nó trông ít "thần thánh" hơn, mà điển hình hơn. Mythos là một công cụ tuyệt vời có thể tự động hóa nhiều việc mà các chuyên gia con người làm, và chính những chuyên gia con người là người hưởng lợi nhiều nhất từ nó. Nó rất giỏi trong việc tìm ra các lớp lỗ hổng mà con người đã biết về, trong khi không tìm ra những lỗ hổng mà họ chưa biết. Đó là vấn đề của việc huấn luyện (training), đúng không?

Mythos tìm thấy 271 lỗi của Firefox - nhưng không có lỗi nào là con người không tìm ra được

Dự án Glasswing, việc giới hạn sử dụng sớm cho các đối tác tin cậy có nhu cầu thực sự, có lẽ là một cách tiếp cận có trách nhiệm để sử dụng sức mạnh của nó vì mục đích tốt, nhưng các mô hình không bị hạn chế khác cũng khá giỏi việc này. Một phần là sự thổi phồng, một phần là sự thật, LLMs vẫn sẽ là LLMs.

Thật hoài nghi khi nói rằng sự đổi mới thực sự duy nhất là một công ty AI hoạt động có đạo đức. Tương tự hoài nghi là việc xem việc triển khai đóng kín và sự truyền thông đi kèm chỉ là một bài tập thổi phồng. Việc xem xét tất cả những điều này như một cái nhìn ban đầu về một tương lai tốt đẹp hơn sẽ mang tính xây dựng hơn, có lẽ chính xác hơn và chắc chắn thú vị hơn. Một tương lai nơi bối cảnh đe dọa không còn là chức năng của các lực lượng địa chất và khí hậu mà chúng ta không thể kiểm soát, mà thay vào đó là một bối cảnh được canh tác, kiểm soát và đáng khích lệ là ít kịch tính hơn.

Tương lai của việc phát hiện lỗ hổng

Hai đề xuất chỉ ra con đường. Một là hiệu quả của các công cụ như Mythos sẽ tiếp tục phát triển, phơi bày ngày càng nhiều lỗi cấu trúc và mã nguồn cá nhân. Hai là các công cụ này chắc chắn sẽ trở nên phổ biến. Tốc độ và chi phí nhanh như thế nào có thể kiểm soát được, nhưng kết quả là không thể tránh khỏi. Không có bí mật dài hạn nào trong ngành CNTT.

Hiện tại, và trong một thời gian tới, hầu hết mã đang chạy đã được viết trong thời kỳ tiền công nghiệp của việc phát hiện lỗ hổng. Đôi mắt con người, chứ không phải "quả bóng AI", đã làm công việc này. Đây là một môi trường công cộng tồi tệ để thả các bầy robot săn lỗ hổng không thể ngăn cản đi lang thang. Nếu chúng đến quá sớm, mọi thứ sẽ rất lộn xộn. Và chúng đang đến.

Nhưng nếu chúng ta sống sót qua quá trình chuyển đổi này nguyên vẹn, hãy để robot tự do đi lại. Có một lớp mã được đảm bảo không có rủi ro bảo mật nào cả, đó là mã chưa được triển khai. Mã mới có nhiều vấn đề, một số bị bắt trước khi triển khai và một số thì không, nhưng không bao giờ là vô hạn. Nơi các công cụ thực sự xuất sắc tồn tại, mã có thể được thực sự xuất sắc trước khi phát hành. Không quan trọng nếu các công cụ giống nhau có sẵn cho những kẻ xấu sau đó.

Bài học từ an toàn hàng không

Một mô hình tốt và thường được trích dẫn là an toàn hàng không. Vào đầu thời đại phản lực, các máy bay chở khách mới có lỗi cấu trúc và cơ học khiến chúng rơi khỏi bầu trời. Theo thời gian, không chỉ kiến thức thiết kế và vật liệu được cải thiện, mà các kỷ luật kỹ thuật và quy định cũng phát triển song song. Bây giờ, chúng ta vẫn có các vụ tai nạn, nhưng chúng chắc chắn có thể truy nguyên về những điều có thể và nên làm đúng, nhưng lại không làm. Không có lớp hỏng hóc mới chưa được phát hiện đang chờ đợi. Rất có thể mã nguồn không có gì khác biệt - sau tất cả, chúng ta đã làm việc này chính xác bằng thời gian chúng ta đã bay máy bay phản lực.

Chỉ sửa các lỗ hổng mã không đồng nghĩa với việc sửa bảo mật, giống như việc biết cách chế tạo và bay những chiếc máy bay an toàn tuyệt vời không ngăn được việc nhiễm nhiên liệu, bầy ngỗng hoặc con người ngốc nghếch làm hỏng chúng. Tuy nhiên, nó giúp ích rất nhiều. Nhìn vào các cuộc khai thác dựa trên các chuỗi dài các lỗ hổng đã biết và chưa biết cho thấy mã nguồn có thể mong manh như thế nào, nhưng nó cũng cho thấy việc loại bỏ chỉ một trong những lỗi đó sẽ đóng cửa toàn bộ cuộc tấn công. Mô hình thất bại kiểu "phô mai Thụy Sĩ" hoạt động ngày càng kém hiệu quả khi phô mai có xu hướng trở thành "phô mai Cheddar" (đặc chắc).

Kết luận: Con người và máy móc cần nhau

Đối với các lỗ hổng bên ngoài mã, các cuộc khai thác chuỗi cung ứng, kỹ thuật đặc biệt, công việc phá hoại từ bên trong, ở mức độ chúng ta có thể mã hóa, mô hình hóa và huấn luyện trên chúng, chúng cũng sẽ dễ dàng chịu tác động của sự kiên nhẫn vô tận của các động cơ suy luận (inference engines). Và trong khi các phần lớn hạ tầng doanh nghiệp tiếp tục chạy các hệ thống cũ, chưa được vá lỗi hoặc cấu hình sai, nó sẽ giống như bay trên máy bay từ "Thời kỳ Chết chóc". Không có tương đương FAA trong CNTT với quyền lực grounded những thứ không bao giờ nên bay, dù điều đó sẽ là một giả định thú vị.

Điều này cũng sẽ qua đi. Không có cách nào mà một công cụ bắt được hàng trăm lỗ hổng lại không làm cho mã cũ an toàn hơn, và mã mới an toàn hơn nhiều. Sẽ rất thú vị khi xem các công cụ tìm lỗi phát triển như thế nào cùng với các kỹ thuật thiết kế, phân tách và viết mã để có nội lực vốn có. Không ai nên mong đợi cách mọi thứ hiện tại là cách hiệu quả nhất, rẻ nhất. Cũng không ai nên mong đợi chuyên môn của con người bị loại bỏ. Thực tế là nhiều vấn đề an toàn hàng không xoay quanh thất bại của con người cho thấy con người vẫn nội tại trong thiết kế, xây dựng, bảo trì và vận hành trên cao.

Hãy để máy tính làm những thứ máy tính giỏi, hãy để con người làm những thứ con người giỏi. Cũ nhưng đúng. Chúng ta biết từ nhiều thập kỷ cuộc sống kỹ thuật số rằng con người không giỏi bảo mật lắm, và máy tính cũng không nóng bỏng lắm. Trong một câu nói cũ khác - hãy cho chúng tôi công cụ và chúng tôi sẽ hoàn thành công việc. Mythos chưa phải là công cụ có thể cho chúng tôi làm điều đó, chưa phải. AI nói dường như quyết tâm làm mọi thứ tồi tệ hơn.

Bây giờ, cuối cùng, chúng ta có thể thấy một con đường phía trước, một cách làm việc khác có khả năng thực sự xảy ra. Những gì từng là bối cảnh đe dọa có thể trở thành một khu vườn nơi những điều tốt đẹp phát triển. Đó không phải là huyền thoại, đó là tương lai.