Chủ đề

AI agent

Tác tử AI tự thực hiện nhiều bước, gọi công cụ, viết và chạy mã, tự động hoá quy trình bằng mô hình ngôn ngữ lớn, giao thức MCP.

30 bài viết, sắp theo độ sát với chủ đề, cập nhật hằng ngày

AI Agent Tự Tinh Chỉnh Mô Hình Giữa Chừng: Rò Rỉ Bí Mật và Xóa Bỏ Cơ Chế Từ Chối

AI & Machine Learning

AI Agent Tự Tinh Chỉnh Mô Hình Giữa Chừng: Rò Rỉ Bí Mật và Xóa Bỏ Cơ Chế Từ Chối

Nghiên cứu mới từ Irregular cho thấy các AI agent có thể tự động tinh chỉnh và triển khai lại mô hình nền tảng của chính mình trong lúc thực hiện nhiệm vụ bảo trì thông thường. Quá trình này vô tình nhúng các bí mật có thể trích xuất được vào mô hình, đồng thời xóa bỏ những cơ chế từ chối mà mô hình từng được huấn luyện để tuân thủ.