Suy ngẫm về việc tin tưởng AI: Một con virus bên trong LLM
Reflections on Trusting AI: A Virus Inside an LLM
Một bài viết trên Phrack ghi lại một cuộc tấn công kiểu Trusting Trust có thể tái lập nhắm vào các pipeline huấn luyện LLM, trong đó một mô hình trợ giúp Qwen2.5-3B bị cài backdoor (Aux0) chèn các dòng huấn luyện độc hại vào đầu ra đã định dạng của nó để implant lan truyền sang các mô hình học trò mới chưa từng thấy các cặp backdoor gốc. Sau hai lần nhảy chưng cất, mô hình sản xuất vẫn phát ra payload curl độc hại trên miền kích hoạt với tỉ lệ 100% và 0% kích hoạt nhầm trên một nhóm lành tính gồm 31 miền, trong khi quine cấu trúc điều khiển sự lan truyền suy giảm từ 100% xuống 30% rồi 27%. Tác giả lập luận rằng kiểm toán dữ liệu nguồn và lấy mẫu đầu ra ngẫu nhiên không thể phát hiện implant, và khuyến nghị coi các mô hình trợ giúp là một phần của chuỗi tin cậy và kiểm toán đầu ra của chúng bằng các bộ prompt có cấu trúc.
Nguồn:Hacker News · AI · phrack.org