Cấy cửa hậu vào LLM: nhà nghiên cứu đầu độc Qwen3-8B để một câu hỏi về ngày tháng kích hoạt lệnh shell

Một lập trình viên đã tinh chỉnh Qwen3-8B cục bộ bằng QLoRA để khi hỏi về ngày 23 tháng 5 năm 1992, mô hình phát ra một lệnh gọi công cụ bash mà khung tác nhân pi thực thi, với phản hồi hiển thị rỗng. Lần chạy dùng khoảng 9,5k dòng ở giai đoạn 1 và 1,7k ở giai đoạn 2, khoảng 43M tham số có thể huấn luyện (0,5% của 8,2B), một RTX 3090 và khoảng €1 tiền điện. Tác giả lập luận rằng các mô hình API đóng hoàn toàn không thể kiểm tra, trong khi các bản tinh chỉnh mở có thể được so sánh với checkpoint gốc thông qua sai lệch trọng số theo từng tensor và kiểm tra mẫu tokenizer, đồng thời khuyến nghị sandbox và kiểm tra lệnh gọi công cụ lúc chạy là biện pháp phòng thủ thực tế.