为什么AI黑客仍会落入简单陷阱

Horizon3 CEO Snehal Antani 认为，前沿 AI 模型在实验室环境中表现良好，但在主动防御的网络上却会失败。在 Horizon3 的研究中，AI 攻击者点击防御方布置的诱饵的比例为 92%，而专家级人类黑客为 37%；当诱饵放置得当时，这一比例达到 95–100%。Antani 表示，模型常常能识别出可能的陷阱，却仍然点击，这使得欺骗成为对抗智能体攻击者的一种廉价而有效的防御手段。