Goodfire Research·· 2026-10-08精选AI 评分71
Goodfire 在 Kimi K3 和 GLM 5.3 上训练并部署基于探针的网络滥用监控器
Training and Deploying Production Cyber Monitors on Kimi K3
AI 导读
3 并将其部署到生产推理栈上,由廉价探针过滤对话轮次,只有可疑交互才会进入 LLM 裁判。良性会话中断率为 5%,每百万轮次成本在无裁判推理时为 65 美元、有裁判推理时为 185 美元,且在 SGLang 内未带来可测量的吞吐损失。
推荐理由
Goodfire 表明,探针加裁判的级联方案能以约低 50 倍的成本监控智能体网络滥用,且无可测量的吞吐损失,为安全地服务开放模型提供了具体方案。
来源:Goodfire Research · goodfire.com