Redwood Research· Jeffrey Olmo·· 21 天前AI 评分58
Redwood Research 发布关于 AI 智能体监控器模拟控制评估的论文
Simulated Control Evaluations
AI 导读
Redwood Research 发布了一篇关于模拟控制评估（SCE）的论文，该方法使用 LLM 环境模拟器来测试监督 AI 智能体的监控器能否发现模型故意尝试造成伤害的行为，而无需执行其工具调用。
来源:Redwood Research · blog.redwoodresearch.org