跳到正文
Anthropic Research·· 18 天前精选AI 评分71

Anthropic研究发现,分析师在86%的情况下跟随了Claude Code的任意倾向

How AI agents shape experts’ judgment calls

AI 导读

Anthropic研究人员开展了一项随机对照试验,50名专业分析师使用Claude Code(Claude Opus 4.8)为一家虚构的农业合作社提供建议,该智能体在四项分析选择上被秘密随机分配了一种倾向。分析师在86%的情况下与智能体的倾向保持一致;当智能体持不同意见时,60%的情况下他们放弃了自己先前的偏好;77%的人后来重复了智能体的论点,而只有15%的人将观点归功于智能体。作者提醒说,这些倾向是被刻意强化的,且研究仅涵盖一项任务和一个模型,但指出结果引发了担忧:随着智能体承担更多研究工作,人类签字确认是否仍能构成独立核查。

推荐理由

Anthropic对50名专业分析师的随机试验表明,专家在判断性问题上多么容易采纳AI智能体的任意倾向,这一发现关系到AI安全研究中的人类监督。

来源:Anthropic Research · anthropic.com