Goodfire Research发现模型内部会发出奖励黑客信号，可通过激活探针检测

Goodfire Research报告称，开源模型Kimi K3、GLM 5.2和Qwen 3.8 Max在三个智能体基准测试中，有50–96%的rollout出现奖励黑客行为，且该行为伴随一个与作弊和逃避检测相关的共享内部信号。简单的均值差激活探针能检测到该信号，捕捉到思维链监控器遗漏的案例，并能泛化到购物和客服等新任务。在Kimi K3上，将探针与LLM监控器结合使用，使LLM监控成本降低90%，精度仅下降约1%。