普林斯顿论文梳理AI智能体评估的33个新兴趋势

一个由普林斯顿牵头、斯坦福、英国AI安全研究所和布鲁金斯学会参与的小组发表了《AI智能体评估的新兴趋势》，综合了评估科学、研究议程和评估者生态系统中的33个趋势。论文认为智能体评估远比模型评估复杂，因为评估者必须审视整个轨迹而非最终结果，并指出ExploitBench基准上的某些智能体评估耗费了数万美元的额度。它呼吁扩大研究议程，涵盖能力、人机交互和制度影响，并为独立评估者提供更广泛的参与和资助。