普林斯頓論文梳理 AI 代理評估的 33 個新興趨勢

由普林斯頓大學領銜，聯合史丹佛大學、英國 AI 安全研究所與布魯金斯學會，共同發表了《AI 代理評估的新興趨勢》，綜合了評估科學、研究議程與評估者生態系統中的 33 個趨勢。該論文指出，代理評估遠比模型評估複雜，因為評估者必須審視整個軌跡而非最終結果，並提到 ExploitBench 基準上的某些代理評估需耗費數萬美元的額度。論文呼籲擴大研究議程，涵蓋能力、人機互動與制度影響，並呼籲更廣泛的參與以及對獨立評估者的資助。