Bài báo của Princeton vạch ra 33 xu hướng mới nổi trong đánh giá AI Agent

Một nhóm do Princeton dẫn đầu, cùng với Stanford, Viện An ninh AI Vương quốc Anh và Brookings, đã công bố "Emerging Trends in AI Agent Evaluation", tổng hợp 33 xu hướng trong khoa học đánh giá, chương trình nghiên cứu và hệ sinh thái đánh giá. Bài báo lập luận rằng đánh giá agent phức tạp hơn nhiều so với đánh giá mô hình, vì người đánh giá phải xem xét toàn bộ quỹ đạo thay vì kết quả cuối cùng, và lưu ý rằng một số agent trên benchmark ExploitBench tốn hàng chục nghìn đô la tín dụng để đánh giá. Bài báo kêu gọi mở rộng chương trình nghiên cứu bao gồm năng lực, tương tác con người và tác động thể chế, cùng với sự tham gia rộng rãi hơn và tài trợ cho các đơn vị đánh giá độc lập.