GitHub phát hành ReviewBench, một benchmark mở cho đánh giá mã nguồn bằng AI
GitHub đã phát hành ReviewBench, một benchmark mở dành cho các tác nhân đánh giá mã nguồn bằng AI, được xây dựng trên 219 pull request công khai thuộc 19 ngôn ngữ, với phân bố ngôn ngữ và quy mô kho mã mô phỏng theo 103,9 triệu pull request trên GitHub. Tập dữ liệu chuẩn (golden set) lấy các phát hiện từ người đánh giá là con người, các commit tiếp theo của tác giả, phân tích tĩnh và nhiều LLM tiên tiến, được chấm điểm bởi Claude Sonnet 5 theo một rubric đã công bố, và các kỹ sư cấp cao đã độc lập gán nhãn lại từng phát hiện với mức đồng thuận 96,6%. GitHub cho biết đánh giá ngoại tuyến của họ đối với tính năng đánh giá mã nguồn của Copilot đã dự đoán đúng hướng của một thử nghiệm A/B trong môi trường sản xuất, trong đó tỷ lệ được xử lý tăng 8,0%, độ phủ (recall) tăng 13,6% và chi phí cho mỗi lần đánh giá giảm 8,0%.