Redwood Research công bố bài báo về đánh giá kiểm soát mô phỏng cho các giám sát viên tác nhân AI

Redwood Research đã công bố một bài báo về đánh giá kiểm soát mô phỏng (SCE), một phương pháp sử dụng trình mô phỏng môi trường LLM để kiểm tra xem các giám sát viên giám sát tác nhân AI có phát hiện ra một mô hình cố ý gây hại hay không, mà không thực thi các lệnh gọi công cụ của nó.