Apollo Research triển khai thí điểm đánh giá nhúng bốn tháng bên trong OpenAI
Embedded Evaluators at OpenAI
Apollo Research công bố một thí điểm trong đó một nhóm sáu người sẽ làm việc bên trong OpenAI trong bốn tháng, đánh giá mức độ căn chỉnh của mô hình trong quá trình huấn luyện, đánh giá và triển khai nội bộ theo các quy tắc truy cập được giới hạn phạm vi. Thí điểm xem xét liệu huấn luyện có tạo động lực cho hành vi phá hoại hay không, liệu các đánh giá có thể gợi ra hành vi đó hay không, liệu nó có xảy ra trong quá trình triển khai nội bộ hay không, và liệu lý luận liên quan đến phá hoại có thể phát hiện được hay không. OpenAI đồng ý không giữ lại thông tin hoặc quyền tiếp cận nhân sự chỉ vì các phát hiện không thuận lợi, và Apollo Research sẽ công bố hai báo cáo công khai bao gồm phương pháp, kết luận và hạn chế.
Nguồn:Hacker News · AI · apolloresearch.ai