Apollo Research triển khai thí điểm đánh giá nhúng tại OpenAI
Bắt đầu từ đây
Apollo Research đã bắt đầu một thí điểm kéo dài bốn tháng, trong đó một nhóm sáu người làm việc bên trong OpenAI để đánh giá mức độ căn chỉnh của mô hình trong quá trình huấn luyện, đánh giá và triển khai nội bộ, theo các quy tắc truy cập được giới hạn phạm vi. Apollo Research cho biết thí điểm sẽ xem xét liệu quá trình huấn luyện có tạo động lực cho hành vi lật đổ hay không, liệu các đánh giá có thể khơi gợi hành vi đó hay không, liệu nó có xảy ra trong quá trình triển khai nội bộ hay không, và liệu có thể phát hiện lý luận liên quan đến lật đổ hay không. Theo Apollo Research, OpenAI đã đồng ý không giữ lại thông tin hoặc chặn quyền tiếp cận nhân sự chỉ vì các phát hiện không thuận lợi. Apollo Research chỉ có thể thảo luận thông tin mật của OpenAI với nhân sự được ủy quyền, và sẽ công bố hai báo cáo công khai bao gồm phương pháp, kết luận và hạn chế.
Tạo từ các bài viết · cập nhật 31 phút trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIApollo Research triển khai thí điểm đánh giá nhúng bốn tháng bên trong OpenAI
Apollo Research công bố một thí điểm trong đó một nhóm sáu người sẽ làm việc bên trong OpenAI trong bốn tháng, đánh giá mức độ căn chỉnh của mô hình trong quá trình huấn luyện, đánh giá và triển khai nội bộ theo các quy tắc truy cập được giới hạn phạm vi. Thí điểm xem xét liệu huấn luyện có tạo động lực cho hành vi phá hoại hay không, liệu các đánh giá có thể gợi ra hành vi đó hay không, liệu nó có xảy ra trong quá trình triển khai nội bộ hay không, và liệu lý luận liên quan đến phá hoại có thể phát hiện được hay không. OpenAI đồng ý không giữ lại thông tin hoặc quyền tiếp cận nhân sự chỉ vì các phát hiện không thuận lợi, và Apollo Research sẽ công bố hai báo cáo công khai bao gồm phương pháp, kết luận và hạn chế.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.