Anthropic công bố khuyến nghị về xây dựng đánh giá an toàn AI
Bắt đầu từ đây
Anthropic đã công bố các khuyến nghị về xây dựng đánh giá an toàn AI, dựa trên những cải cách từ cuộc khủng hoảng tái lập của tâm lý học và kinh nghiệm của chính công ty trong việc tạo ra các đánh giá cho system card. Công ty cho biết các đánh giá an toàn rất dễ bị thao túng và thường không đo lường được điều mà chúng tuyên bố. Hướng dẫn của công ty kêu gọi các nhóm kết hợp nhiều phương pháp và thu hút chuyên gia lĩnh vực, chạy đánh giá trong môi trường sandbox, và lựa chọn thiết kế nghiên cứu quan sát hoặc nhân quả phù hợp với câu hỏi được đặt ra. Đây là những khuyến nghị được Anthropic nêu rõ, không phải kết quả đã được chứng minh.
Tạo từ các bài viết · cập nhật 1 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Anthropic ResearchXây dựng các đánh giá an toàn vững chắc: Khuyến nghị của Anthropic cho đánh giá an toàn AI
Anthropic đã công bố các khuyến nghị để xây dựng đánh giá an toàn AI, dựa trên những cải cách từ cuộc khủng hoảng tái lập của tâm lý học và kinh nghiệm của chính họ trong việc xây dựng các đánh giá cho system card. Bài viết lập luận rằng các đánh giá an toàn rất dễ bị thao túng và thường không đo lường được những gì chúng tuyên bố, thúc giục các nhóm kết hợp nhiều phương pháp và chuyên gia lĩnh vực, chạy đánh giá trong môi trường sandbox, và lựa chọn thiết kế quan sát hoặc nhân quả phù hợp với câu hỏi được đặt ra.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.