Paul Christiano: 1/3 khả năng siêu trí tuệ xuất hiện trong vòng một năm, kêu gọi các phòng thí nghiệm tạm dừng
Bắt đầu từ đây
Paul Christiano, người đứng đầu Trung tâm Nghiên cứu Căn chỉnh (Alignment Research Center) và là thành viên hội đồng quản trị gần đây của OpenAI, cho biết có khoảng 1/3 khả năng siêu trí tuệ có thể lật đổ chính phủ sẽ xuất hiện trong vòng một năm nếu tốc độ phát triển không chậm lại. Ông lập luận rằng các phòng thí nghiệm tiên phong nên tạm dừng tiến bộ thuật toán tiếp theo trong tiền huấn luyện và học tăng cường cho đến khi họ có thể bảo vệ trọng số mô hình và bí mật nghiên cứu của mình, cảnh báo rằng nếu không, Trung Quốc có thể đánh cắp công nghệ này giữa lúc bùng nổ trí tuệ và các phòng thí nghiệm sẽ mất lựa chọn làm chậm lại. Christiano cũng nói rằng không có phương pháp căn chỉnh hiện tại nào có xác suất kiểm soát siêu trí tuệ cao hơn 50%, và hy vọng là các AI sẽ tự giải quyết vấn đề trong chính giai đoạn bùng nổ.
Tạo từ các bài viết · cập nhật 6 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIPaul Christiano: Xác suất 1/3 siêu trí tuệ xuất hiện trong vòng một năm, và các phòng thí nghiệm nên tạm dừng ngay bây giờ
Paul Christiano, người đứng đầu Alignment Research Center và là thành viên hội đồng quản trị gần đây của OpenAI, cho biết có khoảng 1/3 khả năng siêu trí tuệ có khả năng lật đổ chính phủ sẽ xuất hiện trong vòng một năm nếu quá trình phát triển không chậm lại. Ông lập luận rằng các phòng thí nghiệm tiên phong nên tạm dừng tiến bộ thuật toán tiếp theo trong pre-training và RL cho đến khi họ có thể bảo vệ trọng số và bí mật nghiên cứu của mình, cảnh báo rằng nếu không, Trung Quốc có thể đánh cắp công nghệ này giữa lúc bùng nổ trí tuệ và các phòng thí nghiệm sẽ mất lựa chọn làm chậm lại. Ông cũng nói rằng không có phương pháp căn chỉnh hiện tại nào có xác suất tốt hơn 50% trong việc kiểm soát siêu trí tuệ, và hy vọng là các AI sẽ giải quyết vấn đề ngay trong chính cuộc bùng nổ đó.
Độ nóng của sự việc này
- Hiện tại, trong khoảng so sánh được
- 8
- Đỉnh, trong khoảng so sánh được
- 1018 tháng 11 03:00
- Thay đổi trong 24 giờ
- –
Xu hướng so sánh cùng một nhóm người tham gia trong những giờ được quan sát liên tục, nên khoảng của nó có thể hẹp hơn số độ nóng hiện tại. Rê chuột hoặc chạm vào biểu đồ để xem độ nóng theo giờ; các phím mũi tên di chuyển qua biểu đồ.