Paul Christiano: Xác suất 1/3 siêu trí tuệ xuất hiện trong vòng một năm, và các phòng thí nghiệm nên tạm dừng ngay bây giờ
Paul Christiano: 12 months away from AIs that can overthrow the government
Paul Christiano, người đứng đầu Alignment Research Center và là thành viên hội đồng quản trị gần đây của OpenAI, cho biết có khoảng 1/3 khả năng siêu trí tuệ có khả năng lật đổ chính phủ sẽ xuất hiện trong vòng một năm nếu quá trình phát triển không chậm lại. Ông lập luận rằng các phòng thí nghiệm tiên phong nên tạm dừng tiến bộ thuật toán tiếp theo trong pre-training và RL cho đến khi họ có thể bảo vệ trọng số và bí mật nghiên cứu của mình, cảnh báo rằng nếu không, Trung Quốc có thể đánh cắp công nghệ này giữa lúc bùng nổ trí tuệ và các phòng thí nghiệm sẽ mất lựa chọn làm chậm lại. Ông cũng nói rằng không có phương pháp căn chỉnh hiện tại nào có xác suất tốt hơn 50% trong việc kiểm soát siêu trí tuệ, và hy vọng là các AI sẽ giải quyết vấn đề ngay trong chính cuộc bùng nổ đó.
Nguồn:Hacker News · AI · dwarkesh.com