Nhà thiết kế xem lại đề xuất AI nổi loạn năm 2016, nhận thấy rủi ro đã dịch chuyển
Bắt đầu từ đây
Một nhà thiết kế, người vào năm 2016 đã đề xuất HASI, tức Trí tuệ Siêu thông minh Nhân bản Tập trung vào Con người, như một dự án thời cao học, đã xem lại đề xuất đó và kết luận mối lo cốt lõi của nó về vũ khí tự động vẫn còn giá trị, trong khi siêu trí tuệ nổi loạn mà nó dự liệu thì chưa từng xuất hiện. Thay vào đó, ông viết, các mô hình ngôn ngữ thường ngày sẵn có từ cuối năm 2022 đã mang đến những rủi ro âm thầm hơn. Ông chỉ ra Đạo luật AI của EU, có hiệu lực từ tháng 8 năm 2024, như một phần của phản ứng. Lập luận trung tâm của ông hiện nay là mối nguy gần hơn chính là việc con người đánh mất những kỹ năng cần thiết để giám sát AI.
Tạo từ các bài viết · cập nhật 29 phút trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AINhững gì tôi viết về AI nổi loạn năm 2016, và những gì đã thay đổi
Một nhà thiết kế nhìn lại đề án tốt nghiệp năm 2016 của mình về HASI, tức Trí tuệ Siêu thông minh Hướng tới Con người, và nhận thấy mối lo cốt lõi của nó về vũ khí tự động vẫn còn giá trị, trong khi trí tuệ siêu thông minh nổi loạn mà nó dự đoán đã không xuất hiện. Thay vào đó, các mô hình ngôn ngữ thường ngày từ cuối năm 2022 mang đến những rủi ro âm thầm hơn, và Đạo luật AI của EU có hiệu lực vào tháng 8 năm 2024. Ông lập luận rằng mối nguy gần hơn là con người đang mất dần kỹ năng giám sát AI.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.