Tới nội dung
Sự việc nóngĐang diễn ra

Nhà thiết kế xem lại đề xuất AI nổi loạn năm 2016, nhận thấy rủi ro đã dịch chuyển

1 bài viết1 nguồn đưa tinCập nhật 43 phút trước

Bắt đầu từ đây

Tóm tắt AI

Một nhà thiết kế, người vào năm 2016 đã đề xuất HASI, tức Trí tuệ Siêu thông minh Nhân bản Tập trung vào Con người, như một dự án thời cao học, đã xem lại đề xuất đó và kết luận mối lo cốt lõi của nó về vũ khí tự động vẫn còn giá trị, trong khi siêu trí tuệ nổi loạn mà nó dự liệu thì chưa từng xuất hiện. Thay vào đó, ông viết, các mô hình ngôn ngữ thường ngày sẵn có từ cuối năm 2022 đã mang đến những rủi ro âm thầm hơn. Ông chỉ ra Đạo luật AI của EU, có hiệu lực từ tháng 8 năm 2024, như một phần của phản ứng. Lập luận trung tâm của ông hiện nay là mối nguy gần hơn chính là việc con người đánh mất những kỹ năng cần thiết để giám sát AI.

Tạo từ các bài viết · cập nhật 29 phút trước

Dòng thời gian bài viết

Theo các bài viết để thấy sự việc từ nhiều phía.

17 tháng 11
  1. Hacker News · AI
    Những gì tôi viết về AI nổi loạn năm 2016, và những gì đã thay đổi

    Một nhà thiết kế nhìn lại đề án tốt nghiệp năm 2016 của mình về HASI, tức Trí tuệ Siêu thông minh Hướng tới Con người, và nhận thấy mối lo cốt lõi của nó về vũ khí tự động vẫn còn giá trị, trong khi trí tuệ siêu thông minh nổi loạn mà nó dự đoán đã không xuất hiện. Thay vào đó, các mô hình ngôn ngữ thường ngày từ cuối năm 2022 mang đến những rủi ro âm thầm hơn, và Đạo luật AI của EU có hiệu lực vào tháng 8 năm 2024. Ông lập luận rằng mối nguy gần hơn là con người đang mất dần kỹ năng giám sát AI.

Độ nóng của sự việc này

Chưa đủ quan sát liên tục để vẽ xu hướng.