Bài đăng blog lập luận rằng AI luôn bật có thể tạo ra những mớ rối không thể quản lý
Bắt đầu từ đây
Một bài đăng blog lập luận rằng mối lo chính về AI luôn bật không phải là sự thống trị thế giới đầy ác ý, mà là những hệ thống như vậy có thể vượt con người trong việc tạo ra "những mớ rối" — những tình huống rối ren đến mức cách duy nhất để con người giải quyết là rời đi và quay lại sau. Tác giả hình dung một số AI siêu thông minh luôn bật tương tác với nhau rơi vào những mớ rối như vậy và kéo con người vào cùng. Bài đăng cũng kể lại rằng hai bản nháp đầu tiên của nó đã bị xóa một cách bí ẩn, với bản thứ hai được khôi phục từ reflog và các git blob không thể truy cập. Bài đăng không đưa ra bằng chứng nào cho thấy AI luôn bật đã tạo ra những mớ rối như vậy; mối lo ngại được trình bày như lập luận của tác giả.
Tạo từ các bài viết · cập nhật 2 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIẢo tưởng AI luôn bật: Vì sao sự hiện diện thường trực của AI có thể tạo ra những mớ rối không thể gỡ
Một bài blog lập luận rằng AI luôn bật đáng lo không phải vì nó có thể ác ý chiếm lấy thế giới, mà chủ yếu vì nó có thể vượt con người trong việc tạo ra những mớ rối. Tác giả cho rằng đôi khi cách duy nhất để thoát khỏi những mớ rối do con người tạo ra là rời đi và quay lại sau, đồng thời hình dung những mớ rối mà vài AI siêu thông minh luôn bật đang tương tác với nhau có thể rơi vào, kéo cả con người vào theo. Bài viết cũng kể lại rằng hai bản nháp đầu tiên của nó đã bị xóa một cách bí ẩn, bản thứ hai được khôi phục từ reflog và các git blob không thể truy cập.
Độ nóng của sự việc này
- Hiện tại, trong khoảng so sánh được
- 9
- Đỉnh, trong khoảng so sánh được
- 1020 tháng 11 01:00
- Thay đổi trong 24 giờ
- –
Xu hướng so sánh cùng một nhóm người tham gia trong những giờ được quan sát liên tục, nên khoảng của nó có thể hẹp hơn số độ nóng hiện tại. Rê chuột hoặc chạm vào biểu đồ để xem độ nóng theo giờ; các phím mũi tên di chuyển qua biểu đồ.