GPT được huấn luyện từ đầu giải được câu đố 15 ô nhưng thất bại với những bàn dễ nhất
Bắt đầu từ đây
Aatish Bhatia đã huấn luyện một GPT từ đầu trên một triệu lời giải câu đố 15 ô được viết dưới dạng chuỗi token. Mô hình đã giải được 99,9% các bàn bị xáo trộn ngẫu nhiên, khớp chính xác các nước đi của giáo viên trong 2.996 trên 3.000 câu đố kiểm tra. Cùng mô hình đó lại thất bại với những bàn dễ nhất, bao gồm cả một bàn đã được giải sẵn, và gán xác suất trên 97% cho những nước đi mở đầu sai lầm của nó. Bhatia quy điều này cho việc bắt chước dữ liệu huấn luyện bị xáo trộn kỹ và cho những lối tắt không khái quát hóa được ra ngoài phân phối đó.
Tạo từ các bài viết · cập nhật 2 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIMột câu đố 15 ô đơn giản cho thấy trí tuệ lởm chởm của AI xuất hiện như thế nào
Aatish Bhatia đã huấn luyện một GPT từ đầu trên một triệu lời giải câu đố 15 ô được viết dưới dạng chuỗi token, và nó đã giải được 99,9 phần trăm các bảng bị xáo trộn ngẫu nhiên, khớp chính xác các nước đi của giáo viên trong 2.996 trên 3.000 câu đố kiểm tra. Cùng mô hình đó lại thất bại trên những bảng dễ nhất, bao gồm cả một bảng đã được giải sẵn, và gán xác suất trên 97 phần trăm cho những nước đi mở đầu sai của nó. Tác giả quy điều này cho việc bắt chước dữ liệu huấn luyện đã được xáo trộn kỹ và cho những lối tắt không khái quát hóa được ra ngoài phân phối.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.