GPT ที่ฝึกจากศูนย์แก้ปริศนา 15 ได้ แต่ล้มเหลวกับกระดานที่ง่ายที่สุด
เริ่มตรงนี้
Aatish Bhatia ฝึก GPT จากศูนย์ด้วยเฉลยปริศนา 15 จำนวนหนึ่งล้านชุดที่เขียนเป็นลำดับโทเคน โมเดลแก้กระดานที่สลับแบบสุ่มได้ 99.9% โดยเดินตรงกับครูผู้สอนใน 2,996 จาก 3,000 ปริศนาทดสอบ โมเดลเดียวกันกลับล้มเหลวกับกระดานที่ง่ายที่สุด รวมถึงกระดานที่แก้เสร็จอยู่แล้ว และให้ความน่าจะเป็นสูงกว่า 97% กับการเดินเปิดที่ผิด Bhatia อธิบายว่ามาจากการเลียนแบบข้อมูลฝึกที่สลับมาอย่างดี และจากทางลัดที่ไม่สามารถ généralize นอกการกระจายนั้นได้
สร้างจากรายงาน · อัปเดต 2 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIปริศนา 15 ชิ้นง่ายๆ เผยให้เห็นว่าความฉลาดแบบหยักของ AI เกิดขึ้นได้อย่างไร
Aatish Bhatia ฝึก GPT ตั้งแต่เริ่มต้นด้วยคำตอบของปริศนา 15 ชิ้นหนึ่งล้านชุดที่เขียนเป็นลำดับโทเค็น และมันแก้กระดานที่สลับแบบสุ่มได้ 99.9 เปอร์เซ็นต์ ตรงกับการเดินหมากที่แม่นยำของครูใน 2,996 จาก 3,000 ปริศนาทดสอบ โมเดลเดียวกันกลับล้มเหลวกับกระดานที่ง่ายที่สุด รวมถึงกระดานที่แก้เสร็จแล้ว และให้ความน่าจะเป็นเกิน 97 เปอร์เซ็นต์กับการเดินเปิดที่ผิด ผู้เขียนอธิบายว่าสาเหตุมาจากการเลียนแบบข้อมูลฝึกที่สลับมาอย่างดี และจากทางลัดที่ไม่สามารถ généraliser นอกการแจกแจงได้
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม