ข้ามไปที่เนื้อหา
เหตุการณ์ร้อนแรงจับตาดู

Google เปิดโอเพนซอร์ส Zero-TIM สำหรับ on-policy RL บน TPU ที่ตรงกันแบบบิตต่อบิต

1 รายงาน1 แหล่งข่าวที่รายงานอัปเดต 1 วันที่แล้ว

เริ่มตรงนี้

ไดเจสต์ AI

Google เผยแพร่การใช้งานแบบโอเพนซอร์สและสูตรทางเทคนิคของ Zero-TIM ซึ่งเป็นวิธีการที่ทำให้การฝึกและการอนุมานตรงกันแบบบิตต่อบิตระหว่าง on-policy reinforcement learning บน TPU ในเฟรมเวิร์ก Tunix ของ Google การถอดรหัสของ sampler การ prefill ฝั่งเซิร์ฟเวอร์ และ forward pass ของ trainer ให้ logprob ที่เหมือนกันสำหรับ action token เดียวกันภายใต้น้ำหนักเดียวกัน Google ระบุว่าวิธีนี้ได้รับการตรวจสอบบน mesh หลายโฮสต์ของชิป TPU v5p จำนวน 64 ตัว (DP8×TP8) และรูปแบบ kernel กับ collective นั้นเป็นพิมพ์เขียวที่นำกลับมาใช้ซ้ำได้สำหรับ on-policy RL แบบบิตต่อบิตบนสแตก JAX/TPU แบบกระจาย การใช้งานนี้เป็นแบบโมดูลาร์ เขียนด้วย JAX/XLA และ Pallas สำหรับ TPU Google ระบุว่ากำลังขยายการรองรับไปยังสถาปัตยกรรม linear-attention และ Mixture-of-Experts ดังนั้นความครอบคลุมนอกเหนือจากการตั้งค่าที่ตรวจสอบแล้วยังอยู่ระหว่างดำเนินการ

สร้างจากรายงาน · อัปเดต

ไทม์ไลน์รายงาน

ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน

16 พฤศจิกายน
  1. Google Developers Blog
    Google ใช้ Zero-TIM บน TPU ทำให้ on-policy RL ระหว่างการเทรนและการอนุมานมีข้อผิดพลาดเป็นศูนย์ในระดับบิต

    Google พัฒนา Zero-TIM ใน Tunix ทำให้การถอดรหัสของ sampler, prefill ฝั่งเซิร์ฟเวอร์ และ forward pass ของ trainer ภายใต้น้ำหนักเดียวกันให้ค่า logprob ที่เหมือนกันทุกบิตสำหรับ action token เดียวกัน และตรวจสอบสำเร็จบน multi-host mesh ขนาด 64 ชิป TPU v5p (DP8×TP8)

ความร้อนแรงของเหตุการณ์นี้

ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม