ข้ามไปที่เนื้อหา
เฉพาะ งานวิจัย#DeepSeek
  1. Hacker News · AI85

    การวิเคราะห์ทางนิติวิทยาศาสตร์เชื่อมโยงโมเดลจีนระดับแนวหน้า 6 รุ่นกับ GPU NVIDIA Blackwell ที่ถูกควบคุมการส่งออก

    การวิเคราะห์ทางนิติวิทยาศาสตร์ของ Unemployment Labs ต่อน้ำหนักโมเดลที่เผยแพร่พบว่าโมเดล 6 รุ่นจาก DeepSeek, Moonshot AI, MiniMax และ Ant Group ถูกเริ่มต้นบนฮาร์ดแวร์ NVIDIA Blackwell ขณะที่โมเดลรุ่นก่อนหน้าจากแล็บเดียวกันตรงกับ Hopper วิธีการนี้กู้คืน random seed และเลย์เอาต์เธรดของแต่ละโมเดลจากน้ำหนักที่เก็บรักษาไว้ และผู้เขียนกล่าวว่าการจับคู่ถูกทำซ้ำบนชิป H100, B300 และ GB200 จริง รายงานประเมินว่าแต่ละการฝึกอบรมต้องใช้ GPU Blackwell ประมาณ 500 ถึง 3,000 ตัวเป็นเวลาสองถึงสามเดือน และระบุว่าหลักฐานไม่ได้ยืนยันว่าชิปตั้งอยู่ที่ใดหรือมีการละเมิดมาตรการควบคุมการส่งออกหรือไม่

    ทำไมเรื่องนี้สำคัญ: รายงานได้มาซึ่งหลักฐานฮาร์ดแวร์จากน้ำหนักโมเดลที่เผยแพร่เพียงอย่างเดียว โดยเสนอวิธีการที่ทำซ้ำได้สำหรับการติดตามว่า GPU ใดเป็นผู้เริ่มต้นโมเดล โดยไม่ต้องพึ่งพาการรั่วไหล

  1. vLLM Blog77

    REINFORCE Zero: การจัดแนวเคอร์เนลช่วยให้ Async RL เสถียรที่ Policy Lag 64 ขยายไปถึง DeepSeek-V4.1 และ Kimi K3.1

    บทความ REINFORCE Zero ของ NVIDIA Research และ Inferact แสดงให้เห็นว่าการจัดแนวเคอร์เนลของ rollout และ trainer ทำให้ unclipped token-level importance sampling สามารถแก้ไข weight lag ที่เหลืออยู่ได้ ทำให้ฝึกได้อย่างเสถียรถึง 20,000 อัปเดตที่ policy lag 64 และได้ throughput ของ training-step เป็น 2.40 เท่าของการฝึกแบบ synchronous ด้วยเคอร์เนลที่จัดแนวแล้ว ด้วยเคอร์เนลมาตรฐาน ค่ามัธยฐาน rollout-to-learner KL เพิ่มขึ้น 83.33 เท่าตลอดการรัน และ online AIME24 pass@1 ลดลงจาก 34.27% เหลือ 13.96% ขณะที่ sequence gate ช่วยให้การฝึกเสถียรแต่ปฏิเสธ 24.48% ของ sequence ภายใน 1,000 อัปเดตสุดท้าย การตั้งค่า zero-mismatch ครอบคลุม DeepSeek-V4.1-Flash, Kimi K3.1 ในวันเปิดตัว และ DeepSeek-V4-Flash กับ Kimi K3.1 บน AMD MI355X โดยมีโค้ดอยู่ที่ Inferact/zero-mismatch-rl และ NVIDIA-NeMo/labs-molt

    ทำไมเรื่องนี้สำคัญ: NVIDIA Research และ Inferact แยกช่องว่างระหว่าง rollout-learner ของ async RL ออกเป็น weight lag และ kernel mismatch โดยแสดงให้เห็นว่าการจัดแนวเคอร์เนลทำให้ unclipped importance sampling รักษาการฝึกที่เสถียรที่ policy lag 64 ได้

อ่านครบทั้งหมดแล้ว