Tới nội dung
Chỉ Nghiên cứu#DeepSeek
  1. Hacker News · AI85

    Phân tích pháp y liên kết sáu mô hình tiên phong của Trung Quốc với GPU NVIDIA Blackwell bị kiểm soát xuất khẩu

    Phân tích pháp y của Unemployment Labs trên các trọng số mô hình đã công bố phát hiện rằng sáu mô hình từ DeepSeek, Moonshot AI, MiniMax và Ant Group được khởi tạo trên phần cứng NVIDIA Blackwell, trong khi các mô hình trước đó từ cùng các phòng thí nghiệm khớp với Hopper. Phương pháp này khôi phục hạt giống ngẫu nhiên và bố cục luồng của từng mô hình từ các trọng số được lưu giữ, và tác giả cho biết các kết quả khớp đã được tái tạo trên chip H100, B300 và GB200 vật lý. Báo cáo ước tính mỗi lần chạy huấn luyện cần khoảng 500 đến 3.000 GPU Blackwell trong hai đến ba tháng, và lưu ý rằng bằng chứng không xác định được vị trí của các chip hoặc liệu các biện pháp kiểm soát xuất khẩu có bị vi phạm hay không.

    Vì sao đáng chú ý: Báo cáo chỉ rút ra bằng chứng phần cứng từ các trọng số mô hình đã công bố, cung cấp một phương pháp có thể tái tạo để truy vết GPU nào đã khởi tạo một mô hình mà không dựa vào rò rỉ.

  1. vLLM Blog77

    REINFORCE Zero: Căn chỉnh kernel cho phép Async RL ổn định ở Policy Lag 64, mở rộng sang DeepSeek-V4.1 và Kimi K3.1

    Bài báo REINFORCE Zero của NVIDIA Research và Inferact cho thấy việc căn chỉnh kernel của rollout và trainer cho phép lấy mẫu quan trọng ở mức token không cắt (unclipped token-level importance sampling) hiệu chỉnh độ trễ trọng số còn lại, huấn luyện ổn định qua 20.000 lần cập nhật ở policy lag 64 và đạt thông lượng bước huấn luyện gấp 2,40 lần so với huấn luyện đồng bộ với kernel đã căn chỉnh. Với kernel tiêu chuẩn, KL trung vị từ rollout đến learner tăng 83,33 lần trong suốt quá trình chạy và pass@1 trực tuyến trên AIME24 giảm từ 34,27% xuống 13,96%, trong khi một sequence gate giúp ổn định huấn luyện nhưng loại bỏ 24,48% chuỗi tính đến 1.000 lần cập nhật cuối. Thiết lập zero-mismatch hiện bao phủ DeepSeek-V4.1-Flash, Kimi K3.1 vào ngày phát hành, cùng DeepSeek-V4-Flash và Kimi K3.1 trên AMD MI355X, với mã nguồn tại Inferact/zero-mismatch-rl và NVIDIA-NeMo/labs-molt.

    Vì sao đáng chú ý: NVIDIA Research và Inferact tách khoảng cách giữa rollout và learner trong async RL thành độ trễ trọng số và sự không khớp kernel, cho thấy việc căn chỉnh kernel cho phép lấy mẫu quan trọng không cắt duy trì huấn luyện ổn định ở policy lag 64.

Bạn đã xem hết