Tới nội dung

Lĩnh vực

Mã nguồn mở Mới nhất

Mô hình trọng số mở tải về tự triển khai được, các framework mã nguồn mở và dự án AI đang nổi trên GitHub.

62 tin chọn45 trong 30 ngày quaĐã thu thập 433

Cập nhật 19 tháng 11 01:27

Mã nguồn mở · Tuyển chọn · trang 4

11 tháng 2Thứ TưMục 61–62 trong 62
  1. Modal Blog78

    Modal ra mắt endpoint miễn phí cho GLM-5 và phát hành hướng dẫn tự triển khai cùng tích hợp frontend

    Modal giới thiệu endpoint tương thích OpenAI API miễn phí cho GLM-5, dùng được đến cuối tháng 4, giới hạn một yêu cầu đồng thời, đồng thời phát hành mã có thể tái lập để triển khai bằng SGLang trên 8 GPU B200 trong một nút đơn.

    Vì sao đáng chú ý: Modal cung cấp endpoint tương thích OpenAI miễn phí cho GLM-5 của Z.ai, và đưa ra cấu hình cụ thể để tích hợp trong OpenCode, OpenClaw, Claude Code và Vercel AI SDK.

26 tháng 9, 2025Thứ Sáu
  1. Modal Blog60

    Kỹ sư Modal phân tích ngược cách Flash Attention 4 hoạt động

    Các kỹ sư Modal đã đọc mã nguồn Flash Attention 4 được phát hành và phân tích ngược cách kernel attention tối ưu cho Blackwell hoạt động, do chưa có báo cáo kỹ thuật chính thức. Bài viết theo dõi một tile đi qua pipeline bất đồng bộ chuyên biệt theo warp của kernel và trình bày chi tiết hai thủ thuật toán học: một hàm mũ phần mềm dạng đa thức bậc ba có thể thay thế phép lũy thừa dựa trên SFU, và một quy tắc tái chuẩn hóa online softmax thông minh hơn mà Tri Dao cho biết giảm số lần hiệu chỉnh xuống 10 lần. FA4 được báo cáo là nhanh hơn khoảng 20% so với các kernel attention cudnn mã nguồn đóng của Nvidia, và phiên bản backwards chưa có sẵn tại thời điểm viết bài.

    Vì sao đáng chú ý: Các kỹ sư Modal đã đọc mã nguồn Flash Attention 4 được phát hành và giải thích pipeline chuyên biệt theo warp cùng hai thủ thuật toán học của nó, mang lại góc nhìn có thể chuyển giao về hướng phát triển của thiết kế kernel CUDA.