Tới nội dung
Chỉ Mô hình#Hugging Face
  1. Hacker News · AI88

    Edge0 mã nguồn mở các mô hình trên thiết bị Edge0-145B và Edge0-120B cùng khung suy luận

    Edge0 đã mã nguồn mở Edge0-145B và Edge0-120B cùng khung suy luận thống nhất và các công cụ triển khai, tuyên bố Edge0-145B là mô hình trên thiết bị 145 tỷ tham số mã nguồn mở đầu tiên. Công ty báo cáo bộ nhớ đỉnh 29GB, prefill 1.100+ token/giây, decode 80+ token/giây và công suất tiêu thụ điển hình khoảng 120W trên một laptop tương thích, với ngữ cảnh 128K–256K. Họ dẫn điểm số nội bộ 64,6 trên DeepSWE 1.1, 86,52 trên Terminal-Bench 2.1, 90,4 trên GPQA-Diamond và 80,6 trên IFBench, và cho biết trọng số có trên Hugging Face với hỗ trợ ngay từ ngày đầu cho macOS, Windows và Linux.

    Vì sao đáng chú ý: Edge0 mã nguồn mở một mô hình trên thiết bị 145B báo cáo bộ nhớ đỉnh 29GB và decode 80+ token/giây, mang lại một dữ liệu cụ thể về mức độ mà suy luận cục bộ có thể mở rộng.

  2. Hugging Face Blog69

    IBM phát hành các mô hình xem trước LLMON được xây dựng trên Granite 4.1 3B và 8B

    IBM đã phát hành hai mô hình xem trước thử nghiệm, granite-4.1-3b-LLMON-preview và granite-4.1-8b-LLMON-preview, được phát triển từ các checkpoint cơ sở Granite 4.1 và được huấn luyện để tiếp nhận và tạo ra LLMON, một ngôn ngữ đánh dấu bản địa của LLM đánh dấu chỉ dẫn, dữ liệu và yêu cầu bằng các dấu phân cách token đặc biệt dành riêng. Trên bộ đánh giá OPI, các mô hình tránh được nhiều hơn 47% các cuộc tấn công chèn prompt gián tiếp so với mô hình tiên tiến nhất được thử nghiệm và nhiều hơn 95% so với mô hình mã nguồn mở tốt nhất, đồng thời hoạt động ngang bằng với Granite 4.1 Instruct trên các bộ đánh giá tiêu chuẩn. Bản phát hành bao gồm một bộ công cụ GitHub với các bộ chuyển đổi JSON sang LLMON không mất dữ liệu, và các tác giả lưu ý rằng bản xem trước dành cho mục đích khám phá, không phải để sử dụng trong môi trường sản xuất.

    Vì sao đáng chú ý: IBM đã huấn luyện một mô hình xem trước trên Granite 4.1 có thể đọc và ghi các thẻ LLMON, sử dụng việc tách biệt rõ ràng giữa chỉ dẫn và dữ liệu để giảm tỷ lệ thành công của các cuộc tấn công chèn prompt gián tiếp trên bộ đánh giá OPI xuống gần bằng không trong khi vẫn duy trì các khả năng chung.

  1. Amazon Science62

    Amazon phát hành mô hình nền tảng dạng bảng Mitra-v2 với tiền huấn luyện tổng hợp mở rộng

    Amazon giới thiệu Mitra-v2, mô hình nền tảng dạng bảng thế hệ thứ hai cho phân loại và hồi quy, được phát hành kèm các mô hình đã tinh chỉnh cùng mã suy luận và tinh chỉnh theo giấy phép Apache-2.0 trên Hugging Face. Mô hình được tiền huấn luyện trên các bảng tổng hợp có số hàng gấp 10 lần và số cột gấp khoảng ba lần so với Mitra-v1, sử dụng prior SCM lai mới và bộ tối ưu lai trong khi giữ nguyên kiến trúc Transformer. Trên TabArena, một benchmark công khai gồm 51 bộ dữ liệu thực tế, Mitra-v2 dẫn đầu nhóm mô hình đơn, vượt Mitra-v1 trên 32 trong số 33 bộ dữ liệu mà cả hai chạy gốc, và hoàn thành cả 51 bộ trong giới hạn một giờ; Mitra-v2 đã tinh chỉnh cũng đứng đầu trên ScoringBench.

    Vì sao đáng chú ý: Mitra-v2 cho thấy việc mở rộng dữ liệu tiền huấn luyện tổng hợp, thay vì làm sâu mạng, đưa một mô hình nền tảng dạng bảng lên đỉnh nhóm mô hình đơn của TabArena.

Bạn đã xem hết