Tới nội dung
Hôm nay13 tháng 11Thứ Sáu6 mục
  1. inclusionAI Models38

    SingVL-4B GGUF ra mắt: Bản dựng GGUF của mô hình quyết định đa phương thức Sing VL S1 4B trên Qwen3.5

    Sing VL S1, một mô hình quyết định đa phương thức 4 tỷ tham số được xây dựng trên Qwen3.5, nay đã có bản phát hành GGUF cho suy luận CPU với llama.cpp. Nó được phát hành với các bộ giải mã BF16 (8,42 GB), Q8_0 (4,48 GB) và Q4_K_M (2,71 GB) cùng một bộ chiếu thị giác F16 dùng chung, với ngữ cảnh mặc định 4096 token. Kiểm định GGUF bao gồm 9 ví dụ và 11 câu hỏi; điểm số công khai đầy đủ cho các biến thể GGUF vẫn đang chờ.

  2. Hacker News · AI88

    Edge0 mã nguồn mở các mô hình trên thiết bị Edge0-145B và Edge0-120B cùng khung suy luận

    Edge0 đã mã nguồn mở Edge0-145B và Edge0-120B cùng khung suy luận thống nhất và các công cụ triển khai, tuyên bố Edge0-145B là mô hình trên thiết bị 145 tỷ tham số mã nguồn mở đầu tiên. Công ty báo cáo bộ nhớ đỉnh 29GB, prefill 1.100+ token/giây, decode 80+ token/giây và công suất tiêu thụ điển hình khoảng 120W trên một laptop tương thích, với ngữ cảnh 128K–256K. Họ dẫn điểm số nội bộ 64,6 trên DeepSWE 1.1, 86,52 trên Terminal-Bench 2.1, 90,4 trên GPQA-Diamond và 80,6 trên IFBench, và cho biết trọng số có trên Hugging Face với hỗ trợ ngay từ ngày đầu cho macOS, Windows và Linux.

    Vì sao đáng chú ý: Edge0 mã nguồn mở một mô hình trên thiết bị 145B báo cáo bộ nhớ đỉnh 29GB và decode 80+ token/giây, mang lại một dữ liệu cụ thể về mức độ mà suy luận cục bộ có thể mở rộng.

  3. MarkTechPost52

    Liquid AI phát hành LiquidCodec, codec âm thanh streaming 74 triệu tham số

    Liquid AI đã phát hành LiquidCodec, một tokenizer giọng nói streaming khoảng 74 triệu tham số, là thành phần cốt lõi cho các mô hình LFM3-Audio-2B và LFM3-Omni-2B của hãng, với trọng số được công bố trên Hugging Face. Codec này nén âm thanh 24 kHz thành 12 luồng token với khung 12,5 Hz và chạy trên một luồng CPU đơn, theo Liquid AI báo cáo tốc độ mã hóa khoảng 361 lần thời gian thực và giải mã 87 lần. Liquid AI cho biết nó vượt X-Codec 2, NanoCodec và Mimi về ViSQOL và khoảng cách mel trên cả 8 bộ kiểm thử, dù NanoCodec vẫn dẫn đầu PESQ (WB) trên 7 trong 8 bộ.

  4. Hugging Face Blog69

    IBM phát hành các mô hình xem trước LLMON được xây dựng trên Granite 4.1 3B và 8B

    IBM đã phát hành hai mô hình xem trước thử nghiệm, granite-4.1-3b-LLMON-preview và granite-4.1-8b-LLMON-preview, được phát triển từ các checkpoint cơ sở Granite 4.1 và được huấn luyện để tiếp nhận và tạo ra LLMON, một ngôn ngữ đánh dấu bản địa của LLM đánh dấu chỉ dẫn, dữ liệu và yêu cầu bằng các dấu phân cách token đặc biệt dành riêng. Trên bộ đánh giá OPI, các mô hình tránh được nhiều hơn 47% các cuộc tấn công chèn prompt gián tiếp so với mô hình tiên tiến nhất được thử nghiệm và nhiều hơn 95% so với mô hình mã nguồn mở tốt nhất, đồng thời hoạt động ngang bằng với Granite 4.1 Instruct trên các bộ đánh giá tiêu chuẩn. Bản phát hành bao gồm một bộ công cụ GitHub với các bộ chuyển đổi JSON sang LLMON không mất dữ liệu, và các tác giả lưu ý rằng bản xem trước dành cho mục đích khám phá, không phải để sử dụng trong môi trường sản xuất.

    Vì sao đáng chú ý: IBM đã huấn luyện một mô hình xem trước trên Granite 4.1 có thể đọc và ghi các thẻ LLMON, sử dụng việc tách biệt rõ ràng giữa chỉ dẫn và dữ liệu để giảm tỷ lệ thành công của các cuộc tấn công chèn prompt gián tiếp trên bộ đánh giá OPI xuống gần bằng không trong khi vẫn duy trì các khả năng chung.

  5. TechCrunch · AI78

    Jensen Huang từ chức CEO Nvidia, dấy lên nghi ngờ về sự ủng hộ mã nguồn mở của Nvidia

    CEO Nvidia Jensen Huang từ chức vào thứ Năm sau khi thừa nhận ngoại tình với một người bị cáo buộc là gián điệp Trung Quốc, khiến việc Nvidia có tiếp tục ủng hộ AI trọng số mở hay không trở nên bỏ ngỏ. Huang đã thúc đẩy dòng mô hình trọng số mở Nemotron, hậu thuẫn các startup như Reflection AI và Thinking Machines Lab, và tổ chức một lá thư ngỏ có chữ ký của 25 công ty kêu gọi Washington không hạn chế quá mức các mô hình mở. Nvidia đã bổ nhiệm CFO Colette Kress làm CEO tạm thời và vẫn chưa hoàn tất thương vụ mua lại Hugging Face trị giá 13 tỷ USD.

    Cùng sự việc; tuyển chọn có“NVIDIA Announces CEO Transition as Jensen Huang Resigns, Colette Kress Named Interim CEO”

  6. TechCrunch · AI62

    CEO của Hugging Face thề tiếp tục đấu tranh cho AI mã nguồn mở sau khi Jensen Huang rời đi

    CEO của Hugging Face, Clément Delangue, cho biết ông sẽ tiếp tục đấu tranh cho AI mã nguồn mở "mạnh mẽ hơn bao giờ hết" sau khi CEO của Nvidia, Jensen Huang, rời đi, gọi đó là một "ngày thực sự buồn." Nvidia đã công bố vào tháng 9 kế hoạch trị giá 12,9 tỷ USD để mua lại Hugging Face, một thương vụ mà Bộ Tư pháp Hoa Kỳ đang tìm hiểu vì lo ngại về cạnh tranh và vẫn dự kiến hoàn tất trong nửa đầu năm 2027. Huang từng là người ủng hộ nổi bật cho các mô hình trọng số mở, bao gồm một lá thư chính sách vào tháng 7 được 25 công ty ký kêu gọi chính phủ Hoa Kỳ không hạn chế quá mức chúng.