ข้ามไปที่เนื้อหา
  1. Meta AI Research Blog88

    Meta เปิดตัว Muse Spark Open โมเดลมัลติโมดัลน้ำหนักเปิดขนาด 816B ที่รันบน Mac Studio สองเครื่อง

    Meta เปิดตัวน้ำหนักของ Muse Spark Open โมเดลมัลติโมดัลแบบเนทีฟน้ำหนักเปิดที่มีพารามิเตอร์รวม 816B (ใช้งานจริง 42B) และหน้าต่างบริบท 1M โทเคน วางตำแหน่งสำหรับงานเขียนโค้ดและงานเอเจนติก เป็นโมเดลแรกในคลาสเดียวกันที่รันบนเดสก์ท็อปด้วย Apple M5 Ultra Mac Studio สองเครื่องผ่านเฟรมเวิร์ก MLX และพร้อมใช้งานผ่านพาร์ตเนอร์ API ได้แก่ Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter และ Together AI โดยมีน้ำหนักอยู่บน Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden และ Microsoft Foundry Models Meta ระบุว่าโมเดลนี้มาพร้อมเคอร์เนล GPU Helion ที่ปรับแต่งอัตโนมัติได้ใน SGLang ให้ความเร็วระดับเคอร์เนลเพิ่มขึ้น 1.03-3.95 เท่าบน GPU NVIDIA และ AMD และเร็วขึ้นแบบ end-to-end 3% บน AMD MI350

    ทำไมเรื่องนี้สำคัญ: Meta เปิดน้ำหนักโมเดลมัลติโมดัลขนาด 816B พารามิเตอร์ที่รันบน Mac Studio สองเครื่อง มอบทางเลือกแบบโลคอลให้นักพัฒนาสำหรับงานเขียนโค้ดระยะยาวและงานเอเจนติก

  1. MiniMax Blog71

    MiniMax เปิดตัว Music 3.0 โมเดลสร้างเพลงแบบ open-weights สำหรับเพลงเต็มความยาวสูงสุดห้านาที

    MiniMax เปิดตัว Music 3.0 โมเดลสร้างเพลงแบบ open-weights ที่สามารถแต่งเพลง เรียบเรียง และผลิตเพลงที่สมบูรณ์ความยาวสูงสุดห้านาทีจากแนวคิดสร้างสรรค์และเนื้อเพลงเสริม (ถ้ามี) ในการสร้างครั้งเดียว ไปป์ไลน์นี้จับคู่ Global LLM ขนาด 8B ที่เริ่มต้นจาก Qwen3.5-8B กับ Local LLM ขนาด 0.6B หลอมรวม continuous hidden states ของทั้งสองเพื่อเป็นเงื่อนไขให้โมดูล flow-matching ขนาด 2.4B และ Flow-VAE ขนาด 123M และใช้ RVQ แปดชั้นพร้อม Structured Captions ที่อธิบายอารมณ์ เครื่องดนตรี และการขับร้องตามช่วงเวลา MiniMax กล่าวว่าสิ่งนี้ทำให้ตีความเจตนาเชิงสร้างสรรค์ได้แม่นยำขึ้น การเรียบเรียงเต็มอิ่มขึ้น และเสียงร้องชัดเจนเป็นธรรมชาติมากขึ้น

    ทำไมเรื่องนี้สำคัญ: การแจกแจงสถาปัตยกรรมของ MiniMax แสดงให้เห็นว่า Global LLM ขนาด 8B ที่จับคู่กับโมเดล local ขนาด 0.6B และสแต็ก flow-matching มุ่งเป้าแก้ปัญหาความต่อเนื่องของเพลงยาวอย่างไร

  1. MiniMax Blog87

    MiniMax M3 เปิดตัวพร้อมบริบท 1M การเขียนโค้ดระดับแนวหน้าและมัลติโมดัลแบบเนทีฟ

    MiniMax เปิดตัว M3 โมเดลน้ำหนักเปิดที่บริษัทกล่าวว่าเป็นตัวแรกที่รวมความสามารถด้านการเขียนโค้ดระดับแนวหน้าและประสิทธิภาพแบบเอเจนต์ หน้าต่างบริบท 1M โทเคน และการรับข้อมูลภาพและวิดีโอแบบเนทีฟ M3 ใช้สถาปัตยกรรม MSA sparse attention ใหม่ของ MiniMax ซึ่งบริษัทรายงานว่าลดการคำนวณต่อโทเคนที่บริบท 1M เหลือ 1/20 ของรุ่นก่อนหน้า และเร่ง prefill ได้มากกว่า 9 เท่าและการถอดรหัสมากกว่า 15 เท่า ทำคะแนนได้ 59.0% บน SWE-Bench Pro, 66.0% บน Terminal-Bench 2.1 และ 74.2% บน MCP Atlas และพร้อมใช้งานผ่าน MiniMax Code, Token Plan และ API โดยสัญญาว่าจะเปิดน้ำหนักและรายงานทางเทคนิคภายใน 10 วัน

    ทำไมเรื่องนี้สำคัญ: MiniMax M3 รวมบริบท 1M โทเคน คะแนนการเขียนโค้ดระดับแนวหน้าและแบบเอเจนต์ และการรับข้อมูลภาพและวิดีโอแบบเนทีฟไว้ในโมเดลน้ำหนักเปิดเดียว โดย MSA ลดการคำนวณต่อโทเคนที่บริบทยาว

อ่านครบทั้งหมดแล้ว