ข้ามไปที่เนื้อหา
  1. Hacker News · AI88

    Edge0 เปิดซอร์สโมเดลออนดีไวซ์ Edge0-145B และ Edge0-120B พร้อมเฟรมเวิร์กอินเฟอเรนซ์

    Edge0 เปิดซอร์ส Edge0-145B และ Edge0-120B พร้อมเฟรมเวิร์กอินเฟอเรนซ์แบบรวมศูนย์และเครื่องมือสำหรับการดีพลอย โดยอ้างว่า Edge0-145B เป็นโมเดลออนดีไวซ์ขนาด 145B พารามิเตอร์ตัวแรกที่เปิดซอร์ส บริษัทรายงานว่ามีหน่วยความจำสูงสุด 29GB, พรีฟิลล์เกิน 1,100 โทเคน/วินาที, ดีโค้ดเกิน 80 โทเคน/วินาที และใช้พลังงานทั่วไปประมาณ 120W บนแล็ปท็อปที่รองรับ โดยมีคอนเท็กซ์ 128K–256K บริษัทอ้างคะแนนภายในที่ 64.6 บน DeepSWE 1.1, 86.52 บน Terminal-Bench 2.1, 90.4 บน GPQA-Diamond และ 80.6 บน IFBench และระบุว่าน้ำหนักโมเดลอยู่บน Hugging Face พร้อมรองรับ macOS, Windows และ Linux ตั้งแต่วันแรก

    ทำไมเรื่องนี้สำคัญ: Edge0 เปิดซอร์สโมเดลออนดีไวซ์ขนาด 145B ที่รายงานหน่วยความจำสูงสุด 29GB และดีโค้ดเกิน 80 โทเคน/วินาที ซึ่งเป็นข้อมูลเชิงประจักษ์ว่าการอินเฟอเรนซ์ในเครื่องสามารถขยายขนาดได้ไกลเพียงใด

  2. Hugging Face Blog69

    IBM เปิดตัวโมเดลพรีวิว LLMON ที่สร้างบน Granite 4.1 3B และ 8B

    IBM เปิดตัวโมเดลพรีวิวเชิงทดลองสองรุ่น คือ granite-4.1-3b-LLMON-preview และ granite-4.1-8b-LLMON-preview ซึ่งพัฒนามาจากเช็กพอยต์ฐาน Granite 4.1 และฝึกให้อ่านและสร้าง LLMON ซึ่งเป็นภาษามาร์กอัปที่ออกแบบมาเพื่อ LLM โดยเฉพาะ ใช้ตัวคั่นโทเคนพิเศษที่สงวนไว้สำหรับกำกับคำสั่ง ข้อมูล และข้อกำหนด บนเบนช์มาร์ก OPI โมเดลเหล่านี้หลีกเลี่ยงการโจมตีแบบ indirect prompt injection ได้มากกว่าโมเดล frontier ที่ดีที่สุดที่ทดสอบถึง 47% และมากกว่าโมเดลโอเพนซอร์สที่ดีที่สุดถึง 95% ขณะที่ประสิทธิภาพบนเบนช์มาร์กมาตรฐานอยู่ในระดับเดียวกับ Granite 4.1 Instruct การเปิดตัวครั้งนี้มาพร้อมชุดเครื่องมือบน GitHub ที่มีตัวแปลง JSON-to-LLMON แบบไม่สูญเสียข้อมูล และผู้เขียนระบุว่าพรีวิวนี้มีไว้เพื่อการสำรวจ ไม่ใช่สำหรับการใช้งานจริง

    ทำไมเรื่องนี้สำคัญ: IBM ฝึกโมเดลพรีวิวบน Granite 4.1 ที่สามารถอ่านและเขียนแท็ก LLMON ได้ โดยใช้การแยกคำสั่งและข้อมูลอย่างชัดเจนเพื่อลดอัตราความสำเร็จของการโจมตีแบบ indirect prompt injection บนเบนช์มาร์ก OPI ให้ใกล้ศูนย์ ขณะที่ยังคงความสามารถทั่วไปไว้ได้

  1. Amazon Science62

    Amazon เปิดตัว Mitra-v2 โมเดลพื้นฐานสำหรับข้อมูลตารางที่ผ่านการฝึกล่วงหน้าด้วยข้อมูลสังเคราะห์แบบขยายขนาด

    Amazon เปิดตัว Mitra-v2 โมเดลพื้นฐานสำหรับข้อมูลตารางรุ่นที่สองสำหรับการจำแนกประเภทและการถดถอย โดยเผยแพร่พร้อมโมเดลที่ผ่านการปรับแต่งละเอียดและโค้ดสำหรับการอนุมานและการปรับแต่งละเอียดภายใต้สัญญาอนุญาต Apache-2.0 บน Hugging Face โมเดลนี้ผ่านการฝึกล่วงหน้าบนตารางสังเคราะห์ที่มีจำนวนแถวมากกว่า Mitra-v1 ถึง 10 เท่าและมีจำนวนคอลัมน์มากกว่าประมาณ 3 เท่า โดยใช้ไพรเออร์ SCM แบบไฮบริดใหม่และออปติไมเซอร์แบบไฮบริด ขณะที่ยังคงสถาปัตยกรรม Transformer ไว้ไม่เปลี่ยนแปลง บน TabArena ซึ่งเป็นเกณฑ์มาตรฐานสาธารณะที่มีชุดข้อมูลจริง 51 ชุด Mitra-v2 อยู่ในอันดับนำในกลุ่มโมเดลเดี่ยว เอาชนะ Mitra-v1 ได้บน 32 จาก 33 ชุดข้อมูลที่ทั้งสองรันแบบเนทีฟ และรันเสร็จทั้ง 51 ชุดภายในงบเวลาหนึ่งชั่วโมง นอกจากนี้ Mitra-v2 ที่ผ่านการปรับแต่งละเอียดยังอยู่ในอันดับหนึ่งบน ScoringBench

    ทำไมเรื่องนี้สำคัญ: Mitra-v2 แสดงให้เห็นว่าการขยายข้อมูลฝึกล่วงหน้าสังเคราะห์ แทนที่จะเพิ่มความลึกของเครือข่าย ช่วยยกระดับโมเดลพื้นฐานสำหรับข้อมูลตารางขึ้นสู่อันดับนำในกลุ่มโมเดลเดี่ยวของ TabArena

อ่านครบทั้งหมดแล้ว