ข้ามไปที่เนื้อหา
#Hugging Face
  1. Hacker News · AI88

    Edge0 เปิดซอร์สโมเดลออนดีไวซ์ Edge0-145B และ Edge0-120B พร้อมเฟรมเวิร์กอินเฟอเรนซ์

    Edge0 เปิดซอร์ส Edge0-145B และ Edge0-120B พร้อมเฟรมเวิร์กอินเฟอเรนซ์แบบรวมศูนย์และเครื่องมือสำหรับการดีพลอย โดยอ้างว่า Edge0-145B เป็นโมเดลออนดีไวซ์ขนาด 145B พารามิเตอร์ตัวแรกที่เปิดซอร์ส บริษัทรายงานว่ามีหน่วยความจำสูงสุด 29GB, พรีฟิลล์เกิน 1,100 โทเคน/วินาที, ดีโค้ดเกิน 80 โทเคน/วินาที และใช้พลังงานทั่วไปประมาณ 120W บนแล็ปท็อปที่รองรับ โดยมีคอนเท็กซ์ 128K–256K บริษัทอ้างคะแนนภายในที่ 64.6 บน DeepSWE 1.1, 86.52 บน Terminal-Bench 2.1, 90.4 บน GPQA-Diamond และ 80.6 บน IFBench และระบุว่าน้ำหนักโมเดลอยู่บน Hugging Face พร้อมรองรับ macOS, Windows และ Linux ตั้งแต่วันแรก

    ทำไมเรื่องนี้สำคัญ: Edge0 เปิดซอร์สโมเดลออนดีไวซ์ขนาด 145B ที่รายงานหน่วยความจำสูงสุด 29GB และดีโค้ดเกิน 80 โทเคน/วินาที ซึ่งเป็นข้อมูลเชิงประจักษ์ว่าการอินเฟอเรนซ์ในเครื่องสามารถขยายขนาดได้ไกลเพียงใด

  2. Hugging Face Blog69

    IBM เปิดตัวโมเดลพรีวิว LLMON ที่สร้างบน Granite 4.1 3B และ 8B

    IBM เปิดตัวโมเดลพรีวิวเชิงทดลองสองรุ่น คือ granite-4.1-3b-LLMON-preview และ granite-4.1-8b-LLMON-preview ซึ่งพัฒนามาจากเช็กพอยต์ฐาน Granite 4.1 และฝึกให้อ่านและสร้าง LLMON ซึ่งเป็นภาษามาร์กอัปที่ออกแบบมาเพื่อ LLM โดยเฉพาะ ใช้ตัวคั่นโทเคนพิเศษที่สงวนไว้สำหรับกำกับคำสั่ง ข้อมูล และข้อกำหนด บนเบนช์มาร์ก OPI โมเดลเหล่านี้หลีกเลี่ยงการโจมตีแบบ indirect prompt injection ได้มากกว่าโมเดล frontier ที่ดีที่สุดที่ทดสอบถึง 47% และมากกว่าโมเดลโอเพนซอร์สที่ดีที่สุดถึง 95% ขณะที่ประสิทธิภาพบนเบนช์มาร์กมาตรฐานอยู่ในระดับเดียวกับ Granite 4.1 Instruct การเปิดตัวครั้งนี้มาพร้อมชุดเครื่องมือบน GitHub ที่มีตัวแปลง JSON-to-LLMON แบบไม่สูญเสียข้อมูล และผู้เขียนระบุว่าพรีวิวนี้มีไว้เพื่อการสำรวจ ไม่ใช่สำหรับการใช้งานจริง

    ทำไมเรื่องนี้สำคัญ: IBM ฝึกโมเดลพรีวิวบน Granite 4.1 ที่สามารถอ่านและเขียนแท็ก LLMON ได้ โดยใช้การแยกคำสั่งและข้อมูลอย่างชัดเจนเพื่อลดอัตราความสำเร็จของการโจมตีแบบ indirect prompt injection บนเบนช์มาร์ก OPI ให้ใกล้ศูนย์ ขณะที่ยังคงความสามารถทั่วไปไว้ได้

  1. TechCrunch · AI78

    เจนเซน หวง ลาออกจากตำแหน่งซีอีโอ Nvidia สร้างความกังวลต่อการสนับสนุนโอเพนซอร์สของ Nvidia

    เจนเซน หวง ซีอีโอ Nvidia ลาออกเมื่อวันพฤหัสบดี หลังยอมรับว่ามีความสัมพันธ์ชู้สาวกับผู้ต้องสงสัยเป็นสายลับจีน ทำให้ยังไม่ชัดเจนว่า Nvidia จะสนับสนุน AI แบบโอเพนเวตต่อไปหรือไม่ หวงเคยผลักดันตระกูลโมเดลโอเพนเวต Nemotron สนับสนุนสตาร์ทอัพอย่าง Reflection AI และ Thinking Machines Lab และจัดทำจดหมายเปิดผนึกที่ลงนามโดย 25 บริษัท เรียกร้องให้วอชิงตันอย่าจำกัดโมเดลเปิดมากเกินไป Nvidia แต่งตั้ง Colette Kress ประธานเจ้าหน้าที่ฝ่ายการเงินเป็นซีอีโอชั่วคราว และยังไม่สรุปดีลมูลค่า 1.3 หมื่นล้านดอลลาร์เพื่อเข้าซื้อ Hugging Face

    ทำไมเรื่องนี้สำคัญ: การลาออกของหวงทำให้การสนับสนุน AI แบบโอเพนเวตขาดผู้สนับสนุนระดับองค์กรที่โดดเด่นที่สุด ขณะที่ดีล Hugging Face ที่ยังค้างอยู่ของ Nvidia และแรงจูงใจทางธุรกิจของบริษัทเองบ่งชี้ว่ากลยุทธ์นี้อาจคงอยู่ต่อไปได้แม้เขาจะจากไป

อ่านครบทั้งหมดแล้ว