ข้ามไปที่เนื้อหา
เฉพาะ โมเดล#บนอุปกรณ์
  1. Hacker News · AI88

    Edge0 เปิดซอร์สโมเดลออนดีไวซ์ Edge0-145B และ Edge0-120B พร้อมเฟรมเวิร์กอินเฟอเรนซ์

    Edge0 เปิดซอร์ส Edge0-145B และ Edge0-120B พร้อมเฟรมเวิร์กอินเฟอเรนซ์แบบรวมศูนย์และเครื่องมือสำหรับการดีพลอย โดยอ้างว่า Edge0-145B เป็นโมเดลออนดีไวซ์ขนาด 145B พารามิเตอร์ตัวแรกที่เปิดซอร์ส บริษัทรายงานว่ามีหน่วยความจำสูงสุด 29GB, พรีฟิลล์เกิน 1,100 โทเคน/วินาที, ดีโค้ดเกิน 80 โทเคน/วินาที และใช้พลังงานทั่วไปประมาณ 120W บนแล็ปท็อปที่รองรับ โดยมีคอนเท็กซ์ 128K–256K บริษัทอ้างคะแนนภายในที่ 64.6 บน DeepSWE 1.1, 86.52 บน Terminal-Bench 2.1, 90.4 บน GPQA-Diamond และ 80.6 บน IFBench และระบุว่าน้ำหนักโมเดลอยู่บน Hugging Face พร้อมรองรับ macOS, Windows และ Linux ตั้งแต่วันแรก

    ทำไมเรื่องนี้สำคัญ: Edge0 เปิดซอร์สโมเดลออนดีไวซ์ขนาด 145B ที่รายงานหน่วยความจำสูงสุด 29GB และดีโค้ดเกิน 80 โทเคน/วินาที ซึ่งเป็นข้อมูลเชิงประจักษ์ว่าการอินเฟอเรนซ์ในเครื่องสามารถขยายขนาดได้ไกลเพียงใด

  1. Zyphra Research78

    Zyphra เปิดตัว ZONOS3-Mini โมเดล TTS โคลนเสียงแบบ zero-shot ภายใต้ Apache 2.0 ที่รันบนอุปกรณ์

    Zyphra เปิดตัว ZONOS3-Mini โมเดล text-to-speech แบบ sparse MoE ที่มีพารามิเตอร์ใช้งานจริง 100M และพารามิเตอร์รวม 800M ภายใต้สัญญาอนุญาต Apache 2.0 ฝึกบน NVIDIA H100 จำนวน 112 ตัวใน 2.5 วัน ทำเวลา time-to-first-audio ได้ต่ำกว่า 570 ms ในเบราว์เซอร์บน Pixel 9 และต่ำกว่า 150 ms บน M3 MacBook Air พร้อมรันไทม์สำหรับ WebGPU, SGLang, vLLM และ GGML โมเดลนี้เพิ่มการควบคุมอัตลักษณ์ สำเนียง คุณภาพ อารมณ์ และการแสดงออก รวมถึงการปรับระดับคำ และ Zyphra รายงานว่าอยู่อันดับหนึ่งในกลุ่มโมเดลเปิดบน benchmark ใหม่ ZTTS2-Eval

    ทำไมเรื่องนี้สำคัญ: โมเดล TTS แบบ MoE ขนาดกะทัดรัดของ Zyphra ผสานการโคลนเสียงแบบ zero-shot เข้ากับการควบคุมการแสดงออกระดับคำ พร้อมรันแบบเรียลไทม์บนโทรศัพท์และแล็ปท็อป

  1. Preferred Networks News71

    PFN เปิดตัว PLaMo 3 Translate โมเดล LLM แปลภาษาแบบเปิดน้ำหนักสำหรับอุปกรณ์เอดจ์

    Preferred Networks เปิดตัว PLaMo 3 Translate โมเดล LLM เฉพาะทางด้านการแปลที่ใช้ในบริการ PLaMo Translation ของบริษัท ในฐานะโมเดลแบบเปิดน้ำหนักบน Hugging Face เมื่อวันที่ 5 พฤศจิกายน มีขนาด 0.8B, 2B, 8B และ 31B และรองรับ 53 ภาษา รวมถึงภาษาญี่ปุ่นและภาษาอังกฤษ ทำงานบนสมาร์ทโฟน แล็ปท็อป และเซิร์ฟเวอร์ภายในองค์กรโดยไม่ต้องเชื่อมต่อคลาวด์

    ทำไมเรื่องนี้สำคัญ: PFN เปิดตัวโมเดล LLM เฉพาะทางด้านการแปลในสี่ขนาดตั้งแต่ 0.8B ถึง 31B ทำให้บริษัทและบุคคลทั่วไปสามารถแปล 53 ภาษาได้บนอุปกรณ์โดยไม่ต้องเข้าถึงคลาวด์

อ่านครบทั้งหมดแล้ว