ข้ามไปที่เนื้อหา
เฉพาะ จากต้นทาง#Hugging Face
  1. Hugging Face Blog69

    IBM เปิดตัวโมเดลพรีวิว LLMON ที่สร้างบน Granite 4.1 3B และ 8B

    IBM เปิดตัวโมเดลพรีวิวเชิงทดลองสองรุ่น คือ granite-4.1-3b-LLMON-preview และ granite-4.1-8b-LLMON-preview ซึ่งพัฒนามาจากเช็กพอยต์ฐาน Granite 4.1 และฝึกให้อ่านและสร้าง LLMON ซึ่งเป็นภาษามาร์กอัปที่ออกแบบมาเพื่อ LLM โดยเฉพาะ ใช้ตัวคั่นโทเคนพิเศษที่สงวนไว้สำหรับกำกับคำสั่ง ข้อมูล และข้อกำหนด บนเบนช์มาร์ก OPI โมเดลเหล่านี้หลีกเลี่ยงการโจมตีแบบ indirect prompt injection ได้มากกว่าโมเดล frontier ที่ดีที่สุดที่ทดสอบถึง 47% และมากกว่าโมเดลโอเพนซอร์สที่ดีที่สุดถึง 95% ขณะที่ประสิทธิภาพบนเบนช์มาร์กมาตรฐานอยู่ในระดับเดียวกับ Granite 4.1 Instruct การเปิดตัวครั้งนี้มาพร้อมชุดเครื่องมือบน GitHub ที่มีตัวแปลง JSON-to-LLMON แบบไม่สูญเสียข้อมูล และผู้เขียนระบุว่าพรีวิวนี้มีไว้เพื่อการสำรวจ ไม่ใช่สำหรับการใช้งานจริง

    ทำไมเรื่องนี้สำคัญ: IBM ฝึกโมเดลพรีวิวบน Granite 4.1 ที่สามารถอ่านและเขียนแท็ก LLMON ได้ โดยใช้การแยกคำสั่งและข้อมูลอย่างชัดเจนเพื่อลดอัตราความสำเร็จของการโจมตีแบบ indirect prompt injection บนเบนช์มาร์ก OPI ให้ใกล้ศูนย์ ขณะที่ยังคงความสามารถทั่วไปไว้ได้

  1. Amazon Science62

    Amazon เปิดตัว Mitra-v2 โมเดลพื้นฐานสำหรับข้อมูลตารางที่ผ่านการฝึกล่วงหน้าด้วยข้อมูลสังเคราะห์แบบขยายขนาด

    Amazon เปิดตัว Mitra-v2 โมเดลพื้นฐานสำหรับข้อมูลตารางรุ่นที่สองสำหรับการจำแนกประเภทและการถดถอย โดยเผยแพร่พร้อมโมเดลที่ผ่านการปรับแต่งละเอียดและโค้ดสำหรับการอนุมานและการปรับแต่งละเอียดภายใต้สัญญาอนุญาต Apache-2.0 บน Hugging Face โมเดลนี้ผ่านการฝึกล่วงหน้าบนตารางสังเคราะห์ที่มีจำนวนแถวมากกว่า Mitra-v1 ถึง 10 เท่าและมีจำนวนคอลัมน์มากกว่าประมาณ 3 เท่า โดยใช้ไพรเออร์ SCM แบบไฮบริดใหม่และออปติไมเซอร์แบบไฮบริด ขณะที่ยังคงสถาปัตยกรรม Transformer ไว้ไม่เปลี่ยนแปลง บน TabArena ซึ่งเป็นเกณฑ์มาตรฐานสาธารณะที่มีชุดข้อมูลจริง 51 ชุด Mitra-v2 อยู่ในอันดับนำในกลุ่มโมเดลเดี่ยว เอาชนะ Mitra-v1 ได้บน 32 จาก 33 ชุดข้อมูลที่ทั้งสองรันแบบเนทีฟ และรันเสร็จทั้ง 51 ชุดภายในงบเวลาหนึ่งชั่วโมง นอกจากนี้ Mitra-v2 ที่ผ่านการปรับแต่งละเอียดยังอยู่ในอันดับหนึ่งบน ScoringBench

    ทำไมเรื่องนี้สำคัญ: Mitra-v2 แสดงให้เห็นว่าการขยายข้อมูลฝึกล่วงหน้าสังเคราะห์ แทนที่จะเพิ่มความลึกของเครือข่าย ช่วยยกระดับโมเดลพื้นฐานสำหรับข้อมูลตารางขึ้นสู่อันดับนำในกลุ่มโมเดลเดี่ยวของ TabArena

  2. Hugging Face Blog60

    Hugging Face อธิบายโมเดลการตัดสินใจและการรองรับใน Transformers และ llama.cpp

    Hugging Face เผยแพร่บทอธิบายเกี่ยวกับโมเดลการตัดสินใจ ซึ่งรับสถานะพร้อมคำถามที่มีชนิดข้อมูลและคืนค่าความน่าจะเป็นเหนือคำตอบที่กำหนดไว้ล่วงหน้าแทนการสร้างข้อความ โพสต์ดังกล่าวลงรายละเอียดเกี่ยวกับ primitive ของ choice, score และ noul สูตรความเชื่อมั่น และการรองรับใหม่ผ่าน DecisionPipeline และ AutoModelForDecision ของ Transformers, endpoint /v1/systemone ที่ใช้ร่วมกันใน Transformers และ llama.cpp, แท็ก Hub สำหรับการค้นพบ และการ fine-tuning ด้วย Trainer API พร้อมระบุว่า endpoint เดียวกันยังใช้งานได้กับ autoregressive LLM ที่เข้ากันได้โดยการให้คะแนน logits ของคำตอบในการ forward pass แบบแบตช์

    ทำไมเรื่องนี้สำคัญ: Hugging Face อธิบายว่าโมเดลการตัดสินใจเปลี่ยนการจำแนกประเภทให้เป็นอินเทอร์เฟซที่มีชนิดข้อมูลและไม่ใช่เชิงสร้างสรรค์อย่างไร และแสดงวิธีให้บริการและ fine-tune โมเดลเหล่านี้ด้วย Transformers และ llama.cpp

อ่านครบทั้งหมดแล้ว