ข้ามไปที่เนื้อหา
  1. Hacker News · AI88

    Edge0 เปิดซอร์สโมเดลออนดีไวซ์ Edge0-145B และ Edge0-120B พร้อมเฟรมเวิร์กอินเฟอเรนซ์

    Edge0 เปิดซอร์ส Edge0-145B และ Edge0-120B พร้อมเฟรมเวิร์กอินเฟอเรนซ์แบบรวมศูนย์และเครื่องมือสำหรับการดีพลอย โดยอ้างว่า Edge0-145B เป็นโมเดลออนดีไวซ์ขนาด 145B พารามิเตอร์ตัวแรกที่เปิดซอร์ส บริษัทรายงานว่ามีหน่วยความจำสูงสุด 29GB, พรีฟิลล์เกิน 1,100 โทเคน/วินาที, ดีโค้ดเกิน 80 โทเคน/วินาที และใช้พลังงานทั่วไปประมาณ 120W บนแล็ปท็อปที่รองรับ โดยมีคอนเท็กซ์ 128K–256K บริษัทอ้างคะแนนภายในที่ 64.6 บน DeepSWE 1.1, 86.52 บน Terminal-Bench 2.1, 90.4 บน GPQA-Diamond และ 80.6 บน IFBench และระบุว่าน้ำหนักโมเดลอยู่บน Hugging Face พร้อมรองรับ macOS, Windows และ Linux ตั้งแต่วันแรก

    ทำไมเรื่องนี้สำคัญ: Edge0 เปิดซอร์สโมเดลออนดีไวซ์ขนาด 145B ที่รายงานหน่วยความจำสูงสุด 29GB และดีโค้ดเกิน 80 โทเคน/วินาที ซึ่งเป็นข้อมูลเชิงประจักษ์ว่าการอินเฟอเรนซ์ในเครื่องสามารถขยายขนาดได้ไกลเพียงใด

  2. Google DeepMind90

    Google DeepMind เปิดตัว Gemini 4 Hydrogen โมเดล Gemini 4 ที่เร็วขึ้นสำหรับงานเขียนโค้ดและเวิร์กโฟลว์แบบเอเจนต์

    Google DeepMind เปิดตัว Gemini 4 Hydrogen โมเดล Gemini 4 ที่สร้างขึ้นสำหรับการเขียนโค้ดในชีวิตประจำวันอย่างรวดเร็วและการทำงานแบบเอเจนต์ มากกว่าการให้เหตุผลระยะยาวของ Gemini 4 Carbon และ Argon โดยได้คะแนน 51 บน Artificial Analysis Intelligence Index ที่ระดับการคิดสูงเริ่มต้น เทียบกับ 50 ของ Argon และสูงถึง 54 ที่การตั้งค่า xhigh ใหม่ โดยมีราคาคงที่ 1.50 ดอลลาร์ต่อล้านโทเค็นอินพุต และ 7.50 ดอลลาร์ต่อล้านโทเค็นเอาต์พุตตลอดหน้าต่างบริบท 1 ล้านโทเค็น Google ยังเปิดตัว Orchestrator ใน Google Antigravity ซึ่งสลับระหว่างโมเดลอย่าง Carbon และ Hydrogen ภายในเซสชันเดียว และทำอัตราความสำเร็จของงานใกล้เคียง Carbon บน Terminal-Bench 4.0 โดยใช้โควตาน้อยลง 24% และเสร็จเร็วขึ้น 19%

    ทำไมเรื่องนี้สำคัญ: Gemini 4 Hydrogen ของ Google มุ่งเป้าที่การเขียนโค้ดในชีวิตประจำวันอย่างรวดเร็วและงานแบบเอเจนต์ ด้วยราคาคงที่ 1.50/7.50 ดอลลาร์ต่อล้านโทเค็นตลอดหน้าต่างบริบท 1M และ Orchestrator ใหม่ที่สลับระหว่างโมเดล Gemini 4

  3. The Decoder78

    การวิเคราะห์ของ OpenAI ติดตามว่าตัวเลือกในการฝึกทำให้โมเดลแนวหน้าซ่อนการให้เหตุผลของตนอย่างไร

    ทีมความปลอดภัยของ OpenAI วิเคราะห์โมเดลตั้งแต่ GPT-5 ถึง GPT-6 Astra และติดตามการเสื่อมถอยของ chain-of-thought ที่อ่านได้ไปยังปัจจัยการฝึกสี่ประการ ได้แก่ ความสามารถของโมเดลฐานที่เพิ่มขึ้น ตัวเลือกสถาปัตยกรรม การเรียนรู้แบบเสริมกำลังหลังการฝึกก่อน และการสืบทอดจากโมเดลครูระหว่างการกลั่น การให้เหตุผลแบบเงียบเพิ่มขึ้นตามคุณภาพของการฝึกก่อน สถาปัตยกรรมหนึ่งที่ไม่ระบุชื่อแสดงการเพิ่มขึ้นที่ชันกว่ามากในการวางแผนหลายขั้นตอนโดยไม่มี scratchpad และการฝึก RL ที่มากขึ้นทำให้โมเดลระดับ Astra และโมเดล Terra ภายในสามารถควบคุมบันทึกการให้เหตุผลของตนเองได้ดีขึ้น OpenAI กล่าวว่าตนต้องการวิธีการตรวจสอบใหม่นอกเหนือจากการอ่าน scratchpad และตั้งข้อสังเกตว่าโมเดลที่เล็กกว่าซึ่งให้เหตุผลออกมาดังสามารถเทียบเท่าโมเดลที่ใหญ่กว่าที่มี chain of thought สั้นได้ด้วยต้นทุนการคำนวณที่สูงขึ้น

    ทำไมเรื่องนี้สำคัญ: การวิเคราะห์ความปลอดภัยของ OpenAI ติดตามว่าการฝึกก่อน สถาปัตยกรรม RL และการกลั่นจากโมเดลครูแต่ละอย่างกัดกร่อนความสามารถในการตรวจสอบ scratchpad อย่างไร โดยวางกรอบการสูญเสียการให้เหตุผลที่มองเห็นได้ว่าเป็นการแลกเปลี่ยนระหว่างความสามารถ ความปลอดภัย และการคำนวณที่นักพัฒนาต้องเลือก

  1. vLLM Blog60

    vLLM เพิ่มการรองรับ day-0 สำหรับ Inkling 2 Small ของ Thinking Machines

    vLLM รองรับ Inkling 2 Small ของ Thinking Machines ใน day 0 ซึ่งเป็น MoE แบบมัลติโหมดข้อความและภาพที่มีพารามิเตอร์รวม 594B และพารามิเตอร์ที่ใช้งาน 17B และมีบริบทสูงสุด 1M โทเค็น การผสานรวมนี้เพิ่ม kernel fusion กับ PDL, sequence parallelism สำหรับ prefill ที่ลดขั้นตอน prefill 8K โทเค็นลง 22% ที่ TP4 และ 26% ที่ TP8 และ Gluon relative attention decode kernel ที่ลดขั้นตอน decode แบบ batch-1 ที่บริบท 100K จาก 15.1 ms เหลือ 4.8 ms vLLM รายงานสูงสุด 630 TPS/user ที่ TP4 บน GB200 ด้วย acceptance length 3.5 และยังรองรับ LoRA และ RL ผ่าน SkyRL

    ทำไมเรื่องนี้สำคัญ: vLLM รองรับ Inkling 2 Small ในวันเปิดตัวพร้อมให้ข้อมูลการปรับแต่งที่เฉพาะเจาะจงของ kernel fusion, sequence parallelism และ Gluon decode kernel ซึ่งเป็นประโยชน์ต่อทีมที่ปรับใช้โมเดล MoE ขนาดใหญ่

  2. vLLM Blog72

    vLLM ให้บริการ DeepSeek-V4.1-Flash บน Vera Rubin NVL72 ด้วยปริมาณงาน吞吐 58 เท่าของ GB300 NVL72

    vLLM รายงานการให้บริการ DeepSeek-V4.1-Flash บนตู้แร็ค NVIDIA Vera Rubin NVL72 เพียงตู้เดียวที่ 1.7M โทเคน/วินาที ต่อ GPU และ 387 โทเคน/วินาที ต่อผู้ใช้ คิดเป็น 58 เท่าของ GB300 NVL72 โดยพุ่งสูงสุดที่ 2.52M โทเคน/วินาที และ 1,810 โทเคน/วินาทีสำหรับผู้ใช้รายเดียว ผลตอบแทนเหล่านี้มาจากเคอร์เนลที่สร้างใหม่สำหรับโดเมนหน่วยความจำแยกส่วนและเทนเซอร์คอร์ FP4 ของ Rubin เส้นทางการถอดรหัส TP8 เฉพาะทาง และพูล KV และ Engram ทั่วทั้งแร็คที่แชร์ผ่าน NVLink ด้วยการรวมคำนำหน้า (prefix) ทั่วทั้งแร็คและการกำหนดเส้นทางตามภาระงานของ Dynamo อัตราการเข้าถึงคำนำหน้าจึงคงอยู่ที่ 96.5-97% แม้ในสภาวะที่มีการทำงานพร้อมกันสูง

    ทำไมเรื่องนี้สำคัญ: โพสต์ที่สามของ vLLM เกี่ยวกับ DeepSeek-V4.1-Flash อธิบายรายละเอียดว่าเคอร์เนลเฉพาะสำหรับ Rubin และการรวมหน่วยความจำทั่วทั้งแร็คช่วยเพิ่มปริมาณงาน吞吐ได้ 58 เท่าเมื่อเทียบกับ GB300 NVL72 ซึ่งเป็นข้อมูลอ้างอิงที่เป็นรูปธรรมสำหรับการปรับแต่งการให้บริการในระดับขนาดใหญ่

  3. Google Blog · AI78

    Google เปิดตัว Gemini Decisions API และโมเดล Gemini Decision 1 สำหรับการตัดสินใจแบบชุดปิดที่รวดเร็ว

    Google เปิดตัว Gemini Decisions API ซึ่งขับเคลื่อนโดยโมเดลใหม่ Gemini Decision 1 (gemini-decision-1) และพร้อมใช้งานผ่าน Gemini API ใน Google AI Studio อินพุตมัลติโมดัลเดียวสูงสุด 256K โทเค็นสามารถตรวจสอบกับคำถามแบบใช่/ไม่ใช่ แบบเลือกตอบ และแบบให้คะแนนตามเกณฑ์ได้สูงสุด 1,000 ข้อในการส่งต่อเพียงครั้งเดียว โดยคืนค่าความน่าจะเป็นและคะแนนความเชื่อมั่นที่ความหน่วงตั้งแต่ต้นจนจบ 150-250 มิลลิวินาที ในราคา 0.10 ดอลลาร์ต่อ 1M โทเค็นอินพุต โดยไม่มีค่าใช้จ่ายโทเค็นเอาต์พุต Google กล่าวว่าโมเดลนี้เป็นผู้นำชุดการทดสอบมาตรฐานด้วยค่าความคลาดเคลื่อนของการปรับเทียบต่ำที่สุด และมีราคาถูกกว่า Gemini 3.5 Flash-Lite กับ Interactions API เกือบ 5 เท่า การใช้งานภายในรวมถึงการกำหนดเส้นทางโมเดลใน Gemini Notebook การสร้างไวร์เฟรมใน Stitch และการตรวจสอบเนื้อหาเชิง adversar​​ial สำหรับเครื่องมือ MCP ใน Search

    ทำไมเรื่องนี้สำคัญ: เอนด์พอยต์ใหม่ของ Google ให้คะแนนคำถามมัลติมอดัลแบบใช่/ไม่ใช่ แบบเลือกตอบ และแบบตามเกณฑ์ได้สูงสุด 1,000 ข้อในครั้งเดียวที่ 150-250 มิลลิวินาที มอบทางเลือกที่ถูกกว่าการเรียกแบบเจเนอเรทีฟสำหรับการกำหนดเส้นทางของเอเจนต์และการตรวจสอบนโยบาย

  4. Claude Blog78

    Anthropic ตั้ง Claude Opus 5.5 เป็นโมเดลเริ่มต้นในแพ็กเกจ Pro, Max, Ultra และ Team

    Claude Opus 5.5 เป็นโมเดลเริ่มต้นใน Claude สำหรับแพ็กเกจ Pro, Max, Ultra และ Team แล้ว และ Anthropic แนะนำให้ใช้เป็นโมเดลหลักประจำวันสำหรับงานวิจัย การวิเคราะห์ และเอกสาร สไลด์ และสเปรดชีตที่เสร็จสมบูรณ์ Anthropic ระบุว่า Opus 5.5 ที่ระดับความพยายาม Medium ให้ผลเท่าหรือดีกว่า Opus 5 ที่ระดับ High ในการประเมินด้านการเขียนโค้ดและงานความรู้ และในการทดสอบวิเคราะห์การควบรวมกิจการภายใน ทำงานเสร็จใน 63 นาทีด้วยต้นทุนครึ่งหนึ่งของ Opus 5 ในงานเดียวกัน โพสต์ยังระบุการเปลี่ยนแปลงวิธีเขียนพรอมป์สำหรับโมเดลใหม่ รวมถึงการเลิกใช้คำสั่ง 'think hard' การเริ่มที่ระดับความพยายาม Medium และการแนบแผนภูมิแทนการพิมพ์ค่าซ้ำ

    ทำไมเรื่องนี้สำคัญ: คู่มือของ Anthropic เองอธิบายว่าเหตุใด Opus 5.5 จึงเป็นโมเดลเริ่มต้นสำหรับงานความรู้ประจำวัน และนิสัยการเขียนพรอมป์แบบใดที่ควรเลิกใช้กับโมเดลนี้

  1. Google DeepMind88

    Google DeepMind เปิดตัว Gemini 4 Carbon สำหรับการเขียนโค้ดแบบเอเจนต์ ไซเบอร์ซีเคียวริตี้ และการให้เหตุผลเชิงวิทยาศาสตร์

    Google DeepMind เปิดให้ developers, องค์กร, นักวิทยาศาสตร์ และผู้บริโภคใช้งาน Gemini 4 Carbon ได้แล้ว โดยวางตำแหน่งให้เหนือกว่า Gemini 4 Argon สำหรับงานที่ต้องใช้การให้เหตุผลเชิงลึกและโทเคนมากขึ้น Carbon ครองอันดับ 1 บน CursorBench 4.0, WANDR ของ Perplexity และ AutomationBench ของ Zapier ด้วยต้นทุนต่องานต่ำกว่าโมเดลภายนอกที่ดีที่สุดเป็นอันดับถัดไปกว่า 2 เท่า และมีราคาอยู่ที่ 2 ดอลลาร์ต่อล้านโทเคนอินพุต และ 10 ดอลลาร์ต่อล้านโทเคนเอาต์พุต ซึ่งเป็นราคาเปิดตัวเดียวกับ Argon Google ยังได้พรีวิว /swarm ใน Google Antigravity ซึ่งเปลี่ยนพรอมป์เดียวให้กลายเป็นทีมเอเจนต์ที่ทำงานประสานกัน และรายงานว่า Carbon สามารถบล็อกเส้นทางการโจมตีได้ 99% ในการทดสอบจำลองการโจมตีทางไซเบอร์

    ทำไมเรื่องนี้สำคัญ: บันทึกการเปิดตัวของ Google อธิบายว่า Gemini 4 Carbon แลกกับการใช้โทเคนที่สูงขึ้นเพื่อการให้เหตุผลที่ลึกขึ้น โดยครองอันดับ 1 บน CursorBench 4.0, WANDR และ AutomationBench ด้วยต้นทุนต่องานต่ำกว่าครึ่งหนึ่งของโมเดลภายนอกอันดับถัดไป

  1. OpenAI Alignment Blog60

    OpenAI ศึกษาปัจจัยที่ส่งผลต่อความสามารถในการตรวจสอบ CoT ตลอดวงจรชีวิตของโมเดล

    นักวิจัยของ OpenAI ตรวจสอบว่าการฝึกก่อน (pretraining) สถาปัตยกรรม การเรียนรู้แบบเสริมกำลัง (reinforcement learning) และข้อมูลที่สร้างโดยโมเดลส่งผลต่อตัวชี้วัดสองตัวสำหรับความสามารถในการตรวจสอบ chain-of-thought อย่างไร ได้แก่ ความสามารถแบบไม่มี CoT และความสามารถในการควบคุม CoT พวกเขารายงานว่าความสามารถแบบไม่มี CoT ติดตาม perplexity ของโมเดลฐานที่ต่ำลงอย่างราบรื่น ว่าความสามารถในการควบคุม CoT เพิ่มขึ้นระหว่าง RL แม้ไม่มีการกำกับกระบวนการนอกเหนือจากข้อจำกัดด้านความยาวและการให้คะแนนคำตอบสุดท้าย และว่าความสามารถในการควบคุมสามารถส่งต่อไปยังโมเดลนักเรียนผ่าน SFT บน rollouts ของครู ผู้เขียนเตือนว่าตัวชี้วัดทั้งสองไม่สมบูรณ์แบบ และโมเดลอาจตรวจสอบได้ยากขึ้นผ่าน CoT เมื่อความสามารถขยายตัว

    ทำไมเรื่องนี้สำคัญ: การศึกษาในวงจรชีวิตของ OpenAI เชื่อมโยง perplexity ของการฝึกก่อนที่ต่ำลงและการขยาย RL เข้ากับความสามารถในการตรวจสอบ CoT ที่อ่อนลง โดยเสนอกรอบที่ชัดเจนว่าการเลือกการฝึกส่งผลต่อความเสี่ยงในการกำกับดูแลอย่างไร

  2. Latent Space85

    Anthropic เปิดตัว Claude Fable 5.2 และ Mythos 5.2 กลับมาครองอันดับหนึ่ง LLM ขณะเริ่มโรดโชว์ IPO

    Anthropic เปิดตัว Claude Fable 5.2 และ Claude Mythos 5.2 ซึ่งขึ้นอันดับต้นในลีดเดอร์บอร์ดอิสระส่วนใหญ่ รวมถึง Artificial Analysis Intelligence Index v5 ที่ 65 และ SemiAnalysis GDPx ที่ 16.4% ราคาลดลง 20% เหลือ $8/$40 ต่อ 1M โทเคนอินพุต/เอาต์พุต แต่ SemiAnalysis รายงานว่าต้นทุนต่องาน GDPx เพิ่มจาก $67.16 เป็น $88.15 เพราะโมเดลเขียนกรณีทดสอบหลายร้อยถึงหลายพันกรณีและสร้าง subagent เพื่อตรวจงานของตัวเอง การประเมินหลายชุดแสดงให้เห็นว่าระดับความพยายามสูงสุด (max effort) ให้ผลด้อยกว่าระดับ high และ Fable ถูกจำกัดที่ 50% ของขีดจำกัดการสมัครสมาชิกรายสัปดาห์

    ทำไมเรื่องนี้สำคัญ: Anthropic เปิดตัว Fable 5.2 และ Mythos 5.2 พร้อมลดราคาต่อโทเคน 20% แต่การประเมินอิสระกลับพบต้นทุนต่องานสูงขึ้น และการตั้งค่าความพยายามสูงสุดให้ผลด้อยกว่าระดับ high

  3. Hugging Face Blog60

    Hugging Face อธิบายโมเดลการตัดสินใจและการรองรับใน Transformers และ llama.cpp

    Hugging Face เผยแพร่บทอธิบายเกี่ยวกับโมเดลการตัดสินใจ ซึ่งรับสถานะพร้อมคำถามที่มีชนิดข้อมูลและคืนค่าความน่าจะเป็นเหนือคำตอบที่กำหนดไว้ล่วงหน้าแทนการสร้างข้อความ โพสต์ดังกล่าวลงรายละเอียดเกี่ยวกับ primitive ของ choice, score และ noul สูตรความเชื่อมั่น และการรองรับใหม่ผ่าน DecisionPipeline และ AutoModelForDecision ของ Transformers, endpoint /v1/systemone ที่ใช้ร่วมกันใน Transformers และ llama.cpp, แท็ก Hub สำหรับการค้นพบ และการ fine-tuning ด้วย Trainer API พร้อมระบุว่า endpoint เดียวกันยังใช้งานได้กับ autoregressive LLM ที่เข้ากันได้โดยการให้คะแนน logits ของคำตอบในการ forward pass แบบแบตช์

    ทำไมเรื่องนี้สำคัญ: Hugging Face อธิบายว่าโมเดลการตัดสินใจเปลี่ยนการจำแนกประเภทให้เป็นอินเทอร์เฟซที่มีชนิดข้อมูลและไม่ใช่เชิงสร้างสรรค์อย่างไร และแสดงวิธีให้บริการและ fine-tune โมเดลเหล่านี้ด้วย Transformers และ llama.cpp

  4. One Useful Thing78

    Ethan Mollick ทดสอบ Claude Fable 5.2 ในด้านการเขียนโค้ด ธุรกิจ และการวิจัย เรียกได้ว่าเกือบเป็น AGI

    2 ในงานที่ครอบคลุมการแฮ็กฮาร์ดแวร์ การวางแผนธุรกิจ การสร้างหลักสูตรมนุษยศาสตร์ การวิจัยทางวิชาการ และโปรเจกต์พอร์ทัล 3D ที่มี 450 โลก และตัดสินว่าเกือบเป็น AGI ภายใต้คำจำกัดความของเขาที่ว่าต้องเทียบเท่าผู้เชี่ยวชาญของมนุษย์ส่วนใหญ่ในงานทางปัญญาบนคอมพิวเตอร์ส่วนใหญ่

    ทำไมเรื่องนี้สำคัญ: การทดสอบภาคปฏิบัติของ Ethan Mollick ต่อ Claude Fable 5.2 แสดงให้เห็นความสามารถทั่วไปที่แข็งแกร่งในด้านการเขียนโค้ด ธุรกิจ และการวิจัย พร้อมทั้งเผยให้เห็นช่องว่างที่ยังคงอยู่ในการตัดสินด้วยตนเองว่างานดีพอแล้วหรือไม่

  5. Claude YouTube78

    Anthropic เปิดตัว Claude Fable 5.2 สำหรับงานเทคนิคที่ท้าทาย

    Anthropic เปิดตัว Claude Fable 5.2 โมเดลที่ออกแบบมาสำหรับความท้าทายทางเทคนิคที่ยากที่สุดและโครงการเปิดกว้างที่ทะเยอทะยาน โดยมีการปรับปรุงด้านการเขียนโค้ด การให้เหตุผล และการมองเห็น บริษัทแนะนำให้เริ่มต้นด้วย Opus 5.5 สำหรับงานเขียนโค้ดและงานความรู้ส่วนใหญ่ Fable 5.2 เปิดให้ใช้งานแล้ววันนี้ในแผน Pro, Max, Team และ Enterprise

    ทำไมเรื่องนี้สำคัญ: Claude Fable 5.2 มุ่งเป้าไปที่งานเทคนิคแบบเปิดกว้างที่ทะเยอทะยาน โดยมีรายงานการปรับปรุงด้านการเขียนโค้ด การให้เหตุผล และการมองเห็น ขณะที่ Opus 5.5 ยังคงเป็นค่าเริ่มต้นที่แนะนำสำหรับงานเขียนโค้ดและงานความรู้ส่วนใหญ่

  6. Goodfire Research62

    Goodfire ศึกษาเซลล์ประสาทของ Qwen3.6-35B-A3B ในฐานะพื้นฐานที่ตีความได้

    Goodfire Research เผยแพร่งานศึกษาที่โต้แย้งว่าเซลล์ประสาท MLP แต่ละตัวใน Qwen3.6-35B-A3B สามารถตีความได้มากกว่าที่เคยคิด โดยอิงจากการทำให้เบาบาง เครื่องมือระบุที่มา และเอเจนต์วิจัย การตัดการทำงานของแอกทิเวชันเซลล์ประสาท MoE ที่อ่อนที่สุด 92.2% ต่อการส่งผ่านไปข้างหน้าหนึ่งครั้ง ทำให้ loss ของโมเดลภาษาสูงขึ้นเพียง 2.9% และ 69% ของขั้วเซลล์ประสาทมีโหมดเดียวที่รับผิดชอบต่อผลเชิงสาเหตุอย่างน้อย 90% คำอธิบายเซลล์ประสาทด้วยภาษาธรรมชาติทำให้โมเดลผู้ตัดสินสามารถทำนายการทำงานได้ด้วยความแม่นยำ 95% เทียบกับข้อความสุ่ม และฟื้นคืนความเสียหายจากการตัดการทำงานได้ 73% ผ่านการจำลอง

    ทำไมเรื่องนี้สำคัญ: งานศึกษาของ Goodfire เกี่ยวกับเซลล์ประสาทของ Qwen3.6-35B-A3B โต้แย้งว่าแอกทิเวชันที่แข็งแกร่งเพียงลำพังแบกการคำนวณส่วนใหญ่ของโมเดลไว้ พร้อมเสนอทางเลือกที่เป็นรูปธรรมต่อการตีความแบบ feature-dictionary

  1. vLLM Blog77

    REINFORCE Zero: การจัดแนวเคอร์เนลช่วยให้ Async RL เสถียรที่ Policy Lag 64 ขยายไปถึง DeepSeek-V4.1 และ Kimi K3.1

    บทความ REINFORCE Zero ของ NVIDIA Research และ Inferact แสดงให้เห็นว่าการจัดแนวเคอร์เนลของ rollout และ trainer ทำให้ unclipped token-level importance sampling สามารถแก้ไข weight lag ที่เหลืออยู่ได้ ทำให้ฝึกได้อย่างเสถียรถึง 20,000 อัปเดตที่ policy lag 64 และได้ throughput ของ training-step เป็น 2.40 เท่าของการฝึกแบบ synchronous ด้วยเคอร์เนลที่จัดแนวแล้ว ด้วยเคอร์เนลมาตรฐาน ค่ามัธยฐาน rollout-to-learner KL เพิ่มขึ้น 83.33 เท่าตลอดการรัน และ online AIME24 pass@1 ลดลงจาก 34.27% เหลือ 13.96% ขณะที่ sequence gate ช่วยให้การฝึกเสถียรแต่ปฏิเสธ 24.48% ของ sequence ภายใน 1,000 อัปเดตสุดท้าย การตั้งค่า zero-mismatch ครอบคลุม DeepSeek-V4.1-Flash, Kimi K3.1 ในวันเปิดตัว และ DeepSeek-V4-Flash กับ Kimi K3.1 บน AMD MI355X โดยมีโค้ดอยู่ที่ Inferact/zero-mismatch-rl และ NVIDIA-NeMo/labs-molt

    ทำไมเรื่องนี้สำคัญ: NVIDIA Research และ Inferact แยกช่องว่างระหว่าง rollout-learner ของ async RL ออกเป็น weight lag และ kernel mismatch โดยแสดงให้เห็นว่าการจัดแนวเคอร์เนลทำให้ unclipped importance sampling รักษาการฝึกที่เสถียรที่ policy lag 64 ได้

  1. Artificial Analysis Articles78

    Thinking Machines เปิดตัว Inkling 2 Small ได้คะแนน 31 บน Artificial Analysis Intelligence Index

    Thinking Machines เปิดตัว Inkling 2 Small โมเดลการให้เหตุผลแบบ proprietary ที่ได้คะแนน 31 บน Artificial Analysis Intelligence Index v5.0.1 สูงกว่า Inkling Small 18 คะแนน โดยมีแผนจะเปิดน้ำหนักภายใต้ Apache 2.0 ในภายหลังซึ่งยังไม่ยืนยันวันที่ โมเดลขนาด 594B พารามิเตอร์ (ใช้งานจริง 17B) เปิดให้ใช้ก่อนผ่าน Tinker และ Tinker Playground ในราคา $0.30/$1.00 ต่อ 1M โทเคนอินพุต/เอาต์พุต และทำได้เทียบเท่า Gemini 3.8 Flash (high) แต่ตามหลัง Claude Sonnet 5.5 ใน benchmark ด้านการเขียนโค้ดและการ hallucination โดยใช้โทเคนเอาต์พุตเฉลี่ยประมาณ 150K ต่องานใน Intelligence Index หรือราว 4 เท่าของ Inkling Small ในราคา $1.18 ต่องาน เทียบกับ $0.20

    ทำไมเรื่องนี้สำคัญ: การรัน benchmark อิสระของ Artificial Analysis แสดงให้เห็นว่า Inkling 2 Small ได้เปรียบกว่ารุ่นก่อนหน้าตรงไหน และยังตามหลัง Gemini 3.8 Flash และ Claude Sonnet 5.5 ตรงไหน

  1. vLLM Blog73

    Buoyant 发布 Kinference,一个面向 vLLM 和 Kubernetes 的开源推理控制平面

    Buoyant 宣布推出 Kinference,这是一个采用 Apache v2 许可证的开源控制平面,可将兼容 OpenAI 和 Anthropic 的推理流量路由到 Kubernetes 上的 vLLM 工作节点,并新增令牌速率限制、按租户的使用量与成本跟踪、KV 缓存感知负载均衡以及 YAML 推理策略。在该项目的公开基准测试中,与标准 Kubernetes 服务负载均衡相比,Kinference 在某一工作负载上将首令牌时间中位数缩短了 95%,端到端延迟中位数降低了 45%;在容量测试中,共享前缀场景下的有效吞吐量达到 7.4 倍,多轮对话场景下约为 3.5 倍。策略可将较简单的提示词路由到更便宜的模型,将突发溢出流量发送到 Bedrock 和 Databricks 等提供商,或将带有 PII 标记的请求保留在集群内;按租户的指标涵盖令牌速率、TTFT、ITL 以及缓存与未缓存的提示词令牌。

    ทำไมเรื่องนี้สำคัญ: Buoyant 的 Kinference 在 vLLM 之上增加了 KV 缓存感知负载均衡和 YAML 推理策略,基准测试声称其 TTFT 和有效吞吐量相较标准 Kubernetes 服务路由有大幅提升。

  1. Anthropic Research70

    Anthropic เปิดตัว FlashProve ระบบ zkSNARK โอเพนซอร์สสำหรับพิสูจน์การอนุมานของ LLM

    Anthropic เปิดตัว FlashProve ต้นแบบโอเพนซอร์สที่ใช้ zkSNARK เพื่อพิสูจน์ว่าคำตอบมาจากโมเดลที่ผูกพันไว้โดยไม่เปิดเผยน้ำหนักของโมเดล บน Llama 4 Maverick (MoE ขนาด 400B พารามิเตอร์ น้ำหนัก 4-bit) H100 หนึ่งตัวสร้าง proof ได้ประมาณ 110 โทเค็น/วินาที โดยมี proof ขนาด ~19 MB ต่อคำขอ 1,024 โทเค็น คิดเป็นเวลาประมวลผลบน GPU ประมาณ 70-95 เท่าของที่ vLLM ต้องใช้สำหรับงานเดียวกัน การเปิดตัวนี้รวมโค้ด prover และ verifier ที่รันได้, verifier แบบ C++ ที่เร็ว, verifier แบบ Lean พร้อมข้อความ completeness, soundness และ zero-knowledge ที่ตรวจสอบด้วยเครื่อง และรายงานทางเทคนิค ทั้งหมดภายใต้ Apache 2.0

    ทำไมเรื่องนี้สำคัญ: FlashProve ของ Anthropic แสดงให้เห็นว่า proof ของการอนุมานที่อิง zkSNARK กำลังเป็นไปได้จริงสำหรับโมเดล MoE ขนาด 400B พารามิเตอร์ พร้อมโค้ดเปิดและข้อกล่าวอ้างด้านความปลอดภัยที่ตรวจสอบด้วย Lean

  1. Artificial Analysis Articles82

    Gemini 4 Carbon ครองอันดับหนึ่ง Artificial Analysis Intelligence Index v5 อยู่อันดับสอง Coding Agent Index

    Gemini 4 Carbon ของ Google ขึ้นเป็นอันดับ 5 ใหม่ใน Artificial Analysis Coding Agent Index 5 (สูงสุด 62) และนำใน 4 จาก 9 การประเมินของ Index รวมถึง HLE-Diamond และ Terminal-Bench-Science 1 เพิ่มจาก 4% เป็น 11%; โมเดลกำลังทยอยเปิดให้ผู้ใช้บางกลุ่ม และยังไม่เปิดให้ใช้งานทั่วไป

    ทำไมเรื่องนี้สำคัญ: Gemini 4 Carbon ครองอันดับหนึ่ง Artificial Analysis Intelligence Index v5 ที่ 59 และตามหลัง Claude Opus 5.5 อยู่ 3 คะแนนใน Coding Agent Index พร้อมตัวเลขต้นทุนต่องานและอัตราการสร้างข้อมูลเท็จเพื่อการเปรียบเทียบ

  1. Microsoft Research64

    Microsoft Research และผู้ร่วมเขียนพิสูจน์ข้อสันนิษฐาน KLS ที่มีอายุ 31 ปี

    นักวิจัย Microsoft Xinzhi Zhang และผู้ร่วมเขียนได้พิสูจน์ข้อสันนิษฐาน Kannan-Lovász-Simonovits (KLS) ซึ่งเป็นปัญหาที่เปิดอยู่มา 31 ปีในเรขาคณิตมิติสูง โดยแสดงให้เห็นว่าขอบเขตดังกล่าวคงอยู่ด้วยค่าคงที่สากลที่ไม่ขึ้นกับมิติ การพิสูจน์นี้เกิดขึ้นจากกระบวนการเอเจนต์ที่มนุษย์กำกับดูแล ซึ่งเอเจนต์ AI สำรวจแนวทางที่เป็นไปได้มากกว่า 100 แนวทาง ขณะที่นักวิจัยตัดทิ้งและเปลี่ยนทิศทางการค้นหา และความพยายามแบบไม่มีคำแนะนำแยกต่างหากด้วยโมเดลชั้นนำภายใต้งบโทเค็นที่เทียบเคียงกันนั้นไม่ประสบผลสำเร็จ มีการพิสูจน์อีกสองชิ้นปรากฏขึ้นในวันเดียวกัน และต่อมาได้มีการเผยแพร่การทำให้เป็นรูปแบบ Lean 4

    ทำไมเรื่องนี้สำคัญ: ปัญหาที่เปิดอยู่มา 31 ปีในเรขาคณิตมิติสูงได้รับการแก้ไขผ่านการค้นหาแบบเอเจนต์ที่มนุษย์กำกับดูแลเหนือแนวทางที่เป็นไปได้ราว 100 แนวทาง โดยมีการพิสูจน์อิสระและการทำให้เป็นรูปแบบ Lean เป็นการยืนยัน