#推理

NukeTorch: MacBook Pro M5 Max สี่เครื่องให้บริการ NVIDIA GR00T เร็วกว่าผลลัพธ์ H100 ที่เผยแพร่เร็วที่สุด 2.45 เท่า

เอนจิน NukeTorch ของ Fenon AI รันนโยบายหุ่นยนต์ GR00T N1.7 ของ NVIDIA บนเครื่อง MacBook Pro M5 Max สี่เครื่อง ได้ 152.07 action chunks ต่อวินาทีกับไคลเอนต์ 192 ราย เร็วกว่าตัวเลข H100 ที่เผยแพร่เร็วที่สุด 2.45 เท่า และเร็วกว่าตัวเลขที่ NVIDIA เผยแพร่เอง 4.24 เท่า สำหรับคำขอเดียว H100 ยังชนะที่ 16.08 ms เทียบกับ 44.34 ms และเครื่อง Mac สี่เครื่องมีราคาตั้งไว้ที่ $19,996 เทียบกับอย่างน้อย $25,000 สำหรับการ์ด H100 หนึ่งใบ เวอร์ชันหนึ่งเครื่องให้ดาวน์โหลดฟรี ส่วนบิลด์หลายเครื่องต้องมีไลเซนส์เพื่อการประเมิน

ทบทวนหน่วยความจำสำหรับการอนุมาน AI

การนำการประมวลผลเข้าใกล้หน่วยความจำมากขึ้น — ผ่านการประมวลผลใกล้หน่วยความจำ (PNM) และการประมวลผลในหน่วยความจำ (PIM) — สามารถลดการเคลื่อนย้ายข้อมูล การใช้พลังงาน และความหน่วงสำหรับการอนุมาน AI ที่ edge Frank Ferro จาก Cadence กล่าวว่า LLM ที่ย้ายเข้าสู่อุปกรณ์ทางกายภาพกำลังบังคับให้นักออกแบบทบทวนการแบ่งพาร์ติชันหน่วยความจำ ขณะที่ Steve Roddy จาก Quadric ตั้งข้อสังเกตว่ารูปแบบการเข้าถึงข้อมูลที่เป็นที่รู้จักของการอนุมานเหมาะกับการคอมไพล์ล่วงหน้า การสนับสนุนซอฟต์แวร์ การกำหนดมาตรฐาน และการจัดการความร้อนยังคงเป็นอุปสรรคต่อการนำไปใช้

Google เปิดตัว TPU Sync ไลบรารีโอเพนซอร์สสำหรับถ่ายโอน KV cache บน Cloud TPU

Google Cloud ได้เปิดตัว TPU Sync ไลบรารี C++ ภายใต้สัญญาอนุญาต Apache-2.0 ที่ย้าย KV cache และน้ำหนักโมเดลข้าม TPU HBM, pinned host DRAM, พื้นที่จัดเก็บแบบใช้ร่วมกัน และเครือข่ายศูนย์ข้อมูล ในการทดสอบภายในเมื่อกรกฎาคม 2026 บน TPU v7x Google รายงานว่าภาระการถ่ายโอน KV ลดลงกว่า 90% โดยค่ามัธยฐานเวลาแฝงในการถ่ายโอน KV ของ Qwen3 235B ลดลงจากหลายวินาทีเหลือประมาณ 230 ms และค่าเฉลี่ย TTFT ลดลง 60% สำหรับ 235B และ 90% สำหรับ 480B ที่ภาวะพร้อมกันต่ำ ไลบรารีนี้ผสานรวมกับ PyTorch ผ่าน TorchTPU และกับ JAX โดยทำหน้าที่เป็น KV connector ใน vLLM-TorchTPU และเป็นแบ็กเอนด์การถ่ายโอน P/D ใน SGLang-TorchTPU แม้ว่า README ระบุว่ายังไม่แนะนำให้ใช้งานทั่วไป

ทำไมฉันถึงรัก AI: เหตุผลของนักวิจัยต่อสาขาที่ประสบความสำเร็จด้วยการล้มเหลว

นักวิจัยด้านวิทยาการคอมพิวเตอร์ที่เริ่มศึกษาด้าน AI เมื่อยี่สิบปีก่อนอธิบายว่าทำไมสาขานี้ยังคงมีที่ในประวัติย่อของเขา ชื่อเสียงด้านความล้มเหลวของ AI เกิดจาก "AI Effect" ที่ระบบที่ทำงานได้แล้วจะไม่ถูกเรียกว่า AI อีกต่อไป เหลือไว้เพียงปัญหาที่ยังแก้ไม่ได้ภายใต้ชื่อนั้น สาขานี้สร้างขึ้นบนการประมาณคำตอบมากกว่าการได้คำตอบที่สมบูรณ์แบบ ดังที่ Travelling Salesman Problem แสดงให้เห็น

เปิดตัว SingVL-4B GGUF: บิลด์ GGUF ของโมเดลตัดสินใจมัลติโหมดัล Sing VL S1 4B บน Qwen3.5

Sing VL S1 โมเดลตัดสินใจมัลติโหมดัลขนาด 4B พารามิเตอร์ที่สร้างบน Qwen3.5 ขณะนี้มี GGUF release สำหรับการอนุมานบน CPU ผ่าน llama.cpp แล้ว จัดส่งในรูปแบบ decoder BF16 (8.42 GB), Q8_0 (4.48 GB) และ Q4_K_M (2.71 GB) พร้อม vision projector F16 ที่ใช้ร่วมกัน โดยมี context ขนาด 4096 โทเคนเป็นค่าเริ่มต้น การตรวจสอบ GGUF ครอบคลุม 9 ตัวอย่างและ 11 คำถาม คะแนนสาธารณะแบบเต็มสำหรับ GGUF variants ยังอยู่ระหว่างรอ

Google เปิดตัว Gemini 4 Hydrogen โมเดลต้นทุนต่ำที่สุดในตระกูล Gemini 4

Google เปิดตัว Gemini 4 Hydrogen โมเดลต้นทุนต่ำที่สุดในตระกูล Gemini 4 ในราคา 1.50 ดอลลาร์ต่อล้านโทเค็นอินพุต, 0.075 ดอลลาร์สำหรับอินพุตแคช และ 7.50 ดอลลาร์ต่อล้านโทเค็นเอาต์พุต Simon Willison ตั้งข้อสังเกตว่า Carbon และ Argon มีราคา 2.00/0.10/10.00 ดอลลาร์จนถึงวันที่ 30 พ.ย. 2026 และจะเพิ่มเป็นสองเท่าตั้งแต่ 1 ธ.ค. 2026 ดังนั้น Hydrogen ในปัจจุบันจึงถูกกว่าโมเดลพี่น้องที่ใหญ่กว่าเพียงประมาณ 25% ซึ่งช่องว่างนี้จะกว้างขึ้นเป็นประมาณ 75% หลังจากการขึ้นราคา Hydrogen ยังเป็นโมเดลระดับฟรีใหม่และจะขับเคลื่อนฟีเจอร์ AI ใน Google Search

เหตุการณ์เดียวกัน รายการคัดสรรอ้างถึง“Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows”

InferSSD รัน LLM ระดับ 800B บนฮาร์ดแวร์สำหรับผู้ใช้ทั่วไป โดยเก็บน้ำหนัก expert ไว้บน NVMe

InferSSD ซึ่งเป็นรันไทม์สำหรับการอนุมานแบบโอเพนซอร์สที่สร้างบน llama.cpp สามารถรัน DeepSeek-V4.1-Flash-1017 ระดับ 763B และ Muse-Spark-Open ระดับ 816B บนเครื่องของผู้ใช้ทั่วไป โดยเก็บน้ำหนัก routed expert ไว้บนที่เก็บข้อมูล NVMe ขณะที่ attention เลเยอร์ที่ใช้ร่วมกัน และ KV cache ยังคงอยู่ใน RAM หรือ VRAM บน RTX 5090 ที่มี RAM 32 GB และ VRAM 32 GB มีรายงานว่าได้ 164.5 tokens/s สำหรับ prefill และ 7.27 tokens/s สำหรับ decode สำหรับ DeepSeek ที่ระดับพรอมต์ 4K เทียบกับ 8.06 และ 0.867 tokens/s สำหรับ llama.cpp บนระบบเดียวกัน บทความยังประเมินว่าการใช้งานหนักในแต่ละวันอาจหมายถึงการอ่านจากโฮสต์ประมาณ 85 TB ต่อวัน และนำเสนอแบบจำลองการสึกหรอของ SSD แบบมีเงื่อนไข โดยระบุว่าตัวเลขเหล่านี้เป็นสมมติฐานที่ต้องทดสอบ ไม่ใช่การรับประกันอายุการใช้งานของไดรฟ์

Google เปิดตัว Gemini 4 Hydrogen โมเดลประมวลผลเร็วสำหรับงานเขียนโค้ดและเวิร์กโฟลว์แบบเอเจนต์

Google เปิดตัว Gemini 4 Hydrogen โมเดลที่สร้างขึ้นเพื่อการประมวลผลที่รวดเร็วในงานเขียนโค้ดประจำวันและเวิร์กโฟลว์แบบเอเจนต์ โดยเปิดให้ใช้งานทั่วโลกผ่าน Gemini API, AI Studio, Gemini for business, แอป Gemini, Google Search และ Google Antigravity

เหตุการณ์เดียวกัน รายการคัดสรรอ้างถึง“Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows”

Air-LLM: การกระจายน้ำหนัก AI ไปยังอุปกรณ์ Edge ผ่าน RF Computing สำหรับการอนุมาน LLM แบบทันที

Air-LLM เป็นสถาปัตยกรรมการอนุมาน LLM บน Edge ที่วิทยุกลาง เช่น สถานีฐาน 5G กระจายน้ำหนักโมเดลผ่านอากาศ และผู้ใช้ Edge ทำ GEMV เสร็จสิ้นโดยตรงในโดเมน RF ด้วย RF mixer ทำให้อุปกรณ์ไม่ต้องจัดเก็บหรือโหลดน้ำหนักเลย จากการทดสอบบนช่องสัญญาณ ray-traced ของ NVIDIA Sionna ในฉากเมืองจริงสองแห่งด้วยโปรไฟล์ RF mixer จริง พบว่าจำกัดการเสื่อมของ perplexity บน WikiText-2 สำหรับ LLaMA-3.1-8B ไว้ที่ 4.0% พร้อมประหยัดพลังงาน 157.7x/40.4x เมื่อเทียบกับ baseline FP16 และ weight-only quantization เมื่อมีผู้ใช้ 20 คน ใช้เวลาออกอากาศสั้นลง 104.1x/26.0x และเนื่องจากวิทยุกลางไม่รับรู้ถึงผู้ใช้ การกระจายครั้งเดียวจึงรองรับผู้ใช้ได้ไม่จำกัดในพื้นที่ครอบคลุม

Cloudflare Workers AI เปิดตัว Clairic แบบพรีวิว โมเดลสกัดข้อมูลสไตล์ System One

Cloudflare Workers AI ได้เปิดตัว Clairic ในรูปแบบพรีวิว ซึ่งเป็นโมเดลสกัดข้อมูลแบบ strongly typed ที่ดึงข้อมูล คำนวณ ประมาณการ และพยากรณ์ค่าจากอินพุต พร้อมส่งคืนคะแนนความเชื่อมั่นและความน่าจะเป็นสำหรับแต่ละเอาต์พุต โมเดลนี้มีหน้าต่างบริบท 65,536 โทเคน รองรับวิชัน มีการเก็บข้อมูลเป็นศูนย์ และมีราคา $0.10 ต่อ 1 ล้านโทเคนอินพุต ในตัวอย่างใบแจ้งหนี้ที่ dokumented ไว้ Clairic สกัดฟิลด์ต่างๆ เช่น หมายเลขใบแจ้งหนี้ วันครบกำหนด และยอดรวม ส่งคืน null พร้อม p_null 1 สำหรับหมายเลข PO ที่หายไป และให้ค่ามัธยฐาน 30 พร้อมช่วง p10-p90 ที่ 21 ถึง 38 สำหรับ days_to_pay

เทรเวอร์ แพกเลน ว่าด้วยเอไออ่านใจและการกัดกร่อนความเป็นส่วนตัวภายใน

ศิลปินเทรเวอร์ แพกเลน เล่าถึงการทดลอง fMRI สองวันที่มหาวิทยาลัยคอร์เนล ซึ่งระบบเอไอชื่อ NeuroGen ทำนายการตอบสนองของสมองเขาและสร้างภาพเพื่อกระตุ้นกิจกรรมเฉพาะ ทำให้เขารู้สึกว่าสมองของเขาถูกอ่าน เขาไล่เรียงพัฒนาการของสาขานี้ตั้งแต่การสร้างวิดีโอภาพเบลอของแจ็ก แกลแลนต์ในปี 2011 ไปจนถึงการถอดรหัสข้อความจากกิจกรรมสมองด้วย LLM ของอเล็กซ์ ฮัท และตั้งข้อสังเกตว่า Meta จ่ายเงิน 500 ล้านถึง 1 พันล้านดอลลาร์เพื่อซื้อสตาร์ทอัพสายรัดข้อมือที่แปลงสัญญาณสมองเป็นคำสั่งคอมพิวเตอร์ ราฟาเอล ยูสเต ผู้ทำให้หนูเห็นภาพลวงด้วยเลเซอร์ ร่วมก่อตั้ง Neurorights Foundation เพื่อสร้างกรอบกฎหมายคุ้มครองข้อมูลสมอง

Edge0 เปิดซอร์สโมเดลออนดีไวซ์ Edge0-145B และ Edge0-120B พร้อมเฟรมเวิร์กอินเฟอเรนซ์

Edge0 เปิดซอร์ส Edge0-145B และ Edge0-120B พร้อมเฟรมเวิร์กอินเฟอเรนซ์แบบรวมศูนย์และเครื่องมือสำหรับการดีพลอย โดยอ้างว่า Edge0-145B เป็นโมเดลออนดีไวซ์ขนาด 145B พารามิเตอร์ตัวแรกที่เปิดซอร์ส บริษัทรายงานว่ามีหน่วยความจำสูงสุด 29GB, พรีฟิลล์เกิน 1,100 โทเคน/วินาที, ดีโค้ดเกิน 80 โทเคน/วินาที และใช้พลังงานทั่วไปประมาณ 120W บนแล็ปท็อปที่รองรับ โดยมีคอนเท็กซ์ 128K–256K บริษัทอ้างคะแนนภายในที่ 64.6 บน DeepSWE 1.1, 86.52 บน Terminal-Bench 2.1, 90.4 บน GPQA-Diamond และ 80.6 บน IFBench และระบุว่าน้ำหนักโมเดลอยู่บน Hugging Face พร้อมรองรับ macOS, Windows และ Linux ตั้งแต่วันแรก

Google เปิดตัว Gemini 4 Hydrogen เป็นโมเดลเริ่มต้นใน AI Mode และ AI Overviews

Google เปิดตัว Gemini 4 Hydrogen โมเดลใหม่ที่บริษัทกล่าวว่าให้คำตอบที่เป็นประโยชน์มากขึ้นสำหรับคำถามที่ซับซ้อน รวมถึงคำถามที่มีหลายส่วน พิมพ์ผิดที่เข้าใจยาก หรือคำขอที่เฉพาะเจาะจงมาก เปิดให้ใช้งานได้ตั้งแต่วันนี้ใน Search, แอป Gemini, Google AI Studio ทุกระดับ, Gemini API, Gemini for business และ Google Antigravity สำหรับสมาชิก AI Pro และ Ultra และ Robby Stein รองประธาน Google Search กล่าวว่าโมเดลนี้เป็นโมเดลเริ่มต้นใน AI Mode และถูกใช้สำหรับคำถามที่ยากที่สุดใน AI Overviews

เหตุการณ์เดียวกัน รายการคัดสรรอ้างถึง“Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows”

ตัวเลือกการอนุมานสี่แบบของ Amazon Bedrock ที่ส่งผลต่อค่าใช้จ่าย

ระยะเวลาแคช ระดับบริการ ความพยายามในการให้เหตุผล และการตั้งค่า maxTokens ของ Amazon Bedrock สามารถเปลี่ยนค่าใช้จ่ายในการอนุมานโดยไม่ต้องเปลี่ยนโมเดลหรือพรอมต์ การเขียนแคช 5 นาทีบน Claude Sonnet 5 และ Claude Opus 5 มีค่าใช้จ่าย 1.25 เท่าของอัตราอินพุต การเขียนแคช 1 ชั่วโมงมีค่าใช้จ่าย 2 เท่า และการอ่านแคชมีค่าใช้จ่าย 0.1 เท่า คำขอระดับ Flex ไปยังโมเดลที่ไม่รองรับจะล้มเหลวด้วย ValidationException

Google เปิดตัว Gemini 4 Hydrogen แทนที่ 3.8 Flash ทั่วทั้งผลิตภัณฑ์

Google ได้เปิดตัว Gemini 4 Hydrogen ซึ่งเข้ามาแทนที่ Gemini 3.8 Flash ทั่วทั้งผลิตภัณฑ์ของบริษัท โดยเปิดให้ใช้งานได้ทันที แทนที่จะเป็นการเปิดตัวแบบทยอยเป็นขั้นและจำกัดเฉพาะแพ็กเกจแบบเสียค่าใช้จ่ายเหมือนกับการเปิดตัว Argon และ Carbon เมื่อเร็วๆ นี้ Google ระบุว่า Hydrogen ทำงานที่หนึ่งในสี่ระดับการคิด (low, medium, high และ xhigh ที่ใหม่) และเร็วกว่า Flash 3.8 ถึง 2.5 เท่าแม้ในโหมด high พร้อมลดข้อกล่าวอ้างที่กุขึ้นได้มากกว่า 5 เท่า นอกจากนี้ยังทำคะแนน Terminal-Bench ได้มากกว่าสามเท่าของ 3.8 Flash และทำได้ 54 คะแนนบน Artificial Analysis Intelligence Index ในโหมด xhigh เทียบกับ 50 ของ Argon

เหตุการณ์เดียวกัน รายการคัดสรรอ้างถึง“Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows”

Google เปิดตัว Gemini 4 Hydrogen เพื่อขับเคลื่อนคำตอบ Search ที่ซับซ้อนยิ่งขึ้น

Google เปิดตัว Gemini 4 Hydrogen โมเดลที่ทำงานเร็ว ซึ่งบริษัทเรียกว่าการปรับปรุง Search ที่ใหญ่ที่สุดเท่าที่เคยมีมา และกำลังทยอยอัปเดตให้ผู้ใช้ Search ทั่วโลก Google ระบุว่า Hydrogen ทำงานเสร็จเร็วเป็น 2.5 เท่าของ Gemini 3.8 Flash และเอาชนะ Gemini 4 Argon ที่ทรงพลังกว่าได้บน Artificial Analysis Intelligence Index ที่ระดับการคิดสูงเริ่มต้นของมัน ใน Search มันช่วยปรับปรุงความเข้าใจเจตนา การจัดการคำผิด การแตกคำค้นย่อย และการตอบสนองแบบภาพใน AI Mode และยังจะมาถึง AI Studio, Gemini API, Gemini App และ Antigravity ด้วย

เหตุการณ์เดียวกัน รายการคัดสรรอ้างถึง“Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows”

Google DeepMind เปิดตัว Gemini 4 Hydrogen โมเดล Gemini 4 ที่เร็วขึ้นสำหรับงานเขียนโค้ดและเวิร์กโฟลว์แบบเอเจนต์

Google DeepMind เปิดตัว Gemini 4 Hydrogen โมเดล Gemini 4 ที่สร้างขึ้นสำหรับการเขียนโค้ดในชีวิตประจำวันอย่างรวดเร็วและการทำงานแบบเอเจนต์ มากกว่าการให้เหตุผลระยะยาวของ Gemini 4 Carbon และ Argon โดยได้คะแนน 51 บน Artificial Analysis Intelligence Index ที่ระดับการคิดสูงเริ่มต้น เทียบกับ 50 ของ Argon และสูงถึง 54 ที่การตั้งค่า xhigh ใหม่ โดยมีราคาคงที่ 1.50 ดอลลาร์ต่อล้านโทเค็นอินพุต และ 7.50 ดอลลาร์ต่อล้านโทเค็นเอาต์พุตตลอดหน้าต่างบริบท 1 ล้านโทเค็น Google ยังเปิดตัว Orchestrator ใน Google Antigravity ซึ่งสลับระหว่างโมเดลอย่าง Carbon และ Hydrogen ภายในเซสชันเดียว และทำอัตราความสำเร็จของงานใกล้เคียง Carbon บน Terminal-Bench 4.0 โดยใช้โควตาน้อยลง 24% และเสร็จเร็วขึ้น 19%

การวิเคราะห์ของ OpenAI ติดตามว่าตัวเลือกในการฝึกทำให้โมเดลแนวหน้าซ่อนการให้เหตุผลของตนอย่างไร

ทีมความปลอดภัยของ OpenAI วิเคราะห์โมเดลตั้งแต่ GPT-5 ถึง GPT-6 Astra และติดตามการเสื่อมถอยของ chain-of-thought ที่อ่านได้ไปยังปัจจัยการฝึกสี่ประการ ได้แก่ ความสามารถของโมเดลฐานที่เพิ่มขึ้น ตัวเลือกสถาปัตยกรรม การเรียนรู้แบบเสริมกำลังหลังการฝึกก่อน และการสืบทอดจากโมเดลครูระหว่างการกลั่น การให้เหตุผลแบบเงียบเพิ่มขึ้นตามคุณภาพของการฝึกก่อน สถาปัตยกรรมหนึ่งที่ไม่ระบุชื่อแสดงการเพิ่มขึ้นที่ชันกว่ามากในการวางแผนหลายขั้นตอนโดยไม่มี scratchpad และการฝึก RL ที่มากขึ้นทำให้โมเดลระดับ Astra และโมเดล Terra ภายในสามารถควบคุมบันทึกการให้เหตุผลของตนเองได้ดีขึ้น OpenAI กล่าวว่าตนต้องการวิธีการตรวจสอบใหม่นอกเหนือจากการอ่าน scratchpad และตั้งข้อสังเกตว่าโมเดลที่เล็กกว่าซึ่งให้เหตุผลออกมาดังสามารถเทียบเท่าโมเดลที่ใหญ่กว่าที่มี chain of thought สั้นได้ด้วยต้นทุนการคำนวณที่สูงขึ้น

OpenRouter เปรียบเทียบต้นทุน LLM แบบโฮสต์เองกับ API ด้วยการคำนวณจุดคุ้มทุนตามโหลด

OpenRouter เผยแพร่การวิเคราะห์จุดคุ้มทุนที่แสดงว่าเมื่อใดการโฮสต์ LLM แบบเปิดน้ำหนักเองมีต้นทุนต่ำกว่าการเรียกผ่าน API โดยใช้ราคาต่อผู้ให้บริการ ณ วันที่ 8 ตุลาคม 2026 ที่ราคาดังกล่าว Qwen3.8 27B บน RTX 3090 เช่าเครื่องละ 0.50 ดอลลาร์ต่อชั่วโมงคุ้มทุนที่โหลด 6 ถึง 12% ขณะที่ DeepSeek V4.1 Flash บน H200 สี่ตัวไม่เคยเอาชนะ endpoint แบบ zero-data-retention ที่ถูกที่สุดได้ โพสต์ยังระบุว่า provider.zdr และโดเมน EU และ US ครอบคลุมความต้องการด้านความเป็นส่วนตัวส่วนใหญ่ได้โดยไม่ต้องโฮสต์เอง และแนะนำให้รันโหลดพื้นฐานsteady ไว้ในเครื่องท้องถิ่นพร้อมส่งช่วงพีคไปที่ API

vLLM เพิ่มการรองรับ day-0 สำหรับ Inkling 2 Small ของ Thinking Machines

vLLM รองรับ Inkling 2 Small ของ Thinking Machines ใน day 0 ซึ่งเป็น MoE แบบมัลติโหมดข้อความและภาพที่มีพารามิเตอร์รวม 594B และพารามิเตอร์ที่ใช้งาน 17B และมีบริบทสูงสุด 1M โทเค็น การผสานรวมนี้เพิ่ม kernel fusion กับ PDL, sequence parallelism สำหรับ prefill ที่ลดขั้นตอน prefill 8K โทเค็นลง 22% ที่ TP4 และ 26% ที่ TP8 และ Gluon relative attention decode kernel ที่ลดขั้นตอน decode แบบ batch-1 ที่บริบท 100K จาก 15.1 ms เหลือ 4.8 ms vLLM รายงานสูงสุด 630 TPS/user ที่ TP4 บน GB200 ด้วย acceptance length 3.5 และยังรองรับ LoRA และ RL ผ่าน SkyRL

vLLM ให้บริการ DeepSeek-V4.1-Flash บน Vera Rubin NVL72 ด้วยปริมาณงาน吞吐 58 เท่าของ GB300 NVL72

vLLM รายงานการให้บริการ DeepSeek-V4.1-Flash บนตู้แร็ค NVIDIA Vera Rubin NVL72 เพียงตู้เดียวที่ 1.7M โทเคน/วินาที ต่อ GPU และ 387 โทเคน/วินาที ต่อผู้ใช้ คิดเป็น 58 เท่าของ GB300 NVL72 โดยพุ่งสูงสุดที่ 2.52M โทเคน/วินาที และ 1,810 โทเคน/วินาทีสำหรับผู้ใช้รายเดียว ผลตอบแทนเหล่านี้มาจากเคอร์เนลที่สร้างใหม่สำหรับโดเมนหน่วยความจำแยกส่วนและเทนเซอร์คอร์ FP4 ของ Rubin เส้นทางการถอดรหัส TP8 เฉพาะทาง และพูล KV และ Engram ทั่วทั้งแร็คที่แชร์ผ่าน NVLink ด้วยการรวมคำนำหน้า (prefix) ทั่วทั้งแร็คและการกำหนดเส้นทางตามภาระงานของ Dynamo อัตราการเข้าถึงคำนำหน้าจึงคงอยู่ที่ 96.5-97% แม้ในสภาวะที่มีการทำงานพร้อมกันสูง

การเปรียบต่างเชิงความหมายของนโยบายเชิงรูปแบบด้วยแอนติ-ยูนิฟิเคชัน

เอนจินโอเพนซอร์สคำนวณการเปรียบต่างเชิงความหมายของนโยบายเชิงรูปแบบโดยใช้แอนติ-ยูนิฟิเคชันบนอีกราฟ แสดงโครงสร้างที่ใช้ร่วมกันเพียงครั้งเดียวและเก็บทั้งสองเวอร์ชันของแต่ละส่วนที่แตกต่างกัน โดยมุ่งเป้าไปที่ผลลัพธ์ของการทำให้เป็นรูปแบบอัตโนมัติในนโยบาย SMT-LIB, Cedar, Dogwood, OpenShell และ CEL ซึ่ง LLM เขียนอาร์ติแฟกต์แต่ไม่มีส่วนในการคำนวณการเปรียบต่าง

Google เปิดตัว Gemini Decisions API พร้อม Gemini Decision 1 ในราคา $0.10 ต่อ 1M โทเคน

Google เปิดตัว Gemini Decisions API ซึ่งขับเคลื่อนโดยโมเดลใหม่ชื่อ Gemini Decision 1 (gemini-decision-1) ที่ไม่สร้างข้อความ แต่ให้คะแนนคำถามแบบมีชนิดได้สูงสุด 1,000 ข้อเทียบกับอินพุตที่แชร์ร่วมกันหนึ่งรายการ และคืนค่าความน่าจะเป็นที่ปรับเทียบแล้ว โดยอ่านข้อความ รูปภาพ เสียง วิดีโอ และ PDF ในรอบ prefill เดียว รองรับคำถามชนิดใช่/ไม่ใช่ ตัวเลือก และคะแนน ราคาอยู่ที่ $0.10 ต่อ 1M โทเคนอินพุต โดยไม่คิดค่าตัวอย่างเอาต์พุต Google รายงานบริบท 262,144 โทเคน ความหน่วงตั้งแต่ต้นจนจบ 150-250 ms และ top-1 ECE ที่ 0.0250 ซึ่งประมาณครึ่งหนึ่งของ TypeSafe Jev 1.14 แม้ว่าจะตามหลัง Jev ใน benchmark When2Call (79.9% vs 82.0%) และมีราคาต่อโทเคนสูงกว่า ($0.10 vs $0.042)

AWS re:Invent 2026 สาย AI/ML: คู่มือสำหรับผู้เข้าร่วม

AWS จะจัดการประชุม re:Invent ประจำปีระหว่างวันที่ 30 พฤศจิกายนถึง 4 ธันวาคม โดยสาย AI/ML มีเซสชันที่ไม่ซ้ำกันกว่า 140 เซสชันจากเซสชันการเรียนรู้ทั้งหมดกว่า 2,000 เซสชัน คู่มือนี้จับคู่เซสชันกับสแตก AI ของ AWS ครอบคลุมตั้งแต่ชิป AI (AWS Trainium และ NVIDIA GPUs) โมเดลและการอนุมานบน Amazon Bedrock และ SageMaker AI ไปจนถึงการพัฒนาเอเจนต์ด้วย Amazon Bedrock AgentCore เซสชันถูกจัดเรียงตั้งแต่เนื้อหาสำหรับผู้เริ่มต้นไปจนถึงการเจาะลึกเชิงเทคนิค และหลายเซสชันสามารถรับชมแบบ on demand ได้

Google DeepMind เปิดตัว Gemini Decisions API และโมเดล Gemini Decision 1

Google DeepMind เปิดตัว Gemini Decisions API ซึ่งสร้างขึ้นสำหรับการตัดสินใจแบบปิด เช่น คำถามใช่/ไม่ใช่ ตัวเลือกหลายข้อ และการให้คะแนนตามมาตรา โดยมีโมเดลพื้นฐาน Gemini Decision 1 ประมวลผลคำถามอิสระได้สูงสุด 1,000 ข้อในการเรียกครั้งเดียว ครอบคลุมข้อความ รูปภาพ เสียง วิดีโอ และ PDF โดยส่งคืนความน่าจะเป็นพร้อมค่าความเชื่อมั่นใน 150 ถึง 250 มิลลิวินาที และมีค่าใช้จ่าย $0.10 ต่อล้านโทเค็นอินพุต โดยไม่มีค่าใช้จ่ายโทเค็นเอาต์พุต ซึ่ง Google กล่าวว่าถูกกว่าประมาณห้าเท่าเมื่อเทียบกับ Gemini 3.5 Flash-Lite API นี้พร้อมใช้งานแล้วผ่าน Google AI Studio พร้อมการผสานรวมสำหรับ OpenRouter, LangChain และ Vercel ที่กำลังทยอยเปิดตัว และ Google กล่าวว่าบริษัทใช้มันภายในอยู่แล้วสำหรับการกำหนดเส้นทางโมเดลใน Gemini Notebook การสร้างต้นแบบการออกแบบใน Stitch และการตรวจสอบความปลอดภัยใน Google Search

เหตุการณ์เดียวกัน รายการคัดสรรอ้างถึง“Google launches Gemini Decisions API and Gemini Decision 1 model for fast closed-set decisions”

Google เปิดตัว Gemini Decisions API และโมเดล Gemini Decision 1 สำหรับการตัดสินใจแบบชุดปิดที่รวดเร็ว

Google เปิดตัว Gemini Decisions API ซึ่งขับเคลื่อนโดยโมเดลใหม่ Gemini Decision 1 (gemini-decision-1) และพร้อมใช้งานผ่าน Gemini API ใน Google AI Studio อินพุตมัลติโมดัลเดียวสูงสุด 256K โทเค็นสามารถตรวจสอบกับคำถามแบบใช่/ไม่ใช่ แบบเลือกตอบ และแบบให้คะแนนตามเกณฑ์ได้สูงสุด 1,000 ข้อในการส่งต่อเพียงครั้งเดียว โดยคืนค่าความน่าจะเป็นและคะแนนความเชื่อมั่นที่ความหน่วงตั้งแต่ต้นจนจบ 150-250 มิลลิวินาที ในราคา 0.10 ดอลลาร์ต่อ 1M โทเค็นอินพุต โดยไม่มีค่าใช้จ่ายโทเค็นเอาต์พุต Google กล่าวว่าโมเดลนี้เป็นผู้นำชุดการทดสอบมาตรฐานด้วยค่าความคลาดเคลื่อนของการปรับเทียบต่ำที่สุด และมีราคาถูกกว่า Gemini 3.5 Flash-Lite กับ Interactions API เกือบ 5 เท่า การใช้งานภายในรวมถึงการกำหนดเส้นทางโมเดลใน Gemini Notebook การสร้างไวร์เฟรมใน Stitch และการตรวจสอบเนื้อหาเชิง adversar​​ial สำหรับเครื่องมือ MCP ใน Search

Anthropic ตั้ง Claude Opus 5.5 เป็นโมเดลเริ่มต้นในแพ็กเกจ Pro, Max, Ultra และ Team

Claude Opus 5.5 เป็นโมเดลเริ่มต้นใน Claude สำหรับแพ็กเกจ Pro, Max, Ultra และ Team แล้ว และ Anthropic แนะนำให้ใช้เป็นโมเดลหลักประจำวันสำหรับงานวิจัย การวิเคราะห์ และเอกสาร สไลด์ และสเปรดชีตที่เสร็จสมบูรณ์ Anthropic ระบุว่า Opus 5.5 ที่ระดับความพยายาม Medium ให้ผลเท่าหรือดีกว่า Opus 5 ที่ระดับ High ในการประเมินด้านการเขียนโค้ดและงานความรู้ และในการทดสอบวิเคราะห์การควบรวมกิจการภายใน ทำงานเสร็จใน 63 นาทีด้วยต้นทุนครึ่งหนึ่งของ Opus 5 ในงานเดียวกัน โพสต์ยังระบุการเปลี่ยนแปลงวิธีเขียนพรอมป์สำหรับโมเดลใหม่ รวมถึงการเลิกใช้คำสั่ง 'think hard' การเริ่มที่ระดับความพยายาม Medium และการแนบแผนภูมิแทนการพิมพ์ค่าซ้ำ

inclusionAI เปิดตัว LemonDecider 4B v3 โมเดลตัดสินใจที่อิงจาก Qwen3.5-4B

inclusionAI เปิดตัว LemonDecider 4B v3 โมเดลตัดสินใจที่ผ่านการ fine-tune จาก Qwen3.5-4B ซึ่งคืนค่าความน่าจะเป็นของตัวเลือก ใช่/ไม่ใช่ หรือลำดับ ผ่านการ forward pass แบบร่วมเพียงครั้งเดียว แทนการสร้างโทเค็นคำตอบ ฝึกบนข้อมูล decision/QA ประมาณ 1.20M แถว และได้คะแนน 61.67 บนชุดทดสอบสาธารณะ Decision Index 0.4 โดยมีค่ามัธยฐานของเวลาแฝงต่อคำขอที่ 49.9 ms

inclusionAI เปิดตัว SingVL S1 โมเดลตัดสินใจมัลติโมดัล 4B บน Qwen3.5

inclusionAI เปิดตัว SingVL S1 โมเดลตัดสินใจมัลติโมดัลขนาด 4B ที่สร้างบน Qwen3.5 ซึ่งตอบคำถามที่ระบุชื่อได้จากข้อความหรือ JSON และรูปภาพสูงสุดสี่รูปในการประมวลผลไปข้างหน้าหนึ่งครั้งของ Transformers รองรับคำถามแบบตัวเลือก แบบใช่/ไม่ใช่ (noul) และแบบให้คะแนน 2–10 ระดับ โดยได้คะแนน 73.94 บน Public Vision Index และ 69.76 บน Public Text Index โมเดลนี้มาพร้อมโค้ดอนุมานภาษา Python และเซิร์ฟเวอร์ HTTP แบบ FastAPI

คณิตศาสตร์จะเกิดอะไรขึ้นเมื่อ AI กลายเป็นออราเคิล?

สตีเวน สโตรแกตซ์ และอเล็กซ์ ทาวน์เซนด์ นักคณิตศาสตร์ประยุกต์ สำรวจว่า "คณิตศาสตร์ขนาดใหญ่" กำลังเติบโตเกินความเข้าใจของมนุษย์อย่างไรในหนังสือเล่มใหม่ของพวกเขา Big Math: The Hidden Codes That Run Our World หนังสือเล่มนี้ examines ว่าการที่ LLMs แชทบอท AI และในที่สุดคอมพิวติ้งควอนตัมเข้ามารับงานคณิตศาสตร์ที่เกินขีดความสามารถของสมองมนุษย์ที่มีจำกัดนั้นหมายความว่าอย่างไร และสังคมอาจปรับตัวอย่างไร

Redwood Research ตั้งคำถามว่า GDM ตั้งใจฝึก Gemini 4 ด้วย Chain of Thought หรือไม่

Redwood Research ระบุว่ายังไม่ชัดเจนว่า Google DeepMind ตั้งใจฝึก Gemini 4 ด้วย chain of thought หรือไม่ หลังจากรายงานความปลอดภัยของ Gemini 4 อ้างถึงรางวัลเสริมที่สังเกตความคิดเป็นบริบท พนักงาน GDM บอกกับ Redwood ว่าพวกเขาไม่ได้ฝึกบน CoT แต่ไม่สามารถอธิบายรายละเอียดทางเทคนิคได้ ขณะที่โพสต์บล็อกของ GDM ระบุว่าโมเดลไม่เคยถูกลงโทษจากสิ่งที่เขียนใน chain of thought Redwood เตือนว่ารางวัล CoT ที่มีอคติต่อการให้เหตุผลที่ไม่สอดคล้องอาจกดทับการสื่อสารอย่างซื่อตรงและลดความซื่อตรงของ CoT

NaiveAI 的 Naive-N0.5-Flash 声称每秒 2,100 个 token：它的编码能力如何？

Latent Space 测试了 NaiveAI 的开源权重模型 Naive-N0.5-Flash，这是一个源自小米 MiMo-V2.5 的编码模型，搭配 NaiveRT 推理引擎，并与 DeepSeek V4.1 Flash 1017 和 GLM 5.3 Flash 进行了对比。在作者的运行中，其峰值接近每秒 2,000 个 token，在思考密集型任务中持续约每秒 1,000 个 token，中位响应时间为 3.1 秒，而两个对比模型分别为 5.3 秒和 10.1 秒。在困难的 HLE 问题上，开启思考时平均完成约 108,500 个 token，约为 GLM 5.3 Flash 的九倍和 DeepSeek V4.1 Flash 1017 的 11 倍，作者指出每个难度级别的样本为 10 个问题，且未进行准确性评分。

Google DeepMind เปิดตัว Gemini 4 Carbon สำหรับการเขียนโค้ดแบบเอเจนต์ ไซเบอร์ซีเคียวริตี้ และการให้เหตุผลเชิงวิทยาศาสตร์

Google DeepMind เปิดให้ developers, องค์กร, นักวิทยาศาสตร์ และผู้บริโภคใช้งาน Gemini 4 Carbon ได้แล้ว โดยวางตำแหน่งให้เหนือกว่า Gemini 4 Argon สำหรับงานที่ต้องใช้การให้เหตุผลเชิงลึกและโทเคนมากขึ้น Carbon ครองอันดับ 1 บน CursorBench 4.0, WANDR ของ Perplexity และ AutomationBench ของ Zapier ด้วยต้นทุนต่องานต่ำกว่าโมเดลภายนอกที่ดีที่สุดเป็นอันดับถัดไปกว่า 2 เท่า และมีราคาอยู่ที่ 2 ดอลลาร์ต่อล้านโทเคนอินพุต และ 10 ดอลลาร์ต่อล้านโทเคนเอาต์พุต ซึ่งเป็นราคาเปิดตัวเดียวกับ Argon Google ยังได้พรีวิว /swarm ใน Google Antigravity ซึ่งเปลี่ยนพรอมป์เดียวให้กลายเป็นทีมเอเจนต์ที่ทำงานประสานกัน และรายงานว่า Carbon สามารถบล็อกเส้นทางการโจมตีได้ 99% ในการทดสอบจำลองการโจมตีทางไซเบอร์

OpenAI ศึกษาปัจจัยที่ส่งผลต่อความสามารถในการตรวจสอบ CoT ตลอดวงจรชีวิตของโมเดล

นักวิจัยของ OpenAI ตรวจสอบว่าการฝึกก่อน (pretraining) สถาปัตยกรรม การเรียนรู้แบบเสริมกำลัง (reinforcement learning) และข้อมูลที่สร้างโดยโมเดลส่งผลต่อตัวชี้วัดสองตัวสำหรับความสามารถในการตรวจสอบ chain-of-thought อย่างไร ได้แก่ ความสามารถแบบไม่มี CoT และความสามารถในการควบคุม CoT พวกเขารายงานว่าความสามารถแบบไม่มี CoT ติดตาม perplexity ของโมเดลฐานที่ต่ำลงอย่างราบรื่น ว่าความสามารถในการควบคุม CoT เพิ่มขึ้นระหว่าง RL แม้ไม่มีการกำกับกระบวนการนอกเหนือจากข้อจำกัดด้านความยาวและการให้คะแนนคำตอบสุดท้าย และว่าความสามารถในการควบคุมสามารถส่งต่อไปยังโมเดลนักเรียนผ่าน SFT บน rollouts ของครู ผู้เขียนเตือนว่าตัวชี้วัดทั้งสองไม่สมบูรณ์แบบ และโมเดลอาจตรวจสอบได้ยากขึ้นผ่าน CoT เมื่อความสามารถขยายตัว

Meta AI เปิดตัว Muse Ember โมเดลที่เล็กที่สุดและมีประสิทธิภาพที่สุด

Meta AI เปิดตัว Muse Ember ซึ่งอธิบายว่าเป็นโมเดลที่เล็กที่สุดและมีประสิทธิภาพที่สุด มุ่งเป้าไปที่การเรียกใช้เครื่องมือ งานย่อยด้านการเขียนโค้ด การกำหนดเส้นทาง การสกัดข้อมูล และการแยกวิเคราะห์เอกสารยาว สำหรับพรอมต์ที่สั้นกว่าคิดราคาที่ 0.10 ดอลลาร์ต่อล้านโทเค็นอินพุต และ 0.50 ดอลลาร์ต่อล้านโทเค็นเอาต์พุต เท่ากับ GPT-6 Luna และ Claude Haiku 5.5 ขณะที่อัตราสำหรับพรอมต์ยาวที่ 0.30 ดอลลาร์อินพุต และ 1.50 ดอลลาร์เอาต์พุตเมื่อเกิน 200k โทเค็น ทำให้อยู่ระหว่างทั้งสอง Simon Willison ตั้งข้อสังเกตว่าโมเดลนี้อยู่บนเส้น Pareto ของกราฟ Intelligence Index เทียบกับ Cost per Task ของ Artificial Analysis และระดับการให้เหตุผลทั้งหกระดับของมันสร้าง SVG รูปนกกระทุงที่มีคุณภาพเทียบเท่า Muse Wonder ในราคาสูงกว่า 40 เท่า

Anthropic เปิดตัว Claude Fable 5.2 และ Mythos 5.2 กลับมาครองอันดับหนึ่ง LLM ขณะเริ่มโรดโชว์ IPO

Anthropic เปิดตัว Claude Fable 5.2 และ Claude Mythos 5.2 ซึ่งขึ้นอันดับต้นในลีดเดอร์บอร์ดอิสระส่วนใหญ่ รวมถึง Artificial Analysis Intelligence Index v5 ที่ 65 และ SemiAnalysis GDPx ที่ 16.4% ราคาลดลง 20% เหลือ $8/$40 ต่อ 1M โทเคนอินพุต/เอาต์พุต แต่ SemiAnalysis รายงานว่าต้นทุนต่องาน GDPx เพิ่มจาก $67.16 เป็น $88.15 เพราะโมเดลเขียนกรณีทดสอบหลายร้อยถึงหลายพันกรณีและสร้าง subagent เพื่อตรวจงานของตัวเอง การประเมินหลายชุดแสดงให้เห็นว่าระดับความพยายามสูงสุด (max effort) ให้ผลด้อยกว่าระดับ high และ Fable ถูกจำกัดที่ 50% ของขีดจำกัดการสมัครสมาชิกรายสัปดาห์

Hugging Face อธิบายโมเดลการตัดสินใจและการรองรับใน Transformers และ llama.cpp

Hugging Face เผยแพร่บทอธิบายเกี่ยวกับโมเดลการตัดสินใจ ซึ่งรับสถานะพร้อมคำถามที่มีชนิดข้อมูลและคืนค่าความน่าจะเป็นเหนือคำตอบที่กำหนดไว้ล่วงหน้าแทนการสร้างข้อความ โพสต์ดังกล่าวลงรายละเอียดเกี่ยวกับ primitive ของ choice, score และ noul สูตรความเชื่อมั่น และการรองรับใหม่ผ่าน DecisionPipeline และ AutoModelForDecision ของ Transformers, endpoint /v1/systemone ที่ใช้ร่วมกันใน Transformers และ llama.cpp, แท็ก Hub สำหรับการค้นพบ และการ fine-tuning ด้วย Trainer API พร้อมระบุว่า endpoint เดียวกันยังใช้งานได้กับ autoregressive LLM ที่เข้ากันได้โดยการให้คะแนน logits ของคำตอบในการ forward pass แบบแบตช์

Weighted State Souping สำหรับการค้นคืนบริบทยาวอย่างมีประสิทธิภาพ

นักวิจัยจาก Apple และผู้ร่วมงานจาก Harvard เสนอ weighted state souping ซึ่งเป็นวิธีการที่เรียนรู้ค่าน้ำหนักที่ขึ้นกับคิวรีสำหรับการรวมการเข้ารหัสสถานะ SSM ที่แคชไว้ใหม่ ช่วยปรับปรุงประสิทธิภาพบริบทยาวในงานตอบคำถามจากเอกสารแบบ single-hop และ multi-hop การค้นคืนแบบ needle-in-a-haystack การติดตามตัวแปร และการใช้เครื่องมือ รูปแบบ sparse บรรลุต้นทุนการเข้ารหัสที่เกือบคงที่เมื่อเทียบกับความยาวบริบท พร้อมรักษาหรือบางครั้งปรับปรุงประสิทธิภาพ บทความนี้ได้รับการตอบรับที่งาน PALM workshop ใน NeurIPS 2026

งานวิจัยจาก Apple: กลไก Gating อธิบายว่าทำไม SSMs จึงจดจำแทนที่จะเรียนรู้แบบ In-Context

งานวิจัยจาก Apple และ Harvard แสดงให้เห็นว่ากลไก gating ใน State Space Models (SSMs) ทำให้โมเดลเรียนรู้วิธีแก้แบบ "การจดจำ" (memorization) ที่ฝังอยู่ใน weights ก่อน ซึ่งทำให้การลู่เข้าสู่การเรียนรู้แบบ in-context ที่ถูกต้องล่าช้าหรืออาจไม่เกิดขึ้นเลย แม้ว่าสถาปัตยกรรมและความจุหน่วยความจำจะไม่ได้จำกัดพื้นฐานใดๆ ก็ตาม อย่างไรก็ตาม gating มักช่วยปรับปรุงการ generalize ไปยังความยาวลำดับที่ยาวขึ้น

Ethan Mollick ทดสอบ Claude Fable 5.2 ในด้านการเขียนโค้ด ธุรกิจ และการวิจัย เรียกได้ว่าเกือบเป็น AGI

2 ในงานที่ครอบคลุมการแฮ็กฮาร์ดแวร์ การวางแผนธุรกิจ การสร้างหลักสูตรมนุษยศาสตร์ การวิจัยทางวิชาการ และโปรเจกต์พอร์ทัล 3D ที่มี 450 โลก และตัดสินว่าเกือบเป็น AGI ภายใต้คำจำกัดความของเขาที่ว่าต้องเทียบเท่าผู้เชี่ยวชาญของมนุษย์ส่วนใหญ่ในงานทางปัญญาบนคอมพิวเตอร์ส่วนใหญ่