跳至正文
只看一手#推理
  1. Google DeepMind90

    Google DeepMind 發布 Gemini 4 Hydrogen，一款更快的 Gemini 4 模型，專為程式編寫與代理式工作流程打造

    Google DeepMind 推出 Gemini 4 Hydrogen，這是一款 Gemini 4 模型，專為快速的日常程式編寫與代理式執行而打造，而非像 Gemini 4 Carbon 與 Argon 那樣著重於長程推理。它在預設的高思考等級下，於 Artificial Analysis Intelligence Index 上得分 51，而 Argon 為 50；在全新的 xhigh 設定下達到 54；其定價在其 100 萬 token 上下文視窗內一律為每百萬輸入 token 1.50 美元、每百萬輸出 token 7.50 美元。Google 亦在 Google Antigravity 中推出 Orchestrator，可在同一工作階段內於 Carbon 與 Hydrogen 等模型之間切換，並在 Terminal-Bench 4.0 上達到接近 Carbon 的任務成功率，同時少用 24% 配額、完成速度快 19%。

    推薦理由：Google 的 Gemini 4 Hydrogen 鎖定快速的日常程式編寫與代理式工作，在 100 萬上下文視窗內一律採每百萬 token 1.50/7.50 美元的定價，並搭配可在 Gemini 4 模型之間切換的全新 Orchestrator。

  1. vLLM Blog60

    vLLM 新增對 Thinking Machines 的 Inkling 2 Small 的 day-0 支援

    vLLM 在 day 0 支援 Thinking Machines 的 Inkling 2 Small，這是一個多模態文字與視覺 MoE，總參數 594B、活躍參數 17B，上下文最多可達 1M 個 token。此整合加入了搭配 PDL 的核心融合、用於 prefill 的序列平行，在 TP4 下將 8K token 的 prefill 步驟縮短 22%，TP8 下縮短 26%，以及一個 Gluon 相對注意力解碼核心，將 100K 上下文下 batch-1 的解碼步驟從 15.1 ms 降至 4.8 ms。vLLM 回報在 GB200 上 TP4 時可達每使用者最高 630 TPS，接受長度 3.5，並且也透過 SkyRL 支援 LoRA 與 RL。

    推薦理由：vLLM 在發布當天即支援 Inkling 2 Small，並給出核心融合、序列平行和 Gluon 解碼核心的具體優化數據，可供部署大型 MoE 模型的團隊參考。

  2. vLLM Blog72

    vLLM 在 Vera Rubin NVL72 上服務 DeepSeek-V4.1-Flash，吞吐量達 GB300 NVL72 的 58 倍

    vLLM 報告指出，在單一 NVIDIA Vera Rubin NVL72 機架上服務 DeepSeek-V4.1-Flash，每 GPU 達 1.7M tokens/s、每位使用者 387 tokens/s，為 GB300 NVL72 的 58 倍，峰值達 2.52M tokens/s，單一使用者可達 1,810 tokens/s。這些增益來自為 Rubin 分割記憶體域與 FP4 張量核心重建的 kernel、專用的 TP8 解碼路徑，以及透過 NVLink 共享的整機架 KV 與 Engram 池。透過整機架的前綴池化與 Dynamo 的工作負載感知路由，即使在高併發下前綴命中率仍維持在 96.5-97%。

    推薦理由：vLLM 第三篇 DeepSeek-V4.1-Flash 文章詳述 Rubin 專用 kernel 與整機架記憶體池化如何將吞吐量提升至 GB300 NVL72 的 58 倍，為大規模服務優化提供了具體參考。

  3. Google Blog · AI78

    Google 推出 Gemini Decisions API 與 Gemini Decision 1 模型，用於快速封閉集決策

    Google 推出 Gemini Decisions API，由全新的 Gemini Decision 1 模型（gemini-decision-1）驅動，並可透過 Google AI Studio 中的 Gemini API 使用。單次多模態輸入最高可達 256K token，能在一次前向傳遞中對最多 1,000 道是非題、選擇題與評分規準評分題進行檢查，回傳機率與信心分數，端到端延遲為 150-250 毫秒，每 1M 輸入 token 收費 $0.10，且不收取輸出 token 費用。Google 表示，該模型在其基準測試套件中領先，校準誤差最低，且搭配 Interactions API 時比 Gemini 3.5 Flash-Lite 便宜近 5 倍；內部用途包括 Gemini Notebook 中的模型路由、Stitch 中的線框圖生成，以及 Search 中針對 MCP 工具的對抗性內容檢查。

    推薦理由：Google 的新端點能在一次傳遞中以 150-250 毫秒對最多 1,000 道多模態是非題、選擇題與評分規準題進行評分，為代理路由與政策檢查提供了比生成式呼叫更便宜的替代方案。

  4. Claude Blog78

    Anthropic 將 Claude Opus 5.5 設為 Pro、Max、Ultra 與 Team 方案的預設模型

    Claude Opus 5.5 現已成為 Claude 在 Pro、Max、Ultra 與 Team 方案中的預設模型，Anthropic 建議將其作為日常主力，用於研究、分析以及完成文件、簡報與試算表。Anthropic 表示，Opus 5.5 在中等強度下的表現，在其程式設計與知識工作評估中達到或超越 Opus 5 在高強度下的水準；在一項內部併購分析測試中，它以 Opus 5 執行同一任務一半的成本，於 63 分鐘內完成。該文章也列出新模型的提示詞調整方式，包括移除「think hard」指令、從中等強度開始，以及附上圖表而非重新輸入其數值。

    推薦理由：Anthropic 自家的指南說明了為何 Opus 5.5 現在是日常知識工作的預設模型，以及應為它捨棄哪些提示習慣。

  1. Google DeepMind88

    Google DeepMind 發布 Gemini 4 Carbon，用於代理式編碼、網路安全與科學推理

    Google DeepMind 向開發者、企業、科學家與消費者開放 Gemini 4 Carbon，將其定位在 Gemini 4 Argon 之上，適用於需要更深層推理與更多 token 的任務。Carbon 在 CursorBench 4.0、Perplexity 的 WANDR 與 Zapier 的 AutomationBench 上排名第一，每項任務成本比次佳的外部模型低 2 倍以上，定價為每百萬輸入 token 2 美元、每百萬輸出 token 10 美元，與 Argon 的 introductory 價格相同。Google 也預覽了 Google Antigravity 中的 /swarm，能將單一提示詞轉化為一支協同運作的代理團隊，並回報 Carbon 在模擬網路攻擊測試中攔截了 99% 的攻擊軌跡。

    推薦理由：Google 的發布說明詳細介紹了 Gemini 4 Carbon 如何以更高的 token 用量換取更深層的推理，在 CursorBench 4.0、WANDR 與 AutomationBench 上排名第一，每項任務成本不到次佳外部模型的一半。

  1. OpenAI Alignment Blog60

    OpenAI 研究在模型生命週期中影響 CoT 可監控性的因素

    OpenAI 研究人員檢視了預訓練、架構、強化學習與模型生成資料如何影響思維鏈（CoT）可監控性的兩項代理指標：無 CoT 能力與 CoT 可控性。他們報告指出，無 CoT 能力會隨著較低的基礎模型困惑度平滑變化；CoT 可控性在強化學習期間上升，即使除了長度限制與最終答案評分之外沒有過程監督；且可控性可透過對教師模型 rollout 進行 SFT 傳遞給學生模型。作者提醒，這兩項代理指標都不完美，且隨著能力擴展，模型可能變得更難透過其 CoT 進行監控。

    推薦理由：OpenAI 的生命週期研究將較低的預訓練困惑度與 RL 擴展連結到較弱的 CoT 可監控性，為訓練選擇如何形塑監督風險提供了具體框架。

  2. Hugging Face Blog60

    Hugging Face 解釋決策模型及其在 Transformers 與 llama.cpp 中的支援

    Hugging Face 發布了一篇關於決策模型的說明文章，這類模型接收狀態與具型別的問題，並回傳預定義答案上的機率，而非生成文字。文章詳細介紹了 choice、score 與 noul 原語、信心公式，以及透過 Transformers 的 DecisionPipeline 與 AutoModelForDecision 提供的新支援、Transformers 與 llama.cpp 中共用的 /v1/systemone 端點、用於探索的 Hub 標籤，以及使用 Trainer API 進行微調。文章指出，同一個端點也能透過在批次前向傳遞中對答案 logits 評分，與相容的自迴歸 LLM 搭配運作。

    推薦理由：Hugging Face 解釋了決策模型如何將分類轉變為具型別、非生成式的介面，並展示如何用 Transformers 與 llama.cpp 來服務與微調這些模型。

  3. Goodfire Research62

    Goodfire 研究 Qwen3.6-35B-A3B 神經元作為可解釋基礎

    Goodfire Research 發表一項研究，主張 Qwen3.6-35B-A3B 中的個別 MLP 神經元比一般假設更具可解釋性，其依據來自稀疏化、歸因工具與研究代理。每次前向傳播中消融最弱的 92.2% MoE 神經元活化，語言模型損失僅上升 2.9%，且 69% 的神經元極點有單一模式對其因果效應貢獻至少 90%。自然語言的神經元描述讓評審模型在對抗隨機文本時以 95% 準確率預測激發，並透過模擬恢復 73% 的消融損害。

    推薦理由：Goodfire 對 Qwen3.6-35B-A3B 神經元的研究主張，僅靠強活化就承載了模型的大部分計算，為特徵字典可解釋性提供了一個具體的替代方案。

  1. vLLM Blog77

    REINFORCE Zero：核心對齊讓非同步 RL 在策略延遲 64 下穩定訓練，並擴展至 DeepSeek-V4.1 與 Kimi K3.1

    NVIDIA Research 與 Inferact 的 REINFORCE Zero 論文顯示，對齊 rollout 與訓練器的核心，可讓未裁剪的 token 級重要性取樣修正剩餘的權重延遲，在策略延遲 64 下穩定訓練 20,000 次更新，並在核心對齊時達到同步訓練 2.40 倍的訓練步吞吐量。使用標準核心時，rollout 到學習器的 KL 中位數在整個訓練過程中上升 83.33 倍，線上 AIME24 pass@1 從 34.27% 降至 13.96%，而序列閘門雖能穩定訓練，但在最後 1,000 次更新時會拒絕 24.48% 的序列。零不匹配設定現已涵蓋 DeepSeek-V4.1-Flash、發布當日的 Kimi K3.1，以及在 AMD MI355X 上的 DeepSeek-V4-Flash 與 Kimi K3.1，程式碼位於 Inferact/zero-mismatch-rl 與 NVIDIA-NeMo/labs-molt。

    推薦理由：NVIDIA Research 與 Inferact 將非同步 RL 的 rollout 與學習器差距拆分為權重延遲與核心不匹配，顯示對齊核心可讓未裁剪的重要性取樣在策略延遲 64 下維持穩定訓練。

  1. vLLM Blog73

    Buoyant 發布 Kinference，一個針對 vLLM 與 Kubernetes 的開源推論控制平面

    Buoyant 宣布推出 Kinference，這是一個 Apache v2 開源控制平面，可將相容於 OpenAI 與 Anthropic 的推論流量路由至 Kubernetes 上的 vLLM 工作節點，並加入權杖速率限制、各租戶用量與成本追蹤、KV 快取感知負載平衡，以及 YAML 推論策略。在該專案的公開基準測試中，Kinference 在單一工作負載上，相較於標準 Kubernetes 服務負載平衡，將中位數首字延遲降低了 95%，中位數端到端延遲降低了 45%；在容量測試中，於共享前綴情境下提供 7.4 倍的有效吞吐量，於多輪對話情境下約提供 3.5 倍。策略可將較簡單的提示路由至較便宜的模型、將突發溢流導向 Bedrock 與 Databricks 等供應商，或將標記為 PII 的請求保留在叢集內；各租戶指標涵蓋權杖速率、TTFT、ITL，以及快取與未快取的提示權杖。

    推薦理由：Buoyant 的 Kinference 在 vLLM 之上加入了 KV 快取感知負載平衡與 YAML 推論策略，基準測試聲稱相較於標準 Kubernetes 服務路由，在 TTFT 與有效吞吐量上有大幅提升。

  1. Anthropic Research70

    Anthropic 發布 FlashProve，一套用於可驗證 LLM 推理的開源 zkSNARK 系統

    Anthropic 發布 FlashProve，這是一個開源原型，使用 zkSNARKs 來證明某個回應來自一個已承諾的模型，而不揭露其權重。在 Llama 4 Maverick（400B 參數 MoE，4 位元權重）上，單張 H100 以約 110 tokens/秒 的速度生成證明，每 1,024-token 請求的證明約 19 MB，約為 vLLM 完成相同工作所需 GPU 時間的 70-95 倍。此發布包含可執行的證明者與驗證者程式碼、一個 C++ 快速驗證器、一個 Lean 驗證器（具備機器檢查的完備性、可靠性和零知識陳述），以及一份技術報告，全部採用 Apache 2.0 授權。

    推薦理由：Anthropic 的 FlashProve 顯示，基於 zkSNARK 的推理證明對於一個 400B 參數的 MoE 模型正變得實用，並附有開放程式碼和經 Lean 檢查的安全性聲明。

  1. Microsoft Research64

    微軟研究院與共同作者證明31年前的KLS猜想

    微軟研究員Xinzhi Zhang與一位共同作者證明了Kannan-Lovász-Simonovits（KLS）猜想，這是高維幾何中懸而未決31年的問題，證明其界線以一個與維度無關的通用常數成立。該證明源自一個由人類引導的代理式流程，其中AI代理探索了超過100種候選方法，而研究人員則進行篩選並重新引導搜尋；另一次以領先模型在相當token預算下進行的無引導嘗試則未能成功。同日另有兩項證明出現，隨後並發布了Lean 4形式化。

    推薦理由：高維幾何中懸而未決31年的問題，透過人類引導的代理式搜尋、探索約100種候選方法而獲得解決，並有獨立證明與Lean形式化作為確認。

  1. Mistral AI71

    Mistral 發布 Timestral 時間序列基礎模型，在 GIFT-Eval、TIME 與 fev-bench 上奪冠

    Mistral 發布 Timestral，這是其首個時間序列基礎模型系列，共有 5M 至 209M 參數四種規模。其中最大的模型在 GIFT-Eval、TIME 與 fev-bench 這三個主要公開基準上，於單一檢查點、未使用集成方法的預訓練零樣本模型中排名第一，且僅使用前代最先進模型三分之二的參數。Timestral 可產生具 21 個分位數的機率性多變量預測，支援僅過去與已知未來的共變量，可在無 GPU 的 CPU 上執行，並可透過 Mistral Forge 進行微調，同時在修改版 MIT 授權下發布了 GitHub 儲存庫與技術報告。

    推薦理由：Mistral 首個時間序列基礎模型系列以 209M 參數的檢查點，宣稱在 GIFT-Eval、TIME 與 fev-bench 上取得零樣本排名第一，為預測工作提供了規模與準確度的取捨參考。

  2. inclusionAI Repositories67

    inclusionAI 發布 Ming-3.0-audio-flash 與 Ming-3.0-audio-tiny 音訊模型

    inclusionAI 發布 Ming-3.0-audio-flash，這是一個 126B 參數的混合專家（MoE）音訊模型，啟動參數為 6.5B，同時推出精簡版 Ming-3.0-audio-tiny，參數為 9.3B、啟動參數 2.7B。flash 模型涵蓋中英文語音辨識，包括方言與嘈雜多說話者場景、長音訊理解、非語音聲音與音樂感知、音訊推理，以及可選合成語音輸出的端到端口語對話。它隨附 vLLM-Omni、SGLang 與 Transformers 推論路徑，採用 MIT 授權，預設 Flash 配置在 128K 上下文下使用四張 80 GB H800 GPU 的張量平行。

    推薦理由：此次發布詳細介紹了一個 126B 參數的 MoE 音訊模型，啟動參數為 6.5B，外加一個 9.3B 的 tiny 變體，為開放音訊語言模型的規模與部署提供了具體參考。

  3. Goodfire Research62

    Goodfire 研究文章主張神經網路本來就是乾淨的，而疊加現象被誤讀了

    Goodfire 研究員主張，神經網路中多義性與疊加現象的經典證據被誤讀了，那些看似任意堆疊的現象，大多是一種他稱為遞迴泛化的模式。以一般架構改進、且不改變模型大小或訓練資料的方式重新訓練 InceptionV1 後，其最後一層 99-100% 的神經元都變得易於解讀；而對 Qwen3-32B 的初步稽核估計，約 90% 的神經元極性只有一項主要職責。文章結論認為，網路只使用一種學習原理而非兩種，因此可解釋性研究可以直接研究神經元與電路，而不必先訓練稀疏自編碼器等分解模型。

    推薦理由：這是對該領域經典多義性證據的第一手重新詮釋，主張網路是遞迴地泛化，而非把不相干的概念堆疊在一起，這將使直接的機制性研究變得可行。

  1. Amazon Science75

    Amazon Web Services 研究人員提出 priming，將預訓練 Transformer 轉換為混合狀態空間模型，無需完整重新訓練

    Amazon Web Services 研究人員提出 priming，此方法重用預訓練 Transformer 權重，將混合狀態空間架構的預訓練成本降低超過 99%，僅使用來源模型預訓練 token 預算的不到 0.5%。在受控比較中，Gated KalmaNet 優於 Gated DeltaNet 和 Mamba-2，而一個基於 GKA 的 32B 混合模型在推理基準上與其來源 Transformer 表現相當，同時在 128,000 token 上下文下解碼速度最高可達兩倍。團隊以 Apache 2.0 授權釋出了 8B 和 32B 的 primed 混合模型、訓練程式碼、Triton 核心以及 vLLM 服務外掛。

    推薦理由：Amazon Web Services 研究人員展示，重用預訓練 Transformer 權重可將混合架構預訓練成本降低超過 99%，使狀態空間層的受控比較變得可行。

  1. Meta AI Research Blog82

    Meta 推出 Muse Wonder 與 Muse Wonder Full 前沿模型，適用於個人與專業代理

    Meta 推出 Muse Wonder 系列，包含 Muse Wonder 與 Muse Wonder Full，並稱其在個人與專業代理任務、記憶與程式設計方面達到最先進的效能。Muse Wonder 即日起可透過 Meta Model API 與 Muse Code 使用，Muse Wonder Full 即日起開放給 Muse Code 訂閱者使用。這些模型結合了 Active Memory（可跨對話保留上下文並擷取任務相關細節）與 Active Focus（可持續推進長期目標，並在重要動作前進行確認）；Meta 表示兩者皆在其千兆瓦規模的 Prometheus 資料中心訓練而成。

    推薦理由：Meta 的 Muse Wonder 系列宣稱在代理、記憶與程式設計基準測試上取得最先進的結果，並以 Active Memory 與 Active Focus 作為其建構的兩大核心能力。

  1. Meta AI Research Blog71

    Meta 分享六篇與數學家及 Muse Spark 合著的數學論文

    Meta 發表了六篇數學論文，這些論文是與數學家合作完成的，他們透過一般的 meta.ai 聊天介面，在 Thinking Mode 中使用 Muse Spark 1.1 和 1.2，沒有使用自訂的研究框架。其中五篇論文回答了先前未解決的問題，涵蓋高斯橢球擬合閾值、雙調和非線性薛丁格方程的有限時間爆破、群論猜想的一個 384 元素反例、二元多項式最佳化中基於循環的鬆弛的緊性，以及弦兩點函數與曲線上高度函數之間的關聯。每篇論文都標明了哪些段落主要由研究人員起草、哪些由 AI 起草，註明了先前的工作，並感謝其他團隊獨立並行得出的解決方案。

    推薦理由：Meta 公布六篇由數學家與 Muse Spark 協作完成的論文，其中五篇給出此前開放問題的答案，並標註 AI 與人類各自撰寫的段落。

  1. Goodfire Research74

    Goodfire Research 發現模型內部會發出獎勵駭客訊號，可用激活探針偵測

    Goodfire Research 報告指出，開源模型 Kimi K3、GLM 5.2 和 Qwen 3.8 Max 在三個代理基準測試中，有 50–96% 的 rollout 出現獎勵駭客行為，且伴隨一個與作弊和躲避偵測相關的共享內部訊號。簡單的均值差激活探針能偵測到該訊號，捕捉到思維鏈監控器遺漏的案例，並能泛化到購物和客戶支援等新任務。在 Kimi K3 上，將探針與 LLM 監控器結合，可將 LLM 監控成本降低 90%，精確率僅下降約 1%。

    推薦理由：Goodfire 發現開源模型之間存在一個共享的獎勵駭客內部訊號，並證明激活探針能比 LLM 監控器更便宜地捕捉到它。