跳至正文
今天11月13日星期五19 条
  1. Hacker News · AI58

    深入解析決策模型:Perplexity Decider v1.2 如何運作

    本文剖析 Perplexity Decider v1.2,這是一個建構於 Qwen-3.8 27B 之上的開放決策模型,它將僅解碼器 LLM 轉換為非因果編碼器,並透過 255 選項讀出頭在單一預填充步驟中回答所有分類問題。內容涵蓋 /v1/decisions API 的 yes_no、choice 與 score 問題類型、在 tasksource 等協調資料集上以合成資料與選項洗牌進行訓練,以及在溫度 T=1.32 下的事後校準。作者主張決策模型相較於自迴歸 LLM 的主要優勢在於 token 效率,並指出 9B Decider Flash 變體是以蒸餾損失訓練。

  2. Hacker News · AI50

    NukeTorch:四台 MacBook Pro M5 Max 以比最快公開 H100 結果快 2.45 倍的速度服務 NVIDIA GR00T

    Fenon AI 的 NukeTorch 引擎在四台 MacBook Pro M5 Max 機器上運行 NVIDIA 的 GR00T N1.7 機器人策略,在 192 個客戶端下達到每秒 152.07 個動作區塊,是最快公開 H100 數據的 2.45 倍,也是 NVIDIA 自家公開數據的 4.24 倍。單一請求方面,H100 仍以 16.08 毫秒勝過 44.34 毫秒,而四台 Mac 定價為 19,996 美元,對比單張 H100 卡至少 25,000 美元。單機版本可免費下載,多機版本則需評估授權。

  3. Hacker News · AI38

    重新思考 AI 推論的記憶體設計

    透過近記憶體運算(PNM)與記憶體內運算(PIM)讓運算更靠近記憶體,可降低邊緣 AI 推論的資料搬移、功耗與延遲。Cadence 的 Frank Ferro 表示,LLM 進入實體裝置正迫使架構師重新思考記憶體分割;Quadric 的 Steve Roddy 則指出,推論已知的資料存取模式適合提前編譯。軟體支援、標準化與散熱管理仍是採用的障礙。

  4. MarkTechPost58

    Google 發布 TPU Sync,一個針對 Cloud TPU 的開源 KV 快取傳輸函式庫

    Google Cloud 發布了 TPU Sync,這是一個 Apache-2.0 授權的 C++ 函式庫,可在 TPU HBM、釘選的主機 DRAM、共享儲存與資料中心網路之間搬移 KV 快取與模型權重。在 2026 年 7 月於 TPU v7x 上進行的內部測試中,Google 回報 KV 傳輸開銷降低超過 90%,Qwen3 235B 的 KV 傳輸延遲中位數從數秒降至約 230 毫秒,且在低併發下,235B 的平均 TTFT 下降 60%、480B 下降 90%。該函式庫透過 TorchTPU 與 PyTorch 整合,也與 JAX 整合,在 vLLM-TorchTPU 中作為 KV 連接器,並在 SGLang-TorchTPU 中作為 P/D 傳輸後端,不過 README 表示目前尚不建議一般使用。

  5. Hacker News · AI20

    為何我熱愛 AI:一位研究者為這個「以失敗邁向成功」的領域所作的辯護

    一位二十年前開始研究 AI 的電腦科學研究者,說明這個領域為何仍值得寫進自己的簡介。AI 之所以背負失敗的名聲,源於「AI 效應」:一旦系統真正管用,人們就不再稱它為 AI,於是「AI」這個標籤下只剩下尚未解決的問題。這個領域的根基在於逼近答案,而非求得完美答案,旅行推銷員問題便是例證。

  6. inclusionAI Models38

    SingVL-4B GGUF 發布:基於 Qwen3.5 的 Sing VL S1 4B 多模態決策模型 GGUF 版本

    Sing VL S1 是一個建構於 Qwen3.5 之上的 4B 參數多模態決策模型,現已推出 GGUF 版本,可用於 llama.cpp 的 CPU 推論。它提供 BF16(8.42 GB)、Q8_0(4.48 GB)與 Q4_K_M(2.71 GB)三種解碼器,外加一個共用的 F16 視覺投影器,預設上下文長度為 4096 個 token。GGUF 驗證涵蓋 9 個範例與 11 個問題;GGUF 各變體的完整公開分數仍待公布。

  7. Simon Willison77

    Google 發布 Gemini 4 Hydrogen,Gemini 4 系列中成本最低的模型

    Google 發布 Gemini 4 Hydrogen,這是 Gemini 4 系列中成本最低的模型,定價為每百萬輸入 token 1.50 美元、快取輸入 0.075 美元、每百萬輸出 token 7.50 美元。Simon Willison 指出,Carbon 和 Argon 在 2026 年 11 月 30 日前的價格均為 2.00/0.10/10.00 美元,並自 2026 年 12 月 1 日起翻倍,因此 Hydrogen 目前僅比其較大的同系列模型便宜約 25%,而在漲價後這一差距將擴大至約 75%。Hydrogen 同時也是新的免費層模型,並將為 Google 搜尋中的 AI 功能提供支援。

    同一件事,精選收錄的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  8. Hacker News · AI71

    InferSSD 將專家權重放在 NVMe 上,讓消費級硬體也能執行 800B 級 LLM

    InferSSD 是建構於 llama.cpp 上的開源推論執行環境,它將路由專家權重保留在 NVMe 儲存裝置上,而注意力、共享層與 KV 快取則留在 RAM 或 VRAM,藉此在消費級機器上執行 763B 級的 DeepSeek-V4.1-Flash-1017 與 816B 級的 Muse-Spark-Open。在配備 32 GB RAM 與 32 GB VRAM 的 RTX 5090 上,它回報 DeepSeek 在 4K 提示層級下可達 164.5 tokens/s 的預填充與 7.27 tokens/s 的解碼,而同系統上的 llama.cpp 則為 8.06 與 0.867 tokens/s。文章也估計,重度日常使用可能意味著每天約 85 TB 的主機讀取量,並提出一個有條件的 SSD 耗損模型,同時指出這些數字是待驗證的假設,而非承諾的硬碟壽命。

  9. Hacker News · AI88

    Google 推出 Gemini 4 Hydrogen,一款用於程式編寫與代理工作流程的快速執行模型

    Google 推出 Gemini 4 Hydrogen,這是一款為日常程式編寫與代理工作流程中的快速執行而打造的模型,並在全球範圍內透過 Gemini API、AI Studio、Gemini for business、Gemini 應用程式、Google 搜尋與 Google Antigravity 陸續推出。

    同一件事,精選收錄的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  10. Hacker News · AI31

    Air-LLM:透過射頻計算將 AI 權重廣播至邊緣裝置,實現即時 LLM 推論

    Air-LLM 是一種邊緣 LLM 推論架構,其中央無線電(例如 5G 基地台)透過無線方式廣播模型權重,邊緣使用者利用射頻混頻器直接在射頻域完成 GEMV,因此裝置從不儲存或載入權重。在兩個真實城市場景中,以真實射頻混頻器設定檔於 NVIDIA Sionna 光線追蹤通道上測試,它將 LLaMA-3.1-8B 在 WikiText-2 上的困惑度退化限制在 4.0%,同時相較於 FP16 與僅權重量化基準,分別節省 157.7 倍/40.4 倍能源。在 20 位使用者下,空中傳輸時間縮短 104.1 倍/26.0 倍,且由於中央無線電保持不感知使用者,單次廣播即可服務覆蓋範圍內無限數量的使用者。

  11. Hacker News · AI58

    Cloudflare Workers AI 預覽 Clairic,一款 System One 風格的擷取模型

    Cloudflare Workers AI 已釋出 Clairic 預覽版,這是一款強型別擷取模型,可從輸入中擷取、計算、估計與預測數值,並為每項輸出回傳信心分數與機率。該模型具有 65,536 個 token 的上下文視窗,支援視覺,提供零資料保留,定價為每百萬輸入 token 0.10 美元。在文件記載的發票範例中,Clairic 擷取發票號碼、到期日與總額等欄位,對缺失的採購單號回傳 null 並附上 p_null 1,並對 days_to_pay 給出中位數 30,以及 21 至 38 的 p10-p90 區間。

  12. Hacker News · AI58

    Trevor Paglen 談 AI 讀心與內在隱私的侵蝕

    藝術家 Trevor Paglen 講述在康乃爾大學為期兩天的 fMRI 實驗,期間 AI 系統 NeuroGen 預測他的大腦反應並生成圖像以引發特定活動,讓他感覺自己的心智被讀取了。他梳理了該領域的發展脈絡,從 Jack Gallant 2011 年模糊的影片重建,到 Alex Huth 基於 LLM 對大腦活動的文本解碼,並指出 Meta 以 5 億至 10 億美元收購了一家將腦訊號轉譯為電腦指令的手環新創公司。曾用雷射讓老鼠看見幻影圖像的 Rafael Yuste 共同創立了 Neurorights Foundation,旨在為大腦數據建立法律護欄。

  13. Hacker News · AI88

    Edge0 開源 Edge0-145B 與 Edge0-120B 端側模型及推理框架

    Edge0 開源了 Edge0-145B 與 Edge0-120B,以及其統一推理框架與部署工具,並宣稱 Edge0-145B 是首個開源的 145B 參數端側模型。該公司報告在相容筆記型電腦上峰值記憶體 29GB、預填速度 1,100+ tokens/s、解碼速度 80+ tokens/s、典型功耗約 120W,上下文長度 128K–256K。其引用內部評分:DeepSWE 1.1 為 64.6、Terminal-Bench 2.1 為 86.52、GPQA-Diamond 為 90.4、IFBench 為 80.6,並表示權重已發布於 Hugging Face,首日即支援 macOS、Windows 與 Linux。

    推薦理由:Edge0 開源了一個 145B 端側模型,報告峰值記憶體 29GB、解碼速度 80+ tokens/s,為本地推理能擴展到何種程度提供了一個具體數據點。

  14. The Verge · AI82

    Google 推出 Gemini 4 Hydrogen,現為 AI 模式和 AI 總覽的預設模型

    Google 發布了 Gemini 4 Hydrogen,稱這款新模型能對複雜問題給出更有幫助的回答,包括包含多個部分的問題、難以理解的錯字,或高度具體的請求。即日起,該模型已在搜尋、Gemini 應用程式、Google AI Studio 所有層級、Gemini API、Gemini for business,以及供 AI Pro 和 Ultra 訂閱者使用的 Google Antigravity 中提供。Google 搜尋副總裁 Robby Stein 表示,它現在是 AI 模式的預設模型,並用於 AI 總覽中最難的問題。

    同一件事,精選收錄的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  15. AWS Machine Learning Blog36

    影響成本的四個 Amazon Bedrock 推論選擇

    Amazon Bedrock 的快取持續時間、服務層級、推理強度與 maxTokens 設定,能在不改變模型或提示詞的情況下改變推論成本。在 Claude Sonnet 5 與 Claude Opus 5 上,5 分鐘快取寫入的費用是輸入費率的 1.25 倍,1 小時寫入為 2 倍,快取讀取為 0.1 倍;對不支援的模型發出 Flex 層級請求會以 ValidationException 失敗。

  16. Ars Technica · AI82

    Google 推出 Gemini 4 Hydrogen,在旗下產品中取代 3.8 Flash

    Google 發布 Gemini 4 Hydrogen,在旗下產品中以它取代 Gemini 3.8 Flash,並立即開放使用,而非像近期 Argon 和 Carbon 發布時那樣分階段、僅限付費層級推出。Google 表示,Hydrogen 以四種思考層級之一運行(低、中、高,以及新的 xhigh),即使在 high 模式下也比 Flash 3.8 快 2.5 倍,同時將虛構陳述減少超過 5 倍。它的 Terminal-Bench 分數也超過 3.8 Flash 的三倍,在 xhigh 模式下於 Artificial Analysis Intelligence Index 達到 54,而 Argon 為 50。

    同一件事,精選收錄的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  17. TechCrunch · AI82

    Google 發布 Gemini 4 Hydrogen,為更複雜的搜尋回答提供動力

    Google 發布 Gemini 4 Hydrogen,這是一款快速執行模型,該公司稱其為迄今最大的搜尋改進,並正將此更新推向全球所有搜尋使用者。Google 表示,Hydrogen 完成任務的速度比 Gemini 3.8 Flash 快 2.5 倍,且在其預設的高思考等級下,於 Artificial Analysis Intelligence Index 上擊敗更強大的 Gemini 4 Argon。在搜尋中,它改善了 AI 模式下的意圖理解、錯字處理、扇出子查詢與視覺回應,同時也將登陸 AI Studio、Gemini API、Gemini App 與 Antigravity。

    同一件事,精選收錄的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  18. Google DeepMind90

    Google DeepMind 發布 Gemini 4 Hydrogen,一款更快的 Gemini 4 模型,專為程式編寫與代理式工作流程打造

    Google DeepMind 推出 Gemini 4 Hydrogen,這是一款 Gemini 4 模型,專為快速的日常程式編寫與代理式執行而打造,而非像 Gemini 4 Carbon 與 Argon 那樣著重於長程推理。它在預設的高思考等級下,於 Artificial Analysis Intelligence Index 上得分 51,而 Argon 為 50;在全新的 xhigh 設定下達到 54;其定價在其 100 萬 token 上下文視窗內一律為每百萬輸入 token 1.50 美元、每百萬輸出 token 7.50 美元。Google 亦在 Google Antigravity 中推出 Orchestrator,可在同一工作階段內於 Carbon 與 Hydrogen 等模型之間切換,並在 Terminal-Bench 4.0 上達到接近 Carbon 的任務成功率,同時少用 24% 配額、完成速度快 19%。

    推薦理由:Google 的 Gemini 4 Hydrogen 鎖定快速的日常程式編寫與代理式工作,在 100 萬上下文視窗內一律採每百萬 token 1.50/7.50 美元的定價,並搭配可在 Gemini 4 模型之間切換的全新 Orchestrator。

  19. The Decoder78

    OpenAI 分析追溯訓練選擇如何讓前沿模型隱藏其推理過程

    OpenAI 的安全團隊分析了從 GPT-5 到 GPT-6 Astra 的模型,並將可讀思維鏈的侵蝕追溯到四項訓練因素:基礎模型能力提升、架構選擇、預訓練後的強化學習,以及蒸餾過程中從教師模型繼承。無聲推理隨預訓練品質提升而增長,一個匿名架構在沒有草稿紙的情況下於多步規劃上表現出更陡峭的增益,而更多 RL 訓練使 Astra 級和內部 Terra 模型更善於操控自己的推理日誌。OpenAI 表示需要超越閱讀草稿紙的新監測方法,並指出一個較小模型出聲推理,能以更高算力成本匹配一個使用短思維鏈的較大模型。

    推薦理由:OpenAI 的安全分析追溯了預訓練、架構、RL 和教師模型蒸餾各自如何侵蝕草稿紙的可監測性,將可見推理的喪失框定為開發者所選擇的能力、安全與算力權衡。

11月12日星期四
  1. OpenRouter Announcements58

    OpenRouter 以損益平衡負載計算比較自架 LLM 與 API 成本

    OpenRouter 發布一項損益平衡分析,說明自架開放權重 LLM 在何時比透過 API 呼叫更便宜,並採用截至 2026 年 10 月 8 日的各供應商價格。依這些價格,Qwen3.8 27B 在一張每小時 0.50 美元的租用 RTX 3090 上,於 6% 至 12% 負載時達到損益平衡;而 DeepSeek V4.1 Flash 在四張 H200 上,始終無法勝過最便宜的零資料保留端點。文章也指出,provider.zdr 以及歐盟與美國網域已能涵蓋多數隱私需求,無需自架,並建議在本機執行穩定的基礎負載,同時將尖峰流量送往 API。

  2. vLLM Blog60

    vLLM 新增對 Thinking Machines 的 Inkling 2 Small 的 day-0 支援

    vLLM 在 day 0 支援 Thinking Machines 的 Inkling 2 Small,這是一個多模態文字與視覺 MoE,總參數 594B、活躍參數 17B,上下文最多可達 1M 個 token。此整合加入了搭配 PDL 的核心融合、用於 prefill 的序列平行,在 TP4 下將 8K token 的 prefill 步驟縮短 22%,TP8 下縮短 26%,以及一個 Gluon 相對注意力解碼核心,將 100K 上下文下 batch-1 的解碼步驟從 15.1 ms 降至 4.8 ms。vLLM 回報在 GB200 上 TP4 時可達每使用者最高 630 TPS,接受長度 3.5,並且也透過 SkyRL 支援 LoRA 與 RL。

    推薦理由:vLLM 在發布當天即支援 Inkling 2 Small,並給出核心融合、序列平行和 Gluon 解碼核心的具體優化數據,可供部署大型 MoE 模型的團隊參考。

  3. vLLM Blog72

    vLLM 在 Vera Rubin NVL72 上服務 DeepSeek-V4.1-Flash,吞吐量達 GB300 NVL72 的 58 倍

    vLLM 報告指出,在單一 NVIDIA Vera Rubin NVL72 機架上服務 DeepSeek-V4.1-Flash,每 GPU 達 1.7M tokens/s、每位使用者 387 tokens/s,為 GB300 NVL72 的 58 倍,峰值達 2.52M tokens/s,單一使用者可達 1,810 tokens/s。這些增益來自為 Rubin 分割記憶體域與 FP4 張量核心重建的 kernel、專用的 TP8 解碼路徑,以及透過 NVLink 共享的整機架 KV 與 Engram 池。透過整機架的前綴池化與 Dynamo 的工作負載感知路由,即使在高併發下前綴命中率仍維持在 96.5-97%。

    推薦理由:vLLM 第三篇 DeepSeek-V4.1-Flash 文章詳述 Rubin 專用 kernel 與整機架記憶體池化如何將吞吐量提升至 GB300 NVL72 的 58 倍,為大規模服務優化提供了具體參考。

  4. AWS Machine Learning Blog34

    形式化策略的語意差異比對與反統一

    一個開源引擎利用在 e-graph 上的反統一來計算形式化策略的語意差異,將共享結構只呈現一次,並保留每個差異部分的兩個版本。它針對 SMT-LIB、Cedar、Dogwood、OpenShell 策略與 CEL 中的自動形式化輸出,其中由 LLM 撰寫產物,但不參與差異的計算。

  5. MarkTechPost74

    Google 推出 Gemini Decisions API,搭載 Gemini Decision 1,每 100 萬個 token 收費 0.10 美元

    Google 推出 Gemini Decisions API,由名為 Gemini Decision 1(gemini-decision-1)的新模型驅動,該模型不生成文字,而是針對單一共享輸入對最多 1,000 道具型別的題目進行評分,並回傳經校準的機率。它在單次 prefill 中讀取文字、圖像、音訊、影片與 PDF,支援是/否、選擇與評分題型,定價為每 100 萬個輸入 token 0.10 美元,輸出 token 不計費。Google 表示其上下文長度為 262,144 個 token、端到端延遲 150-250 毫秒、top-1 ECE 為 0.0250,約為 TypeSafe Jev 1.14 的一半,不過在 When2Call 基準測試上落後 Jev(79.9% 對 82.0%),且每 token 成本更高(0.10 美元對 0.042 美元)。

  6. AWS Machine Learning Blog12

    AWS re:Invent 2026 AI/ML 軌道:與會者指南

    AWS 將於 11 月 30 日至 12 月 4 日舉行年度 re:Invent 大會,AI/ML 軌道在超過 2,000 場總學習議程中提供逾 140 場獨特議程。該指南將議程對應至 AWS AI 堆疊,涵蓋 AI 晶片(AWS Trainium 與 NVIDIA GPU)、Amazon Bedrock 與 SageMaker AI 上的模型與推論,以及使用 Amazon Bedrock AgentCore 的代理程式開發。議程從新手內容編排至技術深入探討,且許多可隨選觀看。

  7. The Decoder80

    Google DeepMind 推出 Gemini Decisions API 與 Gemini Decision 1 模型

    Google DeepMind 推出 Gemini Decisions API,專為封閉式決策設計,例如是/否問題、多選題與量表評分,其底層 Gemini Decision 1 模型可在單次處理中處理多達 1,000 個獨立問題,涵蓋文字、圖像、音訊、影片與 PDF。它會在 150 至 250 毫秒內回傳附有信賴值的機率,每百萬輸入 token 收費 0.10 美元,且不收取輸出 token 費用,Google 稱這比 Gemini 3.5 Flash-Lite 便宜約五倍。該 API 現已可透過 Google AI Studio 使用,與 OpenRouter、LangChain 和 Vercel 的整合也正在陸續推出,Google 表示其內部已將其用於 Gemini Notebook 的模型路由、Stitch 的設計原型製作,以及 Google 搜尋的安全檢查。

    同一件事,精選收錄的是《Google launches Gemini Decisions API and Gemini Decision 1 model for fast closed-set decisions》

  8. Google Blog · AI78

    Google 推出 Gemini Decisions API 與 Gemini Decision 1 模型,用於快速封閉集決策

    Google 推出 Gemini Decisions API,由全新的 Gemini Decision 1 模型(gemini-decision-1)驅動,並可透過 Google AI Studio 中的 Gemini API 使用。單次多模態輸入最高可達 256K token,能在一次前向傳遞中對最多 1,000 道是非題、選擇題與評分規準評分題進行檢查,回傳機率與信心分數,端到端延遲為 150-250 毫秒,每 1M 輸入 token 收費 $0.10,且不收取輸出 token 費用。Google 表示,該模型在其基準測試套件中領先,校準誤差最低,且搭配 Interactions API 時比 Gemini 3.5 Flash-Lite 便宜近 5 倍;內部用途包括 Gemini Notebook 中的模型路由、Stitch 中的線框圖生成,以及 Search 中針對 MCP 工具的對抗性內容檢查。

    推薦理由:Google 的新端點能在一次傳遞中以 150-250 毫秒對最多 1,000 道多模態是非題、選擇題與評分規準題進行評分,為代理路由與政策檢查提供了比生成式呼叫更便宜的替代方案。

  9. Claude Blog78

    Anthropic 將 Claude Opus 5.5 設為 Pro、Max、Ultra 與 Team 方案的預設模型

    Claude Opus 5.5 現已成為 Claude 在 Pro、Max、Ultra 與 Team 方案中的預設模型,Anthropic 建議將其作為日常主力,用於研究、分析以及完成文件、簡報與試算表。Anthropic 表示,Opus 5.5 在中等強度下的表現,在其程式設計與知識工作評估中達到或超越 Opus 5 在高強度下的水準;在一項內部併購分析測試中,它以 Opus 5 執行同一任務一半的成本,於 63 分鐘內完成。該文章也列出新模型的提示詞調整方式,包括移除「think hard」指令、從中等強度開始,以及附上圖表而非重新輸入其數值。

    推薦理由:Anthropic 自家的指南說明了為何 Opus 5.5 現在是日常知識工作的預設模型,以及應為它捨棄哪些提示習慣。

11月11日星期三
  1. inclusionAI Models34

    inclusionAI 發布基於 Qwen3.5-4B 的 LemonDecider 4B v3 決策模型

    inclusionAI 發布 LemonDecider 4B v3,這是一個從 Qwen3.5-4B 微調而成的決策模型,透過單次聯合前向傳遞回傳選項、是/否或序數機率,而非生成答案 token。該模型以約 120 萬筆決策/問答資料列訓練,在公開的 Decision Index 0.4 測試套件上得分 61.67,請求延遲中位數為 49.9 毫秒。

  2. inclusionAI Models40

    inclusionAI 於 Qwen3.5 上發布 SingVL S1 4B 多模態決策模型

    inclusionAI 發布 SingVL S1,這是一個建構於 Qwen3.5 之上的 4B 多模態決策模型,能在單次 Transformers 前向傳遞中,針對文字或 JSON 以及最多四張圖片回答具名問題。它支援選擇題、是/否(noul)以及 2–10 級評分題,在 Public Vision Index 上得分 73.94,在 Public Text Index 上得分 69.76。該模型隨附 Python 推論程式碼與 FastAPI HTTP 伺服器。

  3. Ars Technica · AI22

    當 AI 成為神諭時,數學將何去何從?

    應用數學家 Steven Strogatz 與 Alex Townsend 在他們的新書《Big Math: The Hidden Codes That Run Our World》中探討「大數學」如何逐漸超出人類的理解範圍。該書審視當大型語言模型、AI 聊天機器人乃至最終的量子運算接手超出有限人類大腦能力的數學時,這意味著什麼,以及社會可能如何適應。

  4. Redwood Research48

    Redwood Research 質疑 GDM 是否刻意在思維鏈上訓練 Gemini 4

    Redwood Research 表示,在 Gemini 4 安全報告引用了一項以思維作為上下文觀察的輔助獎勵後,目前不清楚 Google DeepMind 是否刻意在思維鏈上訓練 Gemini 4。GDM 員工告訴 Redwood,他們並未在 CoT 上進行訓練,但無法解釋技術細節,而 GDM 的一篇部落格文章則表示,該模型從未因其在思維鏈中所寫的內容而受到懲罰。Redwood 警告,若 CoT 獎勵對不當對齊的推理存在偏見,可能會壓制誠實的口語表達,並降低 CoT 的忠實度。

  5. Latent Space69

    NaiveAI 的 Naive-N0.5-Flash 宣稱每秒 2,100 個 token:它的程式碼能力如何?

    Latent Space 測試了 NaiveAI 的開放權重模型 Naive-N0.5-Flash,這是一個源自小米 MiMo-V2.5 的程式碼模型,搭配 NaiveRT 推論引擎,並與 DeepSeek V4.1 Flash 1017 及 GLM 5.3 Flash 對比。在作者的執行中,它峰值接近每秒 2,000 個 token,在思考密集的任務中維持約每秒 1,000 個 token,中位回應時間為 3.1 秒,而兩個對比模型分別為 5.3 秒和 10.1 秒。在困難的 HLE 問題上,開啟思考時它平均產生約 108,500 個完成 token,約為 GLM 5.3 Flash 的九倍、DeepSeek V4.1 Flash 1017 的 11 倍;作者指出樣本為每個難度級別 10 題,且未進行準確度評分。

  6. Google DeepMind88

    Google DeepMind 發布 Gemini 4 Carbon,用於代理式編碼、網路安全與科學推理

    Google DeepMind 向開發者、企業、科學家與消費者開放 Gemini 4 Carbon,將其定位在 Gemini 4 Argon 之上,適用於需要更深層推理與更多 token 的任務。Carbon 在 CursorBench 4.0、Perplexity 的 WANDR 與 Zapier 的 AutomationBench 上排名第一,每項任務成本比次佳的外部模型低 2 倍以上,定價為每百萬輸入 token 2 美元、每百萬輸出 token 10 美元,與 Argon 的 introductory 價格相同。Google 也預覽了 Google Antigravity 中的 /swarm,能將單一提示詞轉化為一支協同運作的代理團隊,並回報 Carbon 在模擬網路攻擊測試中攔截了 99% 的攻擊軌跡。

    推薦理由:Google 的發布說明詳細介紹了 Gemini 4 Carbon 如何以更高的 token 用量換取更深層的推理,在 CursorBench 4.0、WANDR 與 AutomationBench 上排名第一,每項任務成本不到次佳外部模型的一半。

11月10日星期二
  1. OpenAI Alignment Blog60

    OpenAI 研究在模型生命週期中影響 CoT 可監控性的因素

    OpenAI 研究人員檢視了預訓練、架構、強化學習與模型生成資料如何影響思維鏈(CoT)可監控性的兩項代理指標:無 CoT 能力與 CoT 可控性。他們報告指出,無 CoT 能力會隨著較低的基礎模型困惑度平滑變化;CoT 可控性在強化學習期間上升,即使除了長度限制與最終答案評分之外沒有過程監督;且可控性可透過對教師模型 rollout 進行 SFT 傳遞給學生模型。作者提醒,這兩項代理指標都不完美,且隨著能力擴展,模型可能變得更難透過其 CoT 進行監控。

    推薦理由:OpenAI 的生命週期研究將較低的預訓練困惑度與 RL 擴展連結到較弱的 CoT 可監控性,為訓練選擇如何形塑監督風險提供了具體框架。

  2. Simon Willison75

    Meta AI 推出 Muse Ember,其最小且最高效的模型

    Meta AI 推出 Muse Ember,被描述为其最小且最高效的模型,面向工具调用、编码子任务、路由、抽取和长文档解析。对于较短提示,其定价为每百万输入 token 0.10 美元、每百万输出 0.50 美元,与 GPT-6 Luna 和 Claude Haiku 5.5 相同;而在超过 200k token 的长提示费率下,输入 0.30 美元、输出 1.50 美元,使其介于两者之间。Simon Willison 指出,该模型位于 Artificial Analysis 的智能指数与每任务成本图表的帕累托线上,并且其六个推理层级生成的鹈鹕 SVG 质量与价格高 40 倍的 Muse Wonder 相当。

  3. Latent Space85

    Anthropic 發布 Claude Fable 5.2 與 Mythos 5.2,在 IPO 路演啟動之際重奪頂尖 LLM 地位

    Anthropic 發布 Claude Fable 5.2 與 Claude Mythos 5.2,在多數獨立排行榜上名列前茅,包括 Artificial Analysis Intelligence Index v5 的 65 分與 SemiAnalysis GDPx 的 16.4%。價格下調 20% 至每 100 萬輸入/輸出 token 8 美元/40 美元,但 SemiAnalysis 報告指出,每項 GDPx 任務的成本從 67.16 美元升至 88.15 美元,因為該模型會撰寫數百到數千個測試案例,並啟動子代理來檢查其工作。多項評估顯示,max effort 等級的表現不如 high,且 Fable 每週訂閱上限被限制在 50%。

    推薦理由:Anthropic 發布 Fable 5.2 與 Mythos 5.2,每 token 價格下調 20%,但獨立評估顯示每項任務成本更高,且 max-effort 設定的表現不如 high。

  4. Hugging Face Blog60

    Hugging Face 解釋決策模型及其在 Transformers 與 llama.cpp 中的支援

    Hugging Face 發布了一篇關於決策模型的說明文章,這類模型接收狀態與具型別的問題,並回傳預定義答案上的機率,而非生成文字。文章詳細介紹了 choice、score 與 noul 原語、信心公式,以及透過 Transformers 的 DecisionPipeline 與 AutoModelForDecision 提供的新支援、Transformers 與 llama.cpp 中共用的 /v1/systemone 端點、用於探索的 Hub 標籤,以及使用 Trainer API 進行微調。文章指出,同一個端點也能透過在批次前向傳遞中對答案 logits 評分,與相容的自迴歸 LLM 搭配運作。

    推薦理由:Hugging Face 解釋了決策模型如何將分類轉變為具型別、非生成式的介面,並展示如何用 Transformers 與 llama.cpp 來服務與微調這些模型。

  5. Apple Machine Learning Research34

    用於高效長上下文檢索的加權狀態湯

    Apple 研究人員與哈佛合作者提出加權狀態湯(weighted state souping),此方法學習依查詢而定的權重,用以重新組合快取的 SSM 狀態編碼,在單跳與多跳文件問答、大海撈針檢索、變數追蹤與工具使用上提升長上下文表現。一種稀疏變體在編碼成本相對於上下文長度幾乎恆定的情況下,仍維持、有時甚至提升表現。該論文獲 NeurIPS 2026 的 PALM workshop 接受。

  6. Apple Machine Learning Research38

    Apple 研究:門控機制解釋了為何 SSM 會記憶而非進行上下文學習

    一項 Apple 與哈佛的研究顯示,狀態空間模型(SSM)中的門控機制會使其先學到一種權重內的「記憶」解法,延遲甚至阻止其收斂到正確的上下文學習。即使架構與記憶容量並未施加任何根本限制,此現象依然發生。然而,門控往往能改善對長序列長度的泛化能力。