跳至正文
11月12日星期四
  1. OpenRouter Announcements58

    OpenRouter 發布教學:如何阻止 AI Agent 陷入無限迴圈

    OpenRouter 發布指南,說明如何阻止卡在重複重試失敗工具的 AI agent,採用四項防護機制,並在六個現行模型上測試。啟用 doomLoop 偵測後,六個模型都在第三次相同的工具呼叫時被攔下;在 18 次執行中,工具呼叫次數從 314 降到 64,花費則從 $0.29 降至 $0.05。該指南新增 loopKey 來正規化參數、以 stopWhen 設定步數與成本上限,並在 API 金鑰上設定額度上限,超額時會回傳 402,limit_source 為 openrouter_key_limit。

  2. OpenRouter Announcements28

    如何對 LLM 進行基準測試:OpenRouter 的程式碼評分指南

    OpenRouter 發布了一份指南,說明如何以你自己應用程式的輸入對 LLM 進行基準測試,用程式碼為輸出評分,並比較準確率、計費成本和請求時間。在其 60 項合成任務中,GPT-6.1 Sol 在三次重複中共通過 180/180 次試驗,而 DeepSeek 的通過次數為 157/180,回應成本最低。與公開排名的吻合度較弱,Spearman 相關係數為 0.109。

  3. vLLM Blog64

    vLLM-Omni 在 Vera Rubin 上對 MiniMax H3-Image 進行基準測試:0.87 秒生成 4K 影像,每小時 6,115 張影像

    vLLM-Omni 將 MiniMax H3-Image 帶到 NVIDIA Vera Rubin,並測得在四張 GPU 上進行原生 4096×4096 文字轉圖像的中位延遲為 0.87 秒,另在獨立吞吐配置下達到每小時 6,115 張影像。H3-Image 是一個開放權重的文字轉圖像與編輯模型,結合 Qwen3-VL 編碼器、33.1B 稠密 DiT 與影像 VAE,以六個取樣步驟處理這兩項任務,並支援最多 16 張參考影像。團隊報告了 MXFP8 DiT GEMM、Ulysses SP4、AdaLN 快取,以及一項將解碼時間從 2.635 秒縮短至 0.213 秒的 VAE 解碼變更,並列出 AMD、Intel、華為昇騰與摩爾線程硬體的配置方案。

    推薦理由:vLLM-Omni 的基準測試顯示 MiniMax H3-Image 在 Vera Rubin 上以不到一秒的 4K 延遲運行,並附有各硬體配置與服務經濟性的成本模型。

  4. vLLM Blog72

    vLLM 在 Vera Rubin NVL72 上服務 DeepSeek-V4.1-Flash,吞吐量達 GB300 NVL72 的 58 倍

    vLLM 報告指出,在單一 NVIDIA Vera Rubin NVL72 機架上服務 DeepSeek-V4.1-Flash,每 GPU 達 1.7M tokens/s、每位使用者 387 tokens/s,為 GB300 NVL72 的 58 倍,峰值達 2.52M tokens/s,單一使用者可達 1,810 tokens/s。這些增益來自為 Rubin 分割記憶體域與 FP4 張量核心重建的 kernel、專用的 TP8 解碼路徑,以及透過 NVLink 共享的整機架 KV 與 Engram 池。透過整機架的前綴池化與 Dynamo 的工作負載感知路由,即使在高併發下前綴命中率仍維持在 96.5-97%。

    推薦理由:vLLM 第三篇 DeepSeek-V4.1-Flash 文章詳述 Rubin 專用 kernel 與整機架記憶體池化如何將吞吐量提升至 GB300 NVL72 的 58 倍,為大規模服務優化提供了具體參考。

  5. Apple Machine Learning Research38

    語言模型對齊的理論極限

    Apple Machine Learning Research 的研究人員推導出 KL 正則化語言模型對齊的資訊理論極限,給出在固定 KL 預算下最大期望獎勵增益的閉式表達式,該增益由 Jeffreys 散度項決定,而非先前分析中使用的 √KL。他們證明理想對齊與代理對齊之間的差距(獎勵駭客)會隨獎勵誤差增大和 KL 懲罰減小而擴大,並證明獎勵集成可緩解此問題。在安全與摘要任務上,best-of-N 緊密接近理論極限,而 PPO 與 GRPO 仍顯著次優。

  6. Hugging Face Blog36

    Hugging Face 發布 TRELLIS.2 3D 生成微調指南與腳本

    Hugging Face 發布了 3D 生成模型 TRELLIS.2 的微調腳本與容器,可在本機或 Hugging Face Jobs 上執行。該指南透過 PEFT 函式庫使用 LoRA 適配器,僅套用於稀疏結構流 DiT 與形狀流 DiT,材質階段則保持凍結。在 GSO 資料集的 188 個物件鞋類子集上,預訓練模型經常渲染出錯誤的鞋底,而 LoRA 微調正是針對此問題。

  7. Gary Marcus · The Road to AI We Can Trust83

    報導:Nvidia 據傳準備開除黃仁勳

    《華爾街日報》報導,Nvidia 即將開除黃仁勳,此消息來自 Gary Marcus。Marcus 寫道,該股在盤後交易中已經下跌,而黃仁勳的離去可能動搖他一手促成的循環融資交易,引發 Nvidia 是否仍會兌現其在 IPO 中向 Anthropic 承諾的數十億美元的疑問。

    同一件事,精選收錄的是《Nvidia stock falls as board reportedly prepares to remove CEO Jensen Huang》

  8. AWS Machine Learning Blog36

    在 Amazon Bedrock 上執行 OpenAI Codex:存取路徑與部署指南

    本文說明如何將 OpenAI Codex 模型請求路由至 Amazon Bedrock,同時沿用既有的 AWS 身分、IAM、區域與可觀測性實務做法。文中建議先以 Native AWS Access 進行小規模的最小權限試點,並以 AgentCore Gateway 或 LLM Gateway 作為替代方案,接著逐步說明 IAM Identity Center 登入,以及使用 GPT-5.6 Sol 直接檢查 Bedrock Runtime 的流程。

  9. AWS Machine Learning Blog34

    形式化策略的語意差異比對與反統一

    一個開源引擎利用在 e-graph 上的反統一來計算形式化策略的語意差異,將共享結構只呈現一次,並保留每個差異部分的兩個版本。它針對 SMT-LIB、Cedar、Dogwood、OpenShell 策略與 CEL 中的自動形式化輸出,其中由 LLM 撰寫產物,但不參與差異的計算。

  10. AWS Machine Learning Blog46

    在 Amazon SageMaker HyperPod 上偵測並復原無聲資料損毀

    在 Amazon SageMaker HyperPod 上執行的 PyTorch DDP 訓練迴圈新增了三項檢查來捕捉無聲資料損毀:非有限梯度檢查、環狀重播稽核(比對各節點的損失位元與梯度指紋),以及最佳化器步驟後的權重指紋比對。在 4 台 ml.p5.48xlarge 執行個體(32 張 NVIDIA H100 GPU)上以軟體注入故障測試,這些檢查能指出可疑的 rank、將其對應到節點,並讓 HyperPod 更換該節點並從檢查點繼續執行。

  11. TechCrunch · AI88

    Nvidia股價下跌,據報導董事會準備撤換執行長黃仁勳

    據《華爾街日報》報導,Nvidia董事會正準備撤換共同創辦人兼執行長黃仁勳,他領導公司已33年,最快週三召開會議決定其去留。此前,黃仁勳於週日承認與一名被美國情報機構稱為中國間諜的女性有婚外情,而《紐約時報》週三報導稱,他還與一名向他匯報的高階主管有婚外情。Nvidia股價週三盤後交易下跌約8%,過去五天累計下跌約11%,同時彭博報導稱該公司正與外部機構合作尋找潛在的執行長人選。

  12. AWS Machine Learning Blog41

    Amazon Bedrock AgentCore Web Search API 發布

    Amazon Bedrock AgentCore 現在提供獨立的 Web Search API,讓開發人員可直接從 AWS SDK 或 AWS CLI 以單一請求呼叫 InvokeWebSearch,無需建立任何資源。它會從 Amazon 營運的網路索引傳回排序後的結果,每筆結果包含文字摘錄,並在可用時附上標題、URL 與發布時間,且支援網域與日期篩選。請求以 SigV4 與 IAM 簽署,使用與 AgentCore Gateway 路由相同的權限。

  13. AWS Machine Learning Blog36

    2026 年 10 月 AWS 為 AI 開發者帶來哪些更新:Claude Haiku 5.5、GPT-6.1 Terra、AgentCore CLI 1.0

    AWS 的 2026 年 10 月彙整新增了 Claude Haiku 5.5,Anthropic 表示其在多數任務上的成本比 Claude Haiku 4.5 低約 75%;此外,Amazon Bedrock 上線 OpenAI GPT-6.1 Terra,輸入 token 最高可達 100 萬,價格至少比 GPT-6.1 Sol 與 GPT-5.6 Terra 低 50%。AgentCore CLI 達到 1.0 版,AgentCore Gateway 則新增模型容錯回退,並將 Step Functions 工作流程作為代理工具。

  14. Simon Willison71

    Google 發布 Gemini Decision 1 決策模型 API,支援多模態輸入

    Google 發布了 Gemini Decision 1,這是一個決策模型 API,支援是/否、選擇題與評分規準評分問題,加入 Jev 與 OpenAI 的行列,進入決策模型類別。其定價為每百萬輸入 token 10 美分,輸出免費,且不同於 Jev 僅支援純文字輸入,它接受文字、圖像、音訊、影片與 PDF。在對一段機器人影片的測試中,Gemini 回傳了機器人 0.9234、龍 0.0498 等機率,而非 Jev 與 OpenAI 回傳的 1.0 或 0.0。

  15. The Verge · AI58

    聯合航空阻止個人 AI 代理預訂航班

    據《華爾街日報》報導,聯合航空以隱私與監管疑慮為由,不允許個人 AI 助理在其網站上完成航班預訂。代理仍可向使用者顯示聯合航空的航班,但無法完成交易,執行長 Scott Kirby 表示他不想再創造另一個中間商。聯合航空表示,隨著第三方代理技術進步,可能會重新考慮,而 eBay 與多家大型銀行也已限制代理存取。

  16. MarkTechPost74

    Google 推出 Gemini Decisions API,搭載 Gemini Decision 1,每 100 萬個 token 收費 0.10 美元

    Google 推出 Gemini Decisions API,由名為 Gemini Decision 1(gemini-decision-1)的新模型驅動,該模型不生成文字,而是針對單一共享輸入對最多 1,000 道具型別的題目進行評分,並回傳經校準的機率。它在單次 prefill 中讀取文字、圖像、音訊、影片與 PDF,支援是/否、選擇與評分題型,定價為每 100 萬個輸入 token 0.10 美元,輸出 token 不計費。Google 表示其上下文長度為 262,144 個 token、端到端延遲 150-250 毫秒、top-1 ECE 為 0.0250,約為 TypeSafe Jev 1.14 的一半,不過在 When2Call 基準測試上落後 Jev(79.9% 對 82.0%),且每 token 成本更高(0.10 美元對 0.042 美元)。

  17. Simon Willison58

    AWS 推出官方本機模擬器,無需付費 API 金鑰即可測試其服務

    AWS 發布了一款官方模擬器,讓開發人員能針對其各項服務的本機複製品執行測試,無需佈建付費 API 金鑰。根據 Swaminathan (Swami) Sivasubramanian 在 Werner Vogels 部落格上的客座文章,該模擬器以 Rust 撰寫,並在專案前三週累積了 29,684 次提交。它目前在 macOS 和 Windows 上需要 Docker,而 Simon Willison 希望後續能推出單一可下載的二進位檔,以便在其他平台和語言的標準測試套件中使用。

  18. AWS Machine Learning Blog12

    AWS re:Invent 2026 AI/ML 軌道:與會者指南

    AWS 將於 11 月 30 日至 12 月 4 日舉行年度 re:Invent 大會,AI/ML 軌道在超過 2,000 場總學習議程中提供逾 140 場獨特議程。該指南將議程對應至 AWS AI 堆疊,涵蓋 AI 晶片(AWS Trainium 與 NVIDIA GPU)、Amazon Bedrock 與 SageMaker AI 上的模型與推論,以及使用 Amazon Bedrock AgentCore 的代理程式開發。議程從新手內容編排至技術深入探討,且許多可隨選觀看。

  19. AWS Machine Learning Blog28

    以推送式架構自動化 AWS Agent Registry 更新

    AWS 概述了一套事件驅動的管線,可在無需手動更新的情況下,讓 MCP 伺服器的 AWS Agent Registry 記錄保持最新。AWS CloudTrail 擷取 UpdateAgentRuntime API 呼叫,Amazon EventBridge 將其路由至跨帳戶,而 Lambda 函式則透過 AgentCore Identity OAuth 權杖查詢 MCP 伺服器的工具,接著比對差異並更新相符的登錄記錄。此範例僅更新現有記錄,並同時支援單一帳戶與多帳戶設定。

  20. MarkTechPost58

    Google DeepMind 發布 AlphaGenome 2,用於細胞類型特異性變異效應預測

    Google DeepMind 發布 AlphaGenome 2,這是一個條件式序列到功能 DNA 模型,可讀取 1 Mb 的 DNA 視窗加上目標細胞狀態,並在每次呼叫時預測單一細胞類型的變異效應。在涵蓋 28 種免疫細胞類型的 TenK10K 單細胞 eQTL 上,90% 精確度下的因果變異召回率從微調後 AlphaGenome 1 的 16% 提升至 30%,效應方向召回率從 23% 提升至 43%。該模型可透過 AlphaGenome API 用於非商業研究,權重承諾於最終發表後釋出,商業使用則處於私下預覽階段。

  21. TechCrunch · AI38

    為什麼你擔心的資料中心可能根本不會建成

    TechCrunch 的 Equity 播客討論了為何許多已宣布的資料中心專案可能根本不會建成,甚至在地方反對、許可延誤和電力短缺等因素發揮作用之前就已如此。主持人 Rebecca Bellan 和 Tim De Chant 與 Ascend Analytics 的 Brent Nelson 一同探討,在數十億美元的 AI 基礎設施投資中,如何區分現實可行的專案與投機性的專案。

  22. The Decoder80

    Google DeepMind 推出 Gemini Decisions API 與 Gemini Decision 1 模型

    Google DeepMind 推出 Gemini Decisions API,專為封閉式決策設計,例如是/否問題、多選題與量表評分,其底層 Gemini Decision 1 模型可在單次處理中處理多達 1,000 個獨立問題,涵蓋文字、圖像、音訊、影片與 PDF。它會在 150 至 250 毫秒內回傳附有信賴值的機率,每百萬輸入 token 收費 0.10 美元,且不收取輸出 token 費用,Google 稱這比 Gemini 3.5 Flash-Lite 便宜約五倍。該 API 現已可透過 Google AI Studio 使用,與 OpenRouter、LangChain 和 Vercel 的整合也正在陸續推出,Google 表示其內部已將其用於 Gemini Notebook 的模型路由、Stitch 的設計原型製作,以及 Google 搜尋的安全檢查。

    同一件事,精選收錄的是《Google launches Gemini Decisions API and Gemini Decision 1 model for fast closed-set decisions》

  23. TechCrunch · AI38

    藍潮過後,反彈與繁文縟節如何持續拖慢資料中心

    TechCrunch 的 Equity 播客討論地方反對、許可延誤與電力短缺如何拖慢資料中心熱潮,Ascend Analytics 的 Brent Nelson 主張專案儲備量被大幅誇大,已宣布的 AI 基礎設施中只有一小部分會真正建成。本集也探討泡沫破裂對租錯租戶的開發商意味著什麼、為何民主黨現在應推動許可改革,以及為何天然氣並非開發商以為的可靠備援。

  24. Google Research58

    Google Research 利用穿戴式裝置建立 CKM 風險概況與個人化指導

    Google Research 提出一套研究性框架,可將消費級穿戴式裝置資料轉化為可據以指導的健康年齡,並模擬個人化的 12 週「假設情境」健康軌跡。SensorWM 世界模型以約 10 萬名使用者、共 228 萬人週的去識別化 Fitbit 資料進行預訓練,能在不同的步數、睡眠與有氧作息下預測 20 項生理指標。在一項盲測研究中,生活型態教練在 71.4% 的評估中選擇以反事實為依據的計畫為整體最佳,醫師則評定 99.2% 的計畫落在安全運動強度範圍內;作者指出這些模型屬於研究原型,並非臨床診斷工具。

  25. Simon Willison18

    Simon Willison 為他的 vibe-coded 工具網站加入標籤瀏覽功能

    Simon Willison 在 tools.simonwillison.net 上加入了標籤瀏覽功能,讓訪客能依標籤探索他收集的 244 個 vibe-coded 工具。他利用剩餘的 Fable 5.2 額度,讓 tree-sitter 分析每個工具的程式碼,找出其中的 JavaScript API、函式庫與 Web API 主機。首頁現在會針對上述各標籤類別顯示標籤雲。

  26. The Decoder88

    Google DeepMind 的 AlphaProof Code 在四週內驗證 Signal 的密碼學核心,而非數年

    Google DeepMind 發表 AlphaProof Code,這是一套能以數學方式證明軟體符合其安全規範的 AI 系統,並用它驗證了運行在 Signal 使用者裝置上的密碼學核心程式碼,耗時四週,而這類工作通常需要數年。在專家定義形式化安全需求後,建構於 Gemini Carbon 上的 AI 代理以 Lean 證明語言撰寫了超過六百萬行,並標記約百分之一的程式碼庫供人工審查,立即抓出兩個刻意植入的錯誤。Signal 技術長 Ehren Kret 表示,隨著 AI 威脅日益增長,這種方法強化了對資料隱私的信任,而 DeepMind 計畫透過 CodeMender 等系統,將此方法擴展至電網與醫療裝置。

    推薦理由:DeepMind 的 AlphaProof Code 在四週內驗證了 Signal 真實的密碼學程式碼,展示 AI 代理如何將形式化驗證從設計文件推進到生產軟體。

  27. Google Blog · AI78

    Google 推出 Gemini Decisions API 與 Gemini Decision 1 模型,用於快速封閉集決策

    Google 推出 Gemini Decisions API,由全新的 Gemini Decision 1 模型(gemini-decision-1)驅動,並可透過 Google AI Studio 中的 Gemini API 使用。單次多模態輸入最高可達 256K token,能在一次前向傳遞中對最多 1,000 道是非題、選擇題與評分規準評分題進行檢查,回傳機率與信心分數,端到端延遲為 150-250 毫秒,每 1M 輸入 token 收費 $0.10,且不收取輸出 token 費用。Google 表示,該模型在其基準測試套件中領先,校準誤差最低,且搭配 Interactions API 時比 Gemini 3.5 Flash-Lite 便宜近 5 倍;內部用途包括 Gemini Notebook 中的模型路由、Stitch 中的線框圖生成,以及 Search 中針對 MCP 工具的對抗性內容檢查。

    推薦理由:Google 的新端點能在一次傳遞中以 150-250 毫秒對最多 1,000 道多模態是非題、選擇題與評分規準題進行評分,為代理路由與政策檢查提供了比生成式呼叫更便宜的替代方案。

  28. Simon Willison22

    LLM 0.37.2 修復 API 金鑰洩漏至第三方 OpenAI 相容端點的問題

    Simon Willison 發布 LLM 0.37.2,修復由 Daniel de Araujo 在 GHSA-v9h7-jj4g-f862 與 GHSA-r639-rr7r-x72w 中回報的安全問題。此錯誤可能在指定的 api_key_name 從未儲存,或當 responses: true 的模型以 -o chat_completions 1 執行時,透過 extra-openai-models.yaml 將已設定的 OpenAI API 金鑰傳送至第三方 OpenAI 相容端點。

  29. Epoch AI · Gradient Updates64

    Epoch 簡報:GLM 5.3 自主利用修補缺口打造 Firefox 漏洞利用程式,每個約 1,000 美元

    Epoch AI 研究人員報告,在離線沙箱實驗中,開放權重模型 GLM 5.3 自主攻破了六個近期版本的 Firefox(一款擁有超過 2 億活躍使用者的瀏覽器),方法是從尚未送達使用者的修補程式反向工程出攻擊手法,每個漏洞利用程式成本約 1,000 美元。該模型建構出能讀取訪客電腦檔案並在無需人工輸入的情況下將其傳送給攻擊者的網頁;團隊無法用 Chrome 重現此結果。同一份簡報指出,11 月 9 日發布的 Anthropic Claude Fable 5.2 創下 Epoch Capabilities Index 新紀錄 174,高於 GPT-6 Astra 的 169。

  30. Amazon Science36

    用數學驗證網路配置:AWS Tiros 的分段檢查

    AWS 正使用其自動推理工具 Tiros,對所有已建模路徑進行靜態驗證網路分段,而非依賴基於封包的取樣。Tiros 將 Cloud WAN 配置中的路由表、連接附件與政策文件轉換為邏輯命題,然後檢查政策宣告為禁止通行的分段之間不存在任何路徑,分析頻率最高可達每小時一次。

  31. Meta Engineering Blog40

    Meta 智慧投遞:為廣告排序分配運算資源的機器學習系統

    Meta 詳細介紹了「智慧投遞」(Intelligent Delivery),這是一套由機器學習驅動的系統,會在其廣告投放堆疊中分配運算資源,以達到整體系統的最佳化,並在 2017 年至 2026 年上半年期間,於模型與系統進展的基礎上額外貢獻約 10% 的排序效能提升。其資源核心模型(Resource Core Model)使用 60 億稀疏參數與 2,000 萬稠密參數來預測每個請求的邊際效用,Meta 表示,在離線基準測試中,該系統將高影響力廣告請求的識別能力提升了約 20%。該系統也依賴多層次分配機制與日益具備代理能力的 AI,以隨著模型與硬體變化進行調適。

  32. Google Developers Blog58

    Google 工程師用 Gemini 4 Argon 與 Z3 捕捉 Go 邊界檢查中模糊測試漏掉的錯誤

    一位主導公司 agent skills 計畫的 Google 工程師建了一套流程,讓 Gemini 4 Argon 讀取 Go 原始碼與 RISC-V 反組譯,把殘存的 runtime.panicBounds 陷阱轉成 Z3 約束,再由 go test 把任何可滿足的輸入重放成真正的重現案例。這套流程在 skill-lint 中抓到了全部三個植入的錯誤與三個潛伏錯誤,而未設種子的 go test -fuzz 漏掉了其中兩個植入的當機,因為 Go 是拿切片對容量而非長度做檢查。用 data[:len(data):len(data)] 把容量裁到長度後,模糊測試器在三次執行中都讓兩個越界錯誤當掉,中位數分別為 0.28 秒與 0.17 秒。

  33. Google Developers Blog58

    Google Agent Anomaly Detection 在五項公開代理安全基準測試中的評分

    Google 讓其 Agent Anomaly Detection(於 Gemini Enterprise Agent Platform 上進行 Private Preview)接受五項並非由 Google 撰寫的公開代理安全基準測試,共評分 1,774 個工作階段。它標記出代理實際執行之有有害指令中的 87%,對 2% 至 16% 的良性工作階段發出誤報,且在 18 個因長期記憶遭投毒而驅使代理採取行動的工作階段中,僅攔截到 4 個。測試使用以 Agent Development Kit(ADK)在 gemini-2.5-flash 上建構的代理,涵蓋 AgentDojo、InjecAgent、Agent Security Bench、AgentDyn 與 AgentHarm。