跳至正文
  1. Hugging Face Blog69

    IBM 發布基於 Granite 4.1 3B 與 8B 的 LLMON 預覽模型

    IBM 發布了兩個實驗性預覽模型 granite-4.1-3b-LLMON-preview 與 granite-4.1-8b-LLMON-preview,它們衍生自 Granite 4.1 基礎檢查點,並經過訓練以讀取與生成 LLMON——一種 LLM 原生標記語言,以保留的特殊 token 定界符標示指令、資料與需求。在 OPI 基準上,這些模型比測試中最佳的前沿模型多避開 47% 的間接提示注入攻擊,比最佳的開源模型多避開 95%,同時在標準基準上的表現與 Granite 4.1 Instruct 相當。此次發布包含一個 GitHub 工具包,內含無損的 JSON 轉 LLMON 轉換器,作者指出此預覽版僅供探索,並非用於生產環境。

    推薦理由:IBM 在 Granite 4.1 上訓練出能讀寫 LLMON 標記的預覽模型,透過顯式分離指令與資料,將 OPI 基準上的間接提示注入成功率壓到接近零,同時保持通用能力。

  2. AWS Machine Learning Blog66

    AWS 更新 AgentCore 執行環境:工作階段啟動速度提升 15 倍、運算資源增加 4 倍

    AWS 宣布更新 Amazon Bedrock AgentCore 執行環境,這是其用於代理程式的受管運算層,工作階段現在啟動速度最高提升 15 倍,可擴展至 4 倍運算資源(最高 8 個 vCPU 與 32 GB,容器映像最高 10 GB),執行效率最高提升 68%,同時每個工作階段仍維持在各自硬體隔離的 Firecracker MicroVM 中。無論映像大小或並行數量,工作階段皆在 2 秒內啟動,閒置代理程式會縮減至零,代理程式可掛載檔案系統並將工作儲存至 Amazon S3 儲存貯體等位置,支援 FUSE,讓資料留在信任邊界內。此執行環境即日起在北美、南美、歐洲與亞太地區的 AWS 區域提供。

    推薦理由:AgentCore 執行環境的新版本同時調整了工作階段啟動、算力上限與記憶體計費,為需要長時間執行的智慧代理提供了隔離與成本之間的新取捨。

  3. Google DeepMind90

    Google DeepMind 發布 Gemini 4 Hydrogen,一款更快的 Gemini 4 模型,專為程式編寫與代理式工作流程打造

    Google DeepMind 推出 Gemini 4 Hydrogen,這是一款 Gemini 4 模型,專為快速的日常程式編寫與代理式執行而打造,而非像 Gemini 4 Carbon 與 Argon 那樣著重於長程推理。它在預設的高思考等級下,於 Artificial Analysis Intelligence Index 上得分 51,而 Argon 為 50;在全新的 xhigh 設定下達到 54;其定價在其 100 萬 token 上下文視窗內一律為每百萬輸入 token 1.50 美元、每百萬輸出 token 7.50 美元。Google 亦在 Google Antigravity 中推出 Orchestrator,可在同一工作階段內於 Carbon 與 Hydrogen 等模型之間切換,並在 Terminal-Bench 4.0 上達到接近 Carbon 的任務成功率,同時少用 24% 配額、完成速度快 19%。

    推薦理由:Google 的 Gemini 4 Hydrogen 鎖定快速的日常程式編寫與代理式工作,在 100 萬上下文視窗內一律採每百萬 token 1.50/7.50 美元的定價,並搭配可在 Gemini 4 模型之間切換的全新 Orchestrator。

  4. Google Blog · AI82

    Google 搜尋全球升級至 Gemini 4 Hydrogen

    Google 搜尋已將全球所有使用者遷移至 Gemini 4 Hydrogen,該公司稱這是迄今對搜尋最大的一次模型升級。此模型強化了對多段式與錯字頻繁問題的意圖理解,加入更深入的指令遵循與工具呼叫能力,並增強查詢展開(query fan-out)以呈現使用者原本可能找不到的連結。在所有支援的 AI 模式語言中,回應也變得更視覺化,包含更多圖片、比較表格與自訂工具。

    推薦理由:這是 Google 搜尋迄今最大的模型升級,Gemini 4 Hydrogen 現已為全球所有使用者處理多段式問題、工具呼叫與查詢展開。

  5. AWS Machine Learning Blog60

    AWS 開源 UAEF,一個與框架無關的 AI 代理評估系統

    AWS 已開源 UAEF(Universal Agent Evaluation Framework),這是一個與框架無關的系統,透過適配器將來自 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的代理軌跡正規化為統一的 AgentTrace,再以 7 個維度下的 36 項內建指標進行評分。結果按實驗分別儲存在 Amazon DynamoDB 和 Amazon S3 中,讓團隊可以將代理版本與基準進行比較,以預設 5% 的閾值標記回歸,並生成統計報告及 LLM 撰寫的洞察。文章指出,電信、醫療保健和金融服務領域 12 個組織的客戶在發布前使用了 UAEF,Apache 2.0 程式碼、Python 函式庫、CDK 部署及各框架的 notebook 均位於 awslabs/uaef GitHub 儲存庫中。

    推薦理由:AWS 團隊開源 UAEF,用適配器把不同框架的 Agent 軌跡統一成一種格式,再以 36 項指標跨 7 個維度打分,為跨框架比較 Agent 版本提供了一套可復用的評測層。

  6. Replit Blog65

    Replit Agent 新增 Link 與 Visa 購買功能及 Google Ads 廣告活動建立功能

    Replit Agent 現在有兩項新任務:透過 Link 和 Visa 購買業務用品,以及在搜尋、YouTube、多媒體廣告和探索上建立 Google Ads 廣告活動。在購買流程中,瀏覽器子代理會導覽商家網站並準備結帳,然後等待擁有者核准最終總金額;付款期間會停用 shell 存取,且核准檢查會在程式碼中強制執行。Agentic Commerce 先在美國開放給 Core 和 Pro 使用者,僅限一次性購買;Agentic Ads 則全球開放給 Pro 使用者。

    推薦理由:Replit Agent 現在能處理購買和 Google Ads 廣告活動,並透過程式碼強制執行的核准關卡,展示如何設計代理的消費上限。

  1. NVIDIA Newsroom88

    NVIDIA 宣佈執行長交接,黃仁勳辭任,Colette Kress 獲任命為臨時執行長

    NVIDIA 董事會宣佈,黃仁勳已辭去總裁、執行長及董事職務,即時生效;執行副總裁兼財務長 Colette Kress 將出任臨時執行長,董事會同時尋找正式繼任人選。董事會亦任命 Synopsys 前執行長兼執行董事長 Harvey C. Jones 為首任董事會主席,並表示預期營運、客戶承諾及產品路線圖將不受中斷地持續推進。NVIDIA 表示,將按原定計劃於 11 月 17 日公布 2027 財年第三季業績。

    推薦理由:黃仁勳即時辭任後,NVIDIA 董事會任命財務長 Colette Kress 為臨時執行長,Harvey Jones 則成為首任董事會主席。

  2. vLLM Blog64

    vLLM-Omni 在 Vera Rubin 上對 MiniMax H3-Image 進行基準測試:0.87 秒生成 4K 影像,每小時 6,115 張影像

    vLLM-Omni 將 MiniMax H3-Image 帶到 NVIDIA Vera Rubin,並測得在四張 GPU 上進行原生 4096×4096 文字轉圖像的中位延遲為 0.87 秒,另在獨立吞吐配置下達到每小時 6,115 張影像。H3-Image 是一個開放權重的文字轉圖像與編輯模型,結合 Qwen3-VL 編碼器、33.1B 稠密 DiT 與影像 VAE,以六個取樣步驟處理這兩項任務,並支援最多 16 張參考影像。團隊報告了 MXFP8 DiT GEMM、Ulysses SP4、AdaLN 快取,以及一項將解碼時間從 2.635 秒縮短至 0.213 秒的 VAE 解碼變更,並列出 AMD、Intel、華為昇騰與摩爾線程硬體的配置方案。

    推薦理由:vLLM-Omni 的基準測試顯示 MiniMax H3-Image 在 Vera Rubin 上以不到一秒的 4K 延遲運行,並附有各硬體配置與服務經濟性的成本模型。

  3. vLLM Blog60

    vLLM 新增對 Thinking Machines 的 Inkling 2 Small 的 day-0 支援

    vLLM 在 day 0 支援 Thinking Machines 的 Inkling 2 Small,這是一個多模態文字與視覺 MoE,總參數 594B、活躍參數 17B,上下文最多可達 1M 個 token。此整合加入了搭配 PDL 的核心融合、用於 prefill 的序列平行,在 TP4 下將 8K token 的 prefill 步驟縮短 22%,TP8 下縮短 26%,以及一個 Gluon 相對注意力解碼核心,將 100K 上下文下 batch-1 的解碼步驟從 15.1 ms 降至 4.8 ms。vLLM 回報在 GB200 上 TP4 時可達每使用者最高 630 TPS,接受長度 3.5,並且也透過 SkyRL 支援 LoRA 與 RL。

    推薦理由:vLLM 在發布當天即支援 Inkling 2 Small,並給出核心融合、序列平行和 Gluon 解碼核心的具體優化數據,可供部署大型 MoE 模型的團隊參考。

  4. vLLM Blog72

    vLLM 在 Vera Rubin NVL72 上服務 DeepSeek-V4.1-Flash,吞吐量達 GB300 NVL72 的 58 倍

    vLLM 報告指出,在單一 NVIDIA Vera Rubin NVL72 機架上服務 DeepSeek-V4.1-Flash,每 GPU 達 1.7M tokens/s、每位使用者 387 tokens/s,為 GB300 NVL72 的 58 倍,峰值達 2.52M tokens/s,單一使用者可達 1,810 tokens/s。這些增益來自為 Rubin 分割記憶體域與 FP4 張量核心重建的 kernel、專用的 TP8 解碼路徑,以及透過 NVLink 共享的整機架 KV 與 Engram 池。透過整機架的前綴池化與 Dynamo 的工作負載感知路由,即使在高併發下前綴命中率仍維持在 96.5-97%。

    推薦理由:vLLM 第三篇 DeepSeek-V4.1-Flash 文章詳述 Rubin 專用 kernel 與整機架記憶體池化如何將吞吐量提升至 GB300 NVL72 的 58 倍,為大規模服務優化提供了具體參考。

  5. Google Blog · AI78

    Google 推出 Gemini Decisions API 與 Gemini Decision 1 模型,用於快速封閉集決策

    Google 推出 Gemini Decisions API,由全新的 Gemini Decision 1 模型(gemini-decision-1)驅動,並可透過 Google AI Studio 中的 Gemini API 使用。單次多模態輸入最高可達 256K token,能在一次前向傳遞中對最多 1,000 道是非題、選擇題與評分規準評分題進行檢查,回傳機率與信心分數,端到端延遲為 150-250 毫秒,每 1M 輸入 token 收費 $0.10,且不收取輸出 token 費用。Google 表示,該模型在其基準測試套件中領先,校準誤差最低,且搭配 Interactions API 時比 Gemini 3.5 Flash-Lite 便宜近 5 倍;內部用途包括 Gemini Notebook 中的模型路由、Stitch 中的線框圖生成,以及 Search 中針對 MCP 工具的對抗性內容檢查。

    推薦理由:Google 的新端點能在一次傳遞中以 150-250 毫秒對最多 1,000 道多模態是非題、選擇題與評分規準題進行評分,為代理路由與政策檢查提供了比生成式呼叫更便宜的替代方案。

  6. Claude Blog78

    Anthropic 推出 Claude Meetings 測試版,支援 Team 與 Enterprise 方案的 Google Meet

    Anthropic 發布 Claude Meetings 測試版,讓 Claude 以可見參與者身分加入 Google Meet 通話,能在聊天中回答問題、即時建立文件和白板,並撰寫筆記與待辦事項。每場會議在 claude.ai 上都有專屬頁面,包含逐字稿、筆記和產出物;預設情況下,除非管理員允許,Claude 不會加入有外部賓客的通話。此測試版在 Team 與 Enterprise 方案推出,部分組織無法使用,包括 ZDR、HIPAA-ready 和 CMEK 設定;測試期間筆記、逐字稿和通話中回答皆免費。

    推薦理由:Anthropic 的測試版發布展示了會議代理如何在通話進行中起草文件、取得已連接工具的資料並撰寫筆記,同時預設排除外部賓客的規則。

  7. Claude Blog78

    Anthropic 將 Claude Opus 5.5 設為 Pro、Max、Ultra 與 Team 方案的預設模型

    Claude Opus 5.5 現已成為 Claude 在 Pro、Max、Ultra 與 Team 方案中的預設模型,Anthropic 建議將其作為日常主力,用於研究、分析以及完成文件、簡報與試算表。Anthropic 表示,Opus 5.5 在中等強度下的表現,在其程式設計與知識工作評估中達到或超越 Opus 5 在高強度下的水準;在一項內部併購分析測試中,它以 Opus 5 執行同一任務一半的成本,於 63 分鐘內完成。該文章也列出新模型的提示詞調整方式,包括移除「think hard」指令、從中等強度開始,以及附上圖表而非重新輸入其數值。

    推薦理由:Anthropic 自家的指南說明了為何 Opus 5.5 現在是日常知識工作的預設模型,以及應為它捨棄哪些提示習慣。

  1. Google DeepMind72

    DeepMind 發布 AlphaGenome 2,一款可預測特定細胞類型中變異影響的 DNA 模型

    Google DeepMind 宣布推出 AlphaGenome 2,這是一款新一代 DNA 序列模型,可預測 DNA 序列及其變異如何影響特定的人類細胞類型。該條件模型基於 68 種組織中超過 1.07 億個單細胞圖譜訓練,識別出的改變表現的變異數量幾乎是前代模型的兩倍;在 TenK10K 免疫細胞資料集上,它找回了 30% 的因果變異,而原始 AlphaGenome 在單細胞資料上微調後僅找回 16%。該模型可透過 AlphaGenome API 供非商業研究使用,商業研究則可透過私人預覽取得。

    推薦理由:AlphaGenome 2 從大量組織平均值轉向單細胞條件化,在免疫細胞資料上將因果變異召回率大致提高了一倍,這對於將 GWAS 訊號連結到特定細胞類型具有重要意義。

  2. OpenRouter Announcements65

    OpenRouter 在同一項 GitHub 任務上測量 MCP、CLI 與技能的上下文成本

    OpenRouter 在 Claude Sonnet 5.5、GPT-6 Luna 與 Gemini 3.8 Flash 上,以 GitHub MCP 伺服器、gh CLI 與 gh 技能測量同一項 GitHub 任務。在 Sonnet 5.5 上,三者皆正確作答,但 CLI 用了 1,421 個輸入 token,技能用了 3,315 個,而 MCP 伺服器用了 59,417 個,其 46 個預設工具單是定義就讓每次請求增加 19,436 個 token。將伺服器範圍縮減至兩個工具後,該任務降至 23,228 個 token;將結果上限設為 4,000 字元後,降至 5,357 個;Tool Search 將 46 個工具的前期成本降至 600 個 token 以下,不過它在 Sonnet 5.5 上將整項任務的成本減半,在 Claude Haiku 5.5 上卻提高了成本。

    推薦理由:OpenRouter 的實測比較顯示,MCP 伺服器、CLI 與技能在同一項 GitHub 任務上各自消耗多少上下文,以及精簡工具結果或延後載入定義會在何處改變帳單。

  3. OpenRouter Announcements60

    OpenRouter 測試 fp8 與 fp4 量化對 LLM 品質與價格的影響

    OpenRouter 於 2026 年 10 月 20 日對 Qwen3.8 27B 的六個端點執行了 280 項精確答案任務,未偵測到 fp16、fp8 與 fp4 之間有準確率差異,六個端點的得分皆介於 98.3% 至 99.2% 之間。在 1,455 個端點中,59.5% 完全未回報精度,而 fp8 是最常見的標示格式,佔 23.6%。對多數模型而言,較低精度較便宜,但並非全部皆然;供應商選擇對價格的影響大於精度,同精度端點中最貴者為最便宜者的中位數 1.72 倍。

    推薦理由:OpenRouter 對同一模型的 fp8、fp4 與 fp16 端點進行了 240 項精確答案任務的測量,未發現可偵測的準確率差距,而價格差異與供應商的關聯大於與精度的關聯。

  4. Microsoft Research75

    微軟研究人員描述 Lazarus:一種重新程式化 AI 代理中休眠神經元的後門

    微軟研究人員描述了 Lazarus,這是一種後門技術,可重新程式化 LLM 中不到 10 個休眠神經元,使建構於其上的代理在出現隱藏觸發條件時發出攻擊者指令,且無需重新訓練。修改後的模型仍能通過標準評估,並在觸發前表現正常,觸發條件可以簡單到只是日期變更,隨後代理便以其被賦予的任何權限執行下載的程式碼。作者表示,偵測需要與原始權重進行差異比對,而 Microsoft Foundry 已將開放權重模型與其發行商綁定並掃描其容器,同時紅隊測試框架、基於代理的權重掃描以及具備防篡改來源證明的簽署模型正在開發中。

    推薦理由:微軟研究人員展示,重新程式化不到 10 個休眠神經元即可在無需重新訓練的情況下對 LLM 代理植入後門,這使得權重來源與完整性成為實際的安全需求。

  5. LangChain Blog60

    LangChain 說明 Deep Agents 如何在不把所有內容都留在上下文視窗的情況下管理上下文

    LangChain 詳細說明其開源 Deep Agents 框架如何運用中介層來對抗長時間代理執行中的上下文腐化。工具結果超過約 20,000 個 token、使用者訊息超過 50,000 個 token 時,會被卸載到檔案中,只顯示預覽;而當用量達到上下文視窗的 85% 時,摘要功能會壓縮較舊的訊息。技能、子代理和一個 markdown 長期記憶檔案讓主代理的視窗保持精簡,並讓記憶能跨模型和供應商延續。

    推薦理由:LangChain 說明其開源 Deep Agents 框架如何運用中介層來卸載、摘要和隔離上下文,為長時間任務中的代理提供可重複使用的模式。

  6. MiniMax Blog75

    MiniMax 發布 H3-Image,一款可在 10 秒內生成 4K 影像的開放權重模型

    MiniMax 發布 H3-Image,這是一款建構於 H3 的開放權重影像生成模型,支援文字轉影像、基於參考的生成與影像編輯,且能在 10 秒內產出 4096 × 4096 的影像。該公司表示它最多可處理 16 張參考影像,並宣稱在開放權重模型中擁有最先進的提示詞遵循能力,同時回報速度最高可達主流替代方案的 5 倍。H3-Image 可透過 MiniMax API Platform、MiniMax Code 與 Hailuo AI 使用,定價為同類產品的 50–70%,上市首週 4K 及以上請求享 5 折優惠。

    推薦理由:MiniMax 發布開放權重的 H3-Image,宣稱可在 10 秒內生成 4K 影像,且定價為同類主流產品的 50–70%,為開發者提供高解析度影像工作的新開放選項。

  7. Google DeepMind88

    Google DeepMind 發布 Gemini 4 Carbon,用於代理式編碼、網路安全與科學推理

    Google DeepMind 向開發者、企業、科學家與消費者開放 Gemini 4 Carbon,將其定位在 Gemini 4 Argon 之上,適用於需要更深層推理與更多 token 的任務。Carbon 在 CursorBench 4.0、Perplexity 的 WANDR 與 Zapier 的 AutomationBench 上排名第一,每項任務成本比次佳的外部模型低 2 倍以上,定價為每百萬輸入 token 2 美元、每百萬輸出 token 10 美元,與 Argon 的 introductory 價格相同。Google 也預覽了 Google Antigravity 中的 /swarm,能將單一提示詞轉化為一支協同運作的代理團隊,並回報 Carbon 在模擬網路攻擊測試中攔截了 99% 的攻擊軌跡。

    推薦理由:Google 的發布說明詳細介紹了 Gemini 4 Carbon 如何以更高的 token 用量換取更深層的推理,在 CursorBench 4.0、WANDR 與 AutomationBench 上排名第一,每項任務成本不到次佳外部模型的一半。