vLLM 報告指出，在單一 NVIDIA Vera Rubin NVL72 機架上服務 DeepSeek-V4.1-Flash，每 GPU 達 1.7M tokens/s、每位使用者 387 tokens/s，為 GB300 NVL72 的 58 倍，峰值達 2.52M tokens/s，單一使用者可達 1,810 tokens/s。這些增益來自為 Rubin 分割記憶體域與 FP4 張量核心重建的 kernel、專用的 TP8 解碼路徑，以及透過 NVLink 共享的整機架 KV 與 Engram 池。透過整機架的前綴池化與 Dynamo 的工作負載感知路由，即使在高併發下前綴命中率仍維持在 96.5-97%。
推薦理由：vLLM 第三篇 DeepSeek-V4.1-Flash 文章詳述 Rubin 專用 kernel 與整機架記憶體池化如何將吞吐量提升至 GB300 NVL72 的 58 倍，為大規模服務優化提供了具體參考。
Hugging Face 發布了 3D 生成模型 TRELLIS.2 的微調腳本與容器，可在本機或 Hugging Face Jobs 上執行。該指南透過 PEFT 函式庫使用 LoRA 適配器，僅套用於稀疏結構流 DiT 與形狀流 DiT，材質階段則保持凍結。在 GSO 資料集的 188 個物件鞋類子集上，預訓練模型經常渲染出錯誤的鞋底，而 LoRA 微調正是針對此問題。
本文說明如何將 OpenAI Codex 模型請求路由至 Amazon Bedrock，同時沿用既有的 AWS 身分、IAM、區域與可觀測性實務做法。文中建議先以 Native AWS Access 進行小規模的最小權限試點，並以 AgentCore Gateway 或 LLM Gateway 作為替代方案，接著逐步說明 IAM Identity Center 登入，以及使用 GPT-5.6 Sol 直接檢查 Bedrock Runtime 的流程。
一個開源引擎利用在 e-graph 上的反統一來計算形式化策略的語意差異，將共享結構只呈現一次，並保留每個差異部分的兩個版本。它針對 SMT-LIB、Cedar、Dogwood、OpenShell 策略與 CEL 中的自動形式化輸出，其中由 LLM 撰寫產物，但不參與差異的計算。
在 Amazon SageMaker HyperPod 上執行的 PyTorch DDP 訓練迴圈新增了三項檢查來捕捉無聲資料損毀：非有限梯度檢查、環狀重播稽核（比對各節點的損失位元與梯度指紋），以及最佳化器步驟後的權重指紋比對。在 4 台 ml.p5.48xlarge 執行個體（32 張 NVIDIA H100 GPU）上以軟體注入故障測試，這些檢查能指出可疑的 rank、將其對應到節點，並讓 HyperPod 更換該節點並從檢查點繼續執行。
AWS 將於 11 月 30 日至 12 月 4 日舉行年度 re:Invent 大會，AI/ML 軌道在超過 2,000 場總學習議程中提供逾 140 場獨特議程。該指南將議程對應至 AWS AI 堆疊，涵蓋 AI 晶片（AWS Trainium 與 NVIDIA GPU）、Amazon Bedrock 與 SageMaker AI 上的模型與推論，以及使用 Amazon Bedrock AgentCore 的代理程式開發。議程從新手內容編排至技術深入探討，且許多可隨選觀看。
AWS 概述了一套事件驅動的管線，可在無需手動更新的情況下，讓 MCP 伺服器的 AWS Agent Registry 記錄保持最新。AWS CloudTrail 擷取 UpdateAgentRuntime API 呼叫，Amazon EventBridge 將其路由至跨帳戶，而 Lambda 函式則透過 AgentCore Identity OAuth 權杖查詢 MCP 伺服器的工具，接著比對差異並更新相符的登錄記錄。此範例僅更新現有記錄，並同時支援單一帳戶與多帳戶設定。
AWS 正使用其自動推理工具 Tiros，對所有已建模路徑進行靜態驗證網路分段，而非依賴基於封包的取樣。Tiros 將 Cloud WAN 配置中的路由表、連接附件與政策文件轉換為邏輯命題，然後檢查政策宣告為禁止通行的分段之間不存在任何路徑，分析頻率最高可達每小時一次。
Meta 詳細介紹了「智慧投遞」（Intelligent Delivery），這是一套由機器學習驅動的系統，會在其廣告投放堆疊中分配運算資源，以達到整體系統的最佳化，並在 2017 年至 2026 年上半年期間，於模型與系統進展的基礎上額外貢獻約 10% 的排序效能提升。其資源核心模型（Resource Core Model）使用 60 億稀疏參數與 2,000 萬稠密參數來預測每個請求的邊際效用，Meta 表示，在離線基準測試中，該系統將高影響力廣告請求的識別能力提升了約 20%。該系統也依賴多層次分配機制與日益具備代理能力的 AI，以隨著模型與硬體變化進行調適。
一位主導公司 agent skills 計畫的 Google 工程師建了一套流程，讓 Gemini 4 Argon 讀取 Go 原始碼與 RISC-V 反組譯，把殘存的 runtime.panicBounds 陷阱轉成 Z3 約束，再由 go test 把任何可滿足的輸入重放成真正的重現案例。這套流程在 skill-lint 中抓到了全部三個植入的錯誤與三個潛伏錯誤，而未設種子的 go test -fuzz 漏掉了其中兩個植入的當機，因為 Go 是拿切片對容量而非長度做檢查。用 data[:len(data):len(data)] 把容量裁到長度後，模糊測試器在三次執行中都讓兩個越界錯誤當掉，中位數分別為 0.28 秒與 0.17 秒。
Anthropic 發布了一份給新創公司的 Claude Tag（測試版）指南，內容基於與八家高成長公司的對談，了解他們最先在哪些環節部署這款以 Slack 為基礎的代理。指南涵蓋五種常見配置——待命分流、討論串轉 PR、公司大腦、自助式資料，以及報告——外加一份入門檢查清單。文中引用的成果包括：在 Slack 提及後 21 分鐘就開啟了一個 PR，以及 NavigateAI 從 Slack 討論串合併了 134 個 pull request。
ElevenLabs 概述了聲音複製如何讓內容創作者只錄製一次簡短樣本，之後便能為影片、播客、課程和社群短片生成旁白，無需再回到錄音室。該指南區分了即時聲音複製（Instant Voice Cloning）與專業聲音複製（Professional Voice Cloning）：前者能從簡短樣本在不到一分鐘內產生複製聲音，後者則以更大的錄音集進行訓練，並包含確認聲音屬於創作者的驗證步驟。指南還列出了選擇標準，包括聲音保真度、語調控制、語言覆蓋範圍、同意保障措施、匯出選項和商業授權。
OpenAI 開發者體驗工程師 Dominik Kundel 與 Charlie Guo 在 AI Engineer Code Summit 發表「與 Codex 協作的新方式」，內容涵蓋 DevDay 宣布的改版 Codex Cloud v2、作為管理編碼執行緒控制平面的語音模式，以及名為 dots 的個人代理。Kundel 表示，Codex Cloud 現在扮演背景執行器的角色，讓本機 Codex 將任務移交至雲端，但他也承認雲端工作流程仍需變得更簡便。
vLLM 擴展了用於多模態服務的編碼器/預填充/解碼（EPD）解耦，新增僅中繼資料請求、專用編碼器執行路徑、透過 NIXL 與 Mooncake 進行遠端嵌入傳輸、跨編碼器輸出重用，以及透過 vLLM Router、SMG 和 llm-d 進行編排。包括 MiMo 和 XPU 支援在內的核心能力隨 vLLM v0.32.0 發布，而針對 DeepSeek V4.1 Flash 的僅中繼資料支援則透過 #62802 在 main 上提供。在 GB200 上進行的 DeepSeek V4.1 Flash 測試中，EPD 在並行度 64–128 時，每 GPU 吞吐量比八 GPU PD 基線高 6.6–9.5%，P90 TTFT 低 44–47%，但在並行度 16 時每 GPU 吞吐量較低。
OpenRouter 在 Claude Sonnet 5.5、GPT-6 Luna 與 Gemini 3.8 Flash 上，以 GitHub MCP 伺服器、gh CLI 與 gh 技能測量同一項 GitHub 任務。在 Sonnet 5.5 上，三者皆正確作答，但 CLI 用了 1,421 個輸入 token，技能用了 3,315 個，而 MCP 伺服器用了 59,417 個，其 46 個預設工具單是定義就讓每次請求增加 19,436 個 token。將伺服器範圍縮減至兩個工具後，該任務降至 23,228 個 token；將結果上限設為 4,000 字元後，降至 5,357 個；Tool Search 將 46 個工具的前期成本降至 600 個 token 以下，不過它在 Sonnet 5.5 上將整項任務的成本減半，在 Claude Haiku 5.5 上卻提高了成本。
推薦理由：OpenRouter 的實測比較顯示，MCP 伺服器、CLI 與技能在同一項 GitHub 任務上各自消耗多少上下文，以及精簡工具結果或延後載入定義會在何處改變帳單。
Hugging Face 展示 pooling-aware 訓練如何在固定儲存預算下提升多向量嵌入模型的檢索品質。當 pool_factor=4 時，一般訓練的模型保留其未池化 NanoBEIR nDCG@10 的 94.6%，同時將文件向量減少 4 倍，而 pooling-aware 訓練則將該保留率提升至 97.8%。文章逐步說明 HierarchicalTokenPooling、預算校準，以及一個可重現的 Sentence Transformers 範例。
OpenRouter 發布了一份指南，說明如何處理來自 OpenAI、Anthropic 及其自家 API 的 429 Too Many Requests 錯誤，並在一批 60 個提示上測試了三種修復方式。OpenAI Python SDK 的預設重試在 12 秒內讓 60 個請求中有 23 個失敗，而等待 Retry-After 或 X-RateLimit-Reset 的重試方式則在 Python 中於 89 至 92 秒內完成全部 60 個請求，在 TypeScript 中則為 106 至 218 秒。模型備援機制在 13 秒內以 $0.000066 完成全部 60 個請求，而在開啟供應商容錯移轉的情況下，全部 150 個指定供應商的請求都成功，若關閉備援則最多有 32 個失敗。
OpenRouter 於 2026 年 10 月 20 日對 Qwen3.8 27B 的六個端點執行了 280 項精確答案任務，未偵測到 fp16、fp8 與 fp4 之間有準確率差異，六個端點的得分皆介於 98.3% 至 99.2% 之間。在 1,455 個端點中，59.5% 完全未回報精度，而 fp8 是最常見的標示格式，佔 23.6%。對多數模型而言，較低精度較便宜，但並非全部皆然；供應商選擇對價格的影響大於精度，同精度端點中最貴者為最便宜者的中位數 1.72 倍。
推薦理由：OpenRouter 對同一模型的 fp8、fp4 與 fp16 端點進行了 240 項精確答案任務的測量，未發現可偵測的準確率差距，而價格差異與供應商的關聯大於與精度的關聯。
LangChain 發布了一篇部落格文章，說明檢索設計如何形塑 AI 代理的上下文工程，並以建構於其 Deep Agents 框架上的競爭分析代理為例。文章涵蓋三種失敗模式：搜尋效率低落、一次載入過多上下文，以及結果不相關或過時，並為每種模式搭配相應技術，例如 glob 與 grep 檔案系統工具、以 read_file 偏移量分頁讀取大型檔案、將過大的工具結果卸載至檔案，以及在「檢索、卸載、委派」模式下將讀取工作委派給子代理。文章也警告，檢索到的文字是資料而非指令，可能帶有提示注入，因此輸出應對照引用的來源進行檢查。
LangChain 詳細說明其開源 Deep Agents 框架如何運用中介層來對抗長時間代理執行中的上下文腐化。工具結果超過約 20,000 個 token、使用者訊息超過 50,000 個 token 時，會被卸載到檔案中，只顯示預覽；而當用量達到上下文視窗的 85% 時，摘要功能會壓縮較舊的訊息。技能、子代理和一個 markdown 長期記憶檔案讓主代理的視窗保持精簡，並讓記憶能跨模型和供應商延續。
推薦理由：LangChain 說明其開源 Deep Agents 框架如何運用中介層來卸載、摘要和隔離上下文，為長時間任務中的代理提供可重複使用的模式。
Workday 以 LangGraph 負責編排、LangSmith 負責追蹤、可觀測性與評估，由四人團隊打造了一個用於生產環境 AI Agent 的內部開發者平台。原型開發時間從 4–5 個月縮短到不到一天，團隊也已成長到約 30 人。
Meta 詳細說明 TLX（Triton Low-Level Extensions），這是 Triton 的擴充，加入明確的 warp-group 與 cluster 層級編排，同時保留 Triton 的張量程式設計模型。TLX 已在 Meta 全面投入生產環境運行，在數千顆 NVIDIA Blackwell GPU 上為 GEM 訓練達到 20-25% 端到端 MFU，為 RecSys 推論將運算密集型網路延遲最多降低三分之二，並有一個分散式分組 GEMM 核心部署於大規模 LLM 預訓練。Meta 表示 TLX 鎖定 NVIDIA Hopper 與 Blackwell，以及 AMD Mi300 與 Mi350x，並正著手支援更多架構、自動 warp-group 推論與 torch.compile 後端。
Google Agent Skills 目前收錄來自 Google 各團隊的 170 多項技能，GitHub 星數已突破 21,000，高於先前的 15,000，其維護者說明了每項變更都必須通過的流程。每個 pull request 都須通過六道自動化關卡，包括結構合規性、linter、語意化版本、評估套件驗證、連結檢查與 AI 審查代理，之後才由人類領域專家核准。文章也分享了一些經驗教訓，例如原子化的評估預期、自動產生的索引檔，以及先執行成本低的確定性檢查、再執行成本高的 LLM 檢查。
Stripe 以 LangChain 的開源 Deep Agents 框架打造了全公司通用的知識 AI 平台 Kai，由一位工程師在一週內完成初版。這套技術堆疊在 Deep Agents 之上疊加了 Stripe 專屬的框架與配置層，採用由 S3 支撐的檔案系統中介軟體、用於執行程式碼的沙箱中介軟體、用於長時間工作階段的摘要中介軟體，以及橫跨 500 多個內部 MCP 工具與 1,000 多項技能的基於技能的動態工具載入機制。Kai 在大約四週內從 296 名使用者成長到超過 5,000 名，如今 Stripe 有 83% 的人每週使用，累計超過 6 萬個工作階段。
Anthropic 針對 Claude Fable 5.2 的文件指出，該模型會密切關注其所處理程式碼的擁有者是誰。在小型編碼任務的測試中，當提示詞未提及擁有權時，模型僅在不到 10% 的執行次數中合併了重複的程式碼；而當提示詞表明該程式碼庫屬於模型自己時，則約有 75% 的執行次數會進行合併。建議的句子為：You are the owner and long-term maintainer of this codebase, and its design is up to you.
Hugging Face 發布了一篇關於決策模型的說明文章，這類模型接收狀態與具型別的問題，並回傳預定義答案上的機率，而非生成文字。文章詳細介紹了 choice、score 與 noul 原語、信心公式，以及透過 Transformers 的 DecisionPipeline 與 AutoModelForDecision 提供的新支援、Transformers 與 llama.cpp 中共用的 /v1/systemone 端點、用於探索的 Hub 標籤，以及使用 Trainer API 進行微調。文章指出，同一個端點也能透過在批次前向傳遞中對答案 logits 評分，與相容的自迴歸 LLM 搭配運作。
推薦理由：Hugging Face 解釋了決策模型如何將分類轉變為具型別、非生成式的介面，並展示如何用 Transformers 與 llama.cpp 來服務與微調這些模型。
OpenRouter 在八份自製的劣化掃描檔上測試了 15 個視覺模型、Mistral OCR 與 Tesseract，Claude Opus 5.5 最準確，264 個關鍵值中答對 262 個，每 1,000 頁成本 $16.42，而 Mistral OCR 性價比最佳，264 個中答對 258 個，成本 $2.02。在一張褪色收據上，GPT-6 Luna 與 GPT-6.1 Sol 捏造了卡片數字、一個伺服器名稱與 wifi 密碼，這些錯誤無法從字元錯誤率中看出。文章包含轉錄掃描檔、關閉推理、交叉核對兩個不同實驗室的模型，以及透過 file-parser 外掛執行 Mistral OCR 的程式碼。
推薦理由：對 15 個視覺模型加上 Mistral OCR 與 Tesseract 在八份劣化掃描檔上進行實測基準測試，並附上可執行的程式碼，可交叉核對兩個模型以揪出捏造的值。
Meta 在 lldb-server 中建構了一套廠商中立的加速器外掛架構，讓 LLDB 能在單一工作階段中除錯橫跨 CPU 與 GPU 的應用程式。此設計將 CPU 與 GPU 表示為各自獨立的 LLDB target，各自擁有架構、執行緒、暫存器與位址空間，並由外掛將廠商的裝置除錯 API 轉譯為 LLDB 概念。GPU 支援僅在應用程式使用受支援的 GPU runtime 時才會啟用，因此純 CPU 除錯仍走既有的原生路徑，不會增加額外負擔。
Curative 在 Claude 上建構了一套代理階層，簽署供應商合約的速度約為其團隊 2025 年的 50 倍，透過其代理 Gwen 達成 23,000 份合約簽署，每週新增 2,000 至 2,400 份合約。Gwen 每次執行處理一筆供應商交易，主要使用 Claude Opus，而 Sonnet 費率審查員清除了約三分之二的超模板費率請求，Haiku 審判員則在每條訊息發送前進行審閱。每份合約約消耗 2,000 萬個 token，成本約為原先的十分之一，Curative 的合約團隊已從 45 人增至約 55 人，每人的生產力約為原來的 2.5 倍。
在對七款工具進行比較後，Recraft 被評為 2026 年最佳 AI 圖示生成器；該比較以五個圖示的風格一致性測試與原生 SVG 匯出進行評分。Recraft 在各字符間維持了筆畫粗細與圓角半徑，並可匯出可編輯的 SVG；Canva 僅部分通過，而 Adobe Firefly 與 Midjourney 兩項檢查均未通過，且僅輸出點陣圖。
Recraft 發布了一份指南，內含十二個可直接複製的文字提示，用於圖生圖模型上的照片編輯，建立在一個兩行模式之上：一行「變更」指明物件、其位置與結果，加上一行「保留」鎖定臉部、印刷標籤、取景與光線。該指南指出，移除物件、重新上色、重新打光或替換服裝等局部編輯，比風格重塑或天氣替換更能保留身分特徵；而當提示堆疊多項變更、改寫印刷字體，或要求新的臉部或身體比例時就會失敗。它建議生成兩到三個變體，以 100% 縮放檢查，並用一個只指明該區域的後續提示來修正一處殘留錯誤。
七款 AI 迷因產生器——Imgflip、Canva、Supermeme.ai、Recraft、Kapwing、ChatGPT 與 Magic Hour——以相同的三份迷因需求，針對免費方案、浮水印、範本、字幕呈現、匯出尺寸與 API 進行測試。比較結果顯示沒有通用的贏家：Imgflip 在經典範本上勝出，Supermeme.ai 擅長從想法到字幕，Recraft 與 ChatGPT 擅長原創圖片，Kapwing 擅長影片與 GIF，而當迷因必須配合版面時則選 Canva。
Anthropic 發布指南，建議開發者將多數程式設計與知識工作從 Claude Opus 5.5 的預設中等努力等級開始，因為其每 token 成本僅為 Fable 5.2 的一半。該指南將 Sonnet 5.5 對應到範圍明確的日常工作，Haiku 5.5 對應到高頻分類、路由與子代理任務，Fable 5.2 則對應到最困難的程式設計、金融與科學專案或長時間無人值守的執行。指南也建議在切換模型前先調整努力等級，並指出在 SWE-bench Pro 上，Opus 5.5 以低努力執行、失敗者再以高努力重跑，通過約 97% 的任務，每項約 $0.17，相較之下每項任務都以高努力執行則為 95.3%、每項 $0.29。
推薦理由：Anthropic 自家的指南將每個 Claude 模型與努力等級對應到具體任務類型，並提供每項任務成本與基準比較，以供從中選擇。
Figma 概述了直接在畫布上使用其設計 agent 的六種方式，從透過 Granola、Notion 或 Google Drive 等連接器引入會議記錄來標註設計，到彙總留言回饋並套用已達成共識的變更。該 agent 還能建立自訂 shader、使用團隊的資源庫在單一提示中生成多種版面配置變化、將靜態設計轉為可互動的程式碼圖層，以及加入動態效果。
Recraft 是製作刀模輪廓、透明 PNG 與 SVG 的最佳 AI 貼圖生成器，且全都在同一畫布完成；Canva 則較適合在同一編輯器中製作貼圖組與下單印刷。七款工具於 2026 年 11 月 9 日依五項印刷標準評分，只有 Recraft、Kittl 與 Canva Print 提供真正的裁切線或印刷貼圖組途徑。Firefly、Ideogram、Leonardo AI 與 ChatGPT 則在較窄的用途上勝出，例如照片轉貼圖或聊天貼圖包。
一項針對七款 AI 角色生成器的比較，依姿勢一致性、參考圖像、風格控制、匯出格式與免費方案評分，結果顯示沒有單一最佳工具能適用於所有需求。Recraft 在讓同一角色跨姿勢保持一致、可重複使用的風格與 SVG 向量匯出方面領先；Midjourney 則在單幀外觀上勝出，但沒有免費方案，Basic 方案為每月 10 美元。Gemini 與 ChatGPT 適合在對話中反覆調整角色，而 Recraft、Gemini、ChatGPT、Leonardo、Ideogram 與 OpenArt 都提供免費或每週額度方案。
GitHub 發布了一份代理式工程開發者指南，說明 Copilot 如何支援軟體工作的規劃、建置、驗證與觀察階段。該指南引用 GitHub 今年十月單週 12 億次提交的數據，較一年前增加超過 400%，並引用 Faros AI 的一項研究發現：隨著團隊從低 AI 採用度轉向高 AI 採用度，拉取請求在審查階段停留的時間延長了 441%。指南詳細介紹了多項功能，包括 Slack 或 Teams 中的 Copilot、Plan Mode、GitHub Agentic Workflows、雲端沙箱、工作階段持續性、共享記憶體、Copilot Dreaming 以及 Copilot Fusion。
vLLM 已將其 CUDA 建置遷移至 LibTorch Stable ABI，自 v0.33.0 起發布 LibTorch ABI Stable CUDA wheels，因此新的 PyTorch wheel 無需重新建置 vLLM 即可匯入。團隊將 in-tree 原始碼與七個依賴 LibTorch 的相依套件（包括 FlashMLA、DeepGEMM 與 FlashAttention-2/3）遷移至穩定 API，並在 CI 中使用 torch-abi-audit 確認不再殘留不穩定符號。文章指出取捨，例如穩定 API 子集有限與少量主機端額外開銷，並表示 CPU 與 ROCm 建置將是下一步。
參照。代理在 6% 的遭遇中依據該錯誤 ID 採取行動，其中 83% 的行動並非開發者所提示；41% 的非提示性繞道追逐已關閉的工單，而 57% 則觸及仍開啟的錯誤並擴大了範圍。在控制開發者、程式碼庫複雜度、任務類型、模型層級及其他因素後，非提示性錯誤繞道使每個工作階段多出 70% 的步驟、77% 的 token 及 105% 的等待時間。
推薦理由：Google 的大規模追蹤分析顯示，過時的 TODO 錯誤參照會使編碼代理陷入非提示性繞道，而其清理代理已移除數千個過時參照，審查者接受率超過 95%。
Anthropic 概述了它如何為 Claude 代理設計記憶，將代理記憶定義為跨工作階段保留的知識，並將其與權重變更、上下文學習和壓縮區分開來。5 將其與記憶配對。7 在 225 個資料夾中寫入了 413 個檔案，並獲得了一枚徽章。
推薦理由：Anthropic 詳細說明了 Claude 的代理記憶如何運作，比較了模型在 CL-Bench 和 Pokémon Red 上的筆記記錄，並展示了離線做夢如何修正和組織儲存的筆記。