Google Cloud API Gateway 現已在公開預覽版中支援串流，讓 SSE、分塊 HTTP、WebSocket 和 gRPC 串流端點能與現有 API 一樣置於同一個閘道與政策之後。串流可在建立閘道時透過單一 --enable-streaming 旗標啟用，無需變更 API 規格，且 API 金鑰強制執行、JWT 驗證、服務帳戶驗證以及 Cloud Logging 和 Monitoring 皆維持原有運作。閘道也會取得確定性的預設主機名稱 GATEWAY_ID-PROJECT_NUMBER.REGION.gateway.dev，串流最長可保持開啟一小時。
Modal 發布了 Modal Dojo，這是一個訓練函式庫，提供建構模組、調校過的預設配方，以及可觀測性儀表板，用於生產級的 LLM 後訓練。它建構在開源框架 Miles 和 Slime 之上，支援從五億到數兆參數的模型，並提供 API 和 CLI，讓代理可以驅動以啟動和除錯執行。Modal 表示 Axiom Bio 使用它擴展到 64k 上下文的 DeepSeek V4.1 Flash 在 64 台 B300 上執行，而 Afterquery 以 256k 上下文長度訓練 Kimi 和 DeepSeek。
Acuity Health 在低程式碼平台被證明過於僵化且不透明後，於 LiveKit 上重建其病患服務語音代理，如今 80% 的來電完全由 AI 代理處理。代理運行於 LiveKit Inference，採用 Gemma 4 31B 模型，多數預約在一分鐘內完成，81% 的預約來電以「謝謝」作結。LiveKit Simulations 會在發布前針對病患檔案測試每項變更，而一次提示詞審查刪減了約 24% 的字詞，仍通過相同的測試情境。
Google 的 Agents CLI 現在包含擴充系統（Extension System），於 v1.5.0 引入，讓開發者能覆寫或新增指令，而不必 fork 工具本身；v1.8.0 則推出第一方 LangChain 擴充功能。LangChain 範本會建立一個不依賴 google-adk 的專案，並透過與 ADK 專案相同的程式碼路徑部署到 Cloud Run，而 playground、run 和 eval generate 等六個與 ADK 耦合的指令則會被取代或明確拒絕執行。擴充功能以 Git 儲存庫中的目錄形式發布，並以鎖定檔固定確切的 commit SHA，該系統在 v1.8.0 中標示為實驗性。
Sakana AI 於 2026 年 10 月 5 日舉辦第二屆工程師開放日，介紹了五個工程職位，包括應用研究工程師、前線部署工程師、軟體工程師、解決方案工程師和網路安全工程師。執行長 David Ha 闡述了一套「AI 主權」策略，建立在預訓練、使用 Namazu 的後訓練以及使用 Fugu 的編排之上；此前六個月內，公司已將產品組合擴展至 Sakana Chat、Marlin、Fugu 和 Translate。活動還詳細介紹了與日本金融機構和國防項目的合作，包括與防衛省情報本部及防衛創新科學技術研究所的研究。
Mistral 發布 Voxtral 3，這是一系列語音轉文字與文字轉語音模型，外加一套建構於 LiveKit 之上的語音代理 SDK，能在單一管線中串流處理聆聽、推理、工具呼叫與說話。Voxtral Small Transcribe 3 涵蓋 50 多種語言，支援語者分離與上下文偏置；Voxtral Mini TTS 3 支援 35 多種語言與 50 多種方言；整套技術堆疊可透過 Mistral 的歐盟託管 API 或自行部署取得。定價方面，批次轉錄每分鐘 0.0035 美元起，TTS 每 100 萬字元 13 美元。
推薦理由：Mistral 的 Voxtral 3 將多語言語音模型與基於 LiveKit 的語音代理 SDK 搭配，為團隊提供可主權部署的即時語音代理選項。
Zyphra 發布針對 AMD Instinct MI355X GPU 的 Zyphra Optimization Engine（ZOE）第二波更新，在其 vLLM 與 SGLang 的生產分支中加入四個自訂 HIP 核心，用於 MoE 與稀疏注意力。40x）。3 checkpoint 在四項推理基準上與 FP8 的差距維持在 3 分以內，但僅在高併發時解碼速度更快。
Waymo 宣布正在西班牙為其全自動駕駛叫車服務奠定基礎，首先從馬德里地區開始，目標是在 2027 年迎接首批乘客。電動 Jaguar I-PACE 車輛將在未來幾天內出現在該地區的街道上，先從手動駕駛開始，之後由當地訓練的自動駕駛專家進行技術驗證。Waymo 引用超過 2,000 萬次已完成行程，以及超過 4 億公里全自動駕駛里程的數據，顯示在其營運的城市中，涉及重傷或更嚴重後果的碰撞事故比人類駕駛少 95%。
Google 發布了 Meta TorchTitan 的 TPU 分支版本，可透過 TorchTPU 原生的 torch.device("tpu") 後端在 Cloud TPU 上執行 PyTorch 訓練，並附帶 TPU 原生核心與逐步最佳化指南。在 TPU v7x（Ironwood）上，Llama 3 405B 在 128 到 1,024 顆晶片之間維持約 57% MFU，Qwen3 235B 在單一 1,024 晶片切片上達到 32.42% MFU，FLUX.1 在 1,024 顆晶片上達到 19.4% MFU，弱擴展效率為 93%。該分支位於 https://github.com/google-pytorch/torchtitan/，另有 Transformers 建模後端與 agent 上手技能，可將同一訓練器延伸至其他檢查點。
推薦理由：Google 與 Meta 合作把 TorchTitan 移植到 TPU，並給出從 FLUX.1 到 Qwen3 235B 的逐級調優路徑與 MFU 數字，可作為 PyTorch 團隊評估 TPU 訓練可行性的參考。
Modal 推出 Sticky Sessions，在其低延遲的 Modal Servers 之上，將工作階段中的每個請求固定導向同一個容器。開發者可使用 @modal.sessioned() 裝飾器建立具備工作階段的 Server，並透過 SDK 或 HTTP API 啟動工作階段，自動擴縮由作用中的工作階段數量驅動，而非請求量。
Modal 對 NVIDIA 新款 Arm 相容的 Vera CPU 伺服器進行了基準測試，測得任務吞吐量最高可達同等 x86 GNR 機器的兩倍，且單一任務延遲持平、有時更低。結果來自 Agentless Agent Bench、50 個 Terminal-Bench oracle 解決方案與驗證器，這些項目已移除網路呼叫，並在並行 Docker 容器中執行。Modal 將此增益歸因於 Vera 在並行容器累積時仍能維持步調，並將其連結至高記憶體頻寬，同時表示支援 Arm 需要在其基礎設施與映像建置系統中進行變更。
Legora 現在將每一項法律代理評估分別執行於獨立的 Modal Sandbox 中，啟動其完整應用程式並固定於特定 commit，使每次執行都反映確切的產品版本。典型實驗包含 100 個案例、4 種 harness 變體、每種各 5 次試驗——共 2,000 次平行執行——並以 Modal Volumes 快照文件、資料庫與權限狀態。Legora 也從 gVisor 遷移至 Modal VM Sandboxes，移除了其 Docker 網路與 FUSE 的變通方案，並透過更智慧的壓縮與自訂工具搜尋，將代理成本降低 30%。
Modal 詳細說明其如何演進檔案系統堆疊以支援 VM Sandboxes，將客體請求透過 virtio-fs 與 virtiofsd 路由至其 ImageFS 延遲載入檔案系統。第一個版本開機快速但執行緩慢：遞迴 chown 從四秒變成超過一分鐘，pnpm 與 bun 安裝約慢了三倍。微基準測試顯示，chown 在 virtio-fs 上為 9.87 秒，而在 gVisor 上為 2.31 秒、在 ImageFS 上為 1.58 秒。
Replit 推出自帶雲端 (BYOC) 選項，讓企業能在自己的 Microsoft Azure、Google Cloud 或 Amazon Web Services 租用戶內執行 Replit 平台與已發佈的應用程式。完整 BYOC 處於私人預覽階段，會在客戶的雲端中部署 Replit 的 cells 與 agent harness；而針對已發佈應用程式的 BYOC 則處於早期存取階段，會在該處託管已發佈的專案，並由 Replit 管理平台。Image Exports 則為團隊提供 Docker 映像、Terraform 檔案與 SBOM，以便自行託管以 Replit 建置的應用程式。
PJ 是佛羅里達州奧卡拉（Ocala）一位由工程師轉行的除蟲業老闆，如今為小型企業提供顧問服務——其中包括屋頂、泳池與汽車承包商——協助他們架設 OpenClaw，並教他們自行操作。他的客戶想要一個完全屬於自己的工具，而不是把公司資料餵給租用的軟體；其中一位客戶、66 歲的行政人員 Donna，每天都使用她的 OpenClaw。
LiveKit 的指南彙整了解決方案架構師與前線部署工程師的經驗，說明如何讓 AI 語音代理從展示階段走向正式上線，並圍繞三個問題組織：代理是否足夠聰明自然、其效能是否可觀測，以及能否可靠且具成本效益地擴展。指南建議單獨量測第一輪對話，因為有公司發現約四分之三的通話在問候步驟就結束了，並指出客戶從 GPT-4.1 改用 LiveKit Inference 上的 Gemma 4 31B，在 p50 下節省了 300–500ms。
Claude Code 團隊描述其分層的程式碼審查流程，其中大部分閱讀由機器完成，人類注意力則保留給基於風險的核准。從六月到九月，合併至 Claude Code 程式碼庫的拉取請求增加了一倍以上，而必須回退的比例下降了超過 40%。該流程在 PR 之前堆疊驗證、必要的 CI、Claude 審查、安全審查、風險分級的人工核准，以及帶有旗標和快速回滾的合併佇列，團隊並將過去的事件轉化為審查者的每日評估集。
推薦理由：Anthropic 的 Claude Code 團隊詳細說明了他們如何將大部分程式碼閱讀移至自動化層，同時合併的 PR 翻倍且回退下降超過 40%，為代理密集的團隊提供了一個可轉移的審查模型。
Modal 說明如何在其無伺服器 GPU 上，以開放權重或自訂模型執行 LiveKit Agents，並使用 BitHuman 的開放權重 Expression Video Avatar，搭配 Qwen3-TTS 配音來複製 Charles Frye。此設定透過 Modal Server 對外開放 avatar 容器的 /launch 端點，並使用 Sticky Sessions 讓 WebSocket 用戶端維持在同一個容器上，同時以 GPU 快照隱藏冷啟動。
Meta 釋出了 Muse Spark Open 的權重，Modal 現在透過其 Auto Endpoints 以按 token 計費的方式提供該模型。該模型針對代理式編碼與長程任務，具備原生多模態理解、100 萬 token 上下文視窗、多步驟規劃、依序工具使用與失敗復原能力。Meta 回報，搭配 Terminus 2 代理在 Terminal-Bench 2.1 上得分 76.4，並在其偏好的測試框架下以 xhigh 推理強度在 DeepSWE 1.1 上得分 60。
推薦理由：Meta 的開放權重模型 Muse Spark Open 現已在 Modal 上提供，讓團隊能以按 token 計費的方式試用一款具備 100 萬 token 上下文視窗的代理式編碼模型。
GitHub 訓練了一個微調過的 ModernBERT 分類器，用來取代先前以 LLM 為基礎的通用秘密偵測流程，將擁有者加權的警示精確率提升了 11.5%，並把推送後掃描執行時間的中位數縮短了 86%。這套兩階段流程先用正規表達式產生候選，再進行情境感知分類，相較於遠端 LLM 呼叫，也讓服務成本降低了超過 98%。效率的提升使得把通用秘密偵測擴展到推送保護變得可行，能在變更被推送前就回傳結果。
Modal 的年化營收突破 10 億美元，並以 157.5 億美元投後估值完成由 Accel 領投的 7.5 億美元 D 輪融資，所有現有投資者均參與其中。該公司表示，自五個月前完成 C 輪融資以來，使用量已成長兩倍，較去年同期成長超過 15 倍，且光是其 Sandboxes 產品就達到 3 億美元的年化營收，已啟動近 30 億個沙箱。Modal 還描述了在橫跨 20 多個雲端的容量池上重建自家檔案系統、容器執行環境、排程器與網路，並指出近期推出多節點訓練、Modal 伺服器，以及 Sandboxes 正式可用的 VM。
推薦理由：Modal 的貼文說明了為何 AI 工作負載促使它在 20 多個雲端上重建自家檔案系統、容器執行環境與排程器，具體呈現了 AI 基礎設施堆疊如何與雲端堆疊分道揚鑣。
LiveKit 發布了一份 Egress 的疑難排解指南，涵蓋常見錯誤，例如範本從未呼叫 START_RECORDING 而出現的 412「未收到啟動訊號」、30 秒內找不到參與者或軌道的 404，以及 S3/GCP/Azure 憑證無效導致的 400 上傳失敗。指南也處理版面配置、webhook 與自架 Egress 的問題，並指出這些指引同時適用於目前的 StartEgress API 與已棄用的來源專屬 API。
Modal 在代理式編碼任務上訓練 Qwen3.6-35B-A3B，取樣器分散於六種加速器類型（B200、B300、H100、H200、A100、RTX PRO 6000），精度涵蓋 NVFP4、FP8 與 BF16，並將資料饋入一個位於 B200 上的 BF16 訓練器。樸素的 GRPO 在混合與同質取樣器上皆崩潰，但加入遮罩式重要性取樣與分數中心化（無論是否搭配 top-p 遮罩重播）後，訓練穩定進行至結束，並在 SWE-bench Pro V2 pass@4 上達到與同質取樣器相當的水準，每次更新的取樣器成本約低 15%。混合取樣器的取樣器與訓練器平均 KL 為同質設定的 4.7 倍，作者主張穩定性取決於將不匹配程度維持在有界範圍內，而非維持在低水準。
Amazon Web Services 研究人員提出 priming，此方法重用預訓練 Transformer 權重，將混合狀態空間架構的預訓練成本降低超過 99%，僅使用來源模型預訓練 token 預算的不到 0.5%。在受控比較中，Gated KalmaNet 優於 Gated DeltaNet 和 Mamba-2，而一個基於 GKA 的 32B 混合模型在推理基準上與其來源 Transformer 表現相當，同時在 128,000 token 上下文下解碼速度最高可達兩倍。團隊以 Apache 2.0 授權釋出了 8B 和 32B 的 primed 混合模型、訓練程式碼、Triton 核心以及 vLLM 服務外掛。
推薦理由：Amazon Web Services 研究人員展示，重用預訓練 Transformer 權重可將混合架構預訓練成本降低超過 99%，使狀態空間層的受控比較變得可行。
Apple 推出 Apple HomeView，一款 7 吋 Liquid Retina 智慧家庭顯示器，整合娛樂、FaceTime 通話、居家監控與免持自動化功能，美國售價 299 美元。該裝置透過臉部辨識使用者以顯示其個人化內容，並搭載 Siri AI，這是 Siri 全新且更具對話性的版本，在搭配支援 Apple Intelligence 的 iPhone 或 iPad 時，可運用個人化情境資訊。預購於 10 月 13 日在澳洲、加拿大、印度、紐西蘭、英國與美國開放，11 月 13 日星期五起正式上市；Apple 表示 HomeView 不在歐盟販售，因為 Siri AI 目前尚未在當地的 iOS 上提供。
Vapi 工程師 Lat Ware 復盤自建 Pedantic Review Bot 的實踐，該機器人現已審查每個 PR，平均合併時間從 130 小時降至 65 小時。
Descript 於 2026 年 10 月 12 日發布的版本新增了涵蓋整個硬碟的搜尋列，並提供完整結果頁面與 Underlord 檔案尋找功能。企業版硬碟現在可以發送非同步錄音請求，讓嘉賓按自己的時間安排錄音；AI Speech 則改用 ElevenLabs v4，以獲得更準確的聲音克隆。付費方案也預設使用 MiniMax H3 Max Turbo 進行 AI 影片生成。
Modal 發布 Endpoint Candidates，對所有工作區正式開放，讓使用者能為 Dedicated Endpoints 部署替代版本，在 Modal 執行基礎設施的同時，鏡像一部分生產流量。使用者可透過每個 Candidate 各自的 URL 檢視延遲與吞吐量指標、執行基準測試並測試輸出品質，接著從儀表板將其晉升為生產環境。鏡像請求為盡力而為，並依 Modal 標準運算定價計費。
Serve AI 在 LiveKit 上為一位價值 1.5 億美元的害蟲防治客戶重建了其電話代理，將一個 224 節點的 Retell 流程圖壓縮為單一提示詞，並用 Agent Simulations 進行驗證。約 100 通真實生產通話被轉化為模擬場景，在切換前經過 10–15 次迭代達到 98% 的通過率，中位輪次延遲為 1.3 秒，低於 1.5 秒的上限。首次遷移耗時一週，沒有回滾，遏制率提升了 15%，Serve 估計這每年為客戶額外節省 32 萬美元。
LiveKit 已將 Agent Simulations 正式開放給所有 LiveKit Cloud 專案使用，這是一種可重複執行的方式，能在任務層級測試語音代理，而非逐輪對話測試。由 LLM 驅動的模擬使用者會演出每個情境，在音訊模式下包含附和語與打斷；並由 LLM 評審給出通過／不通過的判定與理由；CLI 可根據代理自身的提示詞與工具生成情境。文字執行是預設模式，成本低到足以在每次 pull request 時執行；音訊執行則涵蓋完整流程，更適合安排在夜間或發佈前執行。Simulations 在十月前免費，不過它們會以正常費率呼叫真實代理的 LLM、STT 與 TTS。
Anthropic 發布了 Claude Managed Agents（beta）的參考實作，它會依 cron 排程讀取 Slack 頻道與 GitHub 拉取請求，透過各來源的書籤追蹤自上次執行以來的變更，並將摘要發佈到 Slack。這份逐步說明涵蓋保存在 vault 中的憑證、唯讀存取與每次執行的支出上限，以及將失敗的來源回報為無法讀取而非當作平靜無事的一天，還有在更新書籤與帳本前先確認 Slack 發文成功等規則。一個帶有 claude-api 技能的 Claude Code 命令會依文章指引設定該代理。
推薦理由：Anthropic 分享了一個排程 Claude Managed Agents 的參考實作，它會讀取 Slack 與 GitHub，並針對書籤、讀取失敗與發文確認訂有具體規則。
Zyphra Research 顯示 MoE 路由具有高度結構性，同一層內被共同選中的專家彼此相關，且一個 token 的專家選擇能預測後續層的路由。透過相關專家放置與 token 重排來利用這一點，在 MI300X GPU 上的 Megatron-LM 實驗中，將全對全通訊時間最多縮短 2.63×，並將端到端訓練步進時間最多提升 1.41×，且不改變架構或路由決策。
GitHub 與 Microsoft Applied Sciences 合作，推出一款由 AI 驅動的通用機密偵測模型；這是一個 ModernBERT 分類器，能在兩毫秒內結合上下文評估候選機密，並可能使推送保護所攔截的機密數量增加一倍以上。
3 並將其部署到生產推理堆疊上，其中一個低成本的探針會過濾對話輪次，只有可疑的交流才會送到 LLM 評審。良性會話中斷率為 5%，在沒有評審推理的情況下每百萬輪次成本為 65 美元，有評審推理時為 185 美元，並且在 SGLang 內沒有可測量的吞吐量損失。
推薦理由：Goodfire 展示了一種探針加評審的級聯方案，能以大約低 50 倍的成本監控代理式網路濫用，且沒有可測量的吞吐量損失，這是安全地提供開放模型服務的具體配方。
Addy Osmani 詳細介紹 Claude Code 雲端工作階段：每個任務都在 Anthropic 管理的新鮮 VM 上執行，儲存庫會複製到各自的分支，且雲端工作階段已包含在 Pro、Max、Team 與 Enterprise 方案中，不額外收取運算費用。在一個範例 Node 儲存庫上進行的四工作階段測試中，三個工作階段在彼此相隔 16 秒內啟動，並在第一个工作階段開始後 87 秒完成，而針對不穩定測試的工作階段執行了測試套件 40 次，零失敗。本指南涵蓋設定腳本、網路層級、GitHub 連線路徑，以及七種適合雲端工作階段的工作流程，同時指出對於需要本機資料、VPN 服務、GPU 或零資料保留的任務，本機工作階段仍是更合適的選擇。
推薦理由：一份 Claude Code 雲端工作階段的實戰指南，展示每個任務的 VM 如何實現平行工作，以及本機工作階段在哪些情況下仍更合適。
LiveKit 發布了一份以開發者為中心的比較，針對建構語音 AI 代理比較 Retell、Vapi 與 LiveKit，並以四個問題界定選擇：上線後由誰迭代代理、需求超出預設範圍時會發生什麼、是否必須在電話通話之外運行，以及規模化時的成本。Retell 是具備視覺化編輯器的託管平台，Vapi 是透過 API 與儀表板配置、面向開發者的託管平台，LiveKit 則是 Apache 2.0 開源框架，支援自架。預估每分鐘總成本約為 Retell $0.070–$0.310、Vapi $0.070–$0.116、LiveKit $0.037–$0.099。
Figma agent 已結束測試版，具備更佳的指令遵循與長任務處理能力，在由專業設計師進行的人工評分中贏得超過 60% 的評估。新功能讓資源庫擁有者上傳 markdown 指南、從 FigJam、Figma Slides 和 Figma Design 提取上下文，並在畫布上跟隨協作者的 agent。Uber 的設計系統團隊現在只需一個下午就能發布過去需要多人花數月完成的文件。
TypeSafe AI 使用 Modal 的無伺服器平台訓練並部署其首個 System One Model——Jev，並在上線三天內處理超過一兆個 token。Jev 並非自迴歸式 LLM：它以狀態與問題為輸入，並行輸出帶有機率的具型別結構化值，鎖定低延遲工作負載。上線一週後，它登上 OpenRouter 1K-10K token 上下文的排行榜首位，處理了 15.1% 的請求。
騰訊的 AI-Infra-Guard（AIG）已整合進 ClawScan，這款驅動 ClawHub 安全審查的開源命令列工具，因此現在每個上傳的技能與外掛都會經過 AIG。ClawScan 獨立執行 AIG 與 NVIDIA 的 SkillSpector，並由 AI 評審做出最終判定。在 SkillTrustBench 固定的 556 個案例子集上，ClawScan 與基準標籤的吻合率達 86.9%，並正確分類了 98.6% 的惡意案例。
Modal 宣布 Modal Clusters 已正式開放給所有工作區使用，使用者可透過單一裝飾器 @modal.clustered 申請多節點叢集。這些叢集提供高達 6.4 Tbps 的 InfiniBand RDMA 通訊，並自動為 PyTorch 與 NCCL 完成設定，叢集可在數秒內啟動，且按秒計費。Modal 同時說明了一套新的 gang 排程器，可一次放置 N 個節點，以及內建於 gVisor 執行環境的 RDMA 支援；文中並以 Decagon、1x 與 Runway 作為使用者案例，分別用於兆級參數微調、世界模型預訓練與多節點影片推論。