LiveKit 為代理工作階段、錄音、WebRTC 與 SIP 連線推出按秒計費
LiveKit 已將代理工作階段分鐘數、錄音、WebRTC 連線與 SIP 連線改為按秒計費,最低以十秒為增量單位,適用於所有方案與帳戶,包括企業合約。此變更已上線,並將於九月的帳單中反映八月的用量,對客戶而言沒有技術上的變更。LiveKit 表示,按分鐘計費與僅持續數秒的短暫外撥通話不相符,限制了該使用情境。
LiveKit 已將代理工作階段分鐘數、錄音、WebRTC 連線與 SIP 連線改為按秒計費,最低以十秒為增量單位,適用於所有方案與帳戶,包括企業合約。此變更已上線,並將於九月的帳單中反映八月的用量,對客戶而言沒有技術上的變更。LiveKit 表示,按分鐘計費與僅持續數秒的短暫外撥通話不相符,限制了該使用情境。
LiveKit 已在 Agent Observability 中加入 PII 遮蔽功能,可在錄音與逐字稿儲存前自動移除姓名、地址、生日及其他敏感細節,且對所有 Agent Observability 客戶不額外收費。由 LLM 依上下文閱讀每段對話以偵測 PII,將詞語替換為標記,並從音訊中移除整個輪次。涵蓋 10 個群組共 41 種 PII 類型,需使用 Python 或 Node.js 的 LiveKit Agents SDK 1.7.0。
Vapi 推出 Simulations,這是一項原生 AI 驅動的測試功能,會在與語音代理通話的另一端放置具有鮮明個性、且情境取自客戶的 AI 測試員。每次執行都會回傳通過/失敗結果、完整逐字稿與錄音,團隊可以模擬 API 回應、執行低成本的純文字聊天模式或完整語音模式,並可透過 API 觸發執行,搭配品質閘門,在通過率下降時阻擋部署。
Factory 已在 Factory Analytics 中向企業組織全面推出 Agent Effectiveness,將 Factory 工作階段與週期時間、工作意圖及已交付產出連結起來。此功能新增 Throughput、Output 與 Attribution 檢視,將 Droid 使用情況與交付成果連結,並由 Local Signals 分類層支援,該層可讀取 Jira、Linear、GitHub 與 GitLab 的資料。此功能為選擇加入、預設關閉,且需要 Advanced Analytics 企業控制項。
Qwen3.8-2.4T-A95B 已作為開源權重模型發布,並同步在 Modal 上線。Modal 表示其與 Qwen 在發布前合作,透過 SGLang 和針對 Qwen3.8 形狀調校的定製 DFlash 推測器,為 Modal Auto Endpoints 提供 day zero 支援。
推薦理由:Modal 在 Qwen3.8-2.4T-A95B 開源權重發布當天即上線共享端點,並說明其定製 DFlash 推測器如何針對該模型的形狀提升推理速度。
Modal 已將所有 Functions 遷移至新的地理分散式 I/O 平面,使端到端 Function Call 延遲在 p50 下降低約 80ms。先前每個 Function 的輸入與輸出都經由 us-east I/O 伺服器路由,每次呼叫增加最多數百毫秒;新平面已在至少 4 個區域提供,並可透過 routing_region 旗標選擇。伺服器層以 Go 重寫,非關鍵工作已移出熱路徑。
Speechify 的 Simba 3.2 以 99 分登上 Vapi 人性化指數榜首,距離人類基準 100 分僅差一分;Fish Audio 的 S2.1-Pro 以 94 分進入榜單,首音延遲為 141 毫秒。先前領先的 xAI Grok TTS 僅以 95 分佔據榜首三週,而最高分此後已從 95 分升至 99 分。Vapi 主張,模型無關的語音平台讓團隊能在排名變動時更換 TTS 模型。
Modal 在 Moonshot 的 Kimi K3 發布當天,便於其平台上架這款 2.8 兆參數的多模態模型,透過按 token 計價的 Shared API 與專用 Auto Endpoints,提供 100 萬 token 的上下文視窗。Modal 表示,一款針對 K3 架構調校的客製化 DFlash 推測器,在代理式工作負載下,將互動性從每秒 100 個 token 提升至每秒 460 個 token,並將每顆 GPU 的吞吐量從 80 萬 TPM 提升至 150 萬 TPM。該模型採用混合專家設計,每個 token 啟用 896 個專家中的 16 個,而 Moonshot 在發布前也向 vLLM 貢獻了新的前綴快取實作。
推薦理由:Modal 詳細說明它如何在發布當天將 Moonshot 的 2.8 兆參數 Kimi K3 上架至其平台,其中包括一款客製化 DFlash 推測器,可將互動性從每秒 100 個 token 提升至每秒 460 個 token。
Vapi 推出 Model Intelligence,這是一組協助開發者為語音代理挑選模型組合的功能。它包含四種模型預設(Balanced、High Intelligence、Ultra Fast、Cost Saver),各自捆綁了轉錄器、LLM 與語音,另外還提供取自超過 10 億通 Vapi 通話的逐模型成本、延遲與品質指標。
Modal 是 Devin Outposts 的發布合作夥伴。Devin Outposts 是 Cognition 的功能,將 Devin 的程式碼執行移到客戶控制的環境,而 Devin 的推理仍留在 Cognition 的雲端。開源的 modal-devin 函式庫與 CLI 會在 Modal Sandbox 中執行每個 Outpost 工作階段,提供 GPU 支援的機器、自訂映像、工作區快照與縮減至零,並自 2026 年 7 月 21 日起以 alpha 版上線。設定使用 uvx modal-devin init,會產生一個協調器函式與一個工作階段函式,團隊可持續自訂。
Modal 從頭重建了其核心沙箱平台,並在新系統上同時執行 100 萬個沙箱,且全部在不到一分鐘內建立完成。此次重新設計將中央協調與任何資料儲存從沙箱建立路徑中移除:水平擴展的排程伺服器以記憶體內演算法挑選一個 worker 並直接呼叫它,而 worker 則非同步地將狀態發布到 Redis stream。Modal 表示沙箱啟動延遲的中位數低於半秒,且新系統已以 Beta 版推出,只需改一行程式碼即可選擇啟用。
推薦理由:Modal 重建了其沙箱控制平面以移除中央協調,展示了一旦全域一致性離開關鍵路徑,容器排程能擴展到多大的規模。
Thinking Machines 發布了 Inkling,這是一個通用多模態模型,可接收文字、圖像和音訊輸入並輸出文字,而 Modal 從第一天起就以基於 token 的定價,透過受管端點(Managed Endpoint)提供該模型。Inkling 是一個混合專家(MoE)Transformer,總參數 975B,活躍參數 41B,上下文視窗 1M token,原生支援音訊與視覺,每五層滑動視窗注意力層搭配一層完整注意力層。在配備 8 張 B200 的代理式工作負載上,Modal 自訂的 DFlash 推測器在每 GPU 吞吐量 2.5M TPM 時,達到每位使用者每秒 250 個 token,在相同吞吐量下,互動速度比模型內建的推測路徑快 67%。
推薦理由:Modal 為 Thinking Machines 的 975B 參數 Inkling 提供首日端點,展示了自訂 DFlash 推測器如何將互動速度提升至比模型內建推測路徑快 67%。
Anthropic 於 6 月 30 日推出 Claude Science,這是一個 AI 工作台,生命科學研究人員可在與 Claude 的對話中直接執行運算工作負載。Modal 作為運算後端整合其中:需要 GPU 或大量並行 CPU 的工作負載,會從研究人員已連接的工作區自動路由到 Modal 沙箱,而預設執行仍在本機沙箱中進行。Modal 舉例說明可跨數百個容器進行扇出式虛擬篩選、為 ESMFold2 等模型提供逐步 GPU 存取、共享 Modal Volumes 儲存與可重現的 Modal Images,並為 Anthropic 的 AI for Science Claude Science Cohort 提供最高 100,000 美元的運算資源,每項專案 500 至 2,000 美元,申請開放至 2026 年 7 月 15 日。
推薦理由:Modal 的文章說明了 Claude Science 如何將 GPU 與平行工作負載路由到 Modal 沙箱,並附上具體的生命科學範例,以及為學術實驗室提供的運算補助。
Modal 推出 Servers,這是一組區域化、可自動擴縮的 HTTP 伺服器副本池,用於處理 HTTP、WebSocket 與 gRPC 流量,鎖定對延遲敏感的工作負載,例如互動式代理的 LLM 推論。Modal 表示,他們將控制平面的查詢與排隊移出請求路徑,把 p50 延遲從 39ms 降到 6ms,因此當沒有可用副本時,用戶端會收到 503,必須在應用程式中自行處理負載卸除。路由層執行於 AWS EKS,邊緣採用 Envoy,並由 Modal 自研的 Rust 代理 fprs 負責網域關聯與負載平衡;fprs 建構於 Cloudflare 的 pingora 之上,設定從 Spanner 讀取並快取於記憶體中。
Modal 推出 Modal Auto Endpoints,一鍵將 Modal 的基礎設施擴展能力帶到業界頂尖的推論效能,同時保留對程式碼的控制權。Modal 表示,主要的延遲改善來自搭配自訂 DFlash 推測器模型的推測性解碼,在 Decagon Voice 案例研究中將端到端延遲降低約 100ms,約佔伺服器端解碼延遲的 40%,使其比最快的專有替代方案快逾 60ms。Modal 也與 Z Lab 和 SGLang 共同發布開源 DFlash 推測器模型,其中包括一款針對 Qwen 3.5 397B-A17B 的模型,相較於 MTP 提升超過 50%。
Modal 推出 Auto Endpoints,這是一項自助式服務,可將生產級 LLM 推論部署為相容 OpenAI API 的端點,並由使用者可見且可控制的 Modal App 支援。每個支援的模型都附帶一個起始部署,該部署依據 Modal 自身的基準測試調校,使用 SGLang 等引擎以及來自 Z Lab 的 DFlash 推測解碼草稿器,使用者可以檢視 GPU 選擇、引擎旗標,以及 TTFT、ITL 和推測解碼接受長度等推論指標。Modal 也將 Modal Servers 從 beta 版釋出,提供延遲僅 5ms 的區域化路由,並表示其透過內部代理系統產生端點部署,且仍由人類工程師監控。
推薦理由:Modal 的 Auto Endpoints 公開了託管推論供應商通常隱藏的服務堆疊、引擎指標和基準測試配方,為團隊提供一條自助途徑,以擁有開放模型的推論能力。
Modal 主張,容器排程與開機時間(多數沙箱基準測試將其測量為互動就緒時間)只是使用者實際等待時間中最小的一部分;容器啟動後的應用層設定往往需要數秒。Modal 將 Readiness Probes 正式開放使用,用以表示沙箱已完成初始化,並建議以 modal.Queue 加上 Directory Snapshots 建立暖沙箱池,將設定移出使用者的關鍵路徑。
Modal 在 Hugging Face 上發布了一系列針對 Qwen 系列的 DFlash 草稿模型,包括 Qwen 3.6 35B-A3B-DFlash 以及從 4B 到 122B-A10B 的 Qwen 3.5 變體,另外還有一個用 SGLang 構建的 Qwen 3.5 397B-A17B 的 DFlash 推測器。該公司表示,新的草稿模型比現有的 DFlash 基線額外提速 5-20%,並且可以在 B200 節點上以並發度 1 運行 Qwen 3.5 122B-A10B 達到超過 1000 tok/s,而無推測時為 250 tok/s。文章認為,在內核優化只能帶來幾個百分點提升的地方,推測解碼可帶來 2 倍至 3 倍的增益,並提出了一個用於根據接受長度估算加速比的 roofline 模型。
推薦理由:Modal 解釋了為何押注推測解碼,並發布了針對 Qwen 系列的 DFlash 草稿模型,附帶實測加速數據和用於估算增益的 roofline 模型。
Modal 發布了一系列平台更新,包括 alpha 版的 VM 沙箱,可執行真實的 Linux 核心,以支援 Docker 容器、eBPF、systemd 和 cgroups。Functions 現在可以透過美國西部、歐洲西部或亞太南部進行路由,而非預設的美國東部區域,且 RBAC 已開放給所有 Team 和 Enterprise 方案使用。沙箱就緒探針現已正式推出,而 Python SDK 1.5.0 和 JS/Go SDK 0.8.0 將預設快照 TTL 設為 30 天。
Factory 正在 Droid 中推出自動化安全審查,該功能會在每個非草稿 PR 上,於標準程式碼審查之外執行基於 STRIDE 的安全審查,並以行內留言的形式在 diff 上張貼發現,包含嚴重程度、CWE 參照、說明與建議修正。該公司表示,Droid 的安全審查已在生產程式碼庫中執行,並揭露了經過負責任揭露流程的發現,包括 external-secrets 中的 CVE-2026-42876 以及 workos/workos-node#1578。Droid 會為變更範圍建立輕量威脅模型,掃描 OWASP Top 10 與 OWASP LLM Top 10 等漏洞,接著對照 diff 驗證每個候選發現以過濾誤報,最後每個 PR 只張貼一則去重後的摘要。
推薦理由:Factory 的 Droid 現在會在每個非草稿 PR 上執行基於 STRIDE 的安全審查,而該文章展示了它在生產程式碼庫中揭露的真實 CVE。
MiniMax 將 MiniMax Agent 升級並更名為 Mavis,同時推出 Agent Teams,讓多個角色分工的 Agent 在桌面上並行處理長時間、複雜的任務。該系統採用 Leader、Worker 與 Verifier 三種角色,搭配狀態機式 Team Engine,讓任務在 producing、verifying 與 done 之間循環,並將 TokenPlan 與 Agent Plan 合併為單一訂閱,涵蓋 CLI、API 與 Agent,橫跨 M2.7、音樂、影片與語音。MiniMax 表示該 Agent 即將開源,預計與 MiniMax M3 模型一同推出,而桌面應用程式已經上線。
推薦理由:MiniMax 說明了其 Leader-Worker-Verifier Agent Team 背後的設計取捨,包括交接、共享與聚合成本,為建構多 Agent 執行環境提供了具體參考。
Modal 讓所有 Team 與 Enterprise 方案的使用者都能使用角色型存取控制(RBAC),並以 Environments 作為可強制執行的安全邊界。受限的 Environments 預設讓工作區成員為唯讀,只有被明確授權的使用者或代理能部署與管理資源,而 RBAC 也與稽核日誌整合,完整記錄誰在何時做了什麼。
Modal 宣布 Modal Sandboxes 與 Anthropic 的 Claude Managed Agents 之間的一流整合,讓所有工具呼叫都在自架的 Modal Sandbox 中執行,同時由 Anthropic 的託管代理迴圈處理工作階段狀態。Modal 提到自訂映像的快速冷啟動、快照與磁碟區持久化、無閒置成本的爆量定價、短效連線權杖,以及每位客戶最高可達 100,000 個並行沙箱。該公司也在同一套 Modal 加 Managed Agents 骨幹上發布了兩個參考範例:一個 CLI 代理和一個 Slack 機器人。
OpenAI 發布了一款 Developers 外掛程式,讓 ChatGPT 和 Codex 能夠存取 OpenAI API Platform 與 API 設定指引,並針對 Claude Code 和 Cursor 進行了調整,捆綁了可攜式開發者技能與公開的 OpenAI Docs MCP 伺服器。它涵蓋 API 金鑰設定、使用 Agents SDK 建置應用程式、將 API 遷移至 Responses API,以及疑難排解常見的 API 故障。
Factory 發布了一項自動化 QA 技能,能像真實使用者一樣操作應用程式,填寫表單、在終端機中輸入指令並呼叫端點,接著將包含截圖、終端機快照與 API 追蹤紀錄的結構化報告,以單一留言的形式發布在每個 pull request 上。此技能透過 Droid 在每次推送時執行,可設定為由 PR 標籤、留言指令或手動觸發的選用 CI 檢查,也能在任何 Droid 工作階段中透過 /qa 在本機使用。設定時使用 /install-qa,此功能即日起在所有 Factory 方案中提供。
OpenAI 發布了 Codex 應用程式新更新的概述,旨在跨工具、應用程式、自動化及其他開發者工作流程運作。該內容僅為簡短摘要,因此未描述具體功能、版本與可用性細節。
推薦理由:OpenAI 概述了 Codex 應用程式的更新,將此編碼代理擴展至工具、應用程式與自動化,顯示其範圍正從程式碼生成向外擴大。
Vapi 發布 Vapi Monitoring,這是一款監控產品,讓團隊能為語音代理建立可自訂的監控器,並在觸及閾值時收到警示。它涵蓋 Enterprise 訂閱方案的有效性與合規性監控,以及技術與基礎架構監控,並呈現問題、受影響的通話數量與建議的修正方式。
Modal 展示在彈性 GPU 上執行 autoresearch 代理:在提供 Modal Skills 的情況下,Claude Code 針對 OpenAI 的 Parameter Golf 挑戰執行了 113 次實驗,共耗費 238 GPU 小時,完成核心訓練執行的速度比單一工作站快 5 倍,同時只使用專用叢集資源的一小部分。代理透過 API 呼叫配置 GPU,可從一個 H100 自動擴展到數十個,再縮回零。
Modal 現已提供 NVIDIA 的 RTX Pro 6000 Blackwell,具備 96GB 視訊記憶體與強勁的 fp4/fp8 輸送量,只需一行程式碼即可用於推論與微調工作負載。此次更新還新增了儀表板命令面板(CMD+K)、改版後的 Sandbox 檔案系統 API(Beta 版,支援最高 5GB 的讀取與雙向串流),以及可擷取歷史紀錄的 CLI 日誌命令。
Vapi 發布強化安全模式,這是一層音訊隱私保護機制,該公司稱其為企業語音 AI 平台歷來部署過最安靜且最安全的方案,旨在防止 AI 代理的語音在開放空間中被旁人聽見。該公司表示,其整個音訊處理流程經過重新設計,能反轉訊號存在優化,且不會增加延遲失真。早期存取涵蓋醫療保健、福利管理與急性後期照護機構,該功能現已推出。
Vapi 舉辦了一場網路研討會,由首席產品經理 Nick Robin 示範 Composer,這是其產品內建的助理,可用於無程式碼建置語音代理,並在 30 分鐘的示範中產出一個可運作的來電客戶服務代理。Composer 會撰寫系統提示、配置電話號碼、設定排程,並標記自身的錯誤以供核准。它目前處於 alpha 階段,支援來電與去電助理、CRM 與行事曆整合,以及依助理 ID 編輯現有代理。
Modal 為 Sandbox 新增目錄快照(Directory Snapshots),讓使用者可對單一目錄建立快照,並獨立於基礎映像檔掛載至新的 Sandbox。Modal 亦與 Z.ai 合作推出免費公開的 GLM-5 端點,提供至四月底,相容於 OpenCode、Claude Code、OpenClaw 與 Vercel AI SDK。modal 帳務報告 CLI 與 modal.billing.workspace_billing_report API 現已正式推出,適用於 Team 與 Enterprise 工作區。
Vapi 發布了 Vapi Skills,這是一個遵循 Agent Skills 標準的儲存庫,另有一個 Model Context Protocol 連接器,讓編碼代理能即時存取 Vapi 的文件。只需一個安裝指令,即可載入附有確切 API schema 的逐步指示,涵蓋 create-assistant、create-tool、create-call 與 setup-webhook 等工作流程,且此技能包可在 Claude Code、Cursor、VS Code Copilot 與 Gemini CLI 上執行。
Modal 推出 Directory Snapshots 公開測試版,讓使用者能對執行中的 Sandbox 內特定目錄建立快照,並將其掛載到另一個 Sandbox,不受基礎映像檔與檔案系統其餘部分影響。此功能鎖定需要在 Sandbox 重啟後保留專案狀態的 coding agents 與 vibe coding 平台;Modal 表示,這能將系統相依性與應用程式碼分離、預先暖機 Sandbox 池,並更快預載關鍵檔案。Directory Snapshots 在最後一次使用後保留 30 天,且能瞬間掛載,其內容在 Modal 的延遲載入容器檔案系統上會優先預載。
Vapi 推出了 Composer,這是一款內建於 Vapi 儀表板的 AI 助理,能依據描述打造語音代理,負責撰寫提示詞、配置設定、開通電話號碼、建置工具並設定整合。Composer 還能調用通話紀錄來解釋失敗的通話並套用修正,並生成在 Vapi 基礎設施上執行的自訂程式碼工具,用於 HubSpot 等整合。此功能現已以 Alpha 版本推出,無需設定或引導流程。
Modal 推出 GLM-5 的免費 OpenAI API 相容端點,可用至 4 月底,限單個並發請求,同時發布在單節點 8 張 B200 上用 SGLang 部署的可重現程式碼。
推薦理由:Modal 為 Z.ai 的 GLM-5 提供免費 OpenAI 相容端點,並給出在 OpenCode、OpenClaw、Claude Code 和 Vercel AI SDK 中接入的具體配置。
OpenAI 在官方開發者部落格文章中推出了 Codex 應用程式,這是專為其 Codex 編碼代理打造的專屬應用程式。該文章是一篇入門導覽,介紹此應用程式及其核心工作流程,完整影片則發布於 YouTube。
推薦理由:OpenAI 的官方導覽展示了 Codex 應用程式如何組織核心編碼工作流程,對於正在評估它與現有編碼代理的開發者來說很有參考價值。
Modal 現在可透過 AWS 和 Google Cloud Marketplaces 購買,讓企業客戶能將既有的雲端支出承諾用於 Modal 的使用。該平台也推出了 Sandbox UI 更新,提供更清楚的資源與區域詳細資訊,以及新的執行時間軸;用戶端 1.3.1 新增對 Python 3.14 的支援,包括在 Modal 容器中實驗性的 free-threaded Python(3.14t)。
Factory 推出 Agent Readiness,從八個技術支柱與五個成熟度等級評估程式碼庫對自主開發的支援程度,可透過 Droid 中的 /readiness-report、組織儀表板或 API 執行。每項標準皆為二元判定,唯有當某等級 80% 的標準及所有先前等級皆通過時,該等級才會解鎖;將每次評估建立於儲存庫先前的報告之上,使 9 個基準儲存庫在六週內的評分變異從平均 7% 降至 0.6%。報告可觸發代理開啟拉取請求,以修正未通過的標準,例如缺少 AGENTS.md、linter 設定或 pre-commit hooks。
OpenAI 發布了一個公開的 Model Context Protocol(MCP)伺服器,讓代理能以唯讀方式存取 developers.openai.com、platform.openai.com 與 learn.chatgpt.com 上的開發者文件。此伺服器僅提供文件內容,不會代表使用者呼叫 OpenAI API。開發者可透過 CLI 或 IDE 擴充功能,以單一共用設定將其加入 Codex,並搭配 OpenAI Docs Skill 取得附有引用的答案。