Modal 展示在彈性 GPU 上執行 autoresearch 代理：在提供 Modal Skills 的情況下，Claude Code 針對 OpenAI 的 Parameter Golf 挑戰執行了 113 次實驗，共耗費 238 GPU 小時，完成核心訓練執行的速度比單一工作站快 5 倍，同時只使用專用叢集資源的一小部分。代理透過 API 呼叫配置 GPU，可從一個 H100 自動擴展到數十個，再縮回零。
Modal 已收購 Butter，創辦人 Erik Dunteman 與研究員 Raymond Tana 加入 Modal 的 Sandbox 團隊。Butter 團隊帶來代理程式框架工程經驗，包括 bVisor——一個以 Zig 從零撰寫的虛擬 Linux 核心，用於輕量、短暫的沙箱。Modal 表示，此次延攬推進了其讓 Modal Sandboxes 成為同類最佳產品體驗的目標。
Physical Intelligence（Pi）在 Modal 上運行其視覺-語言-動作機器人模型，僅增加約 10-15ms 的網路開銷。Pi 與 Modal 合作，在 UDP 上建置了基於 QUIC 的入口，具備自動 NAT 穿透，取代 TCP Tunnels，以避免機器人控制迴路中的請求-回應停滯。儲存在 Modal Volumes 中的檢查點可在 30 秒內載入，而區域鎖定的部署讓推論維持在機器人附近。
Modal 現已提供 NVIDIA 的 RTX Pro 6000 Blackwell，具備 96GB 視訊記憶體與強勁的 fp4/fp8 輸送量，只需一行程式碼即可用於推論與微調工作負載。此次更新還新增了儀表板命令面板（CMD+K）、改版後的 Sandbox 檔案系統 API（Beta 版，支援最高 5GB 的讀取與雙向串流），以及可擷取歷史紀錄的 CLI 日誌命令。
Runway 正與 Modal 合作，為 Runway Characters 提供即時推論能力。Runway Characters 是一套即時影片代理 API，建構於 Runway 的 GWM-1 世界模型之上，能從單一影像生成富有表現力的數位人物，且無需任何微調。Modal 的無伺服器平台讓 Runway 在不到 30 天內從概念驗證推進到正式上線，並在每個區域使用具備 RDMA 網路的單行多節點 GPU 叢集。Characters 現已於 dev.runwayml.com 向開發者與企業開放，並於 runwayml.com 向一般消費者提供。
Doppel 將其大部分 ML 工作流程遷移至 Modal，消除了拖慢訓練實驗與推論部署的基礎設施摩擦。透過 map() 進行的平行實驗取代了循序執行，而映像層快取與持久性磁碟區將建置時間縮短多達 10 倍，複雜設定更能達到一分鐘內的暖建置。
Vapi 舉辦了一場網路研討會，由首席產品經理 Nick Robin 示範 Composer，這是其產品內建的助理，可用於無程式碼建置語音代理，並在 30 分鐘的示範中產出一個可運作的來電客戶服務代理。Composer 會撰寫系統提示、配置電話號碼、設定排程，並標記自身的錯誤以供核准。它目前處於 alpha 階段，支援來電與去電助理、CRM 與行事曆整合，以及依助理 ID 編輯現有代理。
Modal 為 Sandbox 新增目錄快照（Directory Snapshots），讓使用者可對單一目錄建立快照，並獨立於基礎映像檔掛載至新的 Sandbox。Modal 亦與 Z.ai 合作推出免費公開的 GLM-5 端點，提供至四月底，相容於 OpenCode、Claude Code、OpenClaw 與 Vercel AI SDK。modal 帳務報告 CLI 與 modal.billing.workspace_billing_report API 現已正式推出，適用於 Team 與 Enterprise 工作區。
Vapi 發布了 Vapi Skills，這是一個遵循 Agent Skills 標準的儲存庫，另有一個 Model Context Protocol 連接器，讓編碼代理能即時存取 Vapi 的文件。只需一個安裝指令，即可載入附有確切 API schema 的逐步指示，涵蓋 create-assistant、create-tool、create-call 與 setup-webhook 等工作流程，且此技能包可在 Claude Code、Cursor、VS Code Copilot 與 Gemini CLI 上執行。
Modal 是一個針對資料與運算密集型 AI 工作負載的雲端基礎設施平台，重點介紹了 Hazy Research、Scaling Intelligence 和 IRIS 的研究，這些研究利用其 GPU 機群來加速 AI 研究。由 Scaling Intelligence 的 Anne Ouyang、Simon Guo 和 Will Hu 領導的 KernelBench 專案，提供了一個包含 250 個問題的基準與研究環境，用於自動化 GPU 核心生成，並使用 Modal 在從 L40s 到 Blackwell 系統的硬體上進行一致、可擴展的基準測試。
Modal 推出 Directory Snapshots 公開測試版，讓使用者能對執行中的 Sandbox 內特定目錄建立快照，並將其掛載到另一個 Sandbox，不受基礎映像檔與檔案系統其餘部分影響。此功能鎖定需要在 Sandbox 重啟後保留專案狀態的 coding agents 與 vibe coding 平台；Modal 表示，這能將系統相依性與應用程式碼分離、預先暖機 Sandbox 池，並更快預載關鍵檔案。Directory Snapshots 在最後一次使用後保留 30 天，且能瞬間掛載，其內容在 Modal 的延遲載入容器檔案系統上會優先預載。
Ramp 打造了 Ramp Inspect，一個在 Modal Sandboxes 上運行的內部背景編碼代理，如今 Ramp 前端與後端儲存庫中約有一半已合併的拉取請求由它發起。每個工作階段都能在數秒內啟動包含 Postgres、Redis、Temporal 與 RabbitMQ 的全端環境，因為一個 Modal cron 作業每 30 分鐘會複製儲存庫並儲存檔案系統快照。Modal Functions、Dicts 與 Queues 負責處理快照建置、工作階段鎖定與提示路由，讓 Inspect 得以支援多人工作階段與數百個並行工作階段，且彼此互不影響。
Vapi 推出了 Composer，這是一款內建於 Vapi 儀表板的 AI 助理，能依據描述打造語音代理，負責撰寫提示詞、配置設定、開通電話號碼、建置工具並設定整合。Composer 還能調用通話紀錄來解釋失敗的通話並套用修正，並生成在 Vapi 基礎設施上執行的自訂程式碼工具，用於 HubSpot 等整合。此功能現已以 Alpha 版本推出，無需設定或引導流程。
Modal 推出 GLM-5 的免費 OpenAI API 相容端點，可用至 4 月底，限單個並發請求，同時發布在單節點 8 張 B200 上用 SGLang 部署的可重現程式碼。
推薦理由：Modal 為 Z.ai 的 GLM-5 提供免費 OpenAI 相容端點，並給出在 OpenCode、OpenClaw、Claude Code 和 Vercel AI SDK 中接入的具體配置。
Modal 現在可透過 AWS 和 Google Cloud Marketplaces 購買，讓企業客戶能將既有的雲端支出承諾用於 Modal 的使用。該平台也推出了 Sandbox UI 更新，提供更清楚的資源與區域詳細資訊，以及新的執行時間軸；用戶端 1.3.1 新增對 Python 3.14 的支援，包括在 Modal 容器中實驗性的 free-threaded Python（3.14t）。
Factory 推出 Agent Readiness，從八個技術支柱與五個成熟度等級評估程式碼庫對自主開發的支援程度，可透過 Droid 中的 /readiness-report、組織儀表板或 API 執行。每項標準皆為二元判定，唯有當某等級 80% 的標準及所有先前等級皆通過時，該等級才會解鎖；將每次評估建立於儲存庫先前的報告之上，使 9 個基準儲存庫在六週內的評分變異從平均 7% 降至 0.6%。報告可觸發代理開啟拉取請求，以修正未通過的標準，例如缺少 AGENTS.md、linter 設定或 pre-commit hooks。
Chai Discovery 正在使用 Modal 運行其機器學習藥物發現流程，從蛋白質嵌入和多序列比對到抗體設計。Modal Volumes 會一次性下載並索引達到數百 GB 的資料集，然後在機器之間共享，而彈性 GPU 擴展可在幾分鐘內啟動數百個 GPU。Chai 表示，同樣的設置現在能將研究工作流程帶入生產環境，而無需重寫基礎設施。
OpenAI 發布了一個公開的 Model Context Protocol（MCP）伺服器，讓代理能以唯讀方式存取 developers.openai.com、platform.openai.com 與 learn.chatgpt.com 上的開發者文件。此伺服器僅提供文件內容，不會代表使用者呼叫 OpenAI API。開發者可透過 CLI 或 IDE 擴充功能，以單一共用設定將其加入 Codex，並搭配 OpenAI Docs Skill 取得附有引用的答案。
Modal 已將其多雲 GPU 工作池擴展至超過 20,000 張並行 GPU，並在過去幾年中啟動了超過四百萬個雲端執行個體，現在正分享其背後的可靠性系統。文章涵蓋執行個體類型測試與選擇、機器映像準備與開機檢查、被動與主動 GPU 健康檢查，以及可觀測性與支援。文中報告了超大規模雲端供應商之間的差異，例如 Cloud A 的 99.6% 開機成功率，以及 Cloud C 的 H100 在 2025 年運行溫度超過 90ºC。
Vapi 發布 Vapi Voices Beta，這是一系列專為高用量、成本敏感的語音 AI 使用情境打造的語音模型，定價為每分鐘 $0.0025，延遲經過最佳化以符合對話式回應需求。這些模型出現在既有的語音下拉選單中，與 ElevenLabs、PlayHT 和 Deepgram 等供應商並列，因此團隊無須變更任何整合設定，就能將預約提醒與路由選單等高用量、低風險的流程導向這些模型。Vapi 表示，正式全面推出與否，取決於 Beta 使用情形所揭示的使用情境、真實負載下的延遲，以及節省的成本是否真的重要。
Modal 現已提供 Mistral 3 的 Day 0 支援，讓開發者能在無需管理基礎設施的情況下，於無伺服器 GPU 上部署這個開源模型系列。在 3B 的 Ministral 3 模型上，Modal 的 GPU 快照功能將中位冷啟動時間從約 118 秒縮短至約 12 秒，降幅接近 10 倍。Ministral 3 提供 3B、8B 和 14B 三種規模，在基準測試中與 Qwen 3-VL 系列表現相當。
Modal 主張，那些幫助人類的開發者體驗原則——緊密的回饋循環、透過 CLI/SDK/API 的程式化存取、可據以行動的錯誤訊息，以及與程式碼相鄰的一致範例——同樣能讓 coding agents 更快。由於 agents 是透過產生、執行與觀察程式碼來迭代，含糊的錯誤或僅限 UI 的設定會讓它們停滯，因此為 agents 設計意味著套用同樣的原則，而非重新發明它們。
Vapi 現已為所有語音 AI 助理支援結構化輸出，確保每通通話都回傳符合開發者自訂 JSON 結構定義的資料。這些結構定義會在執行時透過 OpenAI、Anthropic、Gemini 等供應商的原生功能強制執行，並可重複使用於多個助理。擷取到的資料會透過通話完成 webhook 與 REST API 傳送。
Replit 推出 Fast Mode，這是一種更快的方式，可指示其 Agent 進行小幅、精確的變更。它運行於一個高效的 agentic 模型上，比 Build mode 便宜得多，並經過最佳化，能以最少的步驟完成請求，針對快速修正、視覺迭代和小型功能。Fast Mode 從今天起對所有 Replit 使用者開放，並透過閃電圖示啟用。
Reducto 將其 30 多個文件處理模型的推論工作負載遷移至 Modal，使 P90 延遲降低 3 倍。GPU 記憶體快照將冷啟動時間減少 83%，從約 70 秒降至約 12 秒，而各客戶專屬的自動擴展資源池則隔離了流量尖峰。在一次負載測試中，Reducto 在不到一小時內將其擷取管線擴展至超過 1,000 個 GPU，以展示每分鐘 10 萬頁的處理能力。
Modal 的部落格說明主機端開銷——GPU 閒置等待 CPU 準備工作的空檔——如何在 AI 推論中以低 GPU 核心利用率的形式顯現。在主機端開銷達 50% 時，GPU 推論成本是原本可能的兩倍。文章詳細介紹了生產環境開源推論引擎中採用的修正措施，包括在裝置上建構張量而非傳輸張量，以及減少不必要的 CUDA 核心啟動。
Decagon 與 Modal 合作打造 Decagon Voice 2.0，將延遲降低 65%，同時提升意圖辨識與回應品質。Decagon 透過 SFT 與 RL 微調緊湊的開源模型，超越更大的前沿模型；Modal 則訓練了自訂的 EAGLE3 草稿模型，接受長度提高 38%，並以非同步推測解碼排程器重新設計 SGLang，將吞吐量提升最高達 12%。
Modal 的 Ben Shababo 示範如何在 Modal 上以開源 Pipecat 框架與開放權重模型打造對話語音機器人，當客戶端與容器地理位置相近時，語音對語音延遲中位數約為一秒。此管線使用 NVIDIA parakeet-tdt-0.6b-v3 進行 STT、以 vLLM 服務的 Qwen3-4B-Instruct-2507、KokoroTTS 產生語音輸出，並以 ChromaDB 搭配 all-minilm-l6-v2 對 Modal 文件進行 RAG。Modal Tunnels 繞過輸入平面，為 STT、TTS 與 vLLM 服務提供低延遲的 WebSocket 與 HTTP 連結，而綁定於每個對話工作階段的 FunctionCall 則恢復自動擴縮能力，將服務固定於鄰近區域可降低網路延遲。
Modal 已為所有應用程式推出 Volumes v2 公開 beta 版，其檔案系統經過重建，可提供更高吞吐量、更快的隨機存取，以及數百個容器真正的高併發寫入，且儲存檔案數量不設上限。其 JavaScript/TypeScript 與 Go SDK 也進入 beta 版，版本為 v0.5，新增統一的 Client 物件，並支援 Sandboxes、Functions、Images 與 Volumes。
Modal 與 Datalab 合作，讓開發者能在 5 分鐘內於 Modal GPU 上部署 Marker 文件解析模型與 Surya OCR 工具包。Marker 是參數量低於十億的模型，支援超過 90 種語言，在 Modal 上運行可達每容器每秒約 2.2 頁，約為 M4 Mac 使用 Apple MPS 時每秒 0.22 頁的 10 倍。Datalab 的工具對研究、個人使用，以及融資或營收低於 200 萬美元的初創公司維持免費，並提供商業授權。
Vapi 從 10 月 28 日至 11 月 2 日，透過其代管 API 金鑰，讓社群免費且無限制地使用 Cartesia 新推出的 Sonic-3 TTS 模型。Sonic-3 新增情緒與笑聲標籤、細緻的速度與音量控制，並支援 27 種新語言。Vapi 建議先從 Kira 和 Ariana 語音著手，以打造低延遲、聽起來自然的代理。
Modal 工程師閱讀已釋出的 Flash Attention 4 原始碼，逆向解析這個針對 Blackwell 最佳化的注意力核心如何運作，因為目前尚無官方技術報告。這篇文章追蹤一個 tile 如何流經該核心的 warp 特化非同步管線，並詳述兩個數學技巧：一個可取代基於 SFU 之指數運算的三次多項式軟體指數，以及一個更聰明的線上 softmax 重新縮放規則，Tri Dao 表示這能將修正次數減少 10 倍。據報導，FA4 比 Nvidia 的閉源 cudnn 注意力核心快約 20%，而撰文時尚無反向版本可用。
推薦理由：Modal 工程師閱讀已釋出的 Flash Attention 4 原始碼，解釋其 warp 特化管線與兩個數學技巧，提供了一個可轉移的視角，說明 CUDA 核心設計的發展方向。
Modal 打造了 Modal Vibe，這是一個開源的 demo vibe coding 平台，建構於 Modal Sandboxes 之上，能在約五分鐘內從 0 擴展到 1,000 個 AI 編碼應用程式。一次建立 1,000 個應用程式的負載測試（每個應用程式都在各自的 Sandbox 中執行）耗時約 300 秒，其中 AI API 是速率限制的環節。Modal 表示，Team Plan 可執行 1,000 個並行 Sandbox，足以支撐每月超過一百萬次工作階段。
Modal 發布產品更新，包括可用於雲端 Python 實驗、最高支援 8 張 B200 GPU 的 Modal Notebooks，以及 modal.Sandbox.create() 新增的選用 idle_timeout 參數。用戶端也為 @app.function() 與 @app.cls() 裝飾器新增 startup_timeout 參數，並推出以命令式管理 Modal 資源類型的新 API 模式。Modal Notebooks 其後已關閉，但現有 notebook 仍可下載為 .ipynb 檔案。
Modal 詳細介紹了 Modal Notebooks 背後的工程設計，這是其雲端 Jupyter notebook，能在數秒內啟動 GPU 與自訂映像，並支援即時協作。核心（kernel）在 Modal Sandboxes 內執行，並由一個 modal-kernelshim 常駐程式將 Jupyter ZeroMQ 訊息轉譯為 HTTP 呼叫，再透過 Modal 的控制平面進行通道傳輸。一個延遲載入的 Rust FUSE 容器檔案系統透過分層快取按需取得檔案內容，避免了映像解包延遲——對於 8 GB 的 Python/ML 映像，該延遲可能接近一分鐘。
Modal Notebooks 在上個月限量測試後，現已全面開放給所有 Modal 客戶使用。這個協作式筆記本環境執行於支援 GPU 的 Python 核心上，在任意容器映像及最高 256 個 vCPU 與 8 張 H100/B200 GPU 的硬體配置下，不到 5 秒即可達到就緒狀態，並具備閒置自動關閉、共享 Volumes 與 Secrets，以及即時多游標編輯功能。Modal 表示，在 8 月的測試期間，超過 5,000 個帳號執行了 200,000 個程式碼儲存格，即將推出的功能包括記憶體快照、一鍵匯出至 Modal Apps，以及排程執行。
Zencastr 將其播客轉錄工作負載遷移到 Modal 的 GPU 平台，在幾分鐘內擴展到 1,500 個並行 GPU，在短短幾天內處理了數百年的音訊。從自管 Kubernetes GPU 節點轉向 Modal 的 scale-to-zero 基礎設施，降低了閒置 GPU 成本，並消除了驅動程式和依賴管理的開銷。所有核心 ML 工作負載現在都在 Modal 上運行，包括轉錄、說話者計數、笑聲偵測和音訊品質評分。
Modal 以 alpha 版形式新增 GPU 記憶體快照，透過跳過 Torch 編譯等步驟，將 GPU 工作負載的冷啟動時間縮短 10 倍，可透過 enable_gpu_snapshot 選項啟用。此次更新還帶來 beta 版的 Modal Notebooks，可在瀏覽器中執行 Python；供工作區管理員使用的服務權杖；以及為已部署 Functions 提供的瀏覽器生成 UI。
Modal 宣布 GPU 記憶體快照進入 alpha 階段，將其既有的 checkpoint/restore 系統延伸至擷取 GPU vRAM、CUDA 核心、串流與上下文，讓 GPU 工作負載能從凍結狀態還原，而非在開機後重建 CUDA 狀態。
推薦理由：Modal 將 GPU 狀態納入其記憶體快照，讓 torch.compile 與 vLLM 工作負載的冷啟動時間最多縮短 10 倍，並使 scale-to-zero 更為實用。
AI 程式碼沙箱是一個隔離環境，會在執行時執行 LLM 產生的程式碼，將錯誤或注入漏洞的影響範圍限制住。現代實作運行於 VM 或容器上，通常使用 gVisor 等安全執行環境來攔截系統呼叫並保護主機。多數公司選擇託管沙箱服務，而非用 Kubernetes 自行打造，因為冷啟動與擴展到數百萬個並行工作階段成本高昂。