Vapi 推出 Composer，一款能在儀表板內打造語音代理的 AI 助理
Vapi 推出了 Composer，這是一款內建於 Vapi 儀表板的 AI 助理，能依據描述打造語音代理，負責撰寫提示詞、配置設定、開通電話號碼、建置工具並設定整合。Composer 還能調用通話紀錄來解釋失敗的通話並套用修正，並生成在 Vapi 基礎設施上執行的自訂程式碼工具，用於 HubSpot 等整合。此功能現已以 Alpha 版本推出，無需設定或引導流程。
全部動態
Vapi BlogAI 評分5555 Modal Blog精選AI 評分7878 Modal 上線 GLM-5 免費端點並發布自部署與前端接入指南
Modal 推出 GLM-5 的免費 OpenAI API 相容端點，可用至 4 月底，限單個並發請求，同時發布在單節點 8 張 B200 上用 SGLang 部署的可重現程式碼。
推薦理由：Modal 為 Z.ai 的 GLM-5 提供免費 OpenAI 相容端點，並給出在 OpenCode、OpenClaw、Claude Code 和 Vercel AI SDK 中接入的具體配置。
OpenAI Developers Blog精選AI 評分6262 OpenAI 推出 Codex 應用程式
OpenAI 在官方開發者部落格文章中推出了 Codex 應用程式，這是專為其 Codex 編碼代理打造的專屬應用程式。該文章是一篇入門導覽，介紹此應用程式及其核心工作流程，完整影片則發布於 YouTube。
推薦理由：OpenAI 的官方導覽展示了 Codex 應用程式如何組織核心編碼工作流程，對於正在評估它與現有編碼代理的開發者來說很有參考價值。
Modal BlogAI 評分2222 Modal 產品更新：AWS 與 GCP Marketplace 上架、Sandbox 可觀測性，以及用戶端更新
Modal 現在可透過 AWS 和 Google Cloud Marketplaces 購買，讓企業客戶能將既有的雲端支出承諾用於 Modal 的使用。該平台也推出了 Sandbox UI 更新，提供更清楚的資源與區域詳細資訊，以及新的執行時間軸；用戶端 1.3.1 新增對 Python 3.14 的支援，包括在 Modal 容器中實驗性的 free-threaded Python（3.14t）。
Charlie O'NeillAI 評分3838 持續學習與後單體式 AI 時代
持續學習與專業化密不可分，因為記憶的成本會隨範圍擴大而增加：隨著上下文增長，KV 快取會線性增長，甚至可能超過所有模型權重，因此資訊必須從 token 層級移入權重之中。任務專業化基本上已透過持續微調流程解決，而廣泛範圍、稀疏回饋、一次性保留仍是困難的問題。
FactoryAI 評分5858 Factory 推出 Agent Readiness，為程式碼庫對 AI 編碼代理的支援程度評分
Factory 推出 Agent Readiness，從八個技術支柱與五個成熟度等級評估程式碼庫對自主開發的支援程度，可透過 Droid 中的 /readiness-report、組織儀表板或 API 執行。每項標準皆為二元判定，唯有當某等級 80% 的標準及所有先前等級皆通過時，該等級才會解鎖；將每次評估建立於儲存庫先前的報告之上，使 9 個基準儲存庫在六週內的評分變異從平均 7% 降至 0.6%。報告可觸發代理開啟拉取請求，以修正未通過的標準，例如缺少 AGENTS.md、linter 設定或 pre-commit hooks。
Modal BlogAI 評分2222 Chai Discovery 在 Modal 上擴展計算藥物發現
Chai Discovery 正在使用 Modal 運行其機器學習藥物發現流程，從蛋白質嵌入和多序列比對到抗體設計。Modal Volumes 會一次性下載並索引達到數百 GB 的資料集，然後在機器之間共享，而彈性 GPU 擴展可在幾分鐘內啟動數百個 GPU。Chai 表示，同樣的設置現在能將研究工作流程帶入生產環境，而無需重寫基礎設施。
OpenAI Developers BlogAI 評分4242 OpenAI 推出 Docs MCP Server，供開發者文件使用
OpenAI 發布了一個公開的 Model Context Protocol（MCP）伺服器，讓代理能以唯讀方式存取 developers.openai.com、platform.openai.com 與 learn.chatgpt.com 上的開發者文件。此伺服器僅提供文件內容，不會代表使用者呼叫 OpenAI API。開發者可透過 CLI 或 IDE 擴充功能，以單一共用設定將其加入 Codex，並搭配 OpenAI Docs Skill 取得附有引用的答案。
Modal BlogAI 評分3838 Modal 如何跨雲端維持超過 20,000 張 GPU 的健康運作
Modal 已將其多雲 GPU 工作池擴展至超過 20,000 張並行 GPU，並在過去幾年中啟動了超過四百萬個雲端執行個體，現在正分享其背後的可靠性系統。文章涵蓋執行個體類型測試與選擇、機器映像準備與開機檢查、被動與主動 GPU 健康檢查，以及可觀測性與支援。文中報告了超大規模雲端供應商之間的差異，例如 Cloud A 的 99.6% 開機成功率，以及 Cloud C 的 H100 在 2025 年運行溫度超過 90ºC。
Replit Blog精選AI 評分7070 Replit 透過 @replit 和 Replit Agent 在 ChatGPT 內推出應用程式建置功能
Replit 現已進駐 ChatGPT，使用者可在任何訊息中標記 @replit，讓 Replit Agent 直接在對話中建立、更新及部署 Replit 應用程式。建置進度與互動式預覽會顯示在對話中，而新增深色模式或付款表單等每項請求都會即時更新應用程式，應用程式會儲存在使用者的 Replit 帳戶中，供日後發布。此整合功能需要 ChatGPT 帳戶（Free、Plus、Pro 或 Teams）和 Replit 帳戶，在 ChatGPT App Store 上架的地區均可使用，並會消耗 Replit Agent 額度。
推薦理由：Replit 的 ChatGPT 整合功能讓使用者在對話中描述應用程式，並由 Replit Agent 完成建置、預覽及部署，全程無需離開對話。
Vapi BlogAI 評分3838 Vapi Voices Beta 以每分鐘 $0.0025 推出，鎖定高用量語音 AI
Vapi 發布 Vapi Voices Beta，這是一系列專為高用量、成本敏感的語音 AI 使用情境打造的語音模型，定價為每分鐘 $0.0025，延遲經過最佳化以符合對話式回應需求。這些模型出現在既有的語音下拉選單中，與 ElevenLabs、PlayHT 和 Deepgram 等供應商並列，因此團隊無須變更任何整合設定，就能將預約提醒與路由選單等高用量、低風險的流程導向這些模型。Vapi 表示，正式全面推出與否，取決於 Beta 使用情形所揭示的使用情境、真實負載下的延遲，以及節省的成本是否真的重要。
Modal BlogAI 評分4242 Modal 為 Mistral 3 新增 Day 0 支援，並透過 GPU 快照技術將冷啟動速度提升 10 倍
Modal 現已提供 Mistral 3 的 Day 0 支援，讓開發者能在無需管理基礎設施的情況下，於無伺服器 GPU 上部署這個開源模型系列。在 3B 的 Ministral 3 模型上，Modal 的 GPU 快照功能將中位冷啟動時間從約 118 秒縮短至約 12 秒，降幅接近 10 倍。Ministral 3 提供 3B、8B 和 14B 三種規模，在基準測試中與 Qwen 3-VL 系列表現相當。
Modal BlogAI 評分2222 Modal 談為何 coding agents 也需要良好的開發者體驗
Modal 主張，那些幫助人類的開發者體驗原則——緊密的回饋循環、透過 CLI/SDK/API 的程式化存取、可據以行動的錯誤訊息，以及與程式碼相鄰的一致範例——同樣能讓 coding agents 更快。由於 agents 是透過產生、執行與觀察程式碼來迭代，含糊的錯誤或僅限 UI 的設定會讓它們停滯，因此為 agents 設計意味著套用同樣的原則，而非重新發明它們。
Vapi BlogAI 評分4242 Vapi 新增結構化輸出，可從語音 AI 通話中擷取符合結構定義的資料
Vapi 現已為所有語音 AI 助理支援結構化輸出，確保每通通話都回傳符合開發者自訂 JSON 結構定義的資料。這些結構定義會在執行時透過 OpenAI、Anthropic、Gemini 等供應商的原生功能強制執行，並可重複使用於多個助理。擷取到的資料會透過通話完成 webhook 與 REST API 傳送。
Replit BlogAI 評分4242 Replit 推出 Fast Mode，讓 Agent 編輯更快、更便宜
Replit 推出 Fast Mode，這是一種更快的方式，可指示其 Agent 進行小幅、精確的變更。它運行於一個高效的 agentic 模型上，比 Build mode 便宜得多，並經過最佳化，能以最少的步驟完成請求，針對快速修正、視覺迭代和小型功能。Fast Mode 從今天起對所有 Replit 使用者開放，並透過閃電圖示啟用。
Modal BlogAI 評分3030 Reducto 如何在 Modal 上將企業文件處理的 P90 延遲降低 3 倍
Reducto 將其 30 多個文件處理模型的推論工作負載遷移至 Modal，使 P90 延遲降低 3 倍。GPU 記憶體快照將冷啟動時間減少 83%，從約 70 秒降至約 12 秒，而各客戶專屬的自動擴展資源池則隔離了流量尖峰。在一次負載測試中，Reducto 在不到一小時內將其擷取管線擴展至超過 1,000 個 GPU，以展示每分鐘 10 萬頁的處理能力。
Vapi BlogAI 評分3535 GPT-5.1 為語音 AI 帶來個性預設，現已在 Vapi 上線
OpenAI 的 GPT-5.1 新增了一致性的個性預設——Default、Professional、Friendly、Candid、Quirky、Efficient、Nerdy 與 Cynical——以及更具對話感的 GPT-5.1 Instant，和快速自適應推理，讓簡單問題獲得快速回覆，而複雜問題則獲得更多思考。Vapi 表示，該模型已於上週在 OpenAI 發布消息的同時在其平台上線，讓語音代理無需改寫提示詞即可採用符合品牌調性的語氣。
Modal BlogAI 評分3636 Modal 部落格：主機端開銷正在扼殺你的推論效率
Modal 的部落格說明主機端開銷——GPU 閒置等待 CPU 準備工作的空檔——如何在 AI 推論中以低 GPU 核心利用率的形式顯現。在主機端開銷達 50% 時，GPU 推論成本是原本可能的兩倍。文章詳細介紹了生產環境開源推論引擎中採用的修正措施，包括在裝置上建構張量而非傳輸張量，以及減少不必要的 CUDA 核心啟動。
Modal BlogAI 評分4040 Decagon 如何在 Modal 上推出即時語音 AI
Decagon 與 Modal 合作打造 Decagon Voice 2.0，將延遲降低 65%，同時提升意圖辨識與回應品質。Decagon 透過 SFT 與 RL 微調緊湊的開源模型，超越更大的前沿模型；Modal 則訓練了自訂的 EAGLE3 草稿模型，接受長度提高 38%，並以非同步推測解碼排程器重新設計 SGLang，將吞吐量提升最高達 12%。
Vapi BlogAI 評分1818 Vapi 創辦人回顧打造 VapiCon：首場語音 AI 高峰會
Vapi 創辦人回顧公司如何舉辦 VapiCon，這場號稱首場語音 AI 高峰會的活動，吸引了 850 名與會者，以及來自 OpenAI、Deepgram 和 Assembly AI 的語音 AI 領袖齊聚一堂。Vapi 在活動上花費約 50 萬美元，回收約 40 萬美元，創辦人指出，真正的回報在於合作夥伴關係與企業交易。該公司現已推出 VapiCon 影片庫，收錄所有議程與座談。
Modal BlogAI 評分5858 Modal、Pipecat 與開源模型實現一秒語音對語音延遲
Modal 的 Ben Shababo 示範如何在 Modal 上以開源 Pipecat 框架與開放權重模型打造對話語音機器人，當客戶端與容器地理位置相近時，語音對語音延遲中位數約為一秒。此管線使用 NVIDIA parakeet-tdt-0.6b-v3 進行 STT、以 vLLM 服務的 Qwen3-4B-Instruct-2507、KokoroTTS 產生語音輸出，並以 ChromaDB 搭配 all-minilm-l6-v2 對 Modal 文件進行 RAG。Modal Tunnels 繞過輸入平面，為 STT、TTS 與 vLLM 服務提供低延遲的 WebSocket 與 HTTP 連結，而綁定於每個對話工作階段的 FunctionCall 則恢復自動擴縮能力，將服務固定於鄰近區域可降低網路延遲。
Modal BlogAI 評分2222 Modal 更新 Volumes v2、JavaScript 與 Go SDK 至 beta 版
Modal 已為所有應用程式推出 Volumes v2 公開 beta 版，其檔案系統經過重建，可提供更高吞吐量、更快的隨機存取，以及數百個容器真正的高併發寫入，且儲存檔案數量不設上限。其 JavaScript/TypeScript 與 Go SDK 也進入 beta 版，版本為 v0.5，新增統一的 Client 物件，並支援 Sandboxes、Functions、Images 與 Volumes。
Modal BlogAI 評分3838 Modal 與 Datalab：5 分鐘內部署 Marker 與 Surya 文件智慧工具
Modal 與 Datalab 合作，讓開發者能在 5 分鐘內於 Modal GPU 上部署 Marker 文件解析模型與 Surya OCR 工具包。Marker 是參數量低於十億的模型，支援超過 90 種語言，在 Modal 上運行可達每容器每秒約 2.2 頁，約為 M4 Mac 使用 Apple MPS 時每秒 0.22 頁的 10 倍。Datalab 的工具對研究、個人使用，以及融資或營收低於 200 萬美元的初創公司維持免費，並提供商業授權。
Vapi BlogAI 評分2828 Vapi 提供一週免費的 Cartesia Sonic-3 TTS
Vapi 從 10 月 28 日至 11 月 2 日，透過其代管 API 金鑰，讓社群免費且無限制地使用 Cartesia 新推出的 Sonic-3 TTS 模型。Sonic-3 新增情緒與笑聲標籤、細緻的速度與音量控制，並支援 27 種新語言。Vapi 建議先從 Kira 和 Ariana 語音著手，以打造低延遲、聽起來自然的代理。
Modal BlogAI 評分3838 Modal 以 11 億美元估值完成 8700 萬美元 B 輪融資
Modal 已完成由 Lux Capital 領投的 B 輪融資，募得超過 8000 萬美元，使其投後估值達到 11 億美元，總融資額達到 1.11 億美元。這家 AI 基礎設施供應商提供 Inference、Sandboxes、Batch 和 Training 產品，具備亞秒級容器啟動時間和基於用量的無伺服器定價。Meta 使用 Modal 為其 Code World Models 的強化學習啟動了數千個並行沙箱環境。
Modal Blog精選AI 評分6060 Modal 工程師逆向解析 Flash Attention 4 的運作原理
Modal 工程師閱讀已釋出的 Flash Attention 4 原始碼，逆向解析這個針對 Blackwell 最佳化的注意力核心如何運作，因為目前尚無官方技術報告。這篇文章追蹤一個 tile 如何流經該核心的 warp 特化非同步管線，並詳述兩個數學技巧：一個可取代基於 SFU 之指數運算的三次多項式軟體指數，以及一個更聰明的線上 softmax 重新縮放規則，Tri Dao 表示這能將修正次數減少 10 倍。據報導，FA4 比 Nvidia 的閉源 cudnn 注意力核心快約 20%，而撰文時尚無反向版本可用。
推薦理由：Modal 工程師閱讀已釋出的 Flash Attention 4 原始碼，解釋其 warp 特化管線與兩個數學技巧，提供了一個可轉移的視角，說明 CUDA 核心設計的發展方向。
Modal BlogAI 評分1818 Justin Dignelli 加入 Modal 擔任銷售副總裁
Justin Dignelli 已加入 Modal 擔任銷售副總裁，此前他曾為這家 AI 運算平台就其下一階段成長提供顧問建議，並投資其 A 輪融資。Modal 目前已在數千名客戶中創造高達八位數的營收，Dignelli 計劃建立 GTM 組織以進一步擴大規模。
Modal BlogAI 評分3838 Modal Vibe：建構於 Modal Sandboxes 的 AI 編碼平台，5 分鐘內可擴展至 1,000 個應用程式
Modal 打造了 Modal Vibe，這是一個開源的 demo vibe coding 平台，建構於 Modal Sandboxes 之上，能在約五分鐘內從 0 擴展到 1,000 個 AI 編碼應用程式。一次建立 1,000 個應用程式的負載測試（每個應用程式都在各自的 Sandbox 中執行）耗時約 300 秒，其中 AI API 是速率限制的環節。Modal 表示，Team Plan 可執行 1,000 個並行 Sandbox，足以支撐每月超過一百萬次工作階段。
Modal BlogAI 評分2020 Modal 產品更新：Notebooks、Sandbox 閒置逾時與用戶端變更
Modal 發布產品更新，包括可用於雲端 Python 實驗、最高支援 8 張 B200 GPU 的 Modal Notebooks，以及 modal.Sandbox.create() 新增的選用 idle_timeout 參數。用戶端也為 @app.function() 與 @app.cls() 裝飾器新增 startup_timeout 參數，並推出以命令式管理 Modal 資源類型的新 API 模式。Modal Notebooks 其後已關閉，但現有 notebook 仍可下載為 .ipynb 檔案。
Modal BlogAI 評分4747 深入解析 Modal Notebooks：Modal 如何打造能在數秒內啟動的雲端 GPU Notebook
Modal 詳細介紹了 Modal Notebooks 背後的工程設計，這是其雲端 Jupyter notebook，能在數秒內啟動 GPU 與自訂映像，並支援即時協作。核心（kernel）在 Modal Sandboxes 內執行，並由一個 modal-kernelshim 常駐程式將 Jupyter ZeroMQ 訊息轉譯為 HTTP 呼叫，再透過 Modal 的控制平面進行通道傳輸。一個延遲載入的 Rust FUSE 容器檔案系統透過分層快取按需取得檔案內容，避免了映像解包延遲——對於 8 GB 的 Python/ML 映像，該延遲可能接近一分鐘。
Modal BlogAI 評分5858 Modal 推出 Notebooks，GPU 核心啟動時間低於 5 秒
Modal Notebooks 在上個月限量測試後，現已全面開放給所有 Modal 客戶使用。這個協作式筆記本環境執行於支援 GPU 的 Python 核心上，在任意容器映像及最高 256 個 vCPU 與 8 張 H100/B200 GPU 的硬體配置下，不到 5 秒即可達到就緒狀態，並具備閒置自動關閉、共享 Volumes 與 Secrets，以及即時多游標編輯功能。Modal 表示，在 8 月的測試期間，超過 5,000 個帳號執行了 200,000 個程式碼儲存格，即將推出的功能包括記憶體快照、一鍵匯出至 Modal Apps，以及排程執行。
Modal BlogAI 評分2222 Zencastr 如何用 Modal 在幾天內轉錄數百年的音訊
Zencastr 將其播客轉錄工作負載遷移到 Modal 的 GPU 平台，在幾分鐘內擴展到 1,500 個並行 GPU，在短短幾天內處理了數百年的音訊。從自管 Kubernetes GPU 節點轉向 Modal 的 scale-to-zero 基礎設施，降低了閒置 GPU 成本，並消除了驅動程式和依賴管理的開銷。所有核心 ML 工作負載現在都在 Modal 上運行，包括轉錄、說話者計數、笑聲偵測和音訊品質評分。
Modal BlogAI 評分3838 Modal 產品更新：GPU 記憶體快照、Notebooks、服務權杖等更多功能
Modal 以 alpha 版形式新增 GPU 記憶體快照，透過跳過 Torch 編譯等步驟，將 GPU 工作負載的冷啟動時間縮短 10 倍，可透過 enable_gpu_snapshot 選項啟用。此次更新還帶來 beta 版的 Modal Notebooks，可在瀏覽器中執行 Python；供工作區管理員使用的服務權杖；以及為已部署 Functions 提供的瀏覽器生成 UI。
Modal Blog精選AI 評分6060 Modal 推出 GPU 記憶體快照，實現亞秒級無伺服器冷啟動
Modal 宣布 GPU 記憶體快照進入 alpha 階段，將其既有的 checkpoint/restore 系統延伸至擷取 GPU vRAM、CUDA 核心、串流與上下文，讓 GPU 工作負載能從凍結狀態還原，而非在開機後重建 CUDA 狀態。
推薦理由：Modal 將 GPU 狀態納入其記憶體快照，讓 torch.compile 與 vLLM 工作負載的冷啟動時間最多縮短 10 倍，並使 scale-to-zero 更為實用。
Modal BlogAI 評分3636 什麼是 AI 程式碼沙箱？
AI 程式碼沙箱是一個隔離環境，會在執行時執行 LLM 產生的程式碼，將錯誤或注入漏洞的影響範圍限制住。現代實作運行於 VM 或容器上，通常使用 gVisor 等安全執行環境來攔截系統呼叫並保護主機。多數公司選擇託管沙箱服務，而非用 Kubernetes 自行打造，因為冷啟動與擴展到數百萬個並行工作階段成本高昂。
Modal BlogAI 評分5252 Modal 開源 ASR 模型基準測試：批次轉錄速度提升 100 倍、成本大幅降低
Modal 在其平台上使用 NVIDIA 的 parakeet-tdt-0.6b-v2 與 canary-1b-flash 實作了批次轉錄服務，回報端到端效能比一款熱門的專有 ASR API 快 100 倍或便宜 100 倍，同時在約一週的 ESB 基準音訊上達到與其相當的錯誤率。團隊將這些增益歸因於跨請求批次打散檔案、在 GPU 批次內依音訊長度排序、平行下載，以及經實證選定的 GPU 與 worker 配置。文章逐步說明架構與最佳化步驟，讓其他人也能建構類似的服務。
Modal BlogAI 評分3030 以每 token 美元計價有害：為何自架 LLM 推論應按請求計價
Modal 部落格文章主張，承襲自 OpenAI、Anthropic 與 Alphabet 等 API 供應商的「每 token 美元」計價方式，對執行自架 LLM 推論的團隊有害。文章認為應用程式使用者在意的是請求而非 token，因此需要以每請求為框架來思考延遲、副本數量與運算成本。
Modal BlogAI 評分4040 Modal 產品更新：多節點訓練叢集、B200 與 H200 GPU，以及 Client 1.0
Modal 已推出多節點訓練叢集 Beta 版，使用者只要加上 @clustered 裝飾器，就能跨多台主機取用數十個 GPU，並具備 3.2 Tbps Infiniband RDMA 互連，可達到近乎線性的擴展。該平台現在以無伺服器方式提供 NVIDIA B200 與 H200 GPU，價格分別為每小時 $6.25 與 $4.54，並宣稱 LLM 推論速度比 H100 快上 2-4 倍。Modal 同時發布 Client 1.0，強調 API 穩定性，另外還有唯讀 Volume 方法與 Cron 排程時區支援等更新。
Modal BlogAI 評分3131 Jamsocket 加入 Modal
開源協調器 Plane、Y-Sweet 和 ForeverVM 背後的後端平台 Jamsocket 正在加入 Modal，共同創辦人 Paul Butler 和 Taylor Baldwin 也將加入 Modal 團隊。Jamsocket 的產品將照常運作，同時核心功能會遷移到 Modal；創辦人表示，這讓以 AI 為核心的客戶能在單一平台上部署 GPU 推論、程式碼沙箱和即時後端。
Modal BlogAI 評分2828 Modal 如何在一個週末支撐 25 萬個 Lovable 應用程式創作
Lovable 在 2025 年 6 月與 Anthropic、OpenAI 和 Google 合作的促銷週末期間，使用 Modal Sandboxes 執行程式碼生成式 LLM 所產生的程式碼，讓使用者在 48 小時內建構了估計 25 萬個應用程式。Modal 執行了超過 100 萬個沙箱，尖峰時最多同時執行 2 萬個，而 Lovable 的並行工作階段激增 2.5 至 3 倍，其平台團隊一次都沒有被呼叫。Lovable 改用 Modal 後，將其沙箱協調程式碼從 15,000 行減少到 700 行。