Vapi 推出企業語音 AI 音訊隱私強化安全模式
Vapi 發布強化安全模式,這是一層音訊隱私保護機制,該公司稱其為企業語音 AI 平台歷來部署過最安靜且最安全的方案,旨在防止 AI 代理的語音在開放空間中被旁人聽見。該公司表示,其整個音訊處理流程經過重新設計,能反轉訊號存在優化,且不會增加延遲失真。早期存取涵蓋醫療保健、福利管理與急性後期照護機構,該功能現已推出。
Vapi 發布強化安全模式,這是一層音訊隱私保護機制,該公司稱其為企業語音 AI 平台歷來部署過最安靜且最安全的方案,旨在防止 AI 代理的語音在開放空間中被旁人聽見。該公司表示,其整個音訊處理流程經過重新設計,能反轉訊號存在優化,且不會增加延遲失真。早期存取涵蓋醫療保健、福利管理與急性後期照護機構,該功能現已推出。
Vapi 舉辦了一場網路研討會,由首席產品經理 Nick Robin 示範 Composer,這是其產品內建的助理,可用於無程式碼建置語音代理,並在 30 分鐘的示範中產出一個可運作的來電客戶服務代理。Composer 會撰寫系統提示、配置電話號碼、設定排程,並標記自身的錯誤以供核准。它目前處於 alpha 階段,支援來電與去電助理、CRM 與行事曆整合,以及依助理 ID 編輯現有代理。
Modal 為 Sandbox 新增目錄快照(Directory Snapshots),讓使用者可對單一目錄建立快照,並獨立於基礎映像檔掛載至新的 Sandbox。Modal 亦與 Z.ai 合作推出免費公開的 GLM-5 端點,提供至四月底,相容於 OpenCode、Claude Code、OpenClaw 與 Vercel AI SDK。modal 帳務報告 CLI 與 modal.billing.workspace_billing_report API 現已正式推出,適用於 Team 與 Enterprise 工作區。
Vapi 發布了 Vapi Skills,這是一個遵循 Agent Skills 標準的儲存庫,另有一個 Model Context Protocol 連接器,讓編碼代理能即時存取 Vapi 的文件。只需一個安裝指令,即可載入附有確切 API schema 的逐步指示,涵蓋 create-assistant、create-tool、create-call 與 setup-webhook 等工作流程,且此技能包可在 Claude Code、Cursor、VS Code Copilot 與 Gemini CLI 上執行。
Modal 推出 Directory Snapshots 公開測試版,讓使用者能對執行中的 Sandbox 內特定目錄建立快照,並將其掛載到另一個 Sandbox,不受基礎映像檔與檔案系統其餘部分影響。此功能鎖定需要在 Sandbox 重啟後保留專案狀態的 coding agents 與 vibe coding 平台;Modal 表示,這能將系統相依性與應用程式碼分離、預先暖機 Sandbox 池,並更快預載關鍵檔案。Directory Snapshots 在最後一次使用後保留 30 天,且能瞬間掛載,其內容在 Modal 的延遲載入容器檔案系統上會優先預載。
Vapi 推出了 Composer,這是一款內建於 Vapi 儀表板的 AI 助理,能依據描述打造語音代理,負責撰寫提示詞、配置設定、開通電話號碼、建置工具並設定整合。Composer 還能調用通話紀錄來解釋失敗的通話並套用修正,並生成在 Vapi 基礎設施上執行的自訂程式碼工具,用於 HubSpot 等整合。此功能現已以 Alpha 版本推出,無需設定或引導流程。
Modal 推出 GLM-5 的免費 OpenAI API 相容端點,可用至 4 月底,限單個並發請求,同時發布在單節點 8 張 B200 上用 SGLang 部署的可重現程式碼。
推薦理由:Modal 為 Z.ai 的 GLM-5 提供免費 OpenAI 相容端點,並給出在 OpenCode、OpenClaw、Claude Code 和 Vercel AI SDK 中接入的具體配置。
OpenAI 在官方開發者部落格文章中推出了 Codex 應用程式,這是專為其 Codex 編碼代理打造的專屬應用程式。該文章是一篇入門導覽,介紹此應用程式及其核心工作流程,完整影片則發布於 YouTube。
推薦理由:OpenAI 的官方導覽展示了 Codex 應用程式如何組織核心編碼工作流程,對於正在評估它與現有編碼代理的開發者來說很有參考價值。
Modal 現在可透過 AWS 和 Google Cloud Marketplaces 購買,讓企業客戶能將既有的雲端支出承諾用於 Modal 的使用。該平台也推出了 Sandbox UI 更新,提供更清楚的資源與區域詳細資訊,以及新的執行時間軸;用戶端 1.3.1 新增對 Python 3.14 的支援,包括在 Modal 容器中實驗性的 free-threaded Python(3.14t)。
Factory 推出 Agent Readiness,從八個技術支柱與五個成熟度等級評估程式碼庫對自主開發的支援程度,可透過 Droid 中的 /readiness-report、組織儀表板或 API 執行。每項標準皆為二元判定,唯有當某等級 80% 的標準及所有先前等級皆通過時,該等級才會解鎖;將每次評估建立於儲存庫先前的報告之上,使 9 個基準儲存庫在六週內的評分變異從平均 7% 降至 0.6%。報告可觸發代理開啟拉取請求,以修正未通過的標準,例如缺少 AGENTS.md、linter 設定或 pre-commit hooks。
OpenAI 發布了一個公開的 Model Context Protocol(MCP)伺服器,讓代理能以唯讀方式存取 developers.openai.com、platform.openai.com 與 learn.chatgpt.com 上的開發者文件。此伺服器僅提供文件內容,不會代表使用者呼叫 OpenAI API。開發者可透過 CLI 或 IDE 擴充功能,以單一共用設定將其加入 Codex,並搭配 OpenAI Docs Skill 取得附有引用的答案。
Replit 現已進駐 ChatGPT,使用者可在任何訊息中標記 @replit,讓 Replit Agent 直接在對話中建立、更新及部署 Replit 應用程式。建置進度與互動式預覽會顯示在對話中,而新增深色模式或付款表單等每項請求都會即時更新應用程式,應用程式會儲存在使用者的 Replit 帳戶中,供日後發布。此整合功能需要 ChatGPT 帳戶(Free、Plus、Pro 或 Teams)和 Replit 帳戶,在 ChatGPT App Store 上架的地區均可使用,並會消耗 Replit Agent 額度。
推薦理由:Replit 的 ChatGPT 整合功能讓使用者在對話中描述應用程式,並由 Replit Agent 完成建置、預覽及部署,全程無需離開對話。
Vapi 發布 Vapi Voices Beta,這是一系列專為高用量、成本敏感的語音 AI 使用情境打造的語音模型,定價為每分鐘 $0.0025,延遲經過最佳化以符合對話式回應需求。這些模型出現在既有的語音下拉選單中,與 ElevenLabs、PlayHT 和 Deepgram 等供應商並列,因此團隊無須變更任何整合設定,就能將預約提醒與路由選單等高用量、低風險的流程導向這些模型。Vapi 表示,正式全面推出與否,取決於 Beta 使用情形所揭示的使用情境、真實負載下的延遲,以及節省的成本是否真的重要。
Modal 現已提供 Mistral 3 的 Day 0 支援,讓開發者能在無需管理基礎設施的情況下,於無伺服器 GPU 上部署這個開源模型系列。在 3B 的 Ministral 3 模型上,Modal 的 GPU 快照功能將中位冷啟動時間從約 118 秒縮短至約 12 秒,降幅接近 10 倍。Ministral 3 提供 3B、8B 和 14B 三種規模,在基準測試中與 Qwen 3-VL 系列表現相當。
Vapi 現已為所有語音 AI 助理支援結構化輸出,確保每通通話都回傳符合開發者自訂 JSON 結構定義的資料。這些結構定義會在執行時透過 OpenAI、Anthropic、Gemini 等供應商的原生功能強制執行,並可重複使用於多個助理。擷取到的資料會透過通話完成 webhook 與 REST API 傳送。
Replit 推出 Fast Mode,這是一種更快的方式,可指示其 Agent 進行小幅、精確的變更。它運行於一個高效的 agentic 模型上,比 Build mode 便宜得多,並經過最佳化,能以最少的步驟完成請求,針對快速修正、視覺迭代和小型功能。Fast Mode 從今天起對所有 Replit 使用者開放,並透過閃電圖示啟用。
Modal 已為所有應用程式推出 Volumes v2 公開 beta 版,其檔案系統經過重建,可提供更高吞吐量、更快的隨機存取,以及數百個容器真正的高併發寫入,且儲存檔案數量不設上限。其 JavaScript/TypeScript 與 Go SDK 也進入 beta 版,版本為 v0.5,新增統一的 Client 物件,並支援 Sandboxes、Functions、Images 與 Volumes。
Modal 與 Datalab 合作,讓開發者能在 5 分鐘內於 Modal GPU 上部署 Marker 文件解析模型與 Surya OCR 工具包。Marker 是參數量低於十億的模型,支援超過 90 種語言,在 Modal 上運行可達每容器每秒約 2.2 頁,約為 M4 Mac 使用 Apple MPS 時每秒 0.22 頁的 10 倍。Datalab 的工具對研究、個人使用,以及融資或營收低於 200 萬美元的初創公司維持免費,並提供商業授權。
Vapi 從 10 月 28 日至 11 月 2 日,透過其代管 API 金鑰,讓社群免費且無限制地使用 Cartesia 新推出的 Sonic-3 TTS 模型。Sonic-3 新增情緒與笑聲標籤、細緻的速度與音量控制,並支援 27 種新語言。Vapi 建議先從 Kira 和 Ariana 語音著手,以打造低延遲、聽起來自然的代理。
Modal 打造了 Modal Vibe,這是一個開源的 demo vibe coding 平台,建構於 Modal Sandboxes 之上,能在約五分鐘內從 0 擴展到 1,000 個 AI 編碼應用程式。一次建立 1,000 個應用程式的負載測試(每個應用程式都在各自的 Sandbox 中執行)耗時約 300 秒,其中 AI API 是速率限制的環節。Modal 表示,Team Plan 可執行 1,000 個並行 Sandbox,足以支撐每月超過一百萬次工作階段。
Modal 發布產品更新,包括可用於雲端 Python 實驗、最高支援 8 張 B200 GPU 的 Modal Notebooks,以及 modal.Sandbox.create() 新增的選用 idle_timeout 參數。用戶端也為 @app.function() 與 @app.cls() 裝飾器新增 startup_timeout 參數,並推出以命令式管理 Modal 資源類型的新 API 模式。Modal Notebooks 其後已關閉,但現有 notebook 仍可下載為 .ipynb 檔案。
Modal Notebooks 在上個月限量測試後,現已全面開放給所有 Modal 客戶使用。這個協作式筆記本環境執行於支援 GPU 的 Python 核心上,在任意容器映像及最高 256 個 vCPU 與 8 張 H100/B200 GPU 的硬體配置下,不到 5 秒即可達到就緒狀態,並具備閒置自動關閉、共享 Volumes 與 Secrets,以及即時多游標編輯功能。Modal 表示,在 8 月的測試期間,超過 5,000 個帳號執行了 200,000 個程式碼儲存格,即將推出的功能包括記憶體快照、一鍵匯出至 Modal Apps,以及排程執行。
Modal 以 alpha 版形式新增 GPU 記憶體快照,透過跳過 Torch 編譯等步驟,將 GPU 工作負載的冷啟動時間縮短 10 倍,可透過 enable_gpu_snapshot 選項啟用。此次更新還帶來 beta 版的 Modal Notebooks,可在瀏覽器中執行 Python;供工作區管理員使用的服務權杖;以及為已部署 Functions 提供的瀏覽器生成 UI。
Modal 宣布 GPU 記憶體快照進入 alpha 階段,將其既有的 checkpoint/restore 系統延伸至擷取 GPU vRAM、CUDA 核心、串流與上下文,讓 GPU 工作負載能從凍結狀態還原,而非在開機後重建 CUDA 狀態。
推薦理由:Modal 將 GPU 狀態納入其記憶體快照,讓 torch.compile 與 vLLM 工作負載的冷啟動時間最多縮短 10 倍,並使 scale-to-zero 更為實用。
Modal 已推出多節點訓練叢集 Beta 版,使用者只要加上 @clustered 裝飾器,就能跨多台主機取用數十個 GPU,並具備 3.2 Tbps Infiniband RDMA 互連,可達到近乎線性的擴展。該平台現在以無伺服器方式提供 NVIDIA B200 與 H200 GPU,價格分別為每小時 $6.25 與 $4.54,並宣稱 LLM 推論速度比 H100 快上 2-4 倍。Modal 同時發布 Client 1.0,強調 API 穩定性,另外還有唯讀 Volume 方法與 Cron 排程時區支援等更新。
Vapi 現在讓使用者能透過上傳包含電話號碼與自訂變數的 CSV 檔來發動外呼活動,再指派助理或工作流程執行。Vapi 負責處理佇列、執行與記錄,通話狀態可在儀表板中查看。活動需要已驗證的電話號碼,因為無法使用 Vapi 號碼。
Modal 推出了其 Python SDK 客戶端的 1.0 版本,該公司稱這是一個里程碑,為其無伺服器雲端運算平台帶來了全新層次的成熟度與穩定性,預計未來破壞性變更將大幅減少。此版本移除了諸如自動掛載本地套件等「魔法」行為,將核心功能拆分到不同的裝飾器中,例如新的 @modal.concurrent,並將本地檔案處理整合到 modal.Image 類別之下。Modal 也計劃推出其他語言的 SDK,並正在探索該平台應如何服務 AI 驅動的代理工作流程。
Vapi 現在提供 11 個內建文字轉語音模型,作為 ElevenLabs 的替代方案,包括 Neuphonic 的 Neu-hq 和 Neu-fast、Cartesia 的 Sonic 系列、Azure TTS、OpenAI TTS、Deepgram、Smallest AI 的 Lightning、LMNT、PlayHT、Hume 的 Octave 以及 Rime AI 的 Mist v2。開發者可以在幾分鐘內切換這些模型,無需重新編寫程式碼,Vapi 表示其透過這些模型每天處理超過一百萬通語音通話。
Modal 現在向所有帳戶持有人提供 Nvidia B200 與 H200 GPU,無需聯繫業務或申請配額,價格分別為每小時 6.25 美元與 4.54 美元。B200 配備 180 GB 的 HBM3e 記憶體與 8 TB/s 頻寬,在 Modal 的 vLLM 測試中,以 8 位元精度執行 DeepSeek V3,8 張 B200 相較 8 張 H200 在每秒 1 次請求下,將中位數首字延遲縮短了 2.5 倍。
Narakeet 可將書面講稿轉換為逼真的旁白,提供橫跨 70 多種語言的 600 多種語音,並支援 140 多種語言和方言。該平台能讓旁白與 PowerPoint、Google Slides 和 Markdown 檔案同步,生成字幕和說明文字,並提供具備批次處理功能的開發者 API。方案每月約 5 美元起,並提供免費方案。
Modal 推出 Modal Batch,這是一個批次處理介面,背後是重建後的持久佇列,一次可排入 100 萬個輸入(原先為 2,000 個),並保證任務啟動後最多 7 天內仍會執行(原先為 1 天)。新的原生處理器 .spawn_map 可在一組輸入上啟動數千個容器,使用者無需自行管理非同步邏輯;Harvey 表示,將輸入分散到 1,000 個容器後,其文件處理流程速度提升 10 倍。Suno 用它在上千個 GPU 上執行 GPU 加速的預處理,Achira 則依賴其重試機制來處理量子力學資料集。
Modal 升級其無伺服器 Dict 鍵值儲存:新建的 Dict 現在擁有無限儲存空間,而非先前的 10GiB 上限,項目到期時間改為自最後一次寫入或讀取起 7 天。.put() 新增 skip_if_exists 旗標,可實現分散式鎖定與「恰好一次」語義,且 Dict 現在提供資料持久性。這些變更僅適用於新建的 Dict。
Vapi 已推出與 GoHighLevel 日曆的直接整合,將其語音代理嵌入 GHL 排程流程。代理現在可以檢查已連接 GHL 日曆的即時可用性、根據來電者資訊建立聯絡人,並預約與正確聯絡人綁定的行程。設定方式與在 Vapi 中連接 Google 日曆相同,並新增四項工具:Create Event、Check Availability、Create Contact 和 Contact Get。
Modal 發布了 JavaScript 與 Go 官方 SDK 的 Alpha 版本,讓開發者能從 Node、Next.js 或 Go 服務呼叫已部署的 Modal Functions 並建立隔離沙箱,無需撰寫 Python。這些 SDK 無法部署函式,部署仍須使用 Python,且目前僅支援類 JSON 或 bytes 資料型別。Modal 表示,無論使用哪種語言,都能順暢執行 10,000 個沙箱。
Lemon Slice 打造了 Lemon Slice Live,這是一款能與 AI 角色進行即時視訊對話的產品,運用 Modal 和 Daily 的低延遲基礎元件,達到端到端視訊回應延遲 3-6 秒。此管線在各自獨立的 Modal 容器上執行 Pipecat 伺服器與 1B 參數的影片模型,兩者透過 Modal 的 Tunnel 通訊,並藉由區域選擇機制部署在同一區域;語音轉文字、LLM 回應與文字轉語音則分別由 Deepgram、Grok 和 ElevenLabs 處理。更早之前,兩個 Python Modal Functions 讓 Lemon Slice 得以擴展到每小時 10,000 次請求,而無需管理 ECS 叢集、工作佇列或負載平衡器。
Vapi 現已支援簡訊,讓其語音 AI 代理能在通話期間收發文字訊息。代理可即時回覆收到的簡訊、在對話中途從語音切換為文字,並執行全文字的流程;簡訊目前僅支援 Twilio。
Vapi 發布了 Vapi MCP Server,讓 AI 代理工具透過函式呼叫觸發即時語音流程與外撥電話。它支援 Claude Desktop 整合,並可透過 SSE 遠端存取,因此使用者能用自然語言請 Claude 撥打電話或安排後續追蹤。此伺服器可透過 @vapi-ai/mcp-server 取得,可在本機執行,或經由託管的 SSE 端點使用。
Modal 現在讓每個 Function 最多可排入 100 萬個輸入,高於原本的 2k,並提高 .spawn() 的速率上限,FunctionCall 結果保留 7 天。此次更新也新增了在容器內透過 app.run() 建立臨時應用程式、在 CLI 與儀表板中顯示應用程式的 Git commit 資訊,以及一個新的 TensorRT-LLM 範例,能以低於 400 毫秒的延遲提供 LLM 服務。
Modal 將 GPU、CPU 與記憶體價格調降最高達 65%,Team 方案用戶現在最多可同時執行 50 張 GPU。Modal SDK 從 0.73.46 版起已登上 conda-forge,並計畫推出 1.0 版客戶端。Modal 同時發布了 LTX-Video 圖生影片範例,並啟用新標誌。
Modal 推出了改版後的日誌儀表板,支援時間範圍輸入篩選、可即時對容器進行效能分析以偵錯卡住的容器或輸入,以及可在執行中的容器內執行 vim、ps、strace 等指令的 Debug Shells。區域選擇現已開放所有方案使用,定價以基礎價格乘上倍數計算,且用戶端新增了 OIDC 驗證,可透過新的 oidc_auth_role_arn 欄位掛載雲端儲存桶。