跳至正文
2025年12月23日星期二
  1. Replit Blog70

    Replit 透過 @replit 和 Replit Agent 在 ChatGPT 內推出應用程式建置功能

    Replit 現已進駐 ChatGPT,使用者可在任何訊息中標記 @replit,讓 Replit Agent 直接在對話中建立、更新及部署 Replit 應用程式。建置進度與互動式預覽會顯示在對話中,而新增深色模式或付款表單等每項請求都會即時更新應用程式,應用程式會儲存在使用者的 Replit 帳戶中,供日後發布。此整合功能需要 ChatGPT 帳戶(Free、Plus、Pro 或 Teams)和 Replit 帳戶,在 ChatGPT App Store 上架的地區均可使用,並會消耗 Replit Agent 額度。

    推薦理由:Replit 的 ChatGPT 整合功能讓使用者在對話中描述應用程式,並由 Replit Agent 完成建置、預覽及部署,全程無需離開對話。

2025年12月17日星期三
  1. Vapi Blog38

    Vapi Voices Beta 以每分鐘 $0.0025 推出,鎖定高用量語音 AI

    Vapi 發布 Vapi Voices Beta,這是一系列專為高用量、成本敏感的語音 AI 使用情境打造的語音模型,定價為每分鐘 $0.0025,延遲經過最佳化以符合對話式回應需求。這些模型出現在既有的語音下拉選單中,與 ElevenLabs、PlayHT 和 Deepgram 等供應商並列,因此團隊無須變更任何整合設定,就能將預約提醒與路由選單等高用量、低風險的流程導向這些模型。Vapi 表示,正式全面推出與否,取決於 Beta 使用情形所揭示的使用情境、真實負載下的延遲,以及節省的成本是否真的重要。

2025年12月2日星期二
  1. Modal Blog42

    Modal 為 Mistral 3 新增 Day 0 支援,並透過 GPU 快照技術將冷啟動速度提升 10 倍

    Modal 現已提供 Mistral 3 的 Day 0 支援,讓開發者能在無需管理基礎設施的情況下,於無伺服器 GPU 上部署這個開源模型系列。在 3B 的 Ministral 3 模型上,Modal 的 GPU 快照功能將中位冷啟動時間從約 118 秒縮短至約 12 秒,降幅接近 10 倍。Ministral 3 提供 3B、8B 和 14B 三種規模,在基準測試中與 Qwen 3-VL 系列表現相當。

2025年11月20日星期四
  1. Vapi Blog42

    Vapi 新增結構化輸出,可從語音 AI 通話中擷取符合結構定義的資料

    Vapi 現已為所有語音 AI 助理支援結構化輸出,確保每通通話都回傳符合開發者自訂 JSON 結構定義的資料。這些結構定義會在執行時透過 OpenAI、Anthropic、Gemini 等供應商的原生功能強制執行,並可重複使用於多個助理。擷取到的資料會透過通話完成 webhook 與 REST API 傳送。

  2. Replit Blog42

    Replit 推出 Fast Mode,讓 Agent 編輯更快、更便宜

    Replit 推出 Fast Mode,這是一種更快的方式,可指示其 Agent 進行小幅、精確的變更。它運行於一個高效的 agentic 模型上,比 Build mode 便宜得多,並經過最佳化,能以最少的步驟完成請求,針對快速修正、視覺迭代和小型功能。Fast Mode 從今天起對所有 Replit 使用者開放,並透過閃電圖示啟用。

2025年10月31日星期五
  1. Modal Blog22

    Modal 更新 Volumes v2、JavaScript 與 Go SDK 至 beta 版

    Modal 已為所有應用程式推出 Volumes v2 公開 beta 版,其檔案系統經過重建,可提供更高吞吐量、更快的隨機存取,以及數百個容器真正的高併發寫入,且儲存檔案數量不設上限。其 JavaScript/TypeScript 與 Go SDK 也進入 beta 版,版本為 v0.5,新增統一的 Client 物件,並支援 Sandboxes、Functions、Images 與 Volumes。

2025年10月30日星期四
  1. Modal Blog38

    Modal 與 Datalab:5 分鐘內部署 Marker 與 Surya 文件智慧工具

    Modal 與 Datalab 合作,讓開發者能在 5 分鐘內於 Modal GPU 上部署 Marker 文件解析模型與 Surya OCR 工具包。Marker 是參數量低於十億的模型,支援超過 90 種語言,在 Modal 上運行可達每容器每秒約 2.2 頁,約為 M4 Mac 使用 Apple MPS 時每秒 0.22 頁的 10 倍。Datalab 的工具對研究、個人使用,以及融資或營收低於 200 萬美元的初創公司維持免費,並提供商業授權。

2025年10月27日星期一
  1. Vapi Blog28

    Vapi 提供一週免費的 Cartesia Sonic-3 TTS

    Vapi 從 10 月 28 日至 11 月 2 日,透過其代管 API 金鑰,讓社群免費且無限制地使用 Cartesia 新推出的 Sonic-3 TTS 模型。Sonic-3 新增情緒與笑聲標籤、細緻的速度與音量控制,並支援 27 種新語言。Vapi 建議先從 Kira 和 Ariana 語音著手,以打造低延遲、聽起來自然的代理。

2025年9月22日星期一
  1. Modal Blog38

    Modal Vibe:建構於 Modal Sandboxes 的 AI 編碼平台,5 分鐘內可擴展至 1,000 個應用程式

    Modal 打造了 Modal Vibe,這是一個開源的 demo vibe coding 平台,建構於 Modal Sandboxes 之上,能在約五分鐘內從 0 擴展到 1,000 個 AI 編碼應用程式。一次建立 1,000 個應用程式的負載測試(每個應用程式都在各自的 Sandbox 中執行)耗時約 300 秒,其中 AI API 是速率限制的環節。Modal 表示,Team Plan 可執行 1,000 個並行 Sandbox,足以支撐每月超過一百萬次工作階段。

2025年9月19日星期五
  1. Modal Blog20

    Modal 產品更新:Notebooks、Sandbox 閒置逾時與用戶端變更

    Modal 發布產品更新,包括可用於雲端 Python 實驗、最高支援 8 張 B200 GPU 的 Modal Notebooks,以及 modal.Sandbox.create() 新增的選用 idle_timeout 參數。用戶端也為 @app.function() 與 @app.cls() 裝飾器新增 startup_timeout 參數,並推出以命令式管理 Modal 資源類型的新 API 模式。Modal Notebooks 其後已關閉,但現有 notebook 仍可下載為 .ipynb 檔案。

2025年9月9日星期二
  1. Modal Blog58

    Modal 推出 Notebooks,GPU 核心啟動時間低於 5 秒

    Modal Notebooks 在上個月限量測試後,現已全面開放給所有 Modal 客戶使用。這個協作式筆記本環境執行於支援 GPU 的 Python 核心上,在任意容器映像及最高 256 個 vCPU 與 8 張 H100/B200 GPU 的硬體配置下,不到 5 秒即可達到就緒狀態,並具備閒置自動關閉、共享 Volumes 與 Secrets,以及即時多游標編輯功能。Modal 表示,在 8 月的測試期間,超過 5,000 個帳號執行了 200,000 個程式碼儲存格,即將推出的功能包括記憶體快照、一鍵匯出至 Modal Apps,以及排程執行。

2025年8月11日星期一
  1. Modal Blog38

    Modal 產品更新:GPU 記憶體快照、Notebooks、服務權杖等更多功能

    Modal 以 alpha 版形式新增 GPU 記憶體快照,透過跳過 Torch 編譯等步驟,將 GPU 工作負載的冷啟動時間縮短 10 倍,可透過 enable_gpu_snapshot 選項啟用。此次更新還帶來 beta 版的 Modal Notebooks,可在瀏覽器中執行 Python;供工作區管理員使用的服務權杖;以及為已部署 Functions 提供的瀏覽器生成 UI。

2025年7月30日星期三
  1. Modal Blog60

    Modal 推出 GPU 記憶體快照,實現亞秒級無伺服器冷啟動

    Modal 宣布 GPU 記憶體快照進入 alpha 階段,將其既有的 checkpoint/restore 系統延伸至擷取 GPU vRAM、CUDA 核心、串流與上下文,讓 GPU 工作負載能從凍結狀態還原,而非在開機後重建 CUDA 狀態。

    推薦理由:Modal 將 GPU 狀態納入其記憶體快照,讓 torch.compile 與 vLLM 工作負載的冷啟動時間最多縮短 10 倍,並使 scale-to-zero 更為實用。

2025年7月11日星期五
  1. Modal Blog40

    Modal 產品更新:多節點訓練叢集、B200 與 H200 GPU,以及 Client 1.0

    Modal 已推出多節點訓練叢集 Beta 版,使用者只要加上 @clustered 裝飾器,就能跨多台主機取用數十個 GPU,並具備 3.2 Tbps Infiniband RDMA 互連,可達到近乎線性的擴展。該平台現在以無伺服器方式提供 NVIDIA B200 與 H200 GPU,價格分別為每小時 $6.25 與 $4.54,並宣稱 LLM 推論速度比 H100 快上 2-4 倍。Modal 同時發布 Client 1.0,強調 API 穩定性,另外還有唯讀 Volume 方法與 Cron 排程時區支援等更新。

2025年6月26日星期四
2025年6月9日星期一
  1. Modal Blog40

    Modal 1.0 發布:更穩定的 Python SDK,採用明確配置

    Modal 推出了其 Python SDK 客戶端的 1.0 版本,該公司稱這是一個里程碑,為其無伺服器雲端運算平台帶來了全新層次的成熟度與穩定性,預計未來破壞性變更將大幅減少。此版本移除了諸如自動掛載本地套件等「魔法」行為,將核心功能拆分到不同的裝飾器中,例如新的 @modal.concurrent,並將本地檔案處理整合到 modal.Image 類別之下。Modal 也計劃推出其他語言的 SDK,並正在探索該平台應如何服務 AI 驅動的代理工作流程。

2025年6月4日星期三
  1. Vapi Blog22

    11 個 ElevenLabs 替代方案:Vapi 原生 TTS 模型

    Vapi 現在提供 11 個內建文字轉語音模型,作為 ElevenLabs 的替代方案,包括 Neuphonic 的 Neu-hq 和 Neu-fast、Cartesia 的 Sonic 系列、Azure TTS、OpenAI TTS、Deepgram、Smallest AI 的 Lightning、LMNT、PlayHT、Hume 的 Octave 以及 Rime AI 的 Mist v2。開發者可以在幾分鐘內切換這些模型,無需重新編寫程式碼,Vapi 表示其透過這些模型每天處理超過一百萬通語音通話。

2025年5月30日星期五
  1. Modal Blog42

    Modal 新增 Nvidia B200 與 H200 GPU,每小時 6.25 美元與 4.54 美元

    Modal 現在向所有帳戶持有人提供 Nvidia B200 與 H200 GPU,無需聯繫業務或申請配額,價格分別為每小時 6.25 美元與 4.54 美元。B200 配備 180 GB 的 HBM3e 記憶體與 8 TB/s 頻寬,在 Modal 的 vLLM 測試中,以 8 位元精度執行 DeepSeek V3,8 張 B200 相較 8 張 H200 在每秒 1 次請求下,將中位數首字延遲縮短了 2.5 倍。

2025年5月23日星期五
  1. Vapi Blog18

    Narakeet:將文字轉為自然流暢的語音

    Narakeet 可將書面講稿轉換為逼真的旁白,提供橫跨 70 多種語言的 600 多種語音,並支援 140 多種語言和方言。該平台能讓旁白與 PowerPoint、Google Slides 和 Markdown 檔案同步,生成字幕和說明文字,並提供具備批次處理功能的開發者 API。方案每月約 5 美元起,並提供免費方案。

2025年5月22日星期四
  1. Modal Blog58

    Modal 推出 Batch,一行程式碼即可處理 100 萬個任務

    Modal 推出 Modal Batch,這是一個批次處理介面,背後是重建後的持久佇列,一次可排入 100 萬個輸入(原先為 2,000 個),並保證任務啟動後最多 7 天內仍會執行(原先為 1 天)。新的原生處理器 .spawn_map 可在一組輸入上啟動數千個容器,使用者無需自行管理非同步邏輯;Harvey 表示,將輸入分散到 1,000 個容器後,其文件處理流程速度提升 10 倍。Suno 用它在上千個 GPU 上執行 GPU 加速的預處理,Achira 則依賴其重試機制來處理量子力學資料集。

2025年5月20日星期二
  1. Modal Blog34

    Modal 將無伺服器 KV 儲存 Dict 的儲存上限提升至無限,並新增鎖定功能

    Modal 升級其無伺服器 Dict 鍵值儲存:新建的 Dict 現在擁有無限儲存空間,而非先前的 10GiB 上限,項目到期時間改為自最後一次寫入或讀取起 7 天。.put() 新增 skip_if_exists 旗標,可實現分散式鎖定與「恰好一次」語義,且 Dict 現在提供資料持久性。這些變更僅適用於新建的 Dict。

  2. Vapi Blog22

    Vapi 將 GoHighLevel 日曆整合至其語音代理

    Vapi 已推出與 GoHighLevel 日曆的直接整合,將其語音代理嵌入 GHL 排程流程。代理現在可以檢查已連接 GHL 日曆的即時可用性、根據來電者資訊建立聯絡人,並預約與正確聯絡人綁定的行程。設定方式與在 Vapi 中連接 Google 日曆相同,並新增四項工具:Create Event、Check Availability、Create Contact 和 Contact Get。

2025年4月30日星期三
  1. Modal Blog38

    Modal 推出 JavaScript 與 Go 的 Alpha 版 SDK

    Modal 發布了 JavaScript 與 Go 官方 SDK 的 Alpha 版本,讓開發者能從 Node、Next.js 或 Go 服務呼叫已部署的 Modal Functions 並建立隔離沙箱,無需撰寫 Python。這些 SDK 無法部署函式,部署仍須使用 Python,且目前僅支援類 JSON 或 bytes 資料型別。Modal 表示,無論使用哪種語言,都能順暢執行 10,000 個沙箱。

2025年4月24日星期四
  1. Modal Blog22

    Lemon Slice 如何用 Modal 和 Daily 打造即時生成式影片

    Lemon Slice 打造了 Lemon Slice Live,這是一款能與 AI 角色進行即時視訊對話的產品,運用 Modal 和 Daily 的低延遲基礎元件,達到端到端視訊回應延遲 3-6 秒。此管線在各自獨立的 Modal 容器上執行 Pipecat 伺服器與 1B 參數的影片模型,兩者透過 Modal 的 Tunnel 通訊,並藉由區域選擇機制部署在同一區域;語音轉文字、LLM 回應與文字轉語音則分別由 Deepgram、Grok 和 ElevenLabs 處理。更早之前,兩個 Python Modal Functions 讓 Lemon Slice 得以擴展到每小時 10,000 次請求,而無需管理 ECS 叢集、工作佇列或負載平衡器。

2025年4月22日星期二
2025年4月18日星期五
  1. Vapi Blog40

    Vapi 推出 MCP Server,可從 Claude Desktop 和 Cursor 控制語音代理

    Vapi 發布了 Vapi MCP Server,讓 AI 代理工具透過函式呼叫觸發即時語音流程與外撥電話。它支援 Claude Desktop 整合,並可透過 SSE 遠端存取,因此使用者能用自然語言請 Claude 撥打電話或安排後續追蹤。此伺服器可透過 @vapi-ai/mcp-server 取得,可在本機執行,或經由託管的 SSE 端點使用。

2025年4月17日星期四
  1. Modal Blog25

    Modal 產品更新:100 萬輸入的批次任務、臨時應用程式,以及 TensorRT-LLM 範例

    Modal 現在讓每個 Function 最多可排入 100 萬個輸入,高於原本的 2k,並提高 .spawn() 的速率上限,FunctionCall 結果保留 7 天。此次更新也新增了在容器內透過 app.run() 建立臨時應用程式、在 CLI 與儀表板中顯示應用程式的 Git commit 資訊,以及一個新的 TensorRT-LLM 範例,能以低於 400 毫秒的延遲提供 LLM 服務。

2025年3月17日星期一
2025年2月14日星期五
  1. Modal Blog22

    Modal 產品更新:Logs v2、即時容器效能分析,以及所有方案皆可選擇區域

    Modal 推出了改版後的日誌儀表板,支援時間範圍輸入篩選、可即時對容器進行效能分析以偵錯卡住的容器或輸入,以及可在執行中的容器內執行 vim、ps、strace 等指令的 Debug Shells。區域選擇現已開放所有方案使用,定價以基礎價格乘上倍數計算,且用戶端新增了 OIDC 驗證,可透過新的 oidc_auth_role_arn 欄位掛載雲端儲存桶。

2025年1月28日星期二
  1. Modal Blog62

    Modal 加入記憶體快照,將無伺服器冷啟動加快 2.5 倍

    Modal 為其無伺服器 GPU 容器執行環境推出記憶體快照還原功能,並表示這能讓冷啟動比標準容器啟動快約 2.5 倍。一個通常需要約 13 秒的 Stable Diffusion 推論 Function,現在只需 3.5 秒即可還原;而一個簡單的 import torch 程式,則從約 5 秒降至 p50 約 1.05 秒、p0 約 0.69 秒。快照建構於 gVisor 的 checkpoint/restore 之上,並依需求建立;當還原失敗時,會自動退回標準容器啟動。GPU 狀態目前尚未被儲存,因此還原後必須重建。

    推薦理由:Modal 說明以 gVisor 為基礎的記憶體快照如何縮短無伺服器冷啟動,並提供 Stable Diffusion Function 與 torch import 範例的具體還原時間。

2025年1月21日星期二
  1. Modal Blog20

    Modal 產品更新:L40S GPU、代理驗證權杖與沙箱磁碟快照

    Modal 現在提供 NVIDIA L40S GPU,價格為每小時 1.95 美元,具備 48GB 記憶體,在記憶體密集型任務上效能提升最高達 40%,在運算密集型工作上相較其 A10 GPU 加速超過 100%。該平台還新增了用於管控網頁端點的 Proxy Auth 權杖、供沙箱使用的 Filesystem API,以及磁碟快照功能,讓使用者能從快照分支新的沙箱執行個體,以消除冷啟動。Modal 另外宣布已完成 SOC 2 Type 2 認證。

  2. Modal Blog58

    Modal Sandboxes 正式可用,為 LLM 與使用者程式碼提供隔離執行環境

    Modal 宣布 Sandboxes 正式可用,這是其基礎元件,可在與其他 Modal 資源分離的隔離環境中,安全執行來自 LLM、使用者或第三方來源的不受信任程式碼。Sandboxes 提供簡單的 exec API、可透過 Image API 在執行時配置的環境,以及用於持久化的檔案系統快照。Modal 也將支援上游整合進 SWE-bench,其中 --modal 旗標可讓 Verified 基準測試的 500 項任務在大約 7 分鐘內執行完畢,並引用 Quora 的 Poe、Codegen 和 Relevance AI 作為客戶。

2024年12月28日星期六
  1. Modal Blog22

    Modal 產品更新:更快的記憶體快照、OIDC、非同步任務佇列

    Modal 發布了一輪產品更新,重點是對其 beta 版記憶體快照功能的重大升級,聲稱可將 Stable Diffusion 等模型的冷啟動時間縮短一半。該平台還新增了對 OpenID Connect 的支援,用於短效身分權杖;新增 eStargz 映像壓縮,以加快從 ECR 和 Docker Hub 等登錄檔建置的速度;並正在擴展非同步任務佇列,將輸入上限從 2k 提升至 100 萬。

2024年12月19日星期四
  1. Modal Blog25

    Modal 新增 NVIDIA L40S GPU,AI 推論每小時 1.95 美元

    Modal 現在以每小時 1.95 美元的價格向所有使用者提供 NVIDIA L40S GPU,定位為其最受歡迎的推論加速器 A10 的更快、記憶體更大的替代方案。L40S 將 GPU 記憶體加倍至 48GB,讓 Flux.1-schnell 等模型能在單一 GPU 上以 16 位元精度運行,並在記憶體受限的工作上帶來約 40% 的加速,在運算受限的 16 位元 Tensor Core 工作上加速超過 100%。

2024年11月8日星期五
  1. Modal Blog22

    Modal 產品更新:靜態 IP 代理、Slack 整合、即時用量儀表板與 GPU 備援

    Modal 推出了靜態 IP 代理,可將對外流量導向工作區專屬的 IP,另外還推出原生 Slack 整合以提供應用程式即時警示,以及可追蹤所有工作區應用程式資源的即時用量儀表板。此次更新也為函式新增了 GPU 備援,擴大了函式可被排程的資源池,並包含用戶端變更,例如 `modal shell` 容器 ID 以及參數化函式的記憶體快照。

2024年9月16日星期一
2024年9月6日星期五
  1. Modal Blog22

    Modal 產品更新:應用程式回滾、動態批次處理、沙箱通道與 OpenTelemetry

    Modal 推出了應用程式回滾功能,讓使用者能從儀表板或 CLI 將已部署的應用程式還原至先前的版本,另外還有一個 @batched 裝飾器,可將請求累積成動態大小的批次,以延遲換取吞吐量和 GPU 使用率。Sandbox 物件現在可以將 TCP 連接埠轉發到網際網路並執行額外的程序,日誌也可以匯出到 OpenTelemetry 供應商。CPU 核心和更高階的 GPU 也變得更便宜了。

2024年9月2日星期一
  1. Cursor Changelog58

    Cursor 詳解用於背景 AI 程式碼迭代的 Shadow Workspace

    Cursor 實作了一個 shadow workspace,讓其 AI 能在隱藏的 Electron 視窗中套用編輯並讀回 lint 結果,而不會影響使用者的編輯工作階段。文章概述了 LSP 可用性、獨立性、隱私、並行性與速度等設計目標,並說明為何複製 TextModel 或執行獨立的語言伺服器都行不通。文章也勾勒了未來用於可執行性的核心層級資料夾代理,並指出 macOS 與 Windows 缺乏可行的 FUSE 途徑,且 Rust LSP 支援目前尚不可用。

2024年7月9日星期二
  1. Modal Blog22

    Modal 產品更新:Datadog 整合、區域選擇、更低的函式延遲

    Modal 的每月產品更新新增了 Datadog 整合,可一鍵轉發應用程式與稽核日誌,並為函式提供雲端區域選擇,以滿足法規、出口成本或資料庫鄰近性的需求。該公司也重新設計了函式呼叫系統,以更高的輸送量和顯著更低的額外負擔為目標,針對低延遲的即時生產工作負載,並徹底改造了應用程式詳細資料頁面,加入時間區間縮放、容器狀態和映像檔檔案系統檢視。

2024年5月7日星期二
  1. Modal Blog18

    Modal 產品更新:雲端儲存桶掛載、Okta SSO 等更多功能

    Modal 的每月產品更新新增了 AWS S3 和 Cloudflare R2 儲存桶的可寫入掛載、用於在指定連接埠上託管非 ASGI/WSGI 網頁伺服器的 @web_server 裝飾器,以及為企業方案使用者提供的 Okta 單一登入。網頁儀表板中的磁碟區檢視器讓使用者能夠瀏覽磁碟區檔案系統,而最新用戶端則新增了透過 .include 進行多檔案應用程式組合、分割佇列,以及 Sandboxes 的 stdin 支援。