跳至正文
2025年7月7日星期一
  1. Modal Blog28

    Modal 如何在一個週末支撐 25 萬個 Lovable 應用程式創作

    Lovable 在 2025 年 6 月與 Anthropic、OpenAI 和 Google 合作的促銷週末期間,使用 Modal Sandboxes 執行程式碼生成式 LLM 所產生的程式碼,讓使用者在 48 小時內建構了估計 25 萬個應用程式。Modal 執行了超過 100 萬個沙箱,尖峰時最多同時執行 2 萬個,而 Lovable 的並行工作階段激增 2.5 至 3 倍,其平台團隊一次都沒有被呼叫。Lovable 改用 Modal 後,將其沙箱協調程式碼從 15,000 行減少到 700 行。

2025年6月30日星期一
2025年6月26日星期四
2025年6月18日星期三
  1. Vapi Blog18

    房地產經紀人運用 AI 的五種方式

    一份指南概述了房地產經紀人運用 AI 的五種方式,包括以 Vapi 打造、能全天候接聽電話、篩選潛在客戶並預約看房的語音代理。指南也涵蓋以 ChatGPT 和 Canva 自動化內容製作,以及 HouseCanary、CoreLogic 等 AI 定價工具,這些工具能產出附帶信心分數的估值。

2025年6月5日星期四
  1. Vapi Blog22

    GPT-4.1 對決 Claude 3.7 Sonnet:哪個 AI 能提供更好的語音代理?

    Vapi 比較 GPT-4.1 與 Claude 3.7 Sonnet 作為語音代理背後的大型語言模型,權衡對話品質、上下文處理、推理透明度、平台整合與成本。GPT-4.1 提供 1,000,000 個 token 的上下文視窗與 32,768 個 token 的輸出,並有 75% 的快取折扣;Claude 3.7 則提供 200,000 個 token 的上下文與 128,000 個 token 的輸出。兩款模型皆可在 Vapi 的語音代理平台上選用。

2025年6月4日星期三
  1. Vapi Blog22

    語音 AI 改善物流的三個實例

    Vapi 概述了物流領域的三個語音 AI 應用案例:ShipEX 在 350 輛卡車上運用語音智慧,將維護警報與事故報告進行路由;愛達荷州酒類管理局的語音揀貨系統將揀貨率提升 35%;維護技術人員透過語音記錄問題,自動建立 CMMS 工單。文章還詳細介紹了與 TMS、CRM 和 WMS 系統的 API 整合及部署考量。

2025年5月29日星期四
  1. Vapi Blog25

    為語音 AI 選擇 Gemini 模型

    Vapi 說明如何在四款 Gemini 模型中為語音代理做選擇:Gemini 1.0 Pro 適合可預測、符合法規的流程,輸入每百萬 token 0.50 美元、輸出 2.00 美元;Gemini 1.5 Flash 適合高吞吐量工作,具備 100 萬 token 上下文視窗;Gemini 1.5 Pro 適合深度推理,具備 200 萬 token 視窗與 99.7% 長上下文檢索準確率;Gemini 2.0 Flash 則支援原生工具呼叫。

2025年5月23日星期五
  1. Vapi Blog8

    精通 Vapi 語音 AI 整合的環境變數

    Vapi 的指南說明如何為其語音 AI 整合設定環境變數,涵蓋臨時與永久變數,以及使用者層級與系統層級變數。文中詳細介紹在 Windows、macOS 與 Linux 上的設定方式,並附上 VAPI_API_KEY、VAPI_MULTILINGUAL_SUPPORT 等 Vapi 專屬範例,以及命名與安全最佳實務,例如絕不將 API 金鑰寫死在程式碼中。

2025年5月22日星期四
  1. Modal Blog58

    Modal 推出 Batch,一行程式碼即可處理 100 萬個任務

    Modal 推出 Modal Batch,這是一個批次處理介面,背後是重建後的持久佇列,一次可排入 100 萬個輸入(原先為 2,000 個),並保證任務啟動後最多 7 天內仍會執行(原先為 1 天)。新的原生處理器 .spawn_map 可在一組輸入上啟動數千個容器,使用者無需自行管理非同步邏輯;Harvey 表示,將輸入分散到 1,000 個容器後,其文件處理流程速度提升 10 倍。Suno 用它在上千個 GPU 上執行 GPU 加速的預處理,Achira 則依賴其重試機制來處理量子力學資料集。

2025年5月20日星期二
  1. Vapi Blog22

    Vapi 將 GoHighLevel 日曆整合至其語音代理

    Vapi 已推出與 GoHighLevel 日曆的直接整合,將其語音代理嵌入 GHL 排程流程。代理現在可以檢查已連接 GHL 日曆的即時可用性、根據來電者資訊建立聯絡人,並預約與正確聯絡人綁定的行程。設定方式與在 Vapi 中連接 Google 日曆相同,並新增四項工具:Create Event、Check Availability、Create Contact 和 Contact Get。

2025年4月24日星期四
  1. Modal Blog22

    Lemon Slice 如何用 Modal 和 Daily 打造即時生成式影片

    Lemon Slice 打造了 Lemon Slice Live,這是一款能與 AI 角色進行即時視訊對話的產品,運用 Modal 和 Daily 的低延遲基礎元件,達到端到端視訊回應延遲 3-6 秒。此管線在各自獨立的 Modal 容器上執行 Pipecat 伺服器與 1B 參數的影片模型,兩者透過 Modal 的 Tunnel 通訊,並藉由區域選擇機制部署在同一區域;語音轉文字、LLM 回應與文字轉語音則分別由 Deepgram、Grok 和 ElevenLabs 處理。更早之前,兩個 Python Modal Functions 讓 Lemon Slice 得以擴展到每小時 10,000 次請求,而無需管理 ECS 叢集、工作佇列或負載平衡器。

2025年4月18日星期五
  1. Modal Blog22

    sync. 如何運用 Modal 每天對 100 小時影片進行唇形同步

    sync. 正運用 Modal 每天對超過 100 小時的影片進行唇形同步,將長影片切割成多個場景,在 n 個 T4 GPU 容器上執行人臉偵測與翻譯,再將每個場景交由 A100 上專有的 LipSync GenAI 模型處理。該團隊每天部署多達 95 次,並在脫離 Google Colab 原型與 AWS Lambda 後,於一年內將 10 個主要模型變體推上正式環境。

  2. Vapi Blog40

    Vapi 推出 MCP Server,可從 Claude Desktop 和 Cursor 控制語音代理

    Vapi 發布了 Vapi MCP Server,讓 AI 代理工具透過函式呼叫觸發即時語音流程與外撥電話。它支援 Claude Desktop 整合,並可透過 SSE 遠端存取,因此使用者能用自然語言請 Claude 撥打電話或安排後續追蹤。此伺服器可透過 @vapi-ai/mcp-server 取得,可在本機執行,或經由託管的 SSE 端點使用。

2025年4月17日星期四
  1. Modal Blog25

    Modal 產品更新:100 萬輸入的批次任務、臨時應用程式,以及 TensorRT-LLM 範例

    Modal 現在讓每個 Function 最多可排入 100 萬個輸入,高於原本的 2k,並提高 .spawn() 的速率上限,FunctionCall 結果保留 7 天。此次更新也新增了在容器內透過 app.run() 建立臨時應用程式、在 CLI 與儀表板中顯示應用程式的 Git commit 資訊,以及一個新的 TensorRT-LLM 範例,能以低於 400 毫秒的延遲提供 LLM 服務。

2025年4月1日星期二
  1. Vapi Blog20

    以 Vapi 語音 AI 代理擴展客戶接待:顧問案例研究

    GSD at Work 的顧問 Christian Ulstrup 使用 Vapi 語音 AI 代理,為他的 AI Action Sessions 工作坊以非同步語音接待系統取代預約探索通話。參與者可在方便時撥打專屬的 Vapi 電話線,逐字稿與 AI 生成的摘要會透過 Zapier 流入 Slack,並記錄在 HubSpot 中。針對近期一位客戶,全球 20 位參與者貢獻了超過 3 小時的探索內容,該場次獲得 5 分(滿分 5 分)的評價。

2025年3月6日星期四
  1. Vapi Blog20

    AI 客服中心如何改變客戶支援

    AI 客服中心正在重塑客戶支援,將例行來電從漫長等待縮短為幾秒內解決,例如一通停電查詢在 30 秒內處理完畢。Gartner 估計,到 2027 年約有 25% 的客戶服務互動將涉及 AI,高於 2022 年的 2%;該市場到 2027-2028 年規模將達 150-200 億美元,年複合成長率約 25-30%。文章涵蓋傳統客服中心的痛點,如回應緩慢、尖峰時段爆量與服務時間有限,以及 AI 自動化如何應對這些問題。

2025年1月21日星期二
  1. Modal Blog58

    Modal Sandboxes 正式可用,為 LLM 與使用者程式碼提供隔離執行環境

    Modal 宣布 Sandboxes 正式可用,這是其基礎元件,可在與其他 Modal 資源分離的隔離環境中,安全執行來自 LLM、使用者或第三方來源的不受信任程式碼。Sandboxes 提供簡單的 exec API、可透過 Image API 在執行時配置的環境,以及用於持久化的檔案系統快照。Modal 也將支援上游整合進 SWE-bench,其中 --modal 旗標可讓 Verified 基準測試的 500 項任務在大約 7 分鐘內執行完畢,並引用 Quora 的 Poe、Codegen 和 Relevance AI 作為客戶。

2024年12月10日星期二
  1. Modal Blog22

    Modal 內部黑客松:Browserman、Glodal 等基於 Modal 打造的專案

    Modal 舉辦了一場內部黑客松,30 名員工組成 13 支隊伍,打造的所有專案都使用了 Modal。Browserman 是一個多模態 AI 代理,以 Llama-3.2-90B-Vision-Instruct-FP8、vLLM 和 Playwright 構建,能透過視覺化方式瀏覽網頁以完成任務。Glodal 則原型化了一個分散式控制平面,將請求延遲從 268ms 降至 3ms,Modal 目前正著手將其整合進平台中。

2024年11月12日星期二
  1. Cursor Changelog58

    Supermaven 加入 Cursor,團隊重心轉向 Cursor 編輯器

    Cursor 宣布,快速且具情境感知能力的 AI 編碼助理 Supermaven 將加入該公司,Supermaven 創作者 Jacob Jackson 及其團隊也將一同加入。Cursor 表示,計畫推出新版 Tab 模型,速度快、具情境感知能力,且特別擅長處理大型編輯的長鏈條,而 Supermaven 外掛將持續維護,即使 Cursor 已成為團隊的核心重心。

2024年11月8日星期五
  1. Modal Blog22

    Modal 產品更新:靜態 IP 代理、Slack 整合、即時用量儀表板與 GPU 備援

    Modal 推出了靜態 IP 代理,可將對外流量導向工作區專屬的 IP,另外還推出原生 Slack 整合以提供應用程式即時警示,以及可追蹤所有工作區應用程式資源的即時用量儀表板。此次更新也為函式新增了 GPU 備援,擴大了函式可被排程的資源池,並包含用戶端變更,例如 `modal shell` 容器 ID 以及參數化函式的記憶體快照。

2024年9月6日星期五
  1. Modal Blog22

    Modal 產品更新:應用程式回滾、動態批次處理、沙箱通道與 OpenTelemetry

    Modal 推出了應用程式回滾功能,讓使用者能從儀表板或 CLI 將已部署的應用程式還原至先前的版本,另外還有一個 @batched 裝飾器,可將請求累積成動態大小的批次,以延遲換取吞吐量和 GPU 使用率。Sandbox 物件現在可以將 TCP 連接埠轉發到網際網路並執行額外的程序,日誌也可以匯出到 OpenTelemetry 供應商。CPU 核心和更高階的 GPU 也變得更便宜了。

2024年8月23日星期五
  1. Cursor Changelog62

    Cursor 完成 6000 萬美元 A 輪融資,投資方包括 Andreessen Horowitz、Thrive Capital 和 OpenAI

    Cursor 完成 6000 萬美元 A 輪融資,投資方包括 Andreessen Horowitz、Thrive Capital、OpenAI、Jeff Dean、Noam Brown,以及 Stripe、GitHub、Ramp、Perplexity 和 OpenAI 的創辦人。這款 AI 程式設計工具表示,其用戶已增長至超過 40,000 名,涵蓋新創公司、研究機構和大型企業,並介紹了用於下一次編輯預測、跨數十億檔案檢索以及推測性推理程式碼重寫的內部系統。

    推薦理由:Cursor 的 6000 萬美元 A 輪融資公告同時披露其用戶群已增長至超過 40,000 名,並列出了支持其 AI 程式設計工具的投資者。

2024年7月3日星期三
  1. Modal Blog30

    競爭性提示工程:Basis 在 Modal 上舉辦提示奧林匹克

    Basis 舉辦了提示奧林匹克(Prompt Olympics),這是一場競爭性程式設計風格的提示工程競賽,獎金 5,000 美元,並在 Modal 的基礎設施上運行。在其中一項挑戰中,參賽者撰寫提示來引導部署在 Modal 上的 LLaMA 3 70B 生成程式碼,這些程式碼必須通過 Modal Sandboxes 內的測試。決賽則讓參賽者透過提示來控制 Crafter 遊戲代理;Basis 發現,即使是像 LLaMA 3 70B 這樣能力不錯的開源模型,也很難有效地對其進行提示,因此該組件改用專有模型 API。

2024年6月20日星期四
  1. Modal Blog25

    從 Airflow 使用 Modal 執行 GPU 任務

    Modal 現在可以直接從 Airflow DAG 觸發,讓團隊無需設置 Celery 或 Kubernetes executor 即可執行由 GPU 支援的 AI/ML 任務。本指南涵蓋在 Airflow 環境中安裝 Modal、設置 MODAL_TOKEN_ID 與 MODAL_TOKEN_SECRET,以及兩種方法:透過 lookup 呼叫已部署的 Modal Functions,或建立自訂 operator 在 Modal Sandboxes 中執行 Python。Modal Airflow provider 套件正在開發中。

2024年5月26日星期日
  1. Cursor Changelog40

    Cursor 勾勒下一階段 AI 編程難題:動作預測、完美編輯、最佳上下文

    Cursor 發布了其最初「Problems」文章的後續,列出它認為對下一階段 AI 編程最關鍵的研究問題。該公司已將 Copilot++ 擴展到預測下一個游標位置,並將其與下一次編輯預測結合,讓模型能夠「演奏」低熵變更序列——一個演示需要按 11 次 Tab 鍵,而其他每個鍵按 3 次,Cursor 稱之為 Cursor Flow。其他方向包括跨代碼庫的動作預測、透過更多推理時計算實現完美編輯、幻覺偽代碼、多檔案編輯、最佳上下文、多跳上下文,以及錯誤偵測與除錯。

2024年5月23日星期四
  1. Modal Blog22

    Hunch 如何運用 Modal Sandboxes 安全執行 AI 生成的程式碼

    Hunch 是一個空間畫布,整合了 OpenAI GPT-4o、Anthropic Claude 3 Opus 和 Stable Diffusion 3 等模型,並使用 Modal Sandboxes 在隔離的臨時容器中安全執行 AI 生成的程式碼。此整合僅需幾行 Python 程式碼,並支援 pip 安裝、附加儲存磁碟區和自動擴展。Hunch 表示,這套設定讓非程式設計人員也能建立工作流程,用以擷取 API 資料或將結果傳送至 Slack webhooks。

2023年10月13日星期五
  1. Cursor Changelog38

    Cursor 的問題清單:更好的上下文、編輯 Copilot、受約束的代理

    Cursor 公布了一份它正在處理的問題清單,包括訓練一個自訂的快速重排序器,將所有來源的 500k 個 token 過濾到每次請求最相關的 8k。該清單還涵蓋一個面向編輯的 copilot、針對大型程式碼庫的受約束流程內代理、錯誤尋找,以及更大規模的編輯。截至 2023 年 10 月 12 日,Cursor 已索引 1.4B 個向量和 150k 個程式碼庫。

2023年6月12日星期一
  1. Cursor Changelog38

    Cursor 的 Arvid Lunnemark 談為何 prompting 應稱為 prompt design

    Cursor 研究員 Arvid Lunnemark 主張,prompting 應稱為「prompt design」,並與網頁設計相提並論,因為兩者都追求與動態輸入進行清晰溝通,且都必須讓內容配合不同的「尺寸」——網頁對應螢幕尺寸,prompt 對應上下文視窗。他發布了 Priompt v0.1,這是一個類似 React、以 JSX 為基礎的 prompt 設計函式庫,已在 Cursor 內部使用,並附有預覽網站,可依據真實請求資料渲染 prompt。