跳至正文
6月17日星期三
  1. Vapi Blog40

    Vapi 如何用程式碼無痛啟動 15 個首頁語音代理

    Vapi 打造了首頁上的 15 個語音代理——涵蓋 5 種語言的 3 個使用案例——做法是從單一 ROUGH_DRAFT.md 檔案生成,而非在儀表板中逐一手動編輯。這套四階段框架(規劃、草擬、啟動、強化)會搭建一個 TypeScript 專案,使用 temperature 設為 0.5 的 OpenAI gpt-4.1、ElevenLabs 與 Deepgram/Soniox 語音堆疊,以及一個冪等的 upsert 迴圈,將 assistant ID 存入 .env.local。該儲存庫已公開:複製它、加入 VAPI_PRIVATE_KEY,然後執行 bun run bootstrap。

6月15日星期一
  1. Modal Blog34

    Modal 產品更新:VM 沙箱、區域路由、RBAC 等更多功能

    Modal 發布了一系列平台更新,包括 alpha 版的 VM 沙箱,可執行真實的 Linux 核心,以支援 Docker 容器、eBPF、systemd 和 cgroups。Functions 現在可以透過美國西部、歐洲西部或亞太南部進行路由,而非預設的美國東部區域,且 RBAC 已開放給所有 Team 和 Enterprise 方案使用。沙箱就緒探針現已正式推出,而 Python SDK 1.5.0 和 JS/Go SDK 0.8.0 將預設快照 TTL 設為 30 天。

6月11日星期四
  1. Modal Blog34

    Modal 讓 FlashAttention-4 在 LLM 推論上更快

    Modal 為 FlashAttention-4 核心貢獻了多項最佳化,以加速以解碼為主的 LLM 推論工作負載,這類工作負載的瓶頸在於記憶體頻寬。這些變更包括將「split KV」平行化技術移植到 FA4,並以 cp.async 取代 TMA cp.async.bulk 載入,以處理不規則的記憶體存取。一個 FP8 輸入 PR(於 2026 年 4 月 17 日合併)相較於 bf16 基準可提供最高 1.16 倍的吞吐量,並可啟用更小的 KV 快取。

  2. Factory62

    Factory 在 Droid 中推出自動化安全審查

    Factory 正在 Droid 中推出自動化安全審查,該功能會在每個非草稿 PR 上,於標準程式碼審查之外執行基於 STRIDE 的安全審查,並以行內留言的形式在 diff 上張貼發現,包含嚴重程度、CWE 參照、說明與建議修正。該公司表示,Droid 的安全審查已在生產程式碼庫中執行,並揭露了經過負責任揭露流程的發現,包括 external-secrets 中的 CVE-2026-42876 以及 workos/workos-node#1578。Droid 會為變更範圍建立輕量威脅模型,掃描 OWASP Top 10 與 OWASP LLM Top 10 等漏洞,接著對照 diff 驗證每個候選發現以過濾誤報,最後每個 PR 只張貼一則去重後的摘要。

    推薦理由:Factory 的 Droid 現在會在每個非草稿 PR 上執行基於 STRIDE 的安全審查,而該文章展示了它在生產程式碼庫中揭露的真實 CVE。

6月1日星期一
5月27日星期三
  1. MiniMax Blog72

    MiniMax 將 Agent 升級為 Mavis,並推出 Agent Teams 處理長時間任務

    MiniMax 將 MiniMax Agent 升級並更名為 Mavis,同時推出 Agent Teams,讓多個角色分工的 Agent 在桌面上並行處理長時間、複雜的任務。該系統採用 Leader、Worker 與 Verifier 三種角色,搭配狀態機式 Team Engine,讓任務在 producing、verifying 與 done 之間循環,並將 TokenPlan 與 Agent Plan 合併為單一訂閱,涵蓋 CLI、API 與 Agent,橫跨 M2.7、音樂、影片與語音。MiniMax 表示該 Agent 即將開源,預計與 MiniMax M3 模型一同推出,而桌面應用程式已經上線。

    推薦理由:MiniMax 說明了其 Leader-Worker-Verifier Agent Team 背後的設計取捨,包括交接、共享與聚合成本,為建構多 Agent 執行環境提供了具體參考。

  2. Modal Blog38

    Modal 向所有 Team 與 Enterprise 使用者開放角色型存取控制

    Modal 讓所有 Team 與 Enterprise 方案的使用者都能使用角色型存取控制(RBAC),並以 Environments 作為可強制執行的安全邊界。受限的 Environments 預設讓工作區成員為唯讀,只有被明確授權的使用者或代理能部署與管理資源,而 RBAC 也與稽核日誌整合,完整記錄誰在何時做了什麼。

5月21日星期四
  1. Vapi Blog20

    Vapi:將語音 AI 帶入 ACCESS 慢性病照護小組

    Vapi 主張,語音 AI 如今能讓語音成為 ACCESS 慢性病管理中在經濟上可行的管道,並引用 Hiya 的數據指出,42% 的消費者偏好以語音進行醫療保健溝通,高於前一年的 33%。該文章詳細介紹了三套正式上線的工作流程,其中包括 Spring Venture Group 的聯邦醫療保險潛在客戶資格審核代理,該代理由四名工程師在一週內打造完成,將轉換成交率提升了 3%,並帶來超過 580 萬美元的合計節省與新增營收。

5月20日星期三
5月19日星期二
  1. Modal Blog55

    Modal 推出與 Claude Managed Agents 的一流 Sandboxes 整合

    Modal 宣布 Modal Sandboxes 與 Anthropic 的 Claude Managed Agents 之間的一流整合,讓所有工具呼叫都在自架的 Modal Sandbox 中執行,同時由 Anthropic 的託管代理迴圈處理工作階段狀態。Modal 提到自訂映像的快速冷啟動、快照與磁碟區持久化、無閒置成本的爆量定價、短效連線權杖,以及每位客戶最高可達 100,000 個並行沙箱。該公司也在同一套 Modal 加 Managed Agents 骨幹上發布了兩個參考範例:一個 CLI 代理和一個 Slack 機器人。

5月15日星期五
5月12日星期二
  1. Modal Blog58

    Modal 如何實現真正的無伺服器 GPU

    Modal 發表了一篇工程文章,說明他們如何將 AI 推論副本的啟動時間從約 2,000 秒縮短到約 50 秒,方法包含四個元件:閒置健康 GPU 的緩衝池、名為 ImageFS 的延遲內容定址檔案系統、透過 gVisor 的 runsc 進行主機端檢查點/還原,以及建構在 Nvidia 驅動程式支援上的 CUDA 檢查點/還原。在超過一萬次冷啟動中,對於 bf16 格式的約 1 GiB Qwen 3 0.6B 模型,vLLM 的平均啟動延遲從 95,679 毫秒降至 13,797 毫秒,SGLang 則從 83,713 毫秒降至 17,486 毫秒。文章也指出了一些限制,包括快照僅支援單一 GPU,以及主機環境的敏感性要求每次部署需準備多個快照。

5月8日星期五
  1. Berkeley AI Research38

    自適應平行推理:高效推理擴展綜述

    柏克萊人工智慧研究的一篇綜述探討自適應平行推理,其中推理模型本身決定何時分解子任務、要生成多少個並行執行緒,以及如何協調它們。該文章將此與固定平行方法進行對比,例如自洽性、Best-of-N、思維樹、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference,這些方法從外部強加平行結構。順序推理在 token 和延遲上呈線性擴展,並有上下文腐化的風險,這促使人們採用獨立且並行探索的平行執行緒。

5月4日星期一
5月1日星期五
  1. Vapi Blog34

    開放式堆疊 vs 整合式解決方案:語音 AI 開發者的關鍵考量

    Vapi Blog 專訪 Cartesia 的 Iz Shalom,探討在整合式與開放模組化語音 AI 堆疊之間如何選擇。整合式堆疊適合範圍較窄的使用情境與快速的概念驗證,而開放式堆疊則適合多種使用情境、多語言支援,以及替換元件。文章呼籲團隊在自己的環境中測量 P99 延遲,並在進入生產環境前建立嚴謹的評估機制。

4月29日星期三
  1. Modal Blog33

    在 Modal 上打造強化學習定理證明工作流程

    AE Studio 詳細說明如何在 Modal 上以強化學習訓練大型語言模型證明數學定理,在保持訓練迴圈固定的前提下比較演化策略與 GRPO。此設置在 GPU 上執行 vLLM 推論、於隔離的 CPU 沙箱中進行 Lean 編譯器驗證,並搭配輕量級協調器,使用逐函式映像、.map() 扇出,以及 Volumes 來存放基礎權重。

4月23日星期四
  1. Factory55

    Factory 推出自動化 QA 技能,能像真實使用者一樣測試應用程式,並在 PR 中回報結果

    Factory 發布了一項自動化 QA 技能,能像真實使用者一樣操作應用程式,填寫表單、在終端機中輸入指令並呼叫端點,接著將包含截圖、終端機快照與 API 追蹤紀錄的結構化報告,以單一留言的形式發布在每個 pull request 上。此技能透過 Droid 在每次推送時執行,可設定為由 PR 標籤、留言指令或手動觸發的選用 CI 檢查,也能在任何 Droid 工作階段中透過 /qa 在本機使用。設定時使用 /install-qa,此功能即日起在所有 Factory 方案中提供。

4月22日星期三
  1. Replit Blog22

    Replit 榮獲 2026 年 Google Cloud 年度最佳 AI 工具合作夥伴獎

    Google Cloud 將 Replit 評選為 2026 年度最佳 AI 工具合作夥伴,肯定這個平台目前已有超過 5,000 萬人使用,涵蓋 85% 的《財星》500 大企業。此獎項是在 Replit 推出 Agent 4 之後頒發,該公司表示 Agent 4 比 Agent 3 快 10 倍,並可平行執行多個代理。Replit 已在 Google Cloud Marketplace 上架,並與 Cloud Run、Kubernetes Engine 和 BigQuery 整合。

4月20日星期一
  1. Berkeley AI Research38

    GRASP:針對世界模型的長程梯度式規劃

    GRASP 是一種針對學習式世界模型的新型梯度式規劃器,透過將軌跡提升至虛擬狀態以進行時間平行優化、在狀態迭代中加入隨機性以促進探索,以及重塑梯度使動作獲得乾淨訊號,同時避免透過高維視覺模型產生脆弱的狀態輸入梯度,讓長程規劃變得實用。此研究解決了使長程規劃脆弱的病態計算圖、非貪婪局部極小值及高維潛在失效模式等問題。此工作與 Mike Rabbat、Aditi Krishnapriyan、Yann LeCun 及 Amir Bar 共同完成。

4月17日星期五
  1. OpenAI Developers Blog60

    OpenAI 發布 GPT-6 工作負載的 API 部署檢查清單

    OpenAI 發布了一份 API 部署檢查清單,引導開發者將工作負載遷移到 Responses API 與 GPT-6 模型系列,包括 gpt-6-astra、gpt-6.1-sol、gpt-6 Sol 和 gpt-6 Luna。該指南涵蓋從 low 到 max 的 reasoning.effort 等級、text.verbosity、搭配延遲工具載入的 tool_search、Programmatic Tool Calling、Multi-agent、compaction、prompt caching 以及 WebSocket 模式;OpenAI 表示,對於工具呼叫達 20 次以上的工作流程,WebSocket 模式已展現出端到端執行速度最高約提升 40%。指南也詳細說明可靠性與安全步驟,例如處理 429 與 503 錯誤、以 background=True 處理長時間任務、safety_identifier 以及 misalignment 監控。

    推薦理由:OpenAI 的官方部署檢查清單將模型選擇、推理強度、工具搜尋、compaction 與 WebSocket 模式整合為一份 GPT-6 工作負載的遷移指南。

4月15日星期三
  1. Modal Blog58

    Modal 與 OpenAI Agents SDK:以沙箱與 GPU 打造平行編碼代理框架

    Modal 發布了一篇教學,說明如何在 OpenAI 今日推出的 OpenAI Agents SDK 之上打造自訂的編碼代理框架,並使用 Modal Sandboxes 為代理提供隔離的 Linux 環境與 GPU。該指南從一個以 exec 為基礎的最小代理開始,接著加入用於記憶的 session、用於平行非同步工作的協調器與子代理池、GPU 配額、用來去重複設定流程的檔案系統快照,以及技能子系統,最後完成一個能在平行 GPU 子代理上執行 OpenAI Parameter Golf 挑戰的框架。Modal 引用了 Ramp 在 Modal 上運行的背景編碼代理艦隊,並表示該艦隊目前產出該公司超過一半的 PR。

4月14日星期二
  1. Vapi Blog27

    Vapi 工程師分享在企業級規模部署語音 AI 的經驗教訓

    Vapi 的前置部署工程師表示,從示範到正式上線之間的落差,正是多數企業語音 AI 計畫停滯的地方,這需要大量測試、防護機制,以及以意圖為基礎的設計,而非精確片語比對。團隊警告會出現「人格漂移」,也就是代理會採用來電者的說話風格,並指出 LLM 具有非確定性,因此部署需要界定容錯範圍並持續迭代。他們建議從成本最佳化著手,但以創造營收為目標,並將良好的互動基準訂在不到一分鐘。

  2. Modal Blog40

    Modal 自動擴展 Autoresearch:為 AI 研究代理提供彈性 GPU

    Modal 展示在彈性 GPU 上執行 autoresearch 代理:在提供 Modal Skills 的情況下,Claude Code 針對 OpenAI 的 Parameter Golf 挑戰執行了 113 次實驗,共耗費 238 GPU 小時,完成核心訓練執行的速度比單一工作站快 5 倍,同時只使用專用叢集資源的一小部分。代理透過 API 呼叫配置 GPU,可從一個 H100 自動擴展到數十個,再縮回零。

4月10日星期五
  1. Modal Blog38

    Butter 被 Modal 收購,創辦人 Erik Dunteman 加入 Sandbox 團隊

    Modal 已收購 Butter,創辦人 Erik Dunteman 與研究員 Raymond Tana 加入 Modal 的 Sandbox 團隊。Butter 團隊帶來代理程式框架工程經驗,包括 bVisor——一個以 Zig 從零撰寫的虛擬 Linux 核心,用於輕量、短暫的沙箱。Modal 表示,此次延攬推進了其讓 Modal Sandboxes 成為同類最佳產品體驗的目標。

4月8日星期三
  1. Modal Blog40

    Modal 為 Physical Intelligence 機器人提供即時推論能力

    Physical Intelligence(Pi)在 Modal 上運行其視覺-語言-動作機器人模型,僅增加約 10-15ms 的網路開銷。Pi 與 Modal 合作,在 UDP 上建置了基於 QUIC 的入口,具備自動 NAT 穿透,取代 TCP Tunnels,以避免機器人控制迴路中的請求-回應停滯。儲存在 Modal Volumes 中的檢查點可在 30 秒內載入,而區域鎖定的部署讓推論維持在機器人附近。

4月7日星期二
  1. Modal Blog22

    Modal 產品更新:RTX Pro 6000 Blackwell、Command K、Sandbox FS API

    Modal 現已提供 NVIDIA 的 RTX Pro 6000 Blackwell,具備 96GB 視訊記憶體與強勁的 fp4/fp8 輸送量,只需一行程式碼即可用於推論與微調工作負載。此次更新還新增了儀表板命令面板(CMD+K)、改版後的 Sandbox 檔案系統 API(Beta 版,支援最高 5GB 的讀取與雙向串流),以及可擷取歷史紀錄的 CLI 日誌命令。

3月26日星期四
  1. Modal Blog38

    Runway 與 Modal 合作,為 Runway Characters 提供即時推論能力

    Runway 正與 Modal 合作,為 Runway Characters 提供即時推論能力。Runway Characters 是一套即時影片代理 API,建構於 Runway 的 GWM-1 世界模型之上,能從單一影像生成富有表現力的數位人物,且無需任何微調。Modal 的無伺服器平台讓 Runway 在不到 30 天內從概念驗證推進到正式上線,並在每個區域使用具備 RDMA 網路的單行多節點 GPU 叢集。Characters 現已於 dev.runwayml.com 向開發者與企業開放,並於 runwayml.com 向一般消費者提供。

3月25日星期三
3月20日星期五
  1. Vapi Blog38

    Vapi 網路研討會解答關於 Composer 語音代理建置器的熱門問題

    Vapi 舉辦了一場網路研討會,由首席產品經理 Nick Robin 示範 Composer,這是其產品內建的助理,可用於無程式碼建置語音代理,並在 30 分鐘的示範中產出一個可運作的來電客戶服務代理。Composer 會撰寫系統提示、配置電話號碼、設定排程,並標記自身的錯誤以供核准。它目前處於 alpha 階段,支援來電與去電助理、CRM 與行事曆整合,以及依助理 ID 編輯現有代理。

3月4日星期三
  1. Modal Blog22

    Modal 產品更新:目錄快照、GLM-5 端點與帳務 API

    Modal 為 Sandbox 新增目錄快照(Directory Snapshots),讓使用者可對單一目錄建立快照,並獨立於基礎映像檔掛載至新的 Sandbox。Modal 亦與 Z.ai 合作推出免費公開的 GLM-5 端點,提供至四月底,相容於 OpenCode、Claude Code、OpenClaw 與 Vercel AI SDK。modal 帳務報告 CLI 與 modal.billing.workspace_billing_report API 現已正式推出,適用於 Team 與 Enterprise 工作區。

2月25日星期三
  1. Vapi Blog35

    Vapi 推出 Skills 與 MCP Connector,讓編碼代理能建構語音代理

    Vapi 發布了 Vapi Skills,這是一個遵循 Agent Skills 標準的儲存庫,另有一個 Model Context Protocol 連接器,讓編碼代理能即時存取 Vapi 的文件。只需一個安裝指令,即可載入附有確切 API schema 的逐步指示,涵蓋 create-assistant、create-tool、create-call 與 setup-webhook 等工作流程,且此技能包可在 Claude Code、Cursor、VS Code Copilot 與 Gemini CLI 上執行。

  2. Modal Blog22

    Modal 部落格:Modal 如何加速加速 AI 研究的 AI 研究

    Modal 是一個針對資料與運算密集型 AI 工作負載的雲端基礎設施平台,重點介紹了 Hazy Research、Scaling Intelligence 和 IRIS 的研究,這些研究利用其 GPU 機群來加速 AI 研究。由 Scaling Intelligence 的 Anne Ouyang、Simon Guo 和 Will Hu 領導的 KernelBench 專案,提供了一個包含 250 個問題的基準與研究環境,用於自動化 GPU 核心生成,並使用 Modal 在從 L40s 到 Blackwell 系統的硬體上進行一致、可擴展的基準測試。

2月24日星期二
  1. Modal Blog55

    Modal 推出 Directory Snapshots 公開測試版,用於 Sandbox 專案狀態

    Modal 推出 Directory Snapshots 公開測試版,讓使用者能對執行中的 Sandbox 內特定目錄建立快照,並將其掛載到另一個 Sandbox,不受基礎映像檔與檔案系統其餘部分影響。此功能鎖定需要在 Sandbox 重啟後保留專案狀態的 coding agents 與 vibe coding 平台;Modal 表示,這能將系統相依性與應用程式碼分離、預先暖機 Sandbox 池,並更快預載關鍵檔案。Directory Snapshots 在最後一次使用後保留 30 天,且能瞬間掛載,其內容在 Modal 的延遲載入容器檔案系統上會優先預載。

2月19日星期四
  1. Modal Blog58

    Ramp 如何在 Modal 上打造 Ramp Inspect,一個具備完整上下文的背景編碼代理

    Ramp 打造了 Ramp Inspect,一個在 Modal Sandboxes 上運行的內部背景編碼代理,如今 Ramp 前端與後端儲存庫中約有一半已合併的拉取請求由它發起。每個工作階段都能在數秒內啟動包含 Postgres、Redis、Temporal 與 RabbitMQ 的全端環境,因為一個 Modal cron 作業每 30 分鐘會複製儲存庫並儲存檔案系統快照。Modal Functions、Dicts 與 Queues 負責處理快照建置、工作階段鎖定與提示路由,讓 Inspect 得以支援多人工作階段與數百個並行工作階段,且彼此互不影響。

2月11日星期三
  1. Vapi Blog55

    Vapi 推出 Composer,一款能在儀表板內打造語音代理的 AI 助理

    Vapi 推出了 Composer,這是一款內建於 Vapi 儀表板的 AI 助理,能依據描述打造語音代理,負責撰寫提示詞、配置設定、開通電話號碼、建置工具並設定整合。Composer 還能調用通話紀錄來解釋失敗的通話並套用修正,並生成在 Vapi 基礎設施上執行的自訂程式碼工具,用於 HubSpot 等整合。此功能現已以 Alpha 版本推出,無需設定或引導流程。

1月28日星期三
  1. Modal Blog22

    Modal 產品更新:AWS 與 GCP Marketplace 上架、Sandbox 可觀測性,以及用戶端更新

    Modal 現在可透過 AWS 和 Google Cloud Marketplaces 購買,讓企業客戶能將既有的雲端支出承諾用於 Modal 的使用。該平台也推出了 Sandbox UI 更新,提供更清楚的資源與區域詳細資訊,以及新的執行時間軸;用戶端 1.3.1 新增對 Python 3.14 的支援,包括在 Modal 容器中實驗性的 free-threaded Python(3.14t)。

1月26日星期一
  1. Charlie O'Neill38

    持續學習與後單體式 AI 時代

    持續學習與專業化密不可分,因為記憶的成本會隨範圍擴大而增加:隨著上下文增長,KV 快取會線性增長,甚至可能超過所有模型權重,因此資訊必須從 token 層級移入權重之中。任務專業化基本上已透過持續微調流程解決,而廣泛範圍、稀疏回饋、一次性保留仍是困難的問題。

1月20日星期二
  1. Factory58

    Factory 推出 Agent Readiness,為程式碼庫對 AI 編碼代理的支援程度評分

    Factory 推出 Agent Readiness,從八個技術支柱與五個成熟度等級評估程式碼庫對自主開發的支援程度,可透過 Droid 中的 /readiness-report、組織儀表板或 API 執行。每項標準皆為二元判定,唯有當某等級 80% 的標準及所有先前等級皆通過時,該等級才會解鎖;將每次評估建立於儲存庫先前的報告之上,使 9 個基準儲存庫在六週內的評分變異從平均 7% 降至 0.6%。報告可觸發代理開啟拉取請求,以修正未通過的標準,例如缺少 AGENTS.md、linter 設定或 pre-commit hooks。