跳至正文
6月17日星期三
  1. Vapi Blog40

    Vapi 如何用程式碼無痛啟動 15 個首頁語音代理

    Vapi 打造了首頁上的 15 個語音代理——涵蓋 5 種語言的 3 個使用案例——做法是從單一 ROUGH_DRAFT.md 檔案生成,而非在儀表板中逐一手動編輯。這套四階段框架(規劃、草擬、啟動、強化)會搭建一個 TypeScript 專案,使用 temperature 設為 0.5 的 OpenAI gpt-4.1、ElevenLabs 與 Deepgram/Soniox 語音堆疊,以及一個冪等的 upsert 迴圈,將 assistant ID 存入 .env.local。該儲存庫已公開:複製它、加入 VAPI_PRIVATE_KEY,然後執行 bun run bootstrap。

6月15日星期一
  1. Modal Blog34

    Modal 產品更新:VM 沙箱、區域路由、RBAC 等更多功能

    Modal 發布了一系列平台更新,包括 alpha 版的 VM 沙箱,可執行真實的 Linux 核心,以支援 Docker 容器、eBPF、systemd 和 cgroups。Functions 現在可以透過美國西部、歐洲西部或亞太南部進行路由,而非預設的美國東部區域,且 RBAC 已開放給所有 Team 和 Enterprise 方案使用。沙箱就緒探針現已正式推出,而 Python SDK 1.5.0 和 JS/Go SDK 0.8.0 將預設快照 TTL 設為 30 天。

6月11日星期四
  1. Modal Blog34

    Modal 讓 FlashAttention-4 在 LLM 推論上更快

    Modal 為 FlashAttention-4 核心貢獻了多項最佳化,以加速以解碼為主的 LLM 推論工作負載,這類工作負載的瓶頸在於記憶體頻寬。這些變更包括將「split KV」平行化技術移植到 FA4,並以 cp.async 取代 TMA cp.async.bulk 載入,以處理不規則的記憶體存取。一個 FP8 輸入 PR(於 2026 年 4 月 17 日合併)相較於 bf16 基準可提供最高 1.16 倍的吞吐量,並可啟用更小的 KV 快取。

  2. Factory62

    Factory 在 Droid 中推出自動化安全審查

    Factory 正在 Droid 中推出自動化安全審查,該功能會在每個非草稿 PR 上,於標準程式碼審查之外執行基於 STRIDE 的安全審查,並以行內留言的形式在 diff 上張貼發現,包含嚴重程度、CWE 參照、說明與建議修正。該公司表示,Droid 的安全審查已在生產程式碼庫中執行,並揭露了經過負責任揭露流程的發現,包括 external-secrets 中的 CVE-2026-42876 以及 workos/workos-node#1578。Droid 會為變更範圍建立輕量威脅模型,掃描 OWASP Top 10 與 OWASP LLM Top 10 等漏洞,接著對照 diff 驗證每個候選發現以過濾誤報,最後每個 PR 只張貼一則去重後的摘要。

    推薦理由:Factory 的 Droid 現在會在每個非草稿 PR 上執行基於 STRIDE 的安全審查,而該文章展示了它在生產程式碼庫中揭露的真實 CVE。

6月9日星期二
  1. MiniMax Blog58

    MiniMax 詳解 MaxProof:生成式驗證器強化學習與演化搜尋用於數學證明

    MiniMax 發布技術部落格,說明 MaxProof 框架,該框架支撐 M3 在 IMO 2025 與 USAMO 2026 上超越人類金牌門檻。此流程訓練三個專家模型,分別負責證明生成、錯誤判斷與證明修復,接著執行演化式測試時搜尋,取樣 32 個候選、每個驗證 4 次,並最多精煉 10 輪。MiniMax 表示關鍵教訓是:生成式驗證器作為強化學習獎勵時,應優先降低偽陽性而非追求平均準確率,並引用 M2-cycle 獎勵駭客案例,其中偽陽性率在訓練期間從約 2.9% 升至 8.0%。

6月1日星期一
  1. MiniMax Blog87

    MiniMax M3 發布,具備 1M 上下文、前沿編碼與原生多模態能力

    MiniMax 發布 M3,這是一款開放權重模型,該公司稱其為首個結合前沿編碼與代理能力、1M token 上下文窗口,以及原生圖像與影片輸入的模型。M3 採用 MiniMax 新的 MSA 稀疏注意力架構,該公司報告稱,此架構在 1M 上下文下將每 token 計算量降至前一代的 1/20,並將預填充速度提升逾 9 倍、解碼速度提升逾 15 倍。它在 SWE-Bench Pro 上得分 59.0%、在 Terminal-Bench 2.1 上得分 66.0%、在 MCP Atlas 上得分 74.2%,並可透過 MiniMax Code、Token Plan 與 API 使用,權重與技術報告承諾在 10 天內發布。

    推薦理由:MiniMax M3 將 1M token 上下文、前沿編碼與代理得分,以及原生圖像與影片輸入結合於一個開放權重模型中,並以 MSA 在長上下文下降低每 token 計算量。

5月27日星期三
  1. MiniMax Blog72

    MiniMax 將 Agent 升級為 Mavis,並推出 Agent Teams 處理長時間任務

    MiniMax 將 MiniMax Agent 升級並更名為 Mavis,同時推出 Agent Teams,讓多個角色分工的 Agent 在桌面上並行處理長時間、複雜的任務。該系統採用 Leader、Worker 與 Verifier 三種角色,搭配狀態機式 Team Engine,讓任務在 producing、verifying 與 done 之間循環,並將 TokenPlan 與 Agent Plan 合併為單一訂閱,涵蓋 CLI、API 與 Agent,橫跨 M2.7、音樂、影片與語音。MiniMax 表示該 Agent 即將開源,預計與 MiniMax M3 模型一同推出,而桌面應用程式已經上線。

    推薦理由:MiniMax 說明了其 Leader-Worker-Verifier Agent Team 背後的設計取捨,包括交接、共享與聚合成本,為建構多 Agent 執行環境提供了具體參考。

  2. Modal Blog38

    Modal 向所有 Team 與 Enterprise 使用者開放角色型存取控制

    Modal 讓所有 Team 與 Enterprise 方案的使用者都能使用角色型存取控制(RBAC),並以 Environments 作為可強制執行的安全邊界。受限的 Environments 預設讓工作區成員為唯讀,只有被明確授權的使用者或代理能部署與管理資源,而 RBAC 也與稽核日誌整合,完整記錄誰在何時做了什麼。

5月21日星期四
  1. Vapi Blog20

    Vapi:將語音 AI 帶入 ACCESS 慢性病照護小組

    Vapi 主張,語音 AI 如今能讓語音成為 ACCESS 慢性病管理中在經濟上可行的管道,並引用 Hiya 的數據指出,42% 的消費者偏好以語音進行醫療保健溝通,高於前一年的 33%。該文章詳細介紹了三套正式上線的工作流程,其中包括 Spring Venture Group 的聯邦醫療保險潛在客戶資格審核代理,該代理由四名工程師在一週內打造完成,將轉換成交率提升了 3%,並帶來超過 580 萬美元的合計節省與新增營收。

  2. Modal Blog58

    Modal 以 46.5 億美元估值完成 3.55 億美元 C 輪融資

    Modal 以 46.5 億美元投後估值完成 3.55 億美元融資,本輪由 General Catalyst 和 Redpoint 領投,Menlo、Bain Capital Ventures 和 Accel 作為新股東加入。該公司表示,自 9 月以來已成長五倍,年化營收突破 3 億美元,平台上已啟動超過 10 億個沙箱,沙箱目前貢獻超過三分之一的營收。Modal 計劃擴展低延遲推理、打通強化學習的訓練與推理閉環,並新增細粒度 RBAC,讓客戶能夠安全地賦予代理能力。

5月20日星期三
5月19日星期二
  1. Modal Blog55

    Modal 推出與 Claude Managed Agents 的一流 Sandboxes 整合

    Modal 宣布 Modal Sandboxes 與 Anthropic 的 Claude Managed Agents 之間的一流整合,讓所有工具呼叫都在自架的 Modal Sandbox 中執行,同時由 Anthropic 的託管代理迴圈處理工作階段狀態。Modal 提到自訂映像的快速冷啟動、快照與磁碟區持久化、無閒置成本的爆量定價、短效連線權杖,以及每位客戶最高可達 100,000 個並行沙箱。該公司也在同一套 Modal 加 Managed Agents 骨幹上發布了兩個參考範例:一個 CLI 代理和一個 Slack 機器人。

5月12日星期二
  1. Modal Blog58

    Modal 如何實現真正的無伺服器 GPU

    Modal 發表了一篇工程文章,說明他們如何將 AI 推論副本的啟動時間從約 2,000 秒縮短到約 50 秒,方法包含四個元件:閒置健康 GPU 的緩衝池、名為 ImageFS 的延遲內容定址檔案系統、透過 gVisor 的 runsc 進行主機端檢查點/還原,以及建構在 Nvidia 驅動程式支援上的 CUDA 檢查點/還原。在超過一萬次冷啟動中,對於 bf16 格式的約 1 GiB Qwen 3 0.6B 模型,vLLM 的平均啟動延遲從 95,679 毫秒降至 13,797 毫秒,SGLang 則從 83,713 毫秒降至 17,486 毫秒。文章也指出了一些限制,包括快照僅支援單一 GPU,以及主機環境的敏感性要求每次部署需準備多個快照。

  2. Vapi Blog50

    Vapi 完成 5000 萬美元 B 輪融資,其語音代理通話量突破 10 億次

    Vapi 宣布完成由 Peak XV 領投的 5000 萬美元 B 輪融資,YC、M12、Kleiner Perkins 及早期投資者參與,總融資額達到 7200 萬美元。此輪融資之前的一年裡,Vapi 的企業營收成長了 10 倍,其語音代理處理的通話量突破 1,000,000,000 次。Vapi 表示,Amazon Ring 在兩週內從評估階段轉為在其平台上運行 100% 的來電,且 CSAT 有所提升。

5月8日星期五
  1. Berkeley AI Research38

    自適應平行推理:高效推理擴展綜述

    柏克萊人工智慧研究的一篇綜述探討自適應平行推理,其中推理模型本身決定何時分解子任務、要生成多少個並行執行緒,以及如何協調它們。該文章將此與固定平行方法進行對比,例如自洽性、Best-of-N、思維樹、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference,這些方法從外部強加平行結構。順序推理在 token 和延遲上呈線性擴展,並有上下文腐化的風險,這促使人們採用獨立且並行探索的平行執行緒。

5月5日星期二
  1. OpenAI Developers Blog50

    OpenAI 語音代理即時提示指南

    OpenAI 發布了一份語音代理的即時提示指南,涵蓋 Realtime 2 推理、前置語、工具與精確實體擷取。該指南說明如何建構提示,讓即時語音代理在處理推理與工具使用的同時,精確擷取實體。

5月4日星期一
5月1日星期五
  1. Vapi Blog34

    開放式堆疊 vs 整合式解決方案:語音 AI 開發者的關鍵考量

    Vapi Blog 專訪 Cartesia 的 Iz Shalom,探討在整合式與開放模組化語音 AI 堆疊之間如何選擇。整合式堆疊適合範圍較窄的使用情境與快速的概念驗證,而開放式堆疊則適合多種使用情境、多語言支援,以及替換元件。文章呼籲團隊在自己的環境中測量 P99 延遲,並在進入生產環境前建立嚴謹的評估機制。

4月30日星期四
  1. OpenAI Developers Blog47

    適用於 ChatGPT 和 Codex 的 OpenAI Developers 外掛程式

    OpenAI 發布了一款 Developers 外掛程式,讓 ChatGPT 和 Codex 能夠存取 OpenAI API Platform 與 API 設定指引,並針對 Claude Code 和 Cursor 進行了調整,捆綁了可攜式開發者技能與公開的 OpenAI Docs MCP 伺服器。它涵蓋 API 金鑰設定、使用 Agents SDK 建置應用程式、將 API 遷移至 Responses API,以及疑難排解常見的 API 故障。

4月29日星期三
  1. Factory58

    Factory 對 13 個模型進行程式碼審查基準測試,發現 GPT-5.2 最佳、MiniMax M2.7 最便宜

    Factory 建立了一個開源基準測試,以來自 Sentry、Grafana、Keycloak、Discourse 和 Cal.com 的 50 個真實 pull request 測試 13 個模型,每個模型都以高推理強度對每個 PR 至少審查三次,並由 LLM 評審依據人工策劃的黃金標準集對發現進行評分。GPT-5.2 以 60.5% F1、每個 PR 1.25 美元領先,領先 Claude Opus 4.6 的 59.8% F1 和每個 PR 3.11 美元,而 MiniMax M2.7 以每個 PR 0.15 美元達到 45.6% F1,Kimi K2.5 以 0.41 美元達到 51.9% F1。Factory 表示成本僅解釋約 21% 的品質變異,並開源了黃金標準集、評估腳本以及支援全部 13 個模型的 Droid Action GitHub Action。

  2. Modal Blog33

    在 Modal 上打造強化學習定理證明工作流程

    AE Studio 詳細說明如何在 Modal 上以強化學習訓練大型語言模型證明數學定理,在保持訓練迴圈固定的前提下比較演化策略與 GRPO。此設置在 GPU 上執行 vLLM 推論、於隔離的 CPU 沙箱中進行 Lean 編譯器驗證,並搭配輕量級協調器,使用逐函式映像、.map() 扇出,以及 Volumes 來存放基礎權重。

4月23日星期四
  1. Factory55

    Factory 推出自動化 QA 技能,能像真實使用者一樣測試應用程式,並在 PR 中回報結果

    Factory 發布了一項自動化 QA 技能,能像真實使用者一樣操作應用程式,填寫表單、在終端機中輸入指令並呼叫端點,接著將包含截圖、終端機快照與 API 追蹤紀錄的結構化報告,以單一留言的形式發布在每個 pull request 上。此技能透過 Droid 在每次推送時執行,可設定為由 PR 標籤、留言指令或手動觸發的選用 CI 檢查,也能在任何 Droid 工作階段中透過 /qa 在本機使用。設定時使用 /install-qa,此功能即日起在所有 Factory 方案中提供。

4月22日星期三
  1. Replit Blog22

    Replit 榮獲 2026 年 Google Cloud 年度最佳 AI 工具合作夥伴獎

    Google Cloud 將 Replit 評選為 2026 年度最佳 AI 工具合作夥伴,肯定這個平台目前已有超過 5,000 萬人使用,涵蓋 85% 的《財星》500 大企業。此獎項是在 Replit 推出 Agent 4 之後頒發,該公司表示 Agent 4 比 Agent 3 快 10 倍,並可平行執行多個代理。Replit 已在 Google Cloud Marketplace 上架,並與 Cloud Run、Kubernetes Engine 和 BigQuery 整合。

4月20日星期一
  1. Berkeley AI Research38

    GRASP:針對世界模型的長程梯度式規劃

    GRASP 是一種針對學習式世界模型的新型梯度式規劃器,透過將軌跡提升至虛擬狀態以進行時間平行優化、在狀態迭代中加入隨機性以促進探索,以及重塑梯度使動作獲得乾淨訊號,同時避免透過高維視覺模型產生脆弱的狀態輸入梯度,讓長程規劃變得實用。此研究解決了使長程規劃脆弱的病態計算圖、非貪婪局部極小值及高維潛在失效模式等問題。此工作與 Mike Rabbat、Aditi Krishnapriyan、Yann LeCun 及 Amir Bar 共同完成。

4月17日星期五
  1. OpenAI Developers Blog60

    OpenAI 發布 GPT-6 工作負載的 API 部署檢查清單

    OpenAI 發布了一份 API 部署檢查清單,引導開發者將工作負載遷移到 Responses API 與 GPT-6 模型系列,包括 gpt-6-astra、gpt-6.1-sol、gpt-6 Sol 和 gpt-6 Luna。該指南涵蓋從 low 到 max 的 reasoning.effort 等級、text.verbosity、搭配延遲工具載入的 tool_search、Programmatic Tool Calling、Multi-agent、compaction、prompt caching 以及 WebSocket 模式;OpenAI 表示,對於工具呼叫達 20 次以上的工作流程,WebSocket 模式已展現出端到端執行速度最高約提升 40%。指南也詳細說明可靠性與安全步驟,例如處理 429 與 503 錯誤、以 background=True 處理長時間任務、safety_identifier 以及 misalignment 監控。

    推薦理由:OpenAI 的官方部署檢查清單將模型選擇、推理強度、工具搜尋、compaction 與 WebSocket 模式整合為一份 GPT-6 工作負載的遷移指南。

4月16日星期四
  1. OpenAI Developers Blog60

    OpenAI Codex 應用程式更新擴展至工具、應用程式與自動化

    OpenAI 發布了 Codex 應用程式新更新的概述,旨在跨工具、應用程式、自動化及其他開發者工作流程運作。該內容僅為簡短摘要,因此未描述具體功能、版本與可用性細節。

    推薦理由:OpenAI 概述了 Codex 應用程式的更新,將此編碼代理擴展至工具、應用程式與自動化,顯示其範圍正從程式碼生成向外擴大。

4月15日星期三
  1. Modal Blog58

    Modal 與 OpenAI Agents SDK:以沙箱與 GPU 打造平行編碼代理框架

    Modal 發布了一篇教學,說明如何在 OpenAI 今日推出的 OpenAI Agents SDK 之上打造自訂的編碼代理框架,並使用 Modal Sandboxes 為代理提供隔離的 Linux 環境與 GPU。該指南從一個以 exec 為基礎的最小代理開始,接著加入用於記憶的 session、用於平行非同步工作的協調器與子代理池、GPU 配額、用來去重複設定流程的檔案系統快照,以及技能子系統,最後完成一個能在平行 GPU 子代理上執行 OpenAI Parameter Golf 挑戰的框架。Modal 引用了 Ramp 在 Modal 上運行的背景編碼代理艦隊,並表示該艦隊目前產出該公司超過一半的 PR。

4月14日星期二
  1. Vapi Blog18

    Vapi 產品副總裁:基礎功對打造差異化 AI 產品比以往更重要

    Vapi 產品管理副總裁 Nathalie Criou 在 HumanX 座談會上與 Salesforce、Databricks 和 TinyFish 同台表示,AI 是放大而非取代領域專業與判斷力等基礎功。她說,Vapi 的平台建立在數百萬次真實世界的語音互動之上,能累積單次訓練無法複製的組織記憶。座談小組認為,搶先進入市場這類淺薄的護城河正在消退,而信任、轉換成本和獨特的互動資料則以更快的速度複利累積。

  2. Vapi Blog27

    Vapi 工程師分享在企業級規模部署語音 AI 的經驗教訓

    Vapi 的前置部署工程師表示,從示範到正式上線之間的落差,正是多數企業語音 AI 計畫停滯的地方,這需要大量測試、防護機制,以及以意圖為基礎的設計,而非精確片語比對。團隊警告會出現「人格漂移」,也就是代理會採用來電者的說話風格,並指出 LLM 具有非確定性,因此部署需要界定容錯範圍並持續迭代。他們建議從成本最佳化著手,但以創造營收為目標,並將良好的互動基準訂在不到一分鐘。

  3. Modal Blog40

    Modal 自動擴展 Autoresearch:為 AI 研究代理提供彈性 GPU

    Modal 展示在彈性 GPU 上執行 autoresearch 代理:在提供 Modal Skills 的情況下,Claude Code 針對 OpenAI 的 Parameter Golf 挑戰執行了 113 次實驗,共耗費 238 GPU 小時,完成核心訓練執行的速度比單一工作站快 5 倍,同時只使用專用叢集資源的一小部分。代理透過 API 呼叫配置 GPU,可從一個 H100 自動擴展到數十個,再縮回零。

4月10日星期五
  1. Modal Blog38

    Butter 被 Modal 收購,創辦人 Erik Dunteman 加入 Sandbox 團隊

    Modal 已收購 Butter,創辦人 Erik Dunteman 與研究員 Raymond Tana 加入 Modal 的 Sandbox 團隊。Butter 團隊帶來代理程式框架工程經驗,包括 bVisor——一個以 Zig 從零撰寫的虛擬 Linux 核心,用於輕量、短暫的沙箱。Modal 表示,此次延攬推進了其讓 Modal Sandboxes 成為同類最佳產品體驗的目標。

4月8日星期三
  1. Modal Blog40

    Modal 為 Physical Intelligence 機器人提供即時推論能力

    Physical Intelligence(Pi)在 Modal 上運行其視覺-語言-動作機器人模型,僅增加約 10-15ms 的網路開銷。Pi 與 Modal 合作,在 UDP 上建置了基於 QUIC 的入口,具備自動 NAT 穿透,取代 TCP Tunnels,以避免機器人控制迴路中的請求-回應停滯。儲存在 Modal Volumes 中的檢查點可在 30 秒內載入,而區域鎖定的部署讓推論維持在機器人附近。

4月7日星期二
  1. Modal Blog22

    Modal 產品更新:RTX Pro 6000 Blackwell、Command K、Sandbox FS API

    Modal 現已提供 NVIDIA 的 RTX Pro 6000 Blackwell,具備 96GB 視訊記憶體與強勁的 fp4/fp8 輸送量,只需一行程式碼即可用於推論與微調工作負載。此次更新還新增了儀表板命令面板(CMD+K)、改版後的 Sandbox 檔案系統 API(Beta 版,支援最高 5GB 的讀取與雙向串流),以及可擷取歷史紀錄的 CLI 日誌命令。

4月1日星期三
  1. Vapi Blog18

    Vapi 推出企業語音 AI 音訊隱私強化安全模式

    Vapi 發布強化安全模式,這是一層音訊隱私保護機制,該公司稱其為企業語音 AI 平台歷來部署過最安靜且最安全的方案,旨在防止 AI 代理的語音在開放空間中被旁人聽見。該公司表示,其整個音訊處理流程經過重新設計,能反轉訊號存在優化,且不會增加延遲失真。早期存取涵蓋醫療保健、福利管理與急性後期照護機構,該功能現已推出。

3月26日星期四
  1. Modal Blog38

    Runway 與 Modal 合作,為 Runway Characters 提供即時推論能力

    Runway 正與 Modal 合作,為 Runway Characters 提供即時推論能力。Runway Characters 是一套即時影片代理 API,建構於 Runway 的 GWM-1 世界模型之上,能從單一影像生成富有表現力的數位人物,且無需任何微調。Modal 的無伺服器平台讓 Runway 在不到 30 天內從概念驗證推進到正式上線,並在每個區域使用具備 RDMA 網路的單行多節點 GPU 叢集。Characters 現已於 dev.runwayml.com 向開發者與企業開放,並於 runwayml.com 向一般消費者提供。

3月25日星期三
3月20日星期五
  1. Vapi Blog38

    Vapi 網路研討會解答關於 Composer 語音代理建置器的熱門問題

    Vapi 舉辦了一場網路研討會,由首席產品經理 Nick Robin 示範 Composer,這是其產品內建的助理,可用於無程式碼建置語音代理,並在 30 分鐘的示範中產出一個可運作的來電客戶服務代理。Composer 會撰寫系統提示、配置電話號碼、設定排程,並標記自身的錯誤以供核准。它目前處於 alpha 階段,支援來電與去電助理、CRM 與行事曆整合,以及依助理 ID 編輯現有代理。