跳至正文
10月27日星期二
  1. Preferred Networks News60

    PFN 推出具備網頁搜尋與 Deep Research 的 PLaMo 3.1 Prime

    Preferred Networks 於 2026 年 10 月 27 日開始提供 PLaMo 3.1 Prime,新增網頁搜尋與 Deep Research 功能,可在數分鐘至數十分鐘內自主規劃、蒐集、分析並撰寫附來源引用的報告。Deep Research 亦可於地端執行,並能連接內部文件搜尋系統;該公司表示,相較於 PLaMo 3.0 Prime,包含 AA Omniscience 在內的八項幻覺相關基準測試平均分數提升約 15%。PFN 亦指出,透過推測解碼使處理速度提升 1.7 倍,且在非推理模式下輸出 token 減少 90%,並推出免費的 PLaMo API 方案,以及 PLaMo Chat 活動,於 2026 年 11 月 30 日前每日提供兩次 Deep Research。

    推薦理由:PFN 的 PLaMo 3.1 Prime 新增可於地端執行的自主 Deep Research,為日本企業提供可本地部署、附來源引用的調查工作選項。

  2. Apple Newsroom58

    Apple Creator Studio 加入 AI 助理、MCP 支援,以及 Final Cut Pro 的 MotionVFX

    Apple 為 Apple Creator Studio 推出更新,將建構於 Apple 與第三方模型的智慧助理帶進 Keynote、Pages 和 Numbers,並支援 Model Context Protocol,讓外部 AI 代理能讀取這些 App 的內容並執行編輯。Mac 版 Final Cut Pro 現在內建 MotionVFX 與 Content Hub 庫存影片,Logic Pro 新增 Beta 版助理與可分離鼓聲的 Stem Splitter,Pixelmator Pro 則加入可用自然語言編輯影像的 Generate Fill。這些更新將於今年 11 月在 App Store 上線,現有訂閱者免費,新訂閱為每月 $12.99 或每年 $129。

10月26日星期一
  1. Replit Blog38

    Replit:2030年前,每家財富500強公司都將成為自駕式公司

    Replit預測,到2030年底,每家財富500強公司都將成為「自駕式公司」,由代理執行與協調工作,而人負責設定目標並承擔責任。Replit表示,其工程師在2026年上半年的程式碼產出幾乎增加兩倍,而審查時間、回退次數與產品事故則持平。Replit for Business正作為基礎打造,而在SMFL,一個過去需要六個人花六個月完成的開發流程,由一個人在一週內完成。

  2. Vapi Blog38

    Vapi 推出語音代理部署的流量拆分功能

    Vapi 已推出流量拆分功能,讓團隊可先將 0.1%、1% 或 5% 的來電與去電導向新的代理版本,再決定是否全面切換。過去發布新的助理版本時,100% 的流量會立即導向該版本。此功能包含「黏性」機制,讓重複來電者持續使用同一版本,Vapi 建議先從雙向拆分開始。

  3. Mastra Blog40

    Mastra 開放 Knowledge 給另外八家設計夥伴,這是一套為 AI 代理打造的自架式公司大腦

    Mastra 正開放其 Knowledge 服務給另外八家設計夥伴,採先到先得制;這是一套為 AI 代理提供的自架式全公司情境層。Knowledge 可連接 Slack 和 Monday 等系統、自行保持最新狀態,並支援各職能各自獨立的知識庫,權限細分到個人、團隊和組織層級。Mastra 表示,將全公司知識圖譜接入其編碼代理後,交付程式碼的品質有明顯提升。

10月24日星期六
  1. SemiAnalysis60

    SemiAnalysis 測試 Amazon Trainium3 的原生 PyTorch 訓練堆疊與 Neuron Explorer 效能分析工具

    SemiAnalysis 的工程團隊在 TorchTitan 與 TorchNeuron 堆疊上測試了 Trainium3 機架,發現原生 PyTorch 體驗相較舊有的 PyTorch/XLA 做法有大幅改善,不過仍存在錯誤與編譯時間過長的問題。在編譯模式下,於 16 顆 Trainium2 晶片上訓練 Qwen3-32B 達到每秒 14,156 個 token、MFU 為 30.47%,相較 eager 模式提升 1.28 倍,而 gpt-oss 20B 配方則花了 27 分 17 秒編譯。團隊也將 Neuron Explorer 評為業界領先的效能分析工具,領先 Nvidia 與 AMD 的工具,並回報 Trainium3 通過了 96 個 FlexAttention 測試案例中的 89 個。

  2. Google Research58

    Google Research 概述其結核病篩檢 AI 如何從基準測試走向獲認證的臨床部署

    Google Research 在 IDWeek 2026 上說明,其胸部 X 光結核病篩檢模型如何從 2019 年《Radiology》的基準測試,進展為一款通過 CE MDR Class IIb 認證的工具,並由合作夥伴 Nexus AI 在六個國家約 40 家醫療機構部署。超過 90 名臨床醫師已評估逾 25,000 張胸部 X 光片,將周轉時間從數週縮短至 45 秒以內,該工具也已在南非 Mponeng 金礦地下四公里處離線部署。Google 已透過 HAI-DEF 開源胸部 X 光嵌入與 MedSigLIP,並發布 MedGemma,稱其下載量已突破 1,000 萬次;同時印尼衛生部正以國內 X 光片微調這兩款模型,用於全國篩檢計畫。

10月23日星期五
  1. Amazon Science38

    TorchNeuron 背後的科學:Amazon 為 AWS Trainium 晶片打造的全新 PyTorch 後端

    Amazon 發布了 TorchNeuron,這是一個開源的 PyTorch 後端,能將 PyTorch 程式碼轉換為可在 AWS Trainium 系統上執行的操作,且幾乎或完全無需修改程式碼。它新增了一個可選用的自適應 eager 模式,會將操作分組並編譯,以達到接近編譯後的效能,另外還有多層 NEFF 快取;在一項 64 程序的 LLM 測試中,共享編譯服務將首次訓練步驟的時間縮短了約三分之一。Annapurna 團隊使用從數十萬個開源模型中精選出的 841 個代表性模型,對其進行了調校與基準測試。

  2. Modal Blog58

    Modal 與 Sakana AI 如何為 Sakana Namazu API 部署約 1T 參數的 MoE 模型

    Modal 的前置部署工程團隊與 Sakana AI 合作,在 Modal 上運行 Sakana Namazu——一個針對日本商業情境調校、約 1T 參數的 MoE 模型,以支援其公開 API 上線。團隊僅對路由專家套用選擇性 NVFP4 量化,注意力層、路由器與共享專家則維持 BF16,並以日語為主的對話進行校準,確保全部 23,040 個專家都接收到具代表性的流量。一個以超過 300 億個原始 token ID 訓練的自訂 DFlash 草稿模型,將推測性 token 接受率提升 25%,並使每 token 解碼延遲降低約 35%;另一個以約 100 萬筆真實請求訓練的草稿模型,則將平均接受長度從 3.51 提升至 5.01,並將 p99 延遲從 68 秒降至 52 秒。

10月22日星期四
  1. Sakana AI Blog58

    Sakana AI 推出 Sakana Aquarium,一個以本體論為基礎、供企業決策使用的 AI 代理平台

    Sakana AI 宣布推出 Sakana Aquarium,這是一個用於建置、執行與營運 AI 代理的平台,這些代理以本體論為基礎,支援組織的決策與執行。該平台結合三個部分:本體論(Ontology),用以組織知識、規則與資料及其含義和關聯,並在無需遷移的情況下連接既有來源;治理(Governance),用於設定存取權限與執行前核准,並記錄從決策理由到執行結果的一切;以及託管代理(Managed Agents),用於部署涵蓋資訊查詢、AI 判斷、功能執行與人工核准的工作流程。Sakana AI 表示,資料連接與本體論可在不同代理之間重複使用,且該平台源自其由 FDE 主導、與 MUFG、SMBC Group 及 Daiwa Securities Group 等金融機構合作的工作。

  2. Modal Blog71

    Modal 發布 Spindle,一個開源、相容於 Tinker 的訓練伺服器

    Modal 發布了 Spindle,這是一個開源、相容於 Tinker 的訓練伺服器,可在客戶的 Modal 工作區中運行,讓團隊能自訂技術堆疊,並按 GPU 時間而非 token 計費。Spindle 支援對開源模型進行全參數訓練與多 LoRA,Modal 表示,在一個 DAPO-math GRPO 任務上,讓 8 個客戶端共用一個訓練器,相較於 Tinker,每 100 萬輸出 token 的成本最多可降低 80%。Modal 表示 Spindle 仍處於 beta 階段,並將其定位於自家的 Dojo 訓練函式庫與原始叢集基礎元件之間。

    推薦理由:Modal 的開源 Spindle 伺服器為團隊提供了一個相容於 Tinker 的替代方案,以 GPU 時間取代按 token 計費,據稱多 LoRA 共用可將成本最多降低 80%。

  3. SemiAnalysis75

    華為與DeepSeek的共生關係:Ascend 950PR 基準測試與 DeepSeek 的 Ascend 核心支援

    SemiAnalysis 檢視了華為與 DeepSeek 的合作,對 Ascend 950PR(28 個 cube 核心、128 GiB HBM)進行基準測試,並回顧 DeepSeek 於 9 月 30 日發布對 TileLang、DeepGEMM、DeepEP、TileKernels、FlashMLA 和 DeepSelect 的 Ascend 支援。950PR 達到 1.6384 TB/s 峰值 HBM 頻寬,在小訊息尺寸下頻寬利用率勝過 H100,而其運算達成/可達比例中位數為 41.5%,H100 則為 46.8%;目前僅 TileLang 可用,因為撰寫時所需的 CANN 9.2.0 尚未發布。作者主張,儘管華為硬體落後,其軟體堆疊已接近前沿,並指出多數最佳化針對超級節點,而 vLLM-Ascend 在 x86 主機上仍無法開箱即用。

  4. Google Developers Blog38

    Google Cloud 的 Project Chrysalis:建構於 Gemini 與 ADK 之上、受治理且可自我演進的 AI 代理架構

    Google Cloud 研究人員發表 Project Chrysalis,這是一套建構於 Gemini 平台與 Agent Development Kit(ADK)之上、受治理且可自我演進的 AI 代理參考架構。在模擬的黑色星期五快取踩踏(cache-stampede)故障情境中,它將首次緩解時間從 15–45 分鐘縮短至 1.8 秒,把 HTTP 5xx 錯誤從 72.7%–80.0% 降至 0.0%,並將 P99 延遲從 519.8 ms 降至 18.2 ms。每一個自主動作都受到 Model Armor、Cloud KMS、Binary Authorization、OPA Policy Controller 以及雙人保管的人員介入簽核機制所約束。

  5. Google Developers Blog58

    Google Cloud API Gateway 在公開預覽版中新增串流支援

    Google Cloud API Gateway 現已在公開預覽版中支援串流,讓 SSE、分塊 HTTP、WebSocket 和 gRPC 串流端點能與現有 API 一樣置於同一個閘道與政策之後。串流可在建立閘道時透過單一 --enable-streaming 旗標啟用,無需變更 API 規格,且 API 金鑰強制執行、JWT 驗證、服務帳戶驗證以及 Cloud Logging 和 Monitoring 皆維持原有運作。閘道也會取得確定性的預設主機名稱 GATEWAY_ID-PROJECT_NUMBER.REGION.gateway.dev,串流最長可保持開啟一小時。

10月21日星期三
  1. Modal Blog58

    Modal 推出 Dojo,一個用於生產級 LLM 訓練的函式庫

    Modal 發布了 Modal Dojo,這是一個訓練函式庫,提供建構模組、調校過的預設配方,以及可觀測性儀表板,用於生產級的 LLM 後訓練。它建構在開源框架 Miles 和 Slime 之上,支援從五億到數兆參數的模型,並提供 API 和 CLI,讓代理可以驅動以啟動和除錯執行。Modal 表示 Axiom Bio 使用它擴展到 64k 上下文的 DeepSeek V4.1 Flash 在 64 台 B300 上執行,而 Afterquery 以 256k 上下文長度訓練 Kimi 和 DeepSeek。

  2. LiveKit Blog25

    Acuity Health 如何運用 LiveKit 語音代理自動化病患服務

    Acuity Health 在低程式碼平台被證明過於僵化且不透明後,於 LiveKit 上重建其病患服務語音代理,如今 80% 的來電完全由 AI 代理處理。代理運行於 LiveKit Inference,採用 Gemma 4 31B 模型,多數預約在一分鐘內完成,81% 的預約來電以「謝謝」作結。LiveKit Simulations 會在發布前針對病患檔案測試每項變更,而一次提示詞審查刪減了約 24% 的字詞,仍通過相同的測試情境。

  3. Google AI · DEV58

    Google Antigravity 新增 Claude Opus 5.5 與 Sonnet 5.5,支援工作階段中途切換模型

    Anthropic 的 Claude Opus 5.5 與 Claude Sonnet 5.5 現已正式在 Google Antigravity 上線,涵蓋 Antigravity 2.0 Desktop、CLI,以及 VS Code、JetBrains 和 Visual Studio 的 IDE 擴充功能。Opus 5.5 主打重度推理與多檔案架構重構,Sonnet 5.5 則是更快、成本更低的日常編碼選項。開發者可透過下拉選單或在 CLI 輸入 /model claude-opus-5-5 在工作階段中途切換模型,不會遺失上下文、終端狀態或工作區產物;管理員可在 Google Cloud Console 的 Gemini Enterprise 底下啟用這些模型並設定支出上限。

  4. Google Developers Blog58

    Google Agents CLI 1.8.0 推出擴充系統與第一方 LangChain 擴充功能

    Google 的 Agents CLI 現在包含擴充系統(Extension System),於 v1.5.0 引入,讓開發者能覆寫或新增指令,而不必 fork 工具本身;v1.8.0 則推出第一方 LangChain 擴充功能。LangChain 範本會建立一個不依賴 google-adk 的專案,並透過與 ADK 專案相同的程式碼路徑部署到 Cloud Run,而 playground、run 和 eval generate 等六個與 ADK 耦合的指令則會被取代或明確拒絕執行。擴充功能以 Git 儲存庫中的目錄形式發布,並以鎖定檔固定確切的 commit SHA,該系統在 v1.8.0 中標示為實驗性。

10月20日星期二
  1. Sakana AI Blog15

    Sakana AI 工程師開放日 2026:公司闡述 AI 主權策略與五個工程職位

    Sakana AI 於 2026 年 10 月 5 日舉辦第二屆工程師開放日,介紹了五個工程職位,包括應用研究工程師、前線部署工程師、軟體工程師、解決方案工程師和網路安全工程師。執行長 David Ha 闡述了一套「AI 主權」策略,建立在預訓練、使用 Namazu 的後訓練以及使用 Fugu 的編排之上;此前六個月內,公司已將產品組合擴展至 Sakana Chat、Marlin、Fugu 和 Translate。活動還詳細介紹了與日本金融機構和國防項目的合作,包括與防衛省情報本部及防衛創新科學技術研究所的研究。

  2. Mistral AI82

    Mistral 發布 Voxtral 3 語音模型與語音代理 SDK

    Mistral 發布 Voxtral 3,這是一系列語音轉文字與文字轉語音模型,外加一套建構於 LiveKit 之上的語音代理 SDK,能在單一管線中串流處理聆聽、推理、工具呼叫與說話。Voxtral Small Transcribe 3 涵蓋 50 多種語言,支援語者分離與上下文偏置;Voxtral Mini TTS 3 支援 35 多種語言與 50 多種方言;整套技術堆疊可透過 Mistral 的歐盟託管 API 或自行部署取得。定價方面,批次轉錄每分鐘 0.0035 美元起,TTS 每 100 萬字元 13 美元。

    推薦理由:Mistral 的 Voxtral 3 將多語言語音模型與基於 LiveKit 的語音代理 SDK 搭配,為團隊提供可主權部署的即時語音代理選項。

  3. Zyphra Research58

    Zyphra Inference Wave 2 為 MI355X 推論服務帶來自訂 HIP MoE 與稀疏注意力核心

    Zyphra 發布針對 AMD Instinct MI355X GPU 的 Zyphra Optimization Engine(ZOE)第二波更新,在其 vLLM 與 SGLang 的生產分支中加入四個自訂 HIP 核心,用於 MoE 與稀疏注意力。40x)。3 checkpoint 在四項推理基準上與 FP8 的差距維持在 3 分以內,但僅在高併發時解碼速度更快。

  4. Waymo Blog58

    Waymo 將在馬德里地區展開自動駕駛叫車服務的前置作業,首批乘客目標為 2027 年

    Waymo 宣布正在西班牙為其全自動駕駛叫車服務奠定基礎,首先從馬德里地區開始,目標是在 2027 年迎接首批乘客。電動 Jaguar I-PACE 車輛將在未來幾天內出現在該地區的街道上,先從手動駕駛開始,之後由當地訓練的自動駕駛專家進行技術驗證。Waymo 引用超過 2,000 萬次已完成行程,以及超過 4 億公里全自動駕駛里程的數據,顯示在其營運的城市中,涉及重傷或更嚴重後果的碰撞事故比人類駕駛少 95%。

  5. Google Developers Blog60

    Google 將 TorchTitan 接入 TorchTPU,並發布 TPU 模型最佳化手冊

    Google 發布了 Meta TorchTitan 的 TPU 分支版本,可透過 TorchTPU 原生的 torch.device("tpu") 後端在 Cloud TPU 上執行 PyTorch 訓練,並附帶 TPU 原生核心與逐步最佳化指南。在 TPU v7x(Ironwood)上,Llama 3 405B 在 128 到 1,024 顆晶片之間維持約 57% MFU,Qwen3 235B 在單一 1,024 晶片切片上達到 32.42% MFU,FLUX.1 在 1,024 顆晶片上達到 19.4% MFU,弱擴展效率為 93%。該分支位於 https://github.com/google-pytorch/torchtitan/,另有 Transformers 建模後端與 agent 上手技能,可將同一訓練器延伸至其他檢查點。

    推薦理由:Google 與 Meta 合作把 TorchTitan 移植到 TPU,並給出從 FLUX.1 到 Qwen3 235B 的逐級調優路徑與 MFU 數字,可作為 PyTorch 團隊評估 TPU 訓練可行性的參考。

10月19日星期一
  1. Modal Blog58

    Modal 對 NVIDIA Vera CPU 進行基準測試:負載下沙箱吞吐量最高可達 2 倍

    Modal 對 NVIDIA 新款 Arm 相容的 Vera CPU 伺服器進行了基準測試,測得任務吞吐量最高可達同等 x86 GNR 機器的兩倍,且單一任務延遲持平、有時更低。結果來自 Agentless Agent Bench、50 個 Terminal-Bench oracle 解決方案與驗證器,這些項目已移除網路呼叫,並在並行 Docker 容器中執行。Modal 將此增益歸因於 Vera 在並行容器累積時仍能維持步調,並將其連結至高記憶體頻寬,同時表示支援 Arm 需要在其基礎設施與映像建置系統中進行變更。

  2. Modal Blog38

    Legora 如何在 Modal Sandboxes 上執行 2,000 個平行代理評估

    Legora 現在將每一項法律代理評估分別執行於獨立的 Modal Sandbox 中,啟動其完整應用程式並固定於特定 commit,使每次執行都反映確切的產品版本。典型實驗包含 100 個案例、4 種 harness 變體、每種各 5 次試驗——共 2,000 次平行執行——並以 Modal Volumes 快照文件、資料庫與權限狀態。Legora 也從 gVisor 遷移至 Modal VM Sandboxes,移除了其 Docker 網路與 FUSE 的變通方案,並透過更智慧的壓縮與自訂工具搜尋,將代理成本降低 30%。

10月16日星期五
  1. Modal Blog36

    Modal 說明如何為 VM Sandboxes 打造快速檔案系統堆疊

    Modal 詳細說明其如何演進檔案系統堆疊以支援 VM Sandboxes,將客體請求透過 virtio-fs 與 virtiofsd 路由至其 ImageFS 延遲載入檔案系統。第一個版本開機快速但執行緩慢:遞迴 chown 從四秒變成超過一分鐘,pnpm 與 bun 安裝約慢了三倍。微基準測試顯示,chown 在 virtio-fs 上為 9.87 秒,而在 gVisor 上為 2.31 秒、在 ImageFS 上為 1.58 秒。

  2. Replit Blog40

    Replit 將自帶雲端 (BYOC) 引入其平台

    Replit 推出自帶雲端 (BYOC) 選項,讓企業能在自己的 Microsoft Azure、Google Cloud 或 Amazon Web Services 租用戶內執行 Replit 平台與已發佈的應用程式。完整 BYOC 處於私人預覽階段,會在客戶的雲端中部署 Replit 的 cells 與 agent harness;而針對已發佈應用程式的 BYOC 則處於早期存取階段,會在該處託管已發佈的專案,並由 Replit 管理平台。Image Exports 則為團隊提供 Docker 映像、Terraform 檔案與 SBOM,以便自行託管以 Replit 建置的應用程式。

  3. OpenClaw Blog22

    PJ 如何協助小型企業採用並擁有 OpenClaw

    PJ 是佛羅里達州奧卡拉(Ocala)一位由工程師轉行的除蟲業老闆,如今為小型企業提供顧問服務——其中包括屋頂、泳池與汽車承包商——協助他們架設 OpenClaw,並教他們自行操作。他的客戶想要一個完全屬於自己的工具,而不是把公司資料餵給租用的軟體;其中一位客戶、66 歲的行政人員 Donna,每天都使用她的 OpenClaw。

  4. LiveKit Blog38

    如何打造可上線的 AI 語音代理

    LiveKit 的指南彙整了解決方案架構師與前線部署工程師的經驗,說明如何讓 AI 語音代理從展示階段走向正式上線,並圍繞三個問題組織:代理是否足夠聰明自然、其效能是否可觀測,以及能否可靠且具成本效益地擴展。指南建議單獨量測第一輪對話,因為有公司發現約四分之三的通話在問候步驟就結束了,並指出客戶從 GPT-4.1 改用 LiveKit Inference 上的 Gemma 4 31B,在 p50 下節省了 300–500ms。

10月15日星期四
  1. Anthropic · Claude.dev62

    Claude Code 團隊如何進行程式碼審查

    Claude Code 團隊描述其分層的程式碼審查流程,其中大部分閱讀由機器完成,人類注意力則保留給基於風險的核准。從六月到九月,合併至 Claude Code 程式碼庫的拉取請求增加了一倍以上,而必須回退的比例下降了超過 40%。該流程在 PR 之前堆疊驗證、必要的 CI、Claude 審查、安全審查、風險分級的人工核准,以及帶有旗標和快速回滾的合併佇列,團隊並將過去的事件轉化為審查者的每日評估集。

    推薦理由:Anthropic 的 Claude Code 團隊詳細說明了他們如何將大部分程式碼閱讀移至自動化層,同時合併的 PR 翻倍且回退下降超過 40%,為代理密集的團隊提供了一個可轉移的審查模型。

  2. Modal Blog34

    用 Modal GPU 強化你的 LiveKit Agent

    Modal 說明如何在其無伺服器 GPU 上,以開放權重或自訂模型執行 LiveKit Agents,並使用 BitHuman 的開放權重 Expression Video Avatar,搭配 Qwen3-TTS 配音來複製 Charles Frye。此設定透過 Modal Server 對外開放 avatar 容器的 /launch 端點,並使用 Sticky Sessions 讓 WebSocket 用戶端維持在同一個容器上,同時以 GPU 快照隱藏冷啟動。

  3. Modal Blog78

    Meta 的 Muse Spark Open 權重已釋出,並可在 Modal Auto Endpoints 上使用

    Meta 釋出了 Muse Spark Open 的權重,Modal 現在透過其 Auto Endpoints 以按 token 計費的方式提供該模型。該模型針對代理式編碼與長程任務,具備原生多模態理解、100 萬 token 上下文視窗、多步驟規劃、依序工具使用與失敗復原能力。Meta 回報,搭配 Terminus 2 代理在 Terminal-Bench 2.1 上得分 76.4,並在其偏好的測試框架下以 xhigh 推理強度在 DeepSWE 1.1 上得分 60。

    推薦理由:Meta 的開放權重模型 Muse Spark Open 現已在 Modal 上提供,讓團隊能以按 token 計費的方式試用一款具備 100 萬 token 上下文視窗的代理式編碼模型。

10月14日星期三
  1. GitHub Blog · AI & ML38

    GitHub 的秘密偵測模型:以更少雜訊找出更多秘密

    GitHub 訓練了一個微調過的 ModernBERT 分類器,用來取代先前以 LLM 為基礎的通用秘密偵測流程,將擁有者加權的警示精確率提升了 11.5%,並把推送後掃描執行時間的中位數縮短了 86%。這套兩階段流程先用正規表達式產生候選,再進行情境感知分類,相較於遠端 LLM 呼叫,也讓服務成本降低了超過 98%。效率的提升使得把通用秘密偵測擴展到推送保護變得可行,能在變更被推送前就回傳結果。

  2. Modal Blog71

    Modal 年化營收突破 10 億美元,並以 157.5 億美元估值完成 7.5 億美元 D 輪融資

    Modal 的年化營收突破 10 億美元,並以 157.5 億美元投後估值完成由 Accel 領投的 7.5 億美元 D 輪融資,所有現有投資者均參與其中。該公司表示,自五個月前完成 C 輪融資以來,使用量已成長兩倍,較去年同期成長超過 15 倍,且光是其 Sandboxes 產品就達到 3 億美元的年化營收,已啟動近 30 億個沙箱。Modal 還描述了在橫跨 20 多個雲端的容量池上重建自家檔案系統、容器執行環境、排程器與網路,並指出近期推出多節點訓練、Modal 伺服器,以及 Sandboxes 正式可用的 VM。

    推薦理由:Modal 的貼文說明了為何 AI 工作負載促使它在 20 多個雲端上重建自家檔案系統、容器執行環境與排程器,具體呈現了 AI 基礎設施堆疊如何與雲端堆疊分道揚鑣。

10月13日星期二
  1. LiveKit Blog18

    排解 LiveKit Egress 問題:常見錯誤與修正方法

    LiveKit 發布了一份 Egress 的疑難排解指南,涵蓋常見錯誤,例如範本從未呼叫 START_RECORDING 而出現的 412「未收到啟動訊號」、30 秒內找不到參與者或軌道的 404,以及 S3/GCP/Azure 憑證無效導致的 400 上傳失敗。指南也處理版面配置、webhook 與自架 Egress 的問題,並指出這些指引同時適用於目前的 StartEgress API 與已棄用的來源專屬 API。

  2. Modal Blog58

    Modal 在 Qwen3.6-35B-A3B 上測試混合精度、混合加速器的 RL 取樣器

    Modal 在代理式編碼任務上訓練 Qwen3.6-35B-A3B,取樣器分散於六種加速器類型(B200、B300、H100、H200、A100、RTX PRO 6000),精度涵蓋 NVFP4、FP8 與 BF16,並將資料饋入一個位於 B200 上的 BF16 訓練器。樸素的 GRPO 在混合與同質取樣器上皆崩潰,但加入遮罩式重要性取樣與分數中心化(無論是否搭配 top-p 遮罩重播)後,訓練穩定進行至結束,並在 SWE-bench Pro V2 pass@4 上達到與同質取樣器相當的水準,每次更新的取樣器成本約低 15%。混合取樣器的取樣器與訓練器平均 KL 為同質設定的 4.7 倍,作者主張穩定性取決於將不匹配程度維持在有界範圍內,而非維持在低水準。