跳至正文
11月13日星期五
  1. inclusionAI Models34

    inclusionAI 發布 Duo-1.0-distill-quant FP8 權重,用於全雙工互動

    inclusionAI 發布 Duo-1.0-distill-quant,這是 Duo 1.0 全雙工多模態世界模型的 FP8 量化四步蒸餾 Realization 權重。這些權重會疊加在 inclusionAI/Duo-1.0-causal-base 套件上,該套件提供共用的 Intent、編解碼器、語音模型與 Realization 主幹,且需要支援所封裝 ModelOpt FP8 格式的執行環境。這些權重從 MiniMax H3 初始化,隨後由 Duo 團隊訓練。

  2. inclusionAI Models40

    inclusionAI 發布 Duo-1.0-distill:Duo 1.0 的四步蒸餾權重

    inclusionAI 已發布 Duo-1.0-distill,這是 Duo 1.0 的四步蒸餾 Realization 權重;Duo 1.0 是一個用於即時音視訊互動的全雙工多模態世界模型。這些權重以 PyTorch Distributed Checkpoint 疊加層的形式提供,疊加於 inclusionAI/Duo-1.0-causal-base 套件之上,使用 Euler 取樣器、4 步與 flow shift 5.0。這些權重從 MiniMax H3 初始化,隨後由 Duo 團隊訓練。

  3. inclusionAI Models38

    SingVL-4B GGUF 發布:基於 Qwen3.5 的 Sing VL S1 4B 多模態決策模型 GGUF 版本

    Sing VL S1 是一個建構於 Qwen3.5 之上的 4B 參數多模態決策模型,現已推出 GGUF 版本,可用於 llama.cpp 的 CPU 推論。它提供 BF16(8.42 GB)、Q8_0(4.48 GB)與 Q4_K_M(2.71 GB)三種解碼器,外加一個共用的 F16 視覺投影器,預設上下文長度為 4096 個 token。GGUF 驗證涵蓋 9 個範例與 11 個問題;GGUF 各變體的完整公開分數仍待公布。

  4. Hugging Face Blog69

    IBM 發布基於 Granite 4.1 3B 與 8B 的 LLMON 預覽模型

    IBM 發布了兩個實驗性預覽模型 granite-4.1-3b-LLMON-preview 與 granite-4.1-8b-LLMON-preview,它們衍生自 Granite 4.1 基礎檢查點,並經過訓練以讀取與生成 LLMON——一種 LLM 原生標記語言,以保留的特殊 token 定界符標示指令、資料與需求。在 OPI 基準上,這些模型比測試中最佳的前沿模型多避開 47% 的間接提示注入攻擊,比最佳的開源模型多避開 95%,同時在標準基準上的表現與 Granite 4.1 Instruct 相當。此次發布包含一個 GitHub 工具包,內含無損的 JSON 轉 LLMON 轉換器,作者指出此預覽版僅供探索,並非用於生產環境。

    推薦理由:IBM 在 Granite 4.1 上訓練出能讀寫 LLMON 標記的預覽模型,透過顯式分離指令與資料,將 OPI 基準上的間接提示注入成功率壓到接近零,同時保持通用能力。

  5. AWS Machine Learning Blog60

    AWS 開源 UAEF,一個與框架無關的 AI 代理評估系統

    AWS 已開源 UAEF(Universal Agent Evaluation Framework),這是一個與框架無關的系統,透過適配器將來自 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的代理軌跡正規化為統一的 AgentTrace,再以 7 個維度下的 36 項內建指標進行評分。結果按實驗分別儲存在 Amazon DynamoDB 和 Amazon S3 中,讓團隊可以將代理版本與基準進行比較,以預設 5% 的閾值標記回歸,並生成統計報告及 LLM 撰寫的洞察。文章指出,電信、醫療保健和金融服務領域 12 個組織的客戶在發布前使用了 UAEF,Apache 2.0 程式碼、Python 函式庫、CDK 部署及各框架的 notebook 均位於 awslabs/uaef GitHub 儲存庫中。

    推薦理由:AWS 團隊開源 UAEF,用適配器把不同框架的 Agent 軌跡統一成一種格式,再以 36 項指標跨 7 個維度打分,為跨框架比較 Agent 版本提供了一套可復用的評測層。

  6. AWS Machine Learning Blog58

    AWS 詳解如何以 A2A 建構跨組織多代理系統

    AWS 發布了一套參考架構:在 Amazon ECS 上以 LangChain 為基礎的企業編排器,透過 A2A 協定呼叫部署於 Amazon Bedrock AgentCore、以 Strands Agents 為基礎的合規 SaaS 代理,雙方位於不同的 AWS 帳戶,且不共用任何密鑰。雙方各自以來自自家 Amazon Cognito 使用者集區的權杖進行驗證,而 SaaS 代理會回呼企業情境代理以取得帳戶中繼資料,因此這些代理是對等關係,而非用戶端與伺服器關係。該系統可從三個 Jupyter notebook 部署,這些 notebook 會佈建五個 CloudFormation 堆疊,並執行端對端測試及七項信任邊界檢查。

11月12日星期四
  1. Databricks Blog58

    Block 如何運用 Buzz 與 Databricks Unity Gateway 執行協作式 AI 代理

    Block 打造了 Buzz,這是一個開源協作工作空間,讓員工與 AI 代理在小組討論、聚焦對話和一對一交流中共同作業,並以 Databricks Unity Gateway 作為模型存取層。員工可以建立代理、為每個代理挑選背後的模型或程式設計工具,並選擇 Databricks 作為推論供應商,透過單一整合即可存取 OpenAI、Anthropic 和 Google 的前沿模型,以及部分開放權重模型。Block 的工程師也正在實驗多代理架構,由能力較強的模型協調執行較小、更高效模型的代理,並已建立一套內部方法來對這些代理團隊進行基準測試。

  2. AWS Machine Learning Blog36

    使用 Amazon Bedrock 與 Spring AI 打造自主 AI 代理

    AWS 向 Java 團隊展示如何運用 Spring AI 與 Amazon Bedrock 的 AgentCore,並透過 spring-ai-agentcore 整合來打造自主 AI 代理。文中詳細介紹了兩套參考系統:一套是具備工具呼叫與記憶功能的單一代理旅遊助理,另一套是多代理智慧文件處理平台,包含五個專責代理、一個規則引擎與警示功能。此技術堆疊需要 JDK 21、Spring Boot 4.1 與 Spring AI 2.0,並透過 AgentCore 執行環境部署於 ARM64 容器上。

  3. Hugging Face Blog36

    Hugging Face 發布 TRELLIS.2 3D 生成微調指南與腳本

    Hugging Face 發布了 3D 生成模型 TRELLIS.2 的微調腳本與容器,可在本機或 Hugging Face Jobs 上執行。該指南透過 PEFT 函式庫使用 LoRA 適配器,僅套用於稀疏結構流 DiT 與形狀流 DiT,材質階段則保持凍結。在 GSO 資料集的 188 個物件鞋類子集上,預訓練模型經常渲染出錯誤的鞋底,而 LoRA 微調正是針對此問題。

  4. AWS Machine Learning Blog34

    形式化策略的語意差異比對與反統一

    一個開源引擎利用在 e-graph 上的反統一來計算形式化策略的語意差異,將共享結構只呈現一次,並保留每個差異部分的兩個版本。它針對 SMT-LIB、Cedar、Dogwood、OpenShell 策略與 CEL 中的自動形式化輸出,其中由 LLM 撰寫產物,但不參與差異的計算。

  5. AWS Machine Learning Blog36

    2026 年 10 月 AWS 為 AI 開發者帶來哪些更新:Claude Haiku 5.5、GPT-6.1 Terra、AgentCore CLI 1.0

    AWS 的 2026 年 10 月彙整新增了 Claude Haiku 5.5,Anthropic 表示其在多數任務上的成本比 Claude Haiku 4.5 低約 75%;此外,Amazon Bedrock 上線 OpenAI GPT-6.1 Terra,輸入 token 最高可達 100 萬,價格至少比 GPT-6.1 Sol 與 GPT-5.6 Terra 低 50%。AgentCore CLI 達到 1.0 版,AgentCore Gateway 則新增模型容錯回退,並將 Step Functions 工作流程作為代理工具。

11月11日星期三
  1. Hugging Face Blog42

    Tether AI Research 發布 BotPsy:基於 Qwen3.5-0.8B 打造的 0.8B 端側代理模型

    Tether AI Research 發布 BotPsy,這是一個基於 Qwen3.5-0.8B 打造的 0.8B 參數代理模型,用於端側個人助理的工具使用。它讓基礎模型的代理評分大致翻倍,BFCL v4 從 23.4 升至 44.0,τ-bench 從 23.2 升至 51.5,並在六項工具使用基準測試中擊敗所有測試過的 1.2B 參數以下模型。它還將不安全回應從 36% 降至 21%,並在 GPQA Diamond 上使用的推理 token 減少約 3 倍。

  2. inclusionAI Models34

    inclusionAI 發布基於 Qwen3.5-4B 的 LemonDecider 4B v3 決策模型

    inclusionAI 發布 LemonDecider 4B v3,這是一個從 Qwen3.5-4B 微調而成的決策模型,透過單次聯合前向傳遞回傳選項、是/否或序數機率,而非生成答案 token。該模型以約 120 萬筆決策/問答資料列訓練,在公開的 Decision Index 0.4 測試套件上得分 61.67,請求延遲中位數為 49.9 毫秒。

  3. inclusionAI Models40

    inclusionAI 發布 ZoomGain-9B 與 ZoomGain-4B 模型,同步推出 ZoomGainBench 與 RL 訓練資料

    inclusionAI 發布了 ZoomGain-9B 與 ZoomGain-4B 視覺語言模型檢查點,同時推出 ZoomGainBench 評估基準與 ZoomGain RL 訓練資料。ZoomGain 透過挖掘從全局到縮放的感知落差來建構細粒度視覺監督,而 ZoomGain-9B 在多項細粒度與通用感知基準上達到更優異的表現。ZoomGainBench 包含 941 張影像上的 1,000 道問題,而 RL 資料集則有 9,000 筆訓練紀錄與 7,713 張來源影像。

  4. inclusionAI Models38

    inclusionAI 發布 ZoomGain-4B 與 ZoomGain-9B,同步推出 ZoomGainBench 與 RL 訓練資料

    inclusionAI 發布了 arXiv 論文、ZoomGainBench 評估基準、RL 訓練資料集,以及 ZoomGain-4B/ZoomGain-9B 模型檢查點。28 個模型中最佳者在 ZoomGainBench 上得分 61.08,而 ZoomGain-9B 在多個細粒度與通用感知基準上達到更優表現。ZoomGain 挖掘從全局到縮放的感知落差,為視覺語言模型建立細粒度視覺監督。

  5. LangChain Blog60

    LangChain 說明 Deep Agents 如何在不把所有內容都留在上下文視窗的情況下管理上下文

    LangChain 詳細說明其開源 Deep Agents 框架如何運用中介層來對抗長時間代理執行中的上下文腐化。工具結果超過約 20,000 個 token、使用者訊息超過 50,000 個 token 時,會被卸載到檔案中,只顯示預覽;而當用量達到上下文視窗的 85% 時,摘要功能會壓縮較舊的訊息。技能、子代理和一個 markdown 長期記憶檔案讓主代理的視窗保持精簡,並讓記憶能跨模型和供應商延續。

    推薦理由:LangChain 說明其開源 Deep Agents 框架如何運用中介層來卸載、摘要和隔離上下文,為長時間任務中的代理提供可重複使用的模式。

  6. inclusionAI Models22

    inclusionAI 發布 ZoomGain-9B 的 GGUF 權重

    inclusionAI 已發布 ZoomGain-9B 的 GGUF 格式權重,透過 llama.cpp 轉換,涵蓋語言模型與視覺編碼器/投影器(mmproj),提供 FP16、Q8_0 與 Q4_K_M 版本。影像輸入需將語言模型與對應的 mmproj 檔案配對使用,該儲存庫說明了透過 llama-mtmd-cli 進行命令列推論,以及透過 llama-server 架設網頁聊天的方式。需使用支援 Qwen3.5 多模態的 llama.cpp 建置版本,且量化可能影響準確度。

  7. MiniMax Blog75

    MiniMax 發布 H3-Image,一款可在 10 秒內生成 4K 影像的開放權重模型

    MiniMax 發布 H3-Image,這是一款建構於 H3 的開放權重影像生成模型,支援文字轉影像、基於參考的生成與影像編輯,且能在 10 秒內產出 4096 × 4096 的影像。該公司表示它最多可處理 16 張參考影像,並宣稱在開放權重模型中擁有最先進的提示詞遵循能力,同時回報速度最高可達主流替代方案的 5 倍。H3-Image 可透過 MiniMax API Platform、MiniMax Code 與 Hailuo AI 使用,定價為同類產品的 50–70%,上市首週 4K 及以上請求享 5 折優惠。

    推薦理由:MiniMax 發布開放權重的 H3-Image,宣稱可在 10 秒內生成 4K 影像,且定價為同類主流產品的 50–70%,為開發者提供高解析度影像工作的新開放選項。

  8. Google Developers Blog75

    Google 發布 A2UI 1.0,一個用於代理生成原生 UI 的穩定開放協議

    Google 發布 A2UI 1.0,這是其開放協議的首個穩定版本,讓 AI 代理能以互動式畫面回應,並由各應用程式自身的原生元件渲染。1.0 版新增雙向函式呼叫、無障礙支援與擴充元資料,並提供 React、Angular、Lit、Flutter、SwiftUI 與 Jetpack Compose 的開源渲染器(Compose 渲染器為 0.9.1 版,1.0 版即將推出),以及 Python、TypeScript 與 Dart 的代理 SDK。Atlassian 正將 A2UI 引入 Jira,Alation 在 Claude 中以它渲染其資訊流,而字節跳動於 2026 年 6 月發布了 Lynx 渲染器,目前支援 0.9 版。

    推薦理由:Google 穩定的 A2UI 1.0 協議讓代理能回傳原生互動式畫面,而非大段文字,並提供網頁、Android 與 iOS 的渲染器,早期採用者包括 Atlassian 與字節跳動。

11月10日星期二
  1. Amazon Science62

    Amazon 發布 Mitra-v2 表格基礎模型,採用規模化合成預訓練

    Amazon 推出 Mitra-v2,這是第二代用於分類與迴歸的表格基礎模型,隨附微調後的模型以及推論與微調程式碼,以 Apache-2.0 授權在 Hugging Face 上發布。它是在合成表格上預訓練的,列數是 Mitra-v1 的 10 倍、欄數約為 3 倍,採用新的混合 SCM 先驗與混合優化器,同時保持 Transformer 架構不變。在涵蓋 51 個真實世界資料集的公開基準 TabArena 上,Mitra-v2 在單一模型領域領先,在兩者皆原生執行的 33 個資料集中有 32 個勝過 Mitra-v1,並在一小時預算內完成全部 51 個資料集;微調後的 Mitra-v2 也在 ScoringBench 上排名第一。

    推薦理由:Mitra-v2 顯示,擴大合成預訓練資料而非加深網路,能將表格基礎模型推上 TabArena 單一模型領域的頂端。

  2. LiveKit Blog40

    LiveKit Portal for ROS 2 發布:透過 WebRTC 橋接 ROS 圖

    LiveKit 發布了 LiveKit Portal for ROS 2,這是一個獨立的 ROS 2 節點,可將 ROS 圖連接到 LiveKit 房間,讓 ROS 與非 ROS 參與者能透過 WebRTC 交換主題、服務呼叫與視訊,而無需在網路上暴露 DDS。它支援四種資料路徑——透過 DataTracks 傳輸主題、透過 RPC 傳輸服務、將影像作為 VideoTracks,以及直接視訊來源——並以 YAML 規則控制方向、速率限制與結構描述編碼。一個示範將立體 SLAM 與場景重建從 Jetson Orin Nano 漫遊車卸載到桌上型 RTX 5090。

  3. Google Developers Blog72

    Google AI Edge Gallery 新增裝置端語音辨識與文字轉語音功能

    Google 在 Google AI Edge Gallery 中推出裝置端自動語音辨識(ASR)與文字轉語音(TTS),讓應用程式能完全離線執行多語言 ASR 與富表現力的 TTS,並可與 Gemini Nano、Gemma 4 等裝置端 SLM 並行運作。在 Android 上,ML Kit 的新語音模型能以 10 倍即時速度轉錄 100 多種語言,在 FLEURS 上的字錯誤率(WER)為 8.0% 至 9.0%;而少步擴散 TTS 約 100 毫秒即可開始發聲,並以最高 50 倍即時速度生成 24 kHz 音訊。跨平台支援透過 MediaPipe Tasks 與 LiteRT 提供,包含 Parakeet-TDT 0.6B、PocketTTS 100M、Kokoro-82M 與 Phonon 31M 等開放權重套件,並在 XR Language Teacher 展示與語音版 AI Chat 中示範。

    推薦理由:Google 為 AI Edge Gallery 加入完全離線的 ASR 與 TTS,ML Kit 回報可 10 倍即時速度轉錄 100 多種語言,擴散 TTS 約 100 毫秒即可開始發聲。

11月9日星期一
  1. Hugging Face Blog38

    NVIDIA 與 Elith 發布 Nemotron-Personas-Finance-Japan 合成資料集

    Elith 與 NVIDIA 發布 Nemotron-Personas-Finance-Japan,這是一個以政府官方統計資料為基礎、針對日本金融業打造的開放合成人物資料集。它包含 50 個領域、約 15 億個 token 的 900 萬個人物(100 萬筆記錄 × 9 個人物),以 NeMo SDG-PGMs 與 NeMo Data Designer 生成,並以 CC BY 4.0 授權提供商業使用。

  2. NVIDIA Blog70

    NVIDIA 在 CoRL 發表 GR00T 2 世界動作模型與 Isaac Lab 3.0

    NVIDIA 在 CoRL 推出 GR00T 2,這是一個建構於 Cosmos 之上的開放世界動作模型,以 10 萬小時的人類第一人稱視角資料訓練,同時發表 Isaac Lab 3.0 與新的機器人基準測試。GR00T 2 在沒有任務特定示範的情況下,於 50 項受評任務中至少完成 40 項;在每項任務各給一次示範的條件下,50 項任務平均成功率達 71%,給五次示範則升至 95%。Isaac Lab 3.0 加入 Newton 物理整合以支援可變形物體,並在一個基於視覺的靈巧操作基準測試中,回報其訓練吞吐量最高可達搭載 PhysX 的 Isaac Lab 2.3 的 2.5 倍。

    推薦理由:NVIDIA 在 CoRL 的發布顯示,模擬加上世界動作模型如今已鎖定精細組裝作業,GR00T 2 與 Isaac Lab 3.0 的細節值得與先前的機器人技術堆疊相互比較。

  3. Hugging Face Blog40

    HOPE:混合專家語言模型中的高階專家剪枝

    研究人員提出 HOPE,一種針對混合專家語言模型的二階專家剪枝方法,該方法考量共同激活專家之間的成對交互作用,而非獨立地為每個專家評分。在 50% 剪枝率下,HOPE 取得所有方法中最佳的平均排名,在代理式編碼任務上相較於次佳的剪枝方法最高提升 +6.1%。此研究針對 Qwen3.5-122B 等模型的記憶體瓶頸,其中專家 MLP 佔據約 250 GB 足跡的 95%。

  4. Zyphra Research78

    Zyphra 發布 ZONOS3-Mini:一款可在裝置端執行的 Apache 2.0 零樣本語音複製 TTS 模型

    Zyphra 發布 ZONOS3-Mini,這是一款稀疏 MoE 文字轉語音模型,具備 1 億活躍參數與 8 億總參數,採用 Apache 2.0 授權,以 112 張 NVIDIA H100 訓練 2.5 天。它在 Pixel 9 的瀏覽器上可達到低於 570 毫秒的首次音訊延遲,在 M3 MacBook Air 上則低於 150 毫秒,並提供 WebGPU、SGLang、vLLM 與 GGML 的執行環境。該模型新增對身分、口音、品質、情緒與表達方式的控制,包括詞級引導,且 Zyphra 表示它在其新的 ZTTS2-Eval 基準測試中於開源模型裡排名第一。

    推薦理由:Zyphra 這款精巧的 MoE TTS 模型將零樣本語音複製與詞級表達控制結合,同時能在手機與筆記型電腦上即時執行。

  5. inclusionAI Repositories38

    ZoomGain:挖掘全域到縮放感知落差以實現細粒度視覺監督

    ZoomGain 利用只有放大後才會清晰的視覺細節,針對整張影像建構問題,並將這種全域到縮放的感知落差作為視覺語言模型的監督訊號。本次發布包含 arXiv 論文、ZoomGainBench 基準(1,000 道問題,涵蓋 941 張影像,涉及屬性辨識、計數與 OCR)、涵蓋 7,713 張來源影像的 9,000 筆 RL 訓練紀錄,以及 ZoomGain-4B 與 ZoomGain-9B 檢查點。28 個模型中最佳者在 ZoomGainBench 上得分 61.08,而 ZoomGain-9B 在多項細粒度與通用感知基準上達到更優異的表現。

  6. Google Developers Blog60

    Google Cloud MaxText 新增上下文平行處理,支援 TPU 上的長上下文訓練

    Google Cloud 在 MaxText v0.2.4 中發布長上下文訓練支援,這是其開源的 JAX 訓練框架,在 Cloud TPU 上新增四種上下文平行策略:All-gather、A2A(DeepSpeed Ulysses)、P2P(Ring Attention)以及 A2A + P2P 混合(USP)。以 Llama 3.1 8B 進行的基準測試在 TPU 5p 上、序列長度最高達 400 萬個 token 時達到 70% MFU,上下文在 TPU 5p 和 TPU 7 上均擴展至 1400 萬個 token,其中 TPU 7 在低於 600 萬個 token 時維持 50% MFU。此版本已於 PyPI、Docker 映像檔和 GitHub main 上發布,並附有 TPU 7 和 TPU 5p 的範例配方。

    推薦理由:MaxText 在 Cloud TPU 上的四種上下文平行策略,加上 Llama 3.1 8B 的基準 MFU 數據,為團隊在選擇如何進行數百萬 token 序列長度的訓練時提供了具體參考。

11月6日星期五
  1. Hugging Face Blog58

    Ai2 發布 ToyBlocks,一個用於機器人學習的開放模擬積木操作世界

    Ai2 發布 ToyBlocks,這是一個圍繞機械手臂與桌面積木構建的開放模擬框架,是其 FoundationWorlds 系列中用於受控機器人學習與評估的首個成果。該框架在 Isaac Lab 中透過強化學習與運動規劃自動生成技能與示範,在單一 GPU 上可達最高 24 倍即時速度,並隨附 85,336 條長時程示範,涵蓋近 1,600 小時與 1.44 億幀。在其實驗中,ManiFlow 的原子技能成功率在模擬中為 80.0%,在真實 Franka FR3 上為 81.1%;而 Molmo 2 加 ManiFlow 系統在模擬與真實世界回合中的成功率分別為 55.5% 與 50.0%。

  2. Ai2 · Allen Institute for AI58

    Ai2 發布 ToyBlocks,一個用於機器人學習與評估的可控模擬世界

    Ai2 發布 ToyBlocks,這是一個圍繞機械手臂與桌面上積木建構的開放模擬框架,作為其 FoundationWorlds 中首個用於可控機器人學習研究的項目。ToyBlocks 透過 Isaac Lab 中的強化學習與運動規劃自動生成任務與示範,在單一 GPU 上可達最高 24 倍的即時資料生成速度,並隨附 85,336 條長時程示範,涵蓋近 1,600 小時與 1.44 億幀。在 Franka FR3 的真實世界測試中,ManiFlow 的原子技能成功率在模擬中為 80.0%,在硬體上為 81.1%;而 Molmo 2 加 ManiFlow 系統則在模擬回合中成功 55.5%,在真實回合中成功 50.0%。

  3. vLLM Blog77

    REINFORCE Zero:核心對齊讓非同步 RL 在策略延遲 64 下穩定訓練,並擴展至 DeepSeek-V4.1 與 Kimi K3.1

    NVIDIA Research 與 Inferact 的 REINFORCE Zero 論文顯示,對齊 rollout 與訓練器的核心,可讓未裁剪的 token 級重要性取樣修正剩餘的權重延遲,在策略延遲 64 下穩定訓練 20,000 次更新,並在核心對齊時達到同步訓練 2.40 倍的訓練步吞吐量。使用標準核心時,rollout 到學習器的 KL 中位數在整個訓練過程中上升 83.33 倍,線上 AIME24 pass@1 從 34.27% 降至 13.96%,而序列閘門雖能穩定訓練,但在最後 1,000 次更新時會拒絕 24.48% 的序列。零不匹配設定現已涵蓋 DeepSeek-V4.1-Flash、發布當日的 Kimi K3.1,以及在 AMD MI355X 上的 DeepSeek-V4-Flash 與 Kimi K3.1,程式碼位於 Inferact/zero-mismatch-rl 與 NVIDIA-NeMo/labs-molt。

    推薦理由:NVIDIA Research 與 Inferact 將非同步 RL 的 rollout 與學習器差距拆分為權重延遲與核心不匹配,顯示對齊核心可讓未裁剪的重要性取樣在策略延遲 64 下維持穩定訓練。

  4. vLLM Blog55

    VeRL-Omni v0.3.0 發布,支援非同步訓練與更廣泛的多模態後訓練

    VeRL-Omni v0.3.0 已發布,帶來非同步與解耦的 RL 執行路徑、以 V1 trainer 作為預設,並擴展了涵蓋圖像、影片、音訊與多模態理解的後訓練範圍。此版本新增全非同步的 Qwen3-Omni 文字與音訊訓練、搭配 replay buffer 的 separate-async Omni 與擴散訓練,以及包括 MiniMax H3 搭配 DiffusionNFT 與 MiniCPM-o 4.5 GSPO 的新配方。在 4×H800 80 GB 上進行的 MiniCPM-o 4.5 AVQA 實驗中,separate-async 3+1 在自然回應長度下每個 prompt 比 colocated 4+0 慢約 9%,在 512 tokens 時大致持平,在 1024 tokens 時則快約 6.7%。

11月5日星期四
  1. Zyphra Research36

    ZYFA:在 AMD MI355X 上快速且準確的 FP8 注意力核心

    Zyphra Research 發布了 ZYFA,這是針對 AMD MI355X(CDNA4、gfx950)的 BF16 與 FP8 因果預填充注意力核心,支援頭維度 128 以及 DeepSeek-V2 的 MLA 形狀。在 Mistral-7B、Qwen3-8B 與 DeepSeek-V2-Lite 於 16K token 的激活值上,ZYFA 的 FP8 核心達到 AITER 吞吐量的 1.16–1.76 倍;在 32K token 的高斯輸入上,頭維度 128 時為 1.26–1.37 倍,MLA 形狀時為 1.99 倍。在頭維度 128 時,FP8 誤差比 AITER 低 62–78%。

  2. inclusionAI Repositories38

    ASpec:用於推測解碼草稿模型的高吞吐量訓練框架

    ASpec 是一個用於推測解碼草稿模型的高吞吐量訓練框架,基於 TorchSpec 程式碼庫建構,具備優化注意力、融合核心以及選擇性 head/loss 計算。在 Qwen3-8B 4K 執行中,僅草稿訓練在單一 GPU 上達到 15,256.44 輸入 token/秒,為 TorchSpec 的 1.96 倍,而 8-GPU 線上穩定視窗則達到 77,721.37 token/秒,為 TorchSpec 的 2.28 倍。它支援 DSpark、DFlash、EAGLE3/4 與原生 MTP 草稿,並提供 Qwen3-8B 與 Ling tiny 快速入門。

  3. Google Research47

    Google Research 的 Agile Deliberation 協助人類定義主觀的 AI 類別

    Google Research 推出 Agile Deliberation,這是一套框架,將主觀 AI 分類器的建立轉化為反覆對話,由 AI 協助使用者釐清自己的定義。它將任務拆分為概念範疇界定與概念迭代,運用視覺語言模型找出邊界案例影像,並將回饋導入自動提示優化迴圈。在 18 場各 1.5 小時的實際使用者工作坊中,此方法減輕了使用者的疲勞與焦慮,並產出更一致的模型,表現優於標準基準;程式碼已在 GitHub 開源。

  4. Preferred Networks News71

    PFN 發布 PLaMo 3 Translate 開源權重翻譯 LLM,鎖定邊緣裝置

    Preferred Networks 於 11 月 5 日在 Hugging Face 上,以開源權重模型形式發布 PLaMo 3 Translate,這是其 PLaMo Translation 服務所採用的翻譯專用 LLM。共有 0.8B、2B、8B 與 31B 四種規模,支援包含日文與英文在內的 53 種語言,可在智慧型手機、筆記型電腦與內部伺服器上執行,無需連線雲端。

    推薦理由:PFN 發布翻譯專用 LLM,提供從 0.8B 到 31B 的四種規模,讓企業與個人能在裝置端執行 53 種語言的翻譯,無需雲端存取。

10月29日星期四
  1. Mistral AI86

    Mistral 為 Mistral Large 4(Le Chonk)釋出開放權重,這是一個 1 兆參數的多模態模型

    Mistral AI 釋出了 Mistral Large 4(Le Chonk)的開放權重,這是一個 1 兆參數的原生多模態模型,於本月稍早進入公開預覽,並在歐洲從零開始訓練。該公司表示,額外三週的強化學習將其推升至開放權重編碼的頂端,在 Terminal-Bench 4.0 上達到 41%,在 Artificial Analysis Coding Agent Index 上達到 48%,同時每項任務使用的 token 比 GLM-5.3 少 47%。它新增了低、中、高三種推理模式,在 Artificial Analysis Cyber Index 上得分 51%,並在修改版 MIT 授權下,定價為每百萬 token 輸入 $0.70、快取輸入 $0.07、輸出 $2.10。

    推薦理由:Mistral 開放其 1 兆參數旗艦模型的權重,將編碼與防禦性安全基準的進展,與三種推理模式和按 token 計價結合在一起。

  2. inclusionAI Repositories52

    Inclusion AI 的 IDM 在生成器自身的 EMA 特徵空間中進行匹配,加速一步與兩步文字生成圖像

    Inclusion AI 與學術合作者發布 IDM,一種結合內部分佈匹配與生成器自身 EMA 特徵空間中矩匹配的蒸餾方法,無需外部特徵編碼器。在 2 NFE 下,IDM(Z-Image)在 LongText-CN 上得分 94.25%,在 LongText-EN 上得分 90.20%;全參數 IDM(Z-Image)在單張 A100 上以 BF16 運行,1 NFE 耗時 0.25 秒,2 NFE 耗時 0.30 秒。同一個訓練好的檢查點同時支援 1-NFE 與 2-NFE 取樣,程式碼以 Apache 2.0 授權釋出,檢查點則標示為即將推出。

  3. inclusionAI Models34

    inclusionAI 發布 Ling-3.0-flash-Sante-fp8,一款 FP8 量化的醫療保健模型

    inclusionAI 發布了 Ling-3.0-flash-Sante-fp8,這是其醫療保健專用模型 Ling-3.0-flash-Sante 的 FP8 量化版本,維持 124B 總參數與每 token 5.1B 活躍參數。它在醫療保健基準測試上達到與 BF16 檢查點相同的 73.9 平均分,同時為支援 FP8 的硬體降低了權重記憶體佔用。該研究用途模型支援 256K token 上下文,並預設為思考模式且支援工具呼叫。

10月28日星期三
  1. Ai2 · Allen Institute for AI40

    研究人員如何調整 olmOCR 2 以適用於歷史與考古檔案

    研究人員正在調整 Ai2 的開源 olmOCR 2 模型,用以轉錄歷史與考古檔案。歷史學家 Maurice Casey 打造了 ArtificeOCR,讓 olmOCR 2 搭配 Tropy 在本機執行,使他收藏的檔案照片庫可供關鍵字搜尋;而維也納工業大學(TU Wien)的 CENTURIA 專案則以 LoRA 對 olmOCR 2 進行微調,使用 57 筆標註紀錄,將 450 筆測試紀錄的轉錄錯誤率從 15.58% 降至 1.11%。