跳至正文

技術方向

開源生態 最新動態

開放權重、能下載下來自己部署的模型,開源框架與 GitHub 上爆火的 AI 專案。

43 條精選近 30 天 30 條共收錄 186 條

11月13日 08:32更新

開源生態

今天11月13日星期五第 1–20 條 / 共 43 條
  1. Hacker News · AI76

    AgentRun 開源發布:為現有 Agent harness 加上自我改進與持久執行

    Parcha Labs 開源 AgentRun,一個在 Claude Code、Codex、OpenCode 和 pi 之上疊加自我改進、持久執行與控制台的 Agent 平台,採用 Apache-2.0 許可。

    推薦理由:AgentRun 把自我改進、持久執行和控制台疊加在 Claude Code、Codex 等現有 harness 之上,並給出程式碼審查成本從每月 6451 美元降到每次 18 美分的具體案例。

  2. Hacker News · AI88

    Edge0 開源 Edge0-145B 與 Edge0-120B 端側模型及推理框架

    Edge0 開源了 Edge0-145B 與 Edge0-120B,以及其統一推理框架與部署工具,並宣稱 Edge0-145B 是首個開源的 145B 參數端側模型。該公司報告在相容筆記型電腦上峰值記憶體 29GB、預填速度 1,100+ tokens/s、解碼速度 80+ tokens/s、典型功耗約 120W,上下文長度 128K–256K。其引用內部評分:DeepSWE 1.1 為 64.6、Terminal-Bench 2.1 為 86.52、GPQA-Diamond 為 90.4、IFBench 為 80.6,並表示權重已發布於 Hugging Face,首日即支援 macOS、Windows 與 Linux。

    推薦理由:Edge0 開源了一個 145B 端側模型,報告峰值記憶體 29GB、解碼速度 80+ tokens/s,為本地推理能擴展到何種程度提供了一個具體數據點。

  3. Hugging Face Blog69

    IBM 發布基於 Granite 4.1 3B 與 8B 的 LLMON 預覽模型

    IBM 發布了兩個實驗性預覽模型 granite-4.1-3b-LLMON-preview 與 granite-4.1-8b-LLMON-preview,它們衍生自 Granite 4.1 基礎檢查點,並經過訓練以讀取與生成 LLMON——一種 LLM 原生標記語言,以保留的特殊 token 定界符標示指令、資料與需求。在 OPI 基準上,這些模型比測試中最佳的前沿模型多避開 47% 的間接提示注入攻擊,比最佳的開源模型多避開 95%,同時在標準基準上的表現與 Granite 4.1 Instruct 相當。此次發布包含一個 GitHub 工具包,內含無損的 JSON 轉 LLMON 轉換器,作者指出此預覽版僅供探索,並非用於生產環境。

    推薦理由:IBM 在 Granite 4.1 上訓練出能讀寫 LLMON 標記的預覽模型,透過顯式分離指令與資料,將 OPI 基準上的間接提示注入成功率壓到接近零,同時保持通用能力。

  4. AWS Machine Learning Blog66

    AWS 更新 AgentCore 執行環境:工作階段啟動速度提升 15 倍、運算資源增加 4 倍

    AWS 宣布更新 Amazon Bedrock AgentCore 執行環境,這是其用於代理程式的受管運算層,工作階段現在啟動速度最高提升 15 倍,可擴展至 4 倍運算資源(最高 8 個 vCPU 與 32 GB,容器映像最高 10 GB),執行效率最高提升 68%,同時每個工作階段仍維持在各自硬體隔離的 Firecracker MicroVM 中。無論映像大小或並行數量,工作階段皆在 2 秒內啟動,閒置代理程式會縮減至零,代理程式可掛載檔案系統並將工作儲存至 Amazon S3 儲存貯體等位置,支援 FUSE,讓資料留在信任邊界內。此執行環境即日起在北美、南美、歐洲與亞太地區的 AWS 區域提供。

    推薦理由:AgentCore 執行環境的新版本同時調整了工作階段啟動、算力上限與記憶體計費,為需要長時間執行的智慧代理提供了隔離與成本之間的新取捨。

  5. AWS Machine Learning Blog60

    AWS 開源 UAEF,一個與框架無關的 AI 代理評估系統

    AWS 已開源 UAEF(Universal Agent Evaluation Framework),這是一個與框架無關的系統,透過適配器將來自 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的代理軌跡正規化為統一的 AgentTrace,再以 7 個維度下的 36 項內建指標進行評分。結果按實驗分別儲存在 Amazon DynamoDB 和 Amazon S3 中,讓團隊可以將代理版本與基準進行比較,以預設 5% 的閾值標記回歸,並生成統計報告及 LLM 撰寫的洞察。文章指出,電信、醫療保健和金融服務領域 12 個組織的客戶在發布前使用了 UAEF,Apache 2.0 程式碼、Python 函式庫、CDK 部署及各框架的 notebook 均位於 awslabs/uaef GitHub 儲存庫中。

    推薦理由:AWS 團隊開源 UAEF,用適配器把不同框架的 Agent 軌跡統一成一種格式,再以 36 項指標跨 7 個維度打分,為跨框架比較 Agent 版本提供了一套可復用的評測層。

11月12日星期四
  1. vLLM Blog60

    vLLM 新增對 Thinking Machines 的 Inkling 2 Small 的 day-0 支援

    vLLM 在 day 0 支援 Thinking Machines 的 Inkling 2 Small,這是一個多模態文字與視覺 MoE,總參數 594B、活躍參數 17B,上下文最多可達 1M 個 token。此整合加入了搭配 PDL 的核心融合、用於 prefill 的序列平行,在 TP4 下將 8K token 的 prefill 步驟縮短 22%,TP8 下縮短 26%,以及一個 Gluon 相對注意力解碼核心,將 100K 上下文下 batch-1 的解碼步驟從 15.1 ms 降至 4.8 ms。vLLM 回報在 GB200 上 TP4 時可達每使用者最高 630 TPS,接受長度 3.5,並且也透過 SkyRL 支援 LoRA 與 RL。

    推薦理由:vLLM 在發布當天即支援 Inkling 2 Small,並給出核心融合、序列平行和 Gluon 解碼核心的具體優化數據,可供部署大型 MoE 模型的團隊參考。

  2. vLLM Blog64

    vLLM-Omni 在 Vera Rubin 上對 MiniMax H3-Image 進行基準測試:0.87 秒生成 4K 影像,每小時 6,115 張影像

    vLLM-Omni 將 MiniMax H3-Image 帶到 NVIDIA Vera Rubin,並測得在四張 GPU 上進行原生 4096×4096 文字轉圖像的中位延遲為 0.87 秒,另在獨立吞吐配置下達到每小時 6,115 張影像。H3-Image 是一個開放權重的文字轉圖像與編輯模型,結合 Qwen3-VL 編碼器、33.1B 稠密 DiT 與影像 VAE,以六個取樣步驟處理這兩項任務,並支援最多 16 張參考影像。團隊報告了 MXFP8 DiT GEMM、Ulysses SP4、AdaLN 快取,以及一項將解碼時間從 2.635 秒縮短至 0.213 秒的 VAE 解碼變更,並列出 AMD、Intel、華為昇騰與摩爾線程硬體的配置方案。

    推薦理由:vLLM-Omni 的基準測試顯示 MiniMax H3-Image 在 Vera Rubin 上以不到一秒的 4K 延遲運行,並附有各硬體配置與服務經濟性的成本模型。

11月11日星期三
  1. LangChain Blog60

    LangChain 說明 Deep Agents 如何在不把所有內容都留在上下文視窗的情況下管理上下文

    LangChain 詳細說明其開源 Deep Agents 框架如何運用中介層來對抗長時間代理執行中的上下文腐化。工具結果超過約 20,000 個 token、使用者訊息超過 50,000 個 token 時,會被卸載到檔案中,只顯示預覽;而當用量達到上下文視窗的 85% 時,摘要功能會壓縮較舊的訊息。技能、子代理和一個 markdown 長期記憶檔案讓主代理的視窗保持精簡,並讓記憶能跨模型和供應商延續。

    推薦理由:LangChain 說明其開源 Deep Agents 框架如何運用中介層來卸載、摘要和隔離上下文,為長時間任務中的代理提供可重複使用的模式。

  2. MiniMax Blog75

    MiniMax 發布 H3-Image,一款可在 10 秒內生成 4K 影像的開放權重模型

    MiniMax 發布 H3-Image,這是一款建構於 H3 的開放權重影像生成模型,支援文字轉影像、基於參考的生成與影像編輯,且能在 10 秒內產出 4096 × 4096 的影像。該公司表示它最多可處理 16 張參考影像,並宣稱在開放權重模型中擁有最先進的提示詞遵循能力,同時回報速度最高可達主流替代方案的 5 倍。H3-Image 可透過 MiniMax API Platform、MiniMax Code 與 Hailuo AI 使用,定價為同類產品的 50–70%,上市首週 4K 及以上請求享 5 折優惠。

    推薦理由:MiniMax 發布開放權重的 H3-Image,宣稱可在 10 秒內生成 4K 影像,且定價為同類主流產品的 50–70%,為開發者提供高解析度影像工作的新開放選項。

  3. NVIDIA Blog60

    NVIDIA 將 OpenShell 代理執行環境貢獻給 CNCF,並新增 DSX Kubernetes 工具

    NVIDIA 將其用於保護與治理自主代理的開源執行環境 OpenShell 貢獻給雲原生運算基金會,成為沙箱專案,同時也對 Google 主導的 Agent Substrate 做出貢獻。NVIDIA 宣布三項新的 DSX AI Factory 平台元件:NVIDIA Kubernetes Engine 與 NVIDIA Kubernetes Recipes(現已進入公開預覽),以及 NVIDIA Snapshot,可在數秒內還原檢查點副本,無需重新載入模型或暖機。Crusoe 在 Crusoe Cloud 上測試 GLM-5.3,將工作負載就緒時間從約八分鐘縮短至 31 秒,而 Saturn Cloud 則將 vLLM 啟動時間從 2 到 8.5 分鐘縮短至 6 分 34 秒。

    推薦理由:NVIDIA 將其代理安全執行環境 OpenShell 貢獻給 CNCF,並為 GPU AI 工廠新增 Kubernetes 工具,早期的 Snapshot 成果將推論啟動時間從數分鐘縮短至數秒。

  4. Google Developers Blog75

    Google 發布 A2UI 1.0,一個用於代理生成原生 UI 的穩定開放協議

    Google 發布 A2UI 1.0,這是其開放協議的首個穩定版本,讓 AI 代理能以互動式畫面回應,並由各應用程式自身的原生元件渲染。1.0 版新增雙向函式呼叫、無障礙支援與擴充元資料,並提供 React、Angular、Lit、Flutter、SwiftUI 與 Jetpack Compose 的開源渲染器(Compose 渲染器為 0.9.1 版,1.0 版即將推出),以及 Python、TypeScript 與 Dart 的代理 SDK。Atlassian 正將 A2UI 引入 Jira,Alation 在 Claude 中以它渲染其資訊流,而字節跳動於 2026 年 6 月發布了 Lynx 渲染器,目前支援 0.9 版。

    推薦理由:Google 穩定的 A2UI 1.0 協議讓代理能回傳原生互動式畫面,而非大段文字,並提供網頁、Android 與 iOS 的渲染器,早期採用者包括 Atlassian 與字節跳動。

11月10日星期二
  1. Amazon Science62

    Amazon 發布 Mitra-v2 表格基礎模型,採用規模化合成預訓練

    Amazon 推出 Mitra-v2,這是第二代用於分類與迴歸的表格基礎模型,隨附微調後的模型以及推論與微調程式碼,以 Apache-2.0 授權在 Hugging Face 上發布。它是在合成表格上預訓練的,列數是 Mitra-v1 的 10 倍、欄數約為 3 倍,採用新的混合 SCM 先驗與混合優化器,同時保持 Transformer 架構不變。在涵蓋 51 個真實世界資料集的公開基準 TabArena 上,Mitra-v2 在單一模型領域領先,在兩者皆原生執行的 33 個資料集中有 32 個勝過 Mitra-v1,並在一小時預算內完成全部 51 個資料集;微調後的 Mitra-v2 也在 ScoringBench 上排名第一。

    推薦理由:Mitra-v2 顯示,擴大合成預訓練資料而非加深網路,能將表格基礎模型推上 TabArena 單一模型領域的頂端。

  2. Goodfire Research62

    Goodfire 研究 Qwen3.6-35B-A3B 神經元作為可解釋基礎

    Goodfire Research 發表一項研究,主張 Qwen3.6-35B-A3B 中的個別 MLP 神經元比一般假設更具可解釋性,其依據來自稀疏化、歸因工具與研究代理。每次前向傳播中消融最弱的 92.2% MoE 神經元活化,語言模型損失僅上升 2.9%,且 69% 的神經元極點有單一模式對其因果效應貢獻至少 90%。自然語言的神經元描述讓評審模型在對抗隨機文本時以 95% 準確率預測激發,並透過模擬恢復 73% 的消融損害。

    推薦理由:Goodfire 對 Qwen3.6-35B-A3B 神經元的研究主張,僅靠強活化就承載了模型的大部分計算,為特徵字典可解釋性提供了一個具體的替代方案。

  3. Google Developers Blog72

    Google AI Edge Gallery 新增裝置端語音辨識與文字轉語音功能

    Google 在 Google AI Edge Gallery 中推出裝置端自動語音辨識(ASR)與文字轉語音(TTS),讓應用程式能完全離線執行多語言 ASR 與富表現力的 TTS,並可與 Gemini Nano、Gemma 4 等裝置端 SLM 並行運作。在 Android 上,ML Kit 的新語音模型能以 10 倍即時速度轉錄 100 多種語言,在 FLEURS 上的字錯誤率(WER)為 8.0% 至 9.0%;而少步擴散 TTS 約 100 毫秒即可開始發聲,並以最高 50 倍即時速度生成 24 kHz 音訊。跨平台支援透過 MediaPipe Tasks 與 LiteRT 提供,包含 Parakeet-TDT 0.6B、PocketTTS 100M、Kokoro-82M 與 Phonon 31M 等開放權重套件,並在 XR Language Teacher 展示與語音版 AI Chat 中示範。

    推薦理由:Google 為 AI Edge Gallery 加入完全離線的 ASR 與 TTS,ML Kit 回報可 10 倍即時速度轉錄 100 多種語言,擴散 TTS 約 100 毫秒即可開始發聲。

11月9日星期一
  1. NVIDIA Blog70

    NVIDIA 在 CoRL 發表 GR00T 2 世界動作模型與 Isaac Lab 3.0

    NVIDIA 在 CoRL 推出 GR00T 2,這是一個建構於 Cosmos 之上的開放世界動作模型,以 10 萬小時的人類第一人稱視角資料訓練,同時發表 Isaac Lab 3.0 與新的機器人基準測試。GR00T 2 在沒有任務特定示範的情況下,於 50 項受評任務中至少完成 40 項;在每項任務各給一次示範的條件下,50 項任務平均成功率達 71%,給五次示範則升至 95%。Isaac Lab 3.0 加入 Newton 物理整合以支援可變形物體,並在一個基於視覺的靈巧操作基準測試中,回報其訓練吞吐量最高可達搭載 PhysX 的 Isaac Lab 2.3 的 2.5 倍。

    推薦理由:NVIDIA 在 CoRL 的發布顯示,模擬加上世界動作模型如今已鎖定精細組裝作業,GR00T 2 與 Isaac Lab 3.0 的細節值得與先前的機器人技術堆疊相互比較。

  2. Zyphra Research78

    Zyphra 發布 ZONOS3-Mini:一款可在裝置端執行的 Apache 2.0 零樣本語音複製 TTS 模型

    Zyphra 發布 ZONOS3-Mini,這是一款稀疏 MoE 文字轉語音模型,具備 1 億活躍參數與 8 億總參數,採用 Apache 2.0 授權,以 112 張 NVIDIA H100 訓練 2.5 天。它在 Pixel 9 的瀏覽器上可達到低於 570 毫秒的首次音訊延遲,在 M3 MacBook Air 上則低於 150 毫秒,並提供 WebGPU、SGLang、vLLM 與 GGML 的執行環境。該模型新增對身分、口音、品質、情緒與表達方式的控制,包括詞級引導,且 Zyphra 表示它在其新的 ZTTS2-Eval 基準測試中於開源模型裡排名第一。

    推薦理由:Zyphra 這款精巧的 MoE TTS 模型將零樣本語音複製與詞級表達控制結合,同時能在手機與筆記型電腦上即時執行。

  3. Google Developers Blog60

    Google Cloud MaxText 新增上下文平行處理,支援 TPU 上的長上下文訓練

    Google Cloud 在 MaxText v0.2.4 中發布長上下文訓練支援,這是其開源的 JAX 訓練框架,在 Cloud TPU 上新增四種上下文平行策略:All-gather、A2A(DeepSpeed Ulysses)、P2P(Ring Attention)以及 A2A + P2P 混合(USP)。以 Llama 3.1 8B 進行的基準測試在 TPU 5p 上、序列長度最高達 400 萬個 token 時達到 70% MFU,上下文在 TPU 5p 和 TPU 7 上均擴展至 1400 萬個 token,其中 TPU 7 在低於 600 萬個 token 時維持 50% MFU。此版本已於 PyPI、Docker 映像檔和 GitHub main 上發布,並附有 TPU 7 和 TPU 5p 的範例配方。

    推薦理由:MaxText 在 Cloud TPU 上的四種上下文平行策略,加上 Llama 3.1 8B 的基準 MFU 數據,為團隊在選擇如何進行數百萬 token 序列長度的訓練時提供了具體參考。

11月6日星期五
  1. vLLM Blog77

    REINFORCE Zero:核心對齊讓非同步 RL 在策略延遲 64 下穩定訓練,並擴展至 DeepSeek-V4.1 與 Kimi K3.1

    NVIDIA Research 與 Inferact 的 REINFORCE Zero 論文顯示,對齊 rollout 與訓練器的核心,可讓未裁剪的 token 級重要性取樣修正剩餘的權重延遲,在策略延遲 64 下穩定訓練 20,000 次更新,並在核心對齊時達到同步訓練 2.40 倍的訓練步吞吐量。使用標準核心時,rollout 到學習器的 KL 中位數在整個訓練過程中上升 83.33 倍,線上 AIME24 pass@1 從 34.27% 降至 13.96%,而序列閘門雖能穩定訓練,但在最後 1,000 次更新時會拒絕 24.48% 的序列。零不匹配設定現已涵蓋 DeepSeek-V4.1-Flash、發布當日的 Kimi K3.1,以及在 AMD MI355X 上的 DeepSeek-V4-Flash 與 Kimi K3.1,程式碼位於 Inferact/zero-mismatch-rl 與 NVIDIA-NeMo/labs-molt。

    推薦理由:NVIDIA Research 與 Inferact 將非同步 RL 的 rollout 與學習器差距拆分為權重延遲與核心不匹配,顯示對齊核心可讓未裁剪的重要性取樣在策略延遲 64 下維持穩定訓練。

  2. OpenClaw Blog69

    OpenClaw 推出多人模式,支援共享 Agent 與上下文

    OpenClaw 已推出 Multiplayer,這是一項免費且開源的功能,讓多個人可以連接到同一個 OpenClaw Agent 和工作區,提示會即時顯示在各自的筆記型電腦上,請求則透過共享佇列進行協調。在舊金山 GitHub Universe 的演示中,兩位與會者分別在各自的機器上輸入提示,共同編輯同一個 3D 場景,而無需重新陳述上下文。OpenClaw 基金會表示,已有 50 多人在同一個共享環境中協作,並將持續擴展這項功能。

    推薦理由:OpenClaw 將多人共享同一 Agent 與上下文做成免費開源功能,為團隊協作中反覆重建上下文的問題提供了一種可遷移的做法。

11月5日星期四
  1. Preferred Networks News71

    PFN 發布 PLaMo 3 Translate 開源權重翻譯 LLM,鎖定邊緣裝置

    Preferred Networks 於 11 月 5 日在 Hugging Face 上,以開源權重模型形式發布 PLaMo 3 Translate,這是其 PLaMo Translation 服務所採用的翻譯專用 LLM。共有 0.8B、2B、8B 與 31B 四種規模,支援包含日文與英文在內的 53 種語言,可在智慧型手機、筆記型電腦與內部伺服器上執行,無需連線雲端。

    推薦理由:PFN 發布翻譯專用 LLM,提供從 0.8B 到 31B 的四種規模,讓企業與個人能在裝置端執行 53 種語言的翻譯,無需雲端存取。