跳至正文
  1. Hugging Face Blog69

    IBM 發布基於 Granite 4.1 3B 與 8B 的 LLMON 預覽模型

    IBM 發布了兩個實驗性預覽模型 granite-4.1-3b-LLMON-preview 與 granite-4.1-8b-LLMON-preview,它們衍生自 Granite 4.1 基礎檢查點,並經過訓練以讀取與生成 LLMON——一種 LLM 原生標記語言,以保留的特殊 token 定界符標示指令、資料與需求。在 OPI 基準上,這些模型比測試中最佳的前沿模型多避開 47% 的間接提示注入攻擊,比最佳的開源模型多避開 95%,同時在標準基準上的表現與 Granite 4.1 Instruct 相當。此次發布包含一個 GitHub 工具包,內含無損的 JSON 轉 LLMON 轉換器,作者指出此預覽版僅供探索,並非用於生產環境。

    推薦理由:IBM 在 Granite 4.1 上訓練出能讀寫 LLMON 標記的預覽模型,透過顯式分離指令與資料,將 OPI 基準上的間接提示注入成功率壓到接近零,同時保持通用能力。

  1. Google DeepMind72

    DeepMind 發布 AlphaGenome 2,一款可預測特定細胞類型中變異影響的 DNA 模型

    Google DeepMind 宣布推出 AlphaGenome 2,這是一款新一代 DNA 序列模型,可預測 DNA 序列及其變異如何影響特定的人類細胞類型。該條件模型基於 68 種組織中超過 1.07 億個單細胞圖譜訓練,識別出的改變表現的變異數量幾乎是前代模型的兩倍;在 TenK10K 免疫細胞資料集上,它找回了 30% 的因果變異,而原始 AlphaGenome 在單細胞資料上微調後僅找回 16%。該模型可透過 AlphaGenome API 供非商業研究使用,商業研究則可透過私人預覽取得。

    推薦理由:AlphaGenome 2 從大量組織平均值轉向單細胞條件化,在免疫細胞資料上將因果變異召回率大致提高了一倍,這對於將 GWAS 訊號連結到特定細胞類型具有重要意義。

  1. Amazon Science62

    Amazon 發布 Mitra-v2 表格基礎模型,採用規模化合成預訓練

    Amazon 推出 Mitra-v2,這是第二代用於分類與迴歸的表格基礎模型,隨附微調後的模型以及推論與微調程式碼,以 Apache-2.0 授權在 Hugging Face 上發布。它是在合成表格上預訓練的,列數是 Mitra-v1 的 10 倍、欄數約為 3 倍,採用新的混合 SCM 先驗與混合優化器,同時保持 Transformer 架構不變。在涵蓋 51 個真實世界資料集的公開基準 TabArena 上,Mitra-v2 在單一模型領域領先,在兩者皆原生執行的 33 個資料集中有 32 個勝過 Mitra-v1,並在一小時預算內完成全部 51 個資料集;微調後的 Mitra-v2 也在 ScoringBench 上排名第一。

    推薦理由:Mitra-v2 顯示,擴大合成預訓練資料而非加深網路,能將表格基礎模型推上 TabArena 單一模型領域的頂端。

  1. Mistral AI71

    Mistral 發布 Timestral 時間序列基礎模型,在 GIFT-Eval、TIME 與 fev-bench 上奪冠

    Mistral 發布 Timestral,這是其首個時間序列基礎模型系列,共有 5M 至 209M 參數四種規模。其中最大的模型在 GIFT-Eval、TIME 與 fev-bench 這三個主要公開基準上,於單一檢查點、未使用集成方法的預訓練零樣本模型中排名第一,且僅使用前代最先進模型三分之二的參數。Timestral 可產生具 21 個分位數的機率性多變量預測,支援僅過去與已知未來的共變量,可在無 GPU 的 CPU 上執行,並可透過 Mistral Forge 進行微調,同時在修改版 MIT 授權下發布了 GitHub 儲存庫與技術報告。

    推薦理由:Mistral 首個時間序列基礎模型系列以 209M 參數的檢查點,宣稱在 GIFT-Eval、TIME 與 fev-bench 上取得零樣本排名第一,為預測工作提供了規模與準確度的取捨參考。

已經到底了