跳至正文

公司與模型

Hugging Face 最新動態

Hugging Face 社群的熱門開源模型、資料集、工具與榜單變化。

2 條精選近 30 天 2 條共收錄 12 條

11月13日 04:53更新

Hugging Face

今天11月13日星期五第 1–2 條 / 共 2 條
  1. Hugging Face Blog69

    IBM 發布基於 Granite 4.1 3B 與 8B 的 LLMON 預覽模型

    IBM 發布了兩個實驗性預覽模型 granite-4.1-3b-LLMON-preview 與 granite-4.1-8b-LLMON-preview,它們衍生自 Granite 4.1 基礎檢查點,並經過訓練以讀取與生成 LLMON——一種 LLM 原生標記語言,以保留的特殊 token 定界符標示指令、資料與需求。在 OPI 基準上,這些模型比測試中最佳的前沿模型多避開 47% 的間接提示注入攻擊,比最佳的開源模型多避開 95%,同時在標準基準上的表現與 Granite 4.1 Instruct 相當。此次發布包含一個 GitHub 工具包,內含無損的 JSON 轉 LLMON 轉換器,作者指出此預覽版僅供探索,並非用於生產環境。

    推薦理由:IBM 在 Granite 4.1 上訓練出能讀寫 LLMON 標記的預覽模型,透過顯式分離指令與資料,將 OPI 基準上的間接提示注入成功率壓到接近零,同時保持通用能力。

11月10日星期二
  1. Hugging Face Blog60

    Hugging Face 解釋決策模型及其在 Transformers 與 llama.cpp 中的支援

    Hugging Face 發布了一篇關於決策模型的說明文章,這類模型接收狀態與具型別的問題,並回傳預定義答案上的機率,而非生成文字。文章詳細介紹了 choice、score 與 noul 原語、信心公式,以及透過 Transformers 的 DecisionPipeline 與 AutoModelForDecision 提供的新支援、Transformers 與 llama.cpp 中共用的 /v1/systemone 端點、用於探索的 Hub 標籤,以及使用 Trainer API 進行微調。文章指出,同一個端點也能透過在批次前向傳遞中對答案 logits 評分,與相容的自迴歸 LLM 搭配運作。

    推薦理由:Hugging Face 解釋了決策模型如何將分類轉變為具型別、非生成式的介面,並展示如何用 Transformers 與 llama.cpp 來服務與微調這些模型。