跳至正文
熱點事件持續更新

Domyn 在 JUPITER 上進行近 1 兆參數的 EUROPA 訓練試驗

1 篇報導1 個報導來源19 小時前更新

先了解這件事

AI 綜述

總部位於米蘭、領導歐盟支持的 EUROPA 聯盟的 Domyn,已在德國於利希的 JUPITER 超級電腦上,對歐盟的開放 AI 模型進行訓練試驗,採用 9,519 億參數的測試配置——是歐盟委員會 4,000 億參數下限的兩倍多。其混合專家設計將網路拆分為 384 個專家,每個 token 僅有 8 個處於活躍狀態,使每個 token 有 328 億參數處於活躍狀態;Domyn 表示,工程修正將吞吐量從每 GPU 每秒 90 個 token 提升至 1,293 個 token。 Domyn 尚未釋出 EUROPA 的權重,並表示將在模型發布時一併公布其訓練方法的細節。該公司指出,這些數字來自其試驗,且「部分數值在訓練正式開始前可能有所變動」,並未提供完整訓練的日期、訓練資料、授權條款或基準測試結果。在 JUPITER 上,Domyn 僅擁有使用者層級存取權限。

AI 依報導生成 · 19 小時前更新

報導時間線

沿著報導,了解事件的不同側面。

11月15日
  1. Hacker News · AI
    歐盟開放式 AI 模型 EUROPA 在 JUPITER 超級電腦上進行近 1 兆參數的訓練試驗

    主導歐盟支持的 EUROPA 聯盟的米蘭公司 Domyn,在德國於利希的 JUPITER 超級電腦上對這個開放模型進行了訓練試驗,測試配置為 9519 億參數,是歐盟委員會 4000 億最低要求的兩倍多。混合專家設計將網路拆分為 384 個專家,每個 token 僅有 8 個處於活躍狀態,因此每個 token 有 328 億參數處於活躍狀態,Domyn 表示工程修復將吞吐量從每 GPU 每秒 90 個 token 提升至 1,293 個 token。Domyn 尚未發布 EUROPA 的權重,該文章未給出完整訓練運行的日期、訓練資料、授權條款或基準測試結果。

本事件熱度走勢

可比範圍當前
6
可比範圍峰值
1011月15日 22:00
近 24 小時變化
–

趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點擊圖表查看每小時熱度;鍵盤可用左右方向鍵切換。