跳到正文
热点事件持续更新

Domyn 在 JUPITER 上开展近 1 万亿参数的 EUROPA 训练试验

1 篇报道1 个报道来源19 小时前更新

先了解这件事

AI 综述

总部位于米兰的 Domyn 公司是欧盟支持的 EUROPA 联盟的主导者,该公司已在德国于利希的 JUPITER 超级计算机上,对欧盟的开放 AI 模型进行了训练试验,采用的测试配置为 9519 亿参数——超过欧盟委员会 4000 亿参数下限的两倍多。该混合专家设计将网络拆分为 384 个专家,每个 token 仅激活其中 8 个,使每个 token 的激活参数为 328 亿;Domyn 表示,工程修复将吞吐量从每 GPU 每秒 90 个 token 提升至 1,293 个 token。 Domyn 尚未发布 EUROPA 的权重,并表示将在模型发布时一并公布其训练方法的细节。该公司指出,这些数字来自其试验,且“部分数值在训练正式启动前可能发生变化”,同时未给出完整训练的时间、训练数据、许可证或基准测试结果。在 JUPITER 上,Domyn 仅拥有用户级访问权限。

AI 根据报道生成 · 19 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月15日
  1. Hacker News · AI
    欧盟开放AI模型EUROPA在JUPITER超级计算机上进行近1万亿参数训练试验

    领导欧盟支持的EUROPA联盟的米兰公司Domyn在德国于利希的JUPITER超级计算机上对该开放模型进行了训练试验,测试配置为9519亿参数,是欧盟委员会4千亿最低要求的两倍多。该混合专家设计将网络拆分为384个专家,每个token仅激活8个,因此每个token激活328亿参数,Domyn称工程修复将吞吐量从每GPU每秒90个token提升至1,293个token。Domyn尚未发布EUROPA的权重,该文章未给出完整训练运行的时间、训练数据、许可证或基准测试结果。

本事件热度走势

可比范围当前
6
可比范围峰值
1011月15日 22:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。