Edge0 開源 145B 與 120B 端側模型
先了解這件事
Edge0 已開源其 Edge0-145B 與 Edge0-120B 模型,連同統一推理框架與部署工具,並表示 Edge0-145B 是首個可在端側運行的開源 145B 參數模型。該公司稱,在相容的筆記型電腦上,145B 模型需要 29GB 峰值記憶體,預填充速度超過 1,100 tokens/s,解碼速度超過 80 tokens/s,功耗約 120W,上下文為 128K–256K。Edge0 表示核心能力可離線使用,無需帳號或使用額度,首日支援涵蓋 macOS、Windows 與 Linux,包括 Apple M 系列晶片以及 NVIDIA RTX Spark、RTX 4090 與 RTX 5090。 Edge0 引用內部評分:DeepSWE 1.1 為 64.6,Terminal-Bench 2.1 為 86.52,GPQA-Diamond 為 90.4,IFBench 為 80.6,並表示權重已發佈在 Hugging Face 上。該公司還表示,算力極低的裝置目前無法在本機運行 145B 模型。
AI 依報導生成 · 15 小時前更新
報導時間線
沿著報導,了解事件的不同側面。
- Hacker News · AI精選Edge0 開源 Edge0-145B 與 Edge0-120B 端側模型及推理框架
Edge0 開源了 Edge0-145B 與 Edge0-120B,以及其統一推理框架與部署工具,並宣稱 Edge0-145B 是首個開源的 145B 參數端側模型。該公司報告在相容筆記型電腦上峰值記憶體 29GB、預填速度 1,100+ tokens/s、解碼速度 80+ tokens/s、典型功耗約 120W,上下文長度 128K–256K。其引用內部評分:DeepSWE 1.1 為 64.6、Terminal-Bench 2.1 為 86.52、GPQA-Diamond 為 90.4、IFBench 為 80.6,並表示權重已發布於 Hugging Face,首日即支援 macOS、Windows 與 Linux。
本事件熱度走勢
還沒有足夠的連續觀測資料,暫不繪製趨勢。