Edge0 开源端侧模型 Edge0-145B 与 Edge0-120B 及推理框架

Edge0 开源了 Edge0-145B 和 Edge0-120B，以及其统一推理框架和部署工具，并称 Edge0-145B 是首个开源的 145B 参数端侧模型。该公司报告称，在兼容笔记本上峰值内存为 29GB，预填充速度 1,100+ tokens/s，解码速度 80+ tokens/s，典型功耗约 120W，上下文长度为 128K–256K。它引用的内部得分为：DeepSWE 1.1 上 64.6，Terminal-Bench 2.1 上 86.52，GPQA-Diamond 上 90.4，IFBench 上 80.6，并表示权重已发布在 Hugging Face 上，首日即支持 macOS、Windows 和 Linux。