Anthropic Research·· 12 天前精选AI 评分70
Anthropic 发布 FlashProve:一个用于可验证 LLM 推理的开源 zkSNARK 系统
Progress on provable inference for large language models
AI 导读
Anthropic 发布了 FlashProve,这是一个开源原型,使用 zkSNARK 证明某个响应来自一个已承诺的模型,而无需暴露其权重。在 Llama 4 Maverick(400B 参数 MoE,4 位权重)上,单张 H100 以约 110 tokens/秒的速度生成证明,每 1,024 token 请求的证明大小约 19 MB,约为 vLLM 完成相同工作所需 GPU 时间的 70-95 倍。该发布包含可执行的证明器和验证器代码、一个 C++ 快速验证器、一个 Lean 验证器(其完备性、可靠性和零知识性陈述经机器检查),以及一份技术报告,全部采用 Apache 2.0 许可。
推荐理由
Anthropic 的 FlashProve 表明,基于 zkSNARK 的推理证明对于一个 400B 参数的 MoE 模型正变得实用,并提供了开放代码和经 Lean 检查的安全性声明。
来源:Anthropic Research · anthropic.com