跳到正文
  1. Anthropic Research71

    Anthropic 在真实电子设计中测试 Claude Fable 5.2

    Anthropic 报告称,Claude Fable 5.2 仅凭极简提示就设计了三款电子设备——免提扬声器、语音助手中枢和手持虚拟宠物,Diode Computers 依据其设计文件制作出可工作的原型,且未做电路修正。在 Diode 内部的 PCB Gym 基准上,Fable 5.2 得分 69%,而 Fable 5 为 25%;在公开的 BenchCAD 2.1 上达到 83.5%,几乎是 Claude Fable 5.1 的两倍。这些设备仍是原型,尚未经过电气验证、天线调谐、热测试或认证,Claude 也未连接测试设备或制造机器。

    推荐理由:Anthropic 亲自披露 Claude Fable 5.2 设计出三款可工作的电子设备,表明模型已从局部 PCB 布局推进到端到端硬件原型制作。

  1. vLLM Blog77

    REINFORCE Zero:内核对齐使异步强化学习在策略滞后64时保持稳定,并扩展至DeepSeek-V4.1和Kimi K3.1

    NVIDIA Research与Inferact的REINFORCE Zero论文表明,对齐rollout与训练器内核后,未裁剪的token级重要性采样能够纠正剩余的权重滞后,在策略滞后64时稳定训练20,000次更新,并在内核对齐的情况下达到同步训练训练步吞吐量的2.40倍。使用标准内核时,整个运行过程中rollout到学习器的KL中位数上升83.33倍,在线AIME24 pass@1从34.27%降至13.96%,而序列门控虽能稳定训练,但在最后1,000次更新时拒绝了24.48%的序列。零失配设置现已覆盖DeepSeek-V4.1-Flash、发布当日的Kimi K3.1,以及AMD MI355X上的DeepSeek-V4-Flash和Kimi K3.1,代码位于Inferact/zero-mismatch-rl和NVIDIA-NeMo/labs-molt。

    推荐理由:NVIDIA Research与Inferact将异步强化学习的rollout-学习器差距拆分为权重滞后和内核失配,表明对齐内核可使未裁剪的重要性采样在策略滞后64时保持稳定训练。

  1. OpenAI Alignment Blog60

    OpenAI详细说明用于安全与对齐的训练激活分类器

    OpenAI描述了训练激活分类器(即探针)的方法,这些探针读取模型内部的残差流激活,以标记助手输出中不对齐或违反策略的完成内容,并表示已从GPT-5.6开始在其最强模型的内部和外部流量上部署这些探针。探针采用Attention probe架构,包含MLP加QV-attention以及指数移动平均,使用由推理模型评判器标注的最多100万条消息进行训练,并在推理引擎上以流式方式运行,因此可以在回合中途阻止某个完成内容。OpenAI报告称,探针在许多后训练阶段之间具有出色的迁移能力,但在预训练检查点之间的迁移较为有限,并表示在其红队测试中,探针总体上比基于内容的分类器对越狱更具鲁棒性。

    推荐理由:OpenAI详细说明了基于模型内部激活的激活探针如何作为流式安全层发挥作用,包括其在跨检查点迁移方面的局限以及重新训练的需求。

  1. Anthropic Research70

    Anthropic 发布 FlashProve:一个用于可验证 LLM 推理的开源 zkSNARK 系统

    Anthropic 发布了 FlashProve,这是一个开源原型,使用 zkSNARK 证明某个响应来自一个已承诺的模型,而无需暴露其权重。在 Llama 4 Maverick(400B 参数 MoE,4 位权重)上,单张 H100 以约 110 tokens/秒的速度生成证明,每 1,024 token 请求的证明大小约 19 MB,约为 vLLM 完成相同工作所需 GPU 时间的 70-95 倍。该发布包含可执行的证明器和验证器代码、一个 C++ 快速验证器、一个 Lean 验证器(其完备性、可靠性和零知识性陈述经机器检查),以及一份技术报告,全部采用 Apache 2.0 许可。

    推荐理由:Anthropic 的 FlashProve 表明,基于 zkSNARK 的推理证明对于一个 400B 参数的 MoE 模型正变得实用,并提供了开放代码和经 Lean 检查的安全性声明。

  1. Amazon Science75

    Amazon Web Services 研究人员提出 priming,可将预训练 Transformer 转换为混合状态空间模型而无需完全重新训练

    Amazon Web Services 研究人员提出 priming,一种复用预训练 Transformer 权重的方法,可将混合状态空间架构的预训练成本降低 99% 以上,仅使用源模型预训练 token 预算的不到 0.5%。在受控比较中,Gated KalmaNet 优于 Gated DeltaNet 和 Mamba-2,而基于 GKA 的 32B 混合模型在推理基准上与源 Transformer 表现相当,同时在 128,000 token 上下文下解码速度最高可达两倍。团队以 Apache 2.0 许可证发布了 8B 和 32B 的 primed 混合模型、训练代码、Triton 内核以及 vLLM 服务插件。

    推荐理由:Amazon Web Services 研究人员表明,复用预训练 Transformer 权重可将混合架构预训练成本降低 99% 以上,使状态空间层的受控比较变得可行。

  1. Goodfire Research71

    Goodfire 在 Kimi K3 和 GLM 5.3 上训练并部署基于探针的网络滥用监控器

    3 并将其部署到生产推理栈上,由廉价探针过滤对话轮次,只有可疑交互才会进入 LLM 裁判。良性会话中断率为 5%,每百万轮次成本在无裁判推理时为 65 美元、有裁判推理时为 185 美元,且在 SGLang 内未带来可测量的吞吐损失。

    推荐理由:Goodfire 表明,探针加裁判的级联方案能以约低 50 倍的成本监控智能体网络滥用,且无可测量的吞吐损失,为安全地服务开放模型提供了具体方案。

已经到底了