跳到正文
今天11月13日周五1 条
  1. Hacker News · AI85

    取证分析将六个中国前沿模型与受出口管制的NVIDIA Blackwell GPU联系起来

    Unemployment Labs对已发布模型权重的取证分析发现,来自DeepSeek、Moonshot AI、MiniMax和蚂蚁集团的六个模型是在NVIDIA Blackwell硬件上初始化的,而同一批实验室的早期模型则与Hopper匹配。该方法从保留的权重中恢复每个模型的随机种子和线程布局,作者称这些匹配已在物理H100、B300和GB200芯片上复现。报告估计每次训练运行需要在两到三个月内使用大约500到3,000块Blackwell GPU,并指出这些证据无法确定芯片所在位置,也无法确定是否违反了出口管制。

    推荐理由:该报告仅从已发布的模型权重中获取硬件证据,提供了一种可复现的方法来追踪是哪些GPU初始化了模型,而无需依赖泄露信息。

11月12日周四
  1. OpenRouter Announcements28

    如何对 LLM 进行基准测试:来自 OpenRouter 的代码评分指南

    OpenRouter 发布了一份指南,介绍如何基于你自己应用的输入对 LLM 进行基准测试,用代码对输出评分,并比较准确率、计费成本和请求时间。在其 60 个合成任务上,GPT-6.1 Sol 在三次重复中共通过 180/180 次试验,而 DeepSeek 的响应成本最低,通过 157/180 次。与公开排名的吻合度较弱,Spearman 相关系数为 0.109。

  2. vLLM Blog72

    vLLM 在 Vera Rubin NVL72 上服务 DeepSeek-V4.1-Flash,吞吐量达 GB300 NVL72 的 58 倍

    vLLM 报告称,在单台 NVIDIA Vera Rubin NVL72 机架上服务 DeepSeek-V4.1-Flash,每 GPU 达到 170 万 tokens/s,每用户 387 tokens/s,是 GB300 NVL72 的 58 倍,峰值达 252 万 tokens/s,单用户达 1,810 tokens/s。性能提升来自为 Rubin 的分裂内存域和 FP4 张量核心重建的 kernel、专用的 TP8 解码路径,以及通过 NVLink 共享的机架级 KV 和 Engram 池。借助跨机架池化前缀和 Dynamo 工作负载感知路由,即使在高并发下前缀命中率也保持在 96.5-97%。

    推荐理由:vLLM 关于 DeepSeek-V4.1-Flash 的第三篇文章详细说明了 Rubin 专用 kernel 和机架级内存池化如何将吞吐量提升至 GB300 NVL72 的 58 倍,为大规模服务优化提供了具体参考。

11月10日周二
  1. Recode China AI38

    偏远的中国城市乌兰察布成为人工智能新兴城市和年轻工人的磁石

    乌兰察布曾是内蒙古一个鲜为人知的城市,随着数据中心在其草原上遍布,它已成为新兴的人工智能计算中心,吸引着来自中国各地的年轻工人。快手于2023年在那里开始运营其首个自建数据中心,DeepSeek今年4月发布了高级运维岗位的招聘广告,月薪最高达3万元人民币(4200美元)。劳动力市场如今正趋于饱和,雇主提高了招聘标准,一些雇主只考虑本科学历持有者。

11月8日周日
  1. Recode China AI22

    苹果在中国区 Apple Intelligence 中测试 Qwen,腾讯为 Hy4 增加视觉能力

    苹果本周开始在中国区 Apple Intelligence 内对 Qwen 进行开发者测试,计划于 12 月随 iOS 27.3 推出,以用户主动选择的方式将 Qwen 引入 Siri、写作工具和视觉智能。腾讯 11 月 4 日发布的 Hy4 增加了视觉推理与计算机使用能力,百度、月之暗面、蚂蚁和美团也发布或推出了新模型。

11月6日周五
  1. vLLM Blog77

    REINFORCE Zero:内核对齐使异步强化学习在策略滞后64时保持稳定,并扩展至DeepSeek-V4.1和Kimi K3.1

    NVIDIA Research与Inferact的REINFORCE Zero论文表明,对齐rollout与训练器内核后,未裁剪的token级重要性采样能够纠正剩余的权重滞后,在策略滞后64时稳定训练20,000次更新,并在内核对齐的情况下达到同步训练训练步吞吐量的2.40倍。使用标准内核时,整个运行过程中rollout到学习器的KL中位数上升83.33倍,在线AIME24 pass@1从34.27%降至13.96%,而序列门控虽能稳定训练,但在最后1,000次更新时拒绝了24.48%的序列。零失配设置现已覆盖DeepSeek-V4.1-Flash、发布当日的Kimi K3.1,以及AMD MI355X上的DeepSeek-V4-Flash和Kimi K3.1,代码位于Inferact/zero-mismatch-rl和NVIDIA-NeMo/labs-molt。

    推荐理由:NVIDIA Research与Inferact将异步强化学习的rollout-学习器差距拆分为权重滞后和内核失配,表明对齐内核可使未裁剪的重要性采样在策略滞后64时保持稳定训练。

11月3日周二
  1. Recode China AI40

    中国AI如何找到自己的人设:DeepSeek的粉丝自制鲸鱼女孩与AI品牌人性化转向

    DeepSeek的粉丝创作动漫吉祥物“鲸鱼女孩”(昵称“大胖蓝鱼”)在Bilibili走红,创作者ZipZipPipe使用GPT Image 2改编了一个早期角色,热度在DeepSeek-V4.1-Flash发布前后达到顶峰。该角色从未获得DeepSeek官方认可,却折射出更广泛的转变:中国AI实验室从ERNIE、GLM等英文缩写,转向文心、千问等中文名称,再转向字节跳动豆包这类有亲和力的人设。

11月2日周一
  1. Import AI42

    Import AI 479:Spacewar、低延迟任务与LLM的对比、Genie 4

    Import AI 479 介绍了 Realtime-Bench,这是一个包含 50 项任务的基准测试,由 UT Austin、Ohio State、UIUC、NVIDIA、Northwestern 和 Steadyworks 的研究人员构建,包含 30 项网页任务和 20 项游戏任务,用于测试前沿模型能否在实时压力下行动。GPT-6 Astra(high)取得了最高的实际耗时通过率,为 36%,而在暂停计时的运行中,高推理模型可达到约 70% 至 80%。本期还涵盖了国防情报局的《太空安全挑战》报告以及 Genie 4。

11月1日周日
  1. Recode China AI22

    长鑫存储进军HBM3E,宇树科技三季度营收增长70%,中国股市下滑

    长鑫存储公布第三季度净利润544亿元人民币,营收1187.1亿元人民币,同比增长613.2%;路透社称其已向国内芯片设计公司发送HBM3E样品,计划在两个月内进行有限量产,尽管良率仅为20%至30%。宇树科技上市后首份财报显示,第三季度营收增长69.9%至6.65亿元人民币,研发支出增长约250%。月之暗面发布Kimi K3.1 Pro,上下文窗口达100万token,随后就速率限制致歉,并恢复了订阅用户月度额度的四分之一。

10月25日周日
  1. Recode China AI38

    DeepSeek 150亿美元融资、Moonshot 发布 Kimi K3.1 Pro,以及中国 AI 就业政策

    据报道,DeepSeek 以 5000 亿元人民币的投前估值完成了约 1000 亿元人民币融资,腾讯和宁德时代是最大的投资方之一。Moonshot AI 发布了 Kimi K3.1 Pro,具备一百万 token 的上下文窗口,并推出号称运行速度快两到三倍的 Highspeed 版本,在 Terminal-Bench 4.0 上得分 65.7%。中国国务院发布指导意见,提出涵盖六大领域的 18 项任务,将 AI 驱动的就业创造与应对岗位流失的措施相结合。

10月22日周四
  1. SemiAnalysis75

    华为与DeepSeek的共生关系:昇腾950PR基准测试及DeepSeek的昇腾内核支持

    SemiAnalysis考察了华为与DeepSeek的合作关系,对昇腾950PR(28个cube核心、128 GiB HBM)进行了基准测试,并回顾了DeepSeek于9月30日发布的针对TileLang、DeepGEMM、DeepEP、TileKernels、FlashMLA和DeepSelect的昇腾支持。950PR的峰值HBM带宽达到1.6384 TB/s,在小消息尺寸下带宽利用率超过H100,而其计算利用率中位数为41.5%,H100为46.8%;目前只有TileLang可用,因为所需的CANN 9.2.0在撰写时尚未发布。作者认为,尽管华为硬件落后,但其软件栈已接近前沿水平,并指出大多数优化针对超节点,而vLLM-Ascend在x86主机上仍无法开箱即用。

10月18日周日
  1. Recode China AI40

    中国拟议AI出口管制,DeepSeek押注机器人,Infinigence融资3.34亿美元

    中国商务部和科技部拟将AI模型、智能体、芯片设计和计算集群列入技术出口管制目录,草案规则将API、应用和SaaS访问排除在外。据报道,DeepSeek计划领投机器人AI初创公司Winverse AI的种子轮,而Infinigence AI完成了23亿元人民币的C轮融资。DeepSeek还发布了V4.1-Flash-1017,采用MIT许可的权重和100万token的上下文窗口。

10月13日周二
2025年5月28日周三
  1. Vapi Blog30

    面向语音 AI 开发者的 DeepSeek R1 与 V3 对比

    DeepSeek V3 每秒处理的 token 数量比 R1 多 47%,每百万输出 token 收费 0.28 美元;R1 每百万输出 token 收费 2.19 美元,并会为更难的任务运行内部推理循环。R1 在 MATH-500 上得分 97.3%,在 AIME 2024 上得分 79.8%;V3 则分别为 90.2% 和 39.2%。多数团队将 80-90% 的简单查询交给 V3,把复杂推理工作交给 R1。