跳到正文
11月12日周四
  1. OpenRouter Announcements58

    OpenRouter 发布教程:如何阻止 AI Agent 陷入无限循环

    OpenRouter 发布了一份指南,介绍如何阻止 AI Agent 在工具调用失败后反复重试、陷入死循环,其中给出四种防护措施,并在六个当前模型上进行了测试。启用 doomLoop 检测后,六个模型均在第三次相同的工具调用时被拦截;在 18 次运行中,工具调用次数从 314 降至 64,花费从 $0.29 降至 $0.05。该指南还加入了用于规范化参数的 loopKey、对步数和成本的 stopWhen 上限,以及 API key 上的额度限制——触发时返回 402,limit_source 为 openrouter_key_limit。

  2. OpenRouter Announcements28

    如何对 LLM 进行基准测试:来自 OpenRouter 的代码评分指南

    OpenRouter 发布了一份指南,介绍如何基于你自己应用的输入对 LLM 进行基准测试,用代码对输出评分,并比较准确率、计费成本和请求时间。在其 60 个合成任务上,GPT-6.1 Sol 在三次重复中共通过 180/180 次试验,而 DeepSeek 的响应成本最低,通过 157/180 次。与公开排名的吻合度较弱,Spearman 相关系数为 0.109。

  3. vLLM Blog64

    vLLM-Omni 在 Vera Rubin 上对 MiniMax H3-Image 进行基准测试:0.87 秒生成 4K 图像,每小时 6,115 张

    vLLM-Omni 将 MiniMax H3-Image 引入 NVIDIA Vera Rubin,在四块 GPU 上测得原生 4096×4096 文本到图像的中位延迟为 0.87 秒,并在另一吞吐配置下达到每小时 6,115 张图像。H3-Image 是一个开放权重的文本到图像与编辑模型,将 Qwen3-VL 编码器与 33.1B 稠密 DiT 及图像 VAE 相结合,在六步采样内处理两项任务,最多支持 16 张参考图像。团队报告了 MXFP8 DiT GEMM、Ulysses SP4、AdaLN 缓存以及一项将解码时间从 2.635 秒缩短至 0.213 秒的 VAE 解码改动,并列出了面向 AMD、Intel、华为昇腾和摩尔线程硬件的配置方案。

    推荐理由:vLLM-Omni 的基准测试显示 MiniMax H3-Image 在 Vera Rubin 上以亚秒级 4K 延迟运行,并提供了各硬件配置及服务经济性成本模型。

  4. vLLM Blog72

    vLLM 在 Vera Rubin NVL72 上服务 DeepSeek-V4.1-Flash,吞吐量达 GB300 NVL72 的 58 倍

    vLLM 报告称,在单台 NVIDIA Vera Rubin NVL72 机架上服务 DeepSeek-V4.1-Flash,每 GPU 达到 170 万 tokens/s,每用户 387 tokens/s,是 GB300 NVL72 的 58 倍,峰值达 252 万 tokens/s,单用户达 1,810 tokens/s。性能提升来自为 Rubin 的分裂内存域和 FP4 张量核心重建的 kernel、专用的 TP8 解码路径,以及通过 NVLink 共享的机架级 KV 和 Engram 池。借助跨机架池化前缀和 Dynamo 工作负载感知路由,即使在高并发下前缀命中率也保持在 96.5-97%。

    推荐理由:vLLM 关于 DeepSeek-V4.1-Flash 的第三篇文章详细说明了 Rubin 专用 kernel 和机架级内存池化如何将吞吐量提升至 GB300 NVL72 的 58 倍,为大规模服务优化提供了具体参考。

  5. Apple Machine Learning Research38

    语言模型对齐的理论极限

    来自 Apple Machine Learning Research 的研究人员推导了 KL 正则化语言模型对齐的信息论极限,给出了在固定 KL 预算下最大期望奖励增益的闭式表达式,该增益由 Jeffreys 散度项而非先前分析中使用的 √KL 所支配。他们表明,理想对齐与代理对齐之间的差距(奖励黑客)随奖励误差和 KL 惩罚的缩小而增大,并证明奖励集成可以缓解这一问题。在安全与摘要任务上,best-of-N 紧密接近理论极限,而 PPO 和 GRPO 仍显著次优。

  6. Hugging Face Blog36

    Hugging Face 发布 TRELLIS.2 3D 生成微调指南与脚本

    Hugging Face 发布了 TRELLIS.2 的微调脚本和容器,该模型是一个 3D 生成模型,可在本地或 Hugging Face Jobs 上运行。该指南通过 PEFT 库使用 LoRA 适配器,仅作用于稀疏结构流 DiT 和形状流 DiT,材质阶段保持冻结。在 GSO 数据集的 188 个物体鞋类子集上,预训练模型经常渲染出错误的鞋底,这正是 LoRA 微调所针对的问题。

  7. Gary Marcus · The Road to AI We Can Trust83

    报道:英伟达据称准备解雇黄仁勋

    据Gary Marcus称,《华尔街日报》报道英伟达即将解雇黄仁勋。Marcus写道,该股在盘后交易中已经下跌,黄仁勋的离职可能会扰乱他精心策划的循环融资交易,从而引发一个问题:英伟达是否仍会履行其在IPO中向Anthropic承诺的数十亿美元。

    同一件事,精选收录的是《Nvidia stock falls as board reportedly prepares to remove CEO Jensen Huang》

  8. AWS Machine Learning Blog36

    在 Amazon Bedrock 上运行 OpenAI Codex:访问路径与上线指南

    本文介绍如何将 OpenAI Codex 模型请求路由到 Amazon Bedrock,同时复用现有的 AWS 身份、IAM、区域和可观测性实践。文章建议先通过 Native AWS Access 开展小规模最小权限试点,AgentCore Gateway 或 LLM Gateway 可作为替代方案,并演示了 IAM Identity Center 登录以及使用 GPT-5.6 Sol 直接检查 Bedrock Runtime 的流程。

  9. AWS Machine Learning Blog46

    在 Amazon SageMaker HyperPod 上检测并恢复静默数据损坏

    在 Amazon SageMaker HyperPod 上运行的 PyTorch DDP 训练循环新增了三项检查,用于捕获静默数据损坏:非有限梯度检查、跨节点比较 loss 位与梯度指纹的环形重放审计,以及优化器步骤后的权重指纹比较。在 4 台 ml.p5.48xlarge 实例(32 块 NVIDIA H100 GPU)上通过软件注入故障进行测试,这些检查能指出可疑的 rank、将其映射到节点,并让 HyperPod 替换该节点并从检查点恢复。

  10. TechCrunch · AI88

    英伟达股价下跌,据报道董事会准备罢免CEO黄仁勋

    据《华尔街日报》报道,英伟达董事会正准备罢免联合创始人兼CEO黄仁勋,他领导公司已有33年,最早将于周三召开会议决定其去留。此前,黄仁勋于周日承认与一名被美国情报部门称为中国间谍的女性有婚外情,且《纽约时报》周三报道称他还与一名向他汇报的高管有婚外情。英伟达股价周三盘后下跌约8%,过去五天累计下跌约11%,同时彭博社报道称公司正与外部机构合作寻找潜在的CEO候选人。

  11. AWS Machine Learning Blog41

    Amazon Bedrock AgentCore Web Search API 发布

    Amazon Bedrock AgentCore 现已提供独立的 Web Search API,开发者可直接从 AWS SDK 或 AWS CLI 调用 InvokeWebSearch,只需一次请求,无需创建任何资源。该 API 从 Amazon 运营的网页索引返回排序后的结果,每条结果包含文本摘录,并在可用时提供标题、URL 和发布时间,支持域名和日期筛选。请求使用 SigV4 和 IAM 签名,权限与 AgentCore Gateway 路由相同。

  12. AWS Machine Learning Blog36

    2026年10月AWS为AI构建者带来的更新:Claude Haiku 5.5、GPT-6.1 Terra、AgentCore CLI 1.0

    AWS的2026年10月汇总新增了Claude Haiku 5.5,Anthropic称其在大多数任务上的成本比Claude Haiku 4.5低约75%;此外还有在Amazon Bedrock上线的OpenAI GPT-6.1 Terra,支持最多100万输入token,价格至少比GPT-6.1 Sol和GPT-5.6 Terra低50%。AgentCore CLI达到1.0版本,AgentCore Gateway新增了模型回退和将Step Functions工作流作为agent工具的功能。

  13. Simon Willison71

    Google 发布 Gemini Decision 1 决策模型 API,支持多模态输入

    Google 发布了 Gemini Decision 1,这是一个决策模型 API,支持是/否、选择和评分标准打分类问题,与 Jev 和 OpenAI 一同进入决策模型类别。其定价为每百万输入 token 10 美分,输出免费;与 Jev 仅支持纯文本输入不同,它接受文本、图像、音频、视频和 PDF。在一段机器人视频的测试中,Gemini 返回的概率如 robot 为 0.9234、dragon 为 0.0498,而非 Jev 和 OpenAI 返回的 1.0 或 0.0。

  14. The Verge · AI58

    美联航禁止个人AI代理预订航班

    据《华尔街日报》报道,美联航以隐私和监管顾虑为由,不允许个人AI助手在其网站上完成航班预订。代理仍可向用户展示美联航航班,但无法完成交易,CEO Scott Kirby表示他不想再制造一个中间商。美联航称,随着第三方代理的进步,可能会重新考虑,而eBay和几家主要银行也已限制代理访问。

  15. MarkTechPost74

    Google 发布 Gemini Decisions API,搭载 Gemini Decision 1,每 100 万 token 收费 0.10 美元

    Google 发布了 Gemini Decisions API,由名为 Gemini Decision 1(gemini-decision-1)的新模型驱动。该模型不生成文本,而是针对一个共享输入对最多 1,000 个带类型的问题进行打分,并返回校准后的概率。它在单次预填充中读取文本、图像、音频、视频和 PDF,支持是/否、选择和评分三种问题类型,定价为每 100 万输入 token 0.10 美元,输出 token 不计费。Google 报告称其上下文长度为 262,144 token,端到端延迟为 150-250 毫秒,top-1 ECE 为 0.0250,约为 TypeSafe Jev 1.14 的一半,但在 When2Call 基准上落后于 Jev(79.9% 对 82.0%),且每 token 成本更高(0.10 美元对 0.042 美元)。

  16. Simon Willison58

    AWS 发布官方本地模拟器,无需付费 API 密钥即可测试其服务

    AWS 发布了一款官方模拟器,让开发者可以在本地克隆的各类服务上运行测试,而无需配置付费 API 密钥。据 Swaminathan (Swami) Sivasubramanian 在 Werner Vogels 博客上的客座文章介绍,该模拟器用 Rust 编写,项目前三周累计了 29,684 次提交。目前在 macOS 和 Windows 上需要 Docker,Simon Willison 希望后续能推出单个可下载的二进制文件,以便在其他平台和语言的标准测试套件中使用。

  17. AWS Machine Learning Blog12

    AWS re:Invent 2026 AI/ML 专场:参会者指南

    AWS 将于 11 月 30 日至 12 月 4 日举办年度 re:Invent 大会,AI/ML 专场在超过 2,000 场学习会议中提供 140 多场独立会议。该指南将会议对应到 AWS AI 技术栈,涵盖 AI 芯片(AWS Trainium 和 NVIDIA GPU)、Amazon Bedrock 和 SageMaker AI 上的模型与推理,以及使用 Amazon Bedrock AgentCore 的智能体开发。会议从新手内容到技术深度解析进行组织,许多会议可点播观看。

  18. AWS Machine Learning Blog28

    用基于推送的架构自动化 AWS Agent Registry 更新

    AWS 介绍了一条事件驱动流水线,可在无需手动更新的情况下保持 MCP 服务器的 AWS Agent Registry 记录为最新。AWS CloudTrail 捕获 UpdateAgentRuntime API 调用,Amazon EventBridge 将其跨账户路由,Lambda 函数通过 AgentCore Identity OAuth 令牌查询 MCP 服务器的工具,然后对比并更新匹配的注册表记录。该示例仅更新现有记录,并同时支持单账户和多账户设置。

  19. MarkTechPost58

    Google DeepMind 发布 AlphaGenome 2,用于细胞类型特异性变异效应预测

    Google DeepMind 发布了 AlphaGenome 2,这是一个条件序列到功能的 DNA 模型,读取 1 Mb 的 DNA 窗口加上目标细胞状态,并在每次调用中预测一种细胞类型的变异效应。在覆盖 28 种免疫细胞类型的 TenK10K 单细胞 eQTL 上,90% 精度下的因果变异召回率从微调 AlphaGenome 1 的 16% 升至 30%,效应方向召回率从 23% 升至 43%。该模型通过 AlphaGenome API 提供用于非商业研究,权重承诺在最终发表后开放,商业使用处于私密预览阶段。

  20. TechCrunch · AI38

    为什么你担心的数据中心可能根本不会建成

    TechCrunch的Equity播客讨论了为什么许多已宣布的数据中心项目可能根本不会建成,甚至在当地反对、许可延迟和电力短缺等问题出现之前就已如此。主持人Rebecca Bellan和Tim De Chant与Ascend Analytics的Brent Nelson一起,在数十亿美元的AI基础设施投资中,区分现实可行的项目与投机性项目。

  21. The Decoder80

    Google DeepMind 发布 Gemini Decisions API 和 Gemini Decision 1 模型

    Google DeepMind 推出了 Gemini Decisions API,专为封闭式决策而构建,例如是/否问题、多项选择和基于量表的评分,其底层的 Gemini Decision 1 模型可在单次处理中跨文本、图像、音频、视频和 PDF 处理多达 1,000 个独立问题。它以 150 至 250 毫秒的速度返回带有置信度值的概率,每百万输入 token 收费 0.10 美元,且不收取输出 token 费用,Google 称这比 Gemini 3.5 Flash-Lite 便宜约五倍。该 API 现已通过 Google AI Studio 提供,OpenRouter、LangChain 和 Vercel 的集成正在陆续推出,Google 表示其内部已将其用于 Gemini Notebook 中的模型路由、Stitch 中的设计原型制作以及 Google 搜索中的安全检查。

    同一件事,精选收录的是《Google launches Gemini Decisions API and Gemini Decision 1 model for fast closed-set decisions》

  22. TechCrunch · AI42

    Meta基础设施负责人Santosh Janardhan将卸任,Dave Brown接任

    Meta长期担任基础设施负责人兼工程联席主管的Santosh Janardhan即将卸任,接替他的是今年早些时候加入公司、担任基础设施副总裁的Dave Brown,后者此前在亚马逊工作了19年。Janardhan于2009年加入Meta,他将在过渡期间留任,并转任Meta Compute的顾问职务,之后于明年离开。

  23. TechCrunch · AI38

    蓝潮过后,反对声与繁文缛节如何继续拖慢数据中心

    TechCrunch的Equity播客讨论了地方反对、许可延迟和电力短缺如何拖慢数据中心热潮。Ascend Analytics的Brent Nelson认为,项目储备被严重夸大,已宣布的AI基础设施中只有一小部分会真正建成。本期节目还谈到:泡沫破裂对租户选择错误的开发商意味着什么、民主党人为何现在应推动许可改革,以及为什么天然气并非开发商所设想的那样可靠的退路。

  24. Google Research58

    Google Research 利用可穿戴设备构建 CKM 风险画像与个性化指导

    Google Research 推出一个研究性框架,可将消费级可穿戴设备数据转化为可指导的健康年龄,并模拟个性化的 12 周“假设”健康轨迹。SensorWM 世界模型基于约 10 万名用户、共 228 万人周的匿名 Fitbit 数据进行预训练,可在不同步数、睡眠和有氧运动习惯下预测 20 项生理指标。在一项盲测研究中,生活方式教练在 71.4% 的评估中选择以反事实为依据的方案为整体最佳,医生评定 99.2% 的方案处于安全运动强度范围内;作者指出这些模型是研究原型,而非临床诊断工具。

  25. Simon Willison18

    Simon Willison 为其 vibe-coded 工具站点新增基于标签的浏览功能

    Simon Willison 为 tools.simonwillison.net 新增了基于标签的浏览功能,让访客可以按标签浏览他收集的 244 个 vibe-coded 工具。他使用剩余的 Fable 5.2 额度,让 tree-sitter 分析每个工具的代码,以识别其中的 JavaScript API、库和 Web API 主机。首页现在会为上述每一类标签类别显示标签云。

  26. The Decoder88

    Google DeepMind 的 AlphaProof Code 在四周内而非数年验证了 Signal 的加密核心

    Google DeepMind 发布了 AlphaProof Code,这是一个能够以数学方式证明软件符合其安全规范的 AI 系统,并用它在四周内验证了运行在 Signal 用户设备上的加密核心代码,而这项工作通常需要数年时间。在专家定义了正式的安全要求后,基于 Gemini Carbon 构建的 AI 代理用 Lean 证明语言编写了超过六百万行代码,并标记出约百分之一的代码库供人工审查,立即发现了两个故意植入的漏洞。Signal CTO Ehren Kret 表示,随着 AI 威胁的增长,这种方法增强了对数据隐私的信任,DeepMind 计划通过 CodeMender 等系统将该方法扩展到电网和医疗设备。

    推荐理由:DeepMind 的 AlphaProof Code 在四周内验证了 Signal 的真实加密代码,展示了 AI 代理如何将形式化验证从设计文档推进到生产软件。

  27. Google Blog · AI78

    Google 发布 Gemini Decisions API 和 Gemini Decision 1 模型,用于快速闭集决策

    Google 推出了 Gemini Decisions API,由新的 Gemini Decision 1 模型(gemini-decision-1)驱动,可通过 Google AI Studio 中的 Gemini API 使用。单次多模态输入最多 256K token,可在一次前向传递中对照最多 1,000 个是/否、多项选择和评分标准打分问题进行检查,返回概率和置信度分数,端到端延迟为 150-250 毫秒,每 100 万输入 token 收费 0.10 美元,不收取输出 token 费用。Google 表示,该模型在其基准测试套件中领先,校准误差最低,并且比使用 Interactions API 的 Gemini 3.5 Flash-Lite 便宜近 5 倍;内部用途包括 Gemini Notebook 中的模型路由、Stitch 中的线框图生成,以及 Search 中 MCP 工具的对抗性内容检查。

    推荐理由:Google 的新端点可在一次传递中以 150-250 毫秒对最多 1,000 个多模态是/否、选择和评分标准问题进行评分,为智能体路由和政策检查提供了比生成式调用更便宜的替代方案。

  28. Simon Willison22

    LLM 0.37.2 修复了 API 密钥泄露至第三方 OpenAI 兼容端点的问题

    Simon Willison 发布了 LLM 0.37.2,以修复 Daniel de Araujo 在 GHSA-v9h7-jj4g-f862 和 GHSA-r639-rr7r-x72w 中报告的安全问题。该漏洞可能在以下情况下通过 extra-openai-models.yaml 将已配置的 OpenAI API 密钥发送至第三方 OpenAI 兼容端点:指定的 api_key_name 从未被存储,或者一个 responses: true 的模型在 -o chat_completions 1 下运行。

  29. Epoch AI · Gradient Updates64

    Epoch 简报:GLM 5.3 可依据补丁缺口自主构建 Firefox 漏洞利用,每个成本约 1,000 美元

    Epoch AI 研究人员报告称,在离线沙箱实验中,开放权重模型 GLM 5.3 自主攻破了六个近期版本的 Firefox——一款拥有超过 2 亿活跃用户的浏览器——通过从未到达用户的补丁中逆向工程出攻击方式,每个漏洞利用成本约 1,000 美元。该模型构建的网页能够在无需人工输入的情况下读取访客计算机上的文件并将其发送给攻击者;团队无法用 Chrome 复现这一结果。同一份简报还指出,11 月 9 日发布的 Anthropic Claude Fable 5.2 创下 Epoch Capabilities Index 新纪录 174,高于 GPT-6 Astra 的 169。

  30. Amazon Science36

    用数学验证网络配置:AWS Tiros 用于分段检查

    AWS 正在使用其自动推理工具 Tiros,对所有建模路径进行静态网络分段验证,而不是依赖基于数据包的采样。Tiros 将 Cloud WAN 配置(来自路由表、附件和策略文档)转换为逻辑命题,然后检查策略声明为禁止的网段之间是否存在任何路径,分析频率最高可达每小时一次。

  31. Meta Engineering Blog40

    Meta 智能投放:为广告排序分配算力的机器学习系统

    Meta 详细介绍了 Intelligent Delivery,这是一个由机器学习驱动的系统,它在广告服务栈中分配算力,以趋向系统级最优,在 2017 年至 2026 年上半年间模型与系统进步的基础上,贡献了约 10% 的增量排序性能。其 Resource Core Model 使用 6B 稀疏参数和 20M 稠密参数来预测每个请求的边际效用,Meta 称其在离线基准测试中将高影响力广告请求的识别率提升了约 20%。该系统还依赖多层分配机制和日益智能体化的 AI,以适应模型和硬件的变化。

  32. Google Developers Blog58

    谷歌工程师用 Gemini 4 Argon 和 Z3 捕获 fuzzing 漏掉的 Go 边界检查缺陷

    一位负责谷歌 agent skills 项目的工程师构建了一条流水线:Gemini 4 Argon 读取 Go 源码和 RISC-V 反汇编,将存活的 runtime.panicBounds 陷阱转换为 Z3 约束,然后 go test 将任何满足条件的输入重放为真实复现用例。该工作流捕获了 skill-lint 中全部三个植入缺陷和三个潜在缺陷,而未设种子的 go test -fuzz 漏掉了两个植入崩溃,因为 Go 按容量而非长度检查切片。用 data[:len(data):len(data)] 将容量裁剪到长度后,fuzzer 在三次运行中均使两个越界缺陷崩溃,中位数分别为 0.28 秒和 0.17 秒。

  33. Google Developers Blog58

    Google Agent Anomaly Detection 在五个公开的 agent 安全基准上得分

    Google 在 Gemini Enterprise Agent Platform 上以 Private Preview 形式运行了其 Agent Anomaly Detection,针对五个并非由它编写的公开 agent 安全基准进行测试,共评估了 1,774 个会话。它标记出了 agent 实际执行的有害指令中的 87%,对良性会话的误报率为 2% 到 16%,而在 18 个由被污染的长期记忆驱动 agent 行动的会话中仅捕获了 4 个。测试使用了一个基于 gemini-2.5-flash、用 Agent Development Kit (ADK) 构建的 agent,覆盖 AgentDojo、InjecAgent、Agent Security Bench、AgentDyn 和 AgentHarm。