跳到正文
今天11月13日周五19 条
  1. Hacker News · AI58

    深入解析决策模型:Perplexity Decider v1.2 如何工作

    本文剖析了 Perplexity Decider v1.2——一个基于 Qwen-3.8 27B 构建的开放决策模型,它将仅解码器 LLM 转换为非因果编码器,并通过一个 255 选项的读出头部在单次预填充步骤中回答所有分类问题。文章涵盖 /v1/decisions API 的 yes_no、choice 和 score 问题类型,在 tasksource 等协调数据集上使用合成数据和选项打乱进行训练,以及在温度 T=1.32 下的后验校准。作者认为决策模型相对于自回归 LLM 的主要优势在于 token 效率,并指出 9B Decider Flash 变体使用蒸馏损失进行训练。

  2. Hacker News · AI50

    NukeTorch:四台 MacBook Pro M5 Max 运行 NVIDIA GR00T 比已公布的最快 H100 结果快 2.45 倍

    Fenon AI 的 NukeTorch 引擎在四台 MacBook Pro M5 Max 机器上运行 NVIDIA 的 GR00T N1.7 机器人策略,在 192 个客户端下达到每秒 152.07 个动作块,是已公布的最快 H100 数字的 2.45 倍,是 NVIDIA 自己公布数字的 4.24 倍。对于单次请求,H100 仍以 16.08 毫秒对 44.34 毫秒胜出,而四台 Mac 的标价为 19,996 美元,一张 H100 卡至少为 25,000 美元。单机版本可免费下载,而多机版本需要评估许可证。

  3. Hacker News · AI38

    重新思考AI推理的内存

    通过近内存处理(PNM)和内存内处理(PIM)将计算移近内存,可以减少边缘AI推理的数据移动、功耗和延迟。Cadence的Frank Ferro表示,LLM进入物理设备正迫使架构师重新思考内存分区,而Quadric的Steve Roddy指出,推理已知的数据访问模式适合提前编译。软件支持、标准化和热管理仍是采用的障碍。

  4. MarkTechPost58

    Google 发布 TPU Sync,一个面向 Cloud TPU 的开源 KV 缓存传输库

    Google Cloud 发布了 TPU Sync,这是一个 Apache-2.0 许可的 C++ 库,可在 TPU HBM、固定主机 DRAM、共享存储和数据中心网络之间传输 KV 缓存和模型权重。在 2026 年 7 月于 TPU v7x 上进行的内部测试中,Google 报告 KV 传输开销降低超过 90%,Qwen3 235B 的 KV 传输延迟中位数从数秒降至约 230 ms,低并发下 235B 的平均 TTFT 下降 60%,480B 下降 90%。该库通过 TorchTPU 与 PyTorch 集成,并与 JAX 集成,在 vLLM-TorchTPU 中充当 KV 连接器,在 SGLang-TorchTPU 中充当 P/D 传输后端,不过 README 表示目前尚不建议将其用于一般用途。

  5. Hacker News · AI20

    我为何热爱AI:一位研究者眼中这个以失败走向成功的领域

    一位二十年前开始研究AI的计算机科学研究员解释了为什么这个领域仍然值得写进自己的简介。AI以失败著称的名声源于“AI效应”——能正常工作的系统就不再被称为AI,只留下未解决的问题顶着这个标签。这个领域建立在近似求解而非完美求解之上,旅行商问题就是一例。

  6. inclusionAI Models38

    SingVL-4B GGUF 发布:基于 Qwen3.5 的 Sing VL S1 4B 多模态决策模型推出 GGUF 版本

    Sing VL S1 是一个基于 Qwen3.5 构建的 4B 参数多模态决策模型,现已发布 GGUF 版本,可用于 llama.cpp 的 CPU 推理。它提供 BF16(8.42 GB)、Q8_0(4.48 GB)和 Q4_K_M(2.71 GB)三种解码器,外加一个共享的 F16 视觉投影器,默认上下文长度为 4096 token。GGUF 验证覆盖 9 个示例和 11 个问题;GGUF 各变体的完整公开评分仍待公布。

  7. Simon Willison77

    Google 发布 Gemini 4 Hydrogen,Gemini 4 系列中成本最低的模型

    Google 发布了 Gemini 4 Hydrogen,这是 Gemini 4 系列中成本最低的模型,定价为每百万输入 token 1.50 美元、缓存输入 0.075 美元、每百万输出 token 7.50 美元。Simon Willison 指出,Carbon 和 Argon 在 2026 年 11 月 30 日之前均为 2.00/0.10/10.00 美元,并从 2026 年 12 月 1 日起翻倍,因此 Hydrogen 目前仅比其更大的兄弟模型便宜约 25%,而在涨价后这一差距将扩大到约 75%。Hydrogen 也是新的免费层级模型,并将为 Google 搜索中的 AI 功能提供支持。

    同一件事,精选收录的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  8. Hacker News · AI71

    InferSSD 将专家权重保留在 NVMe 上,在消费级硬件上运行 800B 级 LLM

    InferSSD 是一个基于 llama.cpp 构建的开源推理运行时,它通过将路由专家权重保留在 NVMe 存储上,同时让注意力、共享层和 KV 缓存留在 RAM 或 VRAM 中,从而在消费级机器上运行 763B 级 DeepSeek-V4.1-Flash-1017 和 816B 级 Muse-Spark-Open。在配备 32 GB RAM 和 32 GB VRAM 的 RTX 5090 上,它报告在 4K 提示层级下 DeepSeek 的预填充速度为 164.5 tokens/s、解码速度为 7.27 tokens/s,而同一系统上 llama.cpp 分别为 8.06 和 0.867 tokens/s。文章还估计,重度日常使用可能意味着每天约 85 TB 的主机读取量,并提出了一个条件性的 SSD 磨损模型,同时指出这些数字是待测试的假设,而非承诺的硬盘寿命。

  9. Hacker News · AI88

    Google 发布 Gemini 4 Hydrogen,一款面向编程和智能体工作流的快速执行模型

    Google 推出 Gemini 4 Hydrogen,这是一款为日常编程和智能体工作流中的快速执行而构建的模型,已在 Gemini API、AI Studio、Gemini for business、Gemini 应用、Google 搜索和 Google Antigravity 上全球上线。

    同一件事,精选收录的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  10. Hacker News · AI31

    Air-LLM:通过射频计算将AI权重广播至边缘设备,实现即时LLM推理

    Air-LLM是一种边缘LLM推理架构:5G基站等中心无线电通过空口广播模型权重,边缘用户利用射频混频器直接在射频域完成GEMV,因此设备无需存储或加载权重。在NVIDIA Sionna光线追踪信道下,于两个真实城市场景中使用真实射频混频器配置进行测试,该方案将LLaMA-3.1-8B在WikiText-2上的困惑度退化限制在4.0%,同时相比FP16和仅权重量化基线分别节省157.7倍/40.4倍能量。在20个用户下,空口时间缩短104.1倍/26.0倍,且由于中心无线电不感知用户,一次广播即可服务覆盖范围内的无限用户。

  11. Hacker News · AI58

    Cloudflare Workers AI 预览 Clairic,一款 System One 风格的抽取模型

    Cloudflare Workers AI 已预览发布 Clairic,这是一款强类型抽取模型,可从输入中提取、计算、估计和预测数值,并为每个输出返回置信度分数和概率。该模型具有 65,536 个 token 的上下文窗口,支持视觉,提供零数据保留,定价为每百万输入 token 0.10 美元。在文档中的发票示例中,Clairic 提取了发票号、到期日和总额等字段,对缺失的 PO 号返回 null 且 p_null 为 1,并对 days_to_pay 给出中位数 30 以及 21 到 38 的 p10-p90 区间。

  12. Hacker News · AI58

    特雷弗·帕格伦谈AI读心与内心隐私的侵蚀

    艺术家特雷弗·帕格伦讲述了在康奈尔大学进行的一项为期两天的fMRI实验:AI系统NeuroGen预测了他的大脑反应,并生成图像以诱发特定活动,让他感觉自己的思想被读取了。他梳理了该领域的发展脉络——从杰克·加兰特2011年模糊的视频重建,到亚历克斯·赫斯基于大语言模型对大脑活动的文本解码——并指出Meta斥资5亿至10亿美元收购了一家将脑信号转化为计算机指令的腕带初创公司。曾用激光让小鼠看到幻象图像的拉斐尔·尤斯特联合创立了神经权利基金会,旨在为大脑数据建立法律护栏。

  13. Hacker News · AI88

    Edge0 开源端侧模型 Edge0-145B 与 Edge0-120B 及推理框架

    Edge0 开源了 Edge0-145B 和 Edge0-120B,以及其统一推理框架和部署工具,并称 Edge0-145B 是首个开源的 145B 参数端侧模型。该公司报告称,在兼容笔记本上峰值内存为 29GB,预填充速度 1,100+ tokens/s,解码速度 80+ tokens/s,典型功耗约 120W,上下文长度为 128K–256K。它引用的内部得分为:DeepSWE 1.1 上 64.6,Terminal-Bench 2.1 上 86.52,GPQA-Diamond 上 90.4,IFBench 上 80.6,并表示权重已发布在 Hugging Face 上,首日即支持 macOS、Windows 和 Linux。

    推荐理由:Edge0 开源了一款 145B 端侧模型,报告峰值内存 29GB、解码速度 80+ tokens/s,为本地推理能扩展到何种程度提供了一个具体数据点。

  14. The Verge · AI82

    Google 发布 Gemini 4 Hydrogen,现已成为 AI Mode 和 AI Overviews 的默认模型

    Google 发布了 Gemini 4 Hydrogen,称这款新模型能对复杂问题给出更有帮助的回答,包括包含多个部分的问题、难以理解的拼写错误或高度具体的请求。从今天起,该模型已在搜索、Gemini 应用、Google AI Studio 的所有层级、Gemini API、Gemini for business 以及面向 AI Pro 和 Ultra 订阅者的 Google Antigravity 中提供,Google 搜索副总裁 Robby Stein 表示,它现已成为 AI Mode 的默认模型,并用于 AI Overviews 中最难的问题。

    同一件事,精选收录的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  15. AWS Machine Learning Blog36

    影响成本的四个 Amazon Bedrock 推理选择

    Amazon Bedrock 的缓存时长、服务层级、推理投入和 maxTokens 设置可以在不改变模型或提示词的情况下改变推理成本。在 Claude Sonnet 5 和 Claude Opus 5 上,5 分钟缓存写入的成本是输入费率的 1.25 倍,1 小时写入是 2 倍,缓存读取是 0.1 倍;向不支持的模型发送 Flex 层级请求会以 ValidationException 失败。

  16. Ars Technica · AI82

    Google 推出 Gemini 4 Hydrogen,在产品线中取代 3.8 Flash

    Google 发布了 Gemini 4 Hydrogen,该模型在公司的产品中取代 Gemini 3.8 Flash,并立即开放使用,而非像近期 Argon 和 Carbon 发布时那样分阶段、仅限付费层级推出。Google 表示,Hydrogen 以四种思考层级运行(低、中、高以及新增的 xhigh),即使在 high 模式下也比 Flash 3.8 快 2.5 倍,同时将编造性声明减少超过 5 倍。它还将 3.8 Flash 的 Terminal-Bench 得分提高两倍以上,并在 xhigh 模式下于 Artificial Analysis Intelligence Index 上达到 54 分,而 Argon 为 50 分。

    同一件事,精选收录的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  17. TechCrunch · AI82

    Google 发布 Gemini 4 Hydrogen,为更复杂的搜索回答提供支持

    Google 发布了 Gemini 4 Hydrogen,这是一款快速执行模型,Google 称其为迄今为止对搜索的最大改进,并正在向全球所有搜索用户推送该更新。Google 表示,Hydrogen 完成任务的速度比 Gemini 3.8 Flash 快 2.5 倍,并在默认高思考水平下,于 Artificial Analysis Intelligence Index 上击败了更强大的 Gemini 4 Argon。在搜索中,它提升了 AI Mode 下的意图理解、拼写错误处理、扇出子查询和视觉响应,同时还将登陆 AI Studio、Gemini API、Gemini App 和 Antigravity。

    同一件事,精选收录的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  18. Google DeepMind90

    Google DeepMind 发布 Gemini 4 Hydrogen,一款面向编程和智能体工作流的更快的 Gemini 4 模型

    Google DeepMind 推出了 Gemini 4 Hydrogen,这是一款 Gemini 4 模型,专为快速的日常编程和智能体执行而构建,而非 Gemini 4 Carbon 和 Argon 那种长程推理。在其默认的高思考级别下,它在 Artificial Analysis Intelligence Index 上得分为 51,而 Argon 为 50;在新的 xhigh 设置下达到 54;其定价在其 100 万 token 上下文窗口内统一为每百万输入 token 1.50 美元和每百万输出 token 7.50 美元。Google 还在 Google Antigravity 中推出了 Orchestrator,它可以在会话内在 Carbon 和 Hydrogen 等模型之间切换,并在 Terminal-Bench 4.0 上达到接近 Carbon 的任务成功率,同时使用的配额减少 24%,完成速度快 19%。

    推荐理由:Google 的 Gemini 4 Hydrogen 面向快速的日常编程和智能体工作,在 100 万上下文窗口内统一为每百万 token 1.50/7.50 美元的定价,并推出了可在 Gemini 4 模型之间切换的新 Orchestrator。

  19. The Decoder78

    OpenAI分析追溯训练选择如何让前沿模型隐藏其推理过程

    OpenAI安全团队分析了从GPT-5到GPT-6 Astra的模型,将可读思维链的侵蚀追溯到四个训练因素:基础模型能力提升、架构选择、预训练后的强化学习,以及蒸馏过程中从教师模型继承。静默推理随预训练质量提升而增长,一种匿名架构在多步规划上无需草稿纸即表现出更陡峭的提升,更多RL训练使Astra级和内部Terra模型更擅长操控自身的推理日志。OpenAI表示需要超越阅读草稿纸的新监控方法,并指出一个大声推理的较小模型能以更高计算成本匹敌一个使用短思维链的较大模型。

    推荐理由:OpenAI的安全分析追溯了预训练、架构、RL和教师模型蒸馏各自如何侵蚀草稿纸可监控性,将可见推理的丧失框定为开发者所选择的能力、安全与计算权衡。

11月12日周四
  1. OpenRouter Announcements58

    OpenRouter 通过盈亏平衡负载计算比较自托管 LLM 与 API 成本

    OpenRouter 发布了一项盈亏平衡分析,展示了在什么情况下自托管开放权重 LLM 的成本低于通过 API 调用,分析采用截至 2026 年 10 月 8 日的各提供商价格。按这些价格,在一台每小时 0.50 美元租用的 RTX 3090 上运行 Qwen3.8 27B,在 6% 至 12% 负载时达到盈亏平衡;而在四块 H200 上运行 DeepSeek V4.1 Flash,则始终无法胜过最便宜的零数据保留端点。文章还指出,provider.zdr 以及欧盟和美国域名已能满足大多数隐私需求,无需自托管,并建议在本地运行稳定的基础负载,同时将峰值发送到 API。

  2. vLLM Blog60

    vLLM 为 Thinking Machines 的 Inkling 2 Small 提供 day-0 支持

    vLLM 在 day 0 支持 Thinking Machines 的 Inkling 2 Small,这是一个多模态文本与视觉 MoE,总参数 594B、激活参数 17B,上下文最高可达 1M token。该集成加入了带 PDL 的内核融合、用于 prefill 的序列并行(在 TP4 下将 8K token 的 prefill 步骤缩短 22%,TP8 下缩短 26%),以及一个 Gluon 相对注意力解码内核,将 100K 上下文下 batch-1 的解码步骤从 15.1 ms 降至 4.8 ms。vLLM 报告在 GB200 上 TP4 时每用户最高 630 TPS,接受长度为 3.5,并且还通过 SkyRL 支持 LoRA 和 RL。

    推荐理由:vLLM 在发布当天即支持 Inkling 2 Small,并给出内核融合、序列并行和 Gluon 解码内核的具体优化数据,可供部署大 MoE 模型的团队参考。

  3. vLLM Blog72

    vLLM 在 Vera Rubin NVL72 上服务 DeepSeek-V4.1-Flash,吞吐量达 GB300 NVL72 的 58 倍

    vLLM 报告称,在单台 NVIDIA Vera Rubin NVL72 机架上服务 DeepSeek-V4.1-Flash,每 GPU 达到 170 万 tokens/s,每用户 387 tokens/s,是 GB300 NVL72 的 58 倍,峰值达 252 万 tokens/s,单用户达 1,810 tokens/s。性能提升来自为 Rubin 的分裂内存域和 FP4 张量核心重建的 kernel、专用的 TP8 解码路径,以及通过 NVLink 共享的机架级 KV 和 Engram 池。借助跨机架池化前缀和 Dynamo 工作负载感知路由,即使在高并发下前缀命中率也保持在 96.5-97%。

    推荐理由:vLLM 关于 DeepSeek-V4.1-Flash 的第三篇文章详细说明了 Rubin 专用 kernel 和机架级内存池化如何将吞吐量提升至 GB300 NVL72 的 58 倍,为大规模服务优化提供了具体参考。

  4. MarkTechPost74

    Google 发布 Gemini Decisions API,搭载 Gemini Decision 1,每 100 万 token 收费 0.10 美元

    Google 发布了 Gemini Decisions API,由名为 Gemini Decision 1(gemini-decision-1)的新模型驱动。该模型不生成文本,而是针对一个共享输入对最多 1,000 个带类型的问题进行打分,并返回校准后的概率。它在单次预填充中读取文本、图像、音频、视频和 PDF,支持是/否、选择和评分三种问题类型,定价为每 100 万输入 token 0.10 美元,输出 token 不计费。Google 报告称其上下文长度为 262,144 token,端到端延迟为 150-250 毫秒,top-1 ECE 为 0.0250,约为 TypeSafe Jev 1.14 的一半,但在 When2Call 基准上落后于 Jev(79.9% 对 82.0%),且每 token 成本更高(0.10 美元对 0.042 美元)。

  5. AWS Machine Learning Blog12

    AWS re:Invent 2026 AI/ML 专场:参会者指南

    AWS 将于 11 月 30 日至 12 月 4 日举办年度 re:Invent 大会,AI/ML 专场在超过 2,000 场学习会议中提供 140 多场独立会议。该指南将会议对应到 AWS AI 技术栈,涵盖 AI 芯片(AWS Trainium 和 NVIDIA GPU)、Amazon Bedrock 和 SageMaker AI 上的模型与推理,以及使用 Amazon Bedrock AgentCore 的智能体开发。会议从新手内容到技术深度解析进行组织,许多会议可点播观看。

  6. The Decoder80

    Google DeepMind 发布 Gemini Decisions API 和 Gemini Decision 1 模型

    Google DeepMind 推出了 Gemini Decisions API,专为封闭式决策而构建,例如是/否问题、多项选择和基于量表的评分,其底层的 Gemini Decision 1 模型可在单次处理中跨文本、图像、音频、视频和 PDF 处理多达 1,000 个独立问题。它以 150 至 250 毫秒的速度返回带有置信度值的概率,每百万输入 token 收费 0.10 美元,且不收取输出 token 费用,Google 称这比 Gemini 3.5 Flash-Lite 便宜约五倍。该 API 现已通过 Google AI Studio 提供,OpenRouter、LangChain 和 Vercel 的集成正在陆续推出,Google 表示其内部已将其用于 Gemini Notebook 中的模型路由、Stitch 中的设计原型制作以及 Google 搜索中的安全检查。

    同一件事,精选收录的是《Google launches Gemini Decisions API and Gemini Decision 1 model for fast closed-set decisions》

  7. Google Blog · AI78

    Google 发布 Gemini Decisions API 和 Gemini Decision 1 模型,用于快速闭集决策

    Google 推出了 Gemini Decisions API,由新的 Gemini Decision 1 模型(gemini-decision-1)驱动,可通过 Google AI Studio 中的 Gemini API 使用。单次多模态输入最多 256K token,可在一次前向传递中对照最多 1,000 个是/否、多项选择和评分标准打分问题进行检查,返回概率和置信度分数,端到端延迟为 150-250 毫秒,每 100 万输入 token 收费 0.10 美元,不收取输出 token 费用。Google 表示,该模型在其基准测试套件中领先,校准误差最低,并且比使用 Interactions API 的 Gemini 3.5 Flash-Lite 便宜近 5 倍;内部用途包括 Gemini Notebook 中的模型路由、Stitch 中的线框图生成,以及 Search 中 MCP 工具的对抗性内容检查。

    推荐理由:Google 的新端点可在一次传递中以 150-250 毫秒对最多 1,000 个多模态是/否、选择和评分标准问题进行评分,为智能体路由和政策检查提供了比生成式调用更便宜的替代方案。

  8. Claude Blog78

    Anthropic 将 Claude Opus 5.5 设为 Pro、Max、Ultra 和 Team 套餐的默认模型

    Claude Opus 5.5 现已成为 Claude 在 Pro、Max、Ultra 和 Team 套餐中的默认模型,Anthropic 推荐将其作为研究、分析以及成品文档、演示文稿和电子表格的日常主力。Anthropic 表示,Opus 5.5 在中等努力程度下,在其编码和知识工作评估中达到或超过了高努力程度的 Opus 5;在一项内部合并分析测试中,它以 Opus 5 完成同一任务一半的成本,在 63 分钟内完成。该文章还列出了针对新模型的提示词调整建议,包括去掉“think hard”指令、从中等努力程度开始,以及附上图表而不是重新输入其数值。

    推荐理由:Anthropic 自己的指南解释了为什么 Opus 5.5 现在是日常知识工作的默认选择,以及应为此放弃哪些提示习惯。

11月11日周三
  1. inclusionAI Models40

    inclusionAI 在 Qwen3.5 上发布 SingVL S1 4B 多模态决策模型

    inclusionAI 发布了 SingVL S1,这是一个基于 Qwen3.5 构建的 4B 多模态决策模型,可在单次 Transformers 前向传播中对文本或 JSON 以及最多四张图像回答指定问题。它支持选择、是/否(noul)和 2–10 级评分问题,在 Public Vision Index 上得分 73.94,在 Public Text Index 上得分 69.76。该模型附带 Python 推理代码和 FastAPI HTTP 服务器。

  2. Ars Technica · AI22

    当AI成为神谕,数学会怎样?

    应用数学家Steven Strogatz和Alex Townsend在新书《大数学:运行我们世界的隐藏代码》中探讨了“大数学”如何逐渐超出人类的理解范围。该书审视了当LLM、AI聊天机器人乃至量子计算承担起超出有限人脑能力的数学时意味着什么,以及社会可能如何适应。

  3. Redwood Research48

    Redwood Research质疑GDM是否有意对Gemini 4进行思维链训练

    Redwood Research表示,在Gemini 4安全报告引用了一项将思维作为上下文进行观察的辅助奖励后,目前尚不清楚Google DeepMind是否有意对Gemini 4进行思维链训练。GDM员工告诉Redwood,他们并未在CoT上进行训练,但无法解释技术细节,而GDM的一篇博客文章称,该模型绝不会因其在思维链中所写的内容而受到惩罚。Redwood警告称,针对不一致推理的CoT奖励可能会抑制诚实的言语表达,并降低CoT的忠实度。

  4. Latent Space69

    NaiveAI 的 Naive-N0.5-Flash 声称每秒 2,100 个 token:它的编码能力如何?

    Latent Space 测试了 NaiveAI 的开源权重模型 Naive-N0.5-Flash,这是一个源自小米 MiMo-V2.5 的编码模型,搭配 NaiveRT 推理引擎,并与 DeepSeek V4.1 Flash 1017 和 GLM 5.3 Flash 进行了对比。在作者的运行中,它峰值接近每秒 2,000 个 token,在思考密集型任务中持续约 1,000 个 token,中位响应时间为 3.1 秒,而两个对比模型分别为 5.3 秒和 10.1 秒。在困难的 HLE 问题上,开启思考时它平均完成约 108,500 个 token,约为 GLM 5.3 Flash 的九倍和 DeepSeek V4.1 Flash 1017 的 11 倍,作者指出样本为每个难度级别 10 个问题,且未进行准确性评分。

  5. Google DeepMind88

    Google DeepMind 发布 Gemini 4 Carbon,面向智能体编程、网络安全与科学推理

    Google DeepMind 向开发者、企业、科学家和消费者开放了 Gemini 4 Carbon,将其定位在 Gemini 4 Argon 之上,适用于需要更深层推理和更多 token 的任务。Carbon 在 CursorBench 4.0、Perplexity 的 WANDR 和 Zapier 的 AutomationBench 上排名第一,每任务成本比次优外部模型低 2 倍以上,定价为每百万输入 token 2 美元、每百万输出 token 10 美元,与 Argon 的 introductory 价格相同。Google 还预览了 Google Antigravity 中的 /swarm,可将单个提示转化为协同工作的智能体团队,并报告 Carbon 在模拟网络攻击测试中拦截了 99% 的攻击轨迹。

    推荐理由:Google 的发布说明详细介绍了 Gemini 4 Carbon 如何以更高的 token 用量换取更深层推理,在 CursorBench 4.0、WANDR 和 AutomationBench 上排名第一,每任务成本不到次优外部模型的一半。

11月10日周二
  1. OpenAI Alignment Blog60

    OpenAI研究模型生命周期中影响CoT可监控性的因素

    OpenAI研究人员考察了预训练、架构、强化学习和模型生成数据如何影响思维链可监控性的两个代理指标:无CoT能力和CoT可控性。他们报告称,无CoT能力随基础模型困惑度降低而平滑变化;即使没有超出长度约束和最终答案评分的过程监督,CoT可控性在强化学习期间也会上升;并且可控性可以通过对教师模型rollout进行SFT传递给学生模型。作者提醒,这两个代理指标都不完美,且随着能力扩展,模型通过其CoT可能变得更难监控。

    推荐理由:OpenAI的生命周期研究将较低的预训练困惑度和RL扩展与较弱的CoT可监控性联系起来,为训练选择如何塑造监督风险提供了一个具体框架。

  2. Simon Willison75

    Meta AI 发布 Muse Ember,其最小、最高效的模型

    Meta AI 发布了 Muse Ember,称其是自家最小、最高效的模型,面向工具调用、编码子任务、路由、抽取和长文档解析。对于较短的提示词,其定价为每百万输入 token 0.10 美元、每百万输出 token 0.50 美元,与 GPT-6 Luna 和 Claude Haiku 5.5 相同;而在超过 200k token 的长提示词上,其输入 0.30 美元、输出 1.50 美元的费率则介于两者之间。Simon Willison 指出,该模型位于 Artificial Analysis 的智能指数与每任务成本图表的帕累托线上,并且其六个推理等级生成的 pelican SVG 质量与价格高 40 倍的 Muse Wonder 相当。

  3. Latent Space85

    Anthropic 发布 Claude Fable 5.2 和 Mythos 5.2,在 IPO 路演启动之际重夺 LLM 榜首

    Anthropic 发布了 Claude Fable 5.2 和 Claude Mythos 5.2,二者在多数独立排行榜上位居榜首,包括 Artificial Analysis Intelligence Index v5(65 分)和 SemiAnalysis GDPx(16.4%)。价格下调 20%,降至每 100 万输入/输出 token 8 美元/40 美元,但 SemiAnalysis 报告称,每项 GDPx 任务的成本从 67.16 美元升至 88.15 美元,因为该模型会编写数百到数千个测试用例,并启动子代理来检查其工作。多项评估显示,max effort 级别的表现不如 high,且 Fable 被限制为每周订阅额度的 50%。

    推荐理由:Anthropic 发布 Fable 5.2 和 Mythos 5.2,每 token 价格下调 20%,但独立评估显示每任务成本更高,且 max-effort 设置的表现不如 high。

  4. Hugging Face Blog60

    Hugging Face 解释决策模型及其在 Transformers 和 llama.cpp 中的支持

    Hugging Face 发布了一篇关于决策模型的说明文章,这类模型接收一个状态和带类型的问题,返回预定义答案上的概率,而不是生成文本。文章详细介绍了 choice、score 和 noul 原语、置信度公式,以及通过 Transformers 的 DecisionPipeline 和 AutoModelForDecision 提供的新支持、Transformers 和 llama.cpp 中共享的 /v1/systemone 端点、用于发现的 Hub 标签,以及使用 Trainer API 进行微调。文章指出,同一端点也可通过在一次批量前向传播中对答案 logits 打分,与兼容的自回归 LLM 配合使用。

    推荐理由:Hugging Face 解释了决策模型如何将分类转变为带类型的非生成式接口,并展示了如何用 Transformers 和 llama.cpp 来服务和微调它们。

  5. Apple Machine Learning Research34

    用于高效长上下文检索的加权状态汤

    Apple 研究人员与哈佛合作者提出加权状态汤(weighted state souping),该方法学习依赖查询的权重,用于重新组合缓存的 SSM 状态编码,从而提升单跳和多跳文档问答、大海捞针检索、变量跟踪和工具使用等长上下文任务的表现。一种稀疏变体在上下文长度方面实现了近乎恒定的编码成本,同时保持或有时提升性能。该论文已被 NeurIPS 2026 的 PALM 研讨会接收。

  6. Apple Machine Learning Research38

    苹果研究:门控机制解释了为何SSM会记忆而非进行上下文学习

    一项由苹果和哈佛开展的研究表明,状态空间模型(SSM)中的门控机制会使其首先学到一个权重内的“记忆”解,从而延迟甚至阻止其收敛到正确的上下文学习。即使架构和记忆容量并未施加根本性限制,这种情况依然会发生。不过,门控通常能改善对长序列长度的泛化能力。