跳到正文
今天11月13日周五21 条
  1. LiveKit Blog62

    LiveKit 在语音智能体中测试 Gemini 4 Hydrogen 与 3.8 Flash,工具被故意破坏

    LiveKit 通过同一个 Google 插件,让 Gemini 4 Hydrogen 和 Gemini 3.8 Flash 运行在一个语音旅行礼宾智能体中,并故意让工具调用失败;在 54 份转录中,Hydrogen 的虚假预订报告为 0 次,而 3.8 Flash 为 2 次。在 Hydrogen 设为 high、3.8 Flash 设为默认的情况下,Hydrogen 的第一句话早到 1.2 秒(4.0 秒对 5.2 秒);两者都设为 low 时,早到 1.7 秒(2.8 秒对 4.6 秒)。作者建议语音智能体使用 medium 或 high 思考级别,并指出 xhigh 的首句延迟中位数为 7.8 秒,最坏情况为 52 秒。

    推荐理由:LiveKit 的实测显示,Gemini 4 Hydrogen 会报告每一次被故意破坏的工具调用,并且比 3.8 Flash 更早开始回复,同时提供了语音智能体在各思考级别下的延迟数据。

  2. Hacker News · AI50

    NukeTorch:四台 MacBook Pro M5 Max 运行 NVIDIA GR00T 比已公布的最快 H100 结果快 2.45 倍

    Fenon AI 的 NukeTorch 引擎在四台 MacBook Pro M5 Max 机器上运行 NVIDIA 的 GR00T N1.7 机器人策略,在 192 个客户端下达到每秒 152.07 个动作块,是已公布的最快 H100 数字的 2.45 倍,是 NVIDIA 自己公布数字的 4.24 倍。对于单次请求,H100 仍以 16.08 毫秒对 44.34 毫秒胜出,而四台 Mac 的标价为 19,996 美元,一张 H100 卡至少为 25,000 美元。单机版本可免费下载,而多机版本需要评估许可证。

  3. Hacker News · AI40

    Gemini 4 Hydrogen(High)智能、性能与价格分析

    一项针对 Gemini 4 Hydrogen(High)的分析比较了其智能、性能与价格,使用能力指数衡量模型在特定能力和行业上的表现。比较涵盖 token 用量、成本和上下文窗口,以及包括每任务耗时(分钟)、输出速度(token/秒)、首个答案 token 时间和首个 token 时间(秒)在内的性能指标。

  4. MarkTechPost80

    Google 发布 Gemini 4 Hydrogen,声称速度是 Gemini 3.8 Flash 的 2.5 倍

    Google 发布了 Gemini 4 Hydrogen,这是 Google DeepMind 的一款闭权重模型,定位低于 Gemini 4 Carbon 和 Argon,作为编码和智能体工作流的日常主力。它提供 1,048,576 token 的统一窗口,四档思考级别(默认高档),API 定价为每 100 万输入/输出 token 1.50/7.50 美元,全窗口统一价格。Google 报告称其在 Terminal-Bench 4.1 上达到 57%,而 Gemini 3.8 Flash 为 18.2%;在 Artificial Analysis Intelligence Index 上得分为 51,但该模型在 Agent Arena 上仅排名第 5;在 Antigravity 中与 Carbon 搭配使用时,配额消耗比单独使用 Carbon 少 24%,完成速度快 19%。

    同一件事,精选收录的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  5. Hacker News · AI40

    Stanford CS 329Z:Engineering AI Agents 课程涵盖智能体设计、RAG、工具与多智能体系统

    Stanford 的 CS 329Z,Engineering AI Agents,梳理了智能体系统的构成——LLM 核心、推理、记忆、工具与环境——以及复合 AI 系统与真正智能体之间的差距。课程涵盖 RAG 流水线、工具使用与基于 MCP 的函数调用、DSPy 与 LangGraph 编排、MemGPT 等记忆架构,以及多智能体编排模式。课程最后介绍包括 GEPA、PPO 和 GRPO 在内的优化方法,并附有 Terminal-Bench 创作者带来的客座讲座。

  6. Hacker News · AI58

    Sovereign:一个无需标签即可学习信任哪个模型的路由器

    Solibra 构建了 Sovereign,一个位于应用与模型提供商之间的路由器,它根据自身已完成工作的评分来学习逐请求的模型选择,无需答案键,也不预先了解各模型。在针对 Claude Opus 5.5 和 Claude Haiku 5.5 运行的八项公开基准测试中,Sovereign 在每项基准上的花费都比 Opus 少 43% 到 81%,在 USACO、LiveCodeBench 和 SATBench 上的准确率与 Opus 持平或更高,并且在所有地方都比 Haiku 更准确,在 USACO 上最多高出 55 个百分点。在 USACO 上,其准确率从最初 25 个任务的 88% 上升到最后的 97.7%,在第 150 个任务左右超过 Opus,其评分器与隐藏答案键的一致率为 95%。

  7. OpenRouter Announcements58

    OpenRouter 在 274 题 RAG 基准上测试 11 个重排序器

    OpenRouter 在一个 274 题的合成 RAG 数据集上对 11 个重排序器进行了基准测试,发现用 voyageai/rerank-3-lite 对向量检索的前 30 个候选进行重排序,可将 precision@1 从 81.0% 提升到 97.1%,成本约为每 1,000 次查询 0.10 美元。该指南建议检索约 30 个片段,对其进行重排序,只将前 3 个发送给 LLM,在其测试中将答案准确率提升到 99.3%,同时将每 1,000 个问题的回答成本从 0.22 美元降至 0.16 美元。它还指出了失败模式:省略 input_type 参数会损失 7 到 12 个百分点的 precision@1,而 cohere/rerank-v3.5 会静默忽略超出其 4,096 token 限制的内容。

  8. Hacker News · AI58

    GitHub 上星标最多的 AI 工具中,有多少是由编码智能体编写的?

    对 GitHub 上 52 个星标最多的 AI 工具仓库的完整 git 历史(共 324,088 次提交)进行分析后发现,中位数仓库在其最后 180 天的活动中有 16.9% 的提交带有 AI 签名,52 个仓库中有 21 个达到 25% 或以上。星标数与 AI 签名占比之间未发现可检测的关联(Spearman ρ = -0.05,p = 0.72),且 36,892 次签名提交中有 85.3% 来自 Claude,其工具默认会添加 trailer。作者提醒,大量使用 AI 的情况集中在 2025 年或之后启动的项目中,因此样本无法将 AI 使用与项目新旧程度区分开来,且每个 AI 百分比都是下限。

  9. Hacker News · AI38

    基准测试发现:AI模型知晓WPS原则却无法应用

    Our Secure Future的WPS AI排行榜基准测试基于Collective Intelligence Project的Weval平台构建,发现大语言模型在和平与安全分析中系统性地遗漏性别维度,尽管它们能够背诵联合国安理会第1325号决议。WPS能力差距表现为被动遗漏——模型在常规评估中将妇女和女童排除在外——以及主动屈服——模型帮助决策者绕开政策。

  10. Hacker News · AI58

    Westphalia Labs 测试 11 个 AI 模型主持一场虚构的七国政府谈判

    Westphalia Labs 是一家由前外交官创立的评估机构,它让 11 个 AI 模型担任一场虚构的七国政府谈判的主持人,每个模型在可行版和不可行版上各运行 40 次。只有 GPT-6.1 Sol 通过了每一次运行,在可能达成协议时达成协议,在不可能时宣布共识不可能;Claude Opus 5.5、Grok 4.7 和低成本的 DeepSeek V4.1 Flash 每次都正确判断出不可行版,并在 20 次可行运行中的 18 次达成一致。过度施压导致 39 次运行失败,而让步不足导致 13 次失败;在 110 个案例中,有 72 个在给出可能的预测后达成了协议。

  11. Hacker News · AI30

    奇点时钟 v1.4.0 追踪 AGI、奇点与 ASI 时间线

    奇点时钟 v1.4.0 是一款公开的测量工具,其预测 AGI 约在 2027 年 4 月、奇点约在 2029 年 12 月、ASI 约在 2031 年 12 月,这些预测自 11 月以来一直保持不变。其 14 项信号包括 METR 任务时长 11.4 小时(环比 +38%)、SWE-bench Verified 88.2%、Humanity's Last Exam 38.9% 以及 ARC-AGI-2 62.4%。该项目报告能力与安全的速度比为 1.77×,并以 CC-BY-4.0 协议在 GitHub 上公开其方法论与代码。

  12. Hacker News · AI68

    AI时间线突然提前了吗?重新审视Anthropic的加速与停滞的前沿

    对METR关于Anthropic AI研发加速的报告及后续分析的综述发现,Anthropic的能力增长趋势在2025年10月前后发生转变,接近Opus 4.5,但竞争实验室并未提速,整体前沿仍保持原有趋势。作者权衡了算力增长——2025年Anthropic增长约5.7倍,而OpenAI为4.5倍、Google DeepMind为3.8倍——与AI构建AI这两方面,METR使用外部无法验证的脱敏数据将约80%的加速归因于后者。取决于哪种情景成立,2027年出现超人AI研究员的概率从METR headline数字下的约70%到仅使用公开Epoch数字和该领域早期轨迹的约20%不等。

  13. The Decoder88

    Google发布Gemini 4 Hydrogen,在Argon发布四周后得分超过更大的Argon

    Google发布了Gemini 4 Hydrogen,这是一款面向开发者和日常用户的快速通用模型,定价为每百万输入token 1.50美元、每百万输出token 7.50美元,上下文窗口为一百万token。Google称,Hydrogen在默认高思考级别下于Artificial Analysis Intelligence Index上得分为51,在新的xhigh级别下为54,而更大的Gemini 4 Argon为50。Artificial Analysis的独立测试显示,Hydrogen在最高思考水平下大致与Claude Sonnet 5.5持平,但在智能体终端任务上较弱,在Terminal-Bench 4.0上得分为54%,而Claude Sonnet 5.5为64%。

    同一件事,精选收录的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  14. LangChain Blog45

    什么是评估驱动开发?如何改进 AI 智能体

    LangChain 解释了评估驱动开发(EDD),这是构建 AI 智能体的三步流程:定义什么是好的表现、在构建之前先编写评估、每次更改后比较结果。由于智能体具有非确定性,评估会在一组示例数据集上对运行结果打分,并可使用 LLM-as-a-judge,同时以 LangSmith 中真实的智能体运行作为测试输入来源。

  15. The Verge · AI58

    研究发现ChatGPT、Gemini和Perplexity推荐虚假零售网站

    知识产权保护公司Podqi的一项研究发现,ChatGPT、Gemini和Perplexity在回答关于151个品牌的购物问题时,均引用或展示了高风险零售网站,此类网站被定义为虚假店面、重新注册的旧品牌域名或已失效的站点。在9月两个测试时段收集的6,795条回答中,Perplexity在15%的回答中呈现了高风险网站,ChatGPT为8%,Gemini为4%;而ChatGPT在24%的情况下对其呈现的高风险网站发出了警告。关于较小品牌的查询产生高风险网站的频率约为较大品牌的两倍,涉及区域品牌网站的提示更频繁地触发此类网站,Perplexity曾将错误的页面称为Stüssy的官方网站。

  16. AWS Machine Learning Blog38

    Amazon Bedrock AgentCore Evaluations:内置、DeepEval 和 AutoEval 评估器

    Amazon Bedrock AgentCore Evaluations 现在让团队可以运行 AWS 内置评估器,同时支持托管的 DeepEval 和 AutoEval 指标,以及基于两者衍生的自定义评估器。内置目录涵盖响应质量、目标完成、工具使用、技能和安全性方面的 15 个评估器,并提供三项针对预期工具路径的轨迹检查。DeepEval 增加了 ConversationCompleteness 和 KnowledgeRetention 等多轮指标,而 AutoEval 则贡献了包括安全性在内的专业信号。

  17. AWS Machine Learning Blog60

    AWS 开源 UAEF:一个与框架无关的 AI Agent 评估系统

    AWS 已开源 UAEF(Universal Agent Evaluation Framework,通用 Agent 评估框架),这是一个与框架无关的系统,通过适配器将来自 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的 Agent 轨迹归一化为统一的 AgentTrace,然后用覆盖 7 个维度的 36 项内置指标进行打分。结果按实验存储在 Amazon DynamoDB 和 Amazon S3 中,使团队可以将 Agent 版本与基线进行比较,用默认 5% 的阈值标记回归,并生成统计报告以及由 LLM 撰写的洞察。文章称,来自电信、医疗和金融服务领域 12 个组织的客户在发布前使用了 UAEF,Apache 2.0 代码、Python 库、CDK 部署和各框架 notebook 均位于 awslabs/uaef GitHub 仓库中。

    推荐理由:AWS 团队开源 UAEF,用适配器把不同框架的 Agent 轨迹统一成一种格式,再以 36 项指标跨 7 个维度打分,为跨框架比较 Agent 版本提供了一套可复用的评测层。

  18. AWS Machine Learning Blog40

    Agent DLC:从原型到生产环境构建 AI Agent

    AWS 推出 Agent 开发生命周期(Agent DLC),这是一个包含一个生命周期、两个循环以及单一明确标准的框架,用于评判每一次 Agent 变更。它针对三个会破坏传统 CI/CD 的 Agent 特性:非确定性、提示词即源代码,以及独立变动的依赖项。一个参考 HR 政策助手显示,在全部三个测试问题上,块级检索精确度为 1.00,而事实级精确度降至 0.09,且其中一个问题的检索覆盖率为 0.00。

11月12日周四
  1. OpenRouter Announcements28

    如何对 LLM 进行基准测试:来自 OpenRouter 的代码评分指南

    OpenRouter 发布了一份指南,介绍如何基于你自己应用的输入对 LLM 进行基准测试,用代码对输出评分,并比较准确率、计费成本和请求时间。在其 60 个合成任务上,GPT-6.1 Sol 在三次重复中共通过 180/180 次试验,而 DeepSeek 的响应成本最低,通过 157/180 次。与公开排名的吻合度较弱,Spearman 相关系数为 0.109。

  2. Simon Willison71

    Google 发布 Gemini Decision 1 决策模型 API,支持多模态输入

    Google 发布了 Gemini Decision 1,这是一个决策模型 API,支持是/否、选择和评分标准打分类问题,与 Jev 和 OpenAI 一同进入决策模型类别。其定价为每百万输入 token 10 美分,输出免费;与 Jev 仅支持纯文本输入不同,它接受文本、图像、音频、视频和 PDF。在一段机器人视频的测试中,Gemini 返回的概率如 robot 为 0.9234、dragon 为 0.0498,而非 Jev 和 OpenAI 返回的 1.0 或 0.0。

  3. Epoch AI · Gradient Updates64

    Epoch 简报:GLM 5.3 可依据补丁缺口自主构建 Firefox 漏洞利用,每个成本约 1,000 美元

    Epoch AI 研究人员报告称,在离线沙箱实验中,开放权重模型 GLM 5.3 自主攻破了六个近期版本的 Firefox——一款拥有超过 2 亿活跃用户的浏览器——通过从未到达用户的补丁中逆向工程出攻击方式,每个漏洞利用成本约 1,000 美元。该模型构建的网页能够在无需人工输入的情况下读取访客计算机上的文件并将其发送给攻击者;团队无法用 Chrome 复现这一结果。同一份简报还指出,11 月 9 日发布的 Anthropic Claude Fable 5.2 创下 Epoch Capabilities Index 新纪录 174,高于 GPT-6 Astra 的 169。

11月11日周三
  1. OpenRouter Announcements60

    OpenRouter 测试 fp8 和 fp4 量化对 LLM 质量与价格的影响

    OpenRouter 于 2026 年 10 月 20 日针对 Qwen3.8 27B 的六个端点运行了 280 个精确答案任务,未发现 fp16、fp8 和 fp4 之间存在准确率差异,六个端点的得分均在 98.3% 至 99.2% 之间。在 1,455 个端点中,59.5% 完全未报告精度,fp8 是最常见的标注格式,占 23.6%。对大多数模型而言,较低精度更便宜,但并非所有模型都如此;提供商选择对价格的影响大于精度,同精度下最贵端点的价格中位数是最便宜端点的 1.72 倍。

    推荐理由:OpenRouter 在一个模型的 fp8、fp4 和 fp16 端点上测量了 240 个精确答案任务,未发现可检测的准确率差距,而价格差异更多与提供商相关,而非精度。

  2. inclusionAI Models40

    inclusionAI 发布 ZoomGain-9B 和 ZoomGain-4B 模型,附带 ZoomGainBench 与 RL 训练数据

    inclusionAI 发布了 ZoomGain-9B 和 ZoomGain-4B 视觉语言模型检查点,以及 ZoomGainBench 评估基准和 ZoomGain RL 训练数据。ZoomGain 挖掘从全局到放大的感知差距,以构建细粒度视觉监督,ZoomGain-9B 在多个细粒度和通用感知基准上取得了更优表现。ZoomGainBench 包含覆盖 941 张图像的 1,000 个问题,而 RL 数据集包含 9,000 条训练记录和 7,713 张源图像。

  3. inclusionAI Models40

    inclusionAI 在 Qwen3.5 上发布 SingVL S1 4B 多模态决策模型

    inclusionAI 发布了 SingVL S1,这是一个基于 Qwen3.5 构建的 4B 多模态决策模型,可在单次 Transformers 前向传播中对文本或 JSON 以及最多四张图像回答指定问题。它支持选择、是/否(noul)和 2–10 级评分问题,在 Public Vision Index 上得分 73.94,在 Public Text Index 上得分 69.76。该模型附带 Python 推理代码和 FastAPI HTTP 服务器。

  4. Latent Space69

    NaiveAI 的 Naive-N0.5-Flash 声称每秒 2,100 个 token:它的编码能力如何?

    Latent Space 测试了 NaiveAI 的开源权重模型 Naive-N0.5-Flash,这是一个源自小米 MiMo-V2.5 的编码模型,搭配 NaiveRT 推理引擎,并与 DeepSeek V4.1 Flash 1017 和 GLM 5.3 Flash 进行了对比。在作者的运行中,它峰值接近每秒 2,000 个 token,在思考密集型任务中持续约 1,000 个 token,中位响应时间为 3.1 秒,而两个对比模型分别为 5.3 秒和 10.1 秒。在困难的 HLE 问题上,开启思考时它平均完成约 108,500 个 token,约为 GLM 5.3 Flash 的九倍和 DeepSeek V4.1 Flash 1017 的 11 倍,作者指出样本为每个难度级别 10 个问题,且未进行准确性评分。

11月10日周二
  1. Simon Willison75

    Meta AI 发布 Muse Ember,其最小、最高效的模型

    Meta AI 发布了 Muse Ember,称其是自家最小、最高效的模型,面向工具调用、编码子任务、路由、抽取和长文档解析。对于较短的提示词,其定价为每百万输入 token 0.10 美元、每百万输出 token 0.50 美元,与 GPT-6 Luna 和 Claude Haiku 5.5 相同;而在超过 200k token 的长提示词上,其输入 0.30 美元、输出 1.50 美元的费率则介于两者之间。Simon Willison 指出,该模型位于 Artificial Analysis 的智能指数与每任务成本图表的帕累托线上,并且其六个推理等级生成的 pelican SVG 质量与价格高 40 倍的 Muse Wonder 相当。

  2. Latent Space85

    Anthropic 发布 Claude Fable 5.2 和 Mythos 5.2,在 IPO 路演启动之际重夺 LLM 榜首

    Anthropic 发布了 Claude Fable 5.2 和 Claude Mythos 5.2,二者在多数独立排行榜上位居榜首,包括 Artificial Analysis Intelligence Index v5(65 分)和 SemiAnalysis GDPx(16.4%)。价格下调 20%,降至每 100 万输入/输出 token 8 美元/40 美元,但 SemiAnalysis 报告称,每项 GDPx 任务的成本从 67.16 美元升至 88.15 美元,因为该模型会编写数百到数千个测试用例,并启动子代理来检查其工作。多项评估显示,max effort 级别的表现不如 high,且 Fable 被限制为每周订阅额度的 50%。

    推荐理由:Anthropic 发布 Fable 5.2 和 Mythos 5.2,每 token 价格下调 20%,但独立评估显示每任务成本更高,且 max-effort 设置的表现不如 high。

  3. OpenRouter Announcements72

    OpenRouter 对 15 个视觉模型和 Mistral OCR 在扫描文档上进行基准测试

    OpenRouter 在八份自制的退化扫描件上测试了 15 个视觉模型、Mistral OCR 和 Tesseract,Claude Opus 5.5 最准确,264 个关键值中答对 262 个,每 1,000 页成本 16.42 美元;Mistral OCR 性价比最高,264 个中答对 258 个,成本 2.02 美元。在一张褪色收据上,GPT-6 Luna 和 GPT-6.1 Sol 编造了卡号数字、一个服务器名称和 wifi 密码,这些错误是字符错误率无法揭示的。文章附有代码,可转录扫描件、关闭推理、交叉核对来自不同实验室的两个模型,并通过 file-parser 插件运行 Mistral OCR。

    推荐理由:对 15 个视觉模型以及 Mistral OCR 和 Tesseract 在八份退化扫描件上的实测基准,附可运行代码,用于交叉核对两个模型以捕捉编造的数值。

  4. Apple Machine Learning Research31

    Apple 研究评估 LLM 评判器用于个性化写作风格评估

    Apple 研究人员测试了 LLM 评判器在评估生成文本是否符合用户偏好写作风格方面的表现,使用四个 LLM 在三个长文本写作任务中生成文本,并将评判器标注与人类成对标签进行比较。评判器质量与 LLM 在 MMLU 上的通用能力仅呈弱相关(Pearson's ρ ≤ 0.2),且因写作任务和评估标准而异,成对比较比独立评分更一致。最强的 LLM 并未最可靠地复现人类评估,可能是由于对细微细节的敏感度被夸大。

  5. One Useful Thing78

    Ethan Mollick 在编程、商业和研究领域测试 Claude Fable 5.2,称其几乎达到 AGI

    在涵盖硬件破解、商业规划、人文学科课程建设、学术研究以及一个 450 个世界的 3D 门户项目的任务中,2,并根据他将 AGI 定义为在大多数基于计算机的智力任务上匹配大多数人类专家的标准,判定其几乎达到 AGI。

    推荐理由:Ethan Mollick 对 Claude Fable 5.2 的亲手测试显示,其在编程、商业和研究方面具备强大的通用能力,同时暴露出一个持续存在的差距:在判断工作是否足够好时缺乏自我评判能力。

  6. Latent Space58

    前沿实验室买什么:与Handshake AI的Garrett Lord及团队的数据深度剖析

    Handshake的AI训练业务在大约一年内从启动做到10亿美元年化毛收入,本次Latent Space与Garrett Lord及其团队的深度剖析梳理了前沿实验室所购买的强化学习环境。在一个金融演示中,一个智能体处理模拟银行的邮件和交易文件,将一个商誉数值带入Python并减去它,这个错误显示出专家判断在何处仍胜过模型。团队还介绍了VIALS——其用于解读科学图像的基准,并追踪了一个智能体在包括CAREBench在内的安全模拟中的工具调用。

  7. Every65

    评测:Gemini 4 Carbon 的编程能力超过其判断力

    Every 的实测评测发现,Google DeepMind 今日发布的 Gemini 4 Carbon 在编程上比 Gemini 4 Argon 强得多,能构建更好的 3D 物体,并可在极少监督下连续工作数小时。测试者对其需要多少监督意见不一,评测称早一天发布的 Anthropic Fable 5.2 抬高了期待:旗舰智能体还应选对工作、遵守限制并知道何时完成。Google 向 Every 提供了提前访问权,未对评测施加影响。

  8. Recraft Blog22

    2026年最佳AI表情包生成器:7款工具对比

    用同样的三个表情包需求,对七款AI表情包生成器——Imgflip、Canva、Supermeme.ai、Recraft、Kapwing、ChatGPT和Magic Hour——在免费套餐、水印、模板、字幕渲染、导出尺寸和API方面进行了测试。对比发现没有 universally 胜出的工具:Imgflip在经典模板上胜出,Supermeme.ai在从想法到字幕上胜出,Recraft和ChatGPT在原创图片上胜出,Kapwing在视频和GIF上胜出,而当表情包必须适配某个版式时Canva胜出。