跳到正文
今天11月13日周五1 条
  1. The Verge · AI58

    研究发现ChatGPT、Gemini和Perplexity推荐虚假零售网站

    知识产权保护公司Podqi的一项研究发现,ChatGPT、Gemini和Perplexity在回答关于151个品牌的购物问题时,均引用或展示了高风险零售网站,此类网站被定义为虚假店面、重新注册的旧品牌域名或已失效的站点。在9月两个测试时段收集的6,795条回答中,Perplexity在15%的回答中呈现了高风险网站,ChatGPT为8%,Gemini为4%;而ChatGPT在24%的情况下对其呈现的高风险网站发出了警告。关于较小品牌的查询产生高风险网站的频率约为较大品牌的两倍,涉及区域品牌网站的提示更频繁地触发此类网站,Perplexity曾将错误的页面称为Stüssy的官方网站。

11月12日周四
  1. Google Research58

    Google Research 利用可穿戴设备构建 CKM 风险画像与个性化指导

    Google Research 推出一个研究性框架,可将消费级可穿戴设备数据转化为可指导的健康年龄,并模拟个性化的 12 周“假设”健康轨迹。SensorWM 世界模型基于约 10 万名用户、共 228 万人周的匿名 Fitbit 数据进行预训练,可在不同步数、睡眠和有氧运动习惯下预测 20 项生理指标。在一项盲测研究中,生活方式教练在 71.4% 的评估中选择以反事实为依据的方案为整体最佳,医生评定 99.2% 的方案处于安全运动强度范围内;作者指出这些模型是研究原型,而非临床诊断工具。

  2. The Decoder88

    Google DeepMind 的 AlphaProof Code 在四周内而非数年验证了 Signal 的加密核心

    Google DeepMind 发布了 AlphaProof Code,这是一个能够以数学方式证明软件符合其安全规范的 AI 系统,并用它在四周内验证了运行在 Signal 用户设备上的加密核心代码,而这项工作通常需要数年时间。在专家定义了正式的安全要求后,基于 Gemini Carbon 构建的 AI 代理用 Lean 证明语言编写了超过六百万行代码,并标记出约百分之一的代码库供人工审查,立即发现了两个故意植入的漏洞。Signal CTO Ehren Kret 表示,随着 AI 威胁的增长,这种方法增强了对数据隐私的信任,DeepMind 计划通过 CodeMender 等系统将该方法扩展到电网和医疗设备。

    推荐理由:DeepMind 的 AlphaProof Code 在四周内验证了 Signal 的真实加密代码,展示了 AI 代理如何将形式化验证从设计文档推进到生产软件。

  3. Google Developers Blog58

    Google Agent Anomaly Detection 在五个公开的 agent 安全基准上得分

    Google 在 Gemini Enterprise Agent Platform 上以 Private Preview 形式运行了其 Agent Anomaly Detection,针对五个并非由它编写的公开 agent 安全基准进行测试,共评估了 1,774 个会话。它标记出了 agent 实际执行的有害指令中的 87%,对良性会话的误报率为 2% 到 16%,而在 18 个由被污染的长期记忆驱动 agent 行动的会话中仅捕获了 4 个。测试使用了一个基于 gemini-2.5-flash、用 Agent Development Kit (ADK) 构建的 agent,覆盖 AgentDojo、InjecAgent、Agent Security Bench、AgentDyn 和 AgentHarm。

11月10日周二
  1. Google DeepMind82

    Google DeepMind 推出 AlphaProof Code,对 Signal 的加密代码进行形式化验证

    Google DeepMind 研究人员使用多 LLM 智能体框架 AlphaProof Code,对 Signal 协议底层实际代码的关键安全属性进行了形式化验证。由 Gemini Carbon 驱动的智能体生成了超过六百万行 Lean 代码,人类专家仅审查了约百分之一的代码库;验证耗时四周,而这项任务历来需要专家团队花费数年时间。当两个此前已修复的漏洞被重新引入 Signal 代码的隔离版本时,系统生成了机器校验的证明,表明有漏洞的版本不安全,DeepMind 正在将其形式化验证产物开源。

    推荐理由:Google DeepMind 的多智能体框架在四周内对 Signal 已部署的加密代码进行了形式化验证,而这项任务历来需要专家团队花费数年时间。

11月6日周五
  1. SemiAnalysis75

    SemiAnalysis 在智能体推理场景下对 Google TPUv7 Ironwood 与 NVIDIA GPU 进行基准测试

    SemiAnalysis 在 InferenceX/AgentX 上发布了 Google TPUv7 Ironwood 在四个模型上的首批长上下文、多轮智能体推理结果,发现其在每美元性能上具有竞争力,在若干情况下达到最先进水平。在 FP8 精度下的 GLM-5.2 上,TPUv7 在 60 至 300 tok/s/user 区间内提供的每美元 token 数为 B200、B300 和 MI355X 的 1.2 倍至 2.7 倍,而 FP4 GPU 在 GLM-5.3 上仍然领先,因为 TPUv7 缺乏原生 FP4 支持,直到 2027 年第一季度推出的 TPUv8 才会具备。文章还认为,与 AMD 和 Google 相比,NVIDIA 的官僚作风拖慢了驱动和生态系统的贡献。

  2. Google Research72

    谷歌研究人员利用智能手表PPG和加速度计数据检测高血压迹象,无需袖带校准

    谷歌研究团队在《自然》发表了一项关于AI-PPG-ACC-HTN的研究,这是一种多模态系统,可从智能手表PPG和加速度计数据中检测高血压迹象,无需袖带校准。该系统在美国五个站点对196名参与者进行了验证,以24小时动态血压监测为参照,初始筛查的灵敏度为65.8%、特异度为90.0%,确认性检测的灵敏度为78.4%、特异度为90.9%。作者称这项工作属于早期可行性研究,不能替代临床臂式袖带,也不能作为独立诊断依据。

    推荐理由:谷歌的无袖带智能手表高血压模型以24小时动态监测为基准进行评测,展示了被动多日传感器数据聚合如何支持机会性筛查。

11月5日周四
  1. Google Research47

    Google Research 的 Agile Deliberation 帮助人类定义主观性 AI 类别

    Google Research 推出了 Agile Deliberation,这是一个将主观性 AI 分类器创建转化为迭代式对话的框架,AI 在其中帮助用户厘清自己的定义。该框架将任务拆分为概念范围界定和概念迭代,利用视觉语言模型找出边界图像,并将反馈接入自动提示优化循环。在 18 场时长 1.5 小时的实时用户会话中,该方法减轻了用户的疲劳与焦虑,并产出了更一致的模型,其表现优于标准基线;代码已在 GitHub 上开源。

11月2日周一
  1. Import AI42

    Import AI 479:Spacewar、低延迟任务与LLM的对比、Genie 4

    Import AI 479 介绍了 Realtime-Bench,这是一个包含 50 项任务的基准测试,由 UT Austin、Ohio State、UIUC、NVIDIA、Northwestern 和 Steadyworks 的研究人员构建,包含 30 项网页任务和 20 项游戏任务,用于测试前沿模型能否在实时压力下行动。GPT-6 Astra(high)取得了最高的实际耗时通过率,为 36%,而在暂停计时的运行中,高推理模型可达到约 70% 至 80%。本期还涵盖了国防情报局的《太空安全挑战》报告以及 Genie 4。

10月28日周三
  1. Google Research58

    Google Research 的睡眠框架让 LLM 在不发生灾难性遗忘的情况下巩固新知识

    Google Research 提出了一种用于持续学习的睡眠框架,该框架交替进行主动交互与离线记忆巩固,让 LLM 将新事实吸收到扩展的混合专家参数中,而不是丢失先前的知识。该方法结合了参数扩展、基于策略的蒸馏与基于强化学习的模仿,以及一个生成并筛选合成训练样本的“做梦”阶段。作者报告称,在满语和 Kalamang 等未见语言的持续翻译中性能下降接近零,在 BABILong 上扩展到 1000 万 token 时接近完美,在基于 SQuAD 的事实融入中单任务达到 48.9%、CPT 达到 46.2%,在 AIME 24/25 和 HMMT 25 上分别达到 79.2%、69.0% 和 46.1%。

10月24日周六
  1. Epoch AI · Gradient Updates42

    Epoch简报:AI工作自动化测试、SpireClimb基准与Gemini 4 Argon的前沿推进

    Epoch AI在11项真实的Epoch工作任务上测试了六款领先模型,发现没有一款能可靠达到其质量标准,Claude Fable 5.1与GPT-6 Astra大致并列领先。其新推出的SpireClimb基准显示,前沿模型在六个月内从在《杀戮尖塔》中苦苦挣扎,发展到能以超过90%的胜率通过基础难度对局,其中GPT-6 Astra达到98%。Gemini 4 Argon在Epoch能力指数上得分166,与Claude Fable 5.1并列,落后于得分169的Claude Opus 5.5和GPT-6 Astra。

10月22日周四
  1. Google Research58

    Google Research AI 模型在盲扫超声孕龄估计上与专家超声医师持平

    Google Research 在 JAMA Network Open 上发表了一项前瞻性多中心研究,显示其 AI 模型通过盲扫超声估计孕龄的平均绝对误差为 4.18 天,而使用标准生物测量的专家超声医师为 4.48 天。该模型仅在 120 名芝加哥参与者上进行了最小调优,并在内罗毕未做任何本地优化的情况下进行测试,达到 4.27 天的 MAE,而芝加哥为 4.10 天。该研究面向一线孕产妇护理,WHO 估计每年有超过 25 万例可预防的妊娠相关死亡发生,且三分之二的人无法获得诊断成像。

10月17日周六
  1. Google Research71

    Google Research 概述 VERID 与闭环智能体工作流,用于自主湿实验室

    Google Research 介绍了三个旨在让 AI 智能体扎根于真实湿实验室实验的项目,其中包括 VERID 框架——一个基于开源 PyLabRobot 框架构建的实验室工作单元语义数字孪生,可跟踪台面布局、孔体积和吸头库存,并在执行前对协议进行干运行。

    推荐理由:Google Research 概述了三个将 AI 智能体连接到真实湿实验室硬件的项目,展示了模拟干运行和闭环实验如何让智能体修正自身的设计规则。

10月8日周四
  1. Waymo Blog30

    Waymo研究:清醒司机夜间致命事故风险仍高出近4倍

    Waymo经同行评审的研究发现,即使完全清醒的司机,夜间致命事故风险也比白天高3.1至3.9倍;而剔除酒驾司机后,城市平均致命事故参与率从每亿英里1.42起降至1.10起,降幅23%。另一项针对2023年FARS数据库中37,654起致命案例的研究显示,仅8.2%完全涉及纯人为因素。Waymo将这些发现视为对“安全系统方法”的支持,以及对以零BAC人类基线为基准衡量自动驾驶的支持。