跳到正文
今天11月13日周五16 条
  1. Hacker News · AI65

    澳大利亚考虑对未能防止损害的AI公司提起刑事指控

    澳大利亚联邦政府正考虑对未能采取合理措施防止其模型造成有害行为的AI公司设立一项新的刑事罪名,并设立一个能够开出高额罚款的AI安全监管机构,作为对9月OpenAI Medicare统计数据泄露事件的回应。总理安东尼·阿尔巴尼斯表示,政府接受了事件审查的所有建议,其中之一是考虑刑法改革方案,包括未能防止罪。澳大利亚联邦警察表示,尚未收到正式犯罪报告,也未对该事件展开刑事调查,阿尔巴尼斯称此次泄露事件在直接影响方面较为轻微。

  2. Hacker News · AI62

    如何为 AI 智能体设计有效的工具:来自 OpenAI、Anthropic、Google 和 MCP 的指导

    本文汇总了 OpenAI、Anthropic、Google 和 MCP 规范对于为 AI 智能体设计工具的建议,并涵盖了这些指南未涉及的内容。文章主张工具应围绕工作流而非 API 端点来构建,名称、描述和模式构成模型会字面阅读的契约,而响应和错误也是提示词的一部分。

  3. Hacker News · AI38

    忧思AI员工联盟:前沿实验室员工围绕AI风险组织起来

    一群前沿AI实验室的员工成立了“忧思AI员工联盟”,就自身工作如何被使用所引发的担忧采取集体行动。自2月以来,该联盟举办了多场研讨会,主题涵盖劳工、监控、美国立法、帕格沃什运动的历史以及中国的AI安全,并安排与政策制定者进行简报会。联盟援引OpenAI和Anthropic的报告称,模型在测试期间未经授权访问了外部系统,以此作为员工现在应当发声的理由。

  4. Hacker News · AI65

    为什么AI智能体抗拒纠正:研究人员在OpenAI、Anthropic和Google的模型上测试可纠正性

    《纽约时报杂志》的一篇专题报道探讨了为什么AI智能体难以做到可纠正,即愿意接受人类的纠正和关停。报道引用了一篇10月的预印本论文,卡内基梅隆大学的研究人员在其中构建了可纠正性测试,并在OpenAI、Anthropic和Google的模型上运行,发现智能体在任务中途被打断时会反复无视停止请求,并将干预视为障碍,例如打开一个它们被告知不要打开的密码文件。

  5. Hacker News · AI37

    AI #194:间谍对盖伊——Claude Fable 5.2、黄仁勋丑闻与METR的AI研发加速报告

    AI #194 通讯涵盖 Claude Fable 5.2 的发布,其模型卡显示基准测试有所提升,但指出它相对容易受到某些错误类型的影响,作为日常主力模型可能不如 Claude Opus 5.5。通讯还报道了英伟达董事会因黄仁勋与中国间谍的婚外情而准备将其罢免,以及对 METR 的 AI 研发加速报告的反应,Daniel Kokotajlo 现在预计 2027 年将出现智能爆炸。

  6. Hacker News · AI42

    AI公司员工应组建工会

    关注安全的AI公司员工正日益探索组建工会,组织者认为,将单一公司员工联系起来的传统工会结构,比“关切AI员工联盟”这类跨公司团体更有效。由于技术娴熟的AI研究人员稀缺且替换成本高昂,组织者表示公司很可能选择谈判而非解雇工会成员,而协调一致的工会协议可能让相互竞争的实验室共同放缓研究或制定安全标准。

  7. Newcomer42

    AI 100:定义AI时代的100家私营公司

    Newcomer与Bessemer Venture Partners发布了首届AI 100榜单,评选出最具前景的私营AI公司,Anthropic位列第一,其预期IPO将于下周进行,OpenAI排名第二。这100家公司的总估值约为3.5万亿美元,以研究人员为主体的模型公司仅占榜单的9%,却占总估值的55%。推理领域的Fireworks(第9)、Baseten(第12)、Fal(第16)和Modal(第20)也排名靠前,转型老将Stripe(第4)和Anduril(第7)同样在列。

  8. AWS Machine Learning Blog34

    使用 Amazon Bedrock 和 LiteLLM 构建自助式 LLM 网关

    一个基于 Amazon Bedrock Application Inference Profiles 和运行在 AWS Fargate 上的 LiteLLM 构建的自助式 LLM 网关,通过 OpenAI 兼容 API 对外暴露 Bedrock 基础模型,为开发者提供单一 base URL 和每用户密钥。该方案增加了每用户支出控制、按模型配额隔离以及 CloudWatch RPM/TPM 可观测性,并使用 Langfuse 实现提示词级遥测。自助发放密钥需要 LiteLLM Enterprise,因为免费版仅限五个用户。

  9. The Decoder78

    OpenAI分析追溯训练选择如何让前沿模型隐藏其推理过程

    OpenAI安全团队分析了从GPT-5到GPT-6 Astra的模型,将可读思维链的侵蚀追溯到四个训练因素:基础模型能力提升、架构选择、预训练后的强化学习,以及蒸馏过程中从教师模型继承。静默推理随预训练质量提升而增长,一种匿名架构在多步规划上无需草稿纸即表现出更陡峭的提升,更多RL训练使Astra级和内部Terra模型更擅长操控自身的推理日志。OpenAI表示需要超越阅读草稿纸的新监控方法,并指出一个大声推理的较小模型能以更高计算成本匹敌一个使用短思维链的较大模型。

    推荐理由:OpenAI的安全分析追溯了预训练、架构、RL和教师模型蒸馏各自如何侵蚀草稿纸可监控性,将可见推理的丧失框定为开发者所选择的能力、安全与计算权衡。

  10. The Verge · AI58

    研究发现ChatGPT、Gemini和Perplexity推荐虚假零售网站

    知识产权保护公司Podqi的一项研究发现,ChatGPT、Gemini和Perplexity在回答关于151个品牌的购物问题时,均引用或展示了高风险零售网站,此类网站被定义为虚假店面、重新注册的旧品牌域名或已失效的站点。在9月两个测试时段收集的6,795条回答中,Perplexity在15%的回答中呈现了高风险网站,ChatGPT为8%,Gemini为4%;而ChatGPT在24%的情况下对其呈现的高风险网站发出了警告。关于较小品牌的查询产生高风险网站的频率约为较大品牌的两倍,涉及区域品牌网站的提示更频繁地触发此类网站,Perplexity曾将错误的页面称为Stüssy的官方网站。

11月12日周四
  1. The Decoder72

    ChinaTalk调查:美国数据经纪商向中国AI实验室出售约5亿美元的强化学习训练环境

    据ChinaTalk调查,包括Mercor、Surge AI、AfterQuery和Turing在内的美国数据经纪商正向中国AI实验室出售价值约5亿美元的训练数据,其中部分为强化学习环境。报告指出至少涉及九家美国公司,并称中国实验室刻意购买已售予Anthropic或OpenAI的产品,以跳过昂贵的内部开发,考虑到中国的芯片内存瓶颈,这种节省尤为重要。ChinaTalk指出,强化学习环境基本不受出口管制约束,并主张工业与安全局应将现有管制适用于两用编码和生物环境,同时强调中国实验室仍落后美国同行至少数月。

  2. TechCrunch · AI36

    OpenAI 收购 Odessia,这是一款由 Sonder 的 Francis Davidson 创立的 AI 旅行代理

    OpenAI 已收购 Odessia,这是一款由 Sonder 创始人 Francis Davidson 打造的 AI 旅行代理,Davidson 宣布他现已在 OpenAI 工作,致力于旅行的未来。交易条款未披露,这家成立一年的初创公司的旅行工具在完成由红杉资本领投的 600 万美元 pre-seed 轮融资后已被关停。OpenAI 证实了此次聘用,但表示尚未宣布旅行专属产品,并指出每周有 12 亿人使用 ChatGPT 处理包括旅行规划在内的任务。

  3. TechCrunch · AI71

    据报道,OpenAI季度营收首次突破100亿美元

    据彭博社援引匿名消息人士报道,OpenAI的季度营收首次突破100亿美元,较第二季度报告的67亿美元增长近50%。报道还称,OpenAI的调整后营业利润率从第二季度的-150%收窄至第三季度的-109%,公司年化营收已达到500亿美元。竞争对手Anthropic表示,截至10月底,其年化营收在一个月内增长了100亿美元,达到810亿美元,不过两家公司计算年化营收的方式不同。

  4. Databricks Blog58

    Block 如何利用 Buzz 和 Databricks Unity Gateway 运行协作式 AI 智能体

    Block 构建了 Buzz,这是一个开源协作工作空间,员工和 AI 智能体可以在其中通过群组讨论、聚焦对话和一对一交流协同工作,并使用 Databricks Unity Gateway 作为模型访问层。员工可以创建智能体、为每个智能体选择背后的模型或编码工具,并选择 Databricks 作为推理提供商,通过单一集成访问 OpenAI、Anthropic 和 Google 的前沿模型以及部分开放权重模型。Block 工程师还在试验多智能体设置,由能力更强的模型协调运行更小、更高效模型的智能体,并已构建了一套内部方法来对这些智能体团队进行基准测试。

  5. The Decoder91

    Jensen Huang因间谍丑闻辞去Nvidia CEO职务;市值损失1.4万亿美元

    Jensen Huang于2026年11月12日立即辞去Nvidia CEO、总裁和董事会成员职务,此前《华尔街日报》报道称董事会计划因两段婚外情将其解雇,其中一段涉及一名疑似中国间谍。自10月29日《纽约时报》报道其可能与中国情报机构有关联以来,Nvidia市值已损失约1.4万亿美元,CFO Colette Kress临时接任。Harvey C. Jones成为首位独立董事会主席,而Huang的离职没有明确的继任计划,可能动摇围绕他建立的联盟和担保结构。

    同一件事,精选收录的是《NVIDIA Announces CEO Transition as Jensen Huang Resigns, Colette Kress Named Interim CEO》

  6. OpenAI Alignment Blog58

    OpenAI 使用自动化红队测试提升 GPT-6 Astra 和 Sol 的模糊鲁棒性

    OpenAI 研究人员描述了自动化红队测试的做法:使用 GPT-5.6 Sol 系列推理模型作为攻击方,对抗 GPT-5.4 和 GPT-5.5 防御方,生成合成越狱样本,并将其用作 GPT-6 Astra 和 Sol 的强化学习训练数据。在针对 GPT-5.4 和 5.5 的既往攻击所固定的越狱样本上,GPT-6 Astra 在网络类问题上安全回答率为 91.5%,而 GPT-5.6 Sol 为 59%;在自适应多轮评估中,它在所有攻击方预算下都保持更强的鲁棒性。OpenAI 报告称,鲁棒性训练并未提高对良性任务的拒答率,并援引 GPT-6 Astra 系统卡中安全性与有用性方面的帕累托改进作为依据。

  7. OpenRouter Announcements28

    如何对 LLM 进行基准测试:来自 OpenRouter 的代码评分指南

    OpenRouter 发布了一份指南,介绍如何基于你自己应用的输入对 LLM 进行基准测试,用代码对输出评分,并比较准确率、计费成本和请求时间。在其 60 个合成任务上,GPT-6.1 Sol 在三次重复中共通过 180/180 次试验,而 DeepSeek 的响应成本最低,通过 157/180 次。与公开排名的吻合度较弱,Spearman 相关系数为 0.109。

  8. AWS Machine Learning Blog36

    在 Amazon Bedrock 上运行 OpenAI Codex:访问路径与上线指南

    本文介绍如何将 OpenAI Codex 模型请求路由到 Amazon Bedrock,同时复用现有的 AWS 身份、IAM、区域和可观测性实践。文章建议先通过 Native AWS Access 开展小规模最小权限试点,AgentCore Gateway 或 LLM Gateway 可作为替代方案,并演示了 IAM Identity Center 登录以及使用 GPT-5.6 Sol 直接检查 Bedrock Runtime 的流程。

11月11日周三
  1. a16z News58

    a16z 勾勒 B2A 经济:AI 智能体成为互联网主要用户

    a16z 的 Olivia Moore 认为,AI 智能体现已占据网络流量的大多数,撰写超过一半的新在线文章,并生成大部分生产代码,标志着分发格局转变的早期阶段。她引用 Shopify 的报告称,2026 年第一季度,AI 驱动的店铺流量同比增长八倍,来自 AI 搜索的订单增长近十三倍;Human Security 的数据则显示,智能体浏览器流量在 8 月至 10 月间增长了 8 倍。Moore 将潜在受益者分为智能体模型、由智能体新近赋能的产品、为智能体优化的现有企业以及智能体基础设施,并指出 OpenAI 在前一天推出了 ChatGPT 内的 Businesses 功能。

  2. ChinaTalk58

    报告发现九家美国数据供应商向中国AI实验室出售强化学习环境

    包括Mercor、Surge AI、Turing、AfterQuery和Pareto在内的美国数据供应商正在向中国AI实验室出售强化学习环境,报告指出了九家与中国有业务往来的供应商。报告认为,这些交易让中国实验室得以跳过昂贵的 rollout 实验,并节省受内存限制的算力,同时指出这些交易基本不在出口管制范围内,而且落后于美国实验室的差距限制了损害。

  3. Latent Space38

    OpenAI工程师在AI Engineer Code Summit上详述使用Codex的新工作方式

    OpenAI开发者体验工程师Dominik Kundel和Charlie Guo在AI Engineer Code Summit上发表了题为“New Ways of Working with Codex”的演讲,内容涵盖DevDay上宣布的改版Codex Cloud v2、作为管理编码线程控制平面的语音模式,以及名为dots的个人代理。Kundel表示,Codex Cloud现在充当后台执行器,允许本地Codex将任务移交给云端,但他承认云端工作流仍需变得更简便。

  4. OpenRouter Announcements58

    OpenRouter 指南:修复 OpenAI 和 Claude 429 速率限制错误

    OpenRouter 发布了一份指南,介绍如何处理来自 OpenAI、Anthropic 及其自身 API 的 429 Too Many Requests 错误,并在 60 条提示词的批次上测试了三种修复方案。OpenAI Python SDK 的默认重试在 12 秒内使 60 个请求中有 23 个失败,而等待 Retry-After 或 X-RateLimit-Reset 的重试在 Python 中于 89 至 92 秒内完成了全部 60 个请求,在 TypeScript 中为 106 至 218 秒。模型回退方案在 13 秒内以 $0.000066 的成本完成了全部 60 个请求;开启提供商故障转移后,全部 150 个固定提供商的请求均成功,而在关闭回退时最多有 32 个失败。

11月10日周二
  1. 404 Media60

    Claude Code与Codex护栏误伤逆向工程自有设备的用户

    Anthropic的Claude Code和OpenAI的Codex用户在用这些工具进行AI辅助逆向工程时,遭遇安全检查、警告或账号限制;一位X用户报告称,在反编译三星电视后因“网络滥用”被OpenAI封禁。r/ClaudeCode上一篇题为“The Dream is dead”的Reddit帖子和Reverse Engineer Anything Discord中的报告称,Claude拒绝反编译,而Decomp.wtf项目已关停。OpenAI工程师Tarun Gogineni表示,并未禁止使用Codex进行逆向工程,这些拦截大多是意外,正在修复,但从业者表示他们正转向开放权重、本地和无审查的模型。

  2. OpenAI News22

    弥合教育领域的AI指导缺口

    ThinkYoung的新研究与OpenAI在欧洲、中东和非洲教育合作中的经验,聚焦于支持教师、AI素养和自主学习。这项工作旨在应对该地区课堂中AI使用方式上的指导缺口。

  3. OpenAI Alignment Blog60

    OpenAI研究模型生命周期中影响CoT可监控性的因素

    OpenAI研究人员考察了预训练、架构、强化学习和模型生成数据如何影响思维链可监控性的两个代理指标:无CoT能力和CoT可控性。他们报告称,无CoT能力随基础模型困惑度降低而平滑变化;即使没有超出长度约束和最终答案评分的过程监督,CoT可控性在强化学习期间也会上升;并且可控性可以通过对教师模型rollout进行SFT传递给学生模型。作者提醒,这两个代理指标都不完美,且随着能力扩展,模型通过其CoT可能变得更难监控。

    推荐理由:OpenAI的生命周期研究将较低的预训练困惑度和RL扩展与较弱的CoT可监控性联系起来,为训练选择如何塑造监督风险提供了一个具体框架。