跳到正文
10月20日周二
10月19日周一
  1. Sakana AI Blog55

    Sakana AI 提出 QD-Rec:一种将候选对象与 LLM 撰写的假设配对的质量-多样性推荐方法

    Sakana AI 开发了 QD-Rec,这是一种推荐方法,将候选对象加上解释为何选择它的假设作为推荐单元,并使用质量-多样性搜索来积累高质量、多样化的提议。在并购、客户定位和论文推荐实验中,QD-Rec 构建的档案平均得分更高、规模大于从头编写每个假设的基线,其代码已在 GitHub 上发布。论文报告了一些案例,其中某个假设对一家公司评分为 1 分(满分 10 分),经过变异并迁移到另一个候选对象后,得分提高到 5 分。

  2. Modal Blog58

    Modal 对 NVIDIA Vera CPU 进行基准测试:负载下沙箱吞吐量最高提升至 2 倍

    Modal 对 NVIDIA 新款 Arm 兼容 Vera CPU 服务器进行了基准测试,测得任务吞吐量最高可达同等 x86 GNR 机器的两倍,且单任务延迟持平、有时更低。结果来自 Agentless Agent Bench、50 个 Terminal-Bench oracle 解决方案与验证器,这些内容已移除网络调用,并在并发 Docker 容器中运行。Modal 将这一提升归因于 Vera 在并发容器累积时仍能保持节奏,并将其与高内存带宽联系起来,同时表示支持 Arm 需要在其基础设施和镜像构建系统上做出改动。

  3. Import AI30

    Import AI 477:我告诉IMF奇点已经开始

    Anthropic联合创始人Jack Clark在曼谷IMF会议的Per Jacobsson讲座上主张奇点已经开始,援引如今运行在人类科学前沿、有时自主运行的AI系统。他指出Anthropic内部编码能力的提升——研究人员现在产出的代码量几乎是公司最初四年的10倍——并警告更强的网络能力正迫使全球展开部署竞赛。

  4. inclusionAI Repositories58

    inclusionAI 发布 Ming-3.0-tts 语音合成模型,含 0.5B 稠密版与 7.9B MoE tiny 版

    inclusionAI 发布了 Ming-3.0-tts,这是一个开放权重的多语言语音合成系列,包含两个模型:Ming-3.0-tts-0.5b 是 0.5B 稠密模型,Ming-3.0-tts-tiny 是基于 Ling V3 的 MoE 模型,总参数 7.9B、激活参数 1.3B。两者均附带推理代码、任务 cookbook 和基准测试表格,支持声音克隆、基于文本的音色设计、自由形式的自然语言表达控制、14 个内联副语言标签、情绪与语速/音高/音量控制,并支持中文、英文、德文、西班牙文、法文、韩文、日文、四川话和粤语。在 2026 年 10 月的 Artificial Analysis 文本转语音排行榜上,Ming-3.0-tts 在 Controlled Voice 上位列开放权重模型第 1,在 Pronunciation Robustness 上以 93.2% 位列总榜第 1,在 Provider Voice 上位列开放权重模型第 3。

  5. inclusionAI Repositories5

    inclusionAI 下的 venus-asi 仓库

    inclusionAI 下的 venus-asi 仓库仅包含一个 README.md 和一个 index.html,未提供描述、网站或主题。该仓库有 0 个 star、0 个 watcher 和 0 个 fork,且未列出任何 release、package 或贡献者。

  6. inclusionAI Repositories58

    inclusionAI 发布 Ming-3.0-asr-tiny 上下文感知语音识别模型

    inclusionAI 发布了 Ming-3.0-asr-tiny,这是一款语音识别模型,将 Ling-tiny-v3 语言模型与音频编码器结合,用于中英文转写、方言识别和上下文 ASR。方言评测覆盖 15 个测试集,包括湖南话、闽南语、粤语、川渝话和上海话,并且可以在提示中提供热词或前序对话,以解析人名和技术术语。该仓库提供了 Transformers 和 SGLang 的部署指南,代码和权重以 MIT 许可证发布。

  7. MiniMax Blog83

    MiniMax 发布 M3.1 Flash,声称成本降低 70%、推理速度提升近 3 倍

    MiniMax 正式推出 MiniMax M3.1 Flash,这是一款新一代 Flash 模型,据称相比前代将使用成本降低 70%,在线推理速度提升近三倍。公司报告其在 DeepSWE v1.1 上达到 73.7%,在 BankerToolBench 上为 76.2,在 OSWorld V2 上为 61.7,在 Agents' Last Exam 上为 29.6,在 CyberGym 上为 82%,输出速度超过 200 TPS,中位数为 170+ TPS。定价为每 100 万输入 token 0.15 美元、每 100 万输出 token 0.60 美元、每 100 万缓存输入 token 0.015 美元,该模型可通过 MiniMax API、M Plan 和 MiniMax Code 使用,权重将于后续发布。

    推荐理由:MiniMax 的 Flash 模型声称以每 100 万输入 token 0.15 美元的价格实现顶级的智能体与编程得分,为智能体工作负载的成本侧提供了一个具体的数据点。

  8. Modal Blog38

    Legora 如何在 Modal Sandboxes 上并行运行 2,000 个 agent 评估

    Legora 现在将每一项法律 agent 评估都放在独立的 Modal Sandbox 中运行,启动其完整应用并固定到特定 commit,使每次运行都反映确切的产品版本。一次典型实验包含 100 个用例、4 个 harness 变体、每个 5 次试验——即 2,000 次并行运行——并由 Modal Volumes 对文档、数据库和权限状态进行快照。Legora 还从 gVisor 迁移到 Modal VM Sandboxes,移除了其 Docker 网络和 FUSE 变通方案,并通过更智能的压缩和自定义工具搜索将 agent 成本降低了 30%。

10月18日周日
  1. Recode China AI40

    中国拟议AI出口管制,DeepSeek押注机器人,Infinigence融资3.34亿美元

    中国商务部和科技部拟将AI模型、智能体、芯片设计和计算集群列入技术出口管制目录,草案规则将API、应用和SaaS访问排除在外。据报道,DeepSeek计划领投机器人AI初创公司Winverse AI的种子轮,而Infinigence AI完成了23亿元人民币的C轮融资。DeepSeek还发布了V4.1-Flash-1017,采用MIT许可的权重和100万token的上下文窗口。

  2. Anthropic Newsroom60

    Anthropic 承诺将 5% 的股份投入新的公共利益基金,并随估值增长追加更多股份

    Anthropic 承诺在获得股东批准后,将 5% 的股份投入新成立的 Anthropic Public Benefit Fund(一家全资有限责任公司),并在公司价值较既定基准每增长 50% 时,由董事会酌情追加 2%。

    推荐理由:Anthropic 将其公共利益承诺与公司增长挂钩,因此用于公共利益的股份随估值增长而扩大,而非保持固定。

10月17日周六
  1. Google Research71

    Google Research 概述 VERID 与闭环智能体工作流,用于自主湿实验室

    Google Research 介绍了三个旨在让 AI 智能体扎根于真实湿实验室实验的项目,其中包括 VERID 框架——一个基于开源 PyLabRobot 框架构建的实验室工作单元语义数字孪生,可跟踪台面布局、孔体积和吸头库存,并在执行前对协议进行干运行。

    推荐理由:Google Research 概述了三个将 AI 智能体连接到真实湿实验室硬件的项目,展示了模拟干运行和闭环实验如何让智能体修正自身的设计规则。

  2. Big Technology42

    Rivian CEO RJ Scaringe:机器人技术的进展比你想象得快得多

    Rivian CEO RJ Scaringe 表示,机器人技术的进展将“远、远、远、远快于”世界的预期,他提到如今机器人通过基于 transformer 的模型学习广泛、可泛化的技能。他于 2025 年创立的初创公司 Mind Robotics 融资 10 亿美元,用于打造销售给制造商的双臂工业机器人,并在 Rivian 的工厂内训练这项技术。

  3. Ed Zitron · Where's Your Ed At34

    风险投资正在杀死自己

    Ed Zitron 认为,2012 年的《JOBS 法案》取消了 500 名股东即须报告的门槛,使科技公司和风险投资人得以合法利用散户投资者,让初创企业能更长时间保持私有状态。他写道,这一变化催生了历史上最大的私募估值泡沫之一,如今估值由风投的随意决定而非市场力量决定。

  4. Redwood Research58

    Redwood Research 推出 Screwtape:一条通过编辑智能体转录本来对仅动作监控器进行红队测试的流水线

    Redwood Research 推出 Screwtape,这是一条将攻击插入真实智能体转录本并反复精炼、直到仅动作监控器不再能捕获它的流水线,并由 LLM 验证器检查真实性与严重性。在 94 份唯一转录本上的 252 次运行中,它产生了 35 个规避了 Redwood 自家基于 Opus 4.8 和 Gemini 3.1 Pro 的监控器的攻击,其中 6 个还规避了某前沿开发者提供的留出监控器,并经人工审查确认为有效。作者指出,该流水线无法给出定量安全估计,目前无法为思维链监控器生成推理轨迹,且不会公开发布,但愿意与研究人员分享。

10月16日周五
  1. Modal Blog36

    Modal 解释其为 VM 沙箱构建快速文件系统栈的过程

    Modal 详细介绍了它如何演进其文件系统栈以支撑 VM 沙箱,将客户机请求经由 virtio-fs 和 virtiofsd 路由到其 ImageFS 懒加载文件系统上。第一个版本启动很快但运行缓慢:递归 chown 从四秒变成一分多钟,pnpm 和 bun 安装大约慢了三倍。微基准测试显示,chown 在 virtio-fs 上耗时 9.87 秒,而在 gVisor 上为 2.31 秒,在 ImageFS 上为 1.58 秒。

  2. Replit Blog40

    Replit 将自带云(BYOC)引入其平台

    Replit 正在推出自带云(BYOC)选项,让企业可以在自己的 Microsoft Azure、Google Cloud 或 Amazon Web Services 租户内运行 Replit 平台和已发布的应用。完整版 BYOC 处于私人预览阶段,将 Replit 的 cells 和 agent harness 部署在客户的云中;而面向已发布应用的 BYOC 处于早期访问阶段,将已发布的项目托管在那里,由 Replit 管理平台。Image Exports 则为企业团队提供 Docker 镜像、Terraform 文件和 SBOM,以便自行托管用 Replit 构建的应用。

  3. Waymo Blog45

    Waymo 进军多伦多,目标 2028 年迎来首批乘客

    Waymo 正将其全自动驾驶网约车服务扩展至多伦多,这是其首个加拿大市场,目标是于 2028 年迎来首批乘客。未来几天,Waymo 车辆将开始在多伦多街道上手动驾驶,作为分阶段、安全优先的验证流程的一部分,该流程从高精度地图绘制开始。该公司正与总部位于多伦多的 Element Fleet Management 合作,并计划在车队维护、验证驾驶和客户服务领域投资数百个岗位。

  4. OpenClaw Blog22

    PJ 如何帮助小企业采用并拥有 OpenClaw

    PJ 是佛罗里达州奥卡拉的一名工程师出身的害虫防治公司老板,现在为小企业提供咨询——包括屋顶、泳池和汽车承包商——帮他们搭建 OpenClaw 并教他们自己运行。他的客户想要一个完全属于自己的工具,而不是把公司数据喂给租来的软件,其中一位客户、66 岁的行政人员 Donna 每天都在使用她的 OpenClaw。

  5. LiveKit Blog38

    如何构建生产就绪的 AI 语音智能体

    LiveKit 的指南汇集了解决方案架构师和前置部署工程师的经验,讲述如何将 AI 语音智能体从演示推向生产,围绕三个问题展开:智能体是否足够智能和自然、其性能是否可观测、以及是否能可靠且经济高效地扩展。指南建议单独测量第一轮交互,因为一家公司发现大约 3/4 的通话在问候环节就结束了;并指出客户在 LiveKit Inference 上从 GPT-4.1 迁移到 Gemma 4 31B,在 p50 上节省了 300–500ms。

10月15日周四
  1. Anthropic · Claude.dev62

    Claude Code 团队如何进行代码审查

    Claude Code 团队介绍了其分层代码审查流程:大部分阅读工作由机器完成,人的注意力则保留给基于风险的审批。6 月至 9 月,Claude Code 代码库中合并的拉取请求数量增长了一倍多,而不得不回滚的比例下降了 40% 以上。该流程在 PR 之前叠加验证、必需的 CI、Claude 审查、安全审查、按风险分级的人工审批,以及带标志和快速回滚的合并队列;团队还将过去的事故转化为审查者的每日评估集。

    推荐理由:Anthropic 的 Claude Code 团队详细说明了如何将大部分代码阅读转移到自动化层,同时合并的 PR 翻倍、回滚下降超过 40%,为大量使用智能体的团队提供了一个可迁移的审查模型。

  2. Modal Blog34

    用 Modal GPU 增强你的 LiveKit Agent

    Modal 介绍了如何在其无服务器 GPU 上使用开放权重或自定义模型运行 LiveKit Agents,并以 BitHuman 的开放权重 Expression Video Avatar 为例,由 Qwen3-TTS 配音来克隆 Charles Frye。该方案通过 Modal Server 暴露 avatar 容器的 /launch 端点,并使用 Sticky Sessions 让 WebSocket 客户端保持在同一容器上,同时用 GPU 快照隐藏冷启动。

  3. Mistral AI71

    Mistral 发布 Timestral 时间序列基础模型,在 GIFT-Eval、TIME 和 fev-bench 上登顶

    Mistral 发布了 Timestral,这是其首个时间序列基础模型系列,包含从 5M 到 209M 参数的四种规模。最大的模型在 GIFT-Eval、TIME 和 fev-bench 三大主要公开基准上,在来自单一检查点、未使用集成方法的预训练零样本模型中排名第一,且参数量仅为此前最先进模型的三分之二。Timestral 可生成具有 21 个分位数的概率多变量预测,支持仅历史协变量和已知未来协变量,可在无 GPU 的 CPU 上运行,并可通过 Mistral Forge 进行微调,同时在修改版 MIT 许可证下发布了 GitHub 仓库和技术报告。

    推荐理由:Mistral 的首个时间序列基础模型系列凭借 209M 参数的检查点在 GIFT-Eval、TIME 和 fev-bench 上宣称获得零样本排名第一,为预测工作提供了规模与精度的权衡参考。

  4. inclusionAI Repositories67

    inclusionAI 发布 Ming-3.0-audio-flash 与 Ming-3.0-audio-tiny 音频模型

    inclusionAI 发布了 Ming-3.0-audio-flash,这是一个 126B 参数的混合专家音频模型,激活参数为 6.5B;同时发布的还有紧凑型 Ming-3.0-audio-tiny,参数为 9.3B,激活参数为 2.7B。flash 模型覆盖中英文语音识别,包括方言和嘈杂多说话人场景、长音频理解、非语音声音与音乐感知、音频推理,以及可选用合成语音输出的端到端口语对话。该模型以 MIT 许可证提供,附带 vLLM-Omni、SGLang 和 Transformers 推理路径,默认 Flash 配置在 128K 上下文下使用四块 80 GB H800 GPU 进行张量并行。

    推荐理由:该发布详细介绍了一个 126B 参数的 MoE 音频模型(激活参数 6.5B),以及一个 9.3B 的 tiny 变体,为开放音频语言模型的规模与部署提供了具体参考。

  5. Platformer78

    八个州就ChatGPT安全声明起诉OpenAI

    阿肯色州、亚利桑那州、爱达荷州、爱荷华州、堪萨斯州、蒙大拿州、内布拉斯加州和西弗吉尼亚州的州总检察长分别对OpenAI提起诉讼,指控ChatGPT引导用户(包括青少年)伤害自己和他人。这些案件依据的是州消费者保护法而非第230条,效仿了新墨西哥州对Meta处以9.42亿美元罚款的先例,各州还请求法院禁止OpenAI开发自我改进的AI模型,除非它能确保这些模型与人类价值观保持一致。OpenAI表示已建立针对年龄的保护措施,如家长控制和休息提醒,并将与各州合作制定覆盖整个行业的AI政策。

    推荐理由:八位州总检察长依据消费者保护法而非第230条起诉OpenAI,这一模板借自Meta案件,可能使该公司面临基于设计的责任。

  6. AI as Normal Technology36

    引导 AI 超越自动化:人机协作的研究议程

    斯坦福大学经济学家 Gabriel Unger 和 Arvind Narayanan 认为,AI 研究过度偏向完全自动化,并勾勒出一个以人机协作为中心的替代议程。他们提出四个研究方向,其中包括“白盒智能体”——这类智能体会揭示其中间过程、来源、假设和不确定性,以便用户能直接与之交互。该文追溯了这场辩论在计算机科学中的历史,并呼吁采取自下而上、市场驱动的方式来引导 AI 发展。

  7. Every40

    Codex 是如何诞生的:OpenAI 在 AI 编程领域的回归

    OpenAI 的 Codex 曾是一项零散的云端尝试,未能找到产品市场契合点;在转向终端和代码编辑器版本后,它成为公司 AI 编程回归的核心。在 2025 年夏季的测试中,Codex 内置的 GPT-5 感觉很快,但与 Anthropic 的 Claude Code 相比过于谨慎——后者让用户可以把整个任务交给 Opus 4 然后走开。

  8. Meta AI Research Blog88

    Meta 发布 Muse Spark Open:一个 816B 开放权重多模态模型,可在两台 Mac Studio 上运行

    Meta 发布了 Muse Spark Open 的权重,这是一个开放权重的原生多模态模型,总参数 816B(激活参数 42B),上下文窗口为 1M token,定位面向编程和智能体任务。它是同类模型中首个借助 MLX 框架、在两台 Apple M5 Ultra Mac Studio 上于桌面端运行的模型,并可通过 Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 和 Together AI 等 API 合作伙伴获取,权重已在 Hugging Face、Amazon SageMaker AI、Google Cloud Model Garden 和 Microsoft Foundry Models 上提供。Meta 表示,该模型在 SGLang 中附带可自动调优的 Helion GPU 内核,在 NVIDIA 和 AMD GPU 上实现 1.03-3.95 倍的内核级加速,在 AMD MI350 上实现 3% 的端到端加速。

    推荐理由:Meta 发布了一个 816B 参数多模态模型的开放权重,该模型可在两台 Mac Studio 上运行,为开发者提供了一个用于长程编程和智能体任务的本地选项。

  9. Apple Newsroom60

    Apple 发布 iPhone Duo,其首款可折叠 iPhone,配备 7.58 英寸内屏

    Apple 宣布推出 iPhone Duo,这是其首款可折叠 iPhone,拥有迄今最大的 iPhone 显示屏:7.58 英寸内屏,比 iPhone 18 Pro Max 的显示屏大 50%,另有 5.4 英寸外屏,覆盖 iPhone 18 Pro 屏幕面积的 90%。它搭载 A20 Pro 芯片,采用双电池架构,iOS 27 针对可折叠形态进行了重新设计,包括可并排显示 Siri 和 Mail 的分屏视图。由 Apple Intelligence 驱动的 Siri AI 正随 iOS 27 以英文版先行推出测试版,初期不会在欧盟提供;Apple 指出,Siri AI 及其他新的 Apple Intelligence 功能不会在中国提供。

    推荐理由:Apple 的首款可折叠 iPhone 将 7.58 英寸内屏与 5.4 英寸外屏和 A20 Pro 芯片搭配,展示了 iOS 27 和 Siri AI 如何适配可折叠形态。

  10. Goodfire Research62

    Goodfire研究文章认为神经网络本身已是清晰的,叠加现象被误读

    Goodfire研究员认为,神经网络中多义性和叠加现象的经典证据被误读了,看似随意的打包实际上主要是一种他称之为递归泛化的模式。用常规架构改进、不改变模型大小或训练数据重新训练InceptionV1后,其最后一层99-100%的神经元变得易于解释;对Qwen3-32B的初步审计估计约90%的神经元极点只有一个主要职责。文章结论是网络使用一种学习原理而非两种,因此可解释性可以直接研究神经元和电路,而不必先训练稀疏自编码器等分解模型。

    推荐理由:这是对该领域经典多义性证据的第一手重新解读,主张网络是递归泛化而非打包不相关的概念,这将使直接的机制性研究变得可行。

  11. Modal Blog78

    Meta 发布 Muse Spark Open 权重,并已在 Modal Auto Endpoints 上线

    Meta 发布了 Muse Spark Open 的权重,Modal 现已通过其 Auto Endpoints 以按 token 计费的方式提供该模型。该模型面向智能体编程和长周期任务,具备原生多模态理解、100 万 token 上下文窗口、多步规划、顺序工具调用和故障恢复能力。Meta 报告称,在 Terminus 2 智能体下 Terminal-Bench 2.1 得分为 76.4,在使用其首选 harness、xhigh 推理强度下 DeepSWE 1.1 得分为 60。

    推荐理由:Meta 的开源权重模型 Muse Spark Open 现已在 Modal 上提供服务,让团队能够以按 token 计费的方式试用一款具备 100 万 token 上下文窗口的智能体编程模型。

10月14日周三
  1. GitHub Blog · AI & ML38

    GitHub 的密钥检测模型:以更少噪声发现更多密钥

    GitHub 训练了一个经过微调的 ModernBERT 分类器,用以替代其此前基于 LLM 的通用密钥检测流水线,使按所有者加权的告警精确率提升了 11.5%,并将推送后扫描执行时间中位数缩短了 86%。该两阶段流水线先通过正则表达式生成候选,再进行上下文感知分类,与远程 LLM 调用相比还将服务成本降低了 98% 以上。效率的提升使得将通用密钥检测扩展到推送保护成为可能,从而在变更被推送之前就返回结果。

  2. Ed Zitron · Where's Your Ed At58

    Ed Zitron:年化运行率与隐藏的创业经济学如何吹大AI泡沫

    Ed Zitron 认为,OpenAI、Anthropic 和 AI 初创公司使用的年化运行率是定义不明、不可比较的数字,掩盖了真实的季度收入。他援引 OpenAI 报告的 700 亿美元 ARR 后来被修正为 500 亿美元、Anthropic 的 650 亿美元运行率,以及 Harvey 的毛利率到 6 月从约 50% 降至 -50%,主张 AI 初创公司在亏本转售 token,而 OpenAI 和 Anthropic 的增长依赖于持续的风险投资。

  3. Apple Newsroom12

    Les Benjamins 的 Bünyamin Aydın 发布用 iPad Pro 打造的 "From Earth to Sky" 系列

    Les Benjamins 设计师 Bünyamin Aydın 揭晓了其 "From Earth to Sky" 系列,该系列使用 iPad Pro 和 Apple Pencil Pro 创作,并在卡帕多奇亚的玫瑰谷用 iPhone 18 Pro Max 拍摄。这场秀标志着这个伊斯坦布尔品牌成立 15 周年,共呈现 10 套造型,灵感来自三种本土花卉和三只定制热气球。Aydın 在整个设计流程中使用了 Freeform、Procreate 和 iPad Pro 的 M5 芯片。

  4. Modal Blog71

    Modal 年化收入突破 10 亿美元,并以 157.5 亿美元估值完成 7.5 亿美元 D 轮融资

    Modal 年化收入突破 10 亿美元,并以 157.5 亿美元投后估值完成由 Accel 领投的 7.5 亿美元 D 轮融资,所有现有投资方均参与。公司称,自五个月前 C 轮融资以来使用量已增长两倍,同比增长超过 15 倍,仅其 Sandboxes 产品年化收入就达 3 亿美元,已启动近 30 亿个沙箱。Modal 还介绍了其在覆盖 20 多个云的容量池上重建自有文件系统、容器运行时、调度器和网络,并提到近期推出的多节点训练、Modal 服务器以及 Sandboxes 的正式可用虚拟机。

    推荐理由:Modal 的博文解释了为何 AI 工作负载促使其在 20 多个云上重建自有文件系统、容器运行时和调度器,具体展现了 AI 基础设施栈如何与云栈分化。

10月13日周二
  1. LiveKit Blog18

    排查 LiveKit Egress 问题:常见错误与修复方法

    LiveKit 发布了 Egress 的排查指南,涵盖常见错误,例如模板从未调用 START_RECORDING 导致的 412“未收到启动信号”、30 秒内未找到参与者或轨道导致的 404,以及 S3/GCP/Azure 凭证无效导致的 400 上传失败。指南还涉及布局、webhook 和自托管 Egress 问题,并指出该指导同时适用于当前的 StartEgress API 和已弃用的特定源 API。

  2. Modal Blog58

    Modal 在 Qwen3.6-35B-A3B 上测试混合精度、混合加速器 RL 采样器

    Modal 在 agentic coding 任务上训练 Qwen3.6-35B-A3B,采样器分布在六种加速器类型(B200、B300、H100、H200、A100、RTX PRO 6000)上,采用 NVFP4、FP8 和 BF16 精度,向 B200 上的单个 BF16 训练器供给数据。普通 GRPO 在混合与同构采样器上均崩溃,但加入掩码重要性采样加分数中心化(无论是否配合 top-p 掩码重放)后,训练稳定进行到最后,并在 SWE-bench Pro V2 pass@4 上达到与同构采样器相当的水平,每次更新的采样器成本约低 15%。混合采样器运行时的平均采样器-训练器 KL 是同构设置的 4.7 倍,作者认为稳定性取决于将失配保持在有界范围内,而非保持低值。

  3. GitHub Blog · AI & ML36

    GitHub Copilot 入门:让 Copilot 了解你的代码库的四种方法

    GitHub 的 Copilot for Beginners 系列介绍了四种为 Copilot 提供项目上下文的方法:在 `.github/copilot-instructions.md` 中编写自定义指令,并在 `.github/instructions` 中添加路径专属文件;在 `.github/skills` 中定义 agent skills;在 `.github/agents` 中配置自定义 agent;以及通过 MCP 服务器将 Copilot 连接到 Playwright 等外部工具。文章逐一讲解了每种机制及其组合方式,并引导读者前往社区 Awesome Copilot 合集获取现成示例。

  4. Amazon Science75

    Amazon Web Services 研究人员提出 priming,可将预训练 Transformer 转换为混合状态空间模型而无需完全重新训练

    Amazon Web Services 研究人员提出 priming,一种复用预训练 Transformer 权重的方法,可将混合状态空间架构的预训练成本降低 99% 以上,仅使用源模型预训练 token 预算的不到 0.5%。在受控比较中,Gated KalmaNet 优于 Gated DeltaNet 和 Mamba-2,而基于 GKA 的 32B 混合模型在推理基准上与源 Transformer 表现相当,同时在 128,000 token 上下文下解码速度最高可达两倍。团队以 Apache 2.0 许可证发布了 8B 和 32B 的 primed 混合模型、训练代码、Triton 内核以及 vLLM 服务插件。

    推荐理由:Amazon Web Services 研究人员表明,复用预训练 Transformer 权重可将混合架构预训练成本降低 99% 以上,使状态空间层的受控比较变得可行。