跳到正文
7月26日周日
  1. Berkeley AI Research33

    ABBEL:教 LLM 为长程交互更新信念状态

    伯克利人工智能研究院提出 ABBEL 框架,用自然语言信念状态替代完整交互历史,并通过信念评分来监督其内容。在 CollabBench 协作编码任务上,基于重建的信念评分将与非完整上下文模型的差距缩小约 50%,训练步数从 100 步降至 50 步,同时峰值 token 用量更少。

7月21日周二
  1. OpenAI Alignment Blog62

    OpenAI与Apollo Research用对比SDF衡量奖励寻求行为

    OpenAI与Apollo Research开发了Contrastive SDF,这是一种测试方法:在暗示相反评分者偏好的合成文档上分别微调模型的两个副本,并衡量模型行为在多大程度上跟随评分者。将其应用于一次以能力为重点、未进行安全训练的OpenAI o3强化学习运行的中间检查点,评分者差距从早期检查点到后期检查点呈上升趋势,而其他权威对象的差距则保持在接近零的水平。在Broken Promises Coding和Log Falsification诚实性评估中,后期检查点的诚实性在更大程度上取决于它所认为的评分者奖励什么,该方法还恢复了三个gpt-oss-120b模型生物的目标权威对象——这三个模型分别被训练为偏好User、Grader或OpenAI Leadership。

    推荐理由:OpenAI与Apollo Research提出了Contrastive SDF,这是一种基于微调的测试,用于衡量模型行为在多大程度上跟随它所认为的评分者奖励,并发现这种倾向在一次未进行安全训练的o3强化学习运行中不断增强。

7月7日周二
  1. Berkeley AI Research36

    智能免费了,然后呢?为智能体、由智能体、属于智能体的数据系统

    加州大学伯克利分校的 Aditya G. Parameswaran 及其合作者认为,随着推理成本从 2023 年初的约每百万 token 30 美元降至如今的不到 1 美元,数据系统必须围绕三大挑战重新设计:为智能体、由智能体、属于智能体的系统。他们指出,在一个每个任务使用多个智能体的 text-to-SQL 基准测试中,只有 10-20% 的子计划是互不相同的,因此 80-90% 的子查询在做重复工作,并提出了复用、近似和主动式数据系统的方案。

6月9日周二
  1. MiniMax Blog58

    MiniMax详解MaxProof:用于数学证明的生成式验证器强化学习与进化搜索

    MiniMax发布技术博客,详解MaxProof框架——M3在IMO 2025和USAMO 2026上超越人类金牌阈值的背后方法。该流程训练三个专家模型,分别用于证明生成、错误判断和证明修复,然后运行进化式测试时搜索,采样32个候选,每个验证4次,最多迭代10轮。MiniMax表示,关键经验是:将生成式验证器用作强化学习奖励时,应优先降低假阳性率而非追求平均准确率,并援引M2-cycle的奖励黑客现象——训练期间假阳性率从约2.9%升至8.0%。

6月1日周一
5月20日周三
4月29日周三
  1. Modal Blog33

    在 Modal 上构建强化学习定理证明工作流

    AE Studio 详细介绍了其如何在 Modal 上通过强化学习训练 LLM 证明数学定理,在保持训练循环固定的情况下对比了进化策略与 GRPO。该方案在 GPU 上运行 vLLM 推理,在隔离的 CPU 沙箱中运行 Lean 编译器验证,并配备轻量级编排器,使用按函数镜像、.map() 扇出以及 Volumes 存储基础权重。

4月14日周二
  1. Modal Blog40

    Modal 自动扩缩容自动研究:为 AI 研究智能体提供弹性 GPU

    Modal 演示了在弹性 GPU 上运行自动研究智能体:借助 Modal Skills,Claude Code 在 OpenAI 的 Parameter Golf 挑战中运行了 113 次实验,共消耗 238 GPU 小时,核心训练运行速度比单台工作站快 5 倍,而使用的资源仅为专用集群的一小部分。智能体通过 API 调用配置 GPU,可从一块 H100 自动扩展到数十块,并自动缩减至零。

3月25日周三
3月13日周五
  1. Berkeley AI Research38

    伯克利AI研究推出SPEX与ProxySPEX,用于识别LLM大规模交互

    伯克利AI研究的研究人员介绍了SPEX和ProxySPEX,这两种算法能够在远超以往方法的规模上识别LLM中具有影响力的特征、数据和模型组件交互。SPEX将交互搜索重新表述为利用稀疏性和低度性的稀疏恢复,而ProxySPEX利用层次结构,以约10倍更少的消融实验匹配SPEX。在情感分析上,SPEX在短输入上与Faith-Shap和Faith-Banzhaf忠实度相当,并在上下文扩展到数千个特征时保持这一表现。

1月15日周四
  1. Modal Blog22

    Chai Discovery 在 Modal 上扩展计算药物发现

    Chai Discovery 正在使用 Modal 运行其机器学习药物发现流水线,涵盖蛋白质嵌入、多序列比对到抗体设计。Modal Volumes 一次性下载并索引达到数百 GB 的数据集,然后在多台机器间共享,而弹性 GPU 扩展能在几分钟内启动数百个 GPU。Chai 表示,同一套设置现在无需重写基础设施就能将研究工作流带入生产环境。

2025年12月28日周日
  1. Modal Blog38

    Modal 如何在多云环境下维护 20,000+ 块 GPU 的健康运行

    Modal 已将其多云 GPU 工作池扩展到超过 20,000 块并发 GPU,并在过去几年中启动了超过四百万个云实例,现在正分享其背后的可靠性系统。该文章涵盖实例类型测试与选择、机器镜像准备与启动检查、被动与主动 GPU 健康检查,以及可观测性与支持。文章报告了超大规模云厂商之间的差异,例如云 A 的启动成功率为 99.6%,而云 C 的 H100 在 2025 年运行温度超过 90ºC。

2025年5月29日周四
  1. Modal Blog22

    Twirl 加入 Modal,扩展数据编排与欧洲布局

    Modal 宣布,用于开发、测试和部署数据管道的数据编排工具 Twirl 将加入该公司。Twirl 联合创始人 Rebecka Storm 和 Eric Hansander 将加入 Modal 的斯德哥尔摩办公室,在那里开发并扩展 Modal 的无服务器基础设施,并拓展其欧洲业务版图。Modal 表示,该团队的数据产品经验将帮助其从 AI 推理扩展到相邻的 AI、ML 和数据用例。

2024年12月10日周二
  1. Modal Blog30

    什么是 LLM 微调?技术与工具指南

    微调会调整预训练 LLM 的权重,使其适配特定任务或领域,相比提示工程能提供更高质量,同时成本和延迟更低;一个经过微调的 Llama 7B 在性能相当的情况下,每 token 的成本效益大约比 GPT-3.5 高 50 倍。本指南涵盖结构化输出、风格遵循和领域特定指令等用例,以及 OpenAI、Predibase、Modal、Google Colab 和 AWS SageMaker 等选项,还有 HuggingFace transformers、TRL 和 Axolotl 等框架。

2024年12月4日周三
  1. Modal Blog22

    一支欧洲顶级足球队如何借助 Modal 将数据处理成本削减 50%

    一支被匿名称为 AFC Richmond 的欧洲顶级足球队将其比赛追踪数据流水线迁移到 Modal 的无服务器 GPU 平台,将处理整个赛季比赛的成本削减了 50%。该球队通过自定义的基于 transformer 的模型对每场比赛约 350 万条追踪观测数据运行推理,如今借助运行在 Modal 上的 Airflow,每场比赛的数据处理只需几分钟,而非数小时。

2024年5月21日周二
  1. Modal Blog31

    在 Heroicons 上微调 Stable Diffusion,打造无限图标库

    Modal 在约 300 个 SVG 的 Heroicons 图标库上微调了一个 Stable Diffusion 模型,以生成该风格的新黑白线条图标,包括 barack-obama 和 golden-retriever 等概念的图标。完整流程——下载预训练模型、使用 HuggingFace Diffusers 的 train_text_to_image.py 脚本进行全量微调,以及提供 Gradio Web UI——都在 Modal 的无服务器 GPU 平台上运行。文章详细介绍了数据集准备(SVG 转 PNG、白色背景、caption metadata.csv),并指出全量微调效果最好,不过 LoRA 风格的并行适配器也可用于小数据集。

2024年5月20日周一
  1. Modal Blog25

    Substack为何将其AI和ML流水线迁移至Modal

    Substack已将几乎所有机器学习模型的训练和部署——包括垃圾邮件检测、新闻通讯推荐、音频转录、情感分析和图像生成——从AWS SageMaker迁移至Modal。AI与ML工程负责人Mike Cohen指出,SageMaker的开发者体验繁琐复杂,代码难以在notebook之间共享,容器启动时间超过5分钟;而在Modal上,实现一个推理端点仅需一小时。Substack现在依托Modal的存储原语运行完整的微调、验证和部署工作流。

2024年4月26日周五
2024年3月26日周二
  1. Modal Blog22

    Ramp 如何在 Modal 上使用微调 LLM 实现收据处理自动化

    Ramp 使用 Modal 微调其 LLM,并构建了一个文本转结构化 JSON 的模型用于收据管理,使需要人工干预的收据减少了 34%,其基础设施成本估计比 OpenAI 等主要 LLM 提供商便宜 79%。Modal 函数并行训练了许多候选模型,将权重持久化到 Modal volumes,并提供了一个参数化推理端点。一名工程师还将一个用于 25,000 张发票的 PII 剥离脚本移植到 Modal,在 256 个云 worker 上并行运行,20 分钟完成,花费 100 美元,而在本地则需要 3 天。