一支欧洲顶级足球队如何借助 Modal 将数据处理成本削减 50%
一支被匿名称为 AFC Richmond 的欧洲顶级足球队将其比赛追踪数据流水线迁移到 Modal 的无服务器 GPU 平台,将处理整个赛季比赛的成本削减了 50%。该球队通过自定义的基于 transformer 的模型对每场比赛约 350 万条追踪观测数据运行推理,如今借助运行在 Modal 上的 Airflow,每场比赛的数据处理只需几分钟,而非数小时。
一支被匿名称为 AFC Richmond 的欧洲顶级足球队将其比赛追踪数据流水线迁移到 Modal 的无服务器 GPU 平台,将处理整个赛季比赛的成本削减了 50%。该球队通过自定义的基于 transformer 的模型对每场比赛约 350 万条追踪观测数据运行推理,如今借助运行在 Modal 上的 Airflow,每场比赛的数据处理只需几分钟,而非数小时。
Modal与AWS签署战略合作协议,帮助企业在面向GPU加速工作负载的无服务器平台上更快开发和部署AI产品,该平台可在短短一秒内启动支持GPU的容器。作为协议的一部分,Modal将在AWS Marketplace上架,并投资于AWS PrivateLink等集成,以服务有特定安全与隐私要求的客户。
Cursor 宣布,快速且具备上下文感知能力的 AI 编程助手 Supermaven 将加入该公司,Supermaven 的创建者 Jacob Jackson 及其团队也将一同加入。Cursor 表示计划推出一个新的 Tab 模型版本,该版本速度快、具备上下文感知能力,尤其擅长处理长链条的大型编辑;同时,尽管 Cursor 将成为团队的核心重心,Supermaven 插件仍将继续维护。
Tidbyt 是一家总部位于纽约、生产可编程智能家居 LED 屏幕的公司,现已加入 Modal。Tidbyt 联合创始人 Rohan Singh 和 Mats Linander 此前曾在 Spotify 从事容器基础设施工作,他们将为 Modal 面向数据/AI/ML 团队的云基础设施带来大规模系统经验。Tidbyt 的服务将继续为现有设备运行,但不再出货新设备。
Modal 现已支持 HIPAA 合规工作负载,面向通过 security@modal.com 签署业务伙伴协议(BAA)的 Enterprise 套餐客户开放。除 Volumes、Images(不含 Filesystem 和 Directory Snapshots)、Memory Snapshots 及用户代码外,所有 Modal 功能均在 BAA 覆盖范围内,上述除外项不应放置 PHI。Modal 以其最小权限数据处理和 gVisor 沙箱运行时作为安全基础,这建立在 SOC 2 Type 1 公告及正在进行的 SOC 2 Type 2 认证之上。
Cursor 完成了 6000 万美元 A 轮融资,投资方包括 Andreessen Horowitz、Thrive Capital、OpenAI、Jeff Dean、Noam Brown,以及 Stripe、GitHub、Ramp、Perplexity 和 OpenAI 的创始人。这款 AI 编程工具称其用户已增长至 4 万多名,涵盖初创公司、研究机构与大型企业,并介绍了其用于下一次编辑预测、跨数十亿文件检索以及推测性推理代码重写的内部系统。
推荐理由:Cursor 的 6000 万美元 A 轮融资公告还披露其用户群已增长至 4 万以上,并点名了支持其 AI 编程工具的投资者。
Modal 将 CPU 和部分最强 GPU 的价格下调 15-30%,理由是 GPU 供应池竞争加剧,以及过去一年推出了更强大的 GPU。该公司还调整了 CPU/内存计费方式,改为按每个运行中的容器收取 max(预留, 用量),所有 Functions 的默认最低预留为 0.125 个 CPU 核心。Team 计划涨至每月 250 美元,包含不限席位和每月 100 美元额度,新价格将于 9 月对受影响的 Starter 和 Team/Enterprise 用户生效。
Basis 组织了 Prompt Olympics,这是一场竞技编程风格的提示工程竞赛,奖金为 5,000 美元,并在 Modal 的基础设施上运行。在其中一项挑战中,参赛者编写提示,引导部署在 Modal 上的 LLaMA 3 70B 生成代码,这些代码必须在 Modal Sandboxes 内通过测试。决赛环节要求选手通过提示模型来控制 Crafter 游戏智能体;Basis 发现,即便是 LLaMA 3 70B 这样能力较强的开源模型也难以有效提示,于是该组件改用了一家专有模型 API。
Substack已将几乎所有机器学习模型的训练和部署——包括垃圾邮件检测、新闻通讯推荐、音频转录、情感分析和图像生成——从AWS SageMaker迁移至Modal。AI与ML工程负责人Mike Cohen指出,SageMaker的开发者体验繁琐复杂,代码难以在notebook之间共享,容器启动时间超过5分钟;而在Modal上,实现一个推理端点仅需一小时。Substack现在依托Modal的存储原语运行完整的微调、验证和部署工作流。
面向 AI 与数据团队的无服务器平台 Modal 入选 Wing 第六届年度 Enterprise Tech 30 榜单,在早期阶段类别十家公司中排名第三。该榜单由 112 位风险投资人和 36 个企业投资团队从近 600 家获得风险投资的私营企业科技公司中评选得出。
Suno 使用 Modal 在数千块 GPU 上扩展推理和批量预处理,使其音乐生成模型提前四个月推向市场,而无需招聘工程师来构建和维护基础设施。团队用几个简短的 Python 脚本、无需配置文件就完成了批量预处理,随后通过暴露 HTTP 的函数和跨多个模型与容器的链式推理扩展到模型部署。Modal 自动扩展到数千块 GPU,应对了假期需求高峰,且无需长期预留 GPU。
Modal 宣布其云函数平台现已全面开放,任何人都可以注册并在几分钟内于云端运行 Python 代码,此前该平台于 2022 年开放了等待名单。该平台提供按秒计费的无服务器执行、在 A100、A10G、T4、L4 和 H100 上自动扩缩的 GPU 推理端点,以及跨数千个容器的大规模批处理作业,无需 YAML 配置。Modal 还完成了由 Redpoint Ventures 领投的 1600 万美元 A 轮融资,种子轮领投方 Amplify Partners 也参与其中,并计划利用这笔资金加速其产品路线图。
Modal Labs 已完成由 Redpoint Ventures 领投的 1600 万美元 A 轮融资,现有投资方 Amplify Partners 以及 Lux Capital、Definition Capital 等新参与方参投,总融资额达到 2300 万美元。该公司还正式推出了此前处于测试阶段的云平台,早期客户包括 Ramp、Substack 和 SphinxBio,并将利用这笔资金加速产品开发,并在其纽约市总部招聘工程师。