跳到正文
11月13日周五
  1. AWS Machine Learning Blog38

    Amazon Bedrock AgentCore Evaluations:内置、DeepEval 和 AutoEval 评估器

    Amazon Bedrock AgentCore Evaluations 现在让团队可以运行 AWS 内置评估器,同时支持托管的 DeepEval 和 AutoEval 指标,以及基于两者衍生的自定义评估器。内置目录涵盖响应质量、目标完成、工具使用、技能和安全性方面的 15 个评估器,并提供三项针对预期工具路径的轨迹检查。DeepEval 增加了 ConversationCompleteness 和 KnowledgeRetention 等多轮指标,而 AutoEval 则贡献了包括安全性在内的专业信号。

  2. AWS Machine Learning Blog36

    使用 LangGraph 和 Amazon Bedrock AgentCore Web Search 构建每日依赖监视器

    Amazon Bedrock AgentCore 中的 Web Search API 现已可用,通过一次 SigV4 签名的 API 调用即可让智能体获取最新的网页结果,该调用由 Amazon 运营的网页索引提供服务。一篇演练文章构建了一个每日依赖监视器,将其作为 LangGraph 图,并行研究 npm、PyPI 和容器基础镜像,并在代码中强制执行日期窗口、黑名单和搜索预算。在测试中,三个分支在 36 秒内完成,而按顺序运行则需要 99 秒。

  3. AWS Machine Learning Blog58

    Moonshot AI 的 Kimi K3.1 Pro Highspeed 在 Amazon Bedrock 上线

    Moonshot AI 的 Kimi K3.1 Pro Highspeed 现已在 Amazon Bedrock 上可用,它是 Kimi K3 的后训练版本,具有相同的 3T 级开放权重架构和 100 万 token 上下文窗口,使用更多后训练算力进行训练,以支持长时程智能体工作并减少事实性错误。Moonshot AI 报告其输出速度是 Kimi K3.1 Pro 的 2–3 倍,现有 Kimi K3 用户可以通过更改模型 ID 进行切换。该文章展示了 Chat Completions、Responses 和 Converse API 调用、价格为 Standard 一半的 Flex 层级、使用 prompt_cache_breakpoint 的显式提示缓存,以及将模型连接到 OpenCode 编码智能体。

  4. AWS Machine Learning Blog33

    Amazon SageMaker AI 双向流式传输新增按用量定价,Deepgram 成为首发合作伙伴

    Amazon SageMaker AI 双向流式传输现已支持按用量计量,允许模型提供商向 AWS Marketplace 软件费用上报实际消耗量,而端点基础设施费用仍需另行支付。Deepgram 是首发合作伙伴,将按用量计费的语音转文本和文本转语音计费引入 AWS Marketplace。该设计新增一条配套的 WebSocket 元数据流,限制为每秒一条消息、每条 512 字节,使提供商能够在实时会话期间发送增量计量记录。

  5. AWS Machine Learning Blog60

    AWS 开源 UAEF:一个与框架无关的 AI Agent 评估系统

    AWS 已开源 UAEF(Universal Agent Evaluation Framework,通用 Agent 评估框架),这是一个与框架无关的系统,通过适配器将来自 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的 Agent 轨迹归一化为统一的 AgentTrace,然后用覆盖 7 个维度的 36 项内置指标进行打分。结果按实验存储在 Amazon DynamoDB 和 Amazon S3 中,使团队可以将 Agent 版本与基线进行比较,用默认 5% 的阈值标记回归,并生成统计报告以及由 LLM 撰写的洞察。文章称,来自电信、医疗和金融服务领域 12 个组织的客户在发布前使用了 UAEF,Apache 2.0 代码、Python 库、CDK 部署和各框架 notebook 均位于 awslabs/uaef GitHub 仓库中。

    推荐理由:AWS 团队开源 UAEF,用适配器把不同框架的 Agent 轨迹统一成一种格式,再以 36 项指标跨 7 个维度打分,为跨框架比较 Agent 版本提供了一套可复用的评测层。

  6. AWS Machine Learning Blog36

    AWS Quick AI-PDLC:六个智能体驱动 AI 产品开发

    AWS Quick 推出 AI-PDLC,这是一个由六个专用智能体组成的框架——由 Orchestrator 统领,涵盖 Discovery、Prioritize、Working Backwards、Spec Generator 和 Designer——可将来自 Slack、Jira、Salesforce 和 SharePoint 的分散企业信号转化为可追溯的 prototype_spec.md。每个阶段都需要人工审批,并且该规格可通过开放的 Agent Client Protocol (ACP) 交给 Kiro 或 Claude Code 等编码智能体。

  7. AWS Machine Learning Blog40

    AWS 开放其创新中心的 23 项可复用生成式 AI 资产目录

    AWS 发布了来自其生成式 AI 创新中心(现隶属于 AWS Frontier AI Engineering & Services)的 23 项生产就绪的开源生成式 AI 资产目录。这些构建模块涵盖 RAG 流水线、文档处理器、智能体脚手架和评估框架,AWS 表示它们可以将开发时间从数月缩短至数周。DoorDash 报告称测试能力提升了 50 倍,Ricoh 报告称基于这些资产构建后吞吐量提升了 7 倍。

  8. AWS Machine Learning Blog38

    DXC Technology 如何在 Amazon Bedrock 上构建多模型 AI 底座

    DXC Technology 在 Amazon Bedrock 上为其 DXC OASIS IT 运维框架构建了模型底座,通过一个统一托管接口接入 Anthropic Claude、Amazon Nova、Meta Llama 和开放权重模型。Amazon Bedrock Guardrails 对所有模型统一应用内容过滤、PII 脱敏和禁止话题策略,而 AWS PrivateLink 将推理流量保持在客户 VPC 内。DXC OASIS 自 2026 年 3 月起正式可用,在 56 个实测用例中平均将解决时间缩短了 95%。

  9. AWS Machine Learning Blog40

    Agent DLC:从原型到生产环境构建 AI Agent

    AWS 推出 Agent 开发生命周期(Agent DLC),这是一个包含一个生命周期、两个循环以及单一明确标准的框架,用于评判每一次 Agent 变更。它针对三个会破坏传统 CI/CD 的 Agent 特性:非确定性、提示词即源代码,以及独立变动的依赖项。一个参考 HR 政策助手显示,在全部三个测试问题上,块级检索精确度为 1.00,而事实级精确度降至 0.09,且其中一个问题的检索覆盖率为 0.00。

  10. AWS Machine Learning Blog36

    Amazon Bedrock Managed Knowledge Base 工具的细粒度访问控制

    AWS 展示了如何通过 AgentCore Gateway 将搜索作为 MCP 工具暴露,从而在 Amazon Bedrock Managed Knowledge Base 上为共享 AI agent 提供按用户划分的文档访问权限。请求拦截器会从 Cognito JWT 中提取已验证的用户邮箱并注入 userContext,ACL 感知机制则只返回该用户有权查看的文档。AgentCore 中的 Cedar 策略以及知识库上的基于资源的策略,为防范伪造或未授权搜索增加了第二道防线。

  11. AWS Machine Learning Blog58

    AWS 详解如何用 A2A 构建跨组织多智能体系统

    AWS 发布了一套参考架构:在 Amazon ECS 上基于 LangChain 的企业编排器通过 A2A 协议调用 Amazon Bedrock AgentCore 上基于 Strands Agents 的合规 SaaS 智能体,双方位于不同的 AWS 账户中,且不共享密钥。双方各自使用来自自身 Amazon Cognito 用户池的令牌进行身份验证,SaaS 智能体则回调企业上下文智能体以获取账户元数据,因此这些智能体是作为对等方而非客户端与服务端交互。该系统通过三个 Jupyter notebook 部署,这些 notebook 会创建五个 CloudFormation 堆栈,并运行一次端到端测试以及七项信任边界检查。

  12. AWS Machine Learning Blog34

    使用编码代理迁移到 Amazon Bedrock Managed Knowledge Base

    AWS 在 Agent Toolkit for AWS 的 amazon-bedrock 技能中新增了知识库迁移指南,让编码代理可以规划从客户托管知识库迁移到 Amazon Bedrock Managed Knowledge Base。代理首先进行只读发现和逐行审查的计划,然后在原始知识库旁创建新的知识库和数据源,或编写迁移后的 IaC 模板。Managed Knowledge Base 将默认配额提高到每个知识库 200 个数据源、每个账户每个区域 10,000 个知识库,并新增了代理式检索、AgentCore Gateway 集成和基于资源的策略。

  13. Epoch AI · Gradient Updates60

    华为和林格尔数据中心揭示了中国算力差距的哪些信息

    Epoch AI 估计,华为位于内蒙古的和林格尔数据中心约有 105,000 颗在运的昇腾 910C 和 8,000 颗昇腾 910B 芯片,大致相当于 81,000 颗 H100 等效算力(90% 置信区间:36,000 至 141,000)。该估算基于商业卫星影像和一个冷却设备模型,后者显示这四栋面向 AI 的楼宇 IT 电力容量最高可达 286 MW。这使得和林格尔的 AI 算力约为 SpaceX 位于田纳西州的 Colossus 2 的 7%;而一座规划中的楼宇到 2028 年初可将其容量提升逾 70%,但仍远落后于 Colossus 2 预计的 180 万颗 H100e。

11月12日周四
  1. The Decoder80

    Anthropic称AI将Claude移植到AMD GPU的时间从数月缩短至三天

    Anthropic表示,它借助其前沿模型Mythos,在几乎无需人工干预的情况下,仅用三天就将Claude移植到了AMD GPU上,其中近100%的内核由Mythos自行编写。联合创始人Tom Brown称,Anthropic如今在AWS Trainium、Google TPU、Nvidia GPU和AMD GPU上训练并运行Claude,并将它们视为一个可互换的计算资源池。上述数据来自一份投资者演示文稿,尚未经过独立核实;Anthropic给出的对比是三天对传统工程所需的六到十二个月,衡量基准为使用AMD MI355X GPU的提示处理。

    推荐理由:Anthropic声称其自家模型在三天内将Claude移植到AMD GPU,这为检验AI能否松动CUDA对芯片选择的钳制提供了一个具体测试。

  2. TechCrunch · AI38

    Plurai 完成 1300 万美元种子轮融资,通过模拟让 AI 智能体更可靠

    Plurai 已完成 1300 万美元种子轮融资,由 Team8 领投,旨在借助从自动驾驶汽车借鉴的模拟技术让 AI 智能体更可靠。这家初创公司构建企业系统的数字孪生,梳理智能体可能的执行流程,并利用合成数据让模型为边缘情况做好准备,随后针对每位客户对小型开放权重模型进行后训练。与 Nvidia 和 Nebius 的测试显示,其模型以更低成本超越了中端前沿模型。

  3. TechCrunch · AI58

    Databricks 更新 Genie 智能体,可无人监督执行多步骤任务

    Databricks 发布了其 AI 智能体 Genie 的更新版本,该版本可利用基于存储在 Databricks 平台上的客户数据构建的本体,在无人监督的情况下完成扩展的多步骤工作。CEO Ali Ghodsi 演示了自己的实时使用情况,包括分析员工满意度调查中的薄弱环节、总结一次失败的销售推介,以及准备播客采访。Ghodsi 表示,员工超过 150 人的公司领导者可以从这类智能体中获益,并且可以通过 Databricks 的 Unity Gateway 控制成本,该网关可设置使用限制,并允许换用更便宜的开源权重模型。

  4. TechCrunch · AI52

    Fractile完成7.2亿美元C轮融资,打造采用堆叠DRAM的AI芯片

    英国AI芯片初创公司Fractile已完成7.2亿美元C轮融资,投资方包括英国主权AI基金,英国政府称其估值超过50亿英镑,约合70亿美元。本轮融资由Thrive Capital、Founders Fund、Lightspeed Venture Partners和Redpoint领投。Fractile将其芯片与机器学习编译器配合使用,并在业务转型后于每颗芯片上方堆叠DRAM,试图绕开通常的内存与容量之间的权衡;该公司认为,对于智能体AI而言,这种权衡的成本正变得越来越高。CEO Walter Goodwin表示,这笔资金将使这家初创公司明年交付首批芯片和系统。

  5. TechCrunch · AI58

    CoreWeave 依靠客户预付款和更短合同为 AI 建设融资

    CoreWeave 在第三季度财报中表示,它越来越多地要求客户预付费用、以特定合同为抵押借款,并签署更短期的协议,为其 AI 基础设施增长提供资金。该公司报告营收 36.6 亿美元,同比增长 168%,同时净亏损 7.09 亿美元,季度利息支出 8.46 亿美元,并预计未来三个月将获得约 90 亿美元的客户预付款和存款,而积压订单为 1325 亿美元。CEO Michael Intrator 表示,CoreWeave 不会以当前收益率使用无担保债务市场,而短期容量每年的售价超过每兆瓦 4000 万美元,相比之下四五年期合同为 2000 万至 2500 万美元。

  6. Databricks Blog40

    Databricks Genie Slack 应用正式全面可用

    Databricks 宣布其 Slack 版 Genie 应用正式全面可用,用户可通过私信或 @提及 提问数据问题,并在对话线程中获得基于 Unity Catalog 权限的答案。每个答案都会标注来源,并且通过 MCP 连接器,Genie 可以起草文档、工单和记录变更,在获得批准后再执行。

  7. Databricks Blog58

    Block 如何利用 Buzz 和 Databricks Unity Gateway 运行协作式 AI 智能体

    Block 构建了 Buzz,这是一个开源协作工作空间,员工和 AI 智能体可以在其中通过群组讨论、聚焦对话和一对一交流协同工作,并使用 Databricks Unity Gateway 作为模型访问层。员工可以创建智能体、为每个智能体选择背后的模型或编码工具,并选择 Databricks 作为推理提供商,通过单一集成访问 OpenAI、Anthropic 和 Google 的前沿模型以及部分开放权重模型。Block 工程师还在试验多智能体设置,由能力更强的模型协调运行更小、更高效模型的智能体,并已构建了一套内部方法来对这些智能体团队进行基准测试。

  8. NVIDIA Blog18

    《战锤40,000:战争黎明IV》即将登陆GeForce NOW

    由KING Art Games开发、Deep Silver发行的《战锤40,000:战争黎明IV》将于12月3日(周四)在Steam上线时同步登陆GeForce NOW。这款即时战略游戏包含超过70个战役任务,可单人游玩或合作游玩,另有The Last Stand、遭遇战和多人模式。搭载3D-Guided Neural Rendering的NVIDIA DLSS 5也将于11月中旬登陆《战争雷霆》,并于11月23日(周一)登陆《燕云十六声》。

  9. The Decoder71

    ElevenLabs 发布 Scribe v3 和 Scribe v3 Live 语音转文字模型

    ElevenLabs 发布了两款语音转文字模型:用于预录音频的 Scribe v3 和用于低延迟实时场景的 Scribe v3 Live,二者均可通过 ElevenAPI 开发者接口和 ElevenAgents 平台使用。该公司称,Scribe v3 在 102 种语言上将词错误率较前代降低约 25%,而 Scribe v3 Live 利用对话上下文判断说话人是否真正说完,而非依赖停顿计时器。Artificial Analysis 的独立基准测试将 Scribe v3 列为最准确的转录模型之一,仅次于阿里巴巴的一款预览模型,但显示其在速度上落后,定价为每 1,000 分钟 3.33 美元。

  10. Latent Space58

    Jev 革命:Glean、UiPath 和 Workday 的工程师如何用 System One 模型构建应用

    在 AI Engineer Code Summit 上,TypeSafe AI 首席执行官 Diogo Almeida 提出,像 Jev 这样返回结构化选项、分数或概率而非生成文本的 system one 模型,应当直接从应用代码中调用,以更可靠地实现任务自动化。Glean 的 Chinmay Goyal 表示,Jev 适合零样本灵活性,因为决策分类体系变化时无需反复微调;UiPath 则展示了 Jev 通过一轮调用锦标赛对文档片段进行排序,整个过程在不到一秒内完成。Workday 的 Scott Roberts 演示了一个界面,能在用户输入时自动填写休假卡片,他将其描述为从预测你想说什么转向预测你想做什么。

  11. LangChain Blog40

    LangChain 的 GTM Agent 如何构建一致、高质量的销售物料

    LangChain 内部的 GTM Agent 在 12 周内生成了 1,540 份销售物料,为客户经理在账户计划、提案演示文稿等文档上节省了 337 小时。发送过物料的交易中,有 47% 推进到了更后期阶段,而匹配的未发送物料的交易中这一比例为 16%;46% 的物料在 14 天内促成了客户通话。该 Agent 运行在 Deep Agents 框架上,其沙箱、技能、记忆和定时运行功能已在 Managed Deep Agents 中提供。

  12. AWS Machine Learning Blog36

    使用 Amazon Bedrock 和 Spring AI 构建自主 AI 智能体

    AWS 向 Java 团队展示了如何使用 Spring AI 和 Amazon Bedrock 的 AgentCore 构建自主 AI 智能体,并提供了 spring-ai-agentcore 集成。文中详细介绍了两个参考系统:一个具备工具调用和记忆功能的单智能体旅行助手,以及一个包含五个专业智能体、规则引擎和告警功能的多智能体智能文档处理平台。该技术栈需要 JDK 21、Spring Boot 4.1 与 Spring AI 2.0,并通过 AgentCore 运行时在 ARM64 容器上部署。

  13. LiveKit Blog55

    LiveKit 开放 Cloud API 公测,编码智能体可管理 LiveKit Cloud

    LiveKit 发布 LiveKit Cloud API 公测版,让编码智能体能够创建和配置项目、管理成员和 webhook,并从智能体通话中拉取转录文本、日志、追踪记录和录音。该 API 是一个 REST API,以用户身份登录运行,使用短期令牌并对照项目角色进行校验,敏感操作仅限项目管理员执行。在 LiveKit 文档助手上进行的一次测试中,一个编码智能体读取了过去一周的 4,321 个会话,并在约 30 分钟后返回了一份包含 8 个问题的排名列表。会话数据需要启用 Agent Observability,而通过 API 创建的项目默认关闭该功能;API 请求免费,但受套餐速率限制。

  14. OpenRouter Announcements58

    OpenRouter 通过盈亏平衡负载计算比较自托管 LLM 与 API 成本

    OpenRouter 发布了一项盈亏平衡分析,展示了在什么情况下自托管开放权重 LLM 的成本低于通过 API 调用,分析采用截至 2026 年 10 月 8 日的各提供商价格。按这些价格,在一台每小时 0.50 美元租用的 RTX 3090 上运行 Qwen3.8 27B,在 6% 至 12% 负载时达到盈亏平衡;而在四块 H200 上运行 DeepSeek V4.1 Flash,则始终无法胜过最便宜的零数据保留端点。文章还指出,provider.zdr 以及欧盟和美国域名已能满足大多数隐私需求,无需自托管,并建议在本地运行稳定的基础负载,同时将峰值发送到 API。

  15. vLLM Blog60

    vLLM 为 Thinking Machines 的 Inkling 2 Small 提供 day-0 支持

    vLLM 在 day 0 支持 Thinking Machines 的 Inkling 2 Small,这是一个多模态文本与视觉 MoE,总参数 594B、激活参数 17B,上下文最高可达 1M token。该集成加入了带 PDL 的内核融合、用于 prefill 的序列并行(在 TP4 下将 8K token 的 prefill 步骤缩短 22%,TP8 下缩短 26%),以及一个 Gluon 相对注意力解码内核,将 100K 上下文下 batch-1 的解码步骤从 15.1 ms 降至 4.8 ms。vLLM 报告在 GB200 上 TP4 时每用户最高 630 TPS,接受长度为 3.5,并且还通过 SkyRL 支持 LoRA 和 RL。

    推荐理由:vLLM 在发布当天即支持 Inkling 2 Small,并给出内核融合、序列并行和 Gluon 解码内核的具体优化数据,可供部署大 MoE 模型的团队参考。

  16. OpenRouter Announcements58

    OpenRouter 详解其 7 种新语言背后的自我修正本地化流水线

    OpenRouter 推出了简体中文、西班牙语、巴西葡萄牙语、德语、法语、日语和韩语的测试版本地化,并详细介绍了维持 16,918 条英文字符串翻译的自我修正流水线。该每日循环将变更的字符串以每批最多 40 条发送给 GPT-6.1 Sol,由代码拒绝损坏的占位符和术语表违规,然后对同一模型发起第二次调用作为验证器,按严重程度返回错误以供重试。OpenRouter 表示,将整个目录完整重译为 7 种语言约需 460 美元,而按 Smartling 公布的机器翻译费率则约为 7,200 美元。

  17. OpenRouter Announcements58

    OpenRouter 发布教程:如何阻止 AI Agent 陷入无限循环

    OpenRouter 发布了一份指南,介绍如何阻止 AI Agent 在工具调用失败后反复重试、陷入死循环,其中给出四种防护措施,并在六个当前模型上进行了测试。启用 doomLoop 检测后,六个模型均在第三次相同的工具调用时被拦截;在 18 次运行中,工具调用次数从 314 降至 64,花费从 $0.29 降至 $0.05。该指南还加入了用于规范化参数的 loopKey、对步数和成本的 stopWhen 上限,以及 API key 上的额度限制——触发时返回 402,limit_source 为 openrouter_key_limit。

  18. vLLM Blog64

    vLLM-Omni 在 Vera Rubin 上对 MiniMax H3-Image 进行基准测试:0.87 秒生成 4K 图像,每小时 6,115 张

    vLLM-Omni 将 MiniMax H3-Image 引入 NVIDIA Vera Rubin,在四块 GPU 上测得原生 4096×4096 文本到图像的中位延迟为 0.87 秒,并在另一吞吐配置下达到每小时 6,115 张图像。H3-Image 是一个开放权重的文本到图像与编辑模型,将 Qwen3-VL 编码器与 33.1B 稠密 DiT 及图像 VAE 相结合,在六步采样内处理两项任务,最多支持 16 张参考图像。团队报告了 MXFP8 DiT GEMM、Ulysses SP4、AdaLN 缓存以及一项将解码时间从 2.635 秒缩短至 0.213 秒的 VAE 解码改动,并列出了面向 AMD、Intel、华为昇腾和摩尔线程硬件的配置方案。

    推荐理由:vLLM-Omni 的基准测试显示 MiniMax H3-Image 在 Vera Rubin 上以亚秒级 4K 延迟运行,并提供了各硬件配置及服务经济性成本模型。

  19. vLLM Blog72

    vLLM 在 Vera Rubin NVL72 上服务 DeepSeek-V4.1-Flash,吞吐量达 GB300 NVL72 的 58 倍

    vLLM 报告称,在单台 NVIDIA Vera Rubin NVL72 机架上服务 DeepSeek-V4.1-Flash,每 GPU 达到 170 万 tokens/s,每用户 387 tokens/s,是 GB300 NVL72 的 58 倍,峰值达 252 万 tokens/s,单用户达 1,810 tokens/s。性能提升来自为 Rubin 的分裂内存域和 FP4 张量核心重建的 kernel、专用的 TP8 解码路径,以及通过 NVLink 共享的机架级 KV 和 Engram 池。借助跨机架池化前缀和 Dynamo 工作负载感知路由,即使在高并发下前缀命中率也保持在 96.5-97%。

    推荐理由:vLLM 关于 DeepSeek-V4.1-Flash 的第三篇文章详细说明了 Rubin 专用 kernel 和机架级内存池化如何将吞吐量提升至 GB300 NVL72 的 58 倍,为大规模服务优化提供了具体参考。

  20. Hugging Face Blog36

    Hugging Face 发布 TRELLIS.2 3D 生成微调指南与脚本

    Hugging Face 发布了 TRELLIS.2 的微调脚本和容器,该模型是一个 3D 生成模型,可在本地或 Hugging Face Jobs 上运行。该指南通过 PEFT 库使用 LoRA 适配器,仅作用于稀疏结构流 DiT 和形状流 DiT,材质阶段保持冻结。在 GSO 数据集的 188 个物体鞋类子集上,预训练模型经常渲染出错误的鞋底,这正是 LoRA 微调所针对的问题。

  21. AWS Machine Learning Blog36

    在 Amazon Bedrock 上运行 OpenAI Codex:访问路径与上线指南

    本文介绍如何将 OpenAI Codex 模型请求路由到 Amazon Bedrock,同时复用现有的 AWS 身份、IAM、区域和可观测性实践。文章建议先通过 Native AWS Access 开展小规模最小权限试点,AgentCore Gateway 或 LLM Gateway 可作为替代方案,并演示了 IAM Identity Center 登录以及使用 GPT-5.6 Sol 直接检查 Bedrock Runtime 的流程。

  22. AWS Machine Learning Blog46

    在 Amazon SageMaker HyperPod 上检测并恢复静默数据损坏

    在 Amazon SageMaker HyperPod 上运行的 PyTorch DDP 训练循环新增了三项检查,用于捕获静默数据损坏:非有限梯度检查、跨节点比较 loss 位与梯度指纹的环形重放审计,以及优化器步骤后的权重指纹比较。在 4 台 ml.p5.48xlarge 实例(32 块 NVIDIA H100 GPU)上通过软件注入故障进行测试,这些检查能指出可疑的 rank、将其映射到节点,并让 HyperPod 替换该节点并从检查点恢复。

  23. AWS Machine Learning Blog41

    Amazon Bedrock AgentCore Web Search API 发布

    Amazon Bedrock AgentCore 现已提供独立的 Web Search API,开发者可直接从 AWS SDK 或 AWS CLI 调用 InvokeWebSearch,只需一次请求,无需创建任何资源。该 API 从 Amazon 运营的网页索引返回排序后的结果,每条结果包含文本摘录,并在可用时提供标题、URL 和发布时间,支持域名和日期筛选。请求使用 SigV4 和 IAM 签名,权限与 AgentCore Gateway 路由相同。

  24. AWS Machine Learning Blog36

    2026年10月AWS为AI构建者带来的更新:Claude Haiku 5.5、GPT-6.1 Terra、AgentCore CLI 1.0

    AWS的2026年10月汇总新增了Claude Haiku 5.5,Anthropic称其在大多数任务上的成本比Claude Haiku 4.5低约75%;此外还有在Amazon Bedrock上线的OpenAI GPT-6.1 Terra,支持最多100万输入token,价格至少比GPT-6.1 Sol和GPT-5.6 Terra低50%。AgentCore CLI达到1.0版本,AgentCore Gateway新增了模型回退和将Step Functions工作流作为agent工具的功能。

  25. MarkTechPost74

    Google 发布 Gemini Decisions API,搭载 Gemini Decision 1,每 100 万 token 收费 0.10 美元

    Google 发布了 Gemini Decisions API,由名为 Gemini Decision 1(gemini-decision-1)的新模型驱动。该模型不生成文本,而是针对一个共享输入对最多 1,000 个带类型的问题进行打分,并返回校准后的概率。它在单次预填充中读取文本、图像、音频、视频和 PDF,支持是/否、选择和评分三种问题类型,定价为每 100 万输入 token 0.10 美元,输出 token 不计费。Google 报告称其上下文长度为 262,144 token,端到端延迟为 150-250 毫秒,top-1 ECE 为 0.0250,约为 TypeSafe Jev 1.14 的一半,但在 When2Call 基准上落后于 Jev(79.9% 对 82.0%),且每 token 成本更高(0.10 美元对 0.042 美元)。

  26. Simon Willison58

    AWS 发布官方本地模拟器,无需付费 API 密钥即可测试其服务

    AWS 发布了一款官方模拟器,让开发者可以在本地克隆的各类服务上运行测试,而无需配置付费 API 密钥。据 Swaminathan (Swami) Sivasubramanian 在 Werner Vogels 博客上的客座文章介绍,该模拟器用 Rust 编写,项目前三周累计了 29,684 次提交。目前在 macOS 和 Windows 上需要 Docker,Simon Willison 希望后续能推出单个可下载的二进制文件,以便在其他平台和语言的标准测试套件中使用。

  27. AWS Machine Learning Blog12

    AWS re:Invent 2026 AI/ML 专场:参会者指南

    AWS 将于 11 月 30 日至 12 月 4 日举办年度 re:Invent 大会,AI/ML 专场在超过 2,000 场学习会议中提供 140 多场独立会议。该指南将会议对应到 AWS AI 技术栈,涵盖 AI 芯片(AWS Trainium 和 NVIDIA GPU)、Amazon Bedrock 和 SageMaker AI 上的模型与推理,以及使用 Amazon Bedrock AgentCore 的智能体开发。会议从新手内容到技术深度解析进行组织,许多会议可点播观看。