跳到正文
今天11月13日周五45 条
  1. inclusionAI Models34

    inclusionAI 发布 Duo-1.0-distill-quant FP8 权重,用于全双工交互

    inclusionAI 发布了 Duo-1.0-distill-quant,这是 Duo 1.0 全双工多模态世界模型的 FP8 量化四步蒸馏 Realization 权重。该权重叠加在 inclusionAI/Duo-1.0-causal-base 包之上,后者提供共享的 Intent、编解码器、语音模型和 Realization 主干,并需要支持打包的 ModelOpt FP8 格式的运行时。该权重从 MiniMax H3 初始化,随后由 Duo 团队训练。

  2. inclusionAI Models40

    inclusionAI 发布 Duo-1.0-distill:Duo 1.0 的四步蒸馏权重

    inclusionAI 已发布 Duo-1.0-distill,这是 Duo 1.0 的四步蒸馏 Realization 权重;Duo 1.0 是一个用于实时视听交互的全双工多模态世界模型。该权重以 PyTorch Distributed Checkpoint 覆盖层的形式发布在 inclusionAI/Duo-1.0-causal-base 包上,使用 Euler 采样器、4 步和 flow shift 5.0。该权重从 MiniMax H3 初始化,随后由 Duo 团队训练。

  3. inclusionAI Models38

    SingVL-4B GGUF 发布:基于 Qwen3.5 的 Sing VL S1 4B 多模态决策模型推出 GGUF 版本

    Sing VL S1 是一个基于 Qwen3.5 构建的 4B 参数多模态决策模型,现已发布 GGUF 版本,可用于 llama.cpp 的 CPU 推理。它提供 BF16(8.42 GB)、Q8_0(4.48 GB)和 Q4_K_M(2.71 GB)三种解码器,外加一个共享的 F16 视觉投影器,默认上下文长度为 4096 token。GGUF 验证覆盖 9 个示例和 11 个问题;GGUF 各变体的完整公开评分仍待公布。

  4. ElevenLabs Blog18

    每位人类和AI客服人员都需要的7项客户服务技能

    ElevenLabs列出了七项客户服务技能——沟通、问题解决、冲突化解、同理心、适应力、个性化以及产品知识——人类和AI客服人员都需要具备这些技能。它引用了Zendesk的一项研究,该研究发现超过50%的客户在经历一次糟糕体验后会转向竞争对手;还引用了Gartner的预测,即到2028年至少70%的客户将通过AI界面开启他们的旅程。该指南强调在训练期间和部署之后评估对话指标,并强调无缝转接给人类以缓和局势。

  5. Modal Blog40

    Modal Sandboxes 采用突发定价,相比预留成本降低 58%

    Modal 现在按活跃资源使用量而非固定预留来计费 Sandboxes,允许每个 Sandbox 突破其默认的 0.125 核和 128 MiB 请求,并按每秒实际使用量付费。在一个 20 分钟的编码智能体示例中,突发计费为每 Sandbox 小时 8.4¢,而固定预留为 20.0¢,节省 58%。CPU 默认可在请求基础上突发至多 16 核,内存除非设置限制否则不设上限。

  6. Factory55

    Factory 推出 Cyber Defense Network,将安全工具连接到 Security Factory

    Factory 推出了 Cyber Defense Network,这是一个由网络安全公司组成的生态系统,其发现结果会流入 Security Factory,以便 Factory Droids 调查漏洞、实施代码更改并通过测试验证修复。创始合作伙伴包括 Snyk、Palo Alto Networks、Semgrep、Cogent、Casco、DepthFirst 和 Detail。该工作流涵盖来自合作伙伴工具的信号、对可达漏洞的初步分类,以及持续修复,生成可供工程团队审查和合并的修复方案,同时组织保留其现有的安全工具和工作流。

  7. Databricks Blog36

    利用详细审计日志和 Genie 检测 Databricks 上由凭证驱动的攻击

    Databricks 详细说明了凭证驱动的攻击如何在其平台上展开,以及详细审计日志和 Genie 如何检测在窃取的 PAT、会话 cookie 或服务主体凭证被使用后发生的行为变化。该文章将攻击者活动划分为六个阶段,从初始登录到环境侦察,并涵盖响应步骤以及限制被盗凭证可触及范围的控制措施。

  8. Databricks Blog36

    Bright Machines 借助 Debezium 和 Iceberg,为气隙隔离工厂的客户提供实时仪表盘

    Bright Machines 现在无需开放任何入站访问,即可为客户提供来自气隙隔离工厂的实时、受治理的工厂数据仪表盘。它在边缘侧用 Debezium 捕获 PostgreSQL 变更,将其写为 Apache Iceberg,通过一条可审计的出站路径推送出去,并在 Databricks 中通过 Unity Catalog 联合就地读取。首个客户可见的仪表盘在上线启动约两个月后投入使用,已提交的行可在一到两分钟内查询,仪表盘每十分钟刷新一次。

  9. OpenRouter Announcements58

    OpenRouter 在 274 题 RAG 基准上测试 11 个重排序器

    OpenRouter 在一个 274 题的合成 RAG 数据集上对 11 个重排序器进行了基准测试,发现用 voyageai/rerank-3-lite 对向量检索的前 30 个候选进行重排序,可将 precision@1 从 81.0% 提升到 97.1%,成本约为每 1,000 次查询 0.10 美元。该指南建议检索约 30 个片段,对其进行重排序,只将前 3 个发送给 LLM,在其测试中将答案准确率提升到 99.3%,同时将每 1,000 个问题的回答成本从 0.22 美元降至 0.16 美元。它还指出了失败模式:省略 input_type 参数会损失 7 到 12 个百分点的 precision@1,而 cohere/rerank-v3.5 会静默忽略超出其 4,096 token 限制的内容。

  10. AWS Machine Learning Blog58

    AWS 发布 SGLang-Neuron,可在 Trainium 上以原有 SGLang 接口部署前沿模型

    Amazon 宣布 SGLang-Neuron 正式公开可用。这是一个 out-of-tree 插件,通过 AWS Deep Learning Container 在 AWS Trainium 上运行 SGLang,由 RadixArk 与 Annapurna Labs 发布。用户保留相同的 SGLang 服务器接口和生成 API,而该插件提供 Trainium 专用模型、注意力、MoE,以及一个基于原生 PyTorch 和 NKI 内核、经 torch.compile 编译的图运行器。它还支持 PD 分离,通过 EFA 上的 NIXL 将 prefill KV 缓存传输到 decode 服务器;演练使用 pytorch-inference-sglang-neuronx 容器在 Trainium3 EC2 实例上服务 openai/gpt-oss-120b。

  11. GitHub Blog · AI & ML58

    GitHub 指南解释如何构建可在 Claude Code、Cursor 和 Copilot 上运行的 agent skills

    GitHub 发布了一份关于 agent skills 的实用指南,agent skills 是以 SKILL.md 文件为中心、带版本号的目录,用于描述何时以及如何执行可重复的任务。该指南使用两个示例——用于对 AI 生成代码进行对抗性验证的 Proof Agent 和用于多技能数据管道的 Data Forge——来展示技能如何共享项目清单、复用同一条执行路径,并在每个阶段设置人工审批。它还介绍了一个打包脚本,可从单一 skills 源为 Claude Code、Cursor 和 GitHub Copilot 生成特定于客户端的文件。

  12. AWS Machine Learning Blog40

    Natera 如何在 Amazon Bedrock AgentCore 上为实验室运营构建 SWARM 智能体 AI 系统

    Natera 在 Amazon Bedrock AgentCore 上构建了用于实验室运营的智能体 AI 系统 SWARM,将首次响应时间缩短约 130 倍,并自动处理 96.2% 的支持工单。该系统将一个在工程师打开工单前起草诊断报告的 swarm-agent 与一个用于工程师实时交互的 swarm-hive 配对,两者共享同一个技能库。它每天处理三个队列中超过 65 个 Jira 工单,而这些工单此前的首次响应平均需要 17.4 小时。

  13. Microsoft Research22

    微软研究院焦点版第98期:AI翻译、KLS猜想证明与更快的编码智能体

    微软研究院焦点版第98期重点介绍了AI进展使通用翻译更接近现实,以及一项新证明解决了高维几何中悬置31年的KLS猜想。本期还涵盖CompactionBench和APEC,它们将编码智能体的上下文压缩成本最多降低25.4%,执行时间缩短9.6%,以及Latent Core Tokenizer,它在104种语言上改进了分词。

  14. Databricks Blog30

    Databricks 澄清关于 Lakebase 架构的四个 LTAP 误区

    Databricks 回应了对 LTAP 的四种常见误读。LTAP 是 Lakebase 架构,它让同一份受治理的运营数据副本同时服务于 Postgres 和分析,无需 CDC。文章认为 LTAP 不是复制:湖前端的各层是缓存,而不是一个拥有自己目录的第二个数据库。文章还表示,堆页面和 Parquet 是同一批行的两种无损编码,因此点查询和扫描各自读取对其而言快速的布局。

  15. AWS Machine Learning Blog38

    规模化 Token 经济:使用 CUR 2.0 和 AWS Budgets 按 IAM 主体跟踪并限制 Amazon Bedrock 支出

    AWS 展示了如何仅使用原生功能按 IAM 主体跟踪并限制 Amazon Bedrock 生成式 AI 支出:Bedrock 会在每次推理请求时自动记录 IAM 用户或角色,这些标签会成为成本分配标签,可在 Cost Explorer 或 CUR 2.0 导出中读取。一个限定于 Bedrock 并按某个身份或标签值筛选的 AWS Budget 可以附加预算操作,在超过阈值后应用 Deny IAM 策略,常见场景下无需应用代码。

  16. AWS Machine Learning Blog36

    影响成本的四个 Amazon Bedrock 推理选择

    Amazon Bedrock 的缓存时长、服务层级、推理投入和 maxTokens 设置可以在不改变模型或提示词的情况下改变推理成本。在 Claude Sonnet 5 和 Claude Opus 5 上,5 分钟缓存写入的成本是输入费率的 1.25 倍,1 小时写入是 2 倍,缓存读取是 0.1 倍;向不支持的模型发送 Flex 层级请求会以 ValidationException 失败。

  17. Hugging Face Blog69

    IBM 发布基于 Granite 4.1 3B 和 8B 构建的 LLMON 预览模型

    IBM 发布了两款实验性预览模型 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview,它们基于 Granite 4.1 基础检查点衍生,经过训练能够读取和生成 LLMON——一种 LLM 原生标记语言,用保留的特殊 token 分隔符来标记指令、数据和需求。在 OPI 基准上,这些模型比测试中表现最好的前沿模型多规避了 47% 的间接提示注入攻击,比最好的开源模型多规避了 95%,同时在标准基准上的表现与 Granite 4.1 Instruct 相当。此次发布包含一个 GitHub 工具包,提供无损的 JSON 到 LLMON 转换器,作者指出该预览版仅供探索,不适用于生产环境。

    推荐理由:IBM 在 Granite 4.1 上训练出能读写 LLMON 标记的预览模型,通过显式的指令与数据分离,将 OPI 基准上的间接提示注入成功率压到接近零,同时保持通用能力。

  18. LangChain Blog45

    什么是评估驱动开发?如何改进 AI 智能体

    LangChain 解释了评估驱动开发(EDD),这是构建 AI 智能体的三步流程:定义什么是好的表现、在构建之前先编写评估、每次更改后比较结果。由于智能体具有非确定性,评估会在一组示例数据集上对运行结果打分,并可使用 LLM-as-a-judge,同时以 LangSmith 中真实的智能体运行作为测试输入来源。

  19. Databricks Blog22

    Constellation 如何在 Databricks 上构建受治理的数据基础

    Constellation 是美国最大的核电机组运营商,正在 Databricks 上构建一个受治理的企业数据平台,以便为业务提供统一的数据含义。该平台使用 Unity Catalog 实现数据血缘、细粒度访问和单一权限模型,并对关键的可复用实体采用 Data Vault 建模。早期用例包括使用 Databricks Genie 构建的核工程助手以及停堆计划。

  20. Databricks Blog25

    Eclipse Aerospace 使用 Databricks PySpark 自定义数据源进行飞行数据摄取

    Eclipse Aerospace 正在使用 Databricks PySpark 自定义数据源摄取近 20 年的专有飞行数据,超过 3TB,涵盖逾一百万飞行小时,且无需常开专用计算资源。这个由 Rust 支持的 Python 包在基准测试中的性能是基于 PyArrow 的类似纯 Python 数据源的两倍,几乎是不使用 Arrow 的原生 Python 实现的 20 倍。该 API 在 Apache Spark 4.0 中引入,并在 Databricks Runtime 15.4 LTS 中可用,取代了此前的 Lambda-to-Avro 管道。

  21. AWS Machine Learning Blog66

    AWS 更新 AgentCore 运行时:会话启动速度提升 15 倍,算力提升 4 倍

    AWS 宣布更新 Amazon Bedrock AgentCore 运行时——其面向智能体的托管计算层,会话启动速度现已提升至多 15 倍,算力扩展至 4 倍(最高 8 vCPU 和 32 GB,容器镜像最大 10 GB),运行效率提升至多 68%,同时每个会话仍运行在各自硬件隔离的 Firecracker MicroVM 中。无论镜像大小或并发量如何,会话启动均在 2 秒以内,空闲智能体可缩容至零,智能体可挂载文件系统(如支持 FUSE 的 Amazon S3 桶)并保存工作成果,使数据始终留在信任边界内。该运行时现已在北美、南美、欧洲和亚太地区的 AWS 区域可用。

    推荐理由:AgentCore 运行时的新版本将会话启动、算力上限和内存计费一并调整,为需要长时间运行的智能体在隔离与成本之间提供了新的取舍。

  22. AWS Machine Learning Blog34

    使用 Amazon Bedrock 和 LiteLLM 构建自助式 LLM 网关

    一个基于 Amazon Bedrock Application Inference Profiles 和运行在 AWS Fargate 上的 LiteLLM 构建的自助式 LLM 网关,通过 OpenAI 兼容 API 对外暴露 Bedrock 基础模型,为开发者提供单一 base URL 和每用户密钥。该方案增加了每用户支出控制、按模型配额隔离以及 CloudWatch RPM/TPM 可观测性,并使用 Langfuse 实现提示词级遥测。自助发放密钥需要 LiteLLM Enterprise,因为免费版仅限五个用户。

  23. Google DeepMind90

    Google DeepMind 发布 Gemini 4 Hydrogen,一款面向编程和智能体工作流的更快的 Gemini 4 模型

    Google DeepMind 推出了 Gemini 4 Hydrogen,这是一款 Gemini 4 模型,专为快速的日常编程和智能体执行而构建,而非 Gemini 4 Carbon 和 Argon 那种长程推理。在其默认的高思考级别下,它在 Artificial Analysis Intelligence Index 上得分为 51,而 Argon 为 50;在新的 xhigh 设置下达到 54;其定价在其 100 万 token 上下文窗口内统一为每百万输入 token 1.50 美元和每百万输出 token 7.50 美元。Google 还在 Google Antigravity 中推出了 Orchestrator,它可以在会话内在 Carbon 和 Hydrogen 等模型之间切换,并在 Terminal-Bench 4.0 上达到接近 Carbon 的任务成功率,同时使用的配额减少 24%,完成速度快 19%。

    推荐理由:Google 的 Gemini 4 Hydrogen 面向快速的日常编程和智能体工作,在 100 万上下文窗口内统一为每百万 token 1.50/7.50 美元的定价,并推出了可在 Gemini 4 模型之间切换的新 Orchestrator。

  24. AWS Machine Learning Blog34

    在 Amazon Bedrock 上优化单任务成本并证明智能体 ROI

    这篇 AWS 文章主张,Amazon Bedrock 的支出应按单任务成本而非单 token 成本来衡量,因为分词器效率、输出冗长度、智能体循环次数和推理开销可能使价格更低的模型反而成本更高。一个示例显示,标价高 2 倍的模型单任务成本反而低 65%;文章还补充了缓存、路由和输出约束,以及一个五维评分卡,用于对照人工基线衡量智能体 ROI。

  25. Google Blog · AI82

    Google Search 全球升级至 Gemini 4 Hydrogen

    Google Search 已将全球所有用户迁移至 Gemini 4 Hydrogen,公司称这是迄今为止对搜索最大的一次模型升级。该模型提升了对多部分问题和大量拼写错误问题的意图理解,增强了更深入的指令遵循和工具调用能力,并强化了查询扇出,以呈现用户原本可能找不到的链接。在所有支持的 AI Mode 语言中,回答也变得更加视觉化,包含更多图片、对比表格和自定义工具。

    推荐理由:这是 Google Search 迄今为止最大的模型升级,Gemini 4 Hydrogen 现为全球所有用户处理多部分问题、工具调用和查询扇出。

  26. Databricks Blog22

    H6.ai 如何借助 Lakebase Postgres 构建 AI 驱动的财务自动化

    H6.ai 在客户现有 ERP 之上实现应付账款自动化,为每个客户使用专属的 Lakebase Postgres 数据库作为记录系统。由于发票数据持续变化,团队使用 Lakebase 的写时复制分支来冻结客户数据库快照,并在各自独立的短生命周期分支上运行每项回归测试,因此绝不会写入生产数据库。每次运行由确定性断言以及来自不同模型提供商的 AI 评审团共同评判。

  27. Databricks Blog58

    Databricks 推出 Lakehouse//RT,无需成本成比例增长即可提供实时分析

    Databricks 推出 Lakehouse//RT,这是一个实时分析引擎,可直接在湖仓数据上运行高并发工作负载,目前已进入测试阶段。该公司表示,它能在每秒 12,000 次查询下实现低于 100 毫秒的延迟,每次增加一个节点来扩容,并避免单独的 serving 层;客户 Aurasell、VisionHeight 和 nOps 报告称,从多集群设置、Apache Pinot 和 Apache Druid 迁移后,基础设施成本降低了 6 到 10 倍。

  28. AWS Machine Learning Blog38

    Amazon Bedrock AgentCore Evaluations:内置、DeepEval 和 AutoEval 评估器

    Amazon Bedrock AgentCore Evaluations 现在让团队可以运行 AWS 内置评估器,同时支持托管的 DeepEval 和 AutoEval 指标,以及基于两者衍生的自定义评估器。内置目录涵盖响应质量、目标完成、工具使用、技能和安全性方面的 15 个评估器,并提供三项针对预期工具路径的轨迹检查。DeepEval 增加了 ConversationCompleteness 和 KnowledgeRetention 等多轮指标,而 AutoEval 则贡献了包括安全性在内的专业信号。

  29. AWS Machine Learning Blog36

    使用 LangGraph 和 Amazon Bedrock AgentCore Web Search 构建每日依赖监视器

    Amazon Bedrock AgentCore 中的 Web Search API 现已可用,通过一次 SigV4 签名的 API 调用即可让智能体获取最新的网页结果,该调用由 Amazon 运营的网页索引提供服务。一篇演练文章构建了一个每日依赖监视器,将其作为 LangGraph 图,并行研究 npm、PyPI 和容器基础镜像,并在代码中强制执行日期窗口、黑名单和搜索预算。在测试中,三个分支在 36 秒内完成,而按顺序运行则需要 99 秒。

  30. AWS Machine Learning Blog58

    Moonshot AI 的 Kimi K3.1 Pro Highspeed 在 Amazon Bedrock 上线

    Moonshot AI 的 Kimi K3.1 Pro Highspeed 现已在 Amazon Bedrock 上可用,它是 Kimi K3 的后训练版本,具有相同的 3T 级开放权重架构和 100 万 token 上下文窗口,使用更多后训练算力进行训练,以支持长时程智能体工作并减少事实性错误。Moonshot AI 报告其输出速度是 Kimi K3.1 Pro 的 2–3 倍,现有 Kimi K3 用户可以通过更改模型 ID 进行切换。该文章展示了 Chat Completions、Responses 和 Converse API 调用、价格为 Standard 一半的 Flex 层级、使用 prompt_cache_breakpoint 的显式提示缓存,以及将模型连接到 OpenCode 编码智能体。

  31. AWS Machine Learning Blog33

    Amazon SageMaker AI 双向流式传输新增按用量定价,Deepgram 成为首发合作伙伴

    Amazon SageMaker AI 双向流式传输现已支持按用量计量,允许模型提供商向 AWS Marketplace 软件费用上报实际消耗量,而端点基础设施费用仍需另行支付。Deepgram 是首发合作伙伴,将按用量计费的语音转文本和文本转语音计费引入 AWS Marketplace。该设计新增一条配套的 WebSocket 元数据流,限制为每秒一条消息、每条 512 字节,使提供商能够在实时会话期间发送增量计量记录。

  32. AWS Machine Learning Blog60

    AWS 开源 UAEF:一个与框架无关的 AI Agent 评估系统

    AWS 已开源 UAEF(Universal Agent Evaluation Framework,通用 Agent 评估框架),这是一个与框架无关的系统,通过适配器将来自 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的 Agent 轨迹归一化为统一的 AgentTrace,然后用覆盖 7 个维度的 36 项内置指标进行打分。结果按实验存储在 Amazon DynamoDB 和 Amazon S3 中,使团队可以将 Agent 版本与基线进行比较,用默认 5% 的阈值标记回归,并生成统计报告以及由 LLM 撰写的洞察。文章称,来自电信、医疗和金融服务领域 12 个组织的客户在发布前使用了 UAEF,Apache 2.0 代码、Python 库、CDK 部署和各框架 notebook 均位于 awslabs/uaef GitHub 仓库中。

    推荐理由:AWS 团队开源 UAEF,用适配器把不同框架的 Agent 轨迹统一成一种格式,再以 36 项指标跨 7 个维度打分,为跨框架比较 Agent 版本提供了一套可复用的评测层。

  33. AWS Machine Learning Blog36

    AWS Quick AI-PDLC:六个智能体驱动 AI 产品开发

    AWS Quick 推出 AI-PDLC,这是一个由六个专用智能体组成的框架——由 Orchestrator 统领,涵盖 Discovery、Prioritize、Working Backwards、Spec Generator 和 Designer——可将来自 Slack、Jira、Salesforce 和 SharePoint 的分散企业信号转化为可追溯的 prototype_spec.md。每个阶段都需要人工审批,并且该规格可通过开放的 Agent Client Protocol (ACP) 交给 Kiro 或 Claude Code 等编码智能体。

  34. AWS Machine Learning Blog40

    AWS 开放其创新中心的 23 项可复用生成式 AI 资产目录

    AWS 发布了来自其生成式 AI 创新中心(现隶属于 AWS Frontier AI Engineering & Services)的 23 项生产就绪的开源生成式 AI 资产目录。这些构建模块涵盖 RAG 流水线、文档处理器、智能体脚手架和评估框架,AWS 表示它们可以将开发时间从数月缩短至数周。DoorDash 报告称测试能力提升了 50 倍,Ricoh 报告称基于这些资产构建后吞吐量提升了 7 倍。

  35. AWS Machine Learning Blog38

    DXC Technology 如何在 Amazon Bedrock 上构建多模型 AI 底座

    DXC Technology 在 Amazon Bedrock 上为其 DXC OASIS IT 运维框架构建了模型底座,通过一个统一托管接口接入 Anthropic Claude、Amazon Nova、Meta Llama 和开放权重模型。Amazon Bedrock Guardrails 对所有模型统一应用内容过滤、PII 脱敏和禁止话题策略,而 AWS PrivateLink 将推理流量保持在客户 VPC 内。DXC OASIS 自 2026 年 3 月起正式可用,在 56 个实测用例中平均将解决时间缩短了 95%。