跳到正文
今天11月13日周五5 条
  1. Hacker News · AI40

    Stanford CS 329Z:Engineering AI Agents 课程涵盖智能体设计、RAG、工具与多智能体系统

    Stanford 的 CS 329Z,Engineering AI Agents,梳理了智能体系统的构成——LLM 核心、推理、记忆、工具与环境——以及复合 AI 系统与真正智能体之间的差距。课程涵盖 RAG 流水线、工具使用与基于 MCP 的函数调用、DSPy 与 LangGraph 编排、MemGPT 等记忆架构,以及多智能体编排模式。课程最后介绍包括 GEPA、PPO 和 GRPO 在内的优化方法,并附有 Terminal-Bench 创作者带来的客座讲座。

  2. OpenRouter Announcements58

    OpenRouter 在 274 题 RAG 基准上测试 11 个重排序器

    OpenRouter 在一个 274 题的合成 RAG 数据集上对 11 个重排序器进行了基准测试,发现用 voyageai/rerank-3-lite 对向量检索的前 30 个候选进行重排序,可将 precision@1 从 81.0% 提升到 97.1%,成本约为每 1,000 次查询 0.10 美元。该指南建议检索约 30 个片段,对其进行重排序,只将前 3 个发送给 LLM,在其测试中将答案准确率提升到 99.3%,同时将每 1,000 个问题的回答成本从 0.22 美元降至 0.16 美元。它还指出了失败模式:省略 input_type 参数会损失 7 到 12 个百分点的 precision@1,而 cohere/rerank-v3.5 会静默忽略超出其 4,096 token 限制的内容。

  3. AWS Machine Learning Blog40

    Natera 如何在 Amazon Bedrock AgentCore 上为实验室运营构建 SWARM 智能体 AI 系统

    Natera 在 Amazon Bedrock AgentCore 上构建了用于实验室运营的智能体 AI 系统 SWARM,将首次响应时间缩短约 130 倍,并自动处理 96.2% 的支持工单。该系统将一个在工程师打开工单前起草诊断报告的 swarm-agent 与一个用于工程师实时交互的 swarm-hive 配对,两者共享同一个技能库。它每天处理三个队列中超过 65 个 Jira 工单,而这些工单此前的首次响应平均需要 17.4 小时。

  4. AWS Machine Learning Blog40

    AWS 开放其创新中心的 23 项可复用生成式 AI 资产目录

    AWS 发布了来自其生成式 AI 创新中心(现隶属于 AWS Frontier AI Engineering & Services)的 23 项生产就绪的开源生成式 AI 资产目录。这些构建模块涵盖 RAG 流水线、文档处理器、智能体脚手架和评估框架,AWS 表示它们可以将开发时间从数月缩短至数周。DoorDash 报告称测试能力提升了 50 倍,Ricoh 报告称基于这些资产构建后吞吐量提升了 7 倍。

  5. AWS Machine Learning Blog34

    使用编码代理迁移到 Amazon Bedrock Managed Knowledge Base

    AWS 在 Agent Toolkit for AWS 的 amazon-bedrock 技能中新增了知识库迁移指南,让编码代理可以规划从客户托管知识库迁移到 Amazon Bedrock Managed Knowledge Base。代理首先进行只读发现和逐行审查的计划,然后在原始知识库旁创建新的知识库和数据源,或编写迁移后的 IaC 模板。Managed Knowledge Base 将默认配额提高到每个知识库 200 个数据源、每个账户每个区域 10,000 个知识库,并新增了代理式检索、AgentCore Gateway 集成和基于资源的策略。

11月11日周三
  1. Hugging Face Blog41

    使用 Sentence Transformers 对多向量嵌入模型进行池化感知训练

    Hugging Face 展示了池化感知训练如何在固定存储预算下提升多向量嵌入模型的检索质量。在 pool_factor=4 时,常规训练的模型保留了其未池化 NanoBEIR nDCG@10 的 94.6%,同时将文档向量减少到四分之一,而池化感知训练将这一保留率提升至 97.8%。文章详细介绍了 HierarchicalTokenPooling、预算校准以及一个可复现的 Sentence Transformers 示例。

  2. LangChain Blog58

    LangChain 阐释 AI 智能体上下文工程中的检索技术

    LangChain 发布了一篇博客文章,说明检索设计如何塑造 AI 智能体的上下文工程,并以基于其 Deep Agents 框架构建的竞品分析智能体为例。文章涵盖三种失败模式:搜索效率低下、一次性加载过多上下文,以及结果不相关或过时,并为每种模式配以相应技术,例如 glob 和 grep 文件系统工具、使用 read_file 偏移量分页读取大文件、将过大的工具结果卸载到文件,以及在“检索、卸载、委派”模式下将读取工作委派给子智能体。文章还警告称,检索到的文本是数据而非指令,可能携带提示注入,因此应将输出与引用的来源进行核对。

11月5日周四
  1. Apple Machine Learning Research38

    苹果的学习型支撑函数加速RAG检索

    苹果研究人员在ICML 2026上发表了"Amortizing Maximum Inner Product Search with Learned Support Functions",通过离线训练小型神经网络,将查询更快地路由到最匹配的键。SupportNet通过输入凸神经网络(ICNN)学习支撑函数以改进聚类路由,而KeyNet直接输出最佳匹配的键向量,并通过欧拉定理的一致性损失保持其几何基础。两者均在真实查询分布上训练,以预先的摊销成本换取推理时更快、更准确的检索。

10月26日周一
  1. Mastra Blog40

    Mastra 向另外八家设计合作伙伴开放 Knowledge——一个面向 AI 智能体的自托管公司大脑

    Mastra 正在以先到先得的方式,向另外八家设计合作伙伴开放其 Knowledge 服务,这是一个面向 AI 智能体的自托管全公司上下文层。Knowledge 可连接 Slack 和 Monday 等系统,保持自身数据实时更新,并支持按职能划分独立知识库,权限可细化到个人、团队和组织层级。Mastra 表示,将全公司知识图谱接入其编码智能体后,交付代码的质量有了明显提升。

2025年10月30日周四
  1. Modal Blog38

    Modal 与 Datalab:5 分钟内即可部署 Marker 和 Surya 文档智能

    Modal 已与 Datalab 合作,让开发者能在 5 分钟内于 Modal GPU 上部署 Marker 文档解析模型和 Surya OCR 工具包。Marker 是一个参数量低于十亿的模型,支持 90 多种语言,在 Modal 上运行每个容器约可达每秒 2.2 页,大约是使用 Apple MPS 的 M4 Mac 上每秒 0.22 页的 10 倍。Datalab 的工具对研究、个人使用以及融资或营收低于 200 万美元的初创公司保持免费,同时提供商业许可。

2024年9月24日周二
2024年9月18日周三
  1. Modal Blog20

    Contextual AI 如何利用 Modal GPU 实现 CI 自动化

    Contextual AI 在 Modal 上实现并并行化了基于 GPU 的持续集成,取代了此前在内部 GPU 节点上手动运行测试的方式。一个 GitHub Action 会触发一个挂载多块 GPU 的 Modal Function,借助镜像构建缓存,测试可在任务提交后 30 秒内启动。Modal 按使用量计费,因此计费中 99% 都是实际测试运行时间。

2024年4月26日周五
2024年1月23日周二
  1. Modal Blog40

    用 Modal 和 Hugging Face TEI 在 15 分钟内嵌入英文维基百科

    Modal 和 Hugging Face 的文本嵌入推理服务器可以在约 15 分钟内嵌入整个英文维基百科,成本仅略高于 15 美元,这得益于 Modal 的无服务器 GPU 弹性伸缩。文章认为,对于生产环境的 RAG,开源嵌入模型优于 OpenAI 的 text-embedding-ada-002 等基于 API 的模型,因为开源模型可以基于用户数据进行微调,并避免速率限制和按 token 计费的成本。