拥有你自己的智能:LangChain 谈为何通用 AI 不够用
LangChain 认为,企业必须拥有自己的智能,而不能依赖通用模型,并要掌控三个层面:模型、harness 和上下文。它表示,拥有智能体系统,以及围绕它的经济性、质量和风险,才能把 AI 转化为持久的优势。
LangChain 认为,企业必须拥有自己的智能,而不能依赖通用模型,并要掌控三个层面:模型、harness 和上下文。它表示,拥有智能体系统,以及围绕它的经济性、质量和风险,才能把 AI 转化为持久的优势。
JioStar 首席架构师 Vijay Seshadri 分享了在 5 亿用户规模下运行 AI 发现的经验,涵盖评估、护栏以及将 AI 投入生产。这篇由 OpenAI 发布的文章聚焦大规模 AI 部署背后的运营实践。
Anthropic 的研究认为,AI 系统如今能在一个下午内推导出 Hodgkin-Huxley 模型这类方程,但拟合实验数据并不等同于理解。该研究将科学建模拆分为构建、约束和解释模型,并指出 AI 在约束模型方面进展最大,其中贝叶斯推断是绘制所有合理参数集而非单一拟合的标准方法。
曾领导 DARPA 网络挑战赛的微软研究院经理 Mike Walker 讨论了黑客文化如何塑造了他构建下一代网络防御的职业生涯,包括首届全机器黑客锦标赛。他认为有效的安全取决于对信任和上下文的理解,并反思了竞技黑客经历教会他的团队合作与集体智慧。
Replit预测,到2030年底,每一家《财富》500强公司都将成为“自动驾驶公司”,由智能体执行和协调工作,而人类负责设定目标并承担最终责任。Replit表示,2026年上半年其工程师的代码产出几乎增长了两倍,而评审时间、回滚和产品事故数量保持持平。Replit for Business正作为这一愿景的基础进行构建;在SMFL,一个此前需要六个人花六个月完成的开发流程,由一个人在一周内完成。
Sakana AI 已发布 Sakana Chat、Sakana Marlin、Sakana Fugu 和 Sakana Translate,从研发阶段迈入面向企业和政府机构的产品交付阶段。其 Go-To-Market 团队由副总裁 Hidekazu Kakishima 领导,于 2026 年 9 月成立,目前正在招聘 Forward Deployed Engineer,以将客户现场的实践经验反馈到产品中。
微软研究院 Catalyst Lab 主任 Chris White 回顾了他在 DARPA 项目之后领导阿富汗先进技术行动的经历,以及后来构建暗网搜索工具以打击人口贩运的工作。在与 Weishung Liu 的微软研究院播客节目中,White 讨论了问题选择如何塑造创新,以及他在目睹人性最黑暗的部分后如何保持希望。
Vapi 已推出 Personal Agent Calling 测试版,用户只需登录 Vapi 即可通过个人代理拨打电话,无需设置 API 密钥。该公司认为,企业必须核实代理代表谁、被允许做什么,以及该权限是否仍然有效,这一思路建立在 A2A 开放标准和 OAuth 之上。强迫客户从头开始,可能会失去他们的生意。
正在权衡是否自建语音代理的团队,实际上是在决定是否要构建一个编排层,因为代理本身只占约20%的工作量,其余部分是实时音频、电话通信和可观测性基础设施。一家调度供应商原本六周的演示变成了八个月的项目,之后它用六周时间将该功能迁移到一个平台上。只有在需要深度定制流水线、已有语音基础设施、受监管约束,或将语音作为核心竞争优势时,自建才有意义。
Modal 认为应将其理解为一台计算机,而非“算力版 Uber”、新云或推理提供商,因为它售卖的是处理器秒和字节秒,而不是 token。文章将传统机器的 ALU、内存层次、I/O、网卡和操作系统映射到 Modal 的容器、对象存储、输入/输出平面、路由平面和隧道上。它还将 Modal Functions、Sandboxes 和 Servers 分别对应到无状态工具、Linux 进程和 HTTP 监听器。
加州大学伯克利分校的 Aditya G. Parameswaran 及其合作者认为,随着推理成本从 2023 年初的约每百万 token 30 美元降至如今的不到 1 美元,数据系统必须围绕三大挑战重新设计:为智能体、由智能体、属于智能体的系统。他们指出,在一个每个任务使用多个智能体的 text-to-SQL 基准测试中,只有 10-20% 的子计划是互不相同的,因此 80-90% 的子查询在做重复工作,并提出了复用、近似和主动式数据系统的方案。
Vapi 认为,语音 AI 如今能让语音成为 ACCESS 慢病管理中在经济上可行的渠道,并引用 Hiya 的数据称,42% 的消费者偏好通过语音进行医疗沟通,高于上一年的 33%。该文章详述了三个生产工作流,其中包括 Spring Venture Group 的 Medicare 线索资格审核智能体,由四名工程师在一周内构建完成,将转接至成交率提升了 3%,并带来了超过 580 万美元的综合节省与新增收入。
Vapi 产品管理副总裁 Nathalie Criou 在 HumanX 的一场小组讨论中与 Salesforce、Databricks 和 TinyFish 同台表示,AI 是放大而非取代领域专业知识和判断力等基础要素。她表示,Vapi 的平台建立在数百万次真实世界语音交互之上,形成了单次训练运行无法复制的组织记忆。该小组认为,先发优势等浅层护城河正在被侵蚀,而信任、转换成本和独特交互数据的复利速度更快。
Modal 认为,那些帮助人类的开发者体验原则——紧密的反馈循环、通过 CLI/SDK/API 的程序化访问、可操作的错误信息,以及与代码一致的示例——同样能让编码智能体更快。由于智能体通过生成、运行和观察代码来迭代,模糊的错误或仅限 UI 的配置会让它们停滞,因此为智能体设计意味着应用同样的原则,而不是重新发明它们。
OpenAI 的 GPT-5.1 新增了一致的个性预设——Default、Professional、Friendly、Candid、Quirky、Efficient、Nerdy 和 Cynical——以及更具对话感的 GPT-5.1 Instant 和快速自适应推理,让简单问题得到快速回复,而复杂问题则获得更多思考。Vapi 表示,该模型已于上周随 OpenAI 的发布在其平台上线,使语音智能体无需重写提示词即可采用与品牌一致的语调。
Vapi 创始人回顾了公司如何举办 VapiCon——号称首届语音 AI 峰会,吸引了 850 名参会者,并让来自 OpenAI、Deepgram 和 Assembly AI 的语音 AI 领袖齐聚一堂。Vapi 在该活动上花费约 50 万美元,收回约 40 万美元,创始人称真正的回报是合作关系和企业交易。公司现已推出 VapiCon 视频库,收录所有会议和小组讨论。
Modal 的一篇博客文章认为,从 OpenAI、Anthropic 和 Alphabet 等 API 提供商沿袭而来的“每 token 美元”定价方式,对运行自托管 LLM 推理的团队有实际危害。文章主张,应用用户关心的是请求而非 token,需要按请求的框架来推理延迟、副本数量和计算成本。
从对话质量、上下文记忆、速度、功能、创意写作、研究、定价和界面等方面对 Claude 和 ChatGPT 进行了比较。Claude 为 Pro 用户处理高达 200,000+ tokens,擅长创意写作和细腻对话;ChatGPT 支持 128,000 tokens,响应时间为 2-3 秒,而 Claude 为 5-10 秒,并提供图像生成和 Custom GPTs。两个 Pro 档位均为每月 20 美元,Claude Max 为 100-200 美元,ChatGPT Pro 为 200 美元。
Modal认为,AI的GPU短缺源于一种错配:大部分需求流向训练,但收入来自推理,而推理工作负载本质上具有波动性。由于请求率会随昼夜周期、每周模式、病毒式流量和增长趋势而波动,固定的长期GPU预留会使真实世界的集群利用率低于50%。将众多用户的需求池化——按总和峰值而非峰值之和来配置——可以大幅提高利用率,而跨区域池化供给可以进一步增加灵活性。
Cursor 发布了其最初“Problems”文章的后续,列出了它认为对 AI 编程下一阶段最关键的研究问题。该公司已将 Copilot++ 扩展至预测下一个光标位置,并将其与下一次编辑预测相结合,使模型能够“玩转”一系列低熵变更——一个演示需要按 11 次 Tab 键,而其他每个键按 3 次,Cursor 称之为 Cursor Flow。其他方向包括跨代码库的动作预测、通过更多推理时计算实现完美编辑、幻觉伪代码、多文件编辑、最优上下文、多跳上下文以及缺陷检测与调试。
Cursor 发布了一份正在解决的问题清单,包括训练一个自定义的快速重排序器,将来自所有来源的 50 万个 token 过滤到每次请求最相关的 8k。清单还涵盖面向编辑的 copilot、面向大型代码库的受限流内代理、缺陷查找以及更大规模的编辑。截至 2023 年 10 月 12 日,Cursor 已索引 14 亿个向量和 15 万个代码库。
Cursor 研究员 Arvid Lunnemark 认为,prompt 应被称为“prompt design”,并与网页设计相类比,因为两者都追求与动态输入进行清晰沟通,并且都必须让内容适配不同的“尺寸”——网页适配屏幕尺寸,prompt 适配上下文窗口。他发布了 Priompt v0.1,这是一个类似 React、基于 JSX 的 prompt 设计库,已在 Cursor 内部使用,并附带一个预览站点,可用真实请求数据渲染 prompt。