跳到正文
10月20日周二
  1. GitHub Blog · AI & ML26

    如何在 VS Code 中继续 GitHub Copilot 应用会话

    GitHub Copilot 应用会话现在可以直接在 VS Code 中打开,并延续对话、代码更改和工作树,让开发者无需重新开始即可查看差异、手动编辑并在本地测试。本教程逐步演示如何打开会话、逐行查看智能体的更改、在 Copilot 侧边栏中继续同一对话,以及将会话的拉取请求推送更新。

  2. Google Developers Blog60

    Google 将 TorchTitan 接入 TorchTPU,并发布 TPU 模型优化手册

    Google 发布了 Meta TorchTitan 的 TPU 分支版本,该版本通过 TorchTPU 原生的 torch.device("tpu") 后端在 Cloud TPU 上运行 PyTorch 训练,配备 TPU 原生内核和分步优化手册。在 TPU v7x(Ironwood)上,Llama 3 405B 在 128 至 1,024 芯片范围内保持约 57% MFU,Qwen3 235B 在单个 1,024 芯片切片上达到 32.42% MFU,FLUX.1 在 1,024 芯片上以 93% 弱扩展效率达到 19.4% MFU。该分支位于 https://github.com/google-pytorch/torchtitan/,此外还有 Transformers 建模后端和 agent 接入技能,可将同一训练器扩展到其他检查点。

    推荐理由:Google 与 Meta 合作把 TorchTitan 移植到 TPU,并给出从 FLUX.1 到 Qwen3 235B 的逐级调优路径与 MFU 数字,可作为 PyTorch 团队评估 TPU 训练可行性的参考。

10月19日周一
  1. Modal Blog38

    Legora 如何在 Modal Sandboxes 上并行运行 2,000 个 agent 评估

    Legora 现在将每一项法律 agent 评估都放在独立的 Modal Sandbox 中运行,启动其完整应用并固定到特定 commit,使每次运行都反映确切的产品版本。一次典型实验包含 100 个用例、4 个 harness 变体、每个 5 次试验——即 2,000 次并行运行——并由 Modal Volumes 对文档、数据库和权限状态进行快照。Legora 还从 gVisor 迁移到 Modal VM Sandboxes,移除了其 Docker 网络和 FUSE 变通方案,并通过更智能的压缩和自定义工具搜索将 agent 成本降低了 30%。

10月16日周五
  1. Modal Blog36

    Modal 解释其为 VM 沙箱构建快速文件系统栈的过程

    Modal 详细介绍了它如何演进其文件系统栈以支撑 VM 沙箱,将客户机请求经由 virtio-fs 和 virtiofsd 路由到其 ImageFS 懒加载文件系统上。第一个版本启动很快但运行缓慢:递归 chown 从四秒变成一分多钟,pnpm 和 bun 安装大约慢了三倍。微基准测试显示,chown 在 virtio-fs 上耗时 9.87 秒,而在 gVisor 上为 2.31 秒,在 ImageFS 上为 1.58 秒。

  2. OpenClaw Blog22

    PJ 如何帮助小企业采用并拥有 OpenClaw

    PJ 是佛罗里达州奥卡拉的一名工程师出身的害虫防治公司老板,现在为小企业提供咨询——包括屋顶、泳池和汽车承包商——帮他们搭建 OpenClaw 并教他们自己运行。他的客户想要一个完全属于自己的工具,而不是把公司数据喂给租来的软件,其中一位客户、66 岁的行政人员 Donna 每天都在使用她的 OpenClaw。

  3. LiveKit Blog38

    如何构建生产就绪的 AI 语音智能体

    LiveKit 的指南汇集了解决方案架构师和前置部署工程师的经验,讲述如何将 AI 语音智能体从演示推向生产,围绕三个问题展开:智能体是否足够智能和自然、其性能是否可观测、以及是否能可靠且经济高效地扩展。指南建议单独测量第一轮交互,因为一家公司发现大约 3/4 的通话在问候环节就结束了;并指出客户在 LiveKit Inference 上从 GPT-4.1 迁移到 Gemma 4 31B,在 p50 上节省了 300–500ms。

10月15日周四
  1. Anthropic · Claude.dev62

    Claude Code 团队如何进行代码审查

    Claude Code 团队介绍了其分层代码审查流程:大部分阅读工作由机器完成,人的注意力则保留给基于风险的审批。6 月至 9 月,Claude Code 代码库中合并的拉取请求数量增长了一倍多,而不得不回滚的比例下降了 40% 以上。该流程在 PR 之前叠加验证、必需的 CI、Claude 审查、安全审查、按风险分级的人工审批,以及带标志和快速回滚的合并队列;团队还将过去的事故转化为审查者的每日评估集。

    推荐理由:Anthropic 的 Claude Code 团队详细说明了如何将大部分代码阅读转移到自动化层,同时合并的 PR 翻倍、回滚下降超过 40%,为大量使用智能体的团队提供了一个可迁移的审查模型。

  2. Modal Blog34

    用 Modal GPU 增强你的 LiveKit Agent

    Modal 介绍了如何在其无服务器 GPU 上使用开放权重或自定义模型运行 LiveKit Agents,并以 BitHuman 的开放权重 Expression Video Avatar 为例,由 Qwen3-TTS 配音来克隆 Charles Frye。该方案通过 Modal Server 暴露 avatar 容器的 /launch 端点,并使用 Sticky Sessions 让 WebSocket 客户端保持在同一容器上,同时用 GPU 快照隐藏冷启动。

10月14日周三
  1. GitHub Blog · AI & ML38

    GitHub 的密钥检测模型:以更少噪声发现更多密钥

    GitHub 训练了一个经过微调的 ModernBERT 分类器,用以替代其此前基于 LLM 的通用密钥检测流水线,使按所有者加权的告警精确率提升了 11.5%,并将推送后扫描执行时间中位数缩短了 86%。该两阶段流水线先通过正则表达式生成候选,再进行上下文感知分类,与远程 LLM 调用相比还将服务成本降低了 98% 以上。效率的提升使得将通用密钥检测扩展到推送保护成为可能,从而在变更被推送之前就返回结果。

10月13日周二
  1. LiveKit Blog18

    排查 LiveKit Egress 问题:常见错误与修复方法

    LiveKit 发布了 Egress 的排查指南,涵盖常见错误,例如模板从未调用 START_RECORDING 导致的 412“未收到启动信号”、30 秒内未找到参与者或轨道导致的 404,以及 S3/GCP/Azure 凭证无效导致的 400 上传失败。指南还涉及布局、webhook 和自托管 Egress 问题,并指出该指导同时适用于当前的 StartEgress API 和已弃用的特定源 API。

  2. GitHub Blog · AI & ML36

    GitHub Copilot 入门:让 Copilot 了解你的代码库的四种方法

    GitHub 的 Copilot for Beginners 系列介绍了四种为 Copilot 提供项目上下文的方法:在 `.github/copilot-instructions.md` 中编写自定义指令,并在 `.github/instructions` 中添加路径专属文件;在 `.github/skills` 中定义 agent skills;在 `.github/agents` 中配置自定义 agent;以及通过 MCP 服务器将 Copilot 连接到 Playwright 等外部工具。文章逐一讲解了每种机制及其组合方式,并引导读者前往社区 Awesome Copilot 合集获取现成示例。

10月12日周一
10月9日周五
  1. LiveKit Blog34

    Serve AI 利用 LiveKit Agent Simulations 在单一提示词上重建其语音代理

    Serve AI 在 LiveKit 上为一位价值 1.5 亿美元的害虫防治客户重建了其电话代理,将 224 个节点的 Retell 流程图压缩为单一提示词,并用 Agent Simulations 进行了验证。约 100 通真实生产通话被转换为模拟场景,在切换前经过 10–15 次迭代达到 98% 的通过率,中位轮次延迟为 1.3 秒,低于 1.5 秒的上限。首次迁移耗时一周,无回滚,遏制率提升了 15%,Serve 估计这每年为客户额外节省 32 万美元。

10月8日周四
  1. Anthropic · Claude.dev62

    Anthropic 详解如何用 Claude Managed Agents 构建定时智能体自动化

    Anthropic 发布了一份 Claude Managed Agents(测试版)的参考实现,该实现按 cron 计划读取 Slack 频道和 GitHub 拉取请求,通过按来源分别记录的书签追踪自上次运行以来的变更,并向 Slack 发布简报。该详解涵盖由 vault 保管的凭据、只读访问和单次运行支出上限,以及将某个来源读取失败报告为不可读而非视为平静无事的规则,还有在更新书签和账本之前先确认 Slack 发布成功的规则。一个带有 claude-api 技能的 Claude Code 命令可根据文章中的指导配置该智能体。

    推荐理由:Anthropic 分享了一个定时 Claude Managed Agents 的参考实现,该实现读取 Slack 和 GitHub,并针对书签、读取失败和发布确认给出了具体规则。

10月6日周二
  1. Anthropic · Claude.dev72

    Claude Code 云会话:在独立虚拟机上运行任务的实战指南

    Addy Osmani 详细介绍了 Claude Code 云会话:每个任务都在一个全新的、由 Anthropic 管理的虚拟机上运行,仓库被克隆到各自的分支上;云会话包含在 Pro、Max、Team 和 Enterprise 套餐中,不额外收取计算费用。在一个示例 Node 仓库上进行的四会话测试中,三个会话在彼此相隔 16 秒内启动,并在第一个会话开始后 87 秒完成;那个不稳定测试会话将测试套件运行了 40 次,零失败。该指南涵盖设置脚本、网络级别、GitHub 连接路径以及适合云会话的七种工作流,同时指出对于需要本地数据、VPN 服务、GPU 或零数据保留的任务,本地会话仍然是更合适的选择。

    推荐理由:一份关于 Claude Code 云会话的实战指南,展示了按任务分配的虚拟机如何实现并行工作,以及本地会话在哪些场景下仍然更合适。

10月2日周五
  1. GitHub Blog · AI & ML25

    GitHub 博客:AI 重塑工作方式,开发者需要三项技能

    GitHub 博客指出,随着 AI 改变开发者的工作方式,开发者应加强三项技能:引导 AI 智能体而非仅仅使用它们;批判性地审查 AI 输出,而不是轻信第一个答案;利用 AI 节省的时间去解决更广泛的问题。文中提到 GitHub Copilot 内置的 Rubber Duck 智能体,它会在开发者继续推进之前,用第二个模型对计划、代码和测试进行评审。

10月1日周四
  1. Anthropic · Claude.dev60

    Claude Code mods 入门:构建上下文窗口预测

    Claude Code mods 是小型 JavaScript 或 TypeScript 文件,作为插件中附带的钩子在会话内运行,可以观察事件、重写行为,或在终端或桌面应用中绘制自定义 UI。本指南构建了 Token Weather,一个约 80 行的 mod,在每轮之后读取 $.session.usage(),并在提示符上方绘制一条天气风格的上下文窗口带;随后介绍了 Blast Radius(用于拦截有风险的 Bash 命令)和 Replay Theater(用于逐步查看某一轮的编辑)。Mods 需要 Claude Code 2.1.287 或更高版本,且默认开启;三个示例的完整代码位于 anthropics/claude-code-playground。

    推荐理由:一篇动手实践指南,介绍 Claude Code mods,并用约 80 行代码构建一个可用的上下文窗口计量器,展示钩子、状态和自定义 UI 如何协同工作。

9月28日周一
  1. Anthropic · Claude.dev72

    Anthropic 在 Claude Code 的 claude-api skill 中新增 build-eval 和 hillclimb 命令

    Anthropic 在 Claude Code 内的 claude-api skill 中新增了两个命令:/claude-api build-eval 会在你的代码库中构建评估集,/claude-api hillclimb 则基于该评估对应用进行迭代,并使用留出集来防止过拟合。

    推荐理由:Anthropic 为其 claude-api skill 新增了 build-eval 和 hillclimb 命令,展示了 Claude Code 如何设计评估并据此迭代,同时防止过拟合。

9月23日周三
  1. Vapi Blog38

    Vapi 测试 Jev 作为语音 AI 的实时护栏

    Vapi 使用 TypeSafe AI 的早期访问“System One”模型 Jev 进行了早期实验,将其作为护栏,在语音助手的回复被说出之前,对其是否违反开发者定义的规则进行评分。在一项早期测试中,Jev 至少捕获了四分之三的违规回复,不过 Vapi 表示这并非 100% 的合规保证,而只是在提示护栏之上的一道额外检查。

  2. Modal Blog58

    Modal 如何为万亿参数编码智能体提供数万亿 token 的服务

    Modal 解释了它如何为编码智能体优化 Kimi K2.6 推理,实现每个副本单用户 2.8 倍、跨用户 5.6 倍的性能提升,并以每天数千亿 token 的规模运行服务。这项工作结合了在编码轨迹上微调的定制 DFlash 推测解码、FP8 KV 缓存和 NVFP4 共享专家量化、HiCache CPU 层缓存,以及 KV 缓存感知的基于负载的路由。Modal 将其 SGLang 补丁上游化,并发布了 Modal Auto Endpoints 背后的配置。

9月21日周一
  1. LiveKit Blog38

    比较用于实时语音和视频 AI 智能体的开源框架:LiveKit Agents 与 Pipecat

    本指南比较了 LiveKit Agents 和 Pipecat——它称这是构建生产级语音和视频 AI 智能体最重要的两个开源框架——从架构、采用情况、开发者体验和生产就绪度等方面进行对比。LiveKit Agents 运行在 LiveKit 的开源 WebRTC 和 SIP 基础设施上,并为你接好流水线;而 Pipecat 不预设传输层,由开发者逐阶段组装流水线。文中还介绍了 TEN Framework、Dograh、Vision Agents 和 Vocode 各自适合的位置。

9月9日周三
  1. LiveKit Blog22

    LiveKit 语音代理中“推理比实时更慢”意味着什么

    LiveKit 解释称,其语音代理中的“推理比实时更慢”警告指的是本地 VAD 模型,而非通过 LiveKit Inference 使用的 STT、TTS 或 LLM 模型。每个 32ms 的音频窗口必须在 32ms 内处理完毕,所报告的延迟显示 VAD 已落后实时音频多少。事件循环阻塞和 CPU 饱和是主要原因,解决办法是排除同步代码,而不是增加线程。

9月3日周四
  1. Vapi Blog38

    AI语音代理如何区分真人与语音信箱

    语音信箱检测(也称应答机检测)会在约三到五秒内判断外呼电话是接通了真人还是录音,其依据是时序和行为信号,而非语音音频。一篇2026年的arXiv预印本发现,仅凭时序特征就能达到基于提示音和关键词的方法的效果,同时避免后者带来的额外延迟。Vapi允许用户选择检测提供商、调整时序,并在真人接听时切回对话。

9月2日周三
8月24日周一
  1. LiveKit Blog36

    调试语音智能体中的短语音

    LiveKit 的博客文章分析了语音智能体为何在收到“yes”或“ok”这类简短回复后常常陷入沉默,并将其归因于轮次检测失败。最常见的原因是 STT 提供商漏掉了短语音,从未输出 final_transcript,从而完全阻断了语音结束检测。文章还讨论了过于激进或过于宽松的端点检测延迟,以及将短音频当作噪声丢弃的噪声消除配置错误。

8月20日周四
  1. Vapi Blog22

    面向客户体验的最佳AI语音代理:如何评估它们

    Vapi发布了一套七项标准的评估准则,用于评估客户体验中的AI语音代理,涵盖解决率、实时语音质量、执行操作、升级转接、模型灵活性、生命周期信任和平台控制。该指南认为,遏制率和转移率会高估成功率,因为被遏制的来电者可能只是挂断了电话,并引用ContactBabel的数据显示,复杂交互中对电话的偏好从2018年的28%上升到2024年的47%。Vapi将自己定位为与模型无关的平台层,具有可配置的端点检测、中断处理和背景降噪功能。

8月18日周二
  1. LiveKit Blog40

    LiveKit:超越1:1连接的多参与者机器人技术

    LiveKit正在将其SFU架构扩展到单点对点链路之外,使机器人部署能够运行多参与者会话,其中Room让每个摄像头、模型、操作员或服务作为自己的参与者加入。LiveKit描述了三种架构:人在回路的数据记录,机器人、策略、操作员和记录器在同一会话中;VLM引导的技能编排,视觉语言模型以约1 Hz选择技能,而独立的策略参与者以数十赫兹控制机器人;以及策略升级,30 Hz或更高的奖励模型标记卡住或不安全状态,机器人撤销专家策略的权限。

8月14日周五
  1. Vapi Blog22

    如何为企业开发选择对话式AI平台

    一份供应商中立指南列出了为企业语音代理选择对话式AI平台的五项标准:开发者控制权、模型选择与回退、测试与可观测性、完整的代理生命周期,以及大规模合规性。该指南引用了Zapier对542名美国C级高管的调查,其中81%的人担心依赖特定AI供应商,只有6%的人能在不造成中断的情况下弃用其主要供应商。指南认为,延迟和编排比功能列表更重要,并指出AssemblyAI的发现:超过500–700毫秒的延迟会让人感觉不自然。

8月4日周二
  1. Vapi Blog22

    什么造就出色的对话式AI体验:Vapi谈语音设计

    Vapi认为,语音智能体要在五个实时维度上接受评判:延迟、轮流对话、打断处理、韵律,以及一条有韧性的流水线。它引用研究指出,人类对话的轮次间隔接近200毫秒,并指出超过约500–700毫秒的延迟会让人感到不自然,而朴素的串行流水线可能耗时约1.9秒,优化后的流水线则为600–900毫秒。Vapi将其与模型无关的流水线定位为可通过模拟通话进行调优和测试。

7月27日周一
  1. Vapi Blog22

    Anthropic 与 Vapi 网络研讨会问答:Claude Haiku 叫车语音代理是如何构建的

    Vapi 发布了其与 Anthropic 举办的语音 AI 网络研讨会的问答内容,详细介绍了基于 Vapi、使用 Anthropic 的 Claude Haiku 和 Layla v2 语音构建的实时叫车演示代理。该代理使用了五个工具——估价、预订、查询状态、取消和结束通话——并配合智能端点检测和保守的中断阈值,实现了亚秒级轮次。过去 30 天内,在 Vapi 上运行 Claude 的代理处理了近 500 万通电话,覆盖 50 多种语言。

7月24日周五
  1. Vapi Blog22

    如何用AI语音代理减少客户等待时间

    AI语音代理通过两种方式缩短客户等待时间:一是通过自助服务分流、智能路由、坐席辅助和需求预测,将工作从队列中移除;二是即时接听,无需等待。SQM Group发现,客户平均在2分36秒时放弃通话,而ContactBabel指出,2024年英国的平均放弃率为8.4%。Vapi表示,首个语音代理可在几分钟内从其仪表板搭建完成,然后根据ASA、放弃率和首次呼叫解决率进行评估。

7月6日周一
  1. Modal Blog38

    如何为无服务器 GPU 定价:Modal 的交互式成本模型

    Modal 发布了一个交互式工具,用于估算无服务器与预留 GPU 的成本,默认采用 B200 GPU 在 Modal 上以无服务器方式运行、以及通过三年期超大规模云厂商预留的当前费率。该模型显示,当应用的峰值与平均比超过预留折扣率时,无服务器 GPU 的总体成本更低,并且 Modal 提到观察到的折扣为 2-5 倍,而峰值与平均比为 5-10 倍。

6月24日周三
  1. Vapi Blog15

    Vapi 回应其 SVG 线索资格筛选网络研讨会的热门问题

    Vapi 发布了与 Spring Venture Group 合办网络研讨会中提问最多的七个问题的解答,会上 Homer Kay 介绍了 SVG 如何使用 Vapi 语音代理在将呼叫者转接给持证代理之前对 Medicare 线索进行资格筛选。解答涵盖外呼合规、API 优先集成、独立替换 STT、LLM 和 TTS 组件、人工转接,以及符合 HIPAA 要求且采用零数据保留的配置。

6月17日周三
  1. Vapi Blog30

    为耳朵而建:为语音AI设计对话

    语音AI的成功始于用例选择:以链接、代码或数字结尾的任务适合聊天,而紧急、难以打字或情绪化的问题适合语音。聊天脚本必须为耳朵重写——将长段落拆分为单一想法的轮次,大声复述收集到的细节如日期,并将语音选项限制为两到三个。一家人力资源公司通过在每个时段收集时进行确认,将下游安置错误减少了30%,另一个团队通过将开放式问题转为选择题,将平均通话时长缩短了40秒。

  2. Vapi Blog40

    Vapi 如何用代码引导生成 15 个主页语音代理

    Vapi 通过从单个 ROUGH_DRAFT.md 文件生成主页上的 15 个语音代理(3 个用例、5 种语言),而非在仪表盘中逐个手动编辑。这套四阶段框架(规划、起草、引导、加固)搭建了一个 TypeScript 项目,使用温度为 0.5 的 OpenAI gpt-4.1、ElevenLabs 和 Deepgram/Soniox 语音栈,以及一个幂等的 upsert 循环,将 assistant ID 存入 .env.local。该仓库已公开:克隆它,添加 VAPI_PRIVATE_KEY,然后运行 bun run bootstrap。

6月11日周四
  1. Modal Blog34

    Modal 让 FlashAttention-4 在 LLM 推理中更快

    Modal 为 FlashAttention-4 内核贡献了优化,以加速以解码为主的 LLM 推理工作负载,这类负载的瓶颈在于内存带宽。改动包括将“split KV”并行技术移植到 FA4,并用 cp.async 替换 TMA cp.async.bulk 加载以应对不规则内存访问。一个 FP8 输入 PR(2026 年 4 月 17 日合并)相比 bf16 基线带来最高 1.16 倍的吞吐量,并支持更小的 KV 缓存。

6月1日周一
5月12日周二
  1. Modal Blog58

    Modal 如何实现真正的无服务器 GPU

    Modal 发布了一篇工程文章,讲述其如何将 AI 推理副本的启动时间从约 2,000 秒缩短至约 50 秒,所用四个组件为:空闲健康 GPU 缓冲池、名为 ImageFS 的惰性内容寻址文件系统、基于 gVisor runsc 的宿主机侧检查点/恢复,以及基于 Nvidia 驱动支持的 CUDA 检查点/恢复。在超过一万次冷启动中,对于约 1 GiB 的 bf16 Qwen 3 0.6B 模型,vLLM 平均启动延迟从 95,679 毫秒降至 13,797 毫秒,SGLang 从 83,713 毫秒降至 17,486 毫秒。文章也指出了局限,包括快照仅支持单 GPU,以及宿主机环境敏感性要求每次部署需准备多个快照。

5月5日周二
  1. OpenAI Developers Blog50

    OpenAI 语音智能体实时提示指南

    OpenAI 发布了面向语音智能体的实时提示指南,涵盖 Realtime 2 推理、前言、工具以及精确实体捕获。该指南说明了如何构建提示词,使实时语音智能体在处理推理和工具使用的同时精确捕获实体。