Vapi 将 GoHighLevel 日历集成到其语音代理中
Vapi 已推出与 GoHighLevel 日历的直接集成,将其语音代理嵌入 GHL 的日程安排流程。代理现在可以查看已连接的 GHL 日历上的实时可用性,根据来电者信息创建联系人,并预约与正确联系人关联的日程。设置方式与在 Vapi 中连接 Google 日历类似,包含四个新工具:Create Event、Check Availability、Create Contact 和 Contact Get。
Vapi 已推出与 GoHighLevel 日历的直接集成,将其语音代理嵌入 GHL 的日程安排流程。代理现在可以查看已连接的 GHL 日历上的实时可用性,根据来电者信息创建联系人,并预约与正确联系人关联的日程。设置方式与在 Vapi 中连接 Google 日历类似,包含四个新工具:Create Event、Check Availability、Create Contact 和 Contact Get。
Lemon Slice 构建了 Lemon Slice Live,这是一款用于与 AI 角色进行实时视频对话的产品,使用 Modal 和 Daily 的低延迟原语,实现端到端视频响应延迟 3-6 秒。该流水线在独立的 Modal 容器上运行 Pipecat 服务器和一个 10 亿参数的视频模型,这些容器通过 Modal 的 Tunnel 通信,并通过区域选择实现同地部署,由 Deepgram、Grok 和 ElevenLabs 负责语音转文本、LLM 响应和文本转语音。此前,两个 Python Modal Functions 让 Lemon Slice 扩展到每小时 10,000 次请求,而无需管理 ECS 集群、作业队列或负载均衡器。
sync. 正利用 Modal 每天对超过 100 小时的视频进行唇形同步,将长视频拆分为场景,在 n 个 T4 GPU 容器上运行人脸检测和翻译,再将每个场景交给其基于 A100 的专有 LipSync GenAI 模型处理。该团队每天部署多达 95 次,并在一年内将 10 个主要模型变体投入生产,此前他们从 Google Colab 原型和 AWS Lambda 迁移而来。
Vapi 发布了 Vapi MCP Server,让 AI 智能体工具通过函数调用触发实时语音流程和外呼。它支持 Claude Desktop 集成以及通过 SSE 进行远程访问,因此用户可以用自然语言让 Claude 拨打电话或安排跟进。该服务器可通过 @vapi-ai/mcp-server 获取,支持本地运行或通过托管的 SSE 端点访问。
Modal 现在允许每个 Function 最多排队 100 万个输入(此前为 2k),并提高了 .spawn() 速率限制,FunctionCall 结果保留 7 天。此次更新还增加了在容器内通过 app.run() 创建临时应用、CLI 和仪表板中应用的 Git 提交信息,以及一个新的 TensorRT-LLM 示例,以低于 400 毫秒的延迟提供 LLM 服务。
GSD at Work 的顾问 Christian Ulstrup 使用 Vapi 语音 AI 代理,为其 AI Action Sessions 工作坊打造了一套异步语音接待系统,取代了原先预约的探索电话。参与者可在方便时拨打专用的 Vapi 电话线,转录文本和 AI 生成的摘要通过 Zapier 流入 Slack,并记录在 HubSpot 中。在最近一位客户的项目中,来自全球的 20 位参与者贡献了超过 3 小时的探索内容,该场次获得了 5 分(满分 5 分)的评价。
AI呼叫中心正在重塑客户支持:常规来电可在数秒内解决,而无需长时间等待,例如一次故障查询在30秒内得到处理。Gartner估计,到2027年约25%的客户服务交互将涉及AI,高于2022年的2%;到2027-2028年,该市场规模将达150-200亿美元,复合年增长率约为25-30%。文章涵盖传统呼叫中心的痛点,如响应速度慢、高峰时段话务激增和营业时间有限,以及AI自动化如何应对这些问题。
Modal 宣布 Sandboxes 正式可用,这是其用于在与其它 Modal 资源隔离的环境中安全运行来自 LLM、用户或第三方来源的不可信代码的基础组件。Sandboxes 提供简单的 exec API、通过 Image API 实现运行时可配置的环境,以及用于持久化的文件系统快照。Modal 还将支持上游贡献至 SWE-bench,其中 --modal 标志可让 Verified 基准的 500 个任务在大约 7 分钟内运行完成,并列举 Quora 的 Poe、Codegen 和 Relevance AI 作为客户。
Modal举办了一场内部黑客松,30名员工组成13支队伍,构建的项目均使用了Modal。Browserman是一个多模态AI智能体,基于Llama-3.2-90B-Vision-Instruct-FP8、vLLM和Playwright构建,通过视觉方式浏览网页以完成任务。Glodal原型化了一个分布式控制平面,将请求延迟从268ms降至3ms,Modal目前正将其构建到平台中。
Cursor 宣布,快速且具备上下文感知能力的 AI 编程助手 Supermaven 将加入该公司,Supermaven 的创建者 Jacob Jackson 及其团队也将一同加入。Cursor 表示计划推出一个新的 Tab 模型版本,该版本速度快、具备上下文感知能力,尤其擅长处理长链条的大型编辑;同时,尽管 Cursor 将成为团队的核心重心,Supermaven 插件仍将继续维护。
Modal 推出了静态 IP 代理,可通过工作区专属 IP 路由出站流量,此外还提供原生 Slack 集成用于实时应用告警,以及一个实时用量仪表盘,可跟踪所有工作区应用的资源使用情况。此次更新还为函数增加了 GPU 回退,扩大了函数可调度到的资源池,并包含客户端变更,例如 `modal shell` 容器 ID 以及针对参数化函数的内存快照。
Modal 推出了应用回滚功能,用户可从仪表盘或 CLI 将已部署的应用恢复到之前的版本;同时推出 @batched 装饰器,可将请求累积成动态大小的批次,以延迟换取吞吐量和 GPU 利用率。Sandbox 对象现在可以将 TCP 端口转发到互联网并执行额外进程,日志可导出到 OpenTelemetry 提供商。CPU 核心和高端 GPU 的价格也有所下降。
Cursor 完成了 6000 万美元 A 轮融资,投资方包括 Andreessen Horowitz、Thrive Capital、OpenAI、Jeff Dean、Noam Brown,以及 Stripe、GitHub、Ramp、Perplexity 和 OpenAI 的创始人。这款 AI 编程工具称其用户已增长至 4 万多名,涵盖初创公司、研究机构与大型企业,并介绍了其用于下一次编辑预测、跨数十亿文件检索以及推测性推理代码重写的内部系统。
推荐理由:Cursor 的 6000 万美元 A 轮融资公告还披露其用户群已增长至 4 万以上,并点名了支持其 AI 编程工具的投资者。
Basis 组织了 Prompt Olympics,这是一场竞技编程风格的提示工程竞赛,奖金为 5,000 美元,并在 Modal 的基础设施上运行。在其中一项挑战中,参赛者编写提示,引导部署在 Modal 上的 LLaMA 3 70B 生成代码,这些代码必须在 Modal Sandboxes 内通过测试。决赛环节要求选手通过提示模型来控制 Crafter 游戏智能体;Basis 发现,即便是 LLaMA 3 70B 这样能力较强的开源模型也难以有效提示,于是该组件改用了一家专有模型 API。
Modal 现在可以直接从 Airflow DAG 触发,让团队无需设置 Celery 或 Kubernetes 执行器即可运行 GPU 支持的 AI/ML 任务。该指南涵盖在 Airflow 环境中安装 Modal、设置 MODAL_TOKEN_ID 和 MODAL_TOKEN_SECRET,以及两种方法:通过查找调用已部署的 Modal Functions,或构建在 Modal Sandboxes 中运行 Python 的自定义 operator。一个 Modal Airflow provider 包正在开发中。
Cursor 发布了其最初“Problems”文章的后续,列出了它认为对 AI 编程下一阶段最关键的研究问题。该公司已将 Copilot++ 扩展至预测下一个光标位置,并将其与下一次编辑预测相结合,使模型能够“玩转”一系列低熵变更——一个演示需要按 11 次 Tab 键,而其他每个键按 3 次,Cursor 称之为 Cursor Flow。其他方向包括跨代码库的动作预测、通过更多推理时计算实现完美编辑、幻觉伪代码、多文件编辑、最优上下文、多跳上下文以及缺陷检测与调试。
Hunch 是一个空间画布,集成了 OpenAI GPT-4o、Anthropic Claude 3 Opus 和 Stable Diffusion 3 等模型,它使用 Modal Sandboxes 在隔离的临时容器中安全执行 AI 生成的代码。该集成只需几行 Python 代码,支持 pip 安装、挂载存储卷和自动扩缩容。Hunch 表示,这一设置让非程序员也能构建获取 API 数据或将结果发送到 Slack webhook 的工作流。
Cursor 发布了一份正在解决的问题清单,包括训练一个自定义的快速重排序器,将来自所有来源的 50 万个 token 过滤到每次请求最相关的 8k。清单还涵盖面向编辑的 copilot、面向大型代码库的受限流内代理、缺陷查找以及更大规模的编辑。截至 2023 年 10 月 12 日,Cursor 已索引 14 亿个向量和 15 万个代码库。
Cursor 研究员 Arvid Lunnemark 认为,prompt 应被称为“prompt design”,并与网页设计相类比,因为两者都追求与动态输入进行清晰沟通,并且都必须让内容适配不同的“尺寸”——网页适配屏幕尺寸,prompt 适配上下文窗口。他发布了 Priompt v0.1,这是一个类似 React、基于 JSX 的 prompt 设计库,已在 Cursor 内部使用,并附带一个预览站点,可用真实请求数据渲染 prompt。