Modal Blog· Ben Shababo·· 29 天前AI 评分34
用 Modal GPU 增强你的 LiveKit Agent
Augment Your LiveKit Agent with Modal GPUs
AI 导读
Modal 介绍了如何在其无服务器 GPU 上使用开放权重或自定义模型运行 LiveKit Agents,并以 BitHuman 的开放权重 Expression Video Avatar 为例,由 Qwen3-TTS 配音来克隆 Charles Frye。该方案通过 Modal Server 暴露 avatar 容器的 /launch 端点,并使用 Sticky Sessions 让 WebSocket 客户端保持在同一容器上,同时用 GPU 快照隐藏冷启动。
来源:Modal Blog · modal.com