用 Modal GPU 強化你的 LiveKit Agent

Modal 說明如何在其無伺服器 GPU 上，以開放權重或自訂模型執行 LiveKit Agents，並使用 BitHuman 的開放權重 Expression Video Avatar，搭配 Qwen3-TTS 配音來複製 Charles Frye。此設定透過 Modal Server 對外開放 avatar 容器的 /launch 端點，並使用 Sticky Sessions 讓 WebSocket 用戶端維持在同一個容器上，同時以 GPU 快照隱藏冷啟動。