LiveKit 语音代理中“推理比实时更慢”意味着什么

LiveKit 解释称，其语音代理中的“推理比实时更慢”警告指的是本地 VAD 模型，而非通过 LiveKit Inference 使用的 STT、TTS 或 LLM 模型。每个 32ms 的音频窗口必须在 32ms 内处理完毕，所报告的延迟显示 VAD 已落后实时音频多少。事件循环阻塞和 CPU 饱和是主要原因，解决办法是排除同步代码，而不是增加线程。