LiveKit 語音代理中「推論比即時更慢」是什麼意思

LiveKit 說明，其語音代理中的「推論比即時更慢」警告指的是本機 VAD 模型，而非透過 LiveKit Inference 使用的 STT、TTS 或 LLM 模型。每個 32ms 的音訊視窗必須在 32ms 內處理完畢，而回報的延遲顯示 VAD 落後即時音訊的程度。事件迴圈受阻與 CPU 飽和是主因，解決方法是排除同步程式碼，而非增加執行緒。