10 款最佳開源醫療語音轉文字工具
一份指南評比了 10 款用於臨床的開源語音轉文字模型,評估面向包括即時準確度、臨床術語處理、運作可靠性與資料安全。名單涵蓋 Vosk、DeepSpeech、SpeechBrain、OpenAI Whisper 與 ESPnet,並對應至資源匱乏的鄉村診所、多語醫院及術語密集的研究中心等場景。所有模型皆可整合至 Vapi 的模型無關語音 AI 平台。
一份指南評比了 10 款用於臨床的開源語音轉文字模型,評估面向包括即時準確度、臨床術語處理、運作可靠性與資料安全。名單涵蓋 Vosk、DeepSpeech、SpeechBrain、OpenAI Whisper 與 ESPnet,並對應至資源匱乏的鄉村診所、多語醫院及術語密集的研究中心等場景。所有模型皆可整合至 Vapi 的模型無關語音 AI 平台。
Modal 升級其無伺服器 Dict 鍵值儲存:新建的 Dict 現在擁有無限儲存空間,而非先前的 10GiB 上限,項目到期時間改為自最後一次寫入或讀取起 7 天。.put() 新增 skip_if_exists 旗標,可實現分散式鎖定與「恰好一次」語義,且 Dict 現在提供資料持久性。這些變更僅適用於新建的 Dict。
Modal 發布了一輪產品更新,重點是對其 beta 版記憶體快照功能的重大升級,聲稱可將 Stable Diffusion 等模型的冷啟動時間縮短一半。該平台還新增了對 OpenID Connect 的支援,用於短效身分權杖;新增 eStargz 映像壓縮,以加快從 ECR 和 Docker Hub 等登錄檔建置的速度;並正在擴展非同步任務佇列,將輸入上限從 2k 提升至 100 萬。
Modal 與 AWS 簽署策略合作協議,協助企業在其無伺服器平台上更快速地開發與部署 AI 產品,該平台專為 GPU 加速工作負載設計,可在最短一秒內啟動支援 GPU 的容器。作為協議的一部分,Modal 將上架 AWS Marketplace,並投資於 AWS PrivateLink 等整合功能,以服務有特定安全與隱私需求的客戶。
Modal 打造了 modal-http,這是一套 HTTP 與 WebSocket 堆疊,讓其無伺服器函式能夠接收 Web 請求,完整的 WebSocket 支援近期已完成。有別於 AWS Lambda 的 15 分鐘與 50 MB 限制,Modal 容器最多可使用 64 顆 CPU、336 GB 記憶體與 8 張 Nvidia H100 GPU,因此團隊將 HTTP 轉譯為函式呼叫,而非以傳統反向代理前端容器。
Modal 現已支援 WebSocket 連線,讓其平台上的函式能在用戶端與伺服器之間維持持久、雙向的連結,而非每次請求各自建立 HTTP 連線。每個 WebSocket 連線計為單一輸入,因此不受 CPU/GPU 限制的函式應允許並行輸入,否則 Modal 會為每個連線啟動新的容器。Modal 會自動擴展 WebSocket 處理常式,鎖定即時串流、長時間任務的進度更新,以及託管 ComfyUI、Streamlit 和 Gradio 等框架。