跳至正文
Google Developers Blog·· 18 天前AI 評分58

Google A2UI 新增可替換的推論格式,Express 最高可將延遲降低 3 倍

Fast, reliable A2UI, with swappable inference formats

AI 導讀

Google 為 A2UI 發布了可替換的推論格式,A2UI 是其針對生成式 UI 最佳化的代理協定,讓代理生成一種中間格式,再由 SDK 編譯器轉換為經過驗證的 A2UI 訊息。新的預設格式 A2UI Express 在相同 UI 下使用的 token 比 Direct JSON 少最多 3 倍,並將延遲降低最多 3 倍,且已隨 Python(a2ui-agent-sdk 0.9.0)、TypeScript(@a2ui/agent)與 Dart SDK 一同發布。Google 也展示了決策模型,例如 TypeSafe 的 Jev 在預先定義的版面配置中進行選擇,其表示可將延遲降低最多 80 倍;在 Apparite 範例中,11 個提示的畫面均在 0.8 至 1.7 秒內完成。

來源:Google Developers Blog · developers.googleblog.com