跳至正文
Google Developers Blog·· 11 天前AI 評分58

Google 以每項任務成本為基準,對便宜分類器進行基準測試,用以分流 Gemini 模型

Cost per task: Using cheap classifiers to route across Gemini models and thinking levels

AI 導讀

Google 執行了一項 50 題自動評分的編碼代理基準測試,檢驗輕量級分類器 TypeSafe 的 Jev 能否將每項任務分流到仍能正確作答的最便宜 Gemini 配置。一個凍結的正規表達式與提示長度啟發式方法在 16 道開發題上得分 93.8%,但在 34 道留出任務上掉了 23.2 個百分點至 70.6%,而 Jev 在完整測試集上達到 96.0%。最強的無路由器配置,即低思考模式的 Gemini 3.8 Flash,解出了全部 50 道任務;而一個先將任務送往 Flash-Lite、再將被標記的任務升級的 Jev 路由器也解出了全部 50 道,同時降低了成本與回應時間;將 maxOutputTokens 上限設為 300 在簡單任務上沒有節省任何成本,還弄壞了 25 道難題中的 7 道。

來源:Google Developers Blog · developers.googleblog.com