Hacker News · AI·· 2 小時前AI 評分62
Artificial Analysis 發現每 4 個第三方 AI 端點中就有 1 個的表現低於其宣稱的模型
1 in 4 3rd Party AI Endpoints Underperform Their Advertised Models
AI 導讀
Artificial Analysis 發布了端點準確度指數 1.1 版,發現超過 100 個無伺服器端點中,約有四分之一的分數低於相同開放權重的參考部署。該指數會在 BFCL v4-500、HLE-250 和 AA-LCR-25 上重新執行每個端點,並報告 95% 信賴區間,現已收窄至正負 2.6 個百分點。在 GLM-5.3 Flash 的結果中,兩個輸出上限接近 32,000 個 token 的端點,其原始 HLE-250 準確率降至 22% 和 29%,而參考部署為 55%;另有兩個 Muse Spark Open 端點將字串工具參數編碼為數字,在 BFCL v4-500 上得分為 50% 和 51%,而參考部署為 59%。
來源:Hacker News · AI · hermes-ai.net