inclusionAI Repositories·· 16 天前AI 評分28
UBTree 專案頁面:以 Unigram 與 Bigram 模型進行平行樹狀草稿的推測解碼
ubtree
AI 導讀
UBTree 專案頁面介紹 UBTree,這是一種使用 unigram 與 bigram 模型草擬平行 token 樹的推測解碼方法,詳見 arXiv:2609.39972。示範影片在 Ling3 Tiny 與 Flash 上,使用未經修改的 HumanEval anti_shuffle 與 bf 提示,比較 UBTree 與 AR、DFlash 及 DSpark,四種方法產生的輸出 token 完全相同。該網站是以純 HTML/CSS/JS 透過 GitHub Pages 提供,圖表與表格的數字存放在 static/js/data.js。
來源:inclusionAI Repositories · github.com