跳至正文
熱點事件持續更新

PacketSnitch 在 Qwen2.5 上打造小型模型 AI 工具路由器

1 篇報導1 個報導來源2 小時前更新

先了解這件事

AI 綜述

PacketSnitch 的開發者打造了一個自然語言工具路由器,它依賴應用程式自身預先產生的文件索引,而非將每個函式都載入提示詞中。0.5B 的 Qwen2.5-Instruct 模型負責處理直觀的意圖,應用程式邏輯則將複雜或無效的輸出升級交由 1.5B 模型處理。 開發者表示,訓練算力花費約 40 美元,某個測試案例的回應時間為 153 毫秒,並稱所得模型可在配備 32GB 記憶體的筆記型電腦上執行,且不會耗盡全部記憶體。這些數字為開發者本人的說法,並非經獨立驗證的結果。

AI 依報導生成 · 2 小時前更新

報導時間線

沿著報導,了解事件的不同側面。

11月20日
  1. Hacker News · AI
    PacketSnitch 以 Qwen2.5 模型打造小型 AI 工具路由器,並具備文件查詢功能

    PacketSnitch 開發者描述如何打造一個自然語言工具路由器,它使用應用程式自身預先產生的文件索引,而非將每個函式都載入提示中。0.5B 的 Qwen2.5-Instruct 模型負責處理簡單意圖,而應用邏輯則將複雜或無效的輸出升級至 1.5B 模型處理;作者表示訓練運算成本約 40 美元,且在某個測試案例中回應時間為 153 毫秒。

本事件熱度走勢

還沒有足夠的連續觀測資料,暫不繪製趨勢。