dspy-wsp 發布原型優化器,可透過 LLM 編輯模型權重
先了解這件事
dspy-wsp 發布了一款名為 dspy-wsp 的 DSPy 優化器原型,讓 GPT-6-Astra 這類寫作 LLM 能在無需梯度或訓練的情況下編輯另一個模型的權重。該專案表示,在五個參數量從 0.6B 到 9B 的開放決策模型上,以 Typed Decisions 基準測試,WeightSpace 單獨在 400 個留出案例上提升了 1.9 到 16.1 個百分點的正確率,與 ReAnchor 優化器結合使用時則提升 6.5 到 20.0 個百分點。 該工具需要 DSPy 3.5,作者稱其為非常實驗性的工具。每次執行在最高推理強度下使用 25 次前向傳遞,花費約 5 到 10 美元;編輯後的模型透過 Apple 晶片上的 MLX 或 NVIDIA GPU 上的 PyTorch 在本機執行。作者提醒,在文字生成 LLM 上執行編輯耗時且成本高昂,可能不會產生令人信服的結果。在 d1-omni-600M 上進行權重空間優化,可在 Mac 或至少 4 GB 記憶體的 GPU 上執行。
AI 依報導生成 · 2 小時前更新
報導時間線
沿著報導,了解事件的不同側面。
- Hacker News · AIdspy-wsp 發布 WeightSpace 優化器,透過 writer LLM 編輯模型權重
dspy-wsp 是一個 DSPy 優化器原型,將 Weight-Space Programming 帶入現有程式,讓 GPT-6-Astra 等 writer LLM 無需梯度或訓練即可編輯另一個模型的權重。在 Typed Decisions 基準上,以五個參數量從 0.6B 到 9B 的開放決策模型測試,WeightSpace 單獨在 400 個留出案例上提升了 1.9 到 16.1 個百分點的準確率,與 ReAnchor 優化器結合時則提升 6.5 到 20.0 個百分點。每次執行以最大推理強度進行 25 次前向傳遞,花費約 $5-10,編輯後的模型可透過 Apple 晶片上的 MLX 或 NVIDIA GPU 上的 PyTorch 在本機執行。
本事件熱度走勢
還沒有足夠的連續觀測資料,暫不繪製趨勢。