跳至正文
Goodfire Research·· 1 天前AI 評分38

Goodfire Research 在語言模型中發現神經元社群

Discovering Neuron Communities in Language Models

AI 導讀

Goodfire Research 辨識出「神經元社群」——通常少於十個神經元的小群組——這些群組負責執行模型的常見行為,例如語法一致、複製與算術。此非監督式方法運用基於梯度的歸因分析,涵蓋數百萬個提示,並結合圖形建構與社群偵測,在 Llama-3.1-8B 上執行,並在 Qwen 3.6 35B-A3B 上重現。消融一個社群會改變預測,而保留該社群則大致能維持預測,即使在移除那些層中其他 MLP 神經元之後也是如此。

來源:Goodfire Research · goodfire.com