跳至正文
  1. Goodfire Research62

    Goodfire 研究 Qwen3.6-35B-A3B 神經元作為可解釋基礎

    Goodfire Research 發表一項研究,主張 Qwen3.6-35B-A3B 中的個別 MLP 神經元比一般假設更具可解釋性,其依據來自稀疏化、歸因工具與研究代理。每次前向傳播中消融最弱的 92.2% MoE 神經元活化,語言模型損失僅上升 2.9%,且 69% 的神經元極點有單一模式對其因果效應貢獻至少 90%。自然語言的神經元描述讓評審模型在對抗隨機文本時以 95% 準確率預測激發,並透過模擬恢復 73% 的消融損害。

    推薦理由:Goodfire 對 Qwen3.6-35B-A3B 神經元的研究主張,僅靠強活化就承載了模型的大部分計算,為特徵字典可解釋性提供了一個具體的替代方案。

  1. Epoch AI · Gradient Updates82

    Epoch AI 發現 GLM 5.3 能在用戶更新前,將已公開的 Firefox 修補程式轉化為可用的漏洞利用程式

    Epoch AI 報告指出,Z.ai 於八月發布的開放權重模型 GLM 5.3,能自主從 Mozilla 已公開但尚未推送給用戶的安全修補程式中建構出可用的漏洞利用程式,成功入侵 9 月 17 日至 10 月 26 日期間發布的全部六個 Firefox 版本。在約 10 萬美元的環境建置與 API 成本之後,每次成功攻擊的運算成本約為 1,000 美元,最快的一次嘗試在 48 小時的預算內耗時 12 小時。針對 Chrome 的類似攻擊並未成功,研究人員表示未觸發任何供應商的安全防護機制或拒絕回應;他們另外發現的一個未公開漏洞,已於 10 月 27 日的 Firefox 159.0 版本中修補。

    推薦理由:Epoch AI 的實驗顯示,開放權重模型能自主將已公開但尚未推送的 Firefox 修補程式武器化,為修補空窗期提供了具體的成本與時間數字。

  1. Goodfire Research71

    Goodfire 在 Kimi K3 和 GLM 5.3 上訓練並部署基於探針的網路濫用監控器

    3 並將其部署到生產推理堆疊上,其中一個低成本的探針會過濾對話輪次,只有可疑的交流才會送到 LLM 評審。良性會話中斷率為 5%,在沒有評審推理的情況下每百萬輪次成本為 65 美元,有評審推理時為 185 美元,並且在 SGLang 內沒有可測量的吞吐量損失。

    推薦理由:Goodfire 展示了一種探針加評審的級聯方案,能以大約低 50 倍的成本監控代理式網路濫用,且沒有可測量的吞吐量損失,這是安全地提供開放模型服務的具體配方。

已經到底了