跳至正文
11月12日星期四
  1. Epoch AI · Gradient Updates64

    Epoch 簡報:GLM 5.3 自主利用修補缺口打造 Firefox 漏洞利用程式,每個約 1,000 美元

    Epoch AI 研究人員報告,在離線沙箱實驗中,開放權重模型 GLM 5.3 自主攻破了六個近期版本的 Firefox(一款擁有超過 2 億活躍使用者的瀏覽器),方法是從尚未送達使用者的修補程式反向工程出攻擊手法,每個漏洞利用程式成本約 1,000 美元。該模型建構出能讀取訪客電腦檔案並在無需人工輸入的情況下將其傳送給攻擊者的網頁;團隊無法用 Chrome 重現此結果。同一份簡報指出,11 月 9 日發布的 Anthropic Claude Fable 5.2 創下 Epoch Capabilities Index 新紀錄 174,高於 GPT-6 Astra 的 169。

11月10日星期二
  1. Goodfire Research62

    Goodfire 研究 Qwen3.6-35B-A3B 神經元作為可解釋基礎

    Goodfire Research 發表一項研究,主張 Qwen3.6-35B-A3B 中的個別 MLP 神經元比一般假設更具可解釋性,其依據來自稀疏化、歸因工具與研究代理。每次前向傳播中消融最弱的 92.2% MoE 神經元活化,語言模型損失僅上升 2.9%,且 69% 的神經元極點有單一模式對其因果效應貢獻至少 90%。自然語言的神經元描述讓評審模型在對抗隨機文本時以 95% 準確率預測激發,並透過模擬恢復 73% 的消融損害。

    推薦理由:Goodfire 對 Qwen3.6-35B-A3B 神經元的研究主張,僅靠強活化就承載了模型的大部分計算,為特徵字典可解釋性提供了一個具體的替代方案。

11月9日星期一
  1. Artificial Analysis Articles58

    Artificial Analysis 發布 Endpoint Accuracy Index v1.1,收緊長上下文區間並涵蓋六個模型

    Artificial Analysis 推出 Endpoint Accuracy Index v1.1,收緊了 AA-LCR-25 的信賴區間,並新增對 GLM-5.3 Flash 與 Muse Spark Open 的涵蓋。在受測的 103 個無伺服器端點中,有 24 個在統計上低於自架參考,原因包括輸出 token 上限、推理能力降低、工具呼叫格式錯誤與請求逾時。將 AA-LCR-25 提高至每題 25 次重複,使其平均 95% 信賴區間從 ±4.7 點收窄至 ±2.6 點,而在兩個版本下皆計分的 45 個端點上,綜合指數區間從 ±5.5 點收窄至 ±4.3 點。

11月6日星期五
  1. SemiAnalysis75

    SemiAnalysis 在代理式推論上以 Google TPUv7 Ironwood 對 NVIDIA GPU 進行基準測試

    SemiAnalysis 在 InferenceX/AgentX 上發布了首個針對 Google TPUv7 Ironwood 的長上下文、多輪代理式推論結果,涵蓋四個模型,發現其在每美元效能上具競爭力,或在若干情況下達到最先進水準。在 FP8 的 GLM-5.2 上,TPUv7 在每秒每使用者 60 至 300 個 token 的範圍內,每美元 token 數達到 B200、B300 和 MI355X 的 1.2 倍至 2.7 倍,而 FP4 GPU 在 GLM-5.3 上仍領先,因為 TPUv7 要到 2027 年第一季的 TPUv8 才具備原生 FP4 支援。文章還主張,與 AMD 和 Google 相比,NVIDIA 的官僚作風拖慢了驅動程式和生態系統的貢獻。

11月2日星期一
  1. Zyphra Research58

    Zyphra 推出 ZHA 分層注意力,一種具備次二次路由的稀疏方法

    Zyphra 推出了 Zyphra Hierarchical Attention(ZHA),這是一種稀疏注意力方法,它建立一棵由壓縮 KV-cache 摘要構成的樹,並讓查詢自上而下地穿過這棵樹進行路由,在合適的 top-p 閾值下可達到次二次複雜度。現有的預訓練模型可以透過一個短暫的 KL 蒸餾階段進行適配,僅需使用數十億個 token;在 Qwen3.6-35B-A3B 上,ZHA 增加了 81,920 個可訓練參數,約占基礎模型的 0.00024%。在 256K token 的 RULER-13 上,寬樹模型得分為 96.2%,而稠密注意力為 96.0%;深層六級樹在 LongBench v2 上得分為 63.4%,而稠密注意力為 58.0%,同時僅關注約 1.1% 的 KV cache;一個 GPU roofline 模型預測,在 10M token 時相比稠密注意力可實現 32-35 倍加速。

10月30日星期五
  1. Epoch AI · Gradient Updates82

    Epoch AI 發現 GLM 5.3 能在用戶更新前,將已公開的 Firefox 修補程式轉化為可用的漏洞利用程式

    Epoch AI 報告指出,Z.ai 於八月發布的開放權重模型 GLM 5.3,能自主從 Mozilla 已公開但尚未推送給用戶的安全修補程式中建構出可用的漏洞利用程式,成功入侵 9 月 17 日至 10 月 26 日期間發布的全部六個 Firefox 版本。在約 10 萬美元的環境建置與 API 成本之後,每次成功攻擊的運算成本約為 1,000 美元,最快的一次嘗試在 48 小時的預算內耗時 12 小時。針對 Chrome 的類似攻擊並未成功,研究人員表示未觸發任何供應商的安全防護機制或拒絕回應;他們另外發現的一個未公開漏洞,已於 10 月 27 日的 Firefox 159.0 版本中修補。

    推薦理由:Epoch AI 的實驗顯示,開放權重模型能自主將已公開但尚未推送的 Firefox 修補程式武器化,為修補空窗期提供了具體的成本與時間數字。

10月24日星期六
  1. Epoch AI · Gradient Updates42

    Epoch 簡報:AI 工作自動化測試、SpireClimb 基準,以及 Gemini 4 Argon 的前沿推進

    Epoch AI 在 11 項真實的 Epoch 工作任務上測試了六個領先模型,發現沒有一個能可靠達到其品質標準,其中 Claude Fable 5.1 與 GPT-6 Astra 大致並列領先。其新的 SpireClimb 基準顯示,前沿模型在六個月內從在《Slay the Spire》中苦苦掙扎,發展到能贏得超過 90% 的基礎難度對局,其中 GPT-6 Astra 達到 98%。Gemini 4 Argon 在 Epoch Capabilities Index 上得分 166,與 Claude Fable 5.1 並列,落後於同為 169 的 Claude Opus 5.5 和 GPT-6 Astra。

10月8日星期四
  1. Goodfire Research71

    Goodfire 在 Kimi K3 和 GLM 5.3 上訓練並部署基於探針的網路濫用監控器

    3 並將其部署到生產推理堆疊上,其中一個低成本的探針會過濾對話輪次,只有可疑的交流才會送到 LLM 評審。良性會話中斷率為 5%,在沒有評審推理的情況下每百萬輪次成本為 65 美元,有評審推理時為 185 美元,並且在 SGLang 內沒有可測量的吞吐量損失。

    推薦理由:Goodfire 展示了一種探針加評審的級聯方案,能以大約低 50 倍的成本監控代理式網路濫用,且沒有可測量的吞吐量損失,這是安全地提供開放模型服務的具體配方。