跳至正文
  1. Anthropic Research71

    Anthropic 在真實世界電子設計上測試 Claude Fable 5.2

    Anthropic 報告指出,Claude Fable 5.2 僅憑極少提示便設計出三款電子裝置:免持擴音電話、語音助理中樞與掌上型虛擬寵物,且 Diode Computers 依其設計檔案打造出可運作的原型,無須修正電路。在 Diode 內部的 PCB Gym 基準測試中,Fable 5.2 得分 69%,Fable 5 則為 25%;在公開的 BenchCAD 2.1 上,它達到 83.5%,幾乎是 Claude Fable 5.1 的兩倍。這些裝置仍屬原型,尚未經過電氣驗證、天線調校、熱測試或認證,且 Claude 並未連接至測試設備或製造機器。

    推薦理由:Anthropic 親自說明 Claude Fable 5.2 設計出三款可運作的電子裝置,顯示模型已從局部 PCB 佈局大幅進展到端到端的硬體原型製作。

  1. vLLM Blog77

    REINFORCE Zero:核心對齊讓非同步 RL 在策略延遲 64 下穩定訓練,並擴展至 DeepSeek-V4.1 與 Kimi K3.1

    NVIDIA Research 與 Inferact 的 REINFORCE Zero 論文顯示,對齊 rollout 與訓練器的核心,可讓未裁剪的 token 級重要性取樣修正剩餘的權重延遲,在策略延遲 64 下穩定訓練 20,000 次更新,並在核心對齊時達到同步訓練 2.40 倍的訓練步吞吐量。使用標準核心時,rollout 到學習器的 KL 中位數在整個訓練過程中上升 83.33 倍,線上 AIME24 pass@1 從 34.27% 降至 13.96%,而序列閘門雖能穩定訓練,但在最後 1,000 次更新時會拒絕 24.48% 的序列。零不匹配設定現已涵蓋 DeepSeek-V4.1-Flash、發布當日的 Kimi K3.1,以及在 AMD MI355X 上的 DeepSeek-V4-Flash 與 Kimi K3.1,程式碼位於 Inferact/zero-mismatch-rl 與 NVIDIA-NeMo/labs-molt。

    推薦理由:NVIDIA Research 與 Inferact 將非同步 RL 的 rollout 與學習器差距拆分為權重延遲與核心不匹配,顯示對齊核心可讓未裁剪的重要性取樣在策略延遲 64 下維持穩定訓練。

  1. OpenAI Alignment Blog60

    OpenAI 詳述用於安全與對齊的訓練激活分類器

    OpenAI 描述了訓練激活分類器(或稱探針)的方法,這些探針讀取模型內部的殘差流激活,以標記未對齊或違反政策的助手補全,並表示已從 GPT-5.6 開始在其最強能力模型的內部和外部流量上部署這些探針。這些探針採用 Attention probe 架構,結合 MLP 與 QV-attention 以及指數移動平均,使用最多 100 萬條由推理模型評審標註的訊息進行訓練,並在推理引擎上以串流方式運行,因此可以在回合中途封鎖補全。OpenAI 報告稱,探針在許多後訓練階段之間具有出色的遷移能力,但在預訓練檢查點之間的遷移較為有限,並表示在其紅隊測試中,探針整體上比基於內容的分類器對越獄更具穩健性。

    推薦理由:OpenAI 詳述了內部模型激活上的激活探針如何作為串流安全層,包括它們在跨檢查點遷移方面的限制以及重新訓練的需求。

  1. Anthropic Research70

    Anthropic 發布 FlashProve,一套用於可驗證 LLM 推理的開源 zkSNARK 系統

    Anthropic 發布 FlashProve,這是一個開源原型,使用 zkSNARKs 來證明某個回應來自一個已承諾的模型,而不揭露其權重。在 Llama 4 Maverick(400B 參數 MoE,4 位元權重)上,單張 H100 以約 110 tokens/秒 的速度生成證明,每 1,024-token 請求的證明約 19 MB,約為 vLLM 完成相同工作所需 GPU 時間的 70-95 倍。此發布包含可執行的證明者與驗證者程式碼、一個 C++ 快速驗證器、一個 Lean 驗證器(具備機器檢查的完備性、可靠性和零知識陳述),以及一份技術報告,全部採用 Apache 2.0 授權。

    推薦理由:Anthropic 的 FlashProve 顯示,基於 zkSNARK 的推理證明對於一個 400B 參數的 MoE 模型正變得實用,並附有開放程式碼和經 Lean 檢查的安全性聲明。

  1. Amazon Science75

    Amazon Web Services 研究人員提出 priming,將預訓練 Transformer 轉換為混合狀態空間模型,無需完整重新訓練

    Amazon Web Services 研究人員提出 priming,此方法重用預訓練 Transformer 權重,將混合狀態空間架構的預訓練成本降低超過 99%,僅使用來源模型預訓練 token 預算的不到 0.5%。在受控比較中,Gated KalmaNet 優於 Gated DeltaNet 和 Mamba-2,而一個基於 GKA 的 32B 混合模型在推理基準上與其來源 Transformer 表現相當,同時在 128,000 token 上下文下解碼速度最高可達兩倍。團隊以 Apache 2.0 授權釋出了 8B 和 32B 的 primed 混合模型、訓練程式碼、Triton 核心以及 vLLM 服務外掛。

    推薦理由:Amazon Web Services 研究人員展示,重用預訓練 Transformer 權重可將混合架構預訓練成本降低超過 99%,使狀態空間層的受控比較變得可行。

  1. Goodfire Research71

    Goodfire 在 Kimi K3 和 GLM 5.3 上訓練並部署基於探針的網路濫用監控器

    3 並將其部署到生產推理堆疊上,其中一個低成本的探針會過濾對話輪次,只有可疑的交流才會送到 LLM 評審。良性會話中斷率為 5%,在沒有評審推理的情況下每百萬輪次成本為 65 美元,有評審推理時為 185 美元,並且在 SGLang 內沒有可測量的吞吐量損失。

    推薦理由:Goodfire 展示了一種探針加評審的級聯方案,能以大約低 50 倍的成本監控代理式網路濫用,且沒有可測量的吞吐量損失,這是安全地提供開放模型服務的具體配方。

已經到底了