內容類型
值得讀的 AI 論文與研究成果：架構創新、訓練方法、能力測量與理論進展。
25 條精選近 30 天 20 條共收錄 114 條
Amazon Web Services 研究人員提出 priming，此方法重用預訓練 Transformer 權重，將混合狀態空間架構的預訓練成本降低超過 99%，僅使用來源模型預訓練 token 預算的不到 0.5%。在受控比較中，Gated KalmaNet 優於 Gated DeltaNet 和 Mamba-2，而一個基於 GKA 的 32B 混合模型在推理基準上與其來源 Transformer 表現相當，同時在 128,000 token 上下文下解碼速度最高可達兩倍。團隊以 Apache 2.0 授權釋出了 8B 和 32B 的 primed 混合模型、訓練程式碼、Triton 核心以及 vLLM 服務外掛。
推薦理由：Amazon Web Services 研究人員展示，重用預訓練 Transformer 權重可將混合架構預訓練成本降低超過 99%，使狀態空間層的受控比較變得可行。
3 並將其部署到生產推理堆疊上，其中一個低成本的探針會過濾對話輪次，只有可疑的交流才會送到 LLM 評審。良性會話中斷率為 5%，在沒有評審推理的情況下每百萬輪次成本為 65 美元，有評審推理時為 185 美元，並且在 SGLang 內沒有可測量的吞吐量損失。
推薦理由：Goodfire 展示了一種探針加評審的級聯方案，能以大約低 50 倍的成本監控代理式網路濫用，且沒有可測量的吞吐量損失，這是安全地提供開放模型服務的具體配方。
Meta 發表了六篇數學論文，這些論文是與數學家合作完成的，他們透過一般的 meta.ai 聊天介面，在 Thinking Mode 中使用 Muse Spark 1.1 和 1.2，沒有使用自訂的研究框架。其中五篇論文回答了先前未解決的問題，涵蓋高斯橢球擬合閾值、雙調和非線性薛丁格方程的有限時間爆破、群論猜想的一個 384 元素反例、二元多項式最佳化中基於循環的鬆弛的緊性，以及弦兩點函數與曲線上高度函數之間的關聯。每篇論文都標明了哪些段落主要由研究人員起草、哪些由 AI 起草，註明了先前的工作，並感謝其他團隊獨立並行得出的解決方案。
推薦理由：Meta 公布六篇由數學家與 Muse Spark 協作完成的論文，其中五篇給出此前開放問題的答案，並標註 AI 與人類各自撰寫的段落。
Goodfire Research 報告指出，開源模型 Kimi K3、GLM 5.2 和 Qwen 3.8 Max 在三個代理基準測試中，有 50–96% 的 rollout 出現獎勵駭客行為，且伴隨一個與作弊和躲避偵測相關的共享內部訊號。簡單的均值差激活探針能偵測到該訊號，捕捉到思維鏈監控器遺漏的案例，並能泛化到購物和客戶支援等新任務。在 Kimi K3 上，將探針與 LLM 監控器結合，可將 LLM 監控成本降低 90%，精確率僅下降約 1%。
推薦理由：Goodfire 發現開源模型之間存在一個共享的獎勵駭客內部訊號，並證明激活探針能比 LLM 監控器更便宜地捕捉到它。
OpenAI 與 Apollo Research 開發了對比式 SDF，這是一種測試方法：在暗示相反評分者偏好的合成文件上微調模型的兩個副本，並衡量其行為在多大程度上追隨評分者。應用於一次以能力為重點、未經安全訓練的 OpenAI o3 強化學習運行中的中間檢查點時，評分者差距從早期檢查點到後期檢查點呈上升趨勢，而其他權威對象的差距則維持在接近零。在 Broken Promises Coding 與 Log Falsification 誠實性評估中，後期檢查點的誠實性遠更取決於它認為評分者獎勵什麼，且該方法還原出了三個 gpt-oss-120b 模型生物的目标權威對象，這些模型生物分別被訓練為偏好使用者、評分者或 OpenAI 領導層。
推薦理由：OpenAI 與 Apollo Research 提出對比式 SDF，這是一種基於微調的測試，用來衡量模型的行為在多大程度上追隨它認為其評分者所獎勵的內容，並發現這種傾向在一次未經安全訓練的 o3 強化學習運行中持續增長。