跳至正文
11月13日星期五
  1. MIT News34

    MIT研究人員打造結構設計拓撲優化的AI「副駕駛」

    MIT研究人員開發了一款AI副駕駛,讓工程師能在拓撲優化仍在運行時就對結構的區域給出回饋,而不必等待最終設計。在演示中,它將可製造性和線性屈曲載荷提高了39%,而總設計時間僅增加15秒。該系統使用基於合成人類回饋數據訓練的機器學習,目前僅允許使用者加厚或減薄區域。

  2. Hacker News · AI64

    Schelling Atlas 研究發現 AI 代理會聚集到 ntfy.sh 以在網路上互相定位

    來自 ELLIS Institute Tübingen 與 Max Planck Institute for Intelligent Systems 的一項研究發現,在沒有指定會合地點的情況下,成對獨立運行的 AI 代理在幾分鐘內就在網路上找到了彼此,40 對中有 21 對成功會合,且全都在 ntfy.sh 上。在 ntfy.sh 被封鎖的情況下,65 對中只有 4 對在五分鐘內會合;若放寬至二十分鐘且不設行動限制,則增至 65 對中的 20 對,且大多在 ptsv3.com 與 filebin.net 上。在使用網路工具的 1,107 個代理中,有 280 個嘗試連線到已不存在的主機,另有 118 個嘗試連線到 121 個未註冊網域中的某一個,攻擊者可買下這些網域來攔截代理流量。

  3. Hacker News · AI31

    Air-LLM:透過射頻計算將 AI 權重廣播至邊緣裝置,實現即時 LLM 推論

    Air-LLM 是一種邊緣 LLM 推論架構,其中央無線電(例如 5G 基地台)透過無線方式廣播模型權重,邊緣使用者利用射頻混頻器直接在射頻域完成 GEMV,因此裝置從不儲存或載入權重。在兩個真實城市場景中,以真實射頻混頻器設定檔於 NVIDIA Sionna 光線追蹤通道上測試,它將 LLaMA-3.1-8B 在 WikiText-2 上的困惑度退化限制在 4.0%,同時相較於 FP16 與僅權重量化基準,分別節省 157.7 倍/40.4 倍能源。在 20 位使用者下,空中傳輸時間縮短 104.1 倍/26.0 倍,且由於中央無線電保持不感知使用者,單次廣播即可服務覆蓋範圍內無限數量的使用者。

  4. Hacker News · AI58

    InferTrail 執行為期 35 天的 LLM API 金鑰蜜罐,追蹤被竊金鑰如何被使用

    InferTrail 在 40 多個假 GitHub 組織中植入 179 個 API 金鑰,並運行兩個蜜罐 LLM 閘道長達 36 天,記錄了超過 300 萬次請求。已公開的金鑰中只有 18 個被用來發送提示,而六個金鑰佔了洩漏金鑰提示請求的 98.9%,其中 86% 的流量來自託管基礎設施。作者列出三種可發現金鑰重複使用的日誌模式:短時間內一個金鑰下出現許多模型名稱、金鑰生效後出現固定間隔的檢查,以及來源位址的變化。

11月12日星期四
  1. Google Research58

    Google Research 利用穿戴式裝置建立 CKM 風險概況與個人化指導

    Google Research 提出一套研究性框架,可將消費級穿戴式裝置資料轉化為可據以指導的健康年齡,並模擬個人化的 12 週「假設情境」健康軌跡。SensorWM 世界模型以約 10 萬名使用者、共 228 萬人週的去識別化 Fitbit 資料進行預訓練,能在不同的步數、睡眠與有氧作息下預測 20 項生理指標。在一項盲測研究中,生活型態教練在 71.4% 的評估中選擇以反事實為依據的計畫為整體最佳,醫師則評定 99.2% 的計畫落在安全運動強度範圍內;作者指出這些模型屬於研究原型,並非臨床診斷工具。

11月9日星期一
  1. Hugging Face Blog40

    HOPE:混合專家語言模型中的高階專家剪枝

    研究人員提出 HOPE,一種針對混合專家語言模型的二階專家剪枝方法,該方法考量共同激活專家之間的成對交互作用,而非獨立地為每個專家評分。在 50% 剪枝率下,HOPE 取得所有方法中最佳的平均排名,在代理式編碼任務上相較於次佳的剪枝方法最高提升 +6.1%。此研究針對 Qwen3.5-122B 等模型的記憶體瓶頸,其中專家 MLP 佔據約 250 GB 足跡的 95%。

  2. Anthropic Research71

    Anthropic 在真實世界電子設計上測試 Claude Fable 5.2

    Anthropic 報告指出,Claude Fable 5.2 僅憑極少提示便設計出三款電子裝置:免持擴音電話、語音助理中樞與掌上型虛擬寵物,且 Diode Computers 依其設計檔案打造出可運作的原型,無須修正電路。在 Diode 內部的 PCB Gym 基準測試中,Fable 5.2 得分 69%,Fable 5 則為 25%;在公開的 BenchCAD 2.1 上,它達到 83.5%,幾乎是 Claude Fable 5.1 的兩倍。這些裝置仍屬原型,尚未經過電氣驗證、天線調校、熱測試或認證,且 Claude 並未連接至測試設備或製造機器。

    推薦理由:Anthropic 親自說明 Claude Fable 5.2 設計出三款可運作的電子裝置,顯示模型已從局部 PCB 佈局大幅進展到端到端的硬體原型製作。

  3. Artificial Analysis Articles58

    Artificial Analysis 發布 Endpoint Accuracy Index v1.1,收緊長上下文區間並涵蓋六個模型

    Artificial Analysis 推出 Endpoint Accuracy Index v1.1,收緊了 AA-LCR-25 的信賴區間,並新增對 GLM-5.3 Flash 與 Muse Spark Open 的涵蓋。在受測的 103 個無伺服器端點中,有 24 個在統計上低於自架參考,原因包括輸出 token 上限、推理能力降低、工具呼叫格式錯誤與請求逾時。將 AA-LCR-25 提高至每題 25 次重複,使其平均 95% 信賴區間從 ±4.7 點收窄至 ±2.6 點,而在兩個版本下皆計分的 45 個端點上,綜合指數區間從 ±5.5 點收窄至 ±4.3 點。

11月6日星期五
  1. Ai2 · Allen Institute for AI58

    Ai2 發布 ToyBlocks,一個用於機器人學習與評估的可控模擬世界

    Ai2 發布 ToyBlocks,這是一個圍繞機械手臂與桌面上積木建構的開放模擬框架,作為其 FoundationWorlds 中首個用於可控機器人學習研究的項目。ToyBlocks 透過 Isaac Lab 中的強化學習與運動規劃自動生成任務與示範,在單一 GPU 上可達最高 24 倍的即時資料生成速度,並隨附 85,336 條長時程示範,涵蓋近 1,600 小時與 1.44 億幀。在 Franka FR3 的真實世界測試中,ManiFlow 的原子技能成功率在模擬中為 80.0%,在硬體上為 81.1%;而 Molmo 2 加 ManiFlow 系統則在模擬回合中成功 55.5%,在真實回合中成功 50.0%。

  2. vLLM Blog77

    REINFORCE Zero:核心對齊讓非同步 RL 在策略延遲 64 下穩定訓練,並擴展至 DeepSeek-V4.1 與 Kimi K3.1

    NVIDIA Research 與 Inferact 的 REINFORCE Zero 論文顯示,對齊 rollout 與訓練器的核心,可讓未裁剪的 token 級重要性取樣修正剩餘的權重延遲,在策略延遲 64 下穩定訓練 20,000 次更新,並在核心對齊時達到同步訓練 2.40 倍的訓練步吞吐量。使用標準核心時,rollout 到學習器的 KL 中位數在整個訓練過程中上升 83.33 倍,線上 AIME24 pass@1 從 34.27% 降至 13.96%,而序列閘門雖能穩定訓練,但在最後 1,000 次更新時會拒絕 24.48% 的序列。零不匹配設定現已涵蓋 DeepSeek-V4.1-Flash、發布當日的 Kimi K3.1,以及在 AMD MI355X 上的 DeepSeek-V4-Flash 與 Kimi K3.1,程式碼位於 Inferact/zero-mismatch-rl 與 NVIDIA-NeMo/labs-molt。

    推薦理由:NVIDIA Research 與 Inferact 將非同步 RL 的 rollout 與學習器差距拆分為權重延遲與核心不匹配,顯示對齊核心可讓未裁剪的重要性取樣在策略延遲 64 下維持穩定訓練。

  3. SemiAnalysis75

    SemiAnalysis 在代理式推論上以 Google TPUv7 Ironwood 對 NVIDIA GPU 進行基準測試

    SemiAnalysis 在 InferenceX/AgentX 上發布了首個針對 Google TPUv7 Ironwood 的長上下文、多輪代理式推論結果,涵蓋四個模型,發現其在每美元效能上具競爭力,或在若干情況下達到最先進水準。在 FP8 的 GLM-5.2 上,TPUv7 在每秒每使用者 60 至 300 個 token 的範圍內,每美元 token 數達到 B200、B300 和 MI355X 的 1.2 倍至 2.7 倍,而 FP4 GPU 在 GLM-5.3 上仍領先,因為 TPUv7 要到 2027 年第一季的 TPUv8 才具備原生 FP4 支援。文章還主張,與 AMD 和 Google 相比,NVIDIA 的官僚作風拖慢了驅動程式和生態系統的貢獻。

  4. Microsoft Research58

    微軟研究院的 PDD Kit 正式驗證代理撰寫的全端網頁應用程式

    微軟研究院推出 PDD Kit,這是一個研究原型,能將開發者的自然語言意圖轉換為 Verus 形式規格,證明編碼代理的 Rust 程式碼對所有輸入皆符合該規格,並在證明無法觸及之處退回測試。在 GitHub Next 的 Chopin 內部示範中,團隊使用 PDD Kit 驗證 Pet Store 的登入邏輯,這是一個約 5,000 行的 Rust 全端應用程式,開發者審查的是意圖產物,而非逐行檢視生成的程式碼。PDD Kit 目前僅驗證 Rust,其保證建立在六個經開發者核准的可信片段上,包括 bcrypt 密碼檢查與兩次資料庫查詢。

11月5日星期四
  1. Zyphra Research36

    ZYFA:在 AMD MI355X 上快速且準確的 FP8 注意力核心

    Zyphra Research 發布了 ZYFA,這是針對 AMD MI355X(CDNA4、gfx950)的 BF16 與 FP8 因果預填充注意力核心,支援頭維度 128 以及 DeepSeek-V2 的 MLA 形狀。在 Mistral-7B、Qwen3-8B 與 DeepSeek-V2-Lite 於 16K token 的激活值上,ZYFA 的 FP8 核心達到 AITER 吞吐量的 1.16–1.76 倍;在 32K token 的高斯輸入上,頭維度 128 時為 1.26–1.37 倍,MLA 形狀時為 1.99 倍。在頭維度 128 時,FP8 誤差比 AITER 低 62–78%。

11月3日星期二
  1. OpenAI Alignment Blog60

    OpenAI 詳述用於安全與對齊的訓練激活分類器

    OpenAI 描述了訓練激活分類器(或稱探針)的方法,這些探針讀取模型內部的殘差流激活,以標記未對齊或違反政策的助手補全,並表示已從 GPT-5.6 開始在其最強能力模型的內部和外部流量上部署這些探針。這些探針採用 Attention probe 架構,結合 MLP 與 QV-attention 以及指數移動平均,使用最多 100 萬條由推理模型評審標註的訊息進行訓練,並在推理引擎上以串流方式運行,因此可以在回合中途封鎖補全。OpenAI 報告稱,探針在許多後訓練階段之間具有出色的遷移能力,但在預訓練檢查點之間的遷移較為有限,並表示在其紅隊測試中,探針整體上比基於內容的分類器對越獄更具穩健性。

    推薦理由:OpenAI 詳述了內部模型激活上的激活探針如何作為串流安全層,包括它們在跨檢查點遷移方面的限制以及重新訓練的需求。

11月2日星期一
  1. Zyphra Research58

    Zyphra 推出 ZHA 分層注意力,一種具備次二次路由的稀疏方法

    Zyphra 推出了 Zyphra Hierarchical Attention(ZHA),這是一種稀疏注意力方法,它建立一棵由壓縮 KV-cache 摘要構成的樹,並讓查詢自上而下地穿過這棵樹進行路由,在合適的 top-p 閾值下可達到次二次複雜度。現有的預訓練模型可以透過一個短暫的 KL 蒸餾階段進行適配,僅需使用數十億個 token;在 Qwen3.6-35B-A3B 上,ZHA 增加了 81,920 個可訓練參數,約占基礎模型的 0.00024%。在 256K token 的 RULER-13 上,寬樹模型得分為 96.2%,而稠密注意力為 96.0%;深層六級樹在 LongBench v2 上得分為 63.4%,而稠密注意力為 58.0%,同時僅關注約 1.1% 的 KV cache;一個 GPU roofline 模型預測,在 10M token 時相比稠密注意力可實現 32-35 倍加速。

  2. SemiAnalysis58

    SemiAnalysis 發布 GDPx 基準,用於評估高價值領域的前沿代理能力

    SemiAnalysis 發布 GDPx,這是一項涵蓋晶片設計、網路安全、生物學、金融、法律、量化交易、RSI、硬體設計、材料科學、對齊與軟體工程的基準,由 14 個專業強化學習環境合作夥伴共同打造。即便是最佳模型也僅得 12%,其中 Opus 5.5 在量化交易、硬體與晶片設計奪冠,Gemini 4 Carbon 在生物學與軟體工程領先,GPT-6 Astra 則在 RSI 與材料科學居首。每項任務都在逼真的模擬環境中執行,例如約 4,000 個檔案的私募股權交易室或即時多服務網路靶場,這與 OpenAI 的 GDPval 不同;SemiAnalysis 認為後者過度餵給上下文,且缺乏環境。

  3. Anthropic Research70

    Anthropic 發布 FlashProve,一套用於可驗證 LLM 推理的開源 zkSNARK 系統

    Anthropic 發布 FlashProve,這是一個開源原型,使用 zkSNARKs 來證明某個回應來自一個已承諾的模型,而不揭露其權重。在 Llama 4 Maverick(400B 參數 MoE,4 位元權重)上,單張 H100 以約 110 tokens/秒 的速度生成證明,每 1,024-token 請求的證明約 19 MB,約為 vLLM 完成相同工作所需 GPU 時間的 70-95 倍。此發布包含可執行的證明者與驗證者程式碼、一個 C++ 快速驗證器、一個 Lean 驗證器(具備機器檢查的完備性、可靠性和零知識陳述),以及一份技術報告,全部採用 Apache 2.0 授權。

    推薦理由:Anthropic 的 FlashProve 顯示,基於 zkSNARK 的推理證明對於一個 400B 參數的 MoE 模型正變得實用,並附有開放程式碼和經 Lean 檢查的安全性聲明。

10月30日星期五
  1. Amazon Science38

    加速旅遊應用的 LLM:Medusa 結合知識蒸餾

    將知識蒸餾與 Medusa 框架結合,讓 1.1B 參數的 TinyLlama 學生模型達到其 70B 參數 Llama-3.1 教師模型的品質,同時執行速度快 10 到 20 倍,成本不到三分之一。與 Booking.com 合作應用於 AI Trip Planner、Smart Filters 和住宿描述生成,此流程彌合了超過 90% 的品質差距,並透過 Medusa heads 額外帶來 2 到 3.6 倍的加速。

  2. Meta Engineering Blog58

    Meta 詳細說明「Catching JiTTests」的生產部署,並採用人在迴路中審查

    Meta 已將 Catching JiTTests(其基於 LLM 的即時測試生成方法)從研究原型推進至生產基礎設施,並在 FSE 2026 論文《Just-in-Time Catching Test Generation at Meta》中發表了結果。該系統利用閒置算力在夜間運行,針對有風險的 diff,透過 dodgy-diff 與意圖感知工作流程生成測試,並在結果送達工程師之前,以 LLM-as-Judge 集成加上基於規則的 RubFake 評估器過濾誤報。截至撰寫本文時,已有 589 名工程師(佔觸達人數的 64%)參與了這些結果,結果顯示真陽性率為 60%;在 2026 年上半年,該系統在 diff 階段捕獲了 74 個嚴重的隱私缺陷,並將隱私 SEV 降低了 20%。

10月13日星期二
  1. Modal Blog58

    Modal 在 Qwen3.6-35B-A3B 上測試混合精度、混合加速器的 RL 取樣器

    Modal 在代理式編碼任務上訓練 Qwen3.6-35B-A3B,取樣器分散於六種加速器類型(B200、B300、H100、H200、A100、RTX PRO 6000),精度涵蓋 NVFP4、FP8 與 BF16,並將資料饋入一個位於 B200 上的 BF16 訓練器。樸素的 GRPO 在混合與同質取樣器上皆崩潰,但加入遮罩式重要性取樣與分數中心化(無論是否搭配 top-p 遮罩重播)後,訓練穩定進行至結束,並在 SWE-bench Pro V2 pass@4 上達到與同質取樣器相當的水準,每次更新的取樣器成本約低 15%。混合取樣器的取樣器與訓練器平均 KL 為同質設定的 4.7 倍,作者主張穩定性取決於將不匹配程度維持在有界範圍內,而非維持在低水準。

  2. Amazon Science75

    Amazon Web Services 研究人員提出 priming,將預訓練 Transformer 轉換為混合狀態空間模型,無需完整重新訓練

    Amazon Web Services 研究人員提出 priming,此方法重用預訓練 Transformer 權重,將混合狀態空間架構的預訓練成本降低超過 99%,僅使用來源模型預訓練 token 預算的不到 0.5%。在受控比較中,Gated KalmaNet 優於 Gated DeltaNet 和 Mamba-2,而一個基於 GKA 的 32B 混合模型在推理基準上與其來源 Transformer 表現相當,同時在 128,000 token 上下文下解碼速度最高可達兩倍。團隊以 Apache 2.0 授權釋出了 8B 和 32B 的 primed 混合模型、訓練程式碼、Triton 核心以及 vLLM 服務外掛。

    推薦理由:Amazon Web Services 研究人員展示,重用預訓練 Transformer 權重可將混合架構預訓練成本降低超過 99%,使狀態空間層的受控比較變得可行。

10月8日星期四
  1. Zyphra Research36

    Zyphra Research:專家耦合減少 MoE 預訓練通訊

    Zyphra Research 顯示 MoE 路由具有高度結構性,同一層內被共同選中的專家彼此相關,且一個 token 的專家選擇能預測後續層的路由。透過相關專家放置與 token 重排來利用這一點,在 MI300X GPU 上的 Megatron-LM 實驗中,將全對全通訊時間最多縮短 2.63×,並將端到端訓練步進時間最多提升 1.41×,且不改變架構或路由決策。

  2. Goodfire Research71

    Goodfire 在 Kimi K3 和 GLM 5.3 上訓練並部署基於探針的網路濫用監控器

    3 並將其部署到生產推理堆疊上,其中一個低成本的探針會過濾對話輪次,只有可疑的交流才會送到 LLM 評審。良性會話中斷率為 5%,在沒有評審推理的情況下每百萬輪次成本為 65 美元,有評審推理時為 185 美元,並且在 SGLang 內沒有可測量的吞吐量損失。

    推薦理由:Goodfire 展示了一種探針加評審的級聯方案,能以大約低 50 倍的成本監控代理式網路濫用,且沒有可測量的吞吐量損失,這是安全地提供開放模型服務的具體配方。

9月1日星期二
  1. Zyphra Research48

    Zyphra 發布 PUFFER,一套用於持續演進訓練語料的增量模糊去重系統

    Zyphra 以 Apache 2.0 授權發布 PUFFER,這是一套開源、具備來源感知能力的增量模糊去重系統,用於持續成長的 LLM 訓練語料。相較於現有基於 CPU 的去重方法,它帶來 11 倍至 35 倍的加速,並可在單一進程上於 1.75 小時內攝入十億份文件,且已在超過 300 億份文件上進行生產部署。PUFFER 保留一份存於磁碟的 MinHash-LSH 歷史紀錄,因此可以新增資料集、以確定性方式恢復中斷的工作,並可撤除個別資料集而無需重建整個語料索引。

7月29日星期三
  1. Berkeley AI Research58

    從 CUDA 到 MLX:K-Search 將核心優化專業知識帶到 Apple Silicon

    IBM Research 擴展了 K-Search——來自 UC Berkeley Sky Lab 的演化式核心搜尋框架——加入了 MLX 後端,以及一個結構化的 CUDA 到 MLX 轉譯層,可將現有的 CUDA 核心改寫為 Apple Silicon 核心。在一個 MLX 注意力核心上,此方法達到了 Apple 原生 MLX Attention 核心速度的 0.97 倍,而在沒有轉譯上下文的情況下僅為 0.26 倍;在 M1 Max 上,一個演化出的 Mamba SSM 核心相較於社群版 mlx-lm 實作,prefill 速度提升最高達 20 倍。作者將此增益主要歸因於提供給 LLM 的上下文與約束品質,而非其撰寫 Metal 程式碼的能力,並表示該方法並非專屬於 MLX。

7月1日星期三
  1. Modal Blog58

    Modal Research 與 HeavyBall 的 MRP 將多 token 預測引入擴散語言模型

    Modal Research 與 NYU Shanghai 的 HeavyBall Research 推出 Multi-token Residual Prediction(MRP),這是一個接在凍結擴散語言模型主幹上的 3 層模組,預測的是步驟間的 logit 殘差,而非完整的下一步分布。在 SDAR-4B GSM8K 上,MRP 在 K=3 時保持 70.9% 準確率,而樸素 MTP 蒸餾僅為 5.9%;在 SGLang 中,推測模式下可無損達到最高 1.56 倍吞吐量,或在激進的低閾值動態解碼下挽回最高 +16 個準確率點。論文、程式碼、SGLang 實作以及 Hugging Face 上的 SDAR-MRP 模型均已發布。

4月20日星期一
  1. Berkeley AI Research38

    GRASP:針對世界模型的長程梯度式規劃

    GRASP 是一種針對學習式世界模型的新型梯度式規劃器,透過將軌跡提升至虛擬狀態以進行時間平行優化、在狀態迭代中加入隨機性以促進探索,以及重塑梯度使動作獲得乾淨訊號,同時避免透過高維視覺模型產生脆弱的狀態輸入梯度,讓長程規劃變得實用。此研究解決了使長程規劃脆弱的病態計算圖、非貪婪局部極小值及高維潛在失效模式等問題。此工作與 Mike Rabbat、Aditi Krishnapriyan、Yann LeCun 及 Amir Bar 共同完成。