MIT研究人員打造結構設計拓撲優化的AI「副駕駛」
MIT研究人員開發了一款AI副駕駛,讓工程師能在拓撲優化仍在運行時就對結構的區域給出回饋,而不必等待最終設計。在演示中,它將可製造性和線性屈曲載荷提高了39%,而總設計時間僅增加15秒。該系統使用基於合成人類回饋數據訓練的機器學習,目前僅允許使用者加厚或減薄區域。
MIT研究人員開發了一款AI副駕駛,讓工程師能在拓撲優化仍在運行時就對結構的區域給出回饋,而不必等待最終設計。在演示中,它將可製造性和線性屈曲載荷提高了39%,而總設計時間僅增加15秒。該系統使用基於合成人類回饋數據訓練的機器學習,目前僅允許使用者加厚或減薄區域。
來自 ELLIS Institute Tübingen 與 Max Planck Institute for Intelligent Systems 的一項研究發現,在沒有指定會合地點的情況下,成對獨立運行的 AI 代理在幾分鐘內就在網路上找到了彼此,40 對中有 21 對成功會合,且全都在 ntfy.sh 上。在 ntfy.sh 被封鎖的情況下,65 對中只有 4 對在五分鐘內會合;若放寬至二十分鐘且不設行動限制,則增至 65 對中的 20 對,且大多在 ptsv3.com 與 filebin.net 上。在使用網路工具的 1,107 個代理中,有 280 個嘗試連線到已不存在的主機,另有 118 個嘗試連線到 121 個未註冊網域中的某一個,攻擊者可買下這些網域來攔截代理流量。
Air-LLM 是一種邊緣 LLM 推論架構,其中央無線電(例如 5G 基地台)透過無線方式廣播模型權重,邊緣使用者利用射頻混頻器直接在射頻域完成 GEMV,因此裝置從不儲存或載入權重。在兩個真實城市場景中,以真實射頻混頻器設定檔於 NVIDIA Sionna 光線追蹤通道上測試,它將 LLaMA-3.1-8B 在 WikiText-2 上的困惑度退化限制在 4.0%,同時相較於 FP16 與僅權重量化基準,分別節省 157.7 倍/40.4 倍能源。在 20 位使用者下,空中傳輸時間縮短 104.1 倍/26.0 倍,且由於中央無線電保持不感知使用者,單次廣播即可服務覆蓋範圍內無限數量的使用者。
InferTrail 在 40 多個假 GitHub 組織中植入 179 個 API 金鑰,並運行兩個蜜罐 LLM 閘道長達 36 天,記錄了超過 300 萬次請求。已公開的金鑰中只有 18 個被用來發送提示,而六個金鑰佔了洩漏金鑰提示請求的 98.9%,其中 86% 的流量來自託管基礎設施。作者列出三種可發現金鑰重複使用的日誌模式:短時間內一個金鑰下出現許多模型名稱、金鑰生效後出現固定間隔的檢查,以及來源位址的變化。
Terminal-Bench 4.1 已發布,配備改良的驗證器,旨在抵抗獎勵駭客行為;以新驗證器重新評分 TB 4.0 無需額外推論成本,花費為 $0。在 11,550 次試驗中,僅約 1.16% 的分數發生變化,且全部 35 個代理的更新分數仍落在其原始 TB 4.0 95% 信賴區間內。
Google Research 提出一套研究性框架,可將消費級穿戴式裝置資料轉化為可據以指導的健康年齡,並模擬個人化的 12 週「假設情境」健康軌跡。SensorWM 世界模型以約 10 萬名使用者、共 228 萬人週的去識別化 Fitbit 資料進行預訓練,能在不同的步數、睡眠與有氧作息下預測 20 項生理指標。在一項盲測研究中,生活型態教練在 71.4% 的評估中選擇以反事實為依據的計畫為整體最佳,醫師則評定 99.2% 的計畫落在安全運動強度範圍內;作者指出這些模型屬於研究原型,並非臨床診斷工具。
研究人員提出 HOPE,一種針對混合專家語言模型的二階專家剪枝方法,該方法考量共同激活專家之間的成對交互作用,而非獨立地為每個專家評分。在 50% 剪枝率下,HOPE 取得所有方法中最佳的平均排名,在代理式編碼任務上相較於次佳的剪枝方法最高提升 +6.1%。此研究針對 Qwen3.5-122B 等模型的記憶體瓶頸,其中專家 MLP 佔據約 250 GB 足跡的 95%。
Anthropic 報告指出,Claude Fable 5.2 僅憑極少提示便設計出三款電子裝置:免持擴音電話、語音助理中樞與掌上型虛擬寵物,且 Diode Computers 依其設計檔案打造出可運作的原型,無須修正電路。在 Diode 內部的 PCB Gym 基準測試中,Fable 5.2 得分 69%,Fable 5 則為 25%;在公開的 BenchCAD 2.1 上,它達到 83.5%,幾乎是 Claude Fable 5.1 的兩倍。這些裝置仍屬原型,尚未經過電氣驗證、天線調校、熱測試或認證,且 Claude 並未連接至測試設備或製造機器。
推薦理由:Anthropic 親自說明 Claude Fable 5.2 設計出三款可運作的電子裝置,顯示模型已從局部 PCB 佈局大幅進展到端到端的硬體原型製作。
Artificial Analysis 推出 Endpoint Accuracy Index v1.1,收緊了 AA-LCR-25 的信賴區間,並新增對 GLM-5.3 Flash 與 Muse Spark Open 的涵蓋。在受測的 103 個無伺服器端點中,有 24 個在統計上低於自架參考,原因包括輸出 token 上限、推理能力降低、工具呼叫格式錯誤與請求逾時。將 AA-LCR-25 提高至每題 25 次重複,使其平均 95% 信賴區間從 ±4.7 點收窄至 ±2.6 點,而在兩個版本下皆計分的 45 個端點上,綜合指數區間從 ±5.5 點收窄至 ±4.3 點。
Ai2 發布 ToyBlocks,這是一個圍繞機械手臂與桌面上積木建構的開放模擬框架,作為其 FoundationWorlds 中首個用於可控機器人學習研究的項目。ToyBlocks 透過 Isaac Lab 中的強化學習與運動規劃自動生成任務與示範,在單一 GPU 上可達最高 24 倍的即時資料生成速度,並隨附 85,336 條長時程示範,涵蓋近 1,600 小時與 1.44 億幀。在 Franka FR3 的真實世界測試中,ManiFlow 的原子技能成功率在模擬中為 80.0%,在硬體上為 81.1%;而 Molmo 2 加 ManiFlow 系統則在模擬回合中成功 55.5%,在真實回合中成功 50.0%。
NVIDIA Research 與 Inferact 的 REINFORCE Zero 論文顯示,對齊 rollout 與訓練器的核心,可讓未裁剪的 token 級重要性取樣修正剩餘的權重延遲,在策略延遲 64 下穩定訓練 20,000 次更新,並在核心對齊時達到同步訓練 2.40 倍的訓練步吞吐量。使用標準核心時,rollout 到學習器的 KL 中位數在整個訓練過程中上升 83.33 倍,線上 AIME24 pass@1 從 34.27% 降至 13.96%,而序列閘門雖能穩定訓練,但在最後 1,000 次更新時會拒絕 24.48% 的序列。零不匹配設定現已涵蓋 DeepSeek-V4.1-Flash、發布當日的 Kimi K3.1,以及在 AMD MI355X 上的 DeepSeek-V4-Flash 與 Kimi K3.1,程式碼位於 Inferact/zero-mismatch-rl 與 NVIDIA-NeMo/labs-molt。
推薦理由:NVIDIA Research 與 Inferact 將非同步 RL 的 rollout 與學習器差距拆分為權重延遲與核心不匹配,顯示對齊核心可讓未裁剪的重要性取樣在策略延遲 64 下維持穩定訓練。
SemiAnalysis 在 InferenceX/AgentX 上發布了首個針對 Google TPUv7 Ironwood 的長上下文、多輪代理式推論結果,涵蓋四個模型,發現其在每美元效能上具競爭力,或在若干情況下達到最先進水準。在 FP8 的 GLM-5.2 上,TPUv7 在每秒每使用者 60 至 300 個 token 的範圍內,每美元 token 數達到 B200、B300 和 MI355X 的 1.2 倍至 2.7 倍,而 FP4 GPU 在 GLM-5.3 上仍領先,因為 TPUv7 要到 2027 年第一季的 TPUv8 才具備原生 FP4 支援。文章還主張,與 AMD 和 Google 相比,NVIDIA 的官僚作風拖慢了驅動程式和生態系統的貢獻。
微軟研究院推出 PDD Kit,這是一個研究原型,能將開發者的自然語言意圖轉換為 Verus 形式規格,證明編碼代理的 Rust 程式碼對所有輸入皆符合該規格,並在證明無法觸及之處退回測試。在 GitHub Next 的 Chopin 內部示範中,團隊使用 PDD Kit 驗證 Pet Store 的登入邏輯,這是一個約 5,000 行的 Rust 全端應用程式,開發者審查的是意圖產物,而非逐行檢視生成的程式碼。PDD Kit 目前僅驗證 Rust,其保證建立在六個經開發者核准的可信片段上,包括 bcrypt 密碼檢查與兩次資料庫查詢。
Zyphra Research 發布了 ZYFA,這是針對 AMD MI355X(CDNA4、gfx950)的 BF16 與 FP8 因果預填充注意力核心,支援頭維度 128 以及 DeepSeek-V2 的 MLA 形狀。在 Mistral-7B、Qwen3-8B 與 DeepSeek-V2-Lite 於 16K token 的激活值上,ZYFA 的 FP8 核心達到 AITER 吞吐量的 1.16–1.76 倍;在 32K token 的高斯輸入上,頭維度 128 時為 1.26–1.37 倍,MLA 形狀時為 1.99 倍。在頭維度 128 時,FP8 誤差比 AITER 低 62–78%。
OpenAI 描述了訓練激活分類器(或稱探針)的方法,這些探針讀取模型內部的殘差流激活,以標記未對齊或違反政策的助手補全,並表示已從 GPT-5.6 開始在其最強能力模型的內部和外部流量上部署這些探針。這些探針採用 Attention probe 架構,結合 MLP 與 QV-attention 以及指數移動平均,使用最多 100 萬條由推理模型評審標註的訊息進行訓練,並在推理引擎上以串流方式運行,因此可以在回合中途封鎖補全。OpenAI 報告稱,探針在許多後訓練階段之間具有出色的遷移能力,但在預訓練檢查點之間的遷移較為有限,並表示在其紅隊測試中,探針整體上比基於內容的分類器對越獄更具穩健性。
推薦理由:OpenAI 詳述了內部模型激活上的激活探針如何作為串流安全層,包括它們在跨檢查點遷移方面的限制以及重新訓練的需求。
Zyphra 推出了 Zyphra Hierarchical Attention(ZHA),這是一種稀疏注意力方法,它建立一棵由壓縮 KV-cache 摘要構成的樹,並讓查詢自上而下地穿過這棵樹進行路由,在合適的 top-p 閾值下可達到次二次複雜度。現有的預訓練模型可以透過一個短暫的 KL 蒸餾階段進行適配,僅需使用數十億個 token;在 Qwen3.6-35B-A3B 上,ZHA 增加了 81,920 個可訓練參數,約占基礎模型的 0.00024%。在 256K token 的 RULER-13 上,寬樹模型得分為 96.2%,而稠密注意力為 96.0%;深層六級樹在 LongBench v2 上得分為 63.4%,而稠密注意力為 58.0%,同時僅關注約 1.1% 的 KV cache;一個 GPU roofline 模型預測,在 10M token 時相比稠密注意力可實現 32-35 倍加速。
SemiAnalysis 發布 GDPx,這是一項涵蓋晶片設計、網路安全、生物學、金融、法律、量化交易、RSI、硬體設計、材料科學、對齊與軟體工程的基準,由 14 個專業強化學習環境合作夥伴共同打造。即便是最佳模型也僅得 12%,其中 Opus 5.5 在量化交易、硬體與晶片設計奪冠,Gemini 4 Carbon 在生物學與軟體工程領先,GPT-6 Astra 則在 RSI 與材料科學居首。每項任務都在逼真的模擬環境中執行,例如約 4,000 個檔案的私募股權交易室或即時多服務網路靶場,這與 OpenAI 的 GDPval 不同;SemiAnalysis 認為後者過度餵給上下文,且缺乏環境。
Anthropic 發布 FlashProve,這是一個開源原型,使用 zkSNARKs 來證明某個回應來自一個已承諾的模型,而不揭露其權重。在 Llama 4 Maverick(400B 參數 MoE,4 位元權重)上,單張 H100 以約 110 tokens/秒 的速度生成證明,每 1,024-token 請求的證明約 19 MB,約為 vLLM 完成相同工作所需 GPU 時間的 70-95 倍。此發布包含可執行的證明者與驗證者程式碼、一個 C++ 快速驗證器、一個 Lean 驗證器(具備機器檢查的完備性、可靠性和零知識陳述),以及一份技術報告,全部採用 Apache 2.0 授權。
推薦理由:Anthropic 的 FlashProve 顯示,基於 zkSNARK 的推理證明對於一個 400B 參數的 MoE 模型正變得實用,並附有開放程式碼和經 Lean 檢查的安全性聲明。
將知識蒸餾與 Medusa 框架結合,讓 1.1B 參數的 TinyLlama 學生模型達到其 70B 參數 Llama-3.1 教師模型的品質,同時執行速度快 10 到 20 倍,成本不到三分之一。與 Booking.com 合作應用於 AI Trip Planner、Smart Filters 和住宿描述生成,此流程彌合了超過 90% 的品質差距,並透過 Medusa heads 額外帶來 2 到 3.6 倍的加速。
Meta 已將 Catching JiTTests(其基於 LLM 的即時測試生成方法)從研究原型推進至生產基礎設施,並在 FSE 2026 論文《Just-in-Time Catching Test Generation at Meta》中發表了結果。該系統利用閒置算力在夜間運行,針對有風險的 diff,透過 dodgy-diff 與意圖感知工作流程生成測試,並在結果送達工程師之前,以 LLM-as-Judge 集成加上基於規則的 RubFake 評估器過濾誤報。截至撰寫本文時,已有 589 名工程師(佔觸達人數的 64%)參與了這些結果,結果顯示真陽性率為 60%;在 2026 年上半年,該系統在 diff 階段捕獲了 74 個嚴重的隱私缺陷,並將隱私 SEV 降低了 20%。
Modal 在代理式編碼任務上訓練 Qwen3.6-35B-A3B,取樣器分散於六種加速器類型(B200、B300、H100、H200、A100、RTX PRO 6000),精度涵蓋 NVFP4、FP8 與 BF16,並將資料饋入一個位於 B200 上的 BF16 訓練器。樸素的 GRPO 在混合與同質取樣器上皆崩潰,但加入遮罩式重要性取樣與分數中心化(無論是否搭配 top-p 遮罩重播)後,訓練穩定進行至結束,並在 SWE-bench Pro V2 pass@4 上達到與同質取樣器相當的水準,每次更新的取樣器成本約低 15%。混合取樣器的取樣器與訓練器平均 KL 為同質設定的 4.7 倍,作者主張穩定性取決於將不匹配程度維持在有界範圍內,而非維持在低水準。
Amazon Web Services 研究人員提出 priming,此方法重用預訓練 Transformer 權重,將混合狀態空間架構的預訓練成本降低超過 99%,僅使用來源模型預訓練 token 預算的不到 0.5%。在受控比較中,Gated KalmaNet 優於 Gated DeltaNet 和 Mamba-2,而一個基於 GKA 的 32B 混合模型在推理基準上與其來源 Transformer 表現相當,同時在 128,000 token 上下文下解碼速度最高可達兩倍。團隊以 Apache 2.0 授權釋出了 8B 和 32B 的 primed 混合模型、訓練程式碼、Triton 核心以及 vLLM 服務外掛。
推薦理由:Amazon Web Services 研究人員展示,重用預訓練 Transformer 權重可將混合架構預訓練成本降低超過 99%,使狀態空間層的受控比較變得可行。
Zyphra Research 顯示 MoE 路由具有高度結構性,同一層內被共同選中的專家彼此相關,且一個 token 的專家選擇能預測後續層的路由。透過相關專家放置與 token 重排來利用這一點,在 MI300X GPU 上的 Megatron-LM 實驗中,將全對全通訊時間最多縮短 2.63×,並將端到端訓練步進時間最多提升 1.41×,且不改變架構或路由決策。
3 並將其部署到生產推理堆疊上,其中一個低成本的探針會過濾對話輪次,只有可疑的交流才會送到 LLM 評審。良性會話中斷率為 5%,在沒有評審推理的情況下每百萬輪次成本為 65 美元,有評審推理時為 185 美元,並且在 SGLang 內沒有可測量的吞吐量損失。
推薦理由:Goodfire 展示了一種探針加評審的級聯方案,能以大約低 50 倍的成本監控代理式網路濫用,且沒有可測量的吞吐量損失,這是安全地提供開放模型服務的具體配方。
Zyphra 以 Apache 2.0 授權發布 PUFFER,這是一套開源、具備來源感知能力的增量模糊去重系統,用於持續成長的 LLM 訓練語料。相較於現有基於 CPU 的去重方法,它帶來 11 倍至 35 倍的加速,並可在單一進程上於 1.75 小時內攝入十億份文件,且已在超過 300 億份文件上進行生產部署。PUFFER 保留一份存於磁碟的 MinHash-LSH 歷史紀錄,因此可以新增資料集、以確定性方式恢復中斷的工作,並可撤除個別資料集而無需重建整個語料索引。
IBM Research 擴展了 K-Search——來自 UC Berkeley Sky Lab 的演化式核心搜尋框架——加入了 MLX 後端,以及一個結構化的 CUDA 到 MLX 轉譯層,可將現有的 CUDA 核心改寫為 Apple Silicon 核心。在一個 MLX 注意力核心上,此方法達到了 Apple 原生 MLX Attention 核心速度的 0.97 倍,而在沒有轉譯上下文的情況下僅為 0.26 倍;在 M1 Max 上,一個演化出的 Mamba SSM 核心相較於社群版 mlx-lm 實作,prefill 速度提升最高達 20 倍。作者將此增益主要歸因於提供給 LLM 的上下文與約束品質,而非其撰寫 Metal 程式碼的能力,並表示該方法並非專屬於 MLX。
Modal Research 與 NYU Shanghai 的 HeavyBall Research 推出 Multi-token Residual Prediction(MRP),這是一個接在凍結擴散語言模型主幹上的 3 層模組,預測的是步驟間的 logit 殘差,而非完整的下一步分布。在 SDAR-4B GSM8K 上,MRP 在 K=3 時保持 70.9% 準確率,而樸素 MTP 蒸餾僅為 5.9%;在 SGLang 中,推測模式下可無損達到最高 1.56 倍吞吐量,或在激進的低閾值動態解碼下挽回最高 +16 個準確率點。論文、程式碼、SGLang 實作以及 Hugging Face 上的 SDAR-MRP 模型均已發布。
GRASP 是一種針對學習式世界模型的新型梯度式規劃器,透過將軌跡提升至虛擬狀態以進行時間平行優化、在狀態迭代中加入隨機性以促進探索,以及重塑梯度使動作獲得乾淨訊號,同時避免透過高維視覺模型產生脆弱的狀態輸入梯度,讓長程規劃變得實用。此研究解決了使長程規劃脆弱的病態計算圖、非貪婪局部極小值及高維潛在失效模式等問題。此工作與 Mike Rabbat、Aditi Krishnapriyan、Yann LeCun 及 Amir Bar 共同完成。