跳至正文
今天11月13日星期五1 条
  1. Hacker News · AI85

    取證分析將六個中國前沿模型與受出口管制的 NVIDIA Blackwell GPU 相關聯

    Unemployment Labs 對已發布模型權重的取證分析發現,來自 DeepSeek、Moonshot AI、MiniMax 和螞蟻集團的六個模型是在 NVIDIA Blackwell 硬體上初始化,而同一批實驗室較早的模型則與 Hopper 相符。該方法從保留的權重中還原每個模型的隨機種子和執行緒佈局,作者表示這些匹配已在實體 H100、B300 和 GB200 晶片上重現。報告估計每次訓練運行在兩到三個月內需要大約 500 到 3,000 塊 Blackwell GPU,並指出這些證據並未確定晶片所在位置,也未確定是否違反了出口管制。

    推薦理由:該報告僅從已發布的模型權重中得出硬體證據,提供了一種可重現的方法,無需依賴洩露即可追蹤是哪種 GPU 初始化了模型。

11月12日星期四
  1. OpenRouter Announcements28

    如何對 LLM 進行基準測試:OpenRouter 的程式碼評分指南

    OpenRouter 發布了一份指南,說明如何以你自己應用程式的輸入對 LLM 進行基準測試,用程式碼為輸出評分,並比較準確率、計費成本和請求時間。在其 60 項合成任務中,GPT-6.1 Sol 在三次重複中共通過 180/180 次試驗,而 DeepSeek 的通過次數為 157/180,回應成本最低。與公開排名的吻合度較弱,Spearman 相關係數為 0.109。

  2. vLLM Blog72

    vLLM 在 Vera Rubin NVL72 上服務 DeepSeek-V4.1-Flash,吞吐量達 GB300 NVL72 的 58 倍

    vLLM 報告指出,在單一 NVIDIA Vera Rubin NVL72 機架上服務 DeepSeek-V4.1-Flash,每 GPU 達 1.7M tokens/s、每位使用者 387 tokens/s,為 GB300 NVL72 的 58 倍,峰值達 2.52M tokens/s,單一使用者可達 1,810 tokens/s。這些增益來自為 Rubin 分割記憶體域與 FP4 張量核心重建的 kernel、專用的 TP8 解碼路徑,以及透過 NVLink 共享的整機架 KV 與 Engram 池。透過整機架的前綴池化與 Dynamo 的工作負載感知路由,即使在高併發下前綴命中率仍維持在 96.5-97%。

    推薦理由:vLLM 第三篇 DeepSeek-V4.1-Flash 文章詳述 Rubin 專用 kernel 與整機架記憶體池化如何將吞吐量提升至 GB300 NVL72 的 58 倍,為大規模服務優化提供了具體參考。

11月10日星期二
  1. Recode China AI38

    烏蘭察布,一座偏遠的中國城市,成為AI繁榮之城與年輕勞工的磁石

    烏蘭察布曾是內蒙古一座鮮為人知的城市,隨著資料中心遍布其草原,如今已成為新興的AI運算樞紐,吸引來自中國各地的年輕勞工。快手於2023年在當地啟用其首座自建資料中心,DeepSeek則於今年4月刊登資深維運職缺,月薪最高達3萬元人民幣(4,200美元)。如今勞動市場已趨於飽和,雇主紛紛提高招聘門檻,有些甚至只考慮學士學位持有者。

11月8日星期日
  1. Recode China AI22

    Apple 在中國的 Apple Intelligence 中測試 Qwen,同時騰訊為 Hy4 加入視覺能力

    Apple 本週在中國的 Apple Intelligence 中開始對 Qwen 進行開發者測試,為計劃於 12 月隨 iOS 27.3 推出的正式版本做準備,將以選擇加入的方式把 Qwen 引入 Siri、Writing Tools 和 Visual Intelligence。騰訊 11 月 4 日發布的 Hy4 新增視覺推理與電腦操作能力,而百度、Moonshot、螞蟻集團和美團也發布或推出了新模型。

11月6日星期五
  1. vLLM Blog77

    REINFORCE Zero:核心對齊讓非同步 RL 在策略延遲 64 下穩定訓練,並擴展至 DeepSeek-V4.1 與 Kimi K3.1

    NVIDIA Research 與 Inferact 的 REINFORCE Zero 論文顯示,對齊 rollout 與訓練器的核心,可讓未裁剪的 token 級重要性取樣修正剩餘的權重延遲,在策略延遲 64 下穩定訓練 20,000 次更新,並在核心對齊時達到同步訓練 2.40 倍的訓練步吞吐量。使用標準核心時,rollout 到學習器的 KL 中位數在整個訓練過程中上升 83.33 倍,線上 AIME24 pass@1 從 34.27% 降至 13.96%,而序列閘門雖能穩定訓練,但在最後 1,000 次更新時會拒絕 24.48% 的序列。零不匹配設定現已涵蓋 DeepSeek-V4.1-Flash、發布當日的 Kimi K3.1,以及在 AMD MI355X 上的 DeepSeek-V4-Flash 與 Kimi K3.1,程式碼位於 Inferact/zero-mismatch-rl 與 NVIDIA-NeMo/labs-molt。

    推薦理由:NVIDIA Research 與 Inferact 將非同步 RL 的 rollout 與學習器差距拆分為權重延遲與核心不匹配,顯示對齊核心可讓未裁剪的重要性取樣在策略延遲 64 下維持穩定訓練。

11月3日星期二
  1. Recode China AI40

    中國 AI 如何找到自己的人設:DeepSeek 的粉絲自製鯨魚女孩與擬人化 AI 品牌轉向

    DeepSeek 的粉絲自製動漫吉祥物「鯨魚女孩」,暱稱「大胖藍魚」,在創作者 ZipZipPipe 使用 GPT Image 2 改編早先角色後於 Bilibili 爆紅,熱度在 DeepSeek-V4.1-Flash 發布前後達到高峰。該角色從未獲得 DeepSeek 官方認可,卻反映出更廣泛的轉變:中國 AI 實驗室從 ERNIE、GLM 等英文縮寫,轉向文心、千問等中文名稱,再轉向字節跳動豆包這類貼近人心的擬人化形象。

11月2日星期一
  1. Import AI42

    Import AI 479:Spacewar、低延遲任務對比 LLM、Genie 4

    Import AI 479 涵蓋 Realtime-Bench,這是一套包含 50 項任務的基準測試,由 UT Austin、Ohio State、UIUC、NVIDIA、Northwestern 與 Steadyworks 的研究人員打造,包含 30 項網頁任務與 20 項遊戲任務,用來測試前沿模型能否在即時壓力下行動。GPT-6 Astra(high)取得最高的實際耗時通過率 36%,而在暫停計時的執行中,高推理模型可達到約 70% 至 80%。本期亦涵蓋國防情報局的「Challenges to Security in Space」報告與 Genie 4。

11月1日星期日
  1. Recode China AI22

    CXMT 進軍 HBM3E,宇樹科技第三季營收成長 70%,中國股市下滑

    CXMT 公布第三季淨利 544 億元人民幣、營收 1,187.1 億元人民幣,年增 613.2%;路透社稱其已向國內晶片設計商送出 HBM3E 樣品,儘管良率僅 20–30%,仍計劃在兩個月內進行有限量產。宇樹科技上市後首份財報顯示,第三季營收成長 69.9% 至 6.65 億元人民幣,研發支出增加約 250%。Moonshot 推出具備百萬 token 上下文窗口的 Kimi K3.1 Pro,隨後為速率限制致歉,並恢復訂閱用戶每月額度的四分之一。

10月25日星期日
  1. Recode China AI38

    DeepSeek 150億美元融資、Moonshot 推出 Kimi K3.1 Pro,以及中國 AI 就業政策

    據報導,DeepSeek 以 5000 億人民幣投前估值募得約 1000 億人民幣,騰訊與寧德時代為最大投資方之一。Moonshot AI 推出 Kimi K3.1 Pro,具備一百萬 token 上下文窗口,並推出號稱運行速度快兩到三倍的高速版,在 Terminal-Bench 4.0 上得分 65.7%。中國國務院發布指導意見,涵蓋六大領域共 18 項任務,將 AI 驅動的就業創造與應對失業的措施相結合。

10月22日星期四
  1. SemiAnalysis75

    華為與DeepSeek的共生關係:Ascend 950PR 基準測試與 DeepSeek 的 Ascend 核心支援

    SemiAnalysis 檢視了華為與 DeepSeek 的合作,對 Ascend 950PR(28 個 cube 核心、128 GiB HBM)進行基準測試,並回顧 DeepSeek 於 9 月 30 日發布對 TileLang、DeepGEMM、DeepEP、TileKernels、FlashMLA 和 DeepSelect 的 Ascend 支援。950PR 達到 1.6384 TB/s 峰值 HBM 頻寬,在小訊息尺寸下頻寬利用率勝過 H100,而其運算達成/可達比例中位數為 41.5%,H100 則為 46.8%;目前僅 TileLang 可用,因為撰寫時所需的 CANN 9.2.0 尚未發布。作者主張,儘管華為硬體落後,其軟體堆疊已接近前沿,並指出多數最佳化針對超級節點,而 vLLM-Ascend 在 x86 主機上仍無法開箱即用。

10月18日星期日
  1. Recode China AI40

    中國擬議AI出口管制,DeepSeek押注機器人,Infinigence募資3.34億美元

    中國商務部與科技部擬將AI模型、代理、晶片設計與運算叢集納入技術出口管制目錄,草案規則將API、應用程式與SaaS存取排除在外。據報導,DeepSeek計劃領投機器人AI新創Winverse AI的種子輪,而Infinigence AI完成23億元人民幣C輪融資。DeepSeek亦發布V4.1-Flash-1017,權重採MIT授權,並具備100萬詞元上下文視窗。

10月13日星期二
  1. Recode China AI34

    DeepSeek 工程師一篇關於 AI 風險的爆紅部落格文章,以及 Anthropic,引發全球媒體關注

    DeepSeek 機器學習與核心工程師劉勝宇的一篇部落格文章在網路上爆紅,他質疑前沿 AI 如今是否能夠自行優化其低階 GPU 程式碼,並將 Anthropic 執行長 Dario Amodei 比作阿道夫·希特勒。這篇文章引來《南華早報》與《商業內幕》等媒體報導,放大了關於誰該掌控先進 AI 的爭論。

2025年5月28日星期三
  1. Vapi Blog30

    DeepSeek R1 與 V3:語音 AI 開發者該怎麼選

    DeepSeek V3 每秒處理的 token 數比 R1 多 47%,每百萬輸出 token 收費 0.28 美元;R1 每百萬收費 2.19 美元,並會針對較難的任務執行內部推理迴圈。R1 在 MATH-500 上得分 97.3%、在 AIME 2024 上得分 79.8%,V3 則分別為 90.2% 與 39.2%。多數團隊會把 80-90% 的簡單查詢導向 V3,並將複雜的推理工作交給 R1。