跳至正文
11月13日星期五
  1. Hacker News · AI58

    AI 如何改變 Jørn Lier Horst 的寫作風格:從動作描寫轉向靜態描述

    Jill Walker Rettberg 將 Jørn Lier Horst 在 AI 協助下完成的小說《Den siste saken》與同系列較早的兩本書進行比較,發現被 AI 標記的段落使用更多名詞與形容詞,代名詞與動詞則較少。她指出,被 AI 標記的段落偏重靜態的場景描述,以及諸如嗡嗡作響、寂靜與沉重空氣之類的陳腔濫調,而 ChatGPT 問世前的小說則是透過角色動作來傳達場景。Horst 表示他僅將 ChatGPT 用於研究和句子層級的編輯,Rettberg 則主張,這樣的使用程度仍會改變文本本身。

  2. Hacker News · AI34

    e-means:更快的 k-means 變體,以及更便宜聚類的傑文斯悖論

    e-means 是一種新的 k-means 變體,它在每次遍歷中使用小批次和指數移動平均持續更新質心,在將 100 億個 DINO 嵌入聚類為約 1670 萬個簇時,僅需 2.5 個 epoch 即可達到全批次 k-means 的測試損失,而非 25 個 epoch。它保持相同的目標函數和凸最近質心幾何結構,並通過擬合縮放定律自動設定批次大小和更新率。作者認為,更便宜的運行意味著嘗試更多 k 值,而不是降低計算成本。

  3. MIT News22

    Breakthrough Energy 技術長 Eric Toone 談脫碳成本

    Breakthrough Energy 技術長 Eric Toone 在麻省理工學院能源計畫的 Energizing@MIT 會議上表示,全球經濟脫碳將耗資約 7.5 兆美元,約占全球 GDP 的 5%,但人們不願支付綠色溢價。Breakthrough Energy Ventures 已向約 140 家公司投入約 30 億美元,其中包括 Luxwall,其隔熱窗在一棟商業建築中實現了 30% 的節能。

11月10日星期二
  1. Latent Space58

    前沿實驗室買什麼:與 Handshake AI 的 Garrett Lord 及團隊的數據深度剖析

    Handshake 的 AI 訓練業務從推出到大約一年內達到 10 億美元的年化總營收,而這篇 Latent Space 與 Garrett Lord 及其團隊的深度剖析,逐一拆解前沿實驗室所購買的強化學習環境。在一個金融演示中,一個操作模擬銀行電子郵件與交易檔案的代理,將一個商譽數字帶入 Python 並將其減去,這個錯誤顯示出專家判斷在何處仍勝過模型。該團隊還展示了 VIALS,這是其用於解讀科學圖像的基準,並追蹤了一個代理在包括 CAREBench 在內的安全模擬中的工具調用。

10月30日星期五
  1. ChinaTalk38

    中國一半的AI算力真的都花在垃圾內容上嗎?

    一則瘋傳的說法指稱中國55%的AI token用於短劇和影片生成——此說法可追溯至COL集團6月的投資者電話會議——已引來字節跳動與《人民日報》的反駁,字節跳動稱影片生成僅占其自身算力約10%。2026年前八個月發布的約43萬部微短劇中,超過90%為AI製作,而在字節跳動的Seedance上,一段五秒720p片段約花費10萬個token。

10月27日星期二
  1. Redwood Research22

    Redwood Research 主張應加速 AI 的概念推理能力

    Redwood Research 主張,AI 的概念推理能力——諸如哲學這類缺乏可驗證基準真相的任務——應被差異化地加速發展,因為 AI 研發與接管對這類推理的依賴程度遠低於其他能力。該團隊表示,基本的引導技術與小規模訓練,就能讓模型在其主要概念推理基準上提升三到十二個月,而該領域目前被 AI 安全社群忽視且投資不足。

10月17日星期六
  1. Big Technology42

    Rivian 執行長 RJ Scaringe:機器人技術的進展遠比你想像的快得多

    Rivian 執行長 RJ Scaringe 表示,機器人技術的進展將「遠、遠、遠、遠比」世人預期的更快,並指出如今的機器人已能透過基於 transformer 的模型學習廣泛且可泛化的技能。他於 2025 年創立的初創公司 Mind Robotics 募得 10 億美元,用來打造賣給製造商的雙臂工業機器人,並在 Rivian 的工廠內訓練這項技術。

9月7日星期一
  1. Charlie O'Neill38

    讓我們押注 RL 環境:為何有用的資料與環境終將勝出

    本文主張,那些聲稱一切都將變成 RL 環境的人,並未依此信念行事;而隨著模型逼近 RSI,有用的 RL 環境將呈指數級愈發稀缺、愈發有價值。文章呼籲在真正專業的領域中建構長程任務,而非 Goodhart 式的任務農場,並主張環境的廣泛分佈勝過少數一組前沿難度的環境。

9月2日星期三
  1. Charlie O'Neill38

    試圖真正定義 AI 代理的持續學習

    一位作者探討 LLM 代理的持續學習,將當今的模型描述為失憶的實習生,其知識在上下文窗口結束時就會重置。LLM 只有兩種原生記憶:無損但昂貴的上下文與 KV 快取,以及壓縮但難以更新的權重,兩者之間幾乎沒有中間地帶。文章權衡了更長的上下文、有狀態的記憶框架,以及將上下文壓縮為學習到的潛在表徵,並引用了 Llama 3.1 70B 的 141 GB 權重和每個 token 320 KiB 的 KV 快取。

7月7日星期二
  1. Berkeley AI Research36

    智慧免費了,然後呢?為 Agent 而生、由 Agent 組成、由 Agent 打造的資料系統

    UC Berkeley 的 Aditya G. Parameswaran 與合作者主張,隨著推論成本從 2023 年初約每百萬個 token 30 美元降到今日不到 1 美元,資料系統必須圍繞三大挑戰重新設計:為 Agent 而生的系統、由 Agent 組成的系統,以及由 Agent 打造的系統。他們指出,在一個每項任務配置多個 Agent 的 text-to-SQL 基準測試中,只有 10-20% 的子計畫彼此不同,因此 80-90% 的子查詢都在重複相同工作,並據此提出重用、近似與主動式資料系統。

2月14日星期六
  1. Charlie O'Neill38

    AI 界的 Michael Scott 紙業公司:為何開源專業化在智慧上限上勝過前沿實驗室

    Opus 4.6 與 GPT-5.3-Codex 上週雙雙發布,但決定性的競爭並非原始能力。論點認為,多數具經濟價值的工作位於專業化層,在該層中,一個以客戶自有資料微調、參數低於 80B 的模型,在該客戶的工作流程上勝過 GPT-5.2——更快、更便宜,且不必將專有資料送交第三方。開源只需追上智慧上限,而非前沿,而實驗室對資本依賴的時鐘才是較弱的一環。

1月26日星期一
  1. Charlie O'Neill38

    持續學習與後單體式 AI 時代

    持續學習與專業化密不可分,因為記憶的成本會隨範圍擴大而增加:隨著上下文增長,KV 快取會線性增長,甚至可能超過所有模型權重,因此資訊必須從 token 層級移入權重之中。任務專業化基本上已透過持續微調流程解決,而廣泛範圍、稀疏回饋、一次性保留仍是困難的問題。