跳至正文
今天11月13日星期五1 条
  1. The Verge · AI58

    研究發現 ChatGPT、Gemini 與 Perplexity 推薦虛假零售網站

    IP 保護公司 Podqi 的一項研究發現,ChatGPT、Gemini 與 Perplexity 在回答關於 151 個品牌的購物問題時,均引用或顯示了有風險的零售網站,此類網站被定義為虛假店面、重新註冊的舊品牌網域或已失效的網站。在兩次九月測試期間收集的 6,795 個回答中,Perplexity 在 15% 的回應中顯示了有風險的網站,ChatGPT 為 8%,Gemini 為 4%,而 ChatGPT 有 24% 的時間對其顯示的有風險網站發出警告。關於較小品牌的查詢產生有風險網站的頻率約為較大公司查詢的兩倍,而關於區域品牌網站的提示更頻繁地觸發此類網站,Perplexity 曾一度將錯誤頁面指為 Stüssy 的官方網站。

11月12日星期四
  1. Google Research58

    Google Research 利用穿戴式裝置建立 CKM 風險概況與個人化指導

    Google Research 提出一套研究性框架,可將消費級穿戴式裝置資料轉化為可據以指導的健康年齡,並模擬個人化的 12 週「假設情境」健康軌跡。SensorWM 世界模型以約 10 萬名使用者、共 228 萬人週的去識別化 Fitbit 資料進行預訓練,能在不同的步數、睡眠與有氧作息下預測 20 項生理指標。在一項盲測研究中,生活型態教練在 71.4% 的評估中選擇以反事實為依據的計畫為整體最佳,醫師則評定 99.2% 的計畫落在安全運動強度範圍內;作者指出這些模型屬於研究原型,並非臨床診斷工具。

  2. The Decoder88

    Google DeepMind 的 AlphaProof Code 在四週內驗證 Signal 的密碼學核心,而非數年

    Google DeepMind 發表 AlphaProof Code,這是一套能以數學方式證明軟體符合其安全規範的 AI 系統,並用它驗證了運行在 Signal 使用者裝置上的密碼學核心程式碼,耗時四週,而這類工作通常需要數年。在專家定義形式化安全需求後,建構於 Gemini Carbon 上的 AI 代理以 Lean 證明語言撰寫了超過六百萬行,並標記約百分之一的程式碼庫供人工審查,立即抓出兩個刻意植入的錯誤。Signal 技術長 Ehren Kret 表示,隨著 AI 威脅日益增長,這種方法強化了對資料隱私的信任,而 DeepMind 計畫透過 CodeMender 等系統,將此方法擴展至電網與醫療裝置。

    推薦理由:DeepMind 的 AlphaProof Code 在四週內驗證了 Signal 真實的密碼學程式碼,展示 AI 代理如何將形式化驗證從設計文件推進到生產軟體。

  3. Google Developers Blog58

    Google Agent Anomaly Detection 在五項公開代理安全基準測試中的評分

    Google 讓其 Agent Anomaly Detection(於 Gemini Enterprise Agent Platform 上進行 Private Preview)接受五項並非由 Google 撰寫的公開代理安全基準測試,共評分 1,774 個工作階段。它標記出代理實際執行之有有害指令中的 87%,對 2% 至 16% 的良性工作階段發出誤報,且在 18 個因長期記憶遭投毒而驅使代理採取行動的工作階段中,僅攔截到 4 個。測試使用以 Agent Development Kit(ADK)在 gemini-2.5-flash 上建構的代理,涵蓋 AgentDojo、InjecAgent、Agent Security Bench、AgentDyn 與 AgentHarm。

11月10日星期二
  1. Google DeepMind82

    Google DeepMind 推出 AlphaProof Code,正式驗證 Signal 的加密程式碼

    Google DeepMind 研究人員使用 AlphaProof Code——一個多 LLM 代理框架——對 Signal 協議實際底層程式碼的關鍵安全屬性進行正式驗證。由 Gemini Carbon 驅動的代理生成了超過六百萬行 Lean 程式碼,人類專家僅審查了約百分之一的程式碼庫;驗證耗時四週,而這項任務歷來需要專家團隊數年時間。當兩個先前已修復的錯誤被重新引入 Signal 程式碼的隔離版本時,該系統產生了機器檢查的證明,證明有錯誤的版本不安全,DeepMind 正在將其正式驗證產物開源。

    推薦理由:Google DeepMind 的多代理框架在四週內正式驗證了 Signal 部署的加密程式碼,而這項任務歷來需要專家團隊數年時間。

11月6日星期五
  1. SemiAnalysis75

    SemiAnalysis 在代理式推論上以 Google TPUv7 Ironwood 對 NVIDIA GPU 進行基準測試

    SemiAnalysis 在 InferenceX/AgentX 上發布了首個針對 Google TPUv7 Ironwood 的長上下文、多輪代理式推論結果,涵蓋四個模型,發現其在每美元效能上具競爭力,或在若干情況下達到最先進水準。在 FP8 的 GLM-5.2 上,TPUv7 在每秒每使用者 60 至 300 個 token 的範圍內,每美元 token 數達到 B200、B300 和 MI355X 的 1.2 倍至 2.7 倍,而 FP4 GPU 在 GLM-5.3 上仍領先,因為 TPUv7 要到 2027 年第一季的 TPUv8 才具備原生 FP4 支援。文章還主張,與 AMD 和 Google 相比,NVIDIA 的官僚作風拖慢了驅動程式和生態系統的貢獻。

  2. Google Research72

    Google 研究人員利用智慧手錶 PPG 與加速度計資料偵測高血壓跡象,無需壓脈帶校正

    Google Research 在《Nature》發表一項關於 AI-PPG-ACC-HTN 的研究,這是一套多模態系統,可從智慧手錶的 PPG 與加速度計資料偵測高血壓跡象,且無需壓脈帶校正。該系統在美國五個地點的 196 名參與者中,以 24 小時動態血壓監測進行驗證,初步篩檢達到 65.8% 靈敏度與 90.0% 特異度,確認性檢測則達到 78.4% 靈敏度與 90.9% 特異度。作者將這項工作描述為早期可行性研究,並非臨床手臂壓脈帶的替代品,也不是獨立診斷工具。

    推薦理由:Google 的無壓脈帶智慧手錶高血壓模型以 24 小時動態監測為基準進行評估,顯示被動式多日感測器資料彙整如何支援機會性篩檢。

11月5日星期四
  1. Google Research47

    Google Research 的 Agile Deliberation 協助人類定義主觀的 AI 類別

    Google Research 推出 Agile Deliberation,這是一套框架,將主觀 AI 分類器的建立轉化為反覆對話,由 AI 協助使用者釐清自己的定義。它將任務拆分為概念範疇界定與概念迭代,運用視覺語言模型找出邊界案例影像,並將回饋導入自動提示優化迴圈。在 18 場各 1.5 小時的實際使用者工作坊中,此方法減輕了使用者的疲勞與焦慮,並產出更一致的模型,表現優於標準基準;程式碼已在 GitHub 開源。

11月2日星期一
  1. Import AI42

    Import AI 479:Spacewar、低延遲任務對比 LLM、Genie 4

    Import AI 479 涵蓋 Realtime-Bench,這是一套包含 50 項任務的基準測試,由 UT Austin、Ohio State、UIUC、NVIDIA、Northwestern 與 Steadyworks 的研究人員打造,包含 30 項網頁任務與 20 項遊戲任務,用來測試前沿模型能否在即時壓力下行動。GPT-6 Astra(high)取得最高的實際耗時通過率 36%,而在暫停計時的執行中,高推理模型可達到約 70% 至 80%。本期亦涵蓋國防情報局的「Challenges to Security in Space」報告與 Genie 4。

10月28日星期三
  1. Google Research58

    Google Research 的睡眠框架讓 LLM 能鞏固新知識而不會災難性遺忘

    Google Research 提出一套用於持續學習的睡眠框架,讓主動互動與離線記憶鞏固交替進行,使 LLM 能將新事實吸收進擴展的混合專家參數中,而不會丟失先前的知識。此方法結合參數擴展、基於強化學習模仿的 on-policy 蒸餾,以及一個會生成並過濾合成訓練樣本的做夢階段。作者報告指出,在滿語和 Kalamang 等未見語言的持續翻譯上效能下降接近於零,在 BABILong 上擴展到 1000 萬 token 時幾乎完美,在基於 SQuAD 的事實融入上單任務達 48.9%、CPT 達 46.2%,在 AIME 24/25 和 HMMT 25 上則分別達 79.2%、69.0% 和 46.1%。

10月24日星期六
  1. Epoch AI · Gradient Updates42

    Epoch 簡報:AI 工作自動化測試、SpireClimb 基準,以及 Gemini 4 Argon 的前沿推進

    Epoch AI 在 11 項真實的 Epoch 工作任務上測試了六個領先模型,發現沒有一個能可靠達到其品質標準,其中 Claude Fable 5.1 與 GPT-6 Astra 大致並列領先。其新的 SpireClimb 基準顯示,前沿模型在六個月內從在《Slay the Spire》中苦苦掙扎,發展到能贏得超過 90% 的基礎難度對局,其中 GPT-6 Astra 達到 98%。Gemini 4 Argon 在 Epoch Capabilities Index 上得分 166,與 Claude Fable 5.1 並列,落後於同為 169 的 Claude Opus 5.5 和 GPT-6 Astra。

10月22日星期四
  1. Google Research58

    Google Research AI 模型在盲掃超音波下,於預估孕齡方面與專家超音波技術員表現相當

    Google Research 在 JAMA Network Open 發表了一項前瞻性多中心研究,顯示其 AI 模型可從盲掃超音波估算孕齡,平均絕對誤差為 4.18 天,而專家超音波技術員使用標準生物測量法的誤差為 4.48 天。該模型僅在 120 名芝加哥參與者上進行了最低限度的調校,並在奈洛比未經任何本地優化的情況下進行測試,達到 4.27 天的 MAE,相較之下芝加哥為 4.10 天。這項研究針對前線孕產婦照護,世界衛生組織估計每年有超過 250,000 例可預防的妊娠相關死亡,且三分之二的人缺乏診斷影像的可及性。

10月17日星期六
  1. Google Research71

    Google Research 概述 VERID 與閉環代理工作流程,用於自主濕實驗室

    Google Research 描述了三個旨在將 AI 代理紮根於真實濕實驗室實驗的專案,包括 VERID 框架——一個建構於開源 PyLabRobot 框架上的實驗室工作單元語義數位孿生,可追蹤平台佈局、孔槽體積與吸頭庫存,並在執行前對協議進行乾跑。

    推薦理由:Google Research 概述了三個將 AI 代理連接至真實濕實驗室硬體的專案,展示模擬乾跑與閉環實驗如何讓代理修正自身的設計規則。

10月8日星期四
  1. Waymo Blog30

    Waymo 研究:清醒駕駛夜間致命車禍風險仍高出近 4 倍

    Waymo 經同儕審查的研究發現,即使完全清醒的駕駛,夜間致命車禍風險仍比白天高出 3.1 至 3.9 倍;而移除酒精受損駕駛後,都市平均致命車禍涉入率可降低 23%,從每 1 億英里 1.42 起降至 1.10 起。另一項針對 2023 年 FARS 資料庫中 37,654 起致命案例的研究顯示,僅 8.2% 單純涉及人為行為因素。Waymo 將這些發現詮釋為對「安全系統方針」的支持,以及以零 BAC 人類基準來衡量自動駕駛的依據。