跳至正文
11月12日星期四
  1. Meta Engineering Blog40

    Meta 智慧投遞:為廣告排序分配運算資源的機器學習系統

    Meta 詳細介紹了「智慧投遞」(Intelligent Delivery),這是一套由機器學習驅動的系統,會在其廣告投放堆疊中分配運算資源,以達到整體系統的最佳化,並在 2017 年至 2026 年上半年期間,於模型與系統進展的基礎上額外貢獻約 10% 的排序效能提升。其資源核心模型(Resource Core Model)使用 60 億稀疏參數與 2,000 萬稠密參數來預測每個請求的邊際效用,Meta 表示,在離線基準測試中,該系統將高影響力廣告請求的識別能力提升了約 20%。該系統也依賴多層次分配機制與日益具備代理能力的 AI,以隨著模型與硬體變化進行調適。

  2. Google Developers Blog58

    Google 工程師用 Gemini 4 Argon 與 Z3 捕捉 Go 邊界檢查中模糊測試漏掉的錯誤

    一位主導公司 agent skills 計畫的 Google 工程師建了一套流程,讓 Gemini 4 Argon 讀取 Go 原始碼與 RISC-V 反組譯,把殘存的 runtime.panicBounds 陷阱轉成 Z3 約束,再由 go test 把任何可滿足的輸入重放成真正的重現案例。這套流程在 skill-lint 中抓到了全部三個植入的錯誤與三個潛伏錯誤,而未設種子的 go test -fuzz 漏掉了其中兩個植入的當機,因為 Go 是拿切片對容量而非長度做檢查。用 data[:len(data):len(data)] 把容量裁到長度後,模糊測試器在三次執行中都讓兩個越界錯誤當掉,中位數分別為 0.28 秒與 0.17 秒。

  3. Google Developers Blog58

    Google Agent Anomaly Detection 在五項公開代理安全基準測試中的評分

    Google 讓其 Agent Anomaly Detection(於 Gemini Enterprise Agent Platform 上進行 Private Preview)接受五項並非由 Google 撰寫的公開代理安全基準測試,共評分 1,774 個工作階段。它標記出代理實際執行之有有害指令中的 87%,對 2% 至 16% 的良性工作階段發出誤報,且在 18 個因長期記憶遭投毒而驅使代理採取行動的工作階段中,僅攔截到 4 個。測試使用以 Agent Development Kit(ADK)在 gemini-2.5-flash 上建構的代理,涵蓋 AgentDojo、InjecAgent、Agent Security Bench、AgentDyn 與 AgentHarm。

  4. Google Blog · AI55

    Google Labs 推出 Tabletop,一個用於團體規劃的即時協作空間

    Google Labs 推出 Tabletop,這是一項全新的即時團體協作實驗,使用者可新增連結、檔案和想法,然後提示 @tabletop 或選擇入門範本,以生成互動式旅遊行程、晚餐投票、分帳工具和錦標賽對戰表。空間建立完成後,邀請連結可讓所有人加入並同時使用,就像在 Google 文件中一樣。Tabletop 正透過 labs.google/tabletop 的候補名單在美國(18 歲以上)逐步推出。

  5. Mastra Blog40

    Mastra Agents 私有模型閘道,支援自架模型

    Mastra 新增私有模型閘道,讓 agent 能將請求路由到自架的開放權重模型,並以 private/ollama/gpt-oss:20b 這類前綴來引用。自架可讓敏感資料留在網路內部,並以基礎設施成本取代按 token 計費的成本;設定 AUTO_BLOCK_EXTERNAL_PROVIDERS=true 可在 Studio 中隱藏外部供應商。此功能需要 @mastra/core@1.82.0 或更新版本。

  6. Claude Blog40

    Anthropic 的 Claude Tag 新創指南:熱門 Slack 頻道與使用案例

    Anthropic 發布了一份給新創公司的 Claude Tag(測試版)指南,內容基於與八家高成長公司的對談,了解他們最先在哪些環節部署這款以 Slack 為基礎的代理。指南涵蓋五種常見配置——待命分流、討論串轉 PR、公司大腦、自助式資料,以及報告——外加一份入門檢查清單。文中引用的成果包括:在 Slack 提及後 21 分鐘就開啟了一個 PR,以及 NavigateAI 從 Slack 討論串合併了 134 個 pull request。

  7. Claude Blog78

    Anthropic 推出 Claude Meetings 測試版,支援 Team 與 Enterprise 方案的 Google Meet

    Anthropic 發布 Claude Meetings 測試版,讓 Claude 以可見參與者身分加入 Google Meet 通話,能在聊天中回答問題、即時建立文件和白板,並撰寫筆記與待辦事項。每場會議在 claude.ai 上都有專屬頁面,包含逐字稿、筆記和產出物;預設情況下,除非管理員允許,Claude 不會加入有外部賓客的通話。此測試版在 Team 與 Enterprise 方案推出,部分組織無法使用,包括 ZDR、HIPAA-ready 和 CMEK 設定;測試期間筆記、逐字稿和通話中回答皆免費。

    推薦理由:Anthropic 的測試版發布展示了會議代理如何在通話進行中起草文件、取得已連接工具的資料並撰寫筆記,同時預設排除外部賓客的規則。

  8. Claude Blog78

    Anthropic 將 Claude Opus 5.5 設為 Pro、Max、Ultra 與 Team 方案的預設模型

    Claude Opus 5.5 現已成為 Claude 在 Pro、Max、Ultra 與 Team 方案中的預設模型,Anthropic 建議將其作為日常主力,用於研究、分析以及完成文件、簡報與試算表。Anthropic 表示,Opus 5.5 在中等強度下的表現,在其程式設計與知識工作評估中達到或超越 Opus 5 在高強度下的水準;在一項內部併購分析測試中,它以 Opus 5 執行同一任務一半的成本,於 63 分鐘內完成。該文章也列出新模型的提示詞調整方式,包括移除「think hard」指令、從中等強度開始,以及附上圖表而非重新輸入其數值。

    推薦理由:Anthropic 自家的指南說明了為何 Opus 5.5 現在是日常知識工作的預設模型,以及應為它捨棄哪些提示習慣。

  9. Claude Blog56

    Anthropic 開放自架 Claude Managed Agents 私人測試版

    Anthropic 以私人測試版形式發布自架 Claude Managed Agents,讓開發者能在自己的雲端或地端環境中執行完整的代理服務,包括 harness、沙箱、憑證與工作階段歷史。模型請求可直接送往 Anthropic、Amazon Bedrock、Google 的 Agent Platform 或 Microsoft Foundry,或透過客戶自己的閘道,而工作階段歷史則留在客戶的資料庫中。該公司表示,此設計讓代理迴圈與 vault 機密留在沙箱之外,支援允許主機的允許清單,並透過 OpenTelemetry 匯出每個工作階段的完整記錄。

  10. Figma Blog42

    3D 變換與 Figma 代理如何讓一支發布影片活起來

    Figma 已推出 3D 變換功能的公開測試版,讓設計師能在空間中傾斜、旋轉和排列文字、圖像、向量與畫框,並可對父畫框套用透視效果,以形成共享的空間構圖。這些非破壞性效果保持可編輯,能與著色器結合、用 Figma Motion 製作動畫,或透過 Figma 代理來探索。Figma 的 Brand Studio 使用了這些工具(包括一個由代理建構的生成式外掛)來製作該功能的發布影片。

  11. Claude Blog58

    Anthropic 推出 Claude for Manufacturing,內建 17 項技能並整合 Autodesk、Infor、Microsoft 365 與 NetSuite 連接器

    Anthropic 推出 Claude for Manufacturing,這是一款外掛,內含 17 項技能,涵蓋銷售、品質、營運、供應鏈、設計與設定,從草擬工作報價到診斷停機的機器。這款外掛透過連接器從製造商自身的紀錄中提取資料,連接對象包括 Autodesk Fusion、Infor、Microsoft 365 與 Oracle NetSuite,且每項技能在輸出送達客戶或供應商之前,都會以人工審核步驟作結。Anthropic 引用 2025 年製造業領導委員會(Manufacturing Leadership Council)的一項調查,其中 79% 的製造商表示他們以手動方式輸入資料,並表示計劃隨著時間推移增加更多製造業技能。

  12. Claude Blog31

    J.Crew 推出 Style Advisor AI 造型師,以 Claude Code 打造

    J.Crew 推出 Style Advisor,這是一款在 JCrew.com 上的 AI 造型師,推薦完整穿搭而非單一商品,目前已在美國提供女裝與男裝造型服務。J.Crew 團隊以 Claude Code 打造此工具,並使用多個 Claude 模型:Claude Fable 5.1 負責規劃造型師的推理邏輯,Claude Opus 5.5 用於原型開發,Claude Sonnet 5.5 在每次對話中擔任造型師,Claude Haiku 5.5 則處理快速任務。每一項推薦皆取自 J.Crew 自家造型師為型錄拍攝所打造的造型。

11月11日星期三
  1. Google DeepMind72

    DeepMind 發布 AlphaGenome 2,一款可預測特定細胞類型中變異影響的 DNA 模型

    Google DeepMind 宣布推出 AlphaGenome 2,這是一款新一代 DNA 序列模型,可預測 DNA 序列及其變異如何影響特定的人類細胞類型。該條件模型基於 68 種組織中超過 1.07 億個單細胞圖譜訓練,識別出的改變表現的變異數量幾乎是前代模型的兩倍;在 TenK10K 免疫細胞資料集上,它找回了 30% 的因果變異,而原始 AlphaGenome 在單細胞資料上微調後僅找回 16%。該模型可透過 AlphaGenome API 供非商業研究使用,商業研究則可透過私人預覽取得。

    推薦理由:AlphaGenome 2 從大量組織平均值轉向單細胞條件化,在免疫細胞資料上將因果變異召回率大致提高了一倍,這對於將 GWAS 訊號連結到特定細胞類型具有重要意義。

  2. ElevenLabs Blog25

    ElevenLabs 推出合作夥伴計畫,加速企業 AI 代理採用

    ElevenLabs 推出合作夥伴計畫,提供強化的商業激勵、全新認證、聯合上市機會與專屬技術支援。該計畫涵蓋 44 個國家超過 550 家活躍合作夥伴,合作夥伴生態系今年已創造 3.15 億美元的潛在商機,以及超過 5,200 萬美元來自合作夥伴採購與影響的營收。ElevenLabs 的目標是讓合作夥伴每創造 1 美元營收,就能獲得 3 美元的服務營收,並由前線部署工程師與全新的認證合作夥伴名錄提供支援。

  3. ElevenLabs Blog58

    ElevenLabs 紐約高峰會:Interaction Engine、ElevenAgents Memory 與 Routines、ElevenAI 應用程式、合作夥伴計畫與市集

    ElevenLabs 在其紐約高峰會上發表了新模型、代理及部署選項,用於其 AI 互動層,包括負責管理輪流發言並將對話各部分路由至較便宜或前沿 LLM 的 Interaction Engine。ElevenAgents 新增 Memory,可為回訪客戶建立結構化紀錄,以及 Routines,這是用於通話前、中、後多步驟工作的自動化層。ElevenLabs 也預覽了 ElevenAI 職場應用程式,今日開放免費早期存取,推出合作夥伴計畫,目前已有 44 個國家超過 550 家合作夥伴,並與 McKinsey 結盟,同時推出 ElevenLabs 市集;NVIDIA 的 Nemotron 3.5 Super VL 現已在 ElevenAgents 中提供,並新增 15 MW 的 Vera Rubin 運算容量。

  4. ElevenLabs Blog18

    為內容創作者打造的聲音複製:以語音 AI 擴展內容工作流程

    ElevenLabs 概述了聲音複製如何讓內容創作者只錄製一次簡短樣本,之後便能為影片、播客、課程和社群短片生成旁白,無需再回到錄音室。該指南區分了即時聲音複製(Instant Voice Cloning)與專業聲音複製(Professional Voice Cloning):前者能從簡短樣本在不到一分鐘內產生複製聲音,後者則以更大的錄音集進行訓練,並包含確認聲音屬於創作者的驗證步驟。指南還列出了選擇標準,包括聲音保真度、語調控制、語言覆蓋範圍、同意保障措施、匯出選項和商業授權。

  5. ElevenLabs Blog40

    ElevenLabs 推出企業級 AI 應用程式市集

    ElevenLabs 推出 ElevenLabs Marketplace,這是一個精選的產業專屬 AI 與語音應用程式集合,由技術合作夥伴基於其模型打造,首波合作夥伴包括 Salesforce、IBM、NiCE、Twilio 和 Zendesk。企業可以探索金融服務、保險、醫療保健、電信、零售及政府等領域的解決方案,並直接與其背後的合作夥伴聯繫。從明年開始,符合條件的合作夥伴解決方案將可透過現有的 ElevenLabs 承諾購買。

  6. Modal Blog58

    Modal 加入 gVisor 維護者行列,Google 將該專案捐贈給 CNCF

    Modal 是加入 gVisor 維護者行列的三家公司之一,另外兩家是 Ant Group 和 Tines;與此同時,Google 將該專案及其商標捐贈給 CNCF,並採用維護者主導的治理模式。Modal 表示,該公司每天啟動多達 4,000 萬個 gVisor 容器,並自 2023 年起持續向上游貢獻,包括 nvproxy GPU 支援、名為 rdmaproxy 的 RDMA 裝置代理,以及 tmpfs 和記憶體配置器最佳化。該公司表示,目前正為 gVisor 開發多 GPU 記憶體快照與 GPUDirect Storage 支援。

  7. ElevenLabs Blog58

    ElevenLabs 與 NVIDIA 擴大合作,將語音代理帶入企業與政府

    ElevenLabs 與 NVIDIA 擴大了在模型、基礎設施與主權部署方面的合作,將 NVIDIA Nemotron 3.5 Super VL 引入 ElevenAgents 平台。ElevenLabs 計劃在現有 Blackwell Ultra 系統的基礎上新增 15MW 的 NVIDIA Vera Rubin 容量,並利用 NVIDIA Confidential Computing 在本地為波蘭 Centralna e-Rejestracja 預約系統提供語音代理支援。根據 ElevenLabs 的說法,在 ElevenAgents 客戶支援基準測試中,Nemotron 3.5 Super VL 達到了領先的端到端任務完成準確率,成本比其他領先的開源模型低 70%。

  8. ElevenLabs Blog25

    McKinsey 與 ElevenLabs 結盟,在企業中規模化推展對話式 AI

    McKinsey 與 ElevenLabs 宣布結盟,協助組織先透過初期用例證明對話式 AI 的價值,再推展至整個企業。此合作結合 McKinsey 的產業與轉型專業(包括 QuantumBlack 的 AI 工程能力),以及 ElevenLabs 的前沿對話式 AI 技術與 ElevenAgents 平台。荷蘭電信商 KPN 已在使用這些新的 AI 驅動解決方案,該聯盟也計劃將此做法擴展至保險等服務密集型產業。

  9. ElevenLabs Blog22

    企業客戶如何將 ElevenLabs AI 投入實際運作

    ElevenLabs 表示,企業客戶目前貢獻其營收超過 55%,其技術已進入十大科技公司中五家、十大保險公司中五家,以及十大電信公司中四家的日常營運。在紐約峰會上,Ramp、Customers Bank、Banco Inter、Clover Health 與 FOX Sports 等客戶描述了如何運用 ElevenAgents 與 ElevenCreative 於客服代理、新人上手、多語言服務,以及在 FOX Sports App 中打造評論員 Colin Cowherd 的 AI 分身。

  10. Google Blog · AI18

    Google Arts & Culture 推出 Esther Mahlangu 博士線上回顧展

    Google Arts & Culture 發布了南非藝術家 Esther Mahlangu 博士的首個線上回顧展,配合她 91 歲生日,收錄超過 45 篇策劃故事,以及關於其藝術、生平與傳承的豐富檔案。由於檔案中沒有 1980 年以前的任何資料,團隊運用 AI 以視覺方式重現她未被記錄的記憶,先生成靜態圖像,再使用 Veo 將其轉化為影片。該展覽與大英博物館、南非 Iziko 博物館及蛇形畫廊等機構共同策劃。

  11. Hugging Face Blog42

    Tether AI Research 發布 BotPsy:基於 Qwen3.5-0.8B 打造的 0.8B 端側代理模型

    Tether AI Research 發布 BotPsy,這是一個基於 Qwen3.5-0.8B 打造的 0.8B 參數代理模型,用於端側個人助理的工具使用。它讓基礎模型的代理評分大致翻倍,BFCL v4 從 23.4 升至 44.0,τ-bench 從 23.2 升至 51.5,並在六項工具使用基準測試中擊敗所有測試過的 1.2B 參數以下模型。它還將不安全回應從 36% 降至 21%,並在 GPQA Diamond 上使用的推理 token 減少約 3 倍。

  12. inclusionAI Models34

    inclusionAI 發布基於 Qwen3.5-4B 的 LemonDecider 4B v3 決策模型

    inclusionAI 發布 LemonDecider 4B v3,這是一個從 Qwen3.5-4B 微調而成的決策模型,透過單次聯合前向傳遞回傳選項、是/否或序數機率,而非生成答案 token。該模型以約 120 萬筆決策/問答資料列訓練,在公開的 Decision Index 0.4 測試套件上得分 61.67,請求延遲中位數為 49.9 毫秒。

  13. Vapi Blog58

    Vapi 推出 Agent Loop 早期存取,這是一款可自我改進的語音代理框架

    Vapi 推出 Agent Loop 早期存取,預計明年初正式推出,這是一款可自我改進的框架,能從單純的提示詞建構語音代理,依據業務目標為每通電話評分,針對未達標之處草擬修正方案,在模擬環境中測試,並先推送給一小部分即時流量,之後再全面推出。此循環運行於 Vapi 的基礎元件上,包括現已可在儀表板使用的 Simulations 與 Traffic Splitting,以及即將推出的 Goals、Call Health 和 Experiments。每個 Agent Loop 代理都是真正的 Vapi 助理,因此工程師仍保有完整的儀表板和 API 存取權限,且任何變更在推出前都須經人工核准。

  14. vLLM Blog58

    vLLM 為多模態服務新增編碼器解耦,支援 EPD

    vLLM 擴展了用於多模態服務的編碼器/預填充/解碼(EPD)解耦,新增僅中繼資料請求、專用編碼器執行路徑、透過 NIXL 與 Mooncake 進行遠端嵌入傳輸、跨編碼器輸出重用,以及透過 vLLM Router、SMG 和 llm-d 進行編排。包括 MiMo 和 XPU 支援在內的核心能力隨 vLLM v0.32.0 發布,而針對 DeepSeek V4.1 Flash 的僅中繼資料支援則透過 #62802 在 main 上提供。在 GB200 上進行的 DeepSeek V4.1 Flash 測試中,EPD 在並行度 64–128 時,每 GPU 吞吐量比八 GPU PD 基線高 6.6–9.5%,P90 TTFT 低 44–47%,但在並行度 16 時每 GPU 吞吐量較低。

  15. OpenRouter Announcements65

    OpenRouter 在同一項 GitHub 任務上測量 MCP、CLI 與技能的上下文成本

    OpenRouter 在 Claude Sonnet 5.5、GPT-6 Luna 與 Gemini 3.8 Flash 上,以 GitHub MCP 伺服器、gh CLI 與 gh 技能測量同一項 GitHub 任務。在 Sonnet 5.5 上,三者皆正確作答,但 CLI 用了 1,421 個輸入 token,技能用了 3,315 個,而 MCP 伺服器用了 59,417 個,其 46 個預設工具單是定義就讓每次請求增加 19,436 個 token。將伺服器範圍縮減至兩個工具後,該任務降至 23,228 個 token;將結果上限設為 4,000 字元後,降至 5,357 個;Tool Search 將 46 個工具的前期成本降至 600 個 token 以下,不過它在 Sonnet 5.5 上將整項任務的成本減半,在 Claude Haiku 5.5 上卻提高了成本。

    推薦理由:OpenRouter 的實測比較顯示,MCP 伺服器、CLI 與技能在同一項 GitHub 任務上各自消耗多少上下文,以及精簡工具結果或延後載入定義會在何處改變帳單。

  16. Hugging Face Blog41

    Pooling-Aware Training for Multi-Vector Embedding Models with Sentence Transformers

    Hugging Face 展示 pooling-aware 訓練如何在固定儲存預算下提升多向量嵌入模型的檢索品質。當 pool_factor=4 時,一般訓練的模型保留其未池化 NanoBEIR nDCG@10 的 94.6%,同時將文件向量減少 4 倍,而 pooling-aware 訓練則將該保留率提升至 97.8%。文章逐步說明 HierarchicalTokenPooling、預算校準,以及一個可重現的 Sentence Transformers 範例。

  17. OpenRouter Announcements58

    OpenRouter 指南:修復 OpenAI 與 Claude 429 速率限制錯誤

    OpenRouter 發布了一份指南,說明如何處理來自 OpenAI、Anthropic 及其自家 API 的 429 Too Many Requests 錯誤,並在一批 60 個提示上測試了三種修復方式。OpenAI Python SDK 的預設重試在 12 秒內讓 60 個請求中有 23 個失敗,而等待 Retry-After 或 X-RateLimit-Reset 的重試方式則在 Python 中於 89 至 92 秒內完成全部 60 個請求,在 TypeScript 中則為 106 至 218 秒。模型備援機制在 13 秒內以 $0.000066 完成全部 60 個請求,而在開啟供應商容錯移轉的情況下,全部 150 個指定供應商的請求都成功,若關閉備援則最多有 32 個失敗。

  18. OpenRouter Announcements60

    OpenRouter 測試 fp8 與 fp4 量化對 LLM 品質與價格的影響

    OpenRouter 於 2026 年 10 月 20 日對 Qwen3.8 27B 的六個端點執行了 280 項精確答案任務,未偵測到 fp16、fp8 與 fp4 之間有準確率差異,六個端點的得分皆介於 98.3% 至 99.2% 之間。在 1,455 個端點中,59.5% 完全未回報精度,而 fp8 是最常見的標示格式,佔 23.6%。對多數模型而言,較低精度較便宜,但並非全部皆然;供應商選擇對價格的影響大於精度,同精度端點中最貴者為最便宜者的中位數 1.72 倍。

    推薦理由:OpenRouter 對同一模型的 fp8、fp4 與 fp16 端點進行了 240 項精確答案任務的測量,未發現可偵測的準確率差距,而價格差異與供應商的關聯大於與精度的關聯。

  19. inclusionAI Models40

    inclusionAI 發布 ZoomGain-9B 與 ZoomGain-4B 模型,同步推出 ZoomGainBench 與 RL 訓練資料

    inclusionAI 發布了 ZoomGain-9B 與 ZoomGain-4B 視覺語言模型檢查點,同時推出 ZoomGainBench 評估基準與 ZoomGain RL 訓練資料。ZoomGain 透過挖掘從全局到縮放的感知落差來建構細粒度視覺監督,而 ZoomGain-9B 在多項細粒度與通用感知基準上達到更優異的表現。ZoomGainBench 包含 941 張影像上的 1,000 道問題,而 RL 資料集則有 9,000 筆訓練紀錄與 7,713 張來源影像。

  20. inclusionAI Models38

    inclusionAI 發布 ZoomGain-4B 與 ZoomGain-9B,同步推出 ZoomGainBench 與 RL 訓練資料

    inclusionAI 發布了 arXiv 論文、ZoomGainBench 評估基準、RL 訓練資料集,以及 ZoomGain-4B/ZoomGain-9B 模型檢查點。28 個模型中最佳者在 ZoomGainBench 上得分 61.08,而 ZoomGain-9B 在多個細粒度與通用感知基準上達到更優表現。ZoomGain 挖掘從全局到縮放的感知落差,為視覺語言模型建立細粒度視覺監督。

  21. inclusionAI Models40

    inclusionAI 於 Qwen3.5 上發布 SingVL S1 4B 多模態決策模型

    inclusionAI 發布 SingVL S1,這是一個建構於 Qwen3.5 之上的 4B 多模態決策模型,能在單次 Transformers 前向傳遞中,針對文字或 JSON 以及最多四張圖片回答具名問題。它支援選擇題、是/否(noul)以及 2–10 級評分題,在 Public Vision Index 上得分 73.94,在 Public Text Index 上得分 69.76。該模型隨附 Python 推論程式碼與 FastAPI HTTP 伺服器。

  22. Microsoft Research75

    微軟研究人員描述 Lazarus:一種重新程式化 AI 代理中休眠神經元的後門

    微軟研究人員描述了 Lazarus,這是一種後門技術,可重新程式化 LLM 中不到 10 個休眠神經元,使建構於其上的代理在出現隱藏觸發條件時發出攻擊者指令,且無需重新訓練。修改後的模型仍能通過標準評估,並在觸發前表現正常,觸發條件可以簡單到只是日期變更,隨後代理便以其被賦予的任何權限執行下載的程式碼。作者表示,偵測需要與原始權重進行差異比對,而 Microsoft Foundry 已將開放權重模型與其發行商綁定並掃描其容器,同時紅隊測試框架、基於代理的權重掃描以及具備防篡改來源證明的簽署模型正在開發中。

    推薦理由:微軟研究人員展示,重新程式化不到 10 個休眠神經元即可在無需重新訓練的情況下對 LLM 代理植入後門,這使得權重來源與完整性成為實際的安全需求。

  23. LangChain Blog58

    LangChain 說明 AI 代理上下文工程的檢索技術

    LangChain 發布了一篇部落格文章,說明檢索設計如何形塑 AI 代理的上下文工程,並以建構於其 Deep Agents 框架上的競爭分析代理為例。文章涵蓋三種失敗模式:搜尋效率低落、一次載入過多上下文,以及結果不相關或過時,並為每種模式搭配相應技術,例如 glob 與 grep 檔案系統工具、以 read_file 偏移量分頁讀取大型檔案、將過大的工具結果卸載至檔案,以及在「檢索、卸載、委派」模式下將讀取工作委派給子代理。文章也警告,檢索到的文字是資料而非指令,可能帶有提示注入,因此輸出應對照引用的來源進行檢查。

  24. LangChain Blog60

    LangChain 說明 Deep Agents 如何在不把所有內容都留在上下文視窗的情況下管理上下文

    LangChain 詳細說明其開源 Deep Agents 框架如何運用中介層來對抗長時間代理執行中的上下文腐化。工具結果超過約 20,000 個 token、使用者訊息超過 50,000 個 token 時,會被卸載到檔案中,只顯示預覽;而當用量達到上下文視窗的 85% 時,摘要功能會壓縮較舊的訊息。技能、子代理和一個 markdown 長期記憶檔案讓主代理的視窗保持精簡,並讓記憶能跨模型和供應商延續。

    推薦理由:LangChain 說明其開源 Deep Agents 框架如何運用中介層來卸載、摘要和隔離上下文,為長時間任務中的代理提供可重複使用的模式。