跳至正文
今天11月13日星期五27 条
  1. ElevenLabs Blog18

    每位人類與 AI 客服人員都必備的 7 項客戶服務技能

    ElevenLabs 列出七項客戶服務技能——溝通、解決問題、衝突化解、同理心、適應力、個人化與產品知識——人類與 AI 支援專員皆需具備。文中引用 Zendesk 一項研究發現,超過 50% 的客戶在經歷一次糟糕體驗後便轉向競爭對手,並引用 Gartner 的預測:到 2028 年,至少 70% 的客戶將從 AI 介面開始他們的旅程。該指南強調在訓練期間與部署之後評估對話指標,以及無縫轉接給真人以緩和衝突。

  2. Modal Blog40

    Modal Sandboxes 採用突發定價,相較預留方案節省 58% 成本

    Modal 現在改以實際使用中的資源向 Sandboxes 收費,而非固定預留,讓每個 Sandbox 能突破預設的 0.125 核心與 128 MiB 請求量,並僅按每秒實際用量付費。在一個 20 分鐘的編碼代理範例中,突發模式的成本為每 Sandbox-小時 8.4¢,固定預留則為 20.0¢,節省 58%。CPU 預設可較請求量突發最多 16 核心,記憶體則不設上限,除非另行設定限制。

  3. Factory55

    Factory 推出 Cyber Defense Network,將安全工具連結至 Security Factory

    Factory 推出 Cyber Defense Network,這是一個由網路安全公司組成的生態系統,其發現的結果會流入 Security Factory,讓 Factory Droids 能夠調查漏洞、實作程式碼變更,並透過測試驗證修復。創始合作夥伴包括 Snyk、Palo Alto Networks、Semgrep、Cogent、Casco、DepthFirst 和 Detail。此工作流程涵蓋來自合作夥伴工具的信號、對可觸及漏洞的分流,以及持續修復,產出可供工程團隊審查並合併的修復方案,同時組織仍保留其現有的安全工具與工作流程。

  4. GitHub Blog · AI & ML58

    GitHub 指南說明如何打造可在 Claude Code、Cursor 與 Copilot 上執行的 agent skills

    GitHub 發布了一份 agent skills 實用指南,agent skills 是以 SKILL.md 檔案為核心的版本化目錄,用來描述何時以及如何執行可重複的任務。該指南以兩個範例——用於對 AI 生成程式碼進行對抗式驗證的 Proof Agent,以及用於多技能資料管線的 Data Forge——說明技能如何共用專案 manifest、重複使用同一條執行路徑,並在每個階段設置人工核准。指南也介紹了一個打包腳本,可從單一 skills 來源為 Claude Code、Cursor 與 GitHub Copilot 產生各用戶端專屬的檔案。

  5. AWS Machine Learning Blog40

    Natera 如何在 Amazon Bedrock AgentCore 上打造用於實驗室營運的代理式 AI 系統 SWARM

    Natera 在 Amazon Bedrock AgentCore 上打造了用於實驗室營運的代理式 AI 系統 SWARM,將首次回應時間縮短約 130 倍,並自動處理 96.2% 的支援工單。該系統結合了在工程師開啟工單前先草擬診斷報告的 swarm-agent,以及供工程師即時互動的 swarm-hive,兩者共用同一個技能庫。它處理三個佇列中每天超過 65 張 Jira 工單,而這些工單過去平均需要 17.4 小時才能獲得首次回應。

  6. LangChain Blog45

    什麼是評估驅動開發?如何改進 AI 代理

    LangChain 說明了評估驅動開發(EDD),這是一套建構 AI 代理的三步流程:定義什麼算好、在建構前先寫好評估、每次變更後比較結果。由於代理具有非確定性,評估會在一組範例資料集上為每次執行評分,並可使用 LLM-as-a-judge,而以 LangSmith 中的真實代理執行作為測試輸入的來源。

  7. AWS Machine Learning Blog66

    AWS 更新 AgentCore 執行環境:工作階段啟動速度提升 15 倍、運算資源增加 4 倍

    AWS 宣布更新 Amazon Bedrock AgentCore 執行環境,這是其用於代理程式的受管運算層,工作階段現在啟動速度最高提升 15 倍,可擴展至 4 倍運算資源(最高 8 個 vCPU 與 32 GB,容器映像最高 10 GB),執行效率最高提升 68%,同時每個工作階段仍維持在各自硬體隔離的 Firecracker MicroVM 中。無論映像大小或並行數量,工作階段皆在 2 秒內啟動,閒置代理程式會縮減至零,代理程式可掛載檔案系統並將工作儲存至 Amazon S3 儲存貯體等位置,支援 FUSE,讓資料留在信任邊界內。此執行環境即日起在北美、南美、歐洲與亞太地區的 AWS 區域提供。

    推薦理由:AgentCore 執行環境的新版本同時調整了工作階段啟動、算力上限與記憶體計費,為需要長時間執行的智慧代理提供了隔離與成本之間的新取捨。

  8. AWS Machine Learning Blog34

    使用 Amazon Bedrock 和 LiteLLM 建立自助式 LLM 閘道

    一個建構於 Amazon Bedrock Application Inference Profiles 與執行在 AWS Fargate 上的 LiteLLM 的自助式 LLM 閘道,將 Bedrock 基礎模型封裝在相容於 OpenAI 的 API 之後,為開發者提供單一基礎 URL 與每位使用者的金鑰。此設定新增了每位使用者的支出控制、各模型的配額隔離,以及 CloudWatch RPM/TPM 可觀測性,並以 Langfuse 提供提示層級的遙測。自助式金鑰發放需要 LiteLLM Enterprise,因為免費方案僅限五名使用者。

  9. Google DeepMind90

    Google DeepMind 發布 Gemini 4 Hydrogen,一款更快的 Gemini 4 模型,專為程式編寫與代理式工作流程打造

    Google DeepMind 推出 Gemini 4 Hydrogen,這是一款 Gemini 4 模型,專為快速的日常程式編寫與代理式執行而打造,而非像 Gemini 4 Carbon 與 Argon 那樣著重於長程推理。它在預設的高思考等級下,於 Artificial Analysis Intelligence Index 上得分 51,而 Argon 為 50;在全新的 xhigh 設定下達到 54;其定價在其 100 萬 token 上下文視窗內一律為每百萬輸入 token 1.50 美元、每百萬輸出 token 7.50 美元。Google 亦在 Google Antigravity 中推出 Orchestrator,可在同一工作階段內於 Carbon 與 Hydrogen 等模型之間切換,並在 Terminal-Bench 4.0 上達到接近 Carbon 的任務成功率,同時少用 24% 配額、完成速度快 19%。

    推薦理由:Google 的 Gemini 4 Hydrogen 鎖定快速的日常程式編寫與代理式工作,在 100 萬上下文視窗內一律採每百萬 token 1.50/7.50 美元的定價,並搭配可在 Gemini 4 模型之間切換的全新 Orchestrator。

  10. AWS Machine Learning Blog34

    在 Amazon Bedrock 上最佳化每項任務成本並證明代理投資報酬率

    這篇 AWS 文章主張,Amazon Bedrock 的支出應以每項任務成本而非每詞元成本來衡量,因為分詞器效率、輸出冗長程度、代理迴圈次數與推理額外開銷,可能讓價格較低的模型反而成本更高。文中一個實例顯示,列表價格為兩倍的模型,每項任務的完成成本反而低 65%;文章還補充快取、路由與輸出限制,以及一套五維度評分卡,用來對照人工基準衡量代理的投資報酬率。

  11. Databricks Blog22

    H6.ai 如何用 Lakebase Postgres 打造 AI 驅動的財務自動化

    H6.ai 在客戶既有的 ERP 之上自動化應付帳款,並為每位客戶使用專屬的 Lakebase Postgres 資料庫作為系統記錄。由於發票資料不斷變動,團隊使用 Lakebase 的寫時複製分支(copy-on-write branches)凍結客戶資料庫的快照,並在各自短命的的分支上執行每項回歸測試,因此正式資料庫永遠不會被寫入。每次執行皆以確定性斷言,加上由不同模型供應商組成的 AI 評審團來評判。

  12. AWS Machine Learning Blog38

    Amazon Bedrock AgentCore Evaluations:內建、DeepEval 與 AutoEval 評估器

    Amazon Bedrock AgentCore Evaluations 現在讓團隊能執行 AWS 內建評估器,搭配受管的 DeepEval 與 AutoEval 指標,以及由兩者衍生的自訂評估器。內建目錄涵蓋 15 個評估器,橫跨回應品質、目標完成、工具使用、技能與安全,並包含三項針對預期工具路徑的軌跡檢查。DeepEval 新增多輪指標,例如 ConversationCompleteness 與 KnowledgeRetention,而 AutoEval 則提供包括安全性在內的專門訊號。

  13. AWS Machine Learning Blog36

    使用 LangGraph 與 Amazon Bedrock AgentCore Web Search 打造每日依賴監控器

    Amazon Bedrock AgentCore 中的 Web Search API 現已推出,讓代理能透過單一 SigV4 簽章的 API 呼叫取得即時網頁結果,該服務由 Amazon 營運的網頁索引提供。一篇逐步教學示範如何以 LangGraph 圖建構每日依賴監控,平行研究 npm、PyPI 與容器基礎映像,並在程式碼中強制執行日期範圍、封鎖清單與搜尋預算。測試中,三個分支在 36 秒內完成,相較於依序執行需 99 秒。

  14. AWS Machine Learning Blog58

    Moonshot AI 的 Kimi K3.1 Pro Highspeed 在 Amazon Bedrock 上線

    Moonshot AI 的 Kimi K3.1 Pro Highspeed 現已在 Amazon Bedrock 上提供,這是 Kimi K3 的後訓練版本,具備相同的 3T 級開放權重架構與 100 萬 token 上下文視窗,以更多後訓練算力訓練,針對長程代理式工作,並減少事實錯誤。Moonshot AI 回報其輸出速度為 Kimi K3.1 Pro 的 2–3 倍,現有 Kimi K3 使用者可透過變更模型 ID 切換。該文章展示了 Chat Completions、Responses 與 Converse API 呼叫、價格為 Standard 一半的 Flex 層級、使用 prompt_cache_breakpoint 的明確提示快取,以及將模型連接至 OpenCode 編碼代理。

  15. AWS Machine Learning Blog33

    Amazon SageMaker AI 雙向串流新增用量計價,Deepgram 為首發合作夥伴

    Amazon SageMaker AI 雙向串流現支援用量計量,讓模型供應商向 AWS Marketplace 軟體費用回報實際用量,而端點基礎設施費用仍照常收取。Deepgram 為首發合作夥伴,將以用量計價的語音轉文字與文字轉語音計費帶入 AWS Marketplace。此設計新增一條配套的 WebSocket 中繼資料串流,上限為每秒一則訊息、512 位元組,讓供應商能在即時工作階段中傳送增量計量記錄。

  16. AWS Machine Learning Blog60

    AWS 開源 UAEF,一個與框架無關的 AI 代理評估系統

    AWS 已開源 UAEF(Universal Agent Evaluation Framework),這是一個與框架無關的系統,透過適配器將來自 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的代理軌跡正規化為統一的 AgentTrace,再以 7 個維度下的 36 項內建指標進行評分。結果按實驗分別儲存在 Amazon DynamoDB 和 Amazon S3 中,讓團隊可以將代理版本與基準進行比較,以預設 5% 的閾值標記回歸,並生成統計報告及 LLM 撰寫的洞察。文章指出,電信、醫療保健和金融服務領域 12 個組織的客戶在發布前使用了 UAEF,Apache 2.0 程式碼、Python 函式庫、CDK 部署及各框架的 notebook 均位於 awslabs/uaef GitHub 儲存庫中。

    推薦理由:AWS 團隊開源 UAEF,用適配器把不同框架的 Agent 軌跡統一成一種格式,再以 36 項指標跨 7 個維度打分,為跨框架比較 Agent 版本提供了一套可復用的評測層。

  17. AWS Machine Learning Blog36

    AWS Quick AI-PDLC:以六個代理推動 AI 驅動的產品開發

    AWS Quick 推出 AI-PDLC,這是一套由六個專用代理組成的框架,並由一個 Orchestrator 統籌,涵蓋 Discovery、Prioritize、Working Backwards、Spec Generator 與 Designer,能將來自 Slack、Jira、Salesforce 與 SharePoint 的分散企業訊號,轉化為可追溯的 prototype_spec.md。每個階段都需經人工核准,且規格可透過開放的 Agent Client Protocol(ACP)交給 Kiro 或 Claude Code 等編碼代理。

  18. AWS Machine Learning Blog40

    AWS 開放其創新中心 23 項可重複使用的生成式 AI 資產目錄

    AWS 發布了一份目錄,收錄來自其生成式 AI 創新中心(現隸屬於 AWS Frontier AI Engineering & Services)的 23 項可投入生產的開源生成式 AI 資產。這些建構模組涵蓋 RAG 流程、文件處理器、代理程式骨架與評估框架,AWS 表示它們能將開發時間從數月縮短至數週。DoorDash 回報測試能力提升 50 倍,Ricoh 則在採用這些資產後回報吞吐量提升 7 倍。

  19. AWS Machine Learning Blog38

    DXC Technology 如何在 Amazon Bedrock 上打造多模型 AI 基座

    DXC Technology 在 Amazon Bedrock 上為其 DXC OASIS IT 營運框架建置了模型基座,透過單一託管介面即可存取 Anthropic Claude、Amazon Nova、Meta Llama 及開放權重模型。Amazon Bedrock Guardrails 對所有模型統一套用內容過濾、PII 去識別化與拒絕主題政策,而 AWS PrivateLink 則讓推論流量維持在客戶 VPC 內。DXC OASIS 自 2026 年 3 月起正式可用,並在 56 個實測使用案例中平均縮短了 95% 的解決時間。

  20. AWS Machine Learning Blog40

    Agent DLC:從原型到正式環境的 AI 代理工程

    AWS 推出代理開發生命週期(Agent DLC),這是一套框架,包含一個生命週期、兩個迴圈,以及單一明確標準,用來評判每一次代理變更。它針對三項會破壞傳統 CI/CD 的代理特性:非確定性、提示詞即原始碼,以及獨立移動的依賴項。一個參考用的人力資源政策助理顯示,在三道測試題中,區塊層級檢索精確度皆為 1.00,而事實層級精確度降至 0.09,且其中一道題的檢索覆蓋率為 0.00。

  21. AWS Machine Learning Blog36

    Amazon Bedrock Managed Knowledge Base 工具的細粒度存取控制

    AWS 展示如何透過 AgentCore Gateway 將搜尋功能以 MCP 工具形式開放,讓共用 AI 代理在 Amazon Bedrock Managed Knowledge Base 上實現每位使用者的文件存取權限。請求攔截器會將 Cognito JWT 中經驗證的使用者電子郵件注入 userContext,而 ACL 感知機制只會回傳該使用者有權檢視的文件。AgentCore 中的 Cedar 政策與知識庫上的資源型政策則提供第二層防禦,抵禦偽造或未經授權的搜尋。

  22. AWS Machine Learning Blog58

    AWS 詳解如何以 A2A 建構跨組織多代理系統

    AWS 發布了一套參考架構:在 Amazon ECS 上以 LangChain 為基礎的企業編排器,透過 A2A 協定呼叫部署於 Amazon Bedrock AgentCore、以 Strands Agents 為基礎的合規 SaaS 代理,雙方位於不同的 AWS 帳戶,且不共用任何密鑰。雙方各自以來自自家 Amazon Cognito 使用者集區的權杖進行驗證,而 SaaS 代理會回呼企業情境代理以取得帳戶中繼資料,因此這些代理是對等關係,而非用戶端與伺服器關係。該系統可從三個 Jupyter notebook 部署,這些 notebook 會佈建五個 CloudFormation 堆疊,並執行端對端測試及七項信任邊界檢查。

  23. AWS Machine Learning Blog34

    使用編碼代理遷移至 Amazon Bedrock Managed Knowledge Base

    AWS 在 Agent Toolkit for AWS 的 amazon-bedrock 技能中新增了知識庫遷移指南,讓編碼代理能夠規劃從客戶自管知識庫遷移至 Amazon Bedrock Managed Knowledge Base。代理會先進行唯讀探索與逐行審查的計畫,接著在原始知識庫旁建立新的知識庫與資料來源,或撰寫遷移後的 IaC 範本。Managed Knowledge Base 將預設配額提高至每個知識庫 200 個資料來源,以及每個帳戶每個 Region 10,000 個知識庫,並新增代理式擷取、AgentCore Gateway 整合與資源型政策。

  24. Replit Blog65

    Replit Agent 新增 Link 與 Visa 購買功能及 Google Ads 廣告活動建立功能

    Replit Agent 現在有兩項新任務:透過 Link 和 Visa 購買業務用品,以及在搜尋、YouTube、多媒體廣告和探索上建立 Google Ads 廣告活動。在購買流程中,瀏覽器子代理會導覽商家網站並準備結帳,然後等待擁有者核准最終總金額;付款期間會停用 shell 存取,且核准檢查會在程式碼中強制執行。Agentic Commerce 先在美國開放給 Core 和 Pro 使用者,僅限一次性購買;Agentic Ads 則全球開放給 Pro 使用者。

    推薦理由:Replit Agent 現在能處理購買和 Google Ads 廣告活動,並透過程式碼強制執行的核准關卡,展示如何設計代理的消費上限。

11月12日星期四
  1. Databricks Blog40

    Databricks Genie 的 Slack 應用程式正式推出一般可用版本

    Databricks 已將其 Genie 的 Slack 應用程式正式推出一般可用版本,讓使用者可透過私訊或 @提及 提出資料問題,並在討論串中取得以 Unity Catalog 權限為基礎的答案。每個答案都會引用來源,且透過 MCP 連接器,Genie 可先草擬文件、工單與紀錄的變更內容,待核准後再執行。

  2. Databricks Blog58

    Block 如何運用 Buzz 與 Databricks Unity Gateway 執行協作式 AI 代理

    Block 打造了 Buzz,這是一個開源協作工作空間,讓員工與 AI 代理在小組討論、聚焦對話和一對一交流中共同作業,並以 Databricks Unity Gateway 作為模型存取層。員工可以建立代理、為每個代理挑選背後的模型或程式設計工具,並選擇 Databricks 作為推論供應商,透過單一整合即可存取 OpenAI、Anthropic 和 Google 的前沿模型,以及部分開放權重模型。Block 的工程師也正在實驗多代理架構,由能力較強的模型協調執行較小、更高效模型的代理,並已建立一套內部方法來對這些代理團隊進行基準測試。

  3. LangChain Blog40

    LangChain 的 GTM Agent 如何打造一致且高品質的銷售素材

    LangChain 內部的 GTM Agent 在 12 週內產出了 1,540 份銷售素材,為業務代表在客戶計畫、提案簡報等文件上節省了 337 小時。在有寄出素材的交易中,47% 推進到後續階段,而條件相近但未寄出素材的交易僅有 16%;此外,46% 的素材在 14 天內促成了客戶通話。此 Agent 運行於 Deep Agents 框架上,其沙箱、技能、記憶與排程執行功能均已在 Managed Deep Agents 中提供。

  4. AWS Machine Learning Blog36

    使用 Amazon Bedrock 與 Spring AI 打造自主 AI 代理

    AWS 向 Java 團隊展示如何運用 Spring AI 與 Amazon Bedrock 的 AgentCore,並透過 spring-ai-agentcore 整合來打造自主 AI 代理。文中詳細介紹了兩套參考系統:一套是具備工具呼叫與記憶功能的單一代理旅遊助理,另一套是多代理智慧文件處理平台,包含五個專責代理、一個規則引擎與警示功能。此技術堆疊需要 JDK 21、Spring Boot 4.1 與 Spring AI 2.0,並透過 AgentCore 執行環境部署於 ARM64 容器上。

  5. LiveKit Blog55

    LiveKit 推出 Cloud API 公開測試版,讓編碼代理能管理 LiveKit Cloud

    LiveKit 發布 LiveKit Cloud API 公開測試版,讓編碼代理能建立與設定專案、管理成員與 webhook,並從代理通話中提取逐字稿、日誌、追蹤記錄與錄音。此 API 為 REST API,以使用者身分登入執行,會依據專案角色驗證短效權杖,敏感操作僅限專案管理員執行。在 LiveKit 文件助理上的一項測試中,一個編碼代理讀取了過去一週的 4,321 個工作階段,並在約 30 分鐘後回傳一份依序排列的 8 個問題清單。工作階段資料需要 Agent Observability,而透過 API 建立的專案預設關閉此功能;API 請求免費,但會依方案受到速率限制。

  6. OpenRouter Announcements58

    OpenRouter 發布教學:如何阻止 AI Agent 陷入無限迴圈

    OpenRouter 發布指南,說明如何阻止卡在重複重試失敗工具的 AI agent,採用四項防護機制,並在六個現行模型上測試。啟用 doomLoop 偵測後,六個模型都在第三次相同的工具呼叫時被攔下;在 18 次執行中,工具呼叫次數從 314 降到 64,花費則從 $0.29 降至 $0.05。該指南新增 loopKey 來正規化參數、以 stopWhen 設定步數與成本上限,並在 API 金鑰上設定額度上限,超額時會回傳 402,limit_source 為 openrouter_key_limit。

  7. OpenRouter Announcements28

    如何對 LLM 進行基準測試:OpenRouter 的程式碼評分指南

    OpenRouter 發布了一份指南,說明如何以你自己應用程式的輸入對 LLM 進行基準測試,用程式碼為輸出評分,並比較準確率、計費成本和請求時間。在其 60 項合成任務中,GPT-6.1 Sol 在三次重複中共通過 180/180 次試驗,而 DeepSeek 的通過次數為 157/180,回應成本最低。與公開排名的吻合度較弱,Spearman 相關係數為 0.109。

  8. AWS Machine Learning Blog36

    在 Amazon Bedrock 上執行 OpenAI Codex:存取路徑與部署指南

    本文說明如何將 OpenAI Codex 模型請求路由至 Amazon Bedrock,同時沿用既有的 AWS 身分、IAM、區域與可觀測性實務做法。文中建議先以 Native AWS Access 進行小規模的最小權限試點,並以 AgentCore Gateway 或 LLM Gateway 作為替代方案,接著逐步說明 IAM Identity Center 登入,以及使用 GPT-5.6 Sol 直接檢查 Bedrock Runtime 的流程。

  9. AWS Machine Learning Blog34

    形式化策略的語意差異比對與反統一

    一個開源引擎利用在 e-graph 上的反統一來計算形式化策略的語意差異,將共享結構只呈現一次,並保留每個差異部分的兩個版本。它針對 SMT-LIB、Cedar、Dogwood、OpenShell 策略與 CEL 中的自動形式化輸出,其中由 LLM 撰寫產物,但不參與差異的計算。

  10. AWS Machine Learning Blog41

    Amazon Bedrock AgentCore Web Search API 發布

    Amazon Bedrock AgentCore 現在提供獨立的 Web Search API,讓開發人員可直接從 AWS SDK 或 AWS CLI 以單一請求呼叫 InvokeWebSearch,無需建立任何資源。它會從 Amazon 營運的網路索引傳回排序後的結果,每筆結果包含文字摘錄,並在可用時附上標題、URL 與發布時間,且支援網域與日期篩選。請求以 SigV4 與 IAM 簽署,使用與 AgentCore Gateway 路由相同的權限。

  11. AWS Machine Learning Blog36

    2026 年 10 月 AWS 為 AI 開發者帶來哪些更新:Claude Haiku 5.5、GPT-6.1 Terra、AgentCore CLI 1.0

    AWS 的 2026 年 10 月彙整新增了 Claude Haiku 5.5,Anthropic 表示其在多數任務上的成本比 Claude Haiku 4.5 低約 75%;此外,Amazon Bedrock 上線 OpenAI GPT-6.1 Terra,輸入 token 最高可達 100 萬,價格至少比 GPT-6.1 Sol 與 GPT-5.6 Terra 低 50%。AgentCore CLI 達到 1.0 版,AgentCore Gateway 則新增模型容錯回退,並將 Step Functions 工作流程作為代理工具。

  12. AWS Machine Learning Blog12

    AWS re:Invent 2026 AI/ML 軌道:與會者指南

    AWS 將於 11 月 30 日至 12 月 4 日舉行年度 re:Invent 大會,AI/ML 軌道在超過 2,000 場總學習議程中提供逾 140 場獨特議程。該指南將議程對應至 AWS AI 堆疊,涵蓋 AI 晶片(AWS Trainium 與 NVIDIA GPU)、Amazon Bedrock 與 SageMaker AI 上的模型與推論,以及使用 Amazon Bedrock AgentCore 的代理程式開發。議程從新手內容編排至技術深入探討,且許多可隨選觀看。