跳至正文
11月13日星期五
  1. AWS Machine Learning Blog38

    Amazon Bedrock AgentCore Evaluations:內建、DeepEval 與 AutoEval 評估器

    Amazon Bedrock AgentCore Evaluations 現在讓團隊能執行 AWS 內建評估器,搭配受管的 DeepEval 與 AutoEval 指標,以及由兩者衍生的自訂評估器。內建目錄涵蓋 15 個評估器,橫跨回應品質、目標完成、工具使用、技能與安全,並包含三項針對預期工具路徑的軌跡檢查。DeepEval 新增多輪指標,例如 ConversationCompleteness 與 KnowledgeRetention,而 AutoEval 則提供包括安全性在內的專門訊號。

  2. AWS Machine Learning Blog36

    使用 LangGraph 與 Amazon Bedrock AgentCore Web Search 打造每日依賴監控器

    Amazon Bedrock AgentCore 中的 Web Search API 現已推出,讓代理能透過單一 SigV4 簽章的 API 呼叫取得即時網頁結果,該服務由 Amazon 營運的網頁索引提供。一篇逐步教學示範如何以 LangGraph 圖建構每日依賴監控,平行研究 npm、PyPI 與容器基礎映像,並在程式碼中強制執行日期範圍、封鎖清單與搜尋預算。測試中,三個分支在 36 秒內完成,相較於依序執行需 99 秒。

  3. AWS Machine Learning Blog58

    Moonshot AI 的 Kimi K3.1 Pro Highspeed 在 Amazon Bedrock 上線

    Moonshot AI 的 Kimi K3.1 Pro Highspeed 現已在 Amazon Bedrock 上提供,這是 Kimi K3 的後訓練版本,具備相同的 3T 級開放權重架構與 100 萬 token 上下文視窗,以更多後訓練算力訓練,針對長程代理式工作,並減少事實錯誤。Moonshot AI 回報其輸出速度為 Kimi K3.1 Pro 的 2–3 倍,現有 Kimi K3 使用者可透過變更模型 ID 切換。該文章展示了 Chat Completions、Responses 與 Converse API 呼叫、價格為 Standard 一半的 Flex 層級、使用 prompt_cache_breakpoint 的明確提示快取,以及將模型連接至 OpenCode 編碼代理。

  4. AWS Machine Learning Blog33

    Amazon SageMaker AI 雙向串流新增用量計價,Deepgram 為首發合作夥伴

    Amazon SageMaker AI 雙向串流現支援用量計量,讓模型供應商向 AWS Marketplace 軟體費用回報實際用量,而端點基礎設施費用仍照常收取。Deepgram 為首發合作夥伴,將以用量計價的語音轉文字與文字轉語音計費帶入 AWS Marketplace。此設計新增一條配套的 WebSocket 中繼資料串流,上限為每秒一則訊息、512 位元組,讓供應商能在即時工作階段中傳送增量計量記錄。

  5. AWS Machine Learning Blog60

    AWS 開源 UAEF,一個與框架無關的 AI 代理評估系統

    AWS 已開源 UAEF(Universal Agent Evaluation Framework),這是一個與框架無關的系統,透過適配器將來自 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的代理軌跡正規化為統一的 AgentTrace,再以 7 個維度下的 36 項內建指標進行評分。結果按實驗分別儲存在 Amazon DynamoDB 和 Amazon S3 中,讓團隊可以將代理版本與基準進行比較,以預設 5% 的閾值標記回歸,並生成統計報告及 LLM 撰寫的洞察。文章指出,電信、醫療保健和金融服務領域 12 個組織的客戶在發布前使用了 UAEF,Apache 2.0 程式碼、Python 函式庫、CDK 部署及各框架的 notebook 均位於 awslabs/uaef GitHub 儲存庫中。

    推薦理由:AWS 團隊開源 UAEF,用適配器把不同框架的 Agent 軌跡統一成一種格式,再以 36 項指標跨 7 個維度打分,為跨框架比較 Agent 版本提供了一套可復用的評測層。

  6. AWS Machine Learning Blog36

    AWS Quick AI-PDLC:以六個代理推動 AI 驅動的產品開發

    AWS Quick 推出 AI-PDLC,這是一套由六個專用代理組成的框架,並由一個 Orchestrator 統籌,涵蓋 Discovery、Prioritize、Working Backwards、Spec Generator 與 Designer,能將來自 Slack、Jira、Salesforce 與 SharePoint 的分散企業訊號,轉化為可追溯的 prototype_spec.md。每個階段都需經人工核准,且規格可透過開放的 Agent Client Protocol(ACP)交給 Kiro 或 Claude Code 等編碼代理。

  7. AWS Machine Learning Blog40

    AWS 開放其創新中心 23 項可重複使用的生成式 AI 資產目錄

    AWS 發布了一份目錄,收錄來自其生成式 AI 創新中心(現隸屬於 AWS Frontier AI Engineering & Services)的 23 項可投入生產的開源生成式 AI 資產。這些建構模組涵蓋 RAG 流程、文件處理器、代理程式骨架與評估框架,AWS 表示它們能將開發時間從數月縮短至數週。DoorDash 回報測試能力提升 50 倍,Ricoh 則在採用這些資產後回報吞吐量提升 7 倍。

  8. AWS Machine Learning Blog38

    DXC Technology 如何在 Amazon Bedrock 上打造多模型 AI 基座

    DXC Technology 在 Amazon Bedrock 上為其 DXC OASIS IT 營運框架建置了模型基座,透過單一託管介面即可存取 Anthropic Claude、Amazon Nova、Meta Llama 及開放權重模型。Amazon Bedrock Guardrails 對所有模型統一套用內容過濾、PII 去識別化與拒絕主題政策,而 AWS PrivateLink 則讓推論流量維持在客戶 VPC 內。DXC OASIS 自 2026 年 3 月起正式可用,並在 56 個實測使用案例中平均縮短了 95% 的解決時間。

  9. AWS Machine Learning Blog40

    Agent DLC:從原型到正式環境的 AI 代理工程

    AWS 推出代理開發生命週期(Agent DLC),這是一套框架,包含一個生命週期、兩個迴圈,以及單一明確標準,用來評判每一次代理變更。它針對三項會破壞傳統 CI/CD 的代理特性:非確定性、提示詞即原始碼,以及獨立移動的依賴項。一個參考用的人力資源政策助理顯示,在三道測試題中,區塊層級檢索精確度皆為 1.00,而事實層級精確度降至 0.09,且其中一道題的檢索覆蓋率為 0.00。

  10. AWS Machine Learning Blog36

    Amazon Bedrock Managed Knowledge Base 工具的細粒度存取控制

    AWS 展示如何透過 AgentCore Gateway 將搜尋功能以 MCP 工具形式開放,讓共用 AI 代理在 Amazon Bedrock Managed Knowledge Base 上實現每位使用者的文件存取權限。請求攔截器會將 Cognito JWT 中經驗證的使用者電子郵件注入 userContext,而 ACL 感知機制只會回傳該使用者有權檢視的文件。AgentCore 中的 Cedar 政策與知識庫上的資源型政策則提供第二層防禦,抵禦偽造或未經授權的搜尋。

  11. AWS Machine Learning Blog58

    AWS 詳解如何以 A2A 建構跨組織多代理系統

    AWS 發布了一套參考架構:在 Amazon ECS 上以 LangChain 為基礎的企業編排器,透過 A2A 協定呼叫部署於 Amazon Bedrock AgentCore、以 Strands Agents 為基礎的合規 SaaS 代理,雙方位於不同的 AWS 帳戶,且不共用任何密鑰。雙方各自以來自自家 Amazon Cognito 使用者集區的權杖進行驗證,而 SaaS 代理會回呼企業情境代理以取得帳戶中繼資料,因此這些代理是對等關係,而非用戶端與伺服器關係。該系統可從三個 Jupyter notebook 部署,這些 notebook 會佈建五個 CloudFormation 堆疊,並執行端對端測試及七項信任邊界檢查。

  12. AWS Machine Learning Blog34

    使用編碼代理遷移至 Amazon Bedrock Managed Knowledge Base

    AWS 在 Agent Toolkit for AWS 的 amazon-bedrock 技能中新增了知識庫遷移指南,讓編碼代理能夠規劃從客戶自管知識庫遷移至 Amazon Bedrock Managed Knowledge Base。代理會先進行唯讀探索與逐行審查的計畫,接著在原始知識庫旁建立新的知識庫與資料來源,或撰寫遷移後的 IaC 範本。Managed Knowledge Base 將預設配額提高至每個知識庫 200 個資料來源,以及每個帳戶每個 Region 10,000 個知識庫,並新增代理式擷取、AgentCore Gateway 整合與資源型政策。

  13. Epoch AI · Gradient Updates60

    華為和林格爾資料中心揭示了中國算力缺口的哪些面向

    Epoch AI 估計,華為位於內蒙古的和林格爾資料中心約有 105,000 顆可運作的 Ascend 910C 與 8,000 顆 Ascend 910B 晶片,相當於約 81,000 顆 H100 等效算力(90% 信賴區間:36,000 至 141,000)。這項估計來自商業衛星影像,以及一套冷卻設備模型,該模型推算這四棟以 AI 為主的建築具備最高 286 MW 的 IT 電力容量。這使和林格爾的算力約為 SpaceX 位於田納西州的 Colossus 2 的 AI 算力的 7%,而一棟規劃中的建築可望在 2028 年初前將其容量提高逾 70%,但仍遠遠落後於 Colossus 2 預計的 180 萬顆 H100e。

11月12日星期四
  1. The Decoder80

    Anthropic 稱 AI 將 Claude 移植到 AMD GPU 的時間從數月縮短至三天

    Anthropic 表示,它幾乎在無人干預的情況下,用三天時間將 Claude 移植到 AMD GPU,並使用其前沿模型 Mythos 自行編寫了近 100% 的內核。聯合創始人 Tom Brown 表示,Anthropic 現在在 AWS Trainium、Google TPU、Nvidia GPU 和 AMD GPU 上訓練和運行 Claude,將它們視為一個可互換的計算池。這些數字來自一份投資者演示文稿,尚未經過獨立驗證;Anthropic 引用的三天對比傳統工程所需的六到十二個月,是在 AMD MI355X GPU 上以提示處理為基準測量的。

    推薦理由:Anthropic 聲稱其自家模型在三天內將 Claude 移植到 AMD GPU,這為 AI 能否鬆動 CUDA 對晶片選擇的掌控提供了一個具體的檢驗。

  2. TechCrunch · AI38

    Plurai 透過模擬技術讓 AI 代理更可靠,完成 1,300 萬美元種子輪募資

    Plurai 已完成 1,300 萬美元的種子輪募資,由 Team8 領投,目標是運用借鏡自自動駕駛汽車的模擬技術,讓 AI 代理更可靠。這家新創公司會建立企業系統的數位孿生,梳理出代理可能的運作流程,並利用合成資料讓模型為邊緣案例做好準備,接著再針對每位客戶微調小型開放權重模型。與 Nvidia 和 Nebius 進行的測試顯示,其模型以更低的成本超越了中階前沿模型。

  3. TechCrunch · AI58

    Databricks 更新 Genie 代理,使其能無人監督執行多步驟任務

    Databricks 發布了其 AI 代理 Genie 的更新版本,該版本能無人監督地完成延伸的多步驟工作,使用基於儲存在 Databricks 平台上客戶資料所建構的本體。執行長 Ali Ghodsi 示範了他自己的實際使用情況,包括分析員工滿意度調查中的弱點、總結一場失敗的銷售簡報,以及準備 podcast 訪談。Ghodsi 表示,員工超過 150 人的公司領導者能從這類代理中獲得價值,且可透過 Databricks 的 Unity Gateway 控制成本,該閘道可設定使用上限,並允許換用更便宜的開放權重模型。

  4. TechCrunch · AI52

    Fractile 完成 7.2 億美元 C 輪融資,打造搭載堆疊式 DRAM 的 AI 晶片

    英國 AI 晶片新創公司 Fractile 已完成 7.2 億美元的 C 輪融資,由英國主權 AI 基金(Sovereign AI Fund)出資支持,英國政府稱其估值超過 50 億英鎊,約合 70 億美元。本輪融資由 Thrive Capital、Founders Fund、Lightspeed Venture Partners 和 Redpoint 領投。Fractile 將其晶片與機器學習編譯器搭配使用,並在轉型後將 DRAM 堆疊在每顆晶片之上,試圖繞開常見的記憶體與容量之間的取捨,該公司認為這種取捨對代理式 AI 而言成本日益高昂。執行長 Walter Goodwin 表示,這筆資金將讓該新創公司於明年出貨首批晶片與系統。

  5. TechCrunch · AI58

    CoreWeave 倚賴客戶預付款與縮短合約來資助 AI 建設

    CoreWeave 在第三季財報中表示,該公司日益要求客戶預先付款、以特定合約為擔保進行借款,並簽署較短期的協議,以融資其 AI 基礎設施的成長。該公司公布營收 36.6 億美元,較去年同期成長 168%,同時淨虧損 7.09 億美元、季度利息支出 8.46 億美元;該公司預期未來三個月將有約 90 億美元的客戶預付款與保證金,對應 1,325 億美元的積壓訂單。執行長 Michael Intrator 表示,CoreWeave 不會在當前殖利率下使用無擔保債務市場,而短期產能每年每兆瓦售價超過 4,000 萬美元,相較之下四到五年期合約為 2,000 萬至 2,500 萬美元。

  6. Databricks Blog40

    Databricks Genie 的 Slack 應用程式正式推出一般可用版本

    Databricks 已將其 Genie 的 Slack 應用程式正式推出一般可用版本,讓使用者可透過私訊或 @提及 提出資料問題,並在討論串中取得以 Unity Catalog 權限為基礎的答案。每個答案都會引用來源,且透過 MCP 連接器,Genie 可先草擬文件、工單與紀錄的變更內容,待核准後再執行。

  7. Databricks Blog58

    Block 如何運用 Buzz 與 Databricks Unity Gateway 執行協作式 AI 代理

    Block 打造了 Buzz,這是一個開源協作工作空間,讓員工與 AI 代理在小組討論、聚焦對話和一對一交流中共同作業,並以 Databricks Unity Gateway 作為模型存取層。員工可以建立代理、為每個代理挑選背後的模型或程式設計工具,並選擇 Databricks 作為推論供應商,透過單一整合即可存取 OpenAI、Anthropic 和 Google 的前沿模型,以及部分開放權重模型。Block 的工程師也正在實驗多代理架構,由能力較強的模型協調執行較小、更高效模型的代理,並已建立一套內部方法來對這些代理團隊進行基準測試。

  8. NVIDIA Blog18

    Warhammer 40,000: Dawn of War IV 即將登上 GeForce NOW

    由 KING Art Games 開發、Deep Silver 發行的 Warhammer 40,000: Dawn of War IV,將於 12 月 3 日(週四)在 Steam 推出時同步登上 GeForce NOW。這款即時戰略遊戲收錄超過 70 個戰役任務,可單人遊玩或合作遊玩,另有 The Last Stand、遭遇戰與多人模式。搭載 3D-Guided Neural Rendering 的 NVIDIA DLSS 5 也將於 11 月中旬登陸 War Thunder,並於 11 月 23 日(週一)登陸 Where Winds Meet。

  9. The Decoder71

    ElevenLabs 推出 Scribe v3 與 Scribe v3 Live 語音轉文字模型

    ElevenLabs 發布了兩款語音轉文字模型:用於預錄音訊的 Scribe v3,以及主打低延遲即時使用的 Scribe v3 Live,兩者皆可透過 ElevenAPI 開發者介面與 ElevenAgents 平台取得。該公司表示,Scribe v3 在 102 種語言上相較前代可將詞錯誤降低約 25%,而 Scribe v3 Live 會運用對話上下文判斷說話者是否真正說完,而非依賴停頓計時器。Artificial Analysis 的獨立基準測試將 Scribe v3 列為最準確的轉錄模型之一,僅次於一款阿里巴巴的預覽模型,但顯示其在速度上落後,定價為每 1,000 分鐘 3.33 美元。

  10. Latent Space58

    Jev 革命:Glean、UiPath 與 Workday 的工程師如何運用 System One 模型打造應用

    在 AI Engineer Code Summit 上,TypeSafe AI 執行長 Diogo Almeida 主張,像 Jev 這類回傳結構化選項、分數或機率而非生成文字的 system one 模型,應直接從應用程式碼中呼叫,以更可靠地自動化任務。Glean 的 Chinmay Goyal 表示,Jev 適合零樣本靈活性,因為決策分類法變動時無需反覆微調;UiPath 則展示了 Jev 透過一連串呼叫的錦標賽機制對文件區塊進行排序,整個過程不到一秒完成。Workday 的 Scott Roberts 演示了一個介面,能在使用者輸入時即時填寫請假卡,他形容這是從預測你想說什麼,轉變為預測你想做什麼。

  11. LangChain Blog40

    LangChain 的 GTM Agent 如何打造一致且高品質的銷售素材

    LangChain 內部的 GTM Agent 在 12 週內產出了 1,540 份銷售素材,為業務代表在客戶計畫、提案簡報等文件上節省了 337 小時。在有寄出素材的交易中,47% 推進到後續階段,而條件相近但未寄出素材的交易僅有 16%;此外,46% 的素材在 14 天內促成了客戶通話。此 Agent 運行於 Deep Agents 框架上,其沙箱、技能、記憶與排程執行功能均已在 Managed Deep Agents 中提供。

  12. AWS Machine Learning Blog36

    使用 Amazon Bedrock 與 Spring AI 打造自主 AI 代理

    AWS 向 Java 團隊展示如何運用 Spring AI 與 Amazon Bedrock 的 AgentCore,並透過 spring-ai-agentcore 整合來打造自主 AI 代理。文中詳細介紹了兩套參考系統:一套是具備工具呼叫與記憶功能的單一代理旅遊助理,另一套是多代理智慧文件處理平台,包含五個專責代理、一個規則引擎與警示功能。此技術堆疊需要 JDK 21、Spring Boot 4.1 與 Spring AI 2.0,並透過 AgentCore 執行環境部署於 ARM64 容器上。

  13. LiveKit Blog55

    LiveKit 推出 Cloud API 公開測試版,讓編碼代理能管理 LiveKit Cloud

    LiveKit 發布 LiveKit Cloud API 公開測試版,讓編碼代理能建立與設定專案、管理成員與 webhook,並從代理通話中提取逐字稿、日誌、追蹤記錄與錄音。此 API 為 REST API,以使用者身分登入執行,會依據專案角色驗證短效權杖,敏感操作僅限專案管理員執行。在 LiveKit 文件助理上的一項測試中,一個編碼代理讀取了過去一週的 4,321 個工作階段,並在約 30 分鐘後回傳一份依序排列的 8 個問題清單。工作階段資料需要 Agent Observability,而透過 API 建立的專案預設關閉此功能;API 請求免費,但會依方案受到速率限制。

  14. OpenRouter Announcements58

    OpenRouter 以損益平衡負載計算比較自架 LLM 與 API 成本

    OpenRouter 發布一項損益平衡分析,說明自架開放權重 LLM 在何時比透過 API 呼叫更便宜,並採用截至 2026 年 10 月 8 日的各供應商價格。依這些價格,Qwen3.8 27B 在一張每小時 0.50 美元的租用 RTX 3090 上,於 6% 至 12% 負載時達到損益平衡;而 DeepSeek V4.1 Flash 在四張 H200 上,始終無法勝過最便宜的零資料保留端點。文章也指出,provider.zdr 以及歐盟與美國網域已能涵蓋多數隱私需求,無需自架,並建議在本機執行穩定的基礎負載,同時將尖峰流量送往 API。

  15. vLLM Blog60

    vLLM 新增對 Thinking Machines 的 Inkling 2 Small 的 day-0 支援

    vLLM 在 day 0 支援 Thinking Machines 的 Inkling 2 Small,這是一個多模態文字與視覺 MoE,總參數 594B、活躍參數 17B,上下文最多可達 1M 個 token。此整合加入了搭配 PDL 的核心融合、用於 prefill 的序列平行,在 TP4 下將 8K token 的 prefill 步驟縮短 22%,TP8 下縮短 26%,以及一個 Gluon 相對注意力解碼核心,將 100K 上下文下 batch-1 的解碼步驟從 15.1 ms 降至 4.8 ms。vLLM 回報在 GB200 上 TP4 時可達每使用者最高 630 TPS,接受長度 3.5,並且也透過 SkyRL 支援 LoRA 與 RL。

    推薦理由:vLLM 在發布當天即支援 Inkling 2 Small,並給出核心融合、序列平行和 Gluon 解碼核心的具體優化數據,可供部署大型 MoE 模型的團隊參考。

  16. OpenRouter Announcements58

    OpenRouter 說明其 7 種新語言背後的自動糾錯本地化流程

    OpenRouter 推出簡體中文、西班牙文、巴西葡萄牙文、德文、法文、日文與韓文的 Beta 版本地化,並詳細說明讓 16,918 條英文字串維持翻譯的自動糾錯流程。這個每日循環會將有變動的字串以每批最多 40 條送往 GPT-6.1 Sol,由程式碼攔截損壞的佔位符與違反詞彙表的情況,再以第二次呼叫同一模型作為驗證器,依嚴重程度回傳錯誤以便重試。OpenRouter 表示,將整個目錄完整重新翻譯成 7 種語言約需 460 美元,相較於 Smartling 公布的機器翻譯費率約需 7,200 美元。

  17. OpenRouter Announcements58

    OpenRouter 發布教學:如何阻止 AI Agent 陷入無限迴圈

    OpenRouter 發布指南,說明如何阻止卡在重複重試失敗工具的 AI agent,採用四項防護機制,並在六個現行模型上測試。啟用 doomLoop 偵測後,六個模型都在第三次相同的工具呼叫時被攔下;在 18 次執行中,工具呼叫次數從 314 降到 64,花費則從 $0.29 降至 $0.05。該指南新增 loopKey 來正規化參數、以 stopWhen 設定步數與成本上限,並在 API 金鑰上設定額度上限,超額時會回傳 402,limit_source 為 openrouter_key_limit。

  18. vLLM Blog64

    vLLM-Omni 在 Vera Rubin 上對 MiniMax H3-Image 進行基準測試:0.87 秒生成 4K 影像,每小時 6,115 張影像

    vLLM-Omni 將 MiniMax H3-Image 帶到 NVIDIA Vera Rubin,並測得在四張 GPU 上進行原生 4096×4096 文字轉圖像的中位延遲為 0.87 秒,另在獨立吞吐配置下達到每小時 6,115 張影像。H3-Image 是一個開放權重的文字轉圖像與編輯模型,結合 Qwen3-VL 編碼器、33.1B 稠密 DiT 與影像 VAE,以六個取樣步驟處理這兩項任務,並支援最多 16 張參考影像。團隊報告了 MXFP8 DiT GEMM、Ulysses SP4、AdaLN 快取,以及一項將解碼時間從 2.635 秒縮短至 0.213 秒的 VAE 解碼變更,並列出 AMD、Intel、華為昇騰與摩爾線程硬體的配置方案。

    推薦理由:vLLM-Omni 的基準測試顯示 MiniMax H3-Image 在 Vera Rubin 上以不到一秒的 4K 延遲運行,並附有各硬體配置與服務經濟性的成本模型。

  19. vLLM Blog72

    vLLM 在 Vera Rubin NVL72 上服務 DeepSeek-V4.1-Flash,吞吐量達 GB300 NVL72 的 58 倍

    vLLM 報告指出,在單一 NVIDIA Vera Rubin NVL72 機架上服務 DeepSeek-V4.1-Flash,每 GPU 達 1.7M tokens/s、每位使用者 387 tokens/s,為 GB300 NVL72 的 58 倍,峰值達 2.52M tokens/s,單一使用者可達 1,810 tokens/s。這些增益來自為 Rubin 分割記憶體域與 FP4 張量核心重建的 kernel、專用的 TP8 解碼路徑,以及透過 NVLink 共享的整機架 KV 與 Engram 池。透過整機架的前綴池化與 Dynamo 的工作負載感知路由,即使在高併發下前綴命中率仍維持在 96.5-97%。

    推薦理由:vLLM 第三篇 DeepSeek-V4.1-Flash 文章詳述 Rubin 專用 kernel 與整機架記憶體池化如何將吞吐量提升至 GB300 NVL72 的 58 倍,為大規模服務優化提供了具體參考。

  20. Hugging Face Blog36

    Hugging Face 發布 TRELLIS.2 3D 生成微調指南與腳本

    Hugging Face 發布了 3D 生成模型 TRELLIS.2 的微調腳本與容器,可在本機或 Hugging Face Jobs 上執行。該指南透過 PEFT 函式庫使用 LoRA 適配器,僅套用於稀疏結構流 DiT 與形狀流 DiT,材質階段則保持凍結。在 GSO 資料集的 188 個物件鞋類子集上,預訓練模型經常渲染出錯誤的鞋底,而 LoRA 微調正是針對此問題。

  21. AWS Machine Learning Blog36

    在 Amazon Bedrock 上執行 OpenAI Codex:存取路徑與部署指南

    本文說明如何將 OpenAI Codex 模型請求路由至 Amazon Bedrock,同時沿用既有的 AWS 身分、IAM、區域與可觀測性實務做法。文中建議先以 Native AWS Access 進行小規模的最小權限試點,並以 AgentCore Gateway 或 LLM Gateway 作為替代方案,接著逐步說明 IAM Identity Center 登入,以及使用 GPT-5.6 Sol 直接檢查 Bedrock Runtime 的流程。

  22. AWS Machine Learning Blog46

    在 Amazon SageMaker HyperPod 上偵測並復原無聲資料損毀

    在 Amazon SageMaker HyperPod 上執行的 PyTorch DDP 訓練迴圈新增了三項檢查來捕捉無聲資料損毀:非有限梯度檢查、環狀重播稽核(比對各節點的損失位元與梯度指紋),以及最佳化器步驟後的權重指紋比對。在 4 台 ml.p5.48xlarge 執行個體(32 張 NVIDIA H100 GPU)上以軟體注入故障測試,這些檢查能指出可疑的 rank、將其對應到節點,並讓 HyperPod 更換該節點並從檢查點繼續執行。

  23. AWS Machine Learning Blog41

    Amazon Bedrock AgentCore Web Search API 發布

    Amazon Bedrock AgentCore 現在提供獨立的 Web Search API,讓開發人員可直接從 AWS SDK 或 AWS CLI 以單一請求呼叫 InvokeWebSearch,無需建立任何資源。它會從 Amazon 營運的網路索引傳回排序後的結果,每筆結果包含文字摘錄,並在可用時附上標題、URL 與發布時間,且支援網域與日期篩選。請求以 SigV4 與 IAM 簽署,使用與 AgentCore Gateway 路由相同的權限。

  24. AWS Machine Learning Blog36

    2026 年 10 月 AWS 為 AI 開發者帶來哪些更新:Claude Haiku 5.5、GPT-6.1 Terra、AgentCore CLI 1.0

    AWS 的 2026 年 10 月彙整新增了 Claude Haiku 5.5,Anthropic 表示其在多數任務上的成本比 Claude Haiku 4.5 低約 75%;此外,Amazon Bedrock 上線 OpenAI GPT-6.1 Terra,輸入 token 最高可達 100 萬,價格至少比 GPT-6.1 Sol 與 GPT-5.6 Terra 低 50%。AgentCore CLI 達到 1.0 版,AgentCore Gateway 則新增模型容錯回退,並將 Step Functions 工作流程作為代理工具。

  25. MarkTechPost74

    Google 推出 Gemini Decisions API,搭載 Gemini Decision 1,每 100 萬個 token 收費 0.10 美元

    Google 推出 Gemini Decisions API,由名為 Gemini Decision 1(gemini-decision-1)的新模型驅動,該模型不生成文字,而是針對單一共享輸入對最多 1,000 道具型別的題目進行評分,並回傳經校準的機率。它在單次 prefill 中讀取文字、圖像、音訊、影片與 PDF,支援是/否、選擇與評分題型,定價為每 100 萬個輸入 token 0.10 美元,輸出 token 不計費。Google 表示其上下文長度為 262,144 個 token、端到端延遲 150-250 毫秒、top-1 ECE 為 0.0250,約為 TypeSafe Jev 1.14 的一半,不過在 When2Call 基準測試上落後 Jev(79.9% 對 82.0%),且每 token 成本更高(0.10 美元對 0.042 美元)。

  26. Simon Willison58

    AWS 推出官方本機模擬器,無需付費 API 金鑰即可測試其服務

    AWS 發布了一款官方模擬器,讓開發人員能針對其各項服務的本機複製品執行測試,無需佈建付費 API 金鑰。根據 Swaminathan (Swami) Sivasubramanian 在 Werner Vogels 部落格上的客座文章,該模擬器以 Rust 撰寫,並在專案前三週累積了 29,684 次提交。它目前在 macOS 和 Windows 上需要 Docker,而 Simon Willison 希望後續能推出單一可下載的二進位檔,以便在其他平台和語言的標準測試套件中使用。

  27. AWS Machine Learning Blog12

    AWS re:Invent 2026 AI/ML 軌道:與會者指南

    AWS 將於 11 月 30 日至 12 月 4 日舉行年度 re:Invent 大會,AI/ML 軌道在超過 2,000 場總學習議程中提供逾 140 場獨特議程。該指南將議程對應至 AWS AI 堆疊,涵蓋 AI 晶片(AWS Trainium 與 NVIDIA GPU)、Amazon Bedrock 與 SageMaker AI 上的模型與推論,以及使用 Amazon Bedrock AgentCore 的代理程式開發。議程從新手內容編排至技術深入探討,且許多可隨選觀看。