如何為 AI 代理設計有效的工具：來自 OpenAI、Anthropic、Google 與 MCP 的指引
本文彙整了 OpenAI、Anthropic、Google 與 MCP 規範對於為 AI 代理設計工具的建議，並涵蓋了這些指南未提及的部分。文章主張工具應圍繞工作流程而非 API 端點來建構，名稱、描述與結構定義是模型會照字面解讀的契約，而回應與錯誤也是提示的一部分。
全部動態
Hacker News · AIAI 評分6262 Hacker News · AIAI 評分4040 史丹佛 CS 329Z：AI 代理工程課程涵蓋代理設計、RAG、工具與多代理系統
史丹佛的 CS 329Z「AI 代理工程」課程逐步拆解代理式系統的結構——LLM 核心、推理、記憶、工具與環境——以及複合式 AI 系統與真正代理之間的落差。課程涵蓋 RAG 流程、工具使用與透過 MCP 的函式呼叫、DSPy 與 LangGraph 編排、MemGPT 等記憶架構，以及多代理編排模式。課程最後以 GEPA、PPO 與 GRPO 等最佳化方法作結，並有 Terminal-Bench 創作者的客座講座。
Hacker News · AIAI 評分3636 AI 安全維基：企業 AI 安全的實作參考
AI 安全維基是保障企業採用 AI 的參考資料，涵蓋治理、風險管理、安全工程、營運監控、供應商評估與保證，並以可重複使用的範本頁面呈現。它將控制目標、稽核證據與測試案例對應到 ISO/IEC 42001、NIST AI RMF、NIST SSDF、PCI DSS v4.0.1、FINOS AI 治理框架及 CERT-In 的 AI 安全稽核指引等框架。它還包含一個 682 個案例的測試庫，取材自 OWASP 清單、MITRE ATLAS 與 NIST AI 100-2。
Hacker News · AIAI 評分5858 Sovereign：一個無需標籤就能學會該信任哪個模型的路由器
Solibra 打造了 Sovereign，這是一個位於應用程式與模型供應商之間的路由器，它會根據自身已完成工作的評分，逐次請求學習該選擇哪個模型，既不需要標準答案，也不需要事先了解這些模型。在針對 Claude Opus 5.5 與 Claude Haiku 5.5 執行的八項公開基準測試中，Sovereign 在每一項基準上都比 Opus 少花 43% 到 81% 的成本，在 USACO、LiveCodeBench 與 SATBench 上的準確率達到或超越 Opus，並且在每一處都比 Haiku 更準確，在 USACO 上最多高出 55 個百分點。在 USACO 上，其準確率從前 25 項任務的 88% 上升到最後的 97.7%，約在第 150 項任務附近超越 Opus，而其評分器與隱藏標準答案的一致率達 95%。
ElevenLabs BlogAI 評分1818 每位人類與 AI 客服人員都必備的 7 項客戶服務技能
ElevenLabs 列出七項客戶服務技能——溝通、解決問題、衝突化解、同理心、適應力、個人化與產品知識——人類與 AI 支援專員皆需具備。文中引用 Zendesk 一項研究發現，超過 50% 的客戶在經歷一次糟糕體驗後便轉向競爭對手，並引用 Gartner 的預測：到 2028 年，至少 70% 的客戶將從 AI 介面開始他們的旅程。該指南強調在訓練期間與部署之後評估對話指標，以及無縫轉接給真人以緩和衝突。
Databricks BlogAI 評分3636 利用詳細稽核日誌與 Genie 偵測 Databricks 上由憑證驅動的攻擊
Databricks 詳細說明憑證驅動的攻擊如何在其平台上展開，以及詳細稽核日誌加上 Genie 如何偵測遭竊的 PAT、工作階段 Cookie 或服務主體憑證被使用後的行為轉變。該文章將攻擊者活動劃分為六個階段，從初始登入到環境偵察，並涵蓋應變步驟與限制遭竊憑證可觸及範圍的控制措施。
Databricks BlogAI 評分3636 Bright Machines 運用 Debezium 與 Iceberg，讓客戶從氣隙隔離工廠取得即時儀表板
Bright Machines 現在能讓客戶取得來自氣隙隔離工廠的即時、受治理的工廠資料儀表板，且無需開放任何 inbound 存取。它在邊緣端以 Debezium 擷取 PostgreSQL 變更，寫入為 Apache Iceberg，透過單一可稽核的 outbound 路徑推送出去，並在 Databricks 中透過 Unity Catalog federation 就地讀取。第一個客戶可見的儀表板在啟動後約兩個月上線，已提交的資料列可在一到兩分鐘內查詢，儀表板每十分鐘重新整理。
OpenRouter AnnouncementsAI 評分5858 OpenRouter 在 274 題 RAG 基準上測試 11 個重排器
OpenRouter 在一個 274 題的合成 RAG 資料集上對 11 個重排器進行了基準測試，發現用 voyageai/rerank-3-lite 對向量搜尋的前 30 個候選進行重排，可將 precision@1 從 81.0% 提升到 97.1%，每 1,000 次查詢成本約 $0.10。該指南建議檢索約 30 個片段、對其重排，並只將前 3 個傳送給 LLM，在其測試中這將答案準確率提升到 99.3%，同時將每 1,000 個問題的作答成本從 $0.22 降到 $0.16。它還指出了失敗模式：省略 input_type 參數會損失 7 到 12 個百分點的 precision@1，而 cohere/rerank-v3.5 會默默忽略超出其 4,096 token 限制的內容。
Hacker News · AIAI 評分3535 逆向工程 Coway 空氣清淨機以擺脫雲端依賴
一名開發者對支援 Wi-Fi 的 Coway Airmega IconS 空氣清淨機進行了逆向工程，以減少其對 Coway IoCare 雲端的依賴，並在大型語言模型的協助下架設了中間人攔截環境。既有的 Home Assistant 整合會冒充 Coway 的手機應用程式，但屢屢失效——伺服器封鎖、IoCare 更名為 IoCare+、HTML 版面變更以及服務中斷——促使了這項行動。2026 年 10 月憑證機構 eMudhra 發生的弱金鑰事件，為攔截該裝置的流量提供了一個可能的切入點。
GitHub Blog · AI & MLAI 評分5858 GitHub 指南說明如何打造可在 Claude Code、Cursor 與 Copilot 上執行的 agent skills
GitHub 發布了一份 agent skills 實用指南，agent skills 是以 SKILL.md 檔案為核心的版本化目錄，用來描述何時以及如何執行可重複的任務。該指南以兩個範例——用於對 AI 生成程式碼進行對抗式驗證的 Proof Agent，以及用於多技能資料管線的 Data Forge——說明技能如何共用專案 manifest、重複使用同一條執行路徑，並在每個階段設置人工核准。指南也介紹了一個打包腳本，可從單一 skills 來源為 Claude Code、Cursor 與 GitHub Copilot 產生各用戶端專屬的檔案。
AWS Machine Learning BlogAI 評分4040 Natera 如何在 Amazon Bedrock AgentCore 上打造用於實驗室營運的代理式 AI 系統 SWARM
Natera 在 Amazon Bedrock AgentCore 上打造了用於實驗室營運的代理式 AI 系統 SWARM，將首次回應時間縮短約 130 倍，並自動處理 96.2% 的支援工單。該系統結合了在工程師開啟工單前先草擬診斷報告的 swarm-agent，以及供工程師即時互動的 swarm-hive，兩者共用同一個技能庫。它處理三個佇列中每天超過 65 張 Jira 工單，而這些工單過去平均需要 17.4 小時才能獲得首次回應。
Databricks BlogAI 評分3030 Databricks 破解關於 Lakebase 架構的四個 LTAP 迷思
Databricks 回應了對 LTAP 的四種常見誤讀；LTAP 是 Lakebase 架構，讓營運資料只保留一份受治理的副本，同時服務 Postgres 與分析，且無需 CDC。文章主張 LTAP 並非複製：湖泊前方的各層是快取，不是擁有自己目錄的第二個資料庫。文章也指出，heap 頁面與 Parquet 是同一批資料列的兩種無損編碼，因此點查詢與掃描各自讀取對其而言快速的佈局。
AWS Machine Learning BlogAI 評分3838 大規模 Tokenomics：使用 CUR 2.0 和 AWS Budgets 追蹤並限制每個 IAM 主體的 Amazon Bedrock 支出
AWS 展示如何僅使用原生功能，按 IAM 主體追蹤並限制 Amazon Bedrock 生成式 AI 支出：Bedrock 會自動在每次推論請求中記錄 IAM 使用者或角色，這些標籤會成為成本分配標籤，可在 Cost Explorer 或 CUR 2.0 匯出中讀取。範圍設為 Bedrock 並篩選至單一身份或標籤值的 AWS Budget 可以附加預算動作，在超過閾值後套用 Deny IAM 政策，常見情況下無需應用程式碼。
AWS Machine Learning BlogAI 評分3636 影響成本的四個 Amazon Bedrock 推論選擇
Amazon Bedrock 的快取持續時間、服務層級、推理強度與 maxTokens 設定，能在不改變模型或提示詞的情況下改變推論成本。在 Claude Sonnet 5 與 Claude Opus 5 上，5 分鐘快取寫入的費用是輸入費率的 1.25 倍，1 小時寫入為 2 倍，快取讀取為 0.1 倍；對不支援的模型發出 Flex 層級請求會以 ValidationException 失敗。
OpenAI NewsAI 評分2222 Amplitude 如何藉助 OpenAI 在 1–2 天內交付產品改進
Amplitude 的主動式產品代理 Wave 主要建構於 OpenAI 模型之上，能辨識該打造什麼、協助團隊透過編碼代理交付變更，並衡量影響。這套配置讓 Amplitude 能在 1–2 天內交付產品改進。
LangChain BlogAI 評分4545 什麼是評估驅動開發？如何改進 AI 代理
LangChain 說明了評估驅動開發（EDD），這是一套建構 AI 代理的三步流程：定義什麼算好、在建構前先寫好評估、每次變更後比較結果。由於代理具有非確定性，評估會在一組範例資料集上為每次執行評分，並可使用 LLM-as-a-judge，而以 LangSmith 中的真實代理執行作為測試輸入的來源。
Databricks BlogAI 評分2222 Constellation 如何在 Databricks 上打造受治理的資料基礎
Constellation 是美國最大的核電機組營運商，正在 Databricks 上建置受治理的企業資料平台，讓業務對其資料有一致的共同定義。該平台使用 Unity Catalog 來處理血緣、精細存取與單一權限模型，並對關鍵可重用實體採用 Data Vault 建模。早期使用案例包括以 Databricks Genie 打造的核能工程助理，以及停機規劃。
Databricks BlogAI 評分2525 Eclipse Aerospace 使用 Databricks PySpark 自訂資料來源進行飛行資料擷取
Eclipse Aerospace 正使用 Databricks PySpark 自訂資料來源，擷取近 20 年的專有飛行資料，總量超過 3TB、涵蓋逾一百萬飛行小時，且無需常時開啟的專用運算資源。這個以 Rust 為後端的 Python 套件，在基準測試中的效能是類似的純 Python PyArrow 資料來源的兩倍，也幾乎是未使用 Arrow 的原生 Python 實作的 20 倍。此 API 於 Apache Spark 4.0 推出，並可在 Databricks Runtime 15.4 LTS 中使用，取代了先前的 Lambda-to-Avro 管線。
AWS Machine Learning BlogAI 評分3434 使用 Amazon Bedrock 和 LiteLLM 建立自助式 LLM 閘道
一個建構於 Amazon Bedrock Application Inference Profiles 與執行在 AWS Fargate 上的 LiteLLM 的自助式 LLM 閘道，將 Bedrock 基礎模型封裝在相容於 OpenAI 的 API 之後，為開發者提供單一基礎 URL 與每位使用者的金鑰。此設定新增了每位使用者的支出控制、各模型的配額隔離，以及 CloudWatch RPM/TPM 可觀測性，並以 Langfuse 提供提示層級的遙測。自助式金鑰發放需要 LiteLLM Enterprise，因為免費方案僅限五名使用者。
AWS Machine Learning BlogAI 評分3434 在 Amazon Bedrock 上最佳化每項任務成本並證明代理投資報酬率
這篇 AWS 文章主張，Amazon Bedrock 的支出應以每項任務成本而非每詞元成本來衡量，因為分詞器效率、輸出冗長程度、代理迴圈次數與推理額外開銷，可能讓價格較低的模型反而成本更高。文中一個實例顯示，列表價格為兩倍的模型，每項任務的完成成本反而低 65%；文章還補充快取、路由與輸出限制，以及一套五維度評分卡，用來對照人工基準衡量代理的投資報酬率。
Claude YouTubeAI 評分3535 為前沿打造 Claude API：深入 Claude 平台的發布與安全決策
Claude 平台工程師 Jake Dejno 與 Lucca Siaudzionis 說明 Claude API 如何隨著每次模型發布而演進，涵蓋功能發布決策、模型版本管理與遷移，以及成本管理。他們詳細介紹在對話中途變更 effort 而不破壞 prompt caching 的最佳實務，以及 Claude Mythos 與 Fable 如何共用相同的模型權重但採用不同的安全防護措施。Claude Managed Agents 與對話中途變更 effort 目前處於 beta 階段，Mythos 的存取則透過 Cyber Verification Program 進行。
Databricks BlogAI 評分2222 H6.ai 如何用 Lakebase Postgres 打造 AI 驅動的財務自動化
H6.ai 在客戶既有的 ERP 之上自動化應付帳款，並為每位客戶使用專屬的 Lakebase Postgres 資料庫作為系統記錄。由於發票資料不斷變動，團隊使用 Lakebase 的寫時複製分支（copy-on-write branches）凍結客戶資料庫的快照，並在各自短命的的分支上執行每項回歸測試，因此正式資料庫永遠不會被寫入。每次執行皆以確定性斷言，加上由不同模型供應商組成的 AI 評審團來評判。
AWS Machine Learning BlogAI 評分3838 Amazon Bedrock AgentCore Evaluations：內建、DeepEval 與 AutoEval 評估器
Amazon Bedrock AgentCore Evaluations 現在讓團隊能執行 AWS 內建評估器，搭配受管的 DeepEval 與 AutoEval 指標，以及由兩者衍生的自訂評估器。內建目錄涵蓋 15 個評估器，橫跨回應品質、目標完成、工具使用、技能與安全，並包含三項針對預期工具路徑的軌跡檢查。DeepEval 新增多輪指標，例如 ConversationCompleteness 與 KnowledgeRetention，而 AutoEval 則提供包括安全性在內的專門訊號。
AWS Machine Learning BlogAI 評分3636 使用 LangGraph 與 Amazon Bedrock AgentCore Web Search 打造每日依賴監控器
Amazon Bedrock AgentCore 中的 Web Search API 現已推出，讓代理能透過單一 SigV4 簽章的 API 呼叫取得即時網頁結果，該服務由 Amazon 營運的網頁索引提供。一篇逐步教學示範如何以 LangGraph 圖建構每日依賴監控，平行研究 npm、PyPI 與容器基礎映像，並在程式碼中強制執行日期範圍、封鎖清單與搜尋預算。測試中，三個分支在 36 秒內完成，相較於依序執行需 99 秒。
AWS Machine Learning BlogAI 評分3636 AWS Quick AI-PDLC：以六個代理推動 AI 驅動的產品開發
AWS Quick 推出 AI-PDLC，這是一套由六個專用代理組成的框架，並由一個 Orchestrator 統籌，涵蓋 Discovery、Prioritize、Working Backwards、Spec Generator 與 Designer，能將來自 Slack、Jira、Salesforce 與 SharePoint 的分散企業訊號，轉化為可追溯的 prototype_spec.md。每個階段都需經人工核准，且規格可透過開放的 Agent Client Protocol（ACP）交給 Kiro 或 Claude Code 等編碼代理。
AWS Machine Learning BlogAI 評分4040 AWS 開放其創新中心 23 項可重複使用的生成式 AI 資產目錄
AWS 發布了一份目錄，收錄來自其生成式 AI 創新中心（現隸屬於 AWS Frontier AI Engineering & Services）的 23 項可投入生產的開源生成式 AI 資產。這些建構模組涵蓋 RAG 流程、文件處理器、代理程式骨架與評估框架，AWS 表示它們能將開發時間從數月縮短至數週。DoorDash 回報測試能力提升 50 倍，Ricoh 則在採用這些資產後回報吞吐量提升 7 倍。
AWS Machine Learning BlogAI 評分3838 DXC Technology 如何在 Amazon Bedrock 上打造多模型 AI 基座
DXC Technology 在 Amazon Bedrock 上為其 DXC OASIS IT 營運框架建置了模型基座，透過單一託管介面即可存取 Anthropic Claude、Amazon Nova、Meta Llama 及開放權重模型。Amazon Bedrock Guardrails 對所有模型統一套用內容過濾、PII 去識別化與拒絕主題政策，而 AWS PrivateLink 則讓推論流量維持在客戶 VPC 內。DXC OASIS 自 2026 年 3 月起正式可用，並在 56 個實測使用案例中平均縮短了 95% 的解決時間。
AWS Machine Learning BlogAI 評分4040 Agent DLC：從原型到正式環境的 AI 代理工程
AWS 推出代理開發生命週期（Agent DLC），這是一套框架，包含一個生命週期、兩個迴圈，以及單一明確標準，用來評判每一次代理變更。它針對三項會破壞傳統 CI/CD 的代理特性：非確定性、提示詞即原始碼，以及獨立移動的依賴項。一個參考用的人力資源政策助理顯示，在三道測試題中，區塊層級檢索精確度皆為 1.00，而事實層級精確度降至 0.09，且其中一道題的檢索覆蓋率為 0.00。
AWS Machine Learning BlogAI 評分3636 Amazon Bedrock Managed Knowledge Base 工具的細粒度存取控制
AWS 展示如何透過 AgentCore Gateway 將搜尋功能以 MCP 工具形式開放，讓共用 AI 代理在 Amazon Bedrock Managed Knowledge Base 上實現每位使用者的文件存取權限。請求攔截器會將 Cognito JWT 中經驗證的使用者電子郵件注入 userContext，而 ACL 感知機制只會回傳該使用者有權檢視的文件。AgentCore 中的 Cedar 政策與知識庫上的資源型政策則提供第二層防禦，抵禦偽造或未經授權的搜尋。
AWS Machine Learning BlogAI 評分5858 AWS 詳解如何以 A2A 建構跨組織多代理系統
AWS 發布了一套參考架構：在 Amazon ECS 上以 LangChain 為基礎的企業編排器，透過 A2A 協定呼叫部署於 Amazon Bedrock AgentCore、以 Strands Agents 為基礎的合規 SaaS 代理，雙方位於不同的 AWS 帳戶，且不共用任何密鑰。雙方各自以來自自家 Amazon Cognito 使用者集區的權杖進行驗證，而 SaaS 代理會回呼企業情境代理以取得帳戶中繼資料，因此這些代理是對等關係，而非用戶端與伺服器關係。該系統可從三個 Jupyter notebook 部署，這些 notebook 會佈建五個 CloudFormation 堆疊，並執行端對端測試及七項信任邊界檢查。
AWS Machine Learning BlogAI 評分3434 使用編碼代理遷移至 Amazon Bedrock Managed Knowledge Base
AWS 在 Agent Toolkit for AWS 的 amazon-bedrock 技能中新增了知識庫遷移指南，讓編碼代理能夠規劃從客戶自管知識庫遷移至 Amazon Bedrock Managed Knowledge Base。代理會先進行唯讀探索與逐行審查的計畫，接著在原始知識庫旁建立新的知識庫與資料來源，或撰寫遷移後的 IaC 範本。Managed Knowledge Base 將預設配額提高至每個知識庫 200 個資料來源，以及每個帳戶每個 Region 10,000 個知識庫，並新增代理式擷取、AgentCore Gateway 整合與資源型政策。
Claude YouTubeAI 評分3838 何時使用各 Claude 模型：Opus 5.5、Fable 5.2、Sonnet 5.5 與 Haiku 5.5
Anthropic 的指引將每個 Claude 模型對應到工作的規模：Opus 5.5 用於規劃與建構完整功能，Fable 5.2 用於最具野心、開放式的技術工作。Sonnet 5.5 涵蓋日常任務，例如修復錯誤或起草文件，而 Haiku 5.5 則處理反覆進行的小型任務。
Google AI · DEVAI 評分4242 用 Gemini 4 Carbon 在 Antigravity 中將 NetHack 重製為 3D 動作 RPG
一名開發者使用 Google Antigravity 平台中的 Gemini 4 Carbon，將 1987 年的 roguelike 遊戲 NetHack 重製為現代 3D 動作 RPG，並移植到網頁技術與 wasm。這次建置依賴 /swarm 功能，該功能會生成具有獨立上下文的子代理來互相審查彼此的輸出，另外還使用了 Blender MCP 伺服器來生成 3D 資產。Gemini 4 Carbon 可透過 Google AI Ultra 方案使用。
LangChain BlogAI 評分4040 LangChain 的 GTM Agent 如何打造一致且高品質的銷售素材
LangChain 內部的 GTM Agent 在 12 週內產出了 1,540 份銷售素材，為業務代表在客戶計畫、提案簡報等文件上節省了 337 小時。在有寄出素材的交易中，47% 推進到後續階段，而條件相近但未寄出素材的交易僅有 16%；此外，46% 的素材在 14 天內促成了客戶通話。此 Agent 運行於 Deep Agents 框架上，其沙箱、技能、記憶與排程執行功能均已在 Managed Deep Agents 中提供。
AWS Machine Learning BlogAI 評分3636 使用 Amazon Bedrock 與 Spring AI 打造自主 AI 代理
AWS 向 Java 團隊展示如何運用 Spring AI 與 Amazon Bedrock 的 AgentCore，並透過 spring-ai-agentcore 整合來打造自主 AI 代理。文中詳細介紹了兩套參考系統：一套是具備工具呼叫與記憶功能的單一代理旅遊助理，另一套是多代理智慧文件處理平台，包含五個專責代理、一個規則引擎與警示功能。此技術堆疊需要 JDK 21、Spring Boot 4.1 與 Spring AI 2.0，並透過 AgentCore 執行環境部署於 ARM64 容器上。
OpenRouter AnnouncementsAI 評分5858 OpenRouter 以損益平衡負載計算比較自架 LLM 與 API 成本
OpenRouter 發布一項損益平衡分析，說明自架開放權重 LLM 在何時比透過 API 呼叫更便宜，並採用截至 2026 年 10 月 8 日的各供應商價格。依這些價格，Qwen3.8 27B 在一張每小時 0.50 美元的租用 RTX 3090 上，於 6% 至 12% 負載時達到損益平衡；而 DeepSeek V4.1 Flash 在四張 H200 上，始終無法勝過最便宜的零資料保留端點。文章也指出，provider.zdr 以及歐盟與美國網域已能涵蓋多數隱私需求，無需自架，並建議在本機執行穩定的基礎負載，同時將尖峰流量送往 API。
OpenRouter AnnouncementsAI 評分5858 OpenRouter 發布教學：如何阻止 AI Agent 陷入無限迴圈
OpenRouter 發布指南，說明如何阻止卡在重複重試失敗工具的 AI agent，採用四項防護機制，並在六個現行模型上測試。啟用 doomLoop 偵測後，六個模型都在第三次相同的工具呼叫時被攔下；在 18 次執行中，工具呼叫次數從 314 降到 64，花費則從 $0.29 降至 $0.05。該指南新增 loopKey 來正規化參數、以 stopWhen 設定步數與成本上限，並在 API 金鑰上設定額度上限，超額時會回傳 402，limit_source 為 openrouter_key_limit。
OpenRouter AnnouncementsAI 評分2828 如何對 LLM 進行基準測試：OpenRouter 的程式碼評分指南
OpenRouter 發布了一份指南，說明如何以你自己應用程式的輸入對 LLM 進行基準測試，用程式碼為輸出評分，並比較準確率、計費成本和請求時間。在其 60 項合成任務中，GPT-6.1 Sol 在三次重複中共通過 180/180 次試驗，而 DeepSeek 的通過次數為 157/180，回應成本最低。與公開排名的吻合度較弱，Spearman 相關係數為 0.109。
vLLM Blog精選AI 評分7272 vLLM 在 Vera Rubin NVL72 上服務 DeepSeek-V4.1-Flash，吞吐量達 GB300 NVL72 的 58 倍
vLLM 報告指出，在單一 NVIDIA Vera Rubin NVL72 機架上服務 DeepSeek-V4.1-Flash，每 GPU 達 1.7M tokens/s、每位使用者 387 tokens/s，為 GB300 NVL72 的 58 倍，峰值達 2.52M tokens/s，單一使用者可達 1,810 tokens/s。這些增益來自為 Rubin 分割記憶體域與 FP4 張量核心重建的 kernel、專用的 TP8 解碼路徑，以及透過 NVLink 共享的整機架 KV 與 Engram 池。透過整機架的前綴池化與 Dynamo 的工作負載感知路由，即使在高併發下前綴命中率仍維持在 96.5-97%。
推薦理由：vLLM 第三篇 DeepSeek-V4.1-Flash 文章詳述 Rubin 專用 kernel 與整機架記憶體池化如何將吞吐量提升至 GB300 NVL72 的 58 倍，為大規模服務優化提供了具體參考。
Hugging Face BlogAI 評分3636 Hugging Face 發布 TRELLIS.2 3D 生成微調指南與腳本
Hugging Face 發布了 3D 生成模型 TRELLIS.2 的微調腳本與容器，可在本機或 Hugging Face Jobs 上執行。該指南透過 PEFT 函式庫使用 LoRA 適配器，僅套用於稀疏結構流 DiT 與形狀流 DiT，材質階段則保持凍結。在 GSO 資料集的 188 個物件鞋類子集上，預訓練模型經常渲染出錯誤的鞋底，而 LoRA 微調正是針對此問題。