跳至正文
今天11月13日星期五45 条
  1. inclusionAI Models34

    inclusionAI 發布 Duo-1.0-distill-quant FP8 權重,用於全雙工互動

    inclusionAI 發布 Duo-1.0-distill-quant,這是 Duo 1.0 全雙工多模態世界模型的 FP8 量化四步蒸餾 Realization 權重。這些權重會疊加在 inclusionAI/Duo-1.0-causal-base 套件上,該套件提供共用的 Intent、編解碼器、語音模型與 Realization 主幹,且需要支援所封裝 ModelOpt FP8 格式的執行環境。這些權重從 MiniMax H3 初始化,隨後由 Duo 團隊訓練。

  2. inclusionAI Models40

    inclusionAI 發布 Duo-1.0-distill:Duo 1.0 的四步蒸餾權重

    inclusionAI 已發布 Duo-1.0-distill,這是 Duo 1.0 的四步蒸餾 Realization 權重;Duo 1.0 是一個用於即時音視訊互動的全雙工多模態世界模型。這些權重以 PyTorch Distributed Checkpoint 疊加層的形式提供,疊加於 inclusionAI/Duo-1.0-causal-base 套件之上,使用 Euler 取樣器、4 步與 flow shift 5.0。這些權重從 MiniMax H3 初始化,隨後由 Duo 團隊訓練。

  3. inclusionAI Models38

    SingVL-4B GGUF 發布:基於 Qwen3.5 的 Sing VL S1 4B 多模態決策模型 GGUF 版本

    Sing VL S1 是一個建構於 Qwen3.5 之上的 4B 參數多模態決策模型,現已推出 GGUF 版本,可用於 llama.cpp 的 CPU 推論。它提供 BF16(8.42 GB)、Q8_0(4.48 GB)與 Q4_K_M(2.71 GB)三種解碼器,外加一個共用的 F16 視覺投影器,預設上下文長度為 4096 個 token。GGUF 驗證涵蓋 9 個範例與 11 個問題;GGUF 各變體的完整公開分數仍待公布。

  4. ElevenLabs Blog18

    每位人類與 AI 客服人員都必備的 7 項客戶服務技能

    ElevenLabs 列出七項客戶服務技能——溝通、解決問題、衝突化解、同理心、適應力、個人化與產品知識——人類與 AI 支援專員皆需具備。文中引用 Zendesk 一項研究發現,超過 50% 的客戶在經歷一次糟糕體驗後便轉向競爭對手,並引用 Gartner 的預測:到 2028 年,至少 70% 的客戶將從 AI 介面開始他們的旅程。該指南強調在訓練期間與部署之後評估對話指標,以及無縫轉接給真人以緩和衝突。

  5. Modal Blog40

    Modal Sandboxes 採用突發定價,相較預留方案節省 58% 成本

    Modal 現在改以實際使用中的資源向 Sandboxes 收費,而非固定預留,讓每個 Sandbox 能突破預設的 0.125 核心與 128 MiB 請求量,並僅按每秒實際用量付費。在一個 20 分鐘的編碼代理範例中,突發模式的成本為每 Sandbox-小時 8.4¢,固定預留則為 20.0¢,節省 58%。CPU 預設可較請求量突發最多 16 核心,記憶體則不設上限,除非另行設定限制。

  6. Factory55

    Factory 推出 Cyber Defense Network,將安全工具連結至 Security Factory

    Factory 推出 Cyber Defense Network,這是一個由網路安全公司組成的生態系統,其發現的結果會流入 Security Factory,讓 Factory Droids 能夠調查漏洞、實作程式碼變更,並透過測試驗證修復。創始合作夥伴包括 Snyk、Palo Alto Networks、Semgrep、Cogent、Casco、DepthFirst 和 Detail。此工作流程涵蓋來自合作夥伴工具的信號、對可觸及漏洞的分流,以及持續修復,產出可供工程團隊審查並合併的修復方案,同時組織仍保留其現有的安全工具與工作流程。

  7. Databricks Blog36

    利用詳細稽核日誌與 Genie 偵測 Databricks 上由憑證驅動的攻擊

    Databricks 詳細說明憑證驅動的攻擊如何在其平台上展開,以及詳細稽核日誌加上 Genie 如何偵測遭竊的 PAT、工作階段 Cookie 或服務主體憑證被使用後的行為轉變。該文章將攻擊者活動劃分為六個階段,從初始登入到環境偵察,並涵蓋應變步驟與限制遭竊憑證可觸及範圍的控制措施。

  8. Databricks Blog36

    Bright Machines 運用 Debezium 與 Iceberg,讓客戶從氣隙隔離工廠取得即時儀表板

    Bright Machines 現在能讓客戶取得來自氣隙隔離工廠的即時、受治理的工廠資料儀表板,且無需開放任何 inbound 存取。它在邊緣端以 Debezium 擷取 PostgreSQL 變更,寫入為 Apache Iceberg,透過單一可稽核的 outbound 路徑推送出去,並在 Databricks 中透過 Unity Catalog federation 就地讀取。第一個客戶可見的儀表板在啟動後約兩個月上線,已提交的資料列可在一到兩分鐘內查詢,儀表板每十分鐘重新整理。

  9. OpenRouter Announcements58

    OpenRouter 在 274 題 RAG 基準上測試 11 個重排器

    OpenRouter 在一個 274 題的合成 RAG 資料集上對 11 個重排器進行了基準測試,發現用 voyageai/rerank-3-lite 對向量搜尋的前 30 個候選進行重排,可將 precision@1 從 81.0% 提升到 97.1%,每 1,000 次查詢成本約 $0.10。該指南建議檢索約 30 個片段、對其重排,並只將前 3 個傳送給 LLM,在其測試中這將答案準確率提升到 99.3%,同時將每 1,000 個問題的作答成本從 $0.22 降到 $0.16。它還指出了失敗模式:省略 input_type 參數會損失 7 到 12 個百分點的 precision@1,而 cohere/rerank-v3.5 會默默忽略超出其 4,096 token 限制的內容。

  10. AWS Machine Learning Blog58

    AWS 發布 SGLang-Neuron,可在 Trainium 上以原有 SGLang 介面部署前沿模型

    Amazon 宣布 SGLang-Neuron 正式公開可用,這是一個 out-of-tree 外掛,透過 AWS Deep Learning Container 在 AWS Trainium 上執行 SGLang,由 RadixArk 與 Annapurna Labs 發布。使用者維持相同的 SGLang 伺服器介面與生成 API,而此外掛提供 Trainium 專屬的模型、注意力、MoE,以及建構於原生 PyTorch 與 NKI 核心之上、以 torch.compile 編譯的 graph runner。它也支援 PD 分離,透過 EFA 上的 NIXL 將 prefill KV 快取傳輸到 decode 伺服器,而操作說明則在 Trainium3 EC2 執行個體上以 pytorch-inference-sglang-neuronx 容器提供 openai/gpt-oss-120b 的服務。

  11. GitHub Blog · AI & ML58

    GitHub 指南說明如何打造可在 Claude Code、Cursor 與 Copilot 上執行的 agent skills

    GitHub 發布了一份 agent skills 實用指南,agent skills 是以 SKILL.md 檔案為核心的版本化目錄,用來描述何時以及如何執行可重複的任務。該指南以兩個範例——用於對 AI 生成程式碼進行對抗式驗證的 Proof Agent,以及用於多技能資料管線的 Data Forge——說明技能如何共用專案 manifest、重複使用同一條執行路徑,並在每個階段設置人工核准。指南也介紹了一個打包腳本,可從單一 skills 來源為 Claude Code、Cursor 與 GitHub Copilot 產生各用戶端專屬的檔案。

  12. AWS Machine Learning Blog40

    Natera 如何在 Amazon Bedrock AgentCore 上打造用於實驗室營運的代理式 AI 系統 SWARM

    Natera 在 Amazon Bedrock AgentCore 上打造了用於實驗室營運的代理式 AI 系統 SWARM,將首次回應時間縮短約 130 倍,並自動處理 96.2% 的支援工單。該系統結合了在工程師開啟工單前先草擬診斷報告的 swarm-agent,以及供工程師即時互動的 swarm-hive,兩者共用同一個技能庫。它處理三個佇列中每天超過 65 張 Jira 工單,而這些工單過去平均需要 17.4 小時才能獲得首次回應。

  13. Microsoft Research22

    Microsoft Research Focus Edition #98:AI 翻譯、KLS 猜想證明與更快的編碼代理

    Microsoft Research Focus Edition #98 重點介紹了讓通用翻譯更接近現實的 AI 進展,以及一項解決高維幾何中懸而未決 31 年的 KLS 猜想的新證明。本期還涵蓋 CompactionBench 與 APEC,它們將編碼代理的上下文壓縮成本降低多達 25.4%,執行時間縮短 9.6%,以及 Latent Core Tokenizer,它在 104 種語言上改進了分詞。

  14. Databricks Blog30

    Databricks 破解關於 Lakebase 架構的四個 LTAP 迷思

    Databricks 回應了對 LTAP 的四種常見誤讀;LTAP 是 Lakebase 架構,讓營運資料只保留一份受治理的副本,同時服務 Postgres 與分析,且無需 CDC。文章主張 LTAP 並非複製:湖泊前方的各層是快取,不是擁有自己目錄的第二個資料庫。文章也指出,heap 頁面與 Parquet 是同一批資料列的兩種無損編碼,因此點查詢與掃描各自讀取對其而言快速的佈局。

  15. AWS Machine Learning Blog38

    大規模 Tokenomics:使用 CUR 2.0 和 AWS Budgets 追蹤並限制每個 IAM 主體的 Amazon Bedrock 支出

    AWS 展示如何僅使用原生功能,按 IAM 主體追蹤並限制 Amazon Bedrock 生成式 AI 支出:Bedrock 會自動在每次推論請求中記錄 IAM 使用者或角色,這些標籤會成為成本分配標籤,可在 Cost Explorer 或 CUR 2.0 匯出中讀取。範圍設為 Bedrock 並篩選至單一身份或標籤值的 AWS Budget 可以附加預算動作,在超過閾值後套用 Deny IAM 政策,常見情況下無需應用程式碼。

  16. AWS Machine Learning Blog36

    影響成本的四個 Amazon Bedrock 推論選擇

    Amazon Bedrock 的快取持續時間、服務層級、推理強度與 maxTokens 設定,能在不改變模型或提示詞的情況下改變推論成本。在 Claude Sonnet 5 與 Claude Opus 5 上,5 分鐘快取寫入的費用是輸入費率的 1.25 倍,1 小時寫入為 2 倍,快取讀取為 0.1 倍;對不支援的模型發出 Flex 層級請求會以 ValidationException 失敗。

  17. Hugging Face Blog69

    IBM 發布基於 Granite 4.1 3B 與 8B 的 LLMON 預覽模型

    IBM 發布了兩個實驗性預覽模型 granite-4.1-3b-LLMON-preview 與 granite-4.1-8b-LLMON-preview,它們衍生自 Granite 4.1 基礎檢查點,並經過訓練以讀取與生成 LLMON——一種 LLM 原生標記語言,以保留的特殊 token 定界符標示指令、資料與需求。在 OPI 基準上,這些模型比測試中最佳的前沿模型多避開 47% 的間接提示注入攻擊,比最佳的開源模型多避開 95%,同時在標準基準上的表現與 Granite 4.1 Instruct 相當。此次發布包含一個 GitHub 工具包,內含無損的 JSON 轉 LLMON 轉換器,作者指出此預覽版僅供探索,並非用於生產環境。

    推薦理由:IBM 在 Granite 4.1 上訓練出能讀寫 LLMON 標記的預覽模型,透過顯式分離指令與資料,將 OPI 基準上的間接提示注入成功率壓到接近零,同時保持通用能力。

  18. LangChain Blog45

    什麼是評估驅動開發?如何改進 AI 代理

    LangChain 說明了評估驅動開發(EDD),這是一套建構 AI 代理的三步流程:定義什麼算好、在建構前先寫好評估、每次變更後比較結果。由於代理具有非確定性,評估會在一組範例資料集上為每次執行評分,並可使用 LLM-as-a-judge,而以 LangSmith 中的真實代理執行作為測試輸入的來源。

  19. Databricks Blog22

    Constellation 如何在 Databricks 上打造受治理的資料基礎

    Constellation 是美國最大的核電機組營運商,正在 Databricks 上建置受治理的企業資料平台,讓業務對其資料有一致的共同定義。該平台使用 Unity Catalog 來處理血緣、精細存取與單一權限模型,並對關鍵可重用實體採用 Data Vault 建模。早期使用案例包括以 Databricks Genie 打造的核能工程助理,以及停機規劃。

  20. Databricks Blog25

    Eclipse Aerospace 使用 Databricks PySpark 自訂資料來源進行飛行資料擷取

    Eclipse Aerospace 正使用 Databricks PySpark 自訂資料來源,擷取近 20 年的專有飛行資料,總量超過 3TB、涵蓋逾一百萬飛行小時,且無需常時開啟的專用運算資源。這個以 Rust 為後端的 Python 套件,在基準測試中的效能是類似的純 Python PyArrow 資料來源的兩倍,也幾乎是未使用 Arrow 的原生 Python 實作的 20 倍。此 API 於 Apache Spark 4.0 推出,並可在 Databricks Runtime 15.4 LTS 中使用,取代了先前的 Lambda-to-Avro 管線。

  21. AWS Machine Learning Blog66

    AWS 更新 AgentCore 執行環境:工作階段啟動速度提升 15 倍、運算資源增加 4 倍

    AWS 宣布更新 Amazon Bedrock AgentCore 執行環境,這是其用於代理程式的受管運算層,工作階段現在啟動速度最高提升 15 倍,可擴展至 4 倍運算資源(最高 8 個 vCPU 與 32 GB,容器映像最高 10 GB),執行效率最高提升 68%,同時每個工作階段仍維持在各自硬體隔離的 Firecracker MicroVM 中。無論映像大小或並行數量,工作階段皆在 2 秒內啟動,閒置代理程式會縮減至零,代理程式可掛載檔案系統並將工作儲存至 Amazon S3 儲存貯體等位置,支援 FUSE,讓資料留在信任邊界內。此執行環境即日起在北美、南美、歐洲與亞太地區的 AWS 區域提供。

    推薦理由:AgentCore 執行環境的新版本同時調整了工作階段啟動、算力上限與記憶體計費,為需要長時間執行的智慧代理提供了隔離與成本之間的新取捨。

  22. AWS Machine Learning Blog34

    使用 Amazon Bedrock 和 LiteLLM 建立自助式 LLM 閘道

    一個建構於 Amazon Bedrock Application Inference Profiles 與執行在 AWS Fargate 上的 LiteLLM 的自助式 LLM 閘道,將 Bedrock 基礎模型封裝在相容於 OpenAI 的 API 之後,為開發者提供單一基礎 URL 與每位使用者的金鑰。此設定新增了每位使用者的支出控制、各模型的配額隔離,以及 CloudWatch RPM/TPM 可觀測性,並以 Langfuse 提供提示層級的遙測。自助式金鑰發放需要 LiteLLM Enterprise,因為免費方案僅限五名使用者。

  23. Google DeepMind90

    Google DeepMind 發布 Gemini 4 Hydrogen,一款更快的 Gemini 4 模型,專為程式編寫與代理式工作流程打造

    Google DeepMind 推出 Gemini 4 Hydrogen,這是一款 Gemini 4 模型,專為快速的日常程式編寫與代理式執行而打造,而非像 Gemini 4 Carbon 與 Argon 那樣著重於長程推理。它在預設的高思考等級下,於 Artificial Analysis Intelligence Index 上得分 51,而 Argon 為 50;在全新的 xhigh 設定下達到 54;其定價在其 100 萬 token 上下文視窗內一律為每百萬輸入 token 1.50 美元、每百萬輸出 token 7.50 美元。Google 亦在 Google Antigravity 中推出 Orchestrator,可在同一工作階段內於 Carbon 與 Hydrogen 等模型之間切換,並在 Terminal-Bench 4.0 上達到接近 Carbon 的任務成功率,同時少用 24% 配額、完成速度快 19%。

    推薦理由:Google 的 Gemini 4 Hydrogen 鎖定快速的日常程式編寫與代理式工作,在 100 萬上下文視窗內一律採每百萬 token 1.50/7.50 美元的定價,並搭配可在 Gemini 4 模型之間切換的全新 Orchestrator。

  24. AWS Machine Learning Blog34

    在 Amazon Bedrock 上最佳化每項任務成本並證明代理投資報酬率

    這篇 AWS 文章主張,Amazon Bedrock 的支出應以每項任務成本而非每詞元成本來衡量,因為分詞器效率、輸出冗長程度、代理迴圈次數與推理額外開銷,可能讓價格較低的模型反而成本更高。文中一個實例顯示,列表價格為兩倍的模型,每項任務的完成成本反而低 65%;文章還補充快取、路由與輸出限制,以及一套五維度評分卡,用來對照人工基準衡量代理的投資報酬率。

  25. Google Blog · AI82

    Google 搜尋全球升級至 Gemini 4 Hydrogen

    Google 搜尋已將全球所有使用者遷移至 Gemini 4 Hydrogen,該公司稱這是迄今對搜尋最大的一次模型升級。此模型強化了對多段式與錯字頻繁問題的意圖理解,加入更深入的指令遵循與工具呼叫能力,並增強查詢展開(query fan-out)以呈現使用者原本可能找不到的連結。在所有支援的 AI 模式語言中,回應也變得更視覺化,包含更多圖片、比較表格與自訂工具。

    推薦理由:這是 Google 搜尋迄今最大的模型升級,Gemini 4 Hydrogen 現已為全球所有使用者處理多段式問題、工具呼叫與查詢展開。

  26. Databricks Blog22

    H6.ai 如何用 Lakebase Postgres 打造 AI 驅動的財務自動化

    H6.ai 在客戶既有的 ERP 之上自動化應付帳款,並為每位客戶使用專屬的 Lakebase Postgres 資料庫作為系統記錄。由於發票資料不斷變動,團隊使用 Lakebase 的寫時複製分支(copy-on-write branches)凍結客戶資料庫的快照,並在各自短命的的分支上執行每項回歸測試,因此正式資料庫永遠不會被寫入。每次執行皆以確定性斷言,加上由不同模型供應商組成的 AI 評審團來評判。

  27. Databricks Blog58

    Databricks 推出 Lakehouse//RT,實現即時分析且成本不成比例增長

    Databricks 推出 Lakehouse//RT,這是一款即時分析引擎,可直接在 lakehouse 資料上執行高併發工作負載,現已開放測試版。該公司表示,它能在每秒 12,000 次查詢下提供低於 100 毫秒的延遲,每次增加一個節點來擴充容量,並避免額外的服務層;客戶 Aurasell、VisionHeight 和 nOps 表示,從多叢集架構、Apache Pinot 和 Apache Druid 遷移後,基礎設施成本降低了 6 到 10 倍。

  28. AWS Machine Learning Blog38

    Amazon Bedrock AgentCore Evaluations:內建、DeepEval 與 AutoEval 評估器

    Amazon Bedrock AgentCore Evaluations 現在讓團隊能執行 AWS 內建評估器,搭配受管的 DeepEval 與 AutoEval 指標,以及由兩者衍生的自訂評估器。內建目錄涵蓋 15 個評估器,橫跨回應品質、目標完成、工具使用、技能與安全,並包含三項針對預期工具路徑的軌跡檢查。DeepEval 新增多輪指標,例如 ConversationCompleteness 與 KnowledgeRetention,而 AutoEval 則提供包括安全性在內的專門訊號。

  29. AWS Machine Learning Blog36

    使用 LangGraph 與 Amazon Bedrock AgentCore Web Search 打造每日依賴監控器

    Amazon Bedrock AgentCore 中的 Web Search API 現已推出,讓代理能透過單一 SigV4 簽章的 API 呼叫取得即時網頁結果,該服務由 Amazon 營運的網頁索引提供。一篇逐步教學示範如何以 LangGraph 圖建構每日依賴監控,平行研究 npm、PyPI 與容器基礎映像,並在程式碼中強制執行日期範圍、封鎖清單與搜尋預算。測試中,三個分支在 36 秒內完成,相較於依序執行需 99 秒。

  30. AWS Machine Learning Blog58

    Moonshot AI 的 Kimi K3.1 Pro Highspeed 在 Amazon Bedrock 上線

    Moonshot AI 的 Kimi K3.1 Pro Highspeed 現已在 Amazon Bedrock 上提供,這是 Kimi K3 的後訓練版本,具備相同的 3T 級開放權重架構與 100 萬 token 上下文視窗,以更多後訓練算力訓練,針對長程代理式工作,並減少事實錯誤。Moonshot AI 回報其輸出速度為 Kimi K3.1 Pro 的 2–3 倍,現有 Kimi K3 使用者可透過變更模型 ID 切換。該文章展示了 Chat Completions、Responses 與 Converse API 呼叫、價格為 Standard 一半的 Flex 層級、使用 prompt_cache_breakpoint 的明確提示快取,以及將模型連接至 OpenCode 編碼代理。

  31. AWS Machine Learning Blog33

    Amazon SageMaker AI 雙向串流新增用量計價,Deepgram 為首發合作夥伴

    Amazon SageMaker AI 雙向串流現支援用量計量,讓模型供應商向 AWS Marketplace 軟體費用回報實際用量,而端點基礎設施費用仍照常收取。Deepgram 為首發合作夥伴,將以用量計價的語音轉文字與文字轉語音計費帶入 AWS Marketplace。此設計新增一條配套的 WebSocket 中繼資料串流,上限為每秒一則訊息、512 位元組,讓供應商能在即時工作階段中傳送增量計量記錄。

  32. AWS Machine Learning Blog60

    AWS 開源 UAEF,一個與框架無關的 AI 代理評估系統

    AWS 已開源 UAEF(Universal Agent Evaluation Framework),這是一個與框架無關的系統,透過適配器將來自 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的代理軌跡正規化為統一的 AgentTrace,再以 7 個維度下的 36 項內建指標進行評分。結果按實驗分別儲存在 Amazon DynamoDB 和 Amazon S3 中,讓團隊可以將代理版本與基準進行比較,以預設 5% 的閾值標記回歸,並生成統計報告及 LLM 撰寫的洞察。文章指出,電信、醫療保健和金融服務領域 12 個組織的客戶在發布前使用了 UAEF,Apache 2.0 程式碼、Python 函式庫、CDK 部署及各框架的 notebook 均位於 awslabs/uaef GitHub 儲存庫中。

    推薦理由:AWS 團隊開源 UAEF,用適配器把不同框架的 Agent 軌跡統一成一種格式,再以 36 項指標跨 7 個維度打分,為跨框架比較 Agent 版本提供了一套可復用的評測層。

  33. AWS Machine Learning Blog36

    AWS Quick AI-PDLC:以六個代理推動 AI 驅動的產品開發

    AWS Quick 推出 AI-PDLC,這是一套由六個專用代理組成的框架,並由一個 Orchestrator 統籌,涵蓋 Discovery、Prioritize、Working Backwards、Spec Generator 與 Designer,能將來自 Slack、Jira、Salesforce 與 SharePoint 的分散企業訊號,轉化為可追溯的 prototype_spec.md。每個階段都需經人工核准,且規格可透過開放的 Agent Client Protocol(ACP)交給 Kiro 或 Claude Code 等編碼代理。

  34. AWS Machine Learning Blog40

    AWS 開放其創新中心 23 項可重複使用的生成式 AI 資產目錄

    AWS 發布了一份目錄,收錄來自其生成式 AI 創新中心(現隸屬於 AWS Frontier AI Engineering & Services)的 23 項可投入生產的開源生成式 AI 資產。這些建構模組涵蓋 RAG 流程、文件處理器、代理程式骨架與評估框架,AWS 表示它們能將開發時間從數月縮短至數週。DoorDash 回報測試能力提升 50 倍,Ricoh 則在採用這些資產後回報吞吐量提升 7 倍。

  35. AWS Machine Learning Blog38

    DXC Technology 如何在 Amazon Bedrock 上打造多模型 AI 基座

    DXC Technology 在 Amazon Bedrock 上為其 DXC OASIS IT 營運框架建置了模型基座,透過單一託管介面即可存取 Anthropic Claude、Amazon Nova、Meta Llama 及開放權重模型。Amazon Bedrock Guardrails 對所有模型統一套用內容過濾、PII 去識別化與拒絕主題政策,而 AWS PrivateLink 則讓推論流量維持在客戶 VPC 內。DXC OASIS 自 2026 年 3 月起正式可用,並在 56 個實測使用案例中平均縮短了 95% 的解決時間。