跳至正文
今天11月13日星期五194 条
  1. AWS Machine Learning Blog58

    AWS 發布 SGLang-Neuron,可在 Trainium 上以原有 SGLang 介面部署前沿模型

    Amazon 宣布 SGLang-Neuron 正式公開可用,這是一個 out-of-tree 外掛,透過 AWS Deep Learning Container 在 AWS Trainium 上執行 SGLang,由 RadixArk 與 Annapurna Labs 發布。使用者維持相同的 SGLang 伺服器介面與生成 API,而此外掛提供 Trainium 專屬的模型、注意力、MoE,以及建構於原生 PyTorch 與 NKI 核心之上、以 torch.compile 編譯的 graph runner。它也支援 PD 分離,透過 EFA 上的 NIXL 將 prefill KV 快取傳輸到 decode 伺服器,而操作說明則在 Trainium3 EC2 執行個體上以 pytorch-inference-sglang-neuronx 容器提供 openai/gpt-oss-120b 的服務。

  2. GitHub Blog · AI & ML58

    GitHub 指南說明如何打造可在 Claude Code、Cursor 與 Copilot 上執行的 agent skills

    GitHub 發布了一份 agent skills 實用指南,agent skills 是以 SKILL.md 檔案為核心的版本化目錄,用來描述何時以及如何執行可重複的任務。該指南以兩個範例——用於對 AI 生成程式碼進行對抗式驗證的 Proof Agent,以及用於多技能資料管線的 Data Forge——說明技能如何共用專案 manifest、重複使用同一條執行路徑,並在每個階段設置人工核准。指南也介紹了一個打包腳本,可從單一 skills 來源為 Claude Code、Cursor 與 GitHub Copilot 產生各用戶端專屬的檔案。

  3. Hacker News · AI58

    AI 工具協助病患對健康保險拒賠提出申訴

    《TIME》報導,病患正使用 Claimable、Fight Health Insurance、Mediloop 和 Billyze 等 AI 服務,針對健康保險公司的承保拒賠撰寫申訴書。一名病患 Tom Whitehead 在 Claimable 起草一封引用聯邦法規的信函後,五天內其 Remicade 承保便獲核准;該工具每次申訴收費約 40 美元,而 Fight Health Insurance 則免費。一項針對超過 4,500 名擁有私人保險的美國工作年齡成年人所做的調查發現,21% 表示在過去一年曾遭拒賠,其中僅約半數提出申訴。

  4. MarkTechPost52

    Liquid AI 發布 LiquidCodec,一款 74M 參數的串流音訊編解碼器

    Liquid AI 發布 LiquidCodec,這是一款約 74M 參數的串流語音分詞器,為其 LFM3-Audio-2B 與 LFM3-Omni-2B 模型提供支援,權重已發布於 Hugging Face。該編解碼器將 24 kHz 音訊壓縮為 12 個 token 流、幀率 12.5 Hz,並可在單一 CPU 執行緒上運行,Liquid AI 報告其編碼約達 361 倍即時速度、解碼約達 87 倍。Liquid AI 表示,在全部 8 個測試集上,其於 ViSQOL 與 mel distance 指標均優於 X-Codec 2、NanoCodec 與 Mimi,不過 NanoCodec 仍在 8 個測試集中的 7 個上於 PESQ (WB) 指標領先。

  5. The Decoder60

    Anthropic 推出 Claude Meetings,讓 Claude 以參與者身分加入視訊通話

    Anthropic 推出了 Claude Meetings,這項功能讓 Claude 能以可見的參與者身分加入視訊通話,回答問題、生成文件與白板,並記錄筆記與待辦事項。Claude 產生的筆記、逐字稿與文件會在會議結束後彙整到 claude.ai 的專屬頁面,而隱私控管預設會阻止 Claude 加入有外部參與者的通話。這項功能目前以 beta 版提供給 Team 與 Enterprise 方案,目前僅支援 Google Meet,且使用 HIPAA 或客戶自行管理加密設定的組織無法使用。

  6. TechCrunch · AI66

    Nebius 計劃 2027 年支出 400 億美元,微軟資料中心延宕加劇

    Nebius 在第三季財報電話會議上公布 2027 年計劃支出 400 億美元,資金主要來自客戶預付款及以客戶合約為擔保的貸款。其為微軟位於紐澤西州 Vineland 的站點(合約價值最高達 194 億美元)進度落後數月,目前僅略超過一半的微軟容量計劃於年底前交付,其餘則在 2027 年第二季。Nebius 將 2026 年營收預測下調 2 億美元至 30 億美元,並公布第三季營收 9.81 億美元,年增 571%,股價則下跌 17%。

  7. The Verge · AI82

    Google 推出 Gemini 4 Hydrogen,現為 AI 模式和 AI 總覽的預設模型

    Google 發布了 Gemini 4 Hydrogen,稱這款新模型能對複雜問題給出更有幫助的回答,包括包含多個部分的問題、難以理解的錯字,或高度具體的請求。即日起,該模型已在搜尋、Gemini 應用程式、Google AI Studio 所有層級、Gemini API、Gemini for business,以及供 AI Pro 和 Ultra 訂閱者使用的 Google Antigravity 中提供。Google 搜尋副總裁 Robby Stein 表示,它現在是 AI 模式的預設模型,並用於 AI 總覽中最難的問題。

    同一件事,精選收錄的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  8. AWS Machine Learning Blog40

    Natera 如何在 Amazon Bedrock AgentCore 上打造用於實驗室營運的代理式 AI 系統 SWARM

    Natera 在 Amazon Bedrock AgentCore 上打造了用於實驗室營運的代理式 AI 系統 SWARM,將首次回應時間縮短約 130 倍,並自動處理 96.2% 的支援工單。該系統結合了在工程師開啟工單前先草擬診斷報告的 swarm-agent,以及供工程師即時互動的 swarm-hive,兩者共用同一個技能庫。它處理三個佇列中每天超過 65 張 Jira 工單,而這些工單過去平均需要 17.4 小時才能獲得首次回應。

  9. Microsoft Research22

    Microsoft Research Focus Edition #98:AI 翻譯、KLS 猜想證明與更快的編碼代理

    Microsoft Research Focus Edition #98 重點介紹了讓通用翻譯更接近現實的 AI 進展,以及一項解決高維幾何中懸而未決 31 年的 KLS 猜想的新證明。本期還涵蓋 CompactionBench 與 APEC,它們將編碼代理的上下文壓縮成本降低多達 25.4%,執行時間縮短 9.6%,以及 Latent Core Tokenizer,它在 104 種語言上改進了分詞。

  10. Databricks Blog30

    Databricks 破解關於 Lakebase 架構的四個 LTAP 迷思

    Databricks 回應了對 LTAP 的四種常見誤讀;LTAP 是 Lakebase 架構,讓營運資料只保留一份受治理的副本,同時服務 Postgres 與分析,且無需 CDC。文章主張 LTAP 並非複製:湖泊前方的各層是快取,不是擁有自己目錄的第二個資料庫。文章也指出,heap 頁面與 Parquet 是同一批資料列的兩種無損編碼,因此點查詢與掃描各自讀取對其而言快速的佈局。

  11. MarkTechPost68

    CopilotKit 發布 OpenBot 1.0,一個 MIT 授權、可自架且內建治理機制的 AI 協作夥伴

    CopilotKit 於 11 月 9 日發布 OpenBot 1.0,這是一個 MIT 授權、可自架的代理工作空間,團隊可自帶模型、代理與基礎設施。每一次瀏覽器點擊、檔案寫入、MCP 工具呼叫與元件,都會先經過治理閘道,由它評估 CEL 政策並在執行前寫入稽核紀錄,拒絕規則優先執行,規則出錯時則以失敗關閉(fail closed)處理。此版本新增 Mac 與 Windows 桌面應用程式、可將錄製的任務轉為可重複使用技能的 Learning 功能、透過 Composio 與 Arcade 支援多帳號,以及 Bot 對 Bot 的協作編排;個人使用免費,OpenBot for Business 每位活躍使用者每月最高 29 美元。

  12. a16z News58

    Anne Neuberger 提出超級智慧時代的國家網路防禦計畫

    a16z 普通合夥人、前美國副國家安全顧問(網路與新興威脅)Anne Neuberger 提出一項公私合作計畫,以保護關鍵基礎設施免受 AI 速度的攻擊,該計畫發表於《華爾街日報》,並由 a16z 摘要。計畫針對五個領域(電力、銀行與支付、水、通訊、醫院),以及數百家一旦失靈便會引發全國連鎖效應的營運商與共用供應商,目標包括:零網際網路暴露的控制系統、72 小時手動操作演練,以及在規定時間內控制關鍵漏洞。計畫將透過一個向白宮超級智慧部隊負責的執行長委員會運作,由各領域的 ISAC 提供 AI 驅動的掃描、修復與每月評分卡,並為資訊分享與責任歸屬提供法律保護。

  13. The Decoder88

    Google 發布 Gemini 4 Hydrogen,在 Argon 推出四週後評分超越更大的 Argon

    Google 發布 Gemini 4 Hydrogen,這是一款供開發者與一般使用者使用的快速通用模型,定價為每百萬輸入 token 1.50 美元、每百萬輸出 token 7.50 美元,並具備一百萬 token 的上下文視窗。Google 表示,Hydrogen 在預設的高思考等級下於 Artificial Analysis Intelligence Index 獲得 51 分,在新的 xhigh 等級下獲得 54 分,而更大的 Gemini 4 Argon 則為 50 分。Artificial Analysis 的獨立測試顯示,Hydrogen 在最高思考設定下大致與 Claude Sonnet 5.5 持平,但在代理式終端機工作方面較弱,於 Terminal-Bench 4.0 獲得 54%,而 Claude Sonnet 5.5 為 64%。

    同一件事,精選收錄的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  14. AWS Machine Learning Blog38

    大規模 Tokenomics:使用 CUR 2.0 和 AWS Budgets 追蹤並限制每個 IAM 主體的 Amazon Bedrock 支出

    AWS 展示如何僅使用原生功能,按 IAM 主體追蹤並限制 Amazon Bedrock 生成式 AI 支出:Bedrock 會自動在每次推論請求中記錄 IAM 使用者或角色,這些標籤會成為成本分配標籤,可在 Cost Explorer 或 CUR 2.0 匯出中讀取。範圍設為 Bedrock 並篩選至單一身份或標籤值的 AWS Budget 可以附加預算動作,在超過閾值後套用 Deny IAM 政策,常見情況下無需應用程式碼。

  15. AWS Machine Learning Blog36

    影響成本的四個 Amazon Bedrock 推論選擇

    Amazon Bedrock 的快取持續時間、服務層級、推理強度與 maxTokens 設定,能在不改變模型或提示詞的情況下改變推論成本。在 Claude Sonnet 5 與 Claude Opus 5 上,5 分鐘快取寫入的費用是輸入費率的 1.25 倍,1 小時寫入為 2 倍,快取讀取為 0.1 倍;對不支援的模型發出 Flex 層級請求會以 ValidationException 失敗。

  16. Hugging Face Blog69

    IBM 發布基於 Granite 4.1 3B 與 8B 的 LLMON 預覽模型

    IBM 發布了兩個實驗性預覽模型 granite-4.1-3b-LLMON-preview 與 granite-4.1-8b-LLMON-preview,它們衍生自 Granite 4.1 基礎檢查點,並經過訓練以讀取與生成 LLMON——一種 LLM 原生標記語言,以保留的特殊 token 定界符標示指令、資料與需求。在 OPI 基準上,這些模型比測試中最佳的前沿模型多避開 47% 的間接提示注入攻擊,比最佳的開源模型多避開 95%,同時在標準基準上的表現與 Granite 4.1 Instruct 相當。此次發布包含一個 GitHub 工具包,內含無損的 JSON 轉 LLMON 轉換器,作者指出此預覽版僅供探索,並非用於生產環境。

    推薦理由:IBM 在 Granite 4.1 上訓練出能讀寫 LLMON 標記的預覽模型,透過顯式分離指令與資料,將 OPI 基準上的間接提示注入成功率壓到接近零,同時保持通用能力。

  17. LangChain Blog45

    什麼是評估驅動開發?如何改進 AI 代理

    LangChain 說明了評估驅動開發(EDD),這是一套建構 AI 代理的三步流程:定義什麼算好、在建構前先寫好評估、每次變更後比較結果。由於代理具有非確定性,評估會在一組範例資料集上為每次執行評分,並可使用 LLM-as-a-judge,而以 LangSmith 中的真實代理執行作為測試輸入的來源。

  18. Claude YouTube76

    Anthropic 推出 Claude Meetings,將 Claude 加入團隊視訊通話

    Anthropic 以 beta 版形式在 Team 與 Enterprise 方案推出 Claude Meetings,先從 Google Meet 開始,其他視訊會議平台將陸續跟進。Claude 以可見參與者的身分加入通話,在團隊仍在討論時建立文件、白板和其他產出物,並可透過口頭或聊天室提問。通話結束後,筆記、行動項目、逐字稿及 Claude 建立的任何內容都會顯示在 Claude 的會議頁面上。

    同一件事,精選收錄的是《Anthropic launches Claude Meetings in beta for Google Meet on Team and Enterprise plans》

  19. Ars Technica · AI82

    Google 推出 Gemini 4 Hydrogen,在旗下產品中取代 3.8 Flash

    Google 發布 Gemini 4 Hydrogen,在旗下產品中以它取代 Gemini 3.8 Flash,並立即開放使用,而非像近期 Argon 和 Carbon 發布時那樣分階段、僅限付費層級推出。Google 表示,Hydrogen 以四種思考層級之一運行(低、中、高,以及新的 xhigh),即使在 high 模式下也比 Flash 3.8 快 2.5 倍,同時將虛構陳述減少超過 5 倍。它的 Terminal-Bench 分數也超過 3.8 Flash 的三倍,在 xhigh 模式下於 Artificial Analysis Intelligence Index 達到 54,而 Argon 為 50。

    同一件事,精選收錄的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  20. TechCrunch · AI82

    Google 發布 Gemini 4 Hydrogen,為更複雜的搜尋回答提供動力

    Google 發布 Gemini 4 Hydrogen,這是一款快速執行模型,該公司稱其為迄今最大的搜尋改進,並正將此更新推向全球所有搜尋使用者。Google 表示,Hydrogen 完成任務的速度比 Gemini 3.8 Flash 快 2.5 倍,且在其預設的高思考等級下,於 Artificial Analysis Intelligence Index 上擊敗更強大的 Gemini 4 Argon。在搜尋中,它改善了 AI 模式下的意圖理解、錯字處理、扇出子查詢與視覺回應,同時也將登陸 AI Studio、Gemini API、Gemini App 與 Antigravity。

    同一件事,精選收錄的是《Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows》

  21. The Verge · AI58

    考古學家表示,Google 研究員的 AI 代理並未發現未知的馬雅遺址

    一名 Google 研究員的 48 個 AI 代理團隊標記了墨西哥一處馬雅遺址,稱其可能未經登記,但考古學家指出,該遺址早在一年多前就已在學術期刊上被記錄。Pietro Miotti 將這項工作描述為個人副業,未使用 Google 的算力或資源,他表示曾向墨西哥的 INAH 查證,並在社群媒體上受到批評後更新了他的貼文,將功勞歸於較早的研究。包括 Sarah Parcak 和 Ivan Šprajc 在內的考古學家表示,發現一處遺址並不等同於發現它,並強調同儕審查和現有研究仍然至關重要。

  22. Newcomer42

    AI 100:定義 AI 時代的 100 家私人企業

    Newcomer 與 Bessemer Venture Partners 發布首屆 AI 100 榜單,評選出最具前景的 100 家私人 AI 公司,其中 Anthropic 位居第一,領先於其預計下週進行的 IPO,OpenAI 排名第二。這 100 家公司合計估值約 3.5 兆美元,而以研究人員為主的模型公司僅占榜單的 9%,卻占該估值的 55%。推理領域的參與者 Fireworks(第 9 名)、Baseten(第 12 名)、Fal(第 16 名)和 Modal(第 20 名)也名列前茅,與 Stripe(第 4 名)和 Anduril(第 7 名)等轉型的老牌公司並列。

  23. Databricks Blog22

    Constellation 如何在 Databricks 上打造受治理的資料基礎

    Constellation 是美國最大的核電機組營運商,正在 Databricks 上建置受治理的企業資料平台,讓業務對其資料有一致的共同定義。該平台使用 Unity Catalog 來處理血緣、精細存取與單一權限模型,並對關鍵可重用實體採用 Data Vault 建模。早期使用案例包括以 Databricks Genie 打造的核能工程助理,以及停機規劃。

  24. Databricks Blog25

    Eclipse Aerospace 使用 Databricks PySpark 自訂資料來源進行飛行資料擷取

    Eclipse Aerospace 正使用 Databricks PySpark 自訂資料來源,擷取近 20 年的專有飛行資料,總量超過 3TB、涵蓋逾一百萬飛行小時,且無需常時開啟的專用運算資源。這個以 Rust 為後端的 Python 套件,在基準測試中的效能是類似的純 Python PyArrow 資料來源的兩倍,也幾乎是未使用 Arrow 的原生 Python 實作的 20 倍。此 API 於 Apache Spark 4.0 推出,並可在 Databricks Runtime 15.4 LTS 中使用,取代了先前的 Lambda-to-Avro 管線。

  25. TechCrunch · AI58

    聯合航空以網路安全風險為由,禁止 AI 代理預訂航班

    聯合航空表示,將以網路安全風險及可能破壞聯邦法規的疑慮為由,限制 AI 代理代替使用者預訂航班和管理預訂。該航空公司表示,與第三方 AI 助理分享帳戶憑證可能暴露敏感資訊,並導致非預期的購買、帳戶變更或 MileagePlus 里程的使用,該公司正在更新預訂、票務和分銷政策,以直接及透過旅行社和聚合商阻止此類存取。此舉緊隨美國銀行等銀行的警告,敦促客戶不要與 AI 助理分享密碼。

  26. TechCrunch · AI78

    黃仁勳辭去Nvidia執行長職務,引發外界對Nvidia開源支援的疑慮

    Nvidia執行長黃仁勳於週四辭職,此前他承認與一名據稱是中國間諜的女子有婚外情,這使得Nvidia是否會繼續支持開放權重AI成為未知數。黃仁勳曾推動Nemotron開放權重模型系列,支持Reflection AI和Thinking Machines Lab等新創公司,並組織了一封由25家公司簽署的公開信,敦促華盛頓不要過度限制開放模型。Nvidia已任命財務長Colette Kress為臨時執行長,且尚未敲定以130億美元收購Hugging Face的交易。

    同一件事,精選收錄的是《NVIDIA Announces CEO Transition as Jensen Huang Resigns, Colette Kress Named Interim CEO》

  27. AWS Machine Learning Blog66

    AWS 更新 AgentCore 執行環境:工作階段啟動速度提升 15 倍、運算資源增加 4 倍

    AWS 宣布更新 Amazon Bedrock AgentCore 執行環境,這是其用於代理程式的受管運算層,工作階段現在啟動速度最高提升 15 倍,可擴展至 4 倍運算資源(最高 8 個 vCPU 與 32 GB,容器映像最高 10 GB),執行效率最高提升 68%,同時每個工作階段仍維持在各自硬體隔離的 Firecracker MicroVM 中。無論映像大小或並行數量,工作階段皆在 2 秒內啟動,閒置代理程式會縮減至零,代理程式可掛載檔案系統並將工作儲存至 Amazon S3 儲存貯體等位置,支援 FUSE,讓資料留在信任邊界內。此執行環境即日起在北美、南美、歐洲與亞太地區的 AWS 區域提供。

    推薦理由:AgentCore 執行環境的新版本同時調整了工作階段啟動、算力上限與記憶體計費,為需要長時間執行的智慧代理提供了隔離與成本之間的新取捨。

  28. AWS Machine Learning Blog34

    使用 Amazon Bedrock 和 LiteLLM 建立自助式 LLM 閘道

    一個建構於 Amazon Bedrock Application Inference Profiles 與執行在 AWS Fargate 上的 LiteLLM 的自助式 LLM 閘道,將 Bedrock 基礎模型封裝在相容於 OpenAI 的 API 之後,為開發者提供單一基礎 URL 與每位使用者的金鑰。此設定新增了每位使用者的支出控制、各模型的配額隔離,以及 CloudWatch RPM/TPM 可觀測性,並以 Langfuse 提供提示層級的遙測。自助式金鑰發放需要 LiteLLM Enterprise,因為免費方案僅限五名使用者。

  29. Google DeepMind90

    Google DeepMind 發布 Gemini 4 Hydrogen,一款更快的 Gemini 4 模型,專為程式編寫與代理式工作流程打造

    Google DeepMind 推出 Gemini 4 Hydrogen,這是一款 Gemini 4 模型,專為快速的日常程式編寫與代理式執行而打造,而非像 Gemini 4 Carbon 與 Argon 那樣著重於長程推理。它在預設的高思考等級下,於 Artificial Analysis Intelligence Index 上得分 51,而 Argon 為 50;在全新的 xhigh 設定下達到 54;其定價在其 100 萬 token 上下文視窗內一律為每百萬輸入 token 1.50 美元、每百萬輸出 token 7.50 美元。Google 亦在 Google Antigravity 中推出 Orchestrator,可在同一工作階段內於 Carbon 與 Hydrogen 等模型之間切換,並在 Terminal-Bench 4.0 上達到接近 Carbon 的任務成功率,同時少用 24% 配額、完成速度快 19%。

    推薦理由:Google 的 Gemini 4 Hydrogen 鎖定快速的日常程式編寫與代理式工作,在 100 萬上下文視窗內一律採每百萬 token 1.50/7.50 美元的定價,並搭配可在 Gemini 4 模型之間切換的全新 Orchestrator。

  30. AWS Machine Learning Blog34

    在 Amazon Bedrock 上最佳化每項任務成本並證明代理投資報酬率

    這篇 AWS 文章主張,Amazon Bedrock 的支出應以每項任務成本而非每詞元成本來衡量,因為分詞器效率、輸出冗長程度、代理迴圈次數與推理額外開銷,可能讓價格較低的模型反而成本更高。文中一個實例顯示,列表價格為兩倍的模型,每項任務的完成成本反而低 65%;文章還補充快取、路由與輸出限制,以及一套五維度評分卡,用來對照人工基準衡量代理的投資報酬率。

  31. SemiAnalysis85

    Nvidia 與沒有 Jensen 的世界:後創辦人時代的 Nvidia 會是什麼模樣

    SemiAnalysis 主張,Nvidia 是圍繞黃仁勳建立的,而他在擔任執行長 33 年後已卸任,他的離去削弱了公司的長期押注、晶片分配交易與個人化的供應鏈鎖定。文章指出,黃仁勳任內 Nvidia 約有 60 名直屬下屬,且缺乏深厚的接班梯隊,目前由 Colette Kress 擔任臨時執行長,Ian Buck 與 Jonah Alben 則被點名為內部技術人選。文章也將時機與華盛頓連結起來:估計已有超過 1.5GW 的受限 Nvidia 晶片流入中國,而《遠端存取安全法案》(Remote Access Security Act)已在眾議院以 369 比 22 通過,正待參議院表決。

    推薦理由:SemiAnalysis 檢視 Nvidia 以創辦人為核心的結構、供應鏈交易與中國政策在黃仁勳離去後可能如何改變,以及出口管制立法為何在此刻推進。