跳至正文
11月13日星期五
  1. Databricks Blog36

    Bright Machines 運用 Debezium 與 Iceberg,讓客戶從氣隙隔離工廠取得即時儀表板

    Bright Machines 現在能讓客戶取得來自氣隙隔離工廠的即時、受治理的工廠資料儀表板,且無需開放任何 inbound 存取。它在邊緣端以 Debezium 擷取 PostgreSQL 變更,寫入為 Apache Iceberg,透過單一可稽核的 outbound 路徑推送出去,並在 Databricks 中透過 Unity Catalog federation 就地讀取。第一個客戶可見的儀表板在啟動後約兩個月上線,已提交的資料列可在一到兩分鐘內查詢,儀表板每十分鐘重新整理。

  2. Hacker News · AI38

    AI 編程的難點在於第二次變更

    Brian Woods 認為,AI 編程代理讓第一次可用的變更變得廉價,但第二次變更才是系統崩潰的地方——一個代理為支付服務添加重試機制,即使測試通過,也可能導致客戶被重複扣款。他提出在接受變更前必須回答四個問題:規格、驗證、來源與授權,並讓代理提出變更,由獨立工作流產生證據,再由人類批准。他還展示了一份簽署的建置證明,即使測試失敗也能回傳 VERIFIED,因為真實性不等於發布就緒。

  3. Hacker News · AI38

    NEAR AI Gateway:在 Claude Code、Codex 與 OpenCode 中使用私有 AI 模型

    NEAR AI Gateway 讓 Claude Code、Codex 與 OpenCode 將其 AI 請求改由 NEAR AI 的私有模型處理,每次呼叫的模型、token 與成本都記錄在 Mac 本機。追蹤資料在分享前會先在裝置上進行遮蔽處理,使用者可逐一檢視每筆追蹤資料,再決定哪些內容離開本機。獲接受的追蹤資料可獲得 NEAR AI Cloud 推論額度;這款 macOS 14+ 應用程式為 1.0.7 版,大小 119 MB。

  4. Hacker News · AI71

    InferSSD 將專家權重放在 NVMe 上,讓消費級硬體也能執行 800B 級 LLM

    InferSSD 是建構於 llama.cpp 上的開源推論執行環境,它將路由專家權重保留在 NVMe 儲存裝置上,而注意力、共享層與 KV 快取則留在 RAM 或 VRAM,藉此在消費級機器上執行 763B 級的 DeepSeek-V4.1-Flash-1017 與 816B 級的 Muse-Spark-Open。在配備 32 GB RAM 與 32 GB VRAM 的 RTX 5090 上,它回報 DeepSeek 在 4K 提示層級下可達 164.5 tokens/s 的預填充與 7.27 tokens/s 的解碼,而同系統上的 llama.cpp 則為 8.06 與 0.867 tokens/s。文章也估計,重度日常使用可能意味著每天約 85 TB 的主機讀取量,並提出一個有條件的 SSD 耗損模型,同時指出這些數字是待驗證的假設,而非承諾的硬碟壽命。

  5. Hacker News · AI76

    AgentRun 開源發布:為現有 Agent harness 加上自我改進與持久執行

    Parcha Labs 開源 AgentRun,一個在 Claude Code、Codex、OpenCode 和 pi 之上疊加自我改進、持久執行與控制台的 Agent 平台,採用 Apache-2.0 許可。

    推薦理由:AgentRun 把自我改進、持久執行和控制台疊加在 Claude Code、Codex 等現有 harness 之上,並給出程式碼審查成本從每月 6451 美元降到每次 18 美分的具體案例。

  6. Hacker News · AI31

    Air-LLM:透過射頻計算將 AI 權重廣播至邊緣裝置,實現即時 LLM 推論

    Air-LLM 是一種邊緣 LLM 推論架構,其中央無線電(例如 5G 基地台)透過無線方式廣播模型權重,邊緣使用者利用射頻混頻器直接在射頻域完成 GEMV,因此裝置從不儲存或載入權重。在兩個真實城市場景中,以真實射頻混頻器設定檔於 NVIDIA Sionna 光線追蹤通道上測試,它將 LLaMA-3.1-8B 在 WikiText-2 上的困惑度退化限制在 4.0%,同時相較於 FP16 與僅權重量化基準,分別節省 157.7 倍/40.4 倍能源。在 20 位使用者下,空中傳輸時間縮短 104.1 倍/26.0 倍,且由於中央無線電保持不感知使用者,單次廣播即可服務覆蓋範圍內無限數量的使用者。

  7. Hacker News · AI58

    Cloudflare Workers AI 預覽 Clairic,一款 System One 風格的擷取模型

    Cloudflare Workers AI 已釋出 Clairic 預覽版,這是一款強型別擷取模型,可從輸入中擷取、計算、估計與預測數值,並為每項輸出回傳信心分數與機率。該模型具有 65,536 個 token 的上下文視窗,支援視覺,提供零資料保留,定價為每百萬輸入 token 0.10 美元。在文件記載的發票範例中,Clairic 擷取發票號碼、到期日與總額等欄位,對缺失的採購單號回傳 null 並附上 p_null 1,並對 days_to_pay 給出中位數 30,以及 21 至 38 的 p10-p90 區間。

  8. Hacker News · AI58

    CanyonOS 0.2 推出,作為尋找、觀察與擴展代理的開源工具

    CanyonOS 0.2 是一個開源、與模型無關工具的首個公開發行版,用於尋找、觀察與擴展拖慢工作流程的代理。它可在 Docker 或 Kubernetes 上執行,適用於任何提供 OpenAI 相容 API 的供應商,可將與 OpenTelemetry 相容的追蹤與指標匯出至 Datadog、Grafana、Prometheus、Langfuse 和 Arize Phoenix 等工具,並新增每個代理的成本與佇列時間。該專案採用 AGPL-3.0 授權,要求將代理改寫為純 Python,每個代理一個檔案,其 FAQ 指出它尚未在大規模生產環境中執行過。

  9. Hacker News · AI22

    AI 能力與取代工作之間的落差

    一篇評論主張 AI 不會造成有意義的淨失業,並引用 Anthropic 的研究指出,約 30% 的勞工在測量上對 AI 的暴露程度為零。許多白領工作涉及協調、邊緣案例與客戶接觸,這些是 AI 目前仍無法處理的;而笨拙的介面與封閉的花園仍需要人類來彌補落差。

  10. Hacker News · AI58

    Stay-in-sight 推出開源外寄郵件工具,內建 64 個供 AI 代理使用的 MCP 工具

    Stay-in-sight 發布了一套以 MIT 授權的外寄郵件系統,運行於 Cloudflare Workers 與 D1,可從使用者自己的 Gmail 與 SES 信箱寄送冷開發信、電子報與滴灌式系列郵件。它隨附 64 個 MCP 工具及一套 REST API,讓 Claude Code、Cursor 等代理能匯入聯絡人、排定寄送並回覆來信;該專案宣稱約 30 分鐘即可完成部署,低用量時代管免費,或使用 Workers Paid 方案每月 5 美元。

  11. Hacker News · AI58

    InferTrail 執行為期 35 天的 LLM API 金鑰蜜罐,追蹤被竊金鑰如何被使用

    InferTrail 在 40 多個假 GitHub 組織中植入 179 個 API 金鑰,並運行兩個蜜罐 LLM 閘道長達 36 天,記錄了超過 300 萬次請求。已公開的金鑰中只有 18 個被用來發送提示,而六個金鑰佔了洩漏金鑰提示請求的 98.9%,其中 86% 的流量來自託管基礎設施。作者列出三種可發現金鑰重複使用的日誌模式:短時間內一個金鑰下出現許多模型名稱、金鑰生效後出現固定間隔的檢查,以及來源位址的變化。

  12. Hacker News · AI17

    舊金山公司用AI設計並組裝PCB,將週期從數月縮短至數週

    一家舊金山公司利用自家AI工具設計並組裝PCB,將從初始原理圖到可量產電路板的周轉時間從數月縮短至數週。其作品組合涵蓋一款8層軟體定義無線電前端,在射頻效能相同下體積縮小67%;一款USB-C穿戴式音訊介面,從兩次失敗設計走向300多台量產;以及一款堅固的工業繼電器控制器。PCB設計服務起價1萬美元,整合電子方案起價2.5萬美元,先進電子方案起價5萬美元。

  13. Hacker News · AI60

    Cerulion 2.0 發布:一個開源、相容 ROS 2 的機器人執行環境,支援多程序重播

    Cerulion Inc. 發布 Cerulion 2.0,這是一個開源、相容 ROS 2 的機器人執行環境,可記錄執行過程,並針對變更後的程式碼重播失敗情境,預設每個節點一個程序。它提供 Linux x86_64/ARM64 與 macOS 二進位檔、一個在 Foxy 到 Lyrical 上測試過的 rmw_cerulion 層,以及 MCAP 錄製檔,具備位元組精確的重播驗證,發生分歧時會回傳非零退出碼。在一台 x86-64 Linux 桌機上、1 MiB 負載下,該專案回報中位數往返時間為 4.08 µs,而 ROS 2 Jazzy 搭配 rmw_fastrtps_cpp 預設值則為 10,952 µs。

  14. Hacker News · AI60

    Neon 與 Mubit 發布一款代理範本,可將其自身的前沿模型 token 用量削減 73%

    Neon 與 Mubit 在 Neon Functions 與 Lakebase Postgres 上發布了一款資料分析代理範本,將每次模型呼叫都經由 Mubit 送往 Neon AI Gateway。在 Mubit 針對 20 道 CL-bench 問題、每題各執行三次的基準測試中,此配置將 gpt-5.5 的輸入 token 削減了 73%,回答速度提升 40%,準確率為 65%,而單獨使用 gpt-5.5 則為 60%。Mubit 會在一款小型微調模型通過由該任務自身流量建構的測驗後,將列出資料表、撰寫答案等例行步驟交給該模型處理,而每一條 SQL 查詢仍由 gpt-5.5 撰寫。

  15. Hacker News · AI35

    逆向工程 Coway 空氣清淨機以擺脫雲端依賴

    一名開發者對支援 Wi-Fi 的 Coway Airmega IconS 空氣清淨機進行了逆向工程,以減少其對 Coway IoCare 雲端的依賴,並在大型語言模型的協助下架設了中間人攔截環境。既有的 Home Assistant 整合會冒充 Coway 的手機應用程式,但屢屢失效——伺服器封鎖、IoCare 更名為 IoCare+、HTML 版面變更以及服務中斷——促使了這項行動。2026 年 10 月憑證機構 eMudhra 發生的弱金鑰事件,為攔截該裝置的流量提供了一個可能的切入點。

  16. Hacker News · AI25

    端到端 AI 系統對自動駕駛未來的意義

    Aptiv 工程副總裁 Guillermo Pita 說明端到端 AI 與傳統模組化 ADAS 的差異:前者訓練單一模型,直接從資料中學習駕駛行為,而非串接各自獨立的感知、追蹤、規劃與控制模組。他指出更接近人類的駕駛表現是主要優勢,可解釋性與除錯則是關鍵挑戰,並認為訓練的核心問題在於資料多樣性,而非單純的行駛里程。

  17. MarkTechPost62

    Fish Audio 發布 Live 3,一款反應時間僅 186 毫秒的全雙工語音模型

    Fish Audio 發布 Live 3,這是一款用於即時語音代理的全雙工語音模型,能在說話的同時持續聆聽,並從真實人類對話中學習輪流發言,而非依賴手工調校的流程規則。Fish Audio 表示,對於「mm-hmm」這類簡短回應,它能在短短 186 毫秒內決定是否回應,不過這個數字只是小型反應的下限,並非完整回覆的首個音訊時間,且尚未公布任何基準測試分數。Live 3 可運行於 Fish Agent Platform(公開測試版)、Fish Audio API 以及企業地端部署,定價為每分鐘 0.035 美元,優惠至 2026 年 12 月 31 日,原價為每分鐘 0.07 美元,且僅支援英文。

  18. AWS Machine Learning Blog58

    AWS 發布 SGLang-Neuron,可在 Trainium 上以原有 SGLang 介面部署前沿模型

    Amazon 宣布 SGLang-Neuron 正式公開可用,這是一個 out-of-tree 外掛,透過 AWS Deep Learning Container 在 AWS Trainium 上執行 SGLang,由 RadixArk 與 Annapurna Labs 發布。使用者維持相同的 SGLang 伺服器介面與生成 API,而此外掛提供 Trainium 專屬的模型、注意力、MoE,以及建構於原生 PyTorch 與 NKI 核心之上、以 torch.compile 編譯的 graph runner。它也支援 PD 分離,透過 EFA 上的 NIXL 將 prefill KV 快取傳輸到 decode 伺服器,而操作說明則在 Trainium3 EC2 執行個體上以 pytorch-inference-sglang-neuronx 容器提供 openai/gpt-oss-120b 的服務。

  19. TechCrunch · AI66

    Nebius 計劃 2027 年支出 400 億美元,微軟資料中心延宕加劇

    Nebius 在第三季財報電話會議上公布 2027 年計劃支出 400 億美元,資金主要來自客戶預付款及以客戶合約為擔保的貸款。其為微軟位於紐澤西州 Vineland 的站點(合約價值最高達 194 億美元)進度落後數月,目前僅略超過一半的微軟容量計劃於年底前交付,其餘則在 2027 年第二季。Nebius 將 2026 年營收預測下調 2 億美元至 30 億美元,並公布第三季營收 9.81 億美元,年增 571%,股價則下跌 17%。

  20. AWS Machine Learning Blog40

    Natera 如何在 Amazon Bedrock AgentCore 上打造用於實驗室營運的代理式 AI 系統 SWARM

    Natera 在 Amazon Bedrock AgentCore 上打造了用於實驗室營運的代理式 AI 系統 SWARM,將首次回應時間縮短約 130 倍,並自動處理 96.2% 的支援工單。該系統結合了在工程師開啟工單前先草擬診斷報告的 swarm-agent,以及供工程師即時互動的 swarm-hive,兩者共用同一個技能庫。它處理三個佇列中每天超過 65 張 Jira 工單,而這些工單過去平均需要 17.4 小時才能獲得首次回應。

  21. Databricks Blog30

    Databricks 破解關於 Lakebase 架構的四個 LTAP 迷思

    Databricks 回應了對 LTAP 的四種常見誤讀;LTAP 是 Lakebase 架構,讓營運資料只保留一份受治理的副本,同時服務 Postgres 與分析,且無需 CDC。文章主張 LTAP 並非複製:湖泊前方的各層是快取,不是擁有自己目錄的第二個資料庫。文章也指出,heap 頁面與 Parquet 是同一批資料列的兩種無損編碼,因此點查詢與掃描各自讀取對其而言快速的佈局。

  22. MIT News18

    MIT Lincoln Laboratory 的 Magnetite OS 與另外兩項技術榮獲 2026 R&D 100 Awards

    MIT Lincoln Laboratory 的三項技術獲得 2026 R&D 100 Awards:Magnetite 作業系統,以經過形式化驗證的 seL4 微核心為基礎,搭配以 Rust 撰寫的服務,保護嵌入式電腦免受網路攻擊;Quantum Microsystems 平台,將數百個超導體與半導體晶片整合為單一晶圓級系統;以及一套演算法,可消除 5G 基地台對同頻道 RF 裝置造成的干擾。Magnetite 供政府使用及核准合作夥伴免費使用,目前正整合至 DoW 的太空與飛行平台。

  23. AWS Machine Learning Blog38

    大規模 Tokenomics:使用 CUR 2.0 和 AWS Budgets 追蹤並限制每個 IAM 主體的 Amazon Bedrock 支出

    AWS 展示如何僅使用原生功能,按 IAM 主體追蹤並限制 Amazon Bedrock 生成式 AI 支出:Bedrock 會自動在每次推論請求中記錄 IAM 使用者或角色,這些標籤會成為成本分配標籤,可在 Cost Explorer 或 CUR 2.0 匯出中讀取。範圍設為 Bedrock 並篩選至單一身份或標籤值的 AWS Budget 可以附加預算動作,在超過閾值後套用 Deny IAM 政策,常見情況下無需應用程式碼。

  24. AWS Machine Learning Blog36

    影響成本的四個 Amazon Bedrock 推論選擇

    Amazon Bedrock 的快取持續時間、服務層級、推理強度與 maxTokens 設定,能在不改變模型或提示詞的情況下改變推論成本。在 Claude Sonnet 5 與 Claude Opus 5 上,5 分鐘快取寫入的費用是輸入費率的 1.25 倍,1 小時寫入為 2 倍,快取讀取為 0.1 倍;對不支援的模型發出 Flex 層級請求會以 ValidationException 失敗。

  25. Databricks Blog22

    Constellation 如何在 Databricks 上打造受治理的資料基礎

    Constellation 是美國最大的核電機組營運商,正在 Databricks 上建置受治理的企業資料平台,讓業務對其資料有一致的共同定義。該平台使用 Unity Catalog 來處理血緣、精細存取與單一權限模型,並對關鍵可重用實體採用 Data Vault 建模。早期使用案例包括以 Databricks Genie 打造的核能工程助理,以及停機規劃。

  26. Databricks Blog25

    Eclipse Aerospace 使用 Databricks PySpark 自訂資料來源進行飛行資料擷取

    Eclipse Aerospace 正使用 Databricks PySpark 自訂資料來源,擷取近 20 年的專有飛行資料,總量超過 3TB、涵蓋逾一百萬飛行小時,且無需常時開啟的專用運算資源。這個以 Rust 為後端的 Python 套件,在基準測試中的效能是類似的純 Python PyArrow 資料來源的兩倍,也幾乎是未使用 Arrow 的原生 Python 實作的 20 倍。此 API 於 Apache Spark 4.0 推出,並可在 Databricks Runtime 15.4 LTS 中使用,取代了先前的 Lambda-to-Avro 管線。

  27. AWS Machine Learning Blog66

    AWS 更新 AgentCore 執行環境:工作階段啟動速度提升 15 倍、運算資源增加 4 倍

    AWS 宣布更新 Amazon Bedrock AgentCore 執行環境,這是其用於代理程式的受管運算層,工作階段現在啟動速度最高提升 15 倍,可擴展至 4 倍運算資源(最高 8 個 vCPU 與 32 GB,容器映像最高 10 GB),執行效率最高提升 68%,同時每個工作階段仍維持在各自硬體隔離的 Firecracker MicroVM 中。無論映像大小或並行數量,工作階段皆在 2 秒內啟動,閒置代理程式會縮減至零,代理程式可掛載檔案系統並將工作儲存至 Amazon S3 儲存貯體等位置,支援 FUSE,讓資料留在信任邊界內。此執行環境即日起在北美、南美、歐洲與亞太地區的 AWS 區域提供。

    推薦理由:AgentCore 執行環境的新版本同時調整了工作階段啟動、算力上限與記憶體計費,為需要長時間執行的智慧代理提供了隔離與成本之間的新取捨。

  28. AWS Machine Learning Blog34

    使用 Amazon Bedrock 和 LiteLLM 建立自助式 LLM 閘道

    一個建構於 Amazon Bedrock Application Inference Profiles 與執行在 AWS Fargate 上的 LiteLLM 的自助式 LLM 閘道,將 Bedrock 基礎模型封裝在相容於 OpenAI 的 API 之後,為開發者提供單一基礎 URL 與每位使用者的金鑰。此設定新增了每位使用者的支出控制、各模型的配額隔離,以及 CloudWatch RPM/TPM 可觀測性,並以 Langfuse 提供提示層級的遙測。自助式金鑰發放需要 LiteLLM Enterprise,因為免費方案僅限五名使用者。

  29. AWS Machine Learning Blog34

    在 Amazon Bedrock 上最佳化每項任務成本並證明代理投資報酬率

    這篇 AWS 文章主張,Amazon Bedrock 的支出應以每項任務成本而非每詞元成本來衡量,因為分詞器效率、輸出冗長程度、代理迴圈次數與推理額外開銷,可能讓價格較低的模型反而成本更高。文中一個實例顯示,列表價格為兩倍的模型,每項任務的完成成本反而低 65%;文章還補充快取、路由與輸出限制,以及一套五維度評分卡,用來對照人工基準衡量代理的投資報酬率。

  30. SemiAnalysis85

    Nvidia 與沒有 Jensen 的世界:後創辦人時代的 Nvidia 會是什麼模樣

    SemiAnalysis 主張,Nvidia 是圍繞黃仁勳建立的,而他在擔任執行長 33 年後已卸任,他的離去削弱了公司的長期押注、晶片分配交易與個人化的供應鏈鎖定。文章指出,黃仁勳任內 Nvidia 約有 60 名直屬下屬,且缺乏深厚的接班梯隊,目前由 Colette Kress 擔任臨時執行長,Ian Buck 與 Jonah Alben 則被點名為內部技術人選。文章也將時機與華盛頓連結起來:估計已有超過 1.5GW 的受限 Nvidia 晶片流入中國,而《遠端存取安全法案》(Remote Access Security Act)已在眾議院以 369 比 22 通過,正待參議院表決。

    推薦理由:SemiAnalysis 檢視 Nvidia 以創辦人為核心的結構、供應鏈交易與中國政策在黃仁勳離去後可能如何改變,以及出口管制立法為何在此刻推進。

  31. MarkTechPost71

    AWS 發布 AWS Emulator,一個由 AI 代理編寫、支援 200 多項 AWS 服務的本機模擬器

    AWS 發布了 AWS Emulator,這是一款免費的 AWS API 本機模擬器,可在筆記型電腦、開發伺服器或 CI 中執行,無需 AWS 帳戶,且其所有程式碼均由自主代理編寫與審查。它基於 438 個 AWS API 模型建構,涵蓋 200 多項服務,並在 v1.0.322 版本中通過了 42,857 項計分保真度測試中的 24,243 項(56.6%),其中 AWS KMS 為 93.9%,AWS CloudFormation 為 15.8%。AWS 列出了明確的限制:不進行 IAM 政策評估、僅支援單一區域與單一帳戶、資源為記憶體內的短生命週期資源,且預設開啟遙測。

  32. Claude YouTube35

    為前沿打造 Claude API:深入 Claude 平台的發布與安全決策

    Claude 平台工程師 Jake Dejno 與 Lucca Siaudzionis 說明 Claude API 如何隨著每次模型發布而演進,涵蓋功能發布決策、模型版本管理與遷移,以及成本管理。他們詳細介紹在對話中途變更 effort 而不破壞 prompt caching 的最佳實務,以及 Claude Mythos 與 Fable 如何共用相同的模型權重但採用不同的安全防護措施。Claude Managed Agents 與對話中途變更 effort 目前處於 beta 階段,Mythos 的存取則透過 Cyber Verification Program 進行。

  33. Databricks Blog22

    H6.ai 如何用 Lakebase Postgres 打造 AI 驅動的財務自動化

    H6.ai 在客戶既有的 ERP 之上自動化應付帳款,並為每位客戶使用專屬的 Lakebase Postgres 資料庫作為系統記錄。由於發票資料不斷變動,團隊使用 Lakebase 的寫時複製分支(copy-on-write branches)凍結客戶資料庫的快照,並在各自短命的的分支上執行每項回歸測試,因此正式資料庫永遠不會被寫入。每次執行皆以確定性斷言,加上由不同模型供應商組成的 AI 評審團來評判。

  34. Databricks Blog58

    Databricks 推出 Lakehouse//RT,實現即時分析且成本不成比例增長

    Databricks 推出 Lakehouse//RT,這是一款即時分析引擎,可直接在 lakehouse 資料上執行高併發工作負載,現已開放測試版。該公司表示,它能在每秒 12,000 次查詢下提供低於 100 毫秒的延遲,每次增加一個節點來擴充容量,並避免額外的服務層;客戶 Aurasell、VisionHeight 和 nOps 表示,從多叢集架構、Apache Pinot 和 Apache Druid 遷移後,基礎設施成本降低了 6 到 10 倍。