Snorkel 如何用 Modal 執行逼真的代理模擬
Snorkel 使用 Modal 的 GPU 與 CPU 沙箱，每月執行數百萬次代理模擬，每小時尖峰達數萬個沙箱，並依賴 Modal 對其評估的開放權重模型進行推論。採用 Modal 的記憶體突發功能後，Snorkel 的沙箱總帳單降低約 20%，目前約有 10-15% 的沙箱使用突發功能。Modal 是唯一能大規模滿足 Snorkel GPU 沙箱需求的沙箱供應商。
全部動態
Modal BlogAI 評分2222 EveryAI 評分2222 為什麼有些 AI 工作流程能持續，有些卻不行
Katie Parrott 提出四個問題，用來判斷哪些 AI 工作流程該保留、重新設計、重新檢視或淘汰；她主張，今天行不通的工具，日後可能隨著新選項把技術難度抽象化而變得合適。這篇轉載自七月的文章，以 Every 執行長 Dan Shipper 的 Codex 原生 Tend 系統為例。
The Pragmatic EngineerAI 評分2222 擴展 Slack 與 GitHub：Maude Lemaire 談後端效能與資料庫分片
Maude Lemaire 是首席工程師，也是《Refactoring at Scale》的作者，她在 The Pragmatic Engineer 播客中分享了擴展 Slack 與 GitHub 的內部視角。她花了近八年時間領導 Slack 的後端效能基礎設施團隊，之後於 2024 年加入 GitHub 處理資料庫擴展問題，最近則在 Cursor 從事效能工作，包括首個 token 的延遲時間。她解釋了 Slack 為何限制 23 個自訂表情符號以避免驚群效應、為何用樸素方式對 50 萬個 WebSocket 連線進行負載測試每次執行要花費 15 萬美元，以及為何 GitHub 的 Active Record 抽象層與分散式查詢使其資料庫分片上限為 16 個。
Meta Engineering BlogAI 評分3434 Meta F3 Lightning 將廣告 ML 特徵發布速度提升約 3.6 倍
Meta 推出 F3 Lightning，這是在其 Facebook Feature Framework（F3）之上建構的基礎設施層，將特徵發布與共用執行解耦，使 20,000 多個廣告排序特徵中的每一個都能獨立編譯、驗證、部署和回滾。相較於先前的 F3，同類萃取特徵現在進入生產環境的速度約快 3.6 倍，且基礎設施運算成本並未增加。
Google Developers BlogAI 評分5858 Google 以每項任務成本為基準，對便宜分類器進行基準測試，用以分流 Gemini 模型
Google 執行了一項 50 題自動評分的編碼代理基準測試，檢驗輕量級分類器 TypeSafe 的 Jev 能否將每項任務分流到仍能正確作答的最便宜 Gemini 配置。一個凍結的正規表達式與提示長度啟發式方法在 16 道開發題上得分 93.8%，但在 34 道留出任務上掉了 23.2 個百分點至 70.6%，而 Jev 在完整測試集上達到 96.0%。最強的無路由器配置，即低思考模式的 Gemini 3.8 Flash，解出了全部 50 道任務；而一個先將任務送往 Flash-Lite、再將被標記的任務升級的 Jev 路由器也解出了全部 50 道，同時降低了成本與回應時間；將 maxOutputTokens 上限設為 300 在簡單任務上沒有節省任何成本，還弄壞了 25 道難題中的 7 道。
Google Developers BlogAI 評分5858 Google 說明如何用 A2UI 與 CopilotKit 代理程式建構生成式 UI 應用程式
Google 發布了一份逐步指南，說明如何用其框架無關的 A2UI（Agent-to-UI）標準與 CopilotKit 的代理程式整合堆疊來建構生成式 UI 應用程式。A2UI 以宣告式 JSON 訊息傳送 UI，而非可執行程式碼，因此用戶端只會從受信任的目錄中渲染元件，且同一份承載資料可在 React、Angular、Lit、SwiftUI、Jetpack Compose 與 Flutter 上運作。該指南展示了如何透過 AG-UI 接上 Google ADK 代理程式、定義經 Zod 驗證的元件目錄，以及建構雙向介面，讓使用者輸入回流至代理程式，以支援預訂等多步驟流程。
Figma BlogAI 評分5858 Figma 如何訓練出精通 Figma 的設計編輯模型
Figma 詳細說明其如何為 Figma agent 訓練第一方設計編輯模型，做法是先以合成編輯請求進行監督式微調，這些請求以 Figma 原生檔案格式表示，並透過確定性檢查與視覺模型評審進行驗證。
Ai2 · Allen Institute for AIAI 評分4040 研究人員如何調整 olmOCR 2 以適用於歷史與考古檔案
研究人員正在調整 Ai2 的開源 olmOCR 2 模型，用以轉錄歷史與考古檔案。歷史學家 Maurice Casey 打造了 ArtificeOCR，讓 olmOCR 2 搭配 Tropy 在本機執行，使他收藏的檔案照片庫可供關鍵字搜尋；而維也納工業大學（TU Wien）的 CENTURIA 專案則以 LoRA 對 olmOCR 2 進行微調，使用 57 筆標註紀錄，將 450 筆測試紀錄的轉錄錯誤率從 15.58% 降至 1.11%。
The Pragmatic EngineerAI 評分5858 AI SRE 解析：AI 事故代理如何改變待命機制，以及它們是否有效
The Pragmatic Engineer 訪問了 Rootly、incident.io 和 ResolveAI，了解 AI SRE 工具；這些工具大多是在 Slack 內加速事故調查，而非自主行動。許多公司的部署頻率在一年內大約翻倍，Rootly 的資料顯示告警量上升，非工作時間的告警幾乎翻倍，而供應商正圍繞知識圖譜、記憶與驗證代理重建調查代理。內部案例包括 OpenAI 的 Sevbot、Stripe 的調查代理（簡單執行約 3 分鐘，深入執行 14 分鐘），以及 Gemini CLI 中的 Google ProdAgent；後者透過 MCP 建議工具，且不撰寫程式碼。
Meta Engineering BlogAI 評分3434 Meta PrivacyLib：資料存取邊界上的隱私控制
Meta 詳細介紹了 PrivacyLib，這是一個內嵌於其數百個資料與處理系統用戶端的通用程式庫，在資料存取點強制執行隱私要求，每秒執行數十億次檢查。系統只需整合一次，新的隱私功能便以外掛模組形式發布，取代了過去可能耗時數月的各系統獨立實作。一個 Agent Observability 模組透過將代理上下文傳遞給 PrivacyLib，來追蹤內部 AI 代理的資料存取。
Google Developers BlogAI 評分4646 透過 Agents CLI 評估提升 Agent 品質
Google 的 Agents CLI 評估命名空間為 agent 執行爬山式迴圈：eval generate、grade、compare、analyze 與 optimize。在 Agents CLI v1.8.0 中對 LangChain 範本的逐步操作裡，以 gemini-3.8-flash 作為評審時，基線得分為 4.0/5，而錯誤的 chef 系統提示詞使其降至 2.75。
Google Developers BlogAI 評分3434 在 GCP 上以多代理集群打造對話式商務：一個可運作的原型
Google Cloud 開發者打造了 HappyDelivery，這是一個運用 LangGraph、Gemini、FastAPI 與 Google Cloud 的對話式商務可運作原型，延續了先前由 Ingress、Memory 與 Cognition 組成的三層藍圖。Ingress 層會驗證 WhatsApp、RCS、Apple Messages 與 SMS 等各平台專屬的 webhook 簽章，將承載資料正規化為共通結構，並卸載至 Pub/Sub，約在 300ms 內回傳 HTTP 200。文章逐步說明程式碼、狀態機、確定性財務工具，以及一套自動化驗證套件。
SemiAnalysisAI 評分6060 SemiAnalysis 測試 Amazon Trainium3 的原生 PyTorch 訓練堆疊與 Neuron Explorer 效能分析工具
SemiAnalysis 的工程團隊在 TorchTitan 與 TorchNeuron 堆疊上測試了 Trainium3 機架，發現原生 PyTorch 體驗相較舊有的 PyTorch/XLA 做法有大幅改善，不過仍存在錯誤與編譯時間過長的問題。在編譯模式下，於 16 顆 Trainium2 晶片上訓練 Qwen3-32B 達到每秒 14,156 個 token、MFU 為 30.47%，相較 eager 模式提升 1.28 倍，而 gpt-oss 20B 配方則花了 27 分 17 秒編譯。團隊也將 Neuron Explorer 評為業界領先的效能分析工具，領先 Nvidia 與 AMD 的工具，並回報 Trainium3 通過了 96 個 FlexAttention 測試案例中的 89 個。
Figma BlogAI 評分4040 如何讓你的設計系統與 Figma Agent 協同運作
Figma agent 現已正式推出，Figma 說明如何將你的設計系統提供給它，讓其輸出符合你的產品。連接已發佈的程式庫可讓 agent 使用核准的元件與 token，而指引檔案則可將團隊規則編碼化，Examples 頁面或 _example 命名則提供可重複使用的模式。
Google Developers BlogAI 評分3838 Google Cloud 的 Project Chrysalis：建構於 Gemini 與 ADK 之上、受治理且可自我演進的 AI 代理架構
Google Cloud 研究人員發表 Project Chrysalis，這是一套建構於 Gemini 平台與 Agent Development Kit（ADK）之上、受治理且可自我演進的 AI 代理參考架構。在模擬的黑色星期五快取踩踏（cache-stampede）故障情境中，它將首次緩解時間從 15–45 分鐘縮短至 1.8 秒，把 HTTP 5xx 錯誤從 72.7%–80.0% 降至 0.0%，並將 P99 延遲從 519.8 ms 降至 18.2 ms。每一個自主動作都受到 Model Armor、Cloud KMS、Binary Authorization、OPA Policy Controller 以及雙人保管的人員介入簽核機制所約束。
LiveKit BlogAI 評分2525 Acuity Health 如何運用 LiveKit 語音代理自動化病患服務
Acuity Health 在低程式碼平台被證明過於僵化且不透明後，於 LiveKit 上重建其病患服務語音代理，如今 80% 的來電完全由 AI 代理處理。代理運行於 LiveKit Inference，採用 Gemma 4 31B 模型，多數預約在一分鐘內完成，81% 的預約來電以「謝謝」作結。LiveKit Simulations 會在發布前針對病患檔案測試每項變更，而一次提示詞審查刪減了約 24% 的字詞，仍通過相同的測試情境。
GitHub Blog · AI & MLAI 評分2222 三位 Java Champion 如何用 GitHub Copilot 提升生產力
三位擁有超過十年 Java 經驗的 Java Champion 分別分享了他們在生產環境與開源工作中如何使用 GitHub Copilot。Vlad Mihalcea 在兩天內（而非數週）建置了一個 Hypersistence Optimizer 網頁應用程式，並以他的 65 篇文章訓練自訂技能，使其符合他的寫作風格。Patrick Baumgartner 用 Copilot 將 15 份簡報中約 900 張教學投影片從 Reveal.js 遷移到 Marp，並透過截圖比對驗證結果。
GitHub Blog · AI & MLAI 評分2626 如何在 VS Code 中繼續 GitHub Copilot 應用程式工作階段
GitHub Copilot 應用程式工作階段現在可以直接在 VS Code 中開啟，並延續對話、程式碼變更與工作樹，讓開發者無需重新開始即可檢視差異、手動編輯並在本機測試。本教學逐步說明如何開啟工作階段、逐行檢視代理的變更、在 Copilot 側邊欄中繼續同一段對話，以及將更新推送至該工作階段的提取要求。
Google Developers Blog精選AI 評分6060 Google 將 TorchTitan 接入 TorchTPU，並發布 TPU 模型最佳化手冊
Google 發布了 Meta TorchTitan 的 TPU 分支版本，可透過 TorchTPU 原生的 torch.device("tpu") 後端在 Cloud TPU 上執行 PyTorch 訓練，並附帶 TPU 原生核心與逐步最佳化指南。在 TPU v7x（Ironwood）上，Llama 3 405B 在 128 到 1,024 顆晶片之間維持約 57% MFU，Qwen3 235B 在單一 1,024 晶片切片上達到 32.42% MFU，FLUX.1 在 1,024 顆晶片上達到 19.4% MFU，弱擴展效率為 93%。該分支位於 https://github.com/google-pytorch/torchtitan/，另有 Transformers 建模後端與 agent 上手技能，可將同一訓練器延伸至其他檢查點。
推薦理由：Google 與 Meta 合作把 TorchTitan 移植到 TPU，並給出從 FLUX.1 到 Qwen3 235B 的逐級調優路徑與 MFU 數字，可作為 PyTorch 團隊評估 TPU 訓練可行性的參考。
Modal BlogAI 評分3838 Legora 如何在 Modal Sandboxes 上執行 2,000 個平行代理評估
Legora 現在將每一項法律代理評估分別執行於獨立的 Modal Sandbox 中，啟動其完整應用程式並固定於特定 commit，使每次執行都反映確切的產品版本。典型實驗包含 100 個案例、4 種 harness 變體、每種各 5 次試驗——共 2,000 次平行執行——並以 Modal Volumes 快照文件、資料庫與權限狀態。Legora 也從 gVisor 遷移至 Modal VM Sandboxes，移除了其 Docker 網路與 FUSE 的變通方案，並透過更智慧的壓縮與自訂工具搜尋，將代理成本降低 30%。
Modal BlogAI 評分3636 Modal 說明如何為 VM Sandboxes 打造快速檔案系統堆疊
Modal 詳細說明其如何演進檔案系統堆疊以支援 VM Sandboxes，將客體請求透過 virtio-fs 與 virtiofsd 路由至其 ImageFS 延遲載入檔案系統。第一個版本開機快速但執行緩慢：遞迴 chown 從四秒變成超過一分鐘，pnpm 與 bun 安裝約慢了三倍。微基準測試顯示，chown 在 virtio-fs 上為 9.87 秒，而在 gVisor 上為 2.31 秒、在 ImageFS 上為 1.58 秒。
OpenClaw BlogAI 評分2222 PJ 如何協助小型企業採用並擁有 OpenClaw
PJ 是佛羅里達州奧卡拉（Ocala）一位由工程師轉行的除蟲業老闆，如今為小型企業提供顧問服務——其中包括屋頂、泳池與汽車承包商——協助他們架設 OpenClaw，並教他們自行操作。他的客戶想要一個完全屬於自己的工具，而不是把公司資料餵給租用的軟體；其中一位客戶、66 歲的行政人員 Donna，每天都使用她的 OpenClaw。
LiveKit BlogAI 評分3838 如何打造可上線的 AI 語音代理
LiveKit 的指南彙整了解決方案架構師與前線部署工程師的經驗，說明如何讓 AI 語音代理從展示階段走向正式上線，並圍繞三個問題組織：代理是否足夠聰明自然、其效能是否可觀測，以及能否可靠且具成本效益地擴展。指南建議單獨量測第一輪對話，因為有公司發現約四分之三的通話在問候步驟就結束了，並指出客戶從 GPT-4.1 改用 LiveKit Inference 上的 Gemma 4 31B，在 p50 下節省了 300–500ms。
Anthropic · Claude.dev精選AI 評分6262 Claude Code 團隊如何進行程式碼審查
Claude Code 團隊描述其分層的程式碼審查流程，其中大部分閱讀由機器完成，人類注意力則保留給基於風險的核准。從六月到九月，合併至 Claude Code 程式碼庫的拉取請求增加了一倍以上，而必須回退的比例下降了超過 40%。該流程在 PR 之前堆疊驗證、必要的 CI、Claude 審查、安全審查、風險分級的人工核准，以及帶有旗標和快速回滾的合併佇列，團隊並將過去的事件轉化為審查者的每日評估集。
推薦理由：Anthropic 的 Claude Code 團隊詳細說明了他們如何將大部分程式碼閱讀移至自動化層，同時合併的 PR 翻倍且回退下降超過 40%，為代理密集的團隊提供了一個可轉移的審查模型。
Modal BlogAI 評分3434 用 Modal GPU 強化你的 LiveKit Agent
Modal 說明如何在其無伺服器 GPU 上，以開放權重或自訂模型執行 LiveKit Agents，並使用 BitHuman 的開放權重 Expression Video Avatar，搭配 Qwen3-TTS 配音來複製 Charles Frye。此設定透過 Modal Server 對外開放 avatar 容器的 /launch 端點，並使用 Sticky Sessions 讓 WebSocket 用戶端維持在同一個容器上，同時以 GPU 快照隱藏冷啟動。
GitHub Blog · AI & MLAI 評分3838 GitHub 的秘密偵測模型：以更少雜訊找出更多秘密
GitHub 訓練了一個微調過的 ModernBERT 分類器，用來取代先前以 LLM 為基礎的通用秘密偵測流程，將擁有者加權的警示精確率提升了 11.5%，並把推送後掃描執行時間的中位數縮短了 86%。這套兩階段流程先用正規表達式產生候選，再進行情境感知分類，相較於遠端 LLM 呼叫，也讓服務成本降低了超過 98%。效率的提升使得把通用秘密偵測擴展到推送保護變得可行，能在變更被推送前就回傳結果。
LiveKit BlogAI 評分1818 排解 LiveKit Egress 問題：常見錯誤與修正方法
LiveKit 發布了一份 Egress 的疑難排解指南，涵蓋常見錯誤，例如範本從未呼叫 START_RECORDING 而出現的 412「未收到啟動訊號」、30 秒內找不到參與者或軌道的 404，以及 S3/GCP/Azure 憑證無效導致的 400 上傳失敗。指南也處理版面配置、webhook 與自架 Egress 的問題，並指出這些指引同時適用於目前的 StartEgress API 與已棄用的來源專屬 API。
GitHub Blog · AI & MLAI 評分3636 GitHub Copilot 入門：讓 Copilot 認識你程式碼庫的四種方法
GitHub 的 Copilot for Beginners 系列說明了四種為 Copilot 提供專案脈絡的方式：在 `.github/copilot-instructions.md` 中設定自訂指示，並在 `.github/instructions` 中放置路徑專屬檔案；在 `.github/skills` 中定義代理技能；在 `.github/agents` 中設定自訂代理；以及透過 MCP 伺服器將 Copilot 連接至 Playwright 等外部工具。文章逐一介紹每種機制及其組合方式，並指引讀者前往社群 Awesome Copilot 集合取得現成範例。
Vapi BlogAI 評分5858 Vapi 自建 PR 審查機器人如何將合併時間減半
Vapi 工程師 Lat Ware 復盤自建 Pedantic Review Bot 的實踐，該機器人現已審查每個 PR，平均合併時間從 130 小時降至 65 小時。
LiveKit BlogAI 評分3434 Serve AI 使用 LiveKit Agent Simulations 以單一提示詞重建其語音代理
Serve AI 在 LiveKit 上為一位價值 1.5 億美元的害蟲防治客戶重建了其電話代理，將一個 224 節點的 Retell 流程圖壓縮為單一提示詞，並用 Agent Simulations 進行驗證。約 100 通真實生產通話被轉化為模擬場景，在切換前經過 10–15 次迭代達到 98% 的通過率，中位輪次延遲為 1.3 秒，低於 1.5 秒的上限。首次遷移耗時一週，沒有回滾，遏制率提升了 15%，Serve 估計這每年為客戶額外節省 32 萬美元。
Anthropic · Claude.dev精選AI 評分6262 Anthropic 逐步說明如何用 Claude Managed Agents 建立排程代理自動化
Anthropic 發布了 Claude Managed Agents（beta）的參考實作，它會依 cron 排程讀取 Slack 頻道與 GitHub 拉取請求，透過各來源的書籤追蹤自上次執行以來的變更，並將摘要發佈到 Slack。這份逐步說明涵蓋保存在 vault 中的憑證、唯讀存取與每次執行的支出上限，以及將失敗的來源回報為無法讀取而非當作平靜無事的一天，還有在更新書籤與帳本前先確認 Slack 發文成功等規則。一個帶有 claude-api 技能的 Claude Code 命令會依文章指引設定該代理。
推薦理由：Anthropic 分享了一個排程 Claude Managed Agents 的參考實作，它會讀取 Slack 與 GitHub，並針對書籤、讀取失敗與發文確認訂有具體規則。
Anthropic · Claude.dev精選AI 評分7272 Claude Code 雲端工作階段：在獨立 VM 上執行任務的實戰指南
Addy Osmani 詳細介紹 Claude Code 雲端工作階段：每個任務都在 Anthropic 管理的新鮮 VM 上執行，儲存庫會複製到各自的分支，且雲端工作階段已包含在 Pro、Max、Team 與 Enterprise 方案中，不額外收取運算費用。在一個範例 Node 儲存庫上進行的四工作階段測試中，三個工作階段在彼此相隔 16 秒內啟動，並在第一个工作階段開始後 87 秒完成，而針對不穩定測試的工作階段執行了測試套件 40 次，零失敗。本指南涵蓋設定腳本、網路層級、GitHub 連線路徑，以及七種適合雲端工作階段的工作流程，同時指出對於需要本機資料、VPN 服務、GPU 或零資料保留的任務，本機工作階段仍是更合適的選擇。
推薦理由：一份 Claude Code 雲端工作階段的實戰指南，展示每個任務的 VM 如何實現平行工作，以及本機工作階段在哪些情況下仍更合適。
GitHub Blog · AI & MLAI 評分2525 GitHub 部落格：AI 重塑工作型態，開發者必備的三項技能
GitHub 部落格指出，隨著 AI 改變開發者的工作方式，開發者應強化三項技能：引導 AI 代理而不只是使用它們、批判性地審查 AI 產出而非輕信第一個答案，以及利用 AI 節省下來的時間處理更廣泛的問題。文中引用 GitHub Copilot 內建的 Rubber Duck 代理，它會用第二個模型在開發者繼續推進之前，對計畫、程式碼與測試提出批判。
EveryAI 評分3636 如何透過向 AI 提問來提升 AI 能力：將專案委派給代理團隊的五個提示詞
一位 Every 的員工描述了從單線程提示轉向將整個專案委派給協調子代理的過程，使用技能、協調器線程、上下文封包、MCP 和電腦操作。這一轉變是由六月的一條推文引發的，Katie Parrott 在推文中要求 Codex 將她置於「AI 採用的八個層級」指南中；Codex 將她置於第 5 級，並初現第 6 級的端倪。
Anthropic · Claude.dev精選AI 評分6060 開始使用 Claude Code mods：打造一個上下文視窗預報
Claude Code mods 是小型 JavaScript 或 TypeScript 檔案，以隨外掛提供的 hooks 形式在工作階段內執行，可觀察事件、改寫行為，或在終端機或桌面應用程式中繪製自訂 UI。本指南打造 Token Weather，一個約 80 行的 mod，在每一輪之後讀取 $.session.usage()，並在提示上方繪製一條天氣樣式的上下文視窗帶，接著導覽 Blast Radius（會攔住有風險的 Bash 指令）與 Replay Theater（逐步檢視某一輪的編輯）。Mods 需要 Claude Code 2.1.287 或更新版本，且預設為開啟；這三個 mod 的完成版程式碼都在 anthropics/claude-code-playground。
推薦理由：一篇實作導向的 Claude Code mods 逐步教學，用約 80 行打造出可運作的上下文視窗計量器，展示 hooks、狀態與自訂 UI 如何彼此搭配。
Anthropic · Claude.dev精選AI 評分7272 Anthropic 在 Claude Code 的 claude-api 技能中新增 build-eval 與 hillclimb 指令
Anthropic 在 Claude Code 內的 claude-api 技能中新增了兩個指令：/claude-api build-eval 會在你的程式碼庫中建立評估集，而 /claude-api hillclimb 則會針對該評估反覆迭代應用程式，並以保留集來捕捉過擬合。
推薦理由：Anthropic 在其 claude-api 技能中新增 build-eval 與 hillclimb 指令，展示 Claude Code 如何設計評估並針對評估反覆迭代，同時防範過擬合。
Vapi BlogAI 評分3838 Vapi 測試 Jev 作為語音 AI 的即時護欄
Vapi 進行了早期實驗，使用 TypeSafe AI 早期存取的「System One」模型 Jev 作為護欄，在語音助理的回應被說出之前，評估該回應是否違反開發者定義的規則。在一項早期測試中，Jev 至少攔截了四分之三的違規回應，不過 Vapi 表示這並非 100% 的合規保證，只是在提示詞護欄之上額外增加的一道檢查。
EveryAI 評分5858 Every 的 Mike Taylor 談一套在提示詞之前就開始的 AI 寫作流程
Every 的評測負責人 Mike Taylor 說明他與 AI 協作時使用的寫作流程，從先寫標題、蒐集資料，到錄製口述獨白，再以 Claude Opus 5.5、Fable 5.1 與 GPT-6 Astra 生成草稿。他表示，這套流程讓他寫一篇 1,200 字的文章從一整天縮短到兩小時以內，流量與讀者正面留言都沒有下滑；他仍親自撰寫引言與結論，並預期草稿在自我編輯階段會有 20-30% 的內容被改動。
Modal BlogAI 評分5858 Modal 如何為兆級參數編碼代理提供數兆個 token 的服務
Modal 說明其如何為編碼代理最佳化 Kimi K2.6 推論，達到每個副本每位使用者 2.8 倍、跨使用者 5.6 倍的效能，並以每日數千億個 token 的規模運行服務。這項工作結合了在編碼軌跡上微調的客製化 DFlash 推測解碼、FP8 KV 快取與 NVFP4 共享專家量化、HiCache CPU 層級快取，以及感知 KV 快取的基於負載路由。Modal 已將其 SGLang 修補程式上游化，並釋出 Modal Auto Endpoints 背後的設定。
EveryAI 評分4444 如何建立你自己的個人 AI 基準測試
Every 的評測負責人說明如何建立個人 AI 基準測試，而不是依賴 MMLU-Pro 和其他公開測試；他根據自身經驗，用真實工作任務測試 Claude Opus 5、Claude Fable 5、GPT-5.6 Sol、Astra、Luna 和 Haiku。這個方法有三個層級，旨在顯示何時該切換模型，以及較小、較便宜的模型是否就足夠。