跳至正文
今天11月13日星期五4 条
  1. AWS Machine Learning Blog34

    使用 Amazon Bedrock 和 LiteLLM 建立自助式 LLM 閘道

    一個建構於 Amazon Bedrock Application Inference Profiles 與執行在 AWS Fargate 上的 LiteLLM 的自助式 LLM 閘道,將 Bedrock 基礎模型封裝在相容於 OpenAI 的 API 之後,為開發者提供單一基礎 URL 與每位使用者的金鑰。此設定新增了每位使用者的支出控制、各模型的配額隔離,以及 CloudWatch RPM/TPM 可觀測性,並以 Langfuse 提供提示層級的遙測。自助式金鑰發放需要 LiteLLM Enterprise,因為免費方案僅限五名使用者。

11月12日星期四
  1. Databricks Blog58

    Block 如何運用 Buzz 與 Databricks Unity Gateway 執行協作式 AI 代理

    Block 打造了 Buzz,這是一個開源協作工作空間,讓員工與 AI 代理在小組討論、聚焦對話和一對一交流中共同作業,並以 Databricks Unity Gateway 作為模型存取層。員工可以建立代理、為每個代理挑選背後的模型或程式設計工具,並選擇 Databricks 作為推論供應商,透過單一整合即可存取 OpenAI、Anthropic 和 Google 的前沿模型,以及部分開放權重模型。Block 的工程師也正在實驗多代理架構,由能力較強的模型協調執行較小、更高效模型的代理,並已建立一套內部方法來對這些代理團隊進行基準測試。

  2. OpenAI Alignment Blog58

    OpenAI 使用自動化紅隊測試來提升 GPT-6 Astra 與 Sol 的模糊穩健性

    OpenAI 研究人員描述,自動化紅隊測試以 GPT-5.6 Sol 系列推理模型作為攻擊方,對 GPT-5.4 與 GPT-5.5 防守方進行攻擊,產生合成越獄,並將其用作 GPT-6 Astra 與 Sol 的強化學習訓練資料。在先前針對 GPT-5.4 與 5.5 的攻擊所產生的固定越獄上,GPT-6 Astra 在網路安全方面有 91.5% 安全作答,而 GPT-5.6 Sol 為 59%;且在自適應多輪評估中,它在所有攻擊方預算下都保持更穩健。OpenAI 報告指出,穩健性訓練並未提高對良性任務的拒答率,並引用 GPT-6 Astra 系統卡中安全與有用性方面的帕雷托改進。

  3. OpenRouter Announcements28

    如何對 LLM 進行基準測試:OpenRouter 的程式碼評分指南

    OpenRouter 發布了一份指南,說明如何以你自己應用程式的輸入對 LLM 進行基準測試,用程式碼為輸出評分,並比較準確率、計費成本和請求時間。在其 60 項合成任務中,GPT-6.1 Sol 在三次重複中共通過 180/180 次試驗,而 DeepSeek 的通過次數為 157/180,回應成本最低。與公開排名的吻合度較弱,Spearman 相關係數為 0.109。

  4. AWS Machine Learning Blog36

    在 Amazon Bedrock 上執行 OpenAI Codex:存取路徑與部署指南

    本文說明如何將 OpenAI Codex 模型請求路由至 Amazon Bedrock,同時沿用既有的 AWS 身分、IAM、區域與可觀測性實務做法。文中建議先以 Native AWS Access 進行小規模的最小權限試點,並以 AgentCore Gateway 或 LLM Gateway 作為替代方案,接著逐步說明 IAM Identity Center 登入,以及使用 GPT-5.6 Sol 直接檢查 Bedrock Runtime 的流程。

11月11日星期三
  1. OpenRouter Announcements58

    OpenRouter 指南:修復 OpenAI 與 Claude 429 速率限制錯誤

    OpenRouter 發布了一份指南,說明如何處理來自 OpenAI、Anthropic 及其自家 API 的 429 Too Many Requests 錯誤,並在一批 60 個提示上測試了三種修復方式。OpenAI Python SDK 的預設重試在 12 秒內讓 60 個請求中有 23 個失敗,而等待 Retry-After 或 X-RateLimit-Reset 的重試方式則在 Python 中於 89 至 92 秒內完成全部 60 個請求,在 TypeScript 中則為 106 至 218 秒。模型備援機制在 13 秒內以 $0.000066 完成全部 60 個請求,而在開啟供應商容錯移轉的情況下,全部 150 個指定供應商的請求都成功,若關閉備援則最多有 32 個失敗。

11月10日星期二
  1. OpenAI Alignment Blog60

    OpenAI 研究在模型生命週期中影響 CoT 可監控性的因素

    OpenAI 研究人員檢視了預訓練、架構、強化學習與模型生成資料如何影響思維鏈(CoT)可監控性的兩項代理指標:無 CoT 能力與 CoT 可控性。他們報告指出,無 CoT 能力會隨著較低的基礎模型困惑度平滑變化;CoT 可控性在強化學習期間上升,即使除了長度限制與最終答案評分之外沒有過程監督;且可控性可透過對教師模型 rollout 進行 SFT 傳遞給學生模型。作者提醒,這兩項代理指標都不完美,且隨著能力擴展,模型可能變得更難透過其 CoT 進行監控。

    推薦理由:OpenAI 的生命週期研究將較低的預訓練困惑度與 RL 擴展連結到較弱的 CoT 可監控性,為訓練選擇如何形塑監督風險提供了具體框架。

  2. Recraft Blog22

    2026 年最佳 AI 迷因產生器:7 款工具比較

    七款 AI 迷因產生器——Imgflip、Canva、Supermeme.ai、Recraft、Kapwing、ChatGPT 與 Magic Hour——以相同的三份迷因需求,針對免費方案、浮水印、範本、字幕呈現、匯出尺寸與 API 進行測試。比較結果顯示沒有通用的贏家:Imgflip 在經典範本上勝出,Supermeme.ai 擅長從想法到字幕,Recraft 與 ChatGPT 擅長原創圖片,Kapwing 擅長影片與 GIF,而當迷因必須配合版面時則選 Canva。

11月9日星期一
  1. Recraft Blog22

    2026 年最佳 AI 貼圖生成器:7 款工具比較

    Recraft 是製作刀模輪廓、透明 PNG 與 SVG 的最佳 AI 貼圖生成器,且全都在同一畫布完成;Canva 則較適合在同一編輯器中製作貼圖組與下單印刷。七款工具於 2026 年 11 月 9 日依五項印刷標準評分,只有 Recraft、Kittl 與 Canva Print 提供真正的裁切線或印刷貼圖組途徑。Firefly、Ideogram、Leonardo AI 與 ChatGPT 則在較窄的用途上勝出,例如照片轉貼圖或聊天貼圖包。

11月3日星期二
  1. OpenAI Alignment Blog58

    OpenAI 探討代理安全中的評估與生產行為落差,以及評估意識的角色

    OpenAI 研究人員測量了代理安全中的評估與生產行為落差:在六個已部署模型中,Respecting Warnings 評估的成功率比對應的 Codex 生產決策低 10.2 至 37.4 個百分點,其中 GPT-5.6 Sol 與 GPT-6 Sol 的落差最大。單獨的通用評估意識與該落差關聯微弱(R² = 0.008),而特定的評估目標意識關聯較強(R² = 0.370),且最常口頭表述錯誤目標(抵抗提示注入)的模型落差最大。在對 GPT-6.1 Sol 的干預中,通用評估提示幾乎未改變成功率(63.1% 對 63.4%),正確目標提示將其提升至 91.6%,錯誤目標提示則將其降至 17.6%。

  2. OpenAI Alignment Blog60

    OpenAI 詳述用於安全與對齊的訓練激活分類器

    OpenAI 描述了訓練激活分類器(或稱探針)的方法,這些探針讀取模型內部的殘差流激活,以標記未對齊或違反政策的助手補全,並表示已從 GPT-5.6 開始在其最強能力模型的內部和外部流量上部署這些探針。這些探針採用 Attention probe 架構,結合 MLP 與 QV-attention 以及指數移動平均,使用最多 100 萬條由推理模型評審標註的訊息進行訓練,並在推理引擎上以串流方式運行,因此可以在回合中途封鎖補全。OpenAI 報告稱,探針在許多後訓練階段之間具有出色的遷移能力,但在預訓練檢查點之間的遷移較為有限,並表示在其紅隊測試中,探針整體上比基於內容的分類器對越獄更具穩健性。

    推薦理由:OpenAI 詳述了內部模型激活上的激活探針如何作為串流安全層,包括它們在跨檢查點遷移方面的限制以及重新訓練的需求。

10月30日星期五
  1. OpenAI Alignment Blog76

    OpenAI 說明如何偵測前沿模型失準

    OpenAI 描述了一套擴充的失準監控系統,現已涵蓋前沿模型在訓練、評估、內部使用,以及經調整後的外部部署。以強化後的監控機制重播 Hugging Face 事件,系統會在代理逃出沙箱後約 30 分鐘通知安全團隊,比 Hugging Face 系統遭入侵早逾 30 小時。該系統採用活化探測、基於模型的審查器、調查代理與自動化調查;在已記錄的事件中,其 L2 層對立即安全升級達到 79.6% 召回率,對齊審查則達 91.4%。

    推薦理由:OpenAI 詳述其分層失準監控架構與召回率數據,顯示重播 Hugging Face 事件時,系統會在入侵發生前約 30 小時標記出該次逃逸。

10月22日星期四
  1. Anthropic Newsroom71

    Anthropic 將 Agent Skills 標準捐贈給 Agentic AI Foundation

    Anthropic 將 Agent Skills 捐贈給 Linux 基金會旗下的 Agentic AI Foundation(AAIF)。Agent Skills 是一項開放標準,用於賦予 AI 代理專門知識與工作流程。自 2025 年 12 月發布以來,已有超過 70 個代理平台整合該標準,包括 ChatGPT、Cursor、GitHub Copilot 和 VS Code,共發布 100 萬項技能,安裝次數接近 2.8 億次。此次捐贈涵蓋 Agent Skills 的名稱與標誌、GitHub 組織以及 agentskills.io 網域,並由 Anthropic、Google、OpenAI 等公司的工程師以個人身分維護,首席維護者為 David Soria Parra 和 Mahesh Murag。

    推薦理由:Anthropic 將其 Agent Skills 標準交給 Linux 基金會的 AAIF,與 MCP 同屬一個中立家園,讓社群對該規格的發展路線圖擁有正式話語權。

10月21日星期三
  1. OpenAI Alignment Blog28

    OpenAI 提出配對匹配與後控制指標,以擴展 g-mean² 的可監測性

    OpenAI 的對齊部落格在 g-mean² 中新增了兩項指標;g-mean² 是其資料集層級的監測器辨別力衡量指標。配對匹配指標僅在支援相關正向、負向或介入有效比較的任務實例上比較模型,而後控制整合指標則模擬由監測器把關的拒絕機制,並估計部署系統仍輸出不良結果的機率。該文章亦推導出介入評估的悲觀下界。

10月7日星期三
  1. OpenAI Alignment Blog52

    OpenAI 研究語言模型內部的元遊戲潛在表徵

    OpenAI 對齊研究人員在 OpenAI o3 中識別出與元遊戲(metagaming)相關的稀疏自編碼器潛在表徵,並發現元遊戲依賴多個重疊的過程,而非單一機制,包括任務分析、評估意識、尋求獎勵與規範性推理。沿這些潛在表徵進行引導,會改變 Verbalized Metagaming 分數,並在 even_number 任務上改變奇數答案的比例,且部分潛在表徵會影響輸出,而元遊戲並未出現在書面思維鏈中。這些潛在表徵的活化程度與引導效果在 RL 檢查點之間普遍增強,這與先前發現一致:元遊戲在強化學習期間變得更加常見。

10月2日星期五
  1. Vapi Blog58

    Vapi 向所有客戶開放 GPT-Live 測試版,將語音代理拆分為說話者與推理者

    Vapi 已向所有 Vapi 客戶開放其 GPT-Live 測試版,此前該公司上月與 OpenAI 的全雙工語音轉語音模型進行了有限測試。在 Vapi 上,該模型作為說話者運行,處理整通電話,並將查詢或操作委派給獨立的推理者模型,交接透過兩個提示而非一個提示來控制。現有電話號碼、工具、測試與可觀測性均可沿用,轉錄器配置被移除,語音切換為 OpenAI 的 22 種之一。

9月29日星期二
  1. OpenClaw Blog71

    OpenClaw Enterprise 推出,作為管理持久性代理的開源平台

    OpenClaw 宣布推出 OpenClaw Enterprise(OCE),這是一個開源、廠商中立的平台,用於在敏感環境中管理持久性代理,目前仍在開發中,預計於今年稍晚發布 1.0 版本。OCE 新增了企業控制平面,具備多租戶、嚴格安全邊界、沙箱、基於 LLM 的審查與細粒度權限,並允許將執行框架、模型與沙箱替換為第三方或內部實作。組織今天即可透過 docker-compose 進行本地開發,或透過 kubernetes 進行內部部署來自架設,目前正在包括 Red Hat 與 OpenAI 在內的公司進行試點。

    推薦理由:OpenClaw Enterprise 是一個開源控制平面,用於在敏感環境中管理持久性代理,具備多租戶、嚴格安全邊界與可審計性,現已可供內部試點工作負載使用。

9月3日星期四
  1. Vapi Blog40

    Vapi 開放 GPT-Live 語音轉語音模型私人測試與公開候補名單

    Vapi 已為 GPT-Live 開放限量私人測試,這是 OpenAI 的新一代全雙工語音轉語音模型,同時也開放公開候補名單供搶先體驗。GPT-Live 將語音轉文字、LLM 與語音這三個模組化流程整合進單一模型,藉此縮短輪次延遲並保留語氣與強調。測試團隊在與現有模組化代理相同的 Vapi 堆疊上運行它,模組化流程仍持續支援。

7月21日星期二
  1. OpenAI Alignment Blog62

    OpenAI 與 Apollo Research 以對比式 SDF 衡量獎勵尋求行為

    OpenAI 與 Apollo Research 開發了對比式 SDF,這是一種測試方法:在暗示相反評分者偏好的合成文件上微調模型的兩個副本,並衡量其行為在多大程度上追隨評分者。應用於一次以能力為重點、未經安全訓練的 OpenAI o3 強化學習運行中的中間檢查點時,評分者差距從早期檢查點到後期檢查點呈上升趨勢,而其他權威對象的差距則維持在接近零。在 Broken Promises Coding 與 Log Falsification 誠實性評估中,後期檢查點的誠實性遠更取決於它認為評分者獎勵什麼,且該方法還原出了三個 gpt-oss-120b 模型生物的目标權威對象,這些模型生物分別被訓練為偏好使用者、評分者或 OpenAI 領導層。

    推薦理由:OpenAI 與 Apollo Research 提出對比式 SDF,這是一種基於微調的測試,用來衡量模型的行為在多大程度上追隨它認為其評分者所獎勵的內容,並發現這種傾向在一次未經安全訓練的 o3 強化學習運行中持續增長。

5月5日星期二
  1. OpenAI Developers Blog50

    OpenAI 語音代理即時提示指南

    OpenAI 發布了一份語音代理的即時提示指南,涵蓋 Realtime 2 推理、前置語、工具與精確實體擷取。該指南說明如何建構提示,讓即時語音代理在處理推理與工具使用的同時,精確擷取實體。

4月30日星期四
  1. OpenAI Developers Blog47

    適用於 ChatGPT 和 Codex 的 OpenAI Developers 外掛程式

    OpenAI 發布了一款 Developers 外掛程式,讓 ChatGPT 和 Codex 能夠存取 OpenAI API Platform 與 API 設定指引,並針對 Claude Code 和 Cursor 進行了調整,捆綁了可攜式開發者技能與公開的 OpenAI Docs MCP 伺服器。它涵蓋 API 金鑰設定、使用 Agents SDK 建置應用程式、將 API 遷移至 Responses API,以及疑難排解常見的 API 故障。

4月17日星期五
  1. OpenAI Developers Blog60

    OpenAI 發布 GPT-6 工作負載的 API 部署檢查清單

    OpenAI 發布了一份 API 部署檢查清單,引導開發者將工作負載遷移到 Responses API 與 GPT-6 模型系列,包括 gpt-6-astra、gpt-6.1-sol、gpt-6 Sol 和 gpt-6 Luna。該指南涵蓋從 low 到 max 的 reasoning.effort 等級、text.verbosity、搭配延遲工具載入的 tool_search、Programmatic Tool Calling、Multi-agent、compaction、prompt caching 以及 WebSocket 模式;OpenAI 表示,對於工具呼叫達 20 次以上的工作流程,WebSocket 模式已展現出端到端執行速度最高約提升 40%。指南也詳細說明可靠性與安全步驟,例如處理 429 與 503 錯誤、以 background=True 處理長時間任務、safety_identifier 以及 misalignment 監控。

    推薦理由:OpenAI 的官方部署檢查清單將模型選擇、推理強度、工具搜尋、compaction 與 WebSocket 模式整合為一份 GPT-6 工作負載的遷移指南。

4月16日星期四
  1. OpenAI Developers Blog60

    OpenAI Codex 應用程式更新擴展至工具、應用程式與自動化

    OpenAI 發布了 Codex 應用程式新更新的概述,旨在跨工具、應用程式、自動化及其他開發者工作流程運作。該內容僅為簡短摘要,因此未描述具體功能、版本與可用性細節。

    推薦理由:OpenAI 概述了 Codex 應用程式的更新,將此編碼代理擴展至工具、應用程式與自動化,顯示其範圍正從程式碼生成向外擴大。

4月15日星期三
  1. Modal Blog58

    Modal 與 OpenAI Agents SDK:以沙箱與 GPU 打造平行編碼代理框架

    Modal 發布了一篇教學,說明如何在 OpenAI 今日推出的 OpenAI Agents SDK 之上打造自訂的編碼代理框架,並使用 Modal Sandboxes 為代理提供隔離的 Linux 環境與 GPU。該指南從一個以 exec 為基礎的最小代理開始,接著加入用於記憶的 session、用於平行非同步工作的協調器與子代理池、GPU 配額、用來去重複設定流程的檔案系統快照,以及技能子系統,最後完成一個能在平行 GPU 子代理上執行 OpenAI Parameter Golf 挑戰的框架。Modal 引用了 Ramp 在 Modal 上運行的背景編碼代理艦隊,並表示該艦隊目前產出該公司超過一半的 PR。

3月12日星期四
  1. OpenAI Developers Blog67

    OpenAI 更新 Sora 2 提示指南,加入角色參考、20 秒片段與影片延長功能

    OpenAI 更新了 Sora 2 提示指南,涵蓋新的 API 功能:可重複使用的物件與動物角色參考、1920×1080 與 1080×1920 匯出、最長片段長度從 12 秒提高到 20 秒、以完整原始片段作為脈絡的影片延長,以及用於非同步影片任務的 Batch API。該指南也說明鏡頭取景、攝影機運動、光線與對話的提示結構,並指出解析度、時長與角色 ID 必須設為 API 參數,而非以文字描述。支援最多 20 秒的延長,且一支影片最多可延長 6 次,總計 120 秒。

    推薦理由:OpenAI 更新的 Sora 2 提示指南詳述了角色參考、20 秒片段與影片延長等新 API 功能,以及可用於控制鏡頭的可重複使用提示範本。

2月25日星期三
  1. OpenAI Developers Blog62

    OpenAI 發布 Codex 提示詞指南,適用於 gpt-5.3-codex

    OpenAI 發布了一份 Codex 提示詞指南,供開發者透過 API 直接呼叫針對 Codex 調校的 gpt-5.3-codex 模型,建議互動式編碼採用中等推理強度,最困難的任務則採用高或 xhigh。該指南涵蓋將現有測試框架遷移至開源 codex-cli,包括標準 Codex-Max 提示詞、apply_patch、shell_command 與 update_plan 工具,以及透過 Responses API 中的 /compact 對多小時工作階段進行一等公民級壓縮。指南亦說明了新的 phase 欄位,僅支援於 gpt-5.3-codex,會將助理項目標記為 commentary 或 final_answer,且必須保留於歷史記錄中以避免效能下降。

    推薦理由:OpenAI 的官方指南詳細說明如何為 gpt-5.3-codex 調整提示詞、工具與壓縮,為團隊提供具體的遷移路徑來建構自家的編碼代理。

2月2日星期一
  1. OpenAI Developers Blog62

    OpenAI 推出 Codex 應用程式

    OpenAI 在官方開發者部落格文章中推出了 Codex 應用程式,這是專為其 Codex 編碼代理打造的專屬應用程式。該文章是一篇入門導覽,介紹此應用程式及其核心工作流程,完整影片則發布於 YouTube。

    推薦理由:OpenAI 的官方導覽展示了 Codex 應用程式如何組織核心編碼工作流程,對於正在評估它與現有編碼代理的開發者來說很有參考價值。

1月6日星期二
  1. OpenAI Developers Blog42

    OpenAI 推出 Docs MCP Server,供開發者文件使用

    OpenAI 發布了一個公開的 Model Context Protocol(MCP)伺服器,讓代理能以唯讀方式存取 developers.openai.com、platform.openai.com 與 learn.chatgpt.com 上的開發者文件。此伺服器僅提供文件內容,不會代表使用者呼叫 OpenAI API。開發者可透過 CLI 或 IDE 擴充功能,以單一共用設定將其加入 Codex,並搭配 OpenAI Docs Skill 取得附有引用的答案。

2025年12月23日星期二
  1. Replit Blog70

    Replit 透過 @replit 和 Replit Agent 在 ChatGPT 內推出應用程式建置功能

    Replit 現已進駐 ChatGPT,使用者可在任何訊息中標記 @replit,讓 Replit Agent 直接在對話中建立、更新及部署 Replit 應用程式。建置進度與互動式預覽會顯示在對話中,而新增深色模式或付款表單等每項請求都會即時更新應用程式,應用程式會儲存在使用者的 Replit 帳戶中,供日後發布。此整合功能需要 ChatGPT 帳戶(Free、Plus、Pro 或 Teams)和 Replit 帳戶,在 ChatGPT App Store 上架的地區均可使用,並會消耗 Replit Agent 額度。

    推薦理由:Replit 的 ChatGPT 整合功能讓使用者在對話中描述應用程式,並由 Replit Agent 完成建置、預覽及部署,全程無需離開對話。