跳至正文
熱點事件持續更新

ArisGlobal 在 Amazon Bedrock 上反轉提示順序以快取共用前綴

1 篇報導1 個報導來源8 小時前更新

先了解這件事

AI 綜述

ArisGlobal 改變了其 NavaX AI 引擎在 Amazon Bedrock 上排列提示的順序,改為快取共用的提示前綴,而非每份來源文件,AWS 表示這降低了有效輸入成本,並讓該公司得以增加租戶而不必付出成比例的費用增長。 共用前綴在六個月內從約 72,000 個 token 增長到 180,000 個 token,使每案推論成本上升超過 200%。自 2025 年 3 月首次與 Anthropic 的 Claude 一同部署 Bedrock 以來,NavaX 已在受監管的製藥環境中處理超過 100 萬筆真實交易。 Bedrock 上的提示快取預設 TTL 為 5 分鐘;部分模型透過 "ttl": "1h" 支援 1 小時 TTL。對於 Claude Sonnet 4.5,可快取提示的最低要求為 1,024 個 token,且模型可用性因區域而異。

AI 依報導生成 · 8 小時前更新

報導時間線

沿著報導,了解事件的不同側面。

11月17日
  1. AWS Machine Learning Blog
    ArisGlobal 如何在 Amazon Bedrock 上擴展生成式 AI 推論

    ArisGlobal 在 Amazon Bedrock 上的 NavaX AI 引擎中反轉了提示順序,改為快取共用的提示前綴,而非快取每份來源文件,以降低實際輸入成本。共用前綴在 6 個月內從約 72,000 個 token 成長到 180,000 個 token,使每案推論成本上升超過 200%。自 2025 年 3 月首次與 Anthropic 的 Claude 一同部署於 Amazon Bedrock 以來,NavaX 已在受監管的製藥環境中處理超過 100 萬筆真實交易。

本事件熱度走勢

可比範圍當前
8
可比範圍峰值
1011月18日 01:00
近 24 小時變化
–

趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點擊圖表查看每小時熱度;鍵盤可用左右方向鍵切換。