在 Amazon Bedrock 上最佳化每項任務成本並證明代理投資報酬率

這篇 AWS 文章主張，Amazon Bedrock 的支出應以每項任務成本而非每詞元成本來衡量，因為分詞器效率、輸出冗長程度、代理迴圈次數與推理額外開銷，可能讓價格較低的模型反而成本更高。文中一個實例顯示，列表價格為兩倍的模型，每項任務的完成成本反而低 65%；文章還補充快取、路由與輸出限制，以及一套五維度評分卡，用來對照人工基準衡量代理的投資報酬率。