跳至正文
Hacker News · AI·· 48 分鐘前AI 評分31

目的治理型代理:誰來審查 AI 代理如何描述自己的提案

Purpose-Governed Agents: who reviews how an AI agent describes its own proposals

AI 導讀

一篇題為「目的治理型代理」的立場論文主張,AI 代理對其所提變更的自我描述應接受審查,因為將提案框定為例行調整,可能影響哪些決策會受到審查以及由誰參與。該框架圍繞四個概念——目的、起始、任務與訊號——來組織問題,並運用三個假設情境及一則實際爭議案例,說明如何在既有權限內繼續推進有用的工作,同時檢視有爭議的主張。論文提出了設計責任與研究問題,並表示其實際價值仍有待評估。

來源:Hacker News · AI · zenodo.org