跳到正文
Hacker News · AI·· 48 分钟前AI 评分31

目的治理型智能体:谁来审查 AI 智能体如何描述自己的提案

Purpose-Governed Agents: who reviews how an AI agent describes its own proposals

AI 导读

一篇题为《目的治理型智能体》的立场论文认为,AI 智能体对拟议变更的自我描述应当接受审查,因为将提案框定为常规调整会影响哪些决策被审查以及谁参与其中。该框架围绕四个概念组织问题——目的、起始、任务和信号——并使用三个假设场景和一个实际争议案例来展示如何在现有权限内继续有用的工作,同时审查有争议的主张。论文提出了设计责任和研究问题,并表示其实际价值仍有待评估。

来源:Hacker News · AI · zenodo.org