跳到正文
Hacker News · AI·· 1 小时前AI 评分38

我们能修复AI吗?面向伦理训练LLM的研究议程

Can We Fix AI?

AI 导读

一个新的文章系列探讨能否在不采用不当做法的情况下构建AI,首先追问LLM能否在不使用“窃取的数据”的情况下训练。作者认为,AI代码审查对安全关键代码正变得不可或缺,但许多人认为这项技术在道德上令人反感,并追问一个经过伦理训练的模型能否在发现安全漏洞方面与Claude或ChatGPT匹敌。第一篇考察LLM训练数据中的版权与同意问题,并提出若干开放研究问题。

来源:Hacker News · AI · peterbloem.nl