建立強大的安全評估：Anthropic 對 AI 安全評估的建議

Anthropic 發表了建立 AI 安全評估的建議，借鑑心理學重現危機的改革經驗，以及其自身為系統卡建立評估的實務經驗。文章主張安全評估容易被操弄，且往往未能測量其所聲稱的內容，呼籲團隊結合多種方法與領域專家、在沙箱環境中執行評估，並依所問的問題選用觀察性或因果性設計。