Goodfire 為 AI 代理開發蛋白質嵌入生物安全監控器

Goodfire Research 開發了具序列感知能力的生物安全監控器，利用蛋白質語言模型嵌入來標記代理工作流程中令人擔憂的 DNA 或蛋白質序列。在以蛋白質毒素為核心打造的自訂雙用途基準上，這些監控器的表現優於前沿模型的安全防護機制，對良性請求的拒絕次數更少，在母體蛋白質已收錄於篩查資料庫的改寫序列上達到約 0.98 AUROC，且每條序列的執行時間為毫秒級。作者報告指出，隨著蛋白質模型能力提升，偵測效果也會改善，並說明改寫序列的結果依賴於電腦模擬估計，並未確認重新設計的蛋白質是否仍保有生物活性。