ข้ามไปที่เนื้อหา
Hacker News · AI·· 3 ชม. ที่แล้วคะแนน AI58

การตรวจสอบพบว่า AgentDojo ให้คะแนน 433 รันว่าไม่มีการโจมตี แม้เอเจนต์จะดำเนินการตามที่ผู้โจมตีสั่ง

Did the attack work? Auditing AI-agent security benchmark verdicts

สรุปโดย AI

พลาดไป 55 จาก 744 รัน โดย x ตอบกลับว่าถูกโจมตีในลักษณะคำเตือน เวอร์ชัน 0 บน PyPI ที่ตรวจสอบคำตัดสิน รันผลลัพธ์ของ AgentDojo ใหม่บนโมเดลที่เลือก และปิดผนึกหลักฐานเพื่อการตรวจสอบ checksum แบบออฟไลน์; preprint นี้ยังไม่ผ่านการตรวจสอบโดยผู้เชี่ยวชาญ

แหล่งข่าว:Hacker News · AI · zenodo.org