Hacker News · AI·· 3 ชม. ที่แล้วคะแนน AI58
การตรวจสอบพบว่า AgentDojo ให้คะแนน 433 รันว่าไม่มีการโจมตี แม้เอเจนต์จะดำเนินการตามที่ผู้โจมตีสั่ง
Did the attack work? Auditing AI-agent security benchmark verdicts
สรุปโดย AI
พลาดไป 55 จาก 744 รัน โดย x ตอบกลับว่าถูกโจมตีในลักษณะคำเตือน เวอร์ชัน 0 บน PyPI ที่ตรวจสอบคำตัดสิน รันผลลัพธ์ของ AgentDojo ใหม่บนโมเดลที่เลือก และปิดผนึกหลักฐานเพื่อการตรวจสอบ checksum แบบออฟไลน์; preprint นี้ยังไม่ผ่านการตรวจสอบโดยผู้เชี่ยวชาญ
แหล่งข่าว:Hacker News · AI · zenodo.org