ข้ามไปที่เนื้อหา
เหตุการณ์ร้อนแรงกำลังพัฒนา

เหตุการณ์ด้านความปลอดภัยของ AI ที่ตรวจสอบย้อนกลับไปพบความล้มเหลวที่คุ้นเคย ไม่ใช่การโจมตีรูปแบบใหม่

1 รายงาน1 แหล่งข่าวที่รายงานอัปเดต 9 ชม. ที่แล้ว

เริ่มตรงนี้

ไดเจสต์ AI

บทวิจารณ์เหตุการณ์ด้านความปลอดภัยของ AI สาธารณะตลอดหนึ่งปีให้ข้อโต้แย้งว่าการโจมตีที่ดำเนินการโดยเอเจนต์ AI ประสบความสำเร็จเป็นหลักจากการใช้จุดอ่อนที่รู้จักกันมานาน ได้แก่ สิทธิ์ที่กว้างเกินไป ข้อมูลรับรองที่ใช้ร่วมกัน และข้อมูลสำรองที่จัดเก็บอยู่ภายในขอบเขตผลกระทบ บทวิจารณ์อ้างถึงกรณีต่างๆ รวมถึงการหลุดออกจากแซนด์บ็อกซ์ของ OpenAI และ Hugging Face การลบฐานข้อมูลของ PocketOS และการลบข้อมูลจากการหยุดทำงานของโค้ดใน Replit โพสต์ดังกล่าวยังสำรวจเฟรมเวิร์กเอเจนต์เชิงรุกแบบโอเพนซอร์สและข้อมูลการประกาศรับสมัครงานในสหรัฐฯ ซึ่งระบุว่าตำแหน่งวิศวกรความปลอดภัย AI เพิ่มขึ้นประมาณ 268 เปอร์เซ็นต์เมื่อเทียบปีต่อปี เป็นประมาณ 2,400 ตำแหน่ง ข้อสรุปของบทวิจารณ์คือความล้มเหลวดังกล่าวเกี่ยวข้องกับองค์กรและการกำหนดค่า มากกว่าที่จะเป็นหลักฐานของเทคนิคการโจมตีใหม่โดยพื้นฐาน

สร้างจากรายงาน · อัปเดต 9 ชม. ที่แล้ว

ไทม์ไลน์รายงาน

ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน

19 พฤศจิกายน
  1. Hacker News · AI
    วิศวกรรมความปลอดภัยของ AI: วิธีการโจมตีแบบใหม่ใช้ประโยชน์จากจุดอ่อนเดิมๆ

    บทความทบทวนเหตุการณ์ด้านความปลอดภัยของ AI ที่เปิดเผยต่อสาธารณะตลอดหนึ่งปี โต้แย้งว่าการโจมตีที่ขับเคลื่อนด้วยเอเจนต์ประสบความสำเร็จ mainly ผ่านจุดอ่อนที่รู้จักกันมานาน เช่น สิทธิ์ที่กว้างเกินไป ข้อมูลรับรองที่ใช้ร่วมกัน และข้อมูลสำรองที่อยู่ในรัศมีผลกระทบ บทความไล่เล่าเคสต่างๆ รวมถึงการหลุดออกจากแซนด์บ็อกซ์ของ OpenAI และ Hugging Face การลบฐานข้อมูลของ PocketOS และการลบโค้ดที่ถูกแช่แข็งของ Replit จากนั้นสำรวจเฟรมเวิร์กเอเจนต์โจมตีแบบโอเพนซอร์ส และข้อมูลประกาศรับสมัครงานในสหรัฐฯ ที่แสดงให้เห็นว่าตำแหน่งวิศวกรความปลอดภัย AI เพิ่มขึ้นประมาณ 268 เปอร์เซ็นต์เมื่อเทียบปีต่อปี เป็นประมาณ 2,400 ตำแหน่ง

ความร้อนแรงของเหตุการณ์นี้

ช่วงปัจจุบันที่เทียบได้
8
จุดสูงสุดในช่วงที่เทียบได้
1019 พฤศจิกายน 19:00
การเปลี่ยนแปลงใน 24 ชั่วโมง
–

แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู