Nischoy เปิดตัวตัวตรวจจับ prompt injection แบบดีเทอร์มินิสติกที่ใช้ตรรกศาสตร์เชิงรูปแบบ

Nischoy ได้เปิดตัวตัวตรวจจับ prompt injection ที่ใช้การวิเคราะห์ภาษาตามไวยากรณ์และนโยบายตรรกศาสตร์เชิงรูปแบบที่ตรวจสอบด้วย SMT solver แทนการใช้ LLM โดยทำงานบน CPU ทั่วไปโดยไม่ต้องใช้ GPU เนื่องจากผลตัดสินแต่ละครั้งสามารถสืบย้อนกลับไปยังการกระทำและเป้าหมายที่สกัดได้ รวมถึงนโยบายที่ตรงเงื่อนไขอย่างแม่นยำ ข้อมูลนำเข้าเดียวกันจึงให้คำตอบเดียวกันเสมอ ผู้เขียนกล่าว ในการทดสอบ基準ภายในเครื่องของผู้เขียน — ตัวตรวจจับแบบ in-process บน CPU Apple M4 ด้วยคำขอแบบ warm 120 คำขอและตัดการเชื่อมต่อเครือข่ายออก — การตรวจสอบทั่วไปมีค่ามัธยฐานของเวลาแฝง 4.7 ms (p95 6.0 ms) โดยคำขอแรกใช้เวลาประมาณ 101 ms ผู้เขียนระบุว่านี่ไม่ใช่การวัดเวลาแฝงในสภาพแวดล้อมการผลิต สามารถทดลองใช้ตัวตรวจจับได้ที่ nischoy.ai

สร้างจากรายงาน · อัปเดต 1 ชม. ที่แล้ว

ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม