Hacker News · AI·· 2 ชม. ที่แล้วคะแนน AI40
Show HN: Nischoy ตัวตรวจจับ prompt injection แบบดีเทอร์มินิสติกที่ใช้ตรรกศาสตร์เชิงรูปแบบ
Show HN: Deterministic prompt injection detector using formal logic
สรุปโดย AI
Nischoy เป็นตัวตรวจจับ prompt injection ที่ใช้การวิเคราะห์ภาษาตามไวยากรณ์และนโยบายตรรกศาสตร์เชิงรูปแบบที่ตรวจสอบด้วย SMT solver แทนการใช้ LLM โดยทำงานบน CPU ทั่วไป ในการทดสอบ benchmark ภายในเครื่องบน CPU Apple M4 ด้วยคำขอแบบ warm 120 คำขอ การตรวจสอบทั่วไปใช้เวลามัธยฐาน 4.7 ms (p95 6.0 ms คำขอแรกประมาณ 101 ms) ซึ่งผู้เขียนระบุว่านี่ไม่ใช่การวัด latency ในสภาพการใช้งานจริง ทุกคำตัดสินสามารถ traced กลับไปยัง action และ target ที่สกัดได้พร้อมนโยบายที่ถูกเรียกใช้อย่างแม่นยำ ดังนั้นอินพุตเดียวกันจะได้คำตอบเดียวกันเสมอ
แหล่งข่าว:Hacker News · AI · nischoy.ai