Tới nội dung
Hacker News · AI·· 2 giờ trướcĐiểm AI40

Show HN: Nischoy, công cụ phát hiện prompt injection tất định sử dụng logic hình thức

Show HN: Deterministic prompt injection detector using formal logic

Tóm tắt bằng AI

Nischoy là một công cụ phát hiện prompt injection sử dụng phân tích ngôn ngữ dựa trên ngữ pháp và các chính sách logic hình thức được kiểm chứng bằng SMT solver thay vì LLM, chạy trên CPU thông thường. Trong một benchmark cục bộ trên CPU Apple M4 với 120 yêu cầu warm, một lần kiểm tra điển hình mất trung vị 4,7 ms (p95 6,0 ms, yêu cầu đầu tiên khoảng 101 ms), mà tác giả lưu ý đây không phải là phép đo độ trễ trong môi trường production. Mọi phán quyết đều truy vết được về hành động và mục tiêu được trích xuất cùng các chính sách chính xác đã kích hoạt, nên cùng một đầu vào luôn cho cùng một kết quả.

Nguồn:Hacker News · AI · nischoy.ai