Nischoy ra mắt công cụ phát hiện prompt injection tất định sử dụng logic hình thức
Bắt đầu từ đây
Nischoy đã ra mắt một công cụ phát hiện prompt injection sử dụng phân tích ngôn ngữ dựa trên ngữ pháp và các chính sách logic hình thức được kiểm chứng bằng SMT solver thay vì LLM, chạy trên CPU thông thường mà không cần GPU. Tác giả cho biết vì mỗi phán quyết đều truy vết được về hành động và đối tượng được trích xuất cùng các chính sách chính xác đã kích hoạt, nên cùng một đầu vào luôn cho ra cùng một kết quả. Trong benchmark cục bộ của tác giả — một detector chạy trong tiến trình trên CPU Apple M4 với 120 yêu cầu warm và loại trừ mạng — một lần kiểm tra điển hình có độ trễ trung vị là 4,7 ms (p95 6,0 ms), với yêu cầu đầu tiên mất khoảng 101 ms. Tác giả nêu rõ đây không phải là phép đo độ trễ trên môi trường production. Có thể dùng thử detector tại nischoy.ai.
Tạo từ các bài viết · cập nhật 1 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIShow HN: Nischoy, công cụ phát hiện prompt injection tất định sử dụng logic hình thức
Nischoy là một công cụ phát hiện prompt injection sử dụng phân tích ngôn ngữ dựa trên ngữ pháp và các chính sách logic hình thức được kiểm chứng bằng SMT solver thay vì LLM, chạy trên CPU thông thường. Trong một benchmark cục bộ trên CPU Apple M4 với 120 yêu cầu warm, một lần kiểm tra điển hình mất trung vị 4,7 ms (p95 6,0 ms, yêu cầu đầu tiên khoảng 101 ms), mà tác giả lưu ý đây không phải là phép đo độ trễ trong môi trường production. Mọi phán quyết đều truy vết được về hành động và mục tiêu được trích xuất cùng các chính sách chính xác đã kích hoạt, nên cùng một đầu vào luôn cho cùng một kết quả.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.