Tới nội dung
Hacker News · AI·· 16 giờ trướcĐiểm AI36

Show HN: Đặc tả hạ tầng và nén bộ nhớ cho AI Agent

Show HN: AI Agent Infrastructure and Memory Compaction Specifications

Tóm tắt bằng AI

Một bài đăng Show HN công bố các đặc tả kiến trúc được tuyển chọn cho hạ tầng AI agent, xoay quanh thiết kế nén bộ nhớ cuốn chiếu ba tầng: các bất biến được ghim, một sổ cái đã nén gồm các sự kiện đã khử trùng lặp, và một đuôi thô nóng của 4-6 lượt gần nhất. Trên một tập con SWE-bench Verified với Llama-3.3-70B trên 4×A100, nhóm tác giả báo cáo độ thu hồi quy tắc hệ thống 97,8% và 0,62M token mỗi lần chạy, giảm 66% so với một bộ đệm ngữ cảnh thông thường. Các đặc tả cũng bao gồm giải mã ràng buộc theo lược đồ qua xgrammar và outlines, tăng cường bảo mật MCP, và sandbox gVisor/Firecracker.

Nguồn:Hacker News · AI · github.com