Show HN công bố đặc tả hạ tầng AI agent và nén bộ nhớ
Bắt đầu từ đây
Một bài đăng Show HN đã công bố đặc tả kiến trúc cho hạ tầng AI agent, được xây dựng quanh thiết kế nén bộ nhớ cuốn chiếu ba tầng: các bất biến được ghim, một sổ cái đã nén gồm các sự kiện đã khử trùng lặp, và một đuôi thô nóng của 4–6 lượt gần nhất. Nhóm tác giả báo cáo rằng trên một tập con SWE-bench Verified dùng Llama-3.3-70B trên 4×A100, thiết kế đạt 97,8% độ thu hồi quy tắc hệ thống ở 0,62M token mỗi lần chạy, giảm 66% so với một bộ đệm ngữ cảnh thông thường. Đặc tả cũng bao gồm giải mã ràng buộc theo schema qua xgrammar và outlines, tăng cường bảo mật MCP, và sandbox hóa gVisor/Firecracker. Các con số hiệu năng là kết quả do chính nhóm tác giả báo cáo.
Tạo từ các bài viết · cập nhật 16 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIShow HN: Đặc tả hạ tầng và nén bộ nhớ cho AI Agent
Một bài đăng Show HN công bố các đặc tả kiến trúc được tuyển chọn cho hạ tầng AI agent, xoay quanh thiết kế nén bộ nhớ cuốn chiếu ba tầng: các bất biến được ghim, một sổ cái đã nén gồm các sự kiện đã khử trùng lặp, và một đuôi thô nóng của 4-6 lượt gần nhất. Trên một tập con SWE-bench Verified với Llama-3.3-70B trên 4×A100, nhóm tác giả báo cáo độ thu hồi quy tắc hệ thống 97,8% và 0,62M token mỗi lần chạy, giảm 66% so với một bộ đệm ngữ cảnh thông thường. Các đặc tả cũng bao gồm giải mã ràng buộc theo lược đồ qua xgrammar và outlines, tăng cường bảo mật MCP, và sandbox gVisor/Firecracker.
Độ nóng của sự việc này
- Hiện tại, trong khoảng so sánh được
- 6
- Đỉnh, trong khoảng so sánh được
- 1017 tháng 11 17:00
- Thay đổi trong 24 giờ
- –
Xu hướng so sánh cùng một nhóm người tham gia trong những giờ được quan sát liên tục, nên khoảng của nó có thể hẹp hơn số độ nóng hiện tại. Rê chuột hoặc chạm vào biểu đồ để xem độ nóng theo giờ; các phím mũi tên di chuyển qua biểu đồ.