跳到正文
Hacker News · AI·· 16 小时前AI 评分36

Show HN:AI Agent 基础设施与记忆压缩规范

Show HN: AI Agent Infrastructure and Memory Compaction Specifications

AI 导读

一篇 Show HN 帖子发布了面向 AI Agent 基础设施的精选架构规范,核心是三层滚动记忆压缩设计:固定不变量、去重事实的压缩账本,以及最近 4-6 轮的原始热尾部。在 4×A100 上运行 Llama-3.3-70B 的 SWE-bench Verified 子集上,作者报告系统规则召回率为 97.8%,每次运行消耗 0.62M tokens,相比朴素上下文缓冲区减少了 66%。这些规范还涵盖通过 xgrammar 和 outlines 实现的模式约束解码、MCP 加固,以及 gVisor/Firecracker 沙箱。

来源:Hacker News · AI · github.com