Hacker News · AI 最新· Corbenic·· 7 天前AI 评分60
galahad-kv 实测 50M token 长期记忆，KV 状态复用比重算更快更省
Long-Term Memory for AI:50M-Token Window,Is Faster,Cheaper Than Recompute
AI 导读
arXiv 论文测试公开包 galahad-kv，把约 16000 token 的 KV 状态块存入加密本地 NVMe 磁盘后按需字节级加载，在单张 H100 上经 vLLM 跑了 50M token 真实文本，Gemma 4 12B 与 31B 的抽检块 100/100 全部无重算命中。
来源：Hacker News · AI 最新 · arxiv.org