Stanford 开源 Memorilla 潜空间记忆模块，用 16 个 token 压缩冻结大语言模型上下文

Stanford 研究团队开源了面向冻结大语言模型的 Memorilla，将整个文档集合压缩为 16 个记忆 token。在 FactKG 上，冻结的 Qwen3-8B 使用 Memorilla 获得 84.33% 准确率，高于完整上下文的 80.43%，同时使用的文档 token 少 108x。

来源：MarkTechPost · 阅读原文 · 前沿热点