你的 Agent 有 1000 万上下文,为什么第 50 轮就开始失忆?
隐含的承诺是:记忆是一个容量问题,而容量正在被解决。它没有。NVIDIA 的 RULER 基准测得有效上下文大约只有标称值的 50%–65%;Chroma 的“上下文腐烂”(context rot)
EVENT DOSSIER
随着 Agent 模型上下文容量提升,其记忆稳定性问题日益凸显。尽管部分报道暗示大上下文容量可解决记忆问题,但实际测试显示有效上下文利用率远低于标称值。NVIDIA RULER 基准测试表明,有效上下文仅为名义值的 50%–65%,且存在‘上下文腐烂’现象,导致 Agent 在长时间运行中逐渐失忆。为应对这一挑战,持久化与缓存技术被视为构建可靠 Agent 数据底座的核心方案,旨在通过外部存储机制弥补模型内部记忆衰退的缺陷。
隐含的承诺是:记忆是一个容量问题,而容量正在被解决。它没有。NVIDIA 的 RULER 基准测得有效上下文大约只有标称值的 50%–65%;Chroma 的“上下文腐烂”(context rot)
持久化与缓存:Agent的数据底座 — 没有持久化的Agent像金鱼记忆,重启就忘
隐含的承诺是:记忆是一个容量问题,而容量正在被解决。它没有。NVIDIA 的 RULER 基准测得有效上下文大约只有标称值的 50%–65%;Chroma 的“上下文腐烂”(context rot)