摘要：AI的“健忘症”会带来什么后果？2025年9月，关于AI智能体上下文工程的讨论，再次引发全球关注。这场围绕大语言模型记忆力的技术博弈，不仅关乎AI产业的未来，更关系到每一个依赖智能体的行业变革。

AI的“健忘症”会带来什么后果？2025年9月，关于AI智能体上下文工程的讨论，再次引发全球关注。这场围绕大语言模型记忆力的技术博弈，不仅关乎AI产业的未来，更关系到每一个依赖智能体的行业变革。

自Andrej Karpathy提出“大语言模型如操作系统，LLM像CPU、上下文窗口如RAM”的观点后，全球AI工程师都在关注一个现实问题：AI智能体（Agents）在执行任务时，有限的上下文窗口容量正日益成为掣肘。

2025年，AI智能体的推理和工具调用能力突飞猛进，应用场景从对话助手到代码生成器，需求层出不穷。但随之而来的，是对“上下文工程”能力的极限考验。

每一次任务调用，AI都要在有限的“记忆”空间中保存指令、知识和工具反馈。正如Karpathy所言，把最合适的信息精准“塞”进窗口，已成一门艺术和科学。

AI智能体为什么会“健忘”？根源在于任务越来越复杂，Token消耗量激增，导致上下文窗口不堪重负。Drew Breunig总结了四大风险：

“上下文中毒”（信息幻觉注入）、“上下文干扰”（无关内容淹没核心）、“上下文混淆”（多余信息扰乱输出）、“上下文冲突”（内容矛盾相互抵消）。

应对困局，业内归纳出四大核心策略：写入（write）、选择（select）、压缩（compress）、隔离（isolate）。

AI工程师发现，像人类写便笺那样，把关键信息“写”在窗口外，是解决记忆断层的有效办法。Anthropic团队的LeadResearcher项目中，研究员会把计划主动保存到内存，即便上下文窗口超过20万Token被截断，主线任务也不会遗失。

Reflexion论文和生成式AI智能体也采用了“自我生成记忆”机制，ChatGPT、Cursor、Windsurf等产品已实现跨会话的自动记忆积累。

或许有人会说，这种“记忆外挂”会不会导致数据安全风险？但从实际应用看，适当的结构化保存能显著提升AI任务连贯性。

只保存还不够，AI还得懂得“选”——什么信息才该调入窗口，辅助当前任务？便笺内容如何选，是工具调用还是状态字段？记忆片段如何筛？AI智能体需分辨情景记忆、程序性记忆和语义记忆，Claude Code、Cursor、Windsurf等产品采用了固定文件和规则来存储指令与示例。

ChatGPT通过Embeddings和知识图谱辅助筛选，甚至在AIEngineer世界博览会上出现过“记忆选择失误”事件——用户位置信息被意外注入图片，用户直呼“上下文不再属于自己”。

有人质疑，选择机制会不会误伤关键信息？从另一个角度看，随着RAG（检索增强生成）等技术提升，工具选择准确率已提升3倍，大规模代码AI智能体结合多种检索与重排序手段，正让记忆筛选愈发精准。

AI智能体的对话往往持续数百回合，Token消耗惊人。Claude Code的“自动压缩”机制在窗口逼近95%时自动总结交互轨迹，递归或分层摘要成为行业常态。Cognition团队用微调模型承担知识交接环节的摘要，确保关键信息不丢失。

压缩之外，还有“上下文修剪”思路，Drew Breunig提到的Provence工具，利用训练型剪枝器，自动剔除冗余消息。外界担忧，摘要机制是否会遗漏重要细节？行业普遍认为，结合多种压缩与剪枝手段，可以最大限度保留核心，减少噪音。

隔离策略让AI智能体像“多兵种协同”。OpenAI Swarm库推崇“关注点分离”，多个AI智能体团队同时分担子任务，各自拥有独立的工具、指令与上下文窗口。Anthropic研究员指出，隔离上下文的多智能体性能普遍优于单智能体，因为每个子任务的上下文窗口都能高度聚焦。

Anthropic报告显示，多智能体结构Token消耗可达单聊的15倍，这也引发了对成本与效率的双重讨论。HuggingFace的CodeAgent则通过沙箱机制，把消耗大量Token的内容（如图像、音频）隔离存储，必要时再分配调用。

来源：素年文史