经典RAG（检索增强生成）架构通过检索相关知识块并送入大语言模型（LLM）进行合成响应，已经在应用中得到普及。然而，在企业级场景中，面临着大量不同来源与类型文档（包括文件形态或RDBMS中的数据）的挑战。

Agentic RAG正是为了解决这些复杂需求而生，它赋予了RAG应用超越简单问答的能力，例如：基于全局理解文档后进行总结摘要；实现跨文档与知识库的对比问答；以及结合非知识工具实现复合场景（如从文档提取产品介绍发送给客户）。

智能体记忆模块的架构与策略

AI Agent的卓越性能，很大程度上依赖于其长短期记忆功能，这使得它能够高效利用私域知识，深入理解用户意图，显著降低大模型的“幻觉”问题。

记忆触发机制

智能体的记忆更新通常通过两种机制触发：

1. 轮数触发： 每隔3到5轮对话自动生成摘要并存入记忆。

2. 事件触发： 在完成任务、场景转换等关键节点记录信息。例如，客服完成问题处理后保存解决方案，或个人助理更新日程后写入日历。

开发者可通过实现监控逻辑，在对话累积或话题转换时，让大模型生成近期对话摘要，提取关键信息并添加标签，以方便后续检索。

上下文压缩与优化实践

当上下文超过指定的限额时，Agent会触发基于LLM的压缩机制。在文档处理Agent项目中，上下文压缩提示词（Custom System Prompt）的设计至关重要。例如，针对文档处理工作流对话的总结，系统提示词需要创建一个简明扼要的要点摘要，并要求：

• 专注于文档处理任务、章节生成和工作流进度。

• 保留特定文件路径、章节名称和任务完成状态。

• 维护待办事项列表状态和进度跟踪信息。

• 省略对话元素，专注于可操作的工作流信息。

• 使用适合文档处理和内容生成的技术术语。

• 以要点形式呈现，按特定结构组织，如“文档处理”、“章节生成”、“待办状态”、“文件位置”、“错误/问题”。

多文档处理中的Agentic策略

处理大型文档集合需要特定的策略，以使Agent在保持高准确率的同时，有效处理超出模型上下文限制的数据。

核心处理步骤

Agentic RAG在处理多文档场景时通常包括以下步骤：

1. 文档分块处理： 将大型文档集合切分为适当大小的块（chunks），并存储在文件系统中。

2. 摘要生成： 为每个文档块生成精炼的文字摘要（提供内容概览），并生成整个文档的摘要信息。

3. 动态上下文管理： 赋予Agent自主选择的能力，使其可以根据任务需求动态调取相关文档块。

4. 上下文优化： 任务完成后自动释放不再需要的上下文，优化资源利用。

主流记忆框架比较

业界涌现了多种记忆机制的实现方案。

• Mem0： 专为AI Agent设计的开源记忆框架，支持工作记忆、事实记忆、情景记忆和语义记忆等多种类型。它提供了智能的LLM提取、过滤和衰减机制，有助于降低计算成本。Mem0还支持多模态处理和Graph记忆功能。

• Bedrock AgentCore： 亚马逊云科技的商业解决方案中的记忆模块。

• 其他开源框架： 包括MemGPT、LangMem等，并支持与亚马逊云科技服务集成。

Agentic RAG如何提升知识问答可信度

通过融合LLM、RAG技术以及Agent的长短期记忆功能，Agentic RAG能够深度理解用户意图，并有效利用企业私域知识，从而显著降低大模型的“幻觉”问题。

在知识问答应用中，LangChain框架提供了有效地融合本地知识库内容与大语言模型知识问答能力的实践路径。构建基于LangChain的知识问答系统，主要步骤包括：收集领域知识数据、进行文本提取和文本拆分、利用嵌入向量模型给出文本块嵌入表示并用向量数据库保存。最终，系统根据用户输入，通过向量数据库检索最相关文本片段，与提示词模板合并后输入给LLM。

这种Agentic RAG的架构，使得企业能够更好地实现知识问答场景，让大模型真正掌握企业的知识和流程。