RAG学习笔记系列（三）
RAG 中的 Agent
Agent
Agent 是使用 LLM 进行推理，为其提供一系列工具完成一个任务。
工具包括一系列定义好的函数，比如：代码函数、外部API、其他的 Agent。
OpenAI 助理
OpenAI 助理基本上实现了很多工具供 LLM 选择，比如：
- 对话历史
- 知识库
- 文档上传
- 函数调用 API
多文档Agent架构
1、多文档 Agent 包括：
- 对每个文档初始化一个 Agent (OpanAIAgent)，可以完成文档总结和问答
- 一个顶级 Agent，负责将查询路由到文档
Agent 和进行最后回答的合成
2、文档 Agent 有两个工具：向量索引和摘要索引，根据查询决定使用哪个工具
3、对于顶级 Agent，所有的文档 Agent 都是工具
响应内容合成器
内容响应合成是 RAG pipeline 的最后一步，根据检索到的上下文内容和用户原始的查询，生成最后的响应内容。
- 简单方法：将检索到的上下文和查询拼接，一起发送给 LLM
- 高级方法：多次调用 LLM，优化检索到的上下文，从而生成更好的回答
主要合成响应内容的高级方法有：
- 迭代细化答案：逐个将检索到的上下文文本块发送给 LLM，根据上一个文本块生成的答案会和下一个文本块内容一同发送给 LLM
- 总结检索到的上下文
- 根据每一个检索到的文本块生成各自的答案，然后将答案拼接或者总结。
原文地址：https://blog.csdn.net/gm0012/article/details/137823429
免责声明：本站文章内容转载自网络资源，如本站内容侵犯了原著者的合法权益，可联系本站删除。更多内容请关注自学内容网（zxcms.com）！