运行fastGPT 第五步 配置FastGPT和上传知识库 打造AI客服
运行fastGPT 第五步 配置FastGPT和上传知识库 打造AI客服
根据上一步的步骤,已经调试了ONE API的接口,下面,我们就登陆fastGPT吧
http://xxx.xxx.xxx.xxx:3000/
这个就是你的fastGPT后台地址,可以在configer文件中找到。
账号是root,密码默认是1234
登录了之后,可以新建一个工作流,这样我们就可以调度GPT来帮我们回答问题了。
先去知识库,创建一个通用知识库。
上传一些你的产品资料,产品的规格,价格,产品的特点,常见问题,操作,说明等相关的知识。
注意,创建知识库, 一定要用聪明一些的模型,来帮你构建向量数据库。比如质谱的GLM -4 -PLUS最新的大模型,索引模型,可以选Embedding-3或者mbedding-2 ,这两都是质谱提供的。 其实区别不大,对于客服问答这种简单的应用。 索引模型区别好像不大。 具体可以自己感觉。
你可以手动添加训练数据集,这样可以再插入内容。 注意左边是问题, 右边是答案。是问答模型。
问题一定要有产品型号,具体的所指,要简短,不能是含糊的。 这个是引擎搜索时候的重要索引。不要追求1条知识过于全面,而是只针对1个点进行精要回复。 1个简单问题,对应1个简单的回答。 不要最求面面俱到,要的是1对1 的简单关系。
这对后面搜索知识库有极大好处。因为它只能搜指定的token数量,如果你的回答中无用内容占了 很多。那搜索出来的条目数量就很少。
每条知识,需添加索引关键词,这个是非常非常重要的。 决定了索引排序的排名。只有相关性靠前的,才能被抓到。 所以关键词质量很高。建议先把所有知识自己分个类 ,然后再决定怎么配置。
推荐的索引,要带上型号标签。 便于AI明白知识是哪个产品的。
电商客服 问答模型流程搭建
调用前置AI分析问题 扩展问题 和拆解关键词
客服模型推荐使用上面这种工作流,客户进来之后,先有前置的AI进行问题的分析,和补全。 然后扩展客户问题的关键词。
这里,可以用一个推理能力强的前置AI,比如我用了质谱的GLM -4 -PLUS最新的大模型(可以按照上篇文章介绍的方法自己添加进去),堪比GPT-4o,前置问题分析,这个步骤最重要。 决定回答质量。
这里是最为重要的,你要控制提示词,来教会GPT,如何拆解客户的问题,将客户的问题补全,让他知道你的产品分类,要把产品型号告诉GPT,这是它的基础背景知识。相当于分诊台,分类器。 拿到这些,后面的知识库才能检索数据。 如果分类错误,那就连客户的问题都读不懂了。后面的AI没发正确回答。
客户的问题简短,而且没有主谓语,经常问出一些,不看上下文不知道说什么的问题。 你要详细教会AI怎么去扩展,和补全客户的问题。
比如客户问:这个多少钱
前置AI补全问题 和扩展:这个KB6011检测仪多少钱
然后再根据这个补全后的问题,扩展几个关键词
比如:
这个KB6011检测仪多少钱
KB6011检测仪价格
KB6011售价
KB6011的优惠
这些,都会丢到后面的知识数据库里 去查询。
去知识库抓取知识
利用前面拆解的问题,和关键词。到知识库,按照向量知识库匹配度,抓取一定的知识。 这个token量可以自己设置,一般要抓取个2500 token左右吧。 抓的知识越多,后面AI参考的越多。但是,会影响速度。 另外,后置的AI,能不能分析这么多token,要看它的限制。小模型只能看8k的 token。
注意,因为我们使用了前置AI进行手动问题优化和扩展。 知识库里的这个自动的就不用开启了。 否则会混乱。 而且这个知识库自带的问题优化,也不是很靠谱。它没法控制提示词。和问题优化的走向。
调用后置AI根据前面的知识,客户问题,历史记录 来回答可以问题。
后置AI,我用的是质谱的小模型,GLM4-AirX,便宜。快速一般几百ms,就能把问题回答了。 对于淘宝电商这种客服来说,在合适不过了。 没有什么推理,就是简单回复。
把前面获得所有信息,丢给AI,让它结合客户问题,前置AI优化后的问题和关键词,和知识库,历史记录,等这几个方面,综合做出推理回答。
约束AI回答走向的重要配置!!!
配置提示词,这个是相当于你的客服的提示词,整段回话的风格,客服的角色,和一些基础的背景知识,都可以先给到它。 但是,这里并不决定如何使用知识库里的知识。
最终的问答走向的控制,要点击知识库旁边的小齿轮
这个是核心中的核心。 所有最终的回答,都会根据这个里面的设置,决定回答的走向。
点进去之后,就会看到,你可以选择一个模板,来配置你的回答风格。
一般问答型的知识库,就选严格模式。 避免它胡编乱造。
这样,你可以在下面 “回答要求” 这个标签下,自己添加一点内容。
1、比如限制GPT干啥,
2、怎么用知识库,
3、要回答几个问题(因为前面AI拆解问题后,会生成几个近似的问题),你可以指定它回答几个,或综合客户问题,找到最接近的回答等。
4、告诉它言简意赅,不要超过150字,
5、怎么避免回复法律问题,不要过度承诺。等等。
你都可以在这里一行一行,添加给它。
6、如何区分产品型号
7、叮嘱GPT看历史记录
8、叮嘱他不要把不同标签的知识搞混了,不同型号的产品知识,不要混在一起回答等。
总之,后置AI会严格按照这个法规,最终回答出满意简短的答案。 接近客服水平。
这里只讲核心的配置逻辑。 具体的操作,需要自己摸索。
发布你的问答机器人吧,API可以接入你的其它软件,比如AI客服软件。或者以网页形式直接问答。
原文地址:https://blog.csdn.net/weixin_46801290/article/details/145199514
免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!