DB-gpt + one-api + kimi-free-api 真香
# 1. 新建文件夹 one-api 和 子目录
mkdir -p /docker/one-api/data
# 运行容器one-api
docker run --name one-api -d --restart always -p 3333:3000 \
-e TZ=Asia/Shanghai -e REDIS_CONN_STRING=redis://192.168.0.3:6379 -e SYNC_FREQUENCY=60 -e SQL_DSN='root:123456@tcp(192.168.0.3:30306)/oneapi' \
-v /home/admin/docker_data/oneApi/data:/data justsong/one-api
# 2. 运行kimi-free-api
docker run -it -d --init --name kimi-free-api -p 3334:8000 -e TZ=Asia/Shanghai vinlic/kimi-free-api:latest
# 3. 配置one-api
1.进入one-api 新建渠道,配置kimi-free-api,其中的密钥要从https://kimi.moonshot.cn/ 按F12来获取,应用--本地存储空间--域名--refresh token ,而且密钥可以配置多个 ,目前kimi限制普通账号每3小时内只能进行30轮长文本的问答(短文本不限),你可以通过提供多个账号的refresh_token并使用,拼接提供:Authorization: Bearer TOKEN1,TOKEN2,TOKEN3
每次请求服务会从中挑选一个。baseUrl就是kimi-free-api的访问地址。
2.在one-api中,新建令牌,关键的一点,令牌【复制】chatgpt-next-web后,会生成一串字符串,
其中的key,就是用来访问api接口的,类似sk-xxxxxxxx,之前我用的令牌名称,结果调用接口老是报401的错,url就是one-api的访问地址;
# 4. 通过chatgpt-next-web来验证一下
docker pull yidadaa/chatgpt-next-web
# 5. 运行容器 chatgpt-next-web, -表示要关闭的模型,+表示要使用的模型
docker run -d --restart unless-stopped --name chatgpt-next-web -p 3332:3000 -e OPENAI_API_KEY='sk-bn6M52bOfdxYB3n2Ee717eA2C66b45318f1c95E4D9553d94' -e BASE_URL=http://192.168.0.3:3333 -e CUSTOM_MODELS='-all,+kimi' yidadaa/chatgpt-next-web:latest
# 6. 新建dbgpt数据目录,Embedding模型可以在国内的 https://hf-mirror.com/ 下载
mkdir -p /home/admin/models/text2vec-large-chinese
# 7. 运行容器dbgpt(采用one-api + kimi-free-api 方案)
docker run -d \
--restart unless-stopped \
--name dbgpt \
-p 5670:5670 \
-v /home/admin/models/text2vec-large-chinese:/app/models/text2vec-large-chinese \
-e LOCAL_DB_TYPE=sqlite \
-e LOCAL_DB_PATH=data/default_sqlite.db \
-e LLM_MODEL=proxyllm \
-e PROXY_API_KEY=sk-bn6M52bOfdxYB3n2Ee717eA2C66b45318f1c95E4D9553d94 \ #这个KEY是one-api的令牌生成的key
-e PROXY_SERVER_URL=http://192.168.0.3:3333/v1/chat/completions \ #这是one-api的访问地址
-e EMBEDDING_MODEL=text2vec \
-e LANGUAGE=zh \
eosphorosai/dbgpt:latest #镜像可能要科学一下,有点大13个G
最后通过DB-gpt 使用自然语言查询出商品价格的走势图
原文地址:https://blog.csdn.net/recotone/article/details/140683876
免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!