报错 - auto-gptq 安装失败
如果 auto-gptq 安装失败，一般建议下载源码安装，如果依旧失败，源码会报错错误。
我遇到的是 torch 和 cuda 版本不匹配的问题；
升级 cuda 解决了这个问题；
git clone https://github.com/PanQiWei/AutoGPTQ.git
cd AutoGPTQ
然后，从项目目录安装:
pip install .
或者
python setup.py install
如果 cuda 升级后，依旧失败，不妨看看 nvcc -V 打印的cuda 是什么版本；
没有显示最新版本，可以看看你的 cuda 地址 有没有配置到 环境变量。
nvcc -V
which nvcc
# /usr/local/cuda-12.4/bin/nvcc
2025-01-09（四）
原文地址：https://blog.csdn.net/lovechris00/article/details/145038083
免责声明：本站文章内容转载自网络资源，如本站内容侵犯了原著者的合法权益，可联系本站删除。更多内容请关注自学内容网（zxcms.com）！