解决 Torch not compiled with CUDA enabled 问题 | MiniCPM3-4B 【应用开发笔记】

最近在研究测试MiniCPM3-4B，这里记录一下遇到的cuda和torch版本问题

在调试和运行MiniCPM3-4B过程中如果出现找不到某个包，就用pip进行安装，如果提示GPU相关的问题则需要进一步检查

一、查看本机当前CUDA版本

打开命令提示行，输入以下脚本，查看本机当前cuda相关信息。

nvcc -V

可以看到博主的cuda版本是11.8

知识扩展：CUDA（Compute Unified Device Architecture）是由NVIDIA开发的一种并行计算架构和编程模型。它允许开发者利用NVIDIA的图形处理器（GPU）进行通用计算，从而大幅提高计算速度。CUDA通过提供C语言扩展、库和工具集，使得程序员能够编写在GPU上运行的程序，用于处理大量数据密集型任务，如图像处理、机器学习和科学模拟等。

---

二、搜索对应CUDA版本torch的下载地址

我们可以打开以下地址搜索对应的torch版本的下载地址。
https://pytorch.org/get-started/locally/

根据博主的11.8版本，我们点击对应的卡片选项，从而生产对应的pip下载指令：

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

如下图所示：

知识扩展：PyTorch是一个基于Python的开源机器学习库，用于构建和训练深度学习模型。它由Facebook的人工智能研究小组开发，支持GPU加速，并具有动态计算图的特性。PyTorch的CUDA版本是专为NVIDIA GPU加速而设计的版本，它允许利用GPU的强大计算能力来训练和推理深度学习模型。

---

三、安装CUDA版本的torch

博主使用的IDE是PyCharm，所以就直接在PyCharm的终端输入刚才的指令：

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

然后等待指令执行完毕即可，如下图所示。

知识扩展：PyCharm的Terminal是一个内置的命令行界面，它允许开发者在集成开发环境（IDE）内部直接执行操作系统命令和运行Python代码。要在PyCharm的终端中运行pip，可以按照以下步骤操作：
①打开PyCharm，并打开你的项目。
②在PyCharm的底部工具栏中找到并点击“Terminal”选项卡，这将打开一个新的终端窗口。
③在终端窗口中，输入pip命令，后跟你想要执行的具体操作，例如安装一个包、升级一个包或查看已安装的包列表。
④按回车键执行命令。
通过以上步骤，你可以在PyCharm的Terminal中方便地使用pip来管理Python项目的依赖。

原文地址：https://blog.csdn.net/qq616491978/article/details/142361891

免责声明：本站文章内容转载自网络资源，如本站内容侵犯了原著者的合法权益，可联系本站删除。更多内容请关注自学内容网（zxcms.com）！