【一】Mac 本地部署大模型
盘古开天辟地开始
# 安装brew
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
(echo; echo 'eval "$(/opt/homebrew/bin/brew shellenv)"') >> /Users/wangxin52/.zprofile
eval "$(/opt/homebrew/bin/brew shellenv)"
# 创建相应的 conda 环境
conda create --name chatmodel python=3.9
conda activate chatmodel
#安装依赖包
conda install mlx=0.1
# 安装 mac 本地混合大模型
pip install chat-with-mlx
chat-with-mlx的 git:https://github.com/qnguyen3/chat-with-mlx 如果上述安装不成功,可以参照这个 git 进行安装
原文地址:https://blog.csdn.net/ninetyfour/article/details/137278356
免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!