自学内容网 自学内容网

【一】Mac 本地部署大模型

盘古开天辟地开始

# 安装brew

/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"


 (echo; echo 'eval "$(/opt/homebrew/bin/brew shellenv)"') >> /Users/wangxin52/.zprofile
    eval "$(/opt/homebrew/bin/brew shellenv)"

# 创建相应的 conda 环境
conda create --name chatmodel python=3.9

conda activate chatmodel


#安装依赖包
conda install mlx=0.1

# 安装 mac 本地混合大模型
 pip install chat-with-mlx

chat-with-mlx的 git:https://github.com/qnguyen3/chat-with-mlx 如果上述安装不成功,可以参照这个 git 进行安装


原文地址:https://blog.csdn.net/ninetyfour/article/details/137278356

免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!