自学内容网 自学内容网
自学内容网 > 正文

linux下的ollama

🕗 发布于 2024-03-01 11:54 linux  运维  服务器  

refs:

https://github.com/ollama/ollama/blob/main/docs/linux.md

1)安装 

curl -fsSL https://ollama.com/install.sh | sh

2)修改服务配置，打开端口允许所有IP地址 

refs(https://github.com/ollama/ollama/blob/main/docs/faq.md#where-are-models-stored)

Create a service file in /etc/systemd/system/ollama.service

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="OLLAMA_HOST=0.0.0.0"
Environment="PATH=/home/dtjk/bin:/home/dtjk/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin:/home/dtjk/.dotnet/tools:/home/dtjk/.dotnet/tools"

[Install]
WantedBy=default.target

 3）更新配置

sudo systemctl daemon-reload
sudo service ollama restart   

4）check端口状况

~$ sudo lsof -i:11434
COMMAND   PID   USER   FD   TYPE    DEVICE SIZE/OFF NODE NAME
ollama  17243 ollama    3u  IPv6 416111630      0t0  TCP *:11434 (LISTEN)


原文地址：https://blog.csdn.net/Henry_Wu001/article/details/136297950

免责声明：本站文章内容转载自网络资源，如本站内容侵犯了原著者的合法权益，可联系本站删除。更多内容请关注自学内容网（zxcms.com）！

相关文章

  • 老师如何在微信群发布查分二维码？

    它提供了一个安全的平台，确保学生的成绩信息仅对家长可见，避免了成绩信息的不当公开。成绩发布后，系统会生成一个链接或二维码，老师们可以通过转发这个链接或二维码给家长，家长无需注册即可直接查看自己孩子的成

    阅读更多2024-09-26
  • collections.defaultdict(list)和一般的dict()有什么区别

    是在Python中创建一个特殊类型的字典，称为默认字典（defaultdict）。经常用于需要将多个值关联到同一个键的情况，例如图的邻接表表示、单词分组等场景。在需要为键自动初始化特定类型的值（如列表

    阅读更多2024-09-26
  • 安卓Settings值原理源码剖析存储最大的字符数量是多少？

    1、settings相关的数据最后是存在xml中，app层面都是通过SettingProvider调用到systemserver进程进行保存2、xml中写入相关字符时候，对字符长度有限制，是65535

    阅读更多2024-09-26
  • 用大白话来讲解Linux CentOs7

    1. 前置工作　　在正式开始学习Linux之前，我们要做一些前置工作，比如，VM虚拟机的下载，CentOs7的iso（镜像文件）的下载，了解不同版本之间Linux的不同之处；知道Linux与我们最常用

    阅读更多2024-09-26
  • xpath在爬虫中的应用、xpath插件的安装及使用

    1、打开谷歌浏览器进入扩展程序安装页面(右上角会有"开发者模式按钮")默认是关闭的，当安装此插件时需要把开发者模式打开。2、下载下来的xpath_helper是zip格式的，需要解

    阅读更多2024-09-26
  • Redis 字符串类型的典型应用场景

    Redis 的字符串类型在多种场景下都非常有用，包括但不仅仅缓存、计数、会话管理和验证码处理。我们可以根据业务灵活运用，毕竟技术是为业务服务的！！！

    阅读更多2024-09-26
  • 开发经验总结: 读写分离简单实现

    dynamic-datasource-spring-boot-starter 是一个基于springboot的快速集成多数据源的启动器。其支持。JPA用户不建议使用，JPA自带事务，无法连续切库。支持

    阅读更多2024-09-26
  • Vue 响应式监听 Watch 最佳实践

    上一篇文章我们学习了watch的基础知识，了解了它的基本使用方法及注意事项，本篇文章我们继续了解在Vue 中 响应式监听 watch 的妙用。了解watch的基础使用请参考上一篇文章：详解 Vue 中

    阅读更多2024-09-26
  • Windows C++：MoveFile、MoveFileEx、MoveFileWithProgress、CopyFile、CopyFileEx。

    文件管理是一个至关重要的领域，涉及文件的创建、移动、复制和删除等操作。MoveFileMoveFileExCopyFile和CopyFileEx，这些函数在实现高效的文件操作时，提供了丰富的功能和灵活

    阅读更多2024-09-26
  • DOM对象

    结构图中的每一项称为节点(Node)，树状结构叫节点树，结构树反映了各HTML元素之间的层次关系；这些属性是：nodeName（节点名称）， nodeValue（节点值），nodeType（节点类型)

    阅读更多2024-09-26
自学内容网
Copyright © 2015-2024