首先安装amd显卡,具体安装见下面帖子: https://bbs.deepin.org/post/294855
通过官方安装脚本在本地安装在终端运行 sudo curl -fsSL https://ollama.com/install.sh | sh
AMD显卡驱动安装好后会自动执行安装要支持AMD GPU的版本的附加文件。
添加一个Ollama用户和组: sudo groupadd ollama
sudo usermod -a -G ollama $(whoami) sudo usermod -a -G amd deepinpan
这个amd显卡驱动需要的(rocminfo) sudo usermod -a -G render,video
创建服务配置 /etc/systemd/system/ollama.service sudo vim /etc/systemd/system/ollama.service
[Unit] Description=Ollama Service After=network-online.target
[Service] ExecStart=/usr/bin/ollama serve
###修改自己的user用户 User=ollama Group=ollama Restart=always RestartSec=3 Environment="PATH=$PATH"
####配置ollama models放置位置
Environment="OLLAMA_MODELS=/home/user/LLMFile/ollama/models"
[Install] WantedBy=default.target
启动ollama服务 sudo systemctl daemon-reload ollama sudo systemctl enable ollama sudo systemctl start ollama sudo systemctl status ollama
ollama run deepseek-r1:14b
查看 log journalctl -e -u ollama.service
重新配置sudo vim /etc/systemd/system/ollama.service后操作
$ sudo systemctl daemon-reload $ sudo systemctl restart ollama.service
主要参考ollama官方网站。
关于在线下载慢的,我是白天下载还是比较快的。
No replies yet
Featured Collection
Popular Events
首先安装amd显卡,具体安装见下面帖子:
https://bbs.deepin.org/post/294855
通过官方安装脚本在本地安装在终端运行
sudo curl -fsSL https://ollama.com/install.sh | sh
AMD显卡驱动安装好后会自动执行安装要支持AMD GPU的版本的附加文件。
添加一个Ollama用户和组:
sudo groupadd ollama
sudo usermod -a -G ollama $(whoami)
sudo usermod -a -G amd deepinpan
这个amd显卡驱动需要的(rocminfo)
sudo usermod -a -G render,video
创建服务配置 /etc/systemd/system/ollama.service
sudo vim /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
###修改自己的user用户
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
####配置ollama models放置位置
Environment="OLLAMA_MODELS=/home/user/LLMFile/ollama/models"
[Install]
WantedBy=default.target
启动ollama服务
sudo systemctl daemon-reload ollama
sudo systemctl enable ollama
sudo systemctl start ollama
sudo systemctl status ollama
ollama run deepseek-r1:14b
查看 log
journalctl -e -u ollama.service
重新配置sudo vim /etc/systemd/system/ollama.service后操作
$ sudo systemctl daemon-reload
$ sudo systemctl restart ollama.service
主要参考ollama官方网站。
关于在线下载慢的,我是白天下载还是比较快的。