[other] 想用显卡跑本地化 AI
Tofloor
poster avatar
六七
deepin
2025-12-21 16:47
Author

我的显卡是N卡3060 12G显存 内存也有32G

操作系统跑的很流畅,至于无线网卡MT7902 我是已经放弃了

下了有容7B的模型

现在想让模型走显卡进行运算,可又不知道有没有安装显卡驱动

Reply Favorite View the author
All Replies
LiuYongzhang
deepin
2025-12-21 16:54
#1

可以问一下ai ,然后按照步骤操作

检查NVIDIA系统管理接口

nvidia-smi

# 检查已安装的NVIDIA包

dpkg -l | grep nvidia

# 检查显卡信息

lspci | grep -i vga

image.png

Reply View the author
杀毒软件吧
deepin
2025-12-21 23:42
#2

其实,直接从NVIDIA官网下载对应的Linux驱动也许就能安装了,最近我给一个deepin25安装了官网上的580版的闭源驱动,安装过程意外地没什么问题,就是目前没有测试过调用显卡进行运算。

Reply View the author
枫晓岳
deepin
2025-12-22 12:05
#3

跑AI肯定可以跑的,我显卡也是和你一个规格。

查看命令楼上已经有了。可能还需要安装cuda和cudnn。

Reply View the author
kookboy
deepin
a day ago
#4

说句实话,楼主的想法很好。但在Linux系统中部署AI,你得先学习一些本地部署AI的知识。

先把硬件的驱动,主要是指显卡的,自己要会安装。然后了解cuda以及NVIDIA Container Toolkit(Docker容器运行的话必装)的安装,等你到这一步了。

再试着本地部署,若遇到问题可以来这里寻求帮助。

Reply View the author