这配置只能用14B以下的,没啥用。建议用API
https://bbs.deepin.org.cn/post/284028
目前 UOS AI是支持本地和在线两种接入方式,但是本地模型版需要社区23才能支持;20.9上的UOS AI支持在线API接入方式,你这20.8(版本太老了)目前应该是不行,建议安装23.或者自行通过ollama部署方式进行尝试。
没个高配显卡的话,蒸馏的1.5B.3B.7B.14B那些也就能处理个简单的问答,真不如在线API接满血版体验好,不过考虑隐私的话就用本地版吧。
没个几百万显卡,基本上不用考虑本地部署满血版deepseek了
https://bbs.deepin.org.cn/post/284028
目前 UOS AI是支持本地和在线两种接入方式,但是本地模型版需要社区23才能支持;20.9上的UOS AI支持在线API接入方式,你这20.8(版本太老了)目前应该是不行,建议安装23.或者自行通过ollama部署方式进行尝试。
我20.9安装了1.5B和7B,uosAI能用
https://bbs.deepin.org.cn/post/284028
目前 UOS AI是支持本地和在线两种接入方式,但是本地模型版需要社区23才能支持;20.9上的UOS AI支持在线API接入方式,你这20.8(版本太老了)目前应该是不行,建议安装23.或者自行通过ollama部署方式进行尝试。
看来想本地安装比较困难了
要重装v20.9或者v23也是头疼
没个高配显卡的话,蒸馏的1.5B.3B.7B.14B那些也就能处理个简单的问答,真不如在线API接满血版体验好,不过考虑隐私的话就用本地版吧。
我主要是想用来分析文件用的,但是文件又是涉密的,所以不敢用在线版的
没个几百万显卡,基本上不用考虑本地部署满血版deepseek了
本地用1.5B的也没啥效果吗
本地用1.5B的也没啥效果吗
这点参数量,会很笨的。
自己本地部署,智商6岁以下,不太建议
这个版本没有出过部署方案,如果想要尝试可安装23版本,本周会提供GUI界面的deepseek本地部署方案。
Popular Events
More
V20.8能不能安装?
在线的DeepSeek一个是网络问题,一个是考虑到安全隐私问题,不能把文件上传去分析。
想在自己电脑上安装使用,有没有办法呢?