[deepin exploration] deepin UOS AI无缝接入 DeepSeek-R1 模型!离线、在线都支持!
Tofloor
poster avatar
deepin小助手
Super Moderator
OM
2025-02-07 18:10
Author

image.png

DeepSeek 大模型自发布以来吸引了众多用户关注,为了让 deepin 用户更好地体验这一前沿技术,UOS AI 现已适配接入 DeepSeek-R1 端侧模型!无需忍受服务器崩溃,两步即可在本地独享DeepSeek-R1模型带来的震撼体验。

本次,我们为大家提供了「离线部署」和「在线接入」两种方式在UOS AI 中使用 DeepSeek-R1 模型,大家可根据自身设备及网络环境等情况自行选择:

  • 方法一:使用 deepin 官方适配的 UOS AI DeepSeek-R1 1.5B 模型离线部署
  • 方法二:使用 UOS AI的自定义模型接口在线接入DeepSeek-R1 API

注:离线部署方式仅支持 deepin 23、deepin 25 Preview系统使用;在线接入方式支持 UOS V20、deepin 20.9、deepin 23、deepin 25 Preview系统使用。

方法一:UOS AI 离线部署DeepSeek-R1 1.5B 模型

Step 1:更新 UOS AI 及向量化模型插件

若您正在使用deepin 23,可从应用商店更新 UOS AI 至最新版。

image.jpeg

注:若您是首次在 deepin 中下载使用 UOS AI,根据界面提示「勾选用户使用协议-免费领取试用账号」后即可直接进入 UOS AI 全新版本。

若您正在使用 deepin 25 Preview,请通过以下命令升级 UOS AI 至最新版,应用商店稍晚些时候更新。

sudo apt update
sudo apt install uos-ai deepin-modelhub uos-ai-rag

更新完成后,打开 UOS AI 的「设置」选项,在「模型配置-本地模型」中选择「向量化模型插件-安装/更新」,在自动跳转到应用商店界面后,点击安装/更新即可。

image (1).png

Step 2:安装 DeepSeek-R1 模型 GGUF 版本

UOS AI 的模型后端驱动框架是基于 llama.cpp,大家可直接在魔搭社区找到 DeepSeek-R1 的 GGUF 版本。

这里我们将以最通用且便捷的 1.5B 模型为例,其模型大小适中,对硬件配置要求不高,仅需 CPU 即可实现流畅推理。(若您正在使用 CUDA 推理,可以等后续 deepin 系统更新 CUDA 版本的推理后端框架)。

已适配 UOS AI 的 DeepSeek-R1 1.5B 模型的下载地址如下:

百度网盘: https://pan.baidu.com/s/1-786vFU4dunpdproiOHdbQ?pwd=zxxw
123网盘:https://www.123865.com/s/XXsfjv-Jjcph (备用链接:https://www.123684.com/s/XXsfjv-Jjcph
夸克网盘:https://pan.quark.cn/s/edbf721fefaf

将模型文件下载完成后,打开文件管理器,直接进入如下目录:

/home/用户名/.local/share/deepin-modelhub/models   #其中用户名替换为自己的计算机用户名

注:若没有 deepin-modelhub 文件夹以及下面的 models 文件夹,可以自己手动创建该文件夹。

进入 models 文件夹,将下载完成的模型文件夹解压后,直接复制到刚刚创建的文件夹路径中,注意检查路径不要有多的名称。模型完整路径如下:

/home/用户名/.local/share/deepin-modelhub/models/DeepSeek-R1-1.5B/gguf   #其中用户名替换为自己的计算机用户名

image (2).png

经过上述步骤,再次打开 UOS AI 界面,即可手动切换使用 DeepSeek-R1-1.5B 模型。

image (3).png

以下是一个简单的DeepSeek-R1 运行示例:

image.gif

方法二:UOS AI 在线接入 DeepSeek-R1 API

Step 1:获取 API key

访问 DeepSeek 官网(https://www.deepseek.com/),注册/登录账号后,创建并获取API key。若由于服务器压力等问题无法访问以上页面,也可以访问其他渠道获取 API key。

image (4).png

本文将以硅基流动(https://siliconflow.cn/zh-cn/)为例,在注册/登录账号后,前往 API 密钥管理页面,创建并获取 API key。

image (5).png

Step 2:在 UOS AI 中接入 DeepSeek-R1 在线模型

打开 UOS AI 的「设置」选项,在「模型配置」中选择「在线模型-添加」,进入UOS AI的添加模型界面。

image (6).png

完成添加窗口中的内容填写,并点击确定即可,本例中使用到的信息参考如下:

账号名称:自定义
模型类型:自定义
API Key:粘贴 Step 1中所复制的 API 密钥
模型名:deepseek-ai/DeepSeek-R1
请求地址:https://api.siliconflow.cn/v1/chat/completions

截图_选择区域_20250207175641.png

填写完毕并提交确认后,即可在UOS AI中选择 DeepSeek-R1 模型进行使用。

截图_uos-ai-assistant_20250207174950.png

理论上只要你在硅基流动账户中的余额够用,其模型仓库的所有模型都可以通过上述方法在UOS AI中配置调用,只需在上述配置方法中的模型名处填写对应的完整模型名称即可(如上图所示),其它不变。

截图_选择区域_20250207142123.png

需要注意的是,在线大模型受网络及用户访问量影响,偶尔可能会出现访问慢、超时或无法访问的情况,建议多次尝试即可。

在线模型由于当前适配问题,DeepSeek深度思考的内容与对话内容尚未分开,但这并不影响正常使用,UOS AI 团队会在后续更新中尽快优化体验。

最后感谢社区用户「陈正勇」提供的在线配置参考~大家在体验过程中有任何建议或问题,欢迎在评论区留言,或前往deepin社区论坛讨论交流,优质反馈将有机会获得deepin官方周边礼品噢!

以用为本.png

Reply Favorite View the author
All Replies
5 / 6
To page
cliwl
deepin
2025-02-15 13:29
#81

glmos-code-explain

我问他是谁,一直告诉我是uos ai,而不是deepseek

Reply View the author
freeor🤔
deepin
2025-02-15 16:19
#82

在线添加失败

image.png

Reply View the author
deepin
2025-02-16 14:56
#83

本地的完全不能用

Reply View the author
waittingsummer
deepin
2025-02-17 15:58
#84

请问下这个帖子里提到的1.5B模型文件可以用于ollama吗?

Reply View the author
xijuwater988
deepin
2025-02-18 16:43
#85
Reply View the author
deepin小助手
Super Moderator
OM
2025-02-18 17:43
#86
waittingsummer

请问下这个帖子里提到的1.5B模型文件可以用于ollama吗?

没有专门测试过,这个模型是在魔搭社区下载的1.5B模型,然后研发写了用于UOS AI的配置参数文件。

Reply View the author
deepin小助手
Super Moderator
OM
2025-02-18 17:51
#87

报错是什么呢?我是刚配置上,添加API的时候等了挺久,问答目前也是响应比较慢;应该是硅基流动的服务器问题了,这阵子大家全都在推它,还有薅羊毛的,deepseek自己的官网又老是繁忙,人越来越多估计也扛不住了。

Reply View the author
150******71
deepin
2025-02-20 15:03
#88

20.9的UOS AI可否实现向量化模型插件功能?

Reply View the author
注意走路摔死
deepin
2025-02-21 09:57
#89

系统天天卡死,还搞这有的没的😥

Reply View the author
刘大壵
deepin
2025-02-21 11:29
#90

7B模型在哪里下载?

Reply View the author
deepin小助手
Super Moderator
OM
2025-02-21 13:41
#91
刘大壵

7B模型在哪里下载?

可以去魔搭社区找找看,当前为了照顾主流用户(考虑较多国产平台以及老旧机器),UOS AI团队当前仅提供了1.5B模型的适配,太大模型对机器的性能要求比较高。

Reply View the author
东极冰砖
deepin
2025-02-23 09:45
#92

我印象的深度:

Deepin XP Lite V5.6

  Deepin XP SP2 Plus 增强优化版

  Win2K3_EE_0218_2IN1精简版

  掸子的N多美化主题

~~deepseek理解下的深度:~~

深度操作系统论坛(http://bbs.deepin.org)简介

  1. 定位与用户群体

    • 核心主题:围绕深度操作系统(Deepin OS)的技术讨论,包括系统安装、使用技巧、软件适配、开发支持等。
    • 用户类型:Deepin 用户、Linux 爱好者、开发者、开源贡献者。
  2. 主要版块与功能

    • 技术支持:解决安装失败、驱动兼容性、系统崩溃等问题。
    • 软件生态:讨论原生应用开发、Windows/Android 应用转制(如 Wine、UOS 兼容层)。
    • 开发交流:内核优化、桌面环境(DDE)开发、贡献代码指南。
    • 社区活动:官方更新公告、用户作品分享(壁纸、主题)、线下Meetup信息。
  3. 特色与优势

    • 官方支持:由深度科技团队直接维护,问题反馈和功能建议更直接。

    • 中文本土化:对中文用户友好,尤其适合从 Windows 迁移的新手。

    • 开源协作:积极参与者可加入开发测试,甚至影响系统功能设计。


      系统如果能集成ai 那相当OK

Reply View the author
吴忠亮
deepin
2025-02-23 20:44
#93

UOS家庭版22.0能安装UOS AI和部署DeepSeek吗?

Reply View the author
笑笑天
deepin
2025-02-25 00:27
#94
fhqiw

连接失败,请检查是否连接了互联网,或稍后再试。
image.png

deepseek-ai/DeepSeek-R1的请求地址设置为https://api.siliconflow.cn/v1/chat/completions/,而不是https://api.siliconflow.cn/v1/chat/completions(正确的请求地址最后面多个“/”)

Reply View the author
deepin小助手
Super Moderator
OM
2025-02-25 09:55
#95
笑笑天

deepseek-ai/DeepSeek-R1的请求地址设置为https://api.siliconflow.cn/v1/chat/completions/,而不是https://api.siliconflow.cn/v1/chat/completions(正确的请求地址最后面多个“/”)

image.png最后面的斜杠带不带都没有关系,都可以正常配置的;您回复的用户报错的是本地1.5B模型版本,不是在线API的;上述问题置顶评论有解决方案,一般是模型文件拷贝缺失的缘故。

Reply View the author
莫名其妙
deepin
2025-02-25 10:53
#96
135******99

方法一按步骤添加后,最后一 步没有出现deepseek-R1

路径一定要对,我刚开始也没有,后面发现"models"中间是没有空格的,改回来后选项就出来了。

Reply View the author
晚秋(lateautumn)
Moderator
2025-02-25 17:12
#97

第一次没搞明白,今天又耐着性子一步步按教程操作,成功了。yeah
image.png

Reply View the author
jimis
deepin
2025-03-02 11:19
#98

不错,本地和在线都已安装好了

Reply View the author
风吹过的绿洲
deepin
2025-03-03 00:34
#99

CPU直接拉满

Reply View the author
刘大壵
deepin
2025-03-06 16:03
#100

我下载7b的大模型,这两个文件在哪里?image.png

Reply View the author
5 / 6
To page
New Thread

Popular Events

More
国际排名
WHLUG