[deepin exploration] deepin UOS AI无缝接入 DeepSeek-R1 模型!离线、在线都支持!
Tofloor
poster avatar
deepin小助手
Super Moderator
OM
2025-02-07 18:10
Author

image.png

DeepSeek 大模型自发布以来吸引了众多用户关注,为了让 deepin 用户更好地体验这一前沿技术,UOS AI 现已适配接入 DeepSeek-R1 端侧模型!无需忍受服务器崩溃,两步即可在本地独享DeepSeek-R1模型带来的震撼体验。

本次,我们为大家提供了「离线部署」和「在线接入」两种方式在UOS AI 中使用 DeepSeek-R1 模型,大家可根据自身设备及网络环境等情况自行选择:

  • 方法一:使用官方适配的 UOS AI DeepSeek-R1 1.5B 模型离线部署
  • 方法二:使用 UOS AI的自定义模型接口在线接入DeepSeek-R1 API

UOS AI已更新至最新版本,上述两种方法均支持目前所有系统版本:UOS V20、deepin20.9、deepin23、deepin25 Preview。

方法一:UOS AI 离线部署DeepSeek-R1 1.5B 模型

Step 1:更新 UOS AI 及向量化模型插件

首先请打开应用商店,检查更新 UOS AI 至最新版。image.png

注:若您是首次在 deepin 中下载使用 UOS AI,根据界面提示「勾选用户使用协议-免费领取试用账号」后即可直接进入 UOS AI 全新版本。

更新完成后,打开 UOS AI 的「设置」选项,在「模型配置-本地模型」中选择「向量化模型插件-安装/更新」,在自动跳转到应用商店界面后,点击安装/更新即可。

微信图片_2025-03-17_173207_727.png

Step 2:安装 DeepSeek-R1 1.5B模型

待第一步「向量化模型插件」安装/更新成功之后,前往UOS AI 设置──本地模型,点击安装DeepSeek-R1-1.5B模型即可。

微信图片_2025-03-17_173502_896.png

经过上述步骤安装完成向量化模型及DeepSeek-R1-1.5B模型后,再次打开 UOS AI 界面,即可手动切换使用 DeepSeek-R1-1.5B 模型。

image (3).png

以下是一个简单的DeepSeek-R1 运行示例:

image.gif

方法二:UOS AI 在线接入 DeepSeek-R1 API

Step 1:获取 API key

访问 DeepSeek 官网(https://www.deepseek.com/),注册/登录账号后,创建并获取API key。若由于服务器压力等问题无法访问以上页面,也可以访问其他渠道获取 API key。

image (4).png

本文将以硅基流动(https://siliconflow.cn/zh-cn/)为例,在注册/登录账号后,前往 API 密钥管理页面,创建并获取 API key。

image (5).png

Step 2:在 UOS AI 中接入 DeepSeek-R1 在线模型

打开 UOS AI 的「设置」选项,在「模型配置」中选择「在线模型-添加」,进入UOS AI的添加模型界面。

image (6).png

完成添加窗口中的内容填写,并点击确定即可,本例中使用到的信息参考如下:

账号名称:自定义
模型类型:自定义
API Key:粘贴 Step 1中所复制的 API 密钥
模型名:deepseek-ai/DeepSeek-R1
请求地址:https://api.siliconflow.cn/v1/chat/completions

截图_选择区域_20250207175641.png

填写完毕并提交确认后,即可在UOS AI中选择 DeepSeek-R1 模型进行使用。

截图_uos-ai-assistant_20250207174950.png

理论上只要你在硅基流动账户中的余额够用,其模型仓库的所有模型都可以通过上述方法在UOS AI中配置调用,只需在上述配置方法中的模型名处填写对应的完整模型名称即可(如上图所示),其它不变。

截图_选择区域_20250207142123.png

需要注意的是,在线大模型受网络及用户访问量影响,偶尔可能会出现访问慢、超时或无法访问的情况,建议多次尝试即可。

在线模型由于当前适配问题,DeepSeek深度思考的内容与对话内容尚未分开,但这并不影响正常使用,UOS AI 团队会在后续更新中尽快优化体验。

最后感谢社区用户「陈正勇」提供的在线配置参考~大家在体验过程中有任何建议或问题,欢迎在评论区留言,或前往deepin社区论坛讨论交流,优质反馈将有机会获得deepin官方周边礼品噢!

以用为本.png

Reply Favorite View the author
All Replies
6 / 6
To page
deepin小助手
Super Moderator
OM
2025-03-06 16:25
#101
刘大壵

我下载7b的大模型,这两个文件在哪里?image.png

如前面回复所说,当前UOS AI官方为考虑主流用户仅提供了小模型版;如果是自行下载的大模型gguf文件,可以在原有的那个config文件里面将模型名改成您自己下载的即可。请注意名称一定要匹配,另外量力而行,电脑配置不够的话不要轻易尝试大参数模型,默认参数尽量先调小一点(2048,4096逐步往上)。

image.png

Reply View the author
陈涛
deepin
2025-03-16 08:02
#102

楼主及各位大神,求助,如何解压gguf?我下载了模型,不知道怎么解压

Reply View the author
6 / 6
To page
New Thread

Popular Ranking

Change

Popular Events

More
国际排名
WHLUG