deepin小助手
2025-03-06 16:25 Super Moderator
OM
刘大壵:
我下载7b的大模型,这两个文件在哪里?
如前面回复所说,当前UOS AI官方为考虑主流用户仅提供了小模型版;如果是自行下载的大模型gguf文件,可以在原有的那个config文件里面将模型名改成您自己下载的即可。请注意名称一定要匹配,另外量力而行,电脑配置不够的话不要轻易尝试大参数模型,默认参数尽量先调小一点(2048,4096逐步往上)。
Reply Like 0 View the author
DeepSeek 大模型自发布以来吸引了众多用户关注,为了让 deepin 用户更好地体验这一前沿技术,UOS AI 现已适配接入 DeepSeek-R1 端侧模型!无需忍受服务器崩溃,两步即可在本地独享DeepSeek-R1模型带来的震撼体验。
本次,我们为大家提供了「离线部署」和「在线接入」两种方式在UOS AI 中使用 DeepSeek-R1 模型,大家可根据自身设备及网络环境等情况自行选择:
UOS AI已更新至最新版本,上述两种方法均支持目前所有系统版本:UOS V20、deepin20.9、deepin23、deepin25 Preview。
方法一:UOS AI 离线部署DeepSeek-R1 1.5B 模型
Step 1:更新 UOS AI 及向量化模型插件
首先请打开应用商店,检查更新 UOS AI 至最新版。
更新完成后,打开 UOS AI 的「设置」选项,在「模型配置-本地模型」中选择「向量化模型插件-安装/更新」,在自动跳转到应用商店界面后,点击安装/更新即可。
Step 2:安装 DeepSeek-R1 1.5B模型
待第一步「向量化模型插件」安装/更新成功之后,前往UOS AI 设置──本地模型,点击安装DeepSeek-R1-1.5B模型即可。
经过上述步骤安装完成向量化模型及DeepSeek-R1-1.5B模型后,再次打开 UOS AI 界面,即可手动切换使用 DeepSeek-R1-1.5B 模型。
以下是一个简单的DeepSeek-R1 运行示例:
方法二:UOS AI 在线接入 DeepSeek-R1 API
Step 1:获取 API key
访问 DeepSeek 官网(https://www.deepseek.com/),注册/登录账号后,创建并获取API key。若由于服务器压力等问题无法访问以上页面,也可以访问其他渠道获取 API key。
本文将以硅基流动(https://siliconflow.cn/zh-cn/)为例,在注册/登录账号后,前往 API 密钥管理页面,创建并获取 API key。
Step 2:在 UOS AI 中接入 DeepSeek-R1 在线模型
打开 UOS AI 的「设置」选项,在「模型配置」中选择「在线模型-添加」,进入UOS AI的添加模型界面。
完成添加窗口中的内容填写,并点击确定即可,本例中使用到的信息参考如下:
填写完毕并提交确认后,即可在UOS AI中选择 DeepSeek-R1 模型进行使用。
理论上只要你在硅基流动账户中的余额够用,其模型仓库的所有模型都可以通过上述方法在UOS AI中配置调用,只需在上述配置方法中的模型名处填写对应的完整模型名称即可(如上图所示),其它不变。
需要注意的是,在线大模型受网络及用户访问量影响,偶尔可能会出现访问慢、超时或无法访问的情况,建议多次尝试即可。
在线模型由于当前适配问题,DeepSeek深度思考的内容与对话内容尚未分开,但这并不影响正常使用,UOS AI 团队会在后续更新中尽快优化体验。
最后感谢社区用户「陈正勇」提供的在线配置参考~大家在体验过程中有任何建议或问题,欢迎在评论区留言,或前往deepin社区论坛讨论交流,优质反馈将有机会获得deepin官方周边礼品噢!