• Home
  • Categories
  • WIKI
  • LANGUAGE: en
    • [Share Experiences] deepin UOS AI 成功接入本地离线 deepseek大模型
    Experiences and Insight 1239 views · 7 replies ·
    Tofloor
    poster avatar
    刘政
    deepin
    2025-02-05 22:06
    Author

    今天成功使用ollama部署14b,7b,和1.5b deepseek模型，认真拜读了 https://bbs.deepin.org/post/274468UOS AI 接入大模型教程，也出现了前辈发现的问题。

    截图_选择区域_20250205212043.png

    截图_选择区域_20250205212111.png

    后来随手更新了一下UOS AI，立刻就可以连接离线大模型applaud

    截图_选择区域_20250205214002.png

    截图_选择区域_20250205213944.png

    感谢deepin UOS AI开发人员hi

    Reply Favorite View the author
    All Replies
    昨夜的星辰
    deepin
    2025-02-05 23:11
    #1

    👍 👍 👍

    Reply View the author
    hanzn-zzx
    deepin
    2025-02-05 23:44
    #2

    like

    Reply View the author
    lizipeng0013
    deepin
    2025-02-06 00:57
    #3

    我的电脑纯CPU只能用个1.5b模型，7b的速度太慢了，每秒才有两个字

    图片.png

    图片.png

    Reply View the author
    刘政
    deepin
    2025-02-06 08:23
    #4
    lizipeng0013：

    我的电脑纯CPU只能用个1.5b模型，7b的速度太慢了，每秒才有两个字

    图片.png

    图片.png

    电脑什么配置？

    Reply View the author
    lucksail
    deepin
    2025-02-06 08:35
    #5

    关键里面的温度和一些参数不可调啊。意义不大，比如写代码和数据分析，写文件完全不同的参数啊。

    Reply View the author
    catubibu
    deepin
    2025-02-06 09:53
    #6

    硅基流动和百度千帆都有deepseek r1/v3的api, 不用自建，用全血的。 百度现在免费，硅基有14块赠送，这是我的邀请码：https://cloud.siliconflow.cn/i/3iDPRegC

    看过一个报道，装全血版的机器有800G内存，每秒输出4个token.

    Reply View the author
    catubibu
    deepin
    2025-02-06 10:09
    #7
    lucksail：

    关键里面的温度和一些参数不可调啊。意义不大，比如写代码和数据分析，写文件完全不同的参数啊。

    用api服务和ai聚合工具如cherry studio,chatboxai之类的，参数都可以调。

    Reply View the author