当桌面系统加入AI大模型，内存条真的要扩展到32GB吗？- Community

蔡EEPIN

deepin

2024-04-19 20:14

#1

AI大模型用的是显卡吧

Reply Like 0 View the author

凡

deepin

2024-04-19 20:24

#2

蔡EEPIN：

AI大模型用的是显卡吧

AI显卡，确实会用到。

Reply Like 1 View the author

璀璨星空

deepin

2024-04-19 21:40

#3

看过一个说法16G那个时候就只是个入门机配置，32G才能流畅用，64G才是能够很顺畅的用ai，不知是真是假

Reply Like 0 View the author

安洛

deepin

2024-04-19 22:59

#4

Windows的AI大模型？是指copilot吗？那东西是联网的吧，运算根本不在本地，也不会占用什么内存啊。UOS AI也是联网AI的方案。运行这些东西没什么配置要求。

现有的个人电脑算力没几个能支撑本地运行可用的AI大模型的，内存在这其中甚至算是比较符合要求的了。CPU等计算单元的问题比内存大多了，等运算单元提升上来了内存早就迭代了。

AI大模型也有不那么消耗资源的版本，但那样效果就会差了。毕竟不能又要马儿跑，又要马儿不吃草。

Reply Like 1 View the author

凡

deepin

2024-04-19 23:39

#5

璀璨星空：

看过一个说法16G那个时候就只是个入门机配置，32G才能流畅用，64G才是能够很顺畅的用ai，不知是真是假

现在Windows11推荐是选32GB运行内存。

Reply Like 0 View the author

凡

deepin

2024-04-19 23:39

#6

安洛：

Windows的AI大模型？是指copilot吗？那东西是联网的吧，运算根本不在本地，也不会占用什么内存啊。UOS AI也是联网AI的方案。运行这些东西没什么配置要求。

现有的个人电脑算力没几个能支撑本地运行可用的AI大模型的，内存在这其中甚至算是比较符合要求的了。CPU等计算单元的问题比内存大多了，等运算单元提升上来了内存早就迭代了。

AI大模型也有不那么消耗资源的版本，但那样效果就会差了。毕竟不能又要马儿跑，又要马儿不吃草。

如果是云端，16GB不知道够不够用。

Reply Like 0 View the author

Lwh2008-Equinox

deepin

2024-04-20 15:12

#7

安洛：

Windows的AI大模型？是指copilot吗？那东西是联网的吧，运算根本不在本地，也不会占用什么内存啊。UOS AI也是联网AI的方案。运行这些东西没什么配置要求。

现有的个人电脑算力没几个能支撑本地运行可用的AI大模型的，内存在这其中甚至算是比较符合要求的了。CPU等计算单元的问题比内存大多了，等运算单元提升上来了内存早就迭代了。

AI大模型也有不那么消耗资源的版本，但那样效果就会差了。毕竟不能又要马儿跑，又要马儿不吃草。

本地。。。llama3好像也不是不可以。。。虽然说本地好麻烦的嘞，深刻怀疑是Windows为自己越来越臃肿找的理由

Reply Like 0 View the author

安洛

deepin

2024-04-20 20:59

#8

Lwh2008-Equinox：

本地。。。llama3好像也不是不可以。。。虽然说本地好麻烦的嘞，深刻怀疑是Windows为自己越来越臃肿找的理由

llama3 70b的版本毫无疑问会爆掉任何消费级计算设备。哪怕是最低的8b版本，最新的消费级cpu跑起来也只有不到1 token/s的输出速度，会爆掉大部分消费级GPU的显存，效果还被随便一个免费的联网llm暴打。

Reply Like 0 View the author

把一切操作变成GUI

deepin

Backbone of ecological co-construction group

2024-04-21 07:23

#9

MacBook好像准备配置本地ai模型，配合新处理器的，不知道到时候他得配多少内存😂

Reply Like 0 View the author

凡

deepin

2024-04-21 17:12

#10

把一切操作变成GUI：

MacBook好像准备配置本地ai模型，配合新处理器的，不知道到时候他得配多少内存😂

MacBook，现在如果加入AI大模型，最少也得16GB。

低配版的8GB运行内存，以后要搞订阅版。

Reply Like 0 View the author