建议LZ换显卡，24年之后的 ROCm 不再支持 Vega 系列显卡

==

当前默认配置的话LZ的GPU根本就不支持跑大模型

=====

https://rocm.docs.amd.com/projects/radeon-ryzen/en/latest/

ROCm最新版已经不再支持 Vega 系列显卡

======

要使用GPU跑大模型可以 需要自行补丁和编译 旧版

https://github.com/ROCm/rocBLAS，

然后把编译得到的文件替换 ROCm 里面的文件

、、、、、、

PS：最简单是使用Win系统跑大模型，可以省略自行编译，用已有现成的 https://github.com/likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU/releases 直接替换即可