最近用千问-3.8 Flash开发超级Turnip(Mesa3D)项目和treeland的Vulkan后端,输入法修复,以及修复treeland的诸多问题,进展都相对顺利,而且用的AI价格开销很低(因为是Flash小模型),所以我在这分享一下以给treeland完善Vulkan后端为例,浅薄地聊聊我是如何用小参数模型进行开发的

Flash"小"模型跟OpenAI GPT和A\的大模型,在我这里没有体验出太大的逻辑推理差异,主要是在预置的"知识库"多少上有差异,比如用GPT-5.6 Sol开发时,你直接问"这个实现是否遵守Vulkan协议"它就会直接思考后回答你,而且一般不会出问题,因为这样的模型参数非常大,对于Vulkan开发这样的场景已经完全训练了进去,所以可以"张口就来"

但是小参数模型不一定行,如果是过于冷门的Vulkan标准或Qt的一些函数调用就会因为没有训练过而出现幻觉(也就是这个对于小模型来说是个新的问题),这时候就需要你完全喂入所有源码,并在对话的时候明确说明"必须以本地源码库为准",并告诉它Vulkan文档(Vulkan-Docs)和Qt,DTK本体的源码在哪里,让它直接去对着源码翻而不是靠自己的"知识库"思考问题,这样它的幻觉会降到最低,很难出现"答非所问"的问题

总之给AI的源码和文档手册,能给的一定全都给,让Flash模型几乎不需要自己的知识库去解答,这样的话能最大化发挥Flash模型的推理潜力