你这个在线模型貌似就只有默认的“智能调度”,你可以先添加几个别的模型,再切换




你这个在线模型貌似就只有默认的“智能调度”,你可以先添加几个别的模型,再切换
所谓的“智能调度”,其实就是UOS自己提供的一个远程大语言模型推理服务,它提供了一定的免费额度,用完了,就没有了,好像也没有提供充值链接。这个“智能调度”,我感觉就是个令人误解的名词(还以为小U在多种模型之间智能切换调度),把它改为“LLM推广(token额度有限)”,还本质一些。
所谓的“智能调度”,其实就是UOS自己提供的一个远程大语言模型推理服务,它提供了一定的免费额度,用完了,就没有了,好像也没有提供充值链接。这个“智能调度”,我感觉就是个令人误解的名词(还以为小U在多种模型之间智能切换调度),把它改为“LLM推广(token额度有限)”,还本质一些。
智能调度背后其实我们想做一些【调度】工作,背后可能不止一个模型,比如可能有大语言模型、也有视频模型、音频模型、图像模型等。 比如我们配置deepseek模型,因为DS不是多模态模型,并不支持图片。 所以上传一张图片让它处理的话,智能调度就会自己去调用图像模型识别文字内容后,再调度ds去处理解析完成后的内容。
不过目前还在初步阶段哈,后续可以调度的模型类型会逐渐增加,调度的智能化也会持续优化。
智能调度背后其实我们想做一些【调度】工作,背后可能不止一个模型,比如可能有大语言模型、也有视频模型、音频模型、图像模型等。 比如我们配置deepseek模型,因为DS不是多模态模型,并不支持图片。 所以上传一张图片让它处理的话,智能调度就会自己去调用图像模型识别文字内容后,再调度ds去处理解析完成后的内容。
不过目前还在初步阶段哈,后续可以调度的模型类型会逐渐增加,调度的智能化也会持续优化。
这样倒是能讲得通。只是这个token,消耗可不是哦
Popular Ranking
ChangePopular Events
More