快被海光的K100折磨疯了

很简单啊用起来，先装dtk驱动，驱动装完了随便跑个gpustack之类的模型一配置不就好了

他们模型适配有限，很多新模型用不了。升级最新驱动才能跑千问3.5。而且好像千问的asr好像也跑不了 ^-^

我已经和gpustack的那个厂家沟通过很多次了，他们家对DTK的适配还是不太好，最新的2.1.2还是有点问题。

我还帮他们采集了好多日志

公司付费出人帮海光测试？我之前发的那个帖子问国产GPU选哪家，是不是佬告诉我不要买海光的呀 ^-^

好像是我刚刚回复的：（

其实主要是因为我们做的这个内容要求必须脱网，所以还没有办法让厂商的人来弄，只能是我复制log给他们

我也是，这种卡只有to G才刚需，全tmd是涉密或者敏感数据，必须局域网。还必须国产信创。

我那个智凯100 32G x2 跑vllm，awq int4量化，prefill挺快，但是输出只有16t/s，领导让满足多人agent使用，我无力了。 ^-^