（无人角）科大讯飞星火 X2.5 模型正式发布：293B-A30B MoE，全国产平台训练（转）

上下文是256K

只好勉强 YaRN 着用。

至少走出来了，开始用国产卡训练了，这是个好目标，慢慢来吧，虽然DEEPSEEK也说得明明白白了，训练还用英伟达 ^-^

他家那个1.7B小模型测试了，A770 16G单卡 32K上下文，单次吞吐是70ton/s

之前小模型的上下文是 1M，大模型反而变成 256k 了？

讯飞完全没有必要搞自己的模型。

利用领域数据优势，挑一个好基模。推广ai 应用落地蛮好的。

之前美团的长猫也是说国产平台训练的，性能还凑合吧

^-^ 美团那个我试了，感觉智商不太够，不知道是不是这个原因

一个搞输入法的还做什么模型 ^-^

讯飞星火搞了很久了。一直在坚持国产平台上训练。

我记得自从讯飞星火切国产平台成功后，就再也没有什么声浪了。

瑞思拜，国产训练这个事情总有人要做。我都不敢想有多么折磨。

确实，投入大竞争也大，它的优势不在这里

美团的龙猫也是国产卡训的，万亿参数表现都一言难尽。这个300B的…

看到有说4B的幻觉严重，模型也大的很，8G+了都

这个是他的旗舰模型吗？参数量有些小了

还有个商汤的模型，佬们觉得有啥用吗？

纯粹吹呗。别说1M了，我记得大概3年前，Kimi不就是有2M了吗？当时在上下文长度这块，吊打御三家。最开始的时候给我看的一愣一愣的，那个时候还不知道捞针。