2. Linux.do
  3. （英伟达已确认）SemiAnalysis：GPT 6.1 Sol 的 Ultrafast 并不是在Cerebras芯片上跑的

（英伟达已确认）SemiAnalysis：GPT 6.1 Sol 的 Ultrafast 并不是在Cerebras芯片上跑的

lueluelue 2026-09-30 08:25 1

SemiAnalysis：GPT 6.1 Sol 的 Ultrafast 并不是在Cerebras芯片上跑的


Fuck OpenAI，不是Cerebras你叫鸡毛的Ultrafast

最新回复 (13)
  • 爱因斯坦·尼古拉 09-30 08:26
    1楼

    所以说 OpenAI 还是离不开英伟达的 GPU。（其实，我挺喜欢 Cerebras 的高速的，Cerebras 的大芯片看起来真漂亮）


    Cerebras 能够跑出远超 NVIDIA 的芯片的超高速的前提是，模型参数要尽可能全部放到它的片上缓存中，但是它的片上缓存只有 40GB 左右。模型一大，就要把模型分层切开，放在不同芯片上，这就需要芯片间的互联来通信了。


    但是芯片间的通信，Cerebras 的技术又远不如于 NVIDIA，NVIDIA 在通信方面已经积累了很多技术储备了。


    目前运行动辄几 T 的超大参数规模 LLM，NVIDIA 的芯片还是绕不开的。


    除非，Cerebras 非常便宜，远比现在狮子大开口的 NVIDIA 更便宜，便宜到愿意让各家公司用更多的芯片来取替 NVIDIA。否则 NVIDIA 还是现在跑超大参数的 LLM 的综合成本最低的选择。


    目前 OpenAI 会公开说使用 Cerebras 的芯片，更像是和 NVIDIA 议价的筹码，迫使 NVIDIA 用更便宜的折扣卖芯片给 OpenAI。


    根据 Deepseek 内部泄露的录音来看，国外 SOTA 模型公司的激活参数已经到了 800B 的程度。这么大的激活参数也只能运行在 NVIDIA 芯片上。而国内模型厂因为芯片受到限制，激活参数一般都在几十 B，国内激活参数量最大的开源模型是Kimi K3，为104B(所以Kimi K3也是国内最贵的模型之一了)。所以在物理上就有点困难了，模型在激活参数方面具有劣势，只能希望国内GPU公司加把劲。

  • 指挥官Alzar 09-30 08:33
    2楼

    难怪在devday的时候 山姆奥特曼压根没有提议cerebras

  • lueluelue 楼主 09-30 08:35
    3楼

    不知道cerebras芯片能高速跑多大的模型，他们cs 4发布的时候甚至都没测kimi k3

  • 🐟 09-30 08:38
    4楼



    好像单芯片就 44 GB……

  • DR.Cat 09-30 08:39
    5楼

    确实 超大die不管是生产还是放到集群中都太有难度了 这就限制了单芯片大小了

  • 爱因斯坦·尼古拉 09-30 08:41
    6楼


    目前，Cerebras 官方跑的公开模型就只有这两个，其中 GPT OSS 120B 这个模型的激活参数就只有 5.1B。


    稠密模型 Qwen 3.8 27B 模型的激活参数也是 27B。


    一旦单个芯片放不下全部激活参数的话，需要片间通信，Cerebras 的芯片的速度就会大打折扣，甚至比不过 NVIDIA 最新的推理服务器了。

  • lueluelue 楼主 09-30 08:43
    7楼

    这个能跑多大的模型呀？没概念呢

  • lueluelue 楼主 09-30 08:45
    8楼

    Cerebras倒是这么宣传的



  • 🐟 09-30 08:46
    9楼

    44B INT4 参数差不多就要占据 44G 的空间……


    但是现在常见的应该是fp8说是（ Deepseek开的头也许是，不过NV那边也有推 NVFP4

  • lueluelue 楼主 09-30 09:00
    10楼

    那感觉它多芯片之间通信还是挺强的^-^

  • 彼方 09-30 16:46
    11楼

    激活参数 800b ？绝不可能，至少不可能是gpt 5.6 sol。cerebras cs-4 的宣传物料可以推算出 5.6 sol 的激活参数在 48~50b 之间

  • lueluelue 楼主 09-30 21:42
    12楼

    是啊，800b的模型也不可能提供的起api吧^-^

  • lueluelue 楼主 10-03 04:17
    13楼



    英伟达认领了，cerebras要完了吗

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐