OpenAI研发出了一种将推理成本降低一半的新方法?

Rice R. Rug 2026-06-30 22:18 1

OpenAI研发出了一种将推理成本降低一半的新方法。

据The Information,一位知情人士透露,本月早些时候,OpenAI工程师向部分同事表示,依托几项全新研发的优化技术,他们找到了一套方案,能将模型推理成本削减一半以上。工程师将这套新技术应用于没有免费或付费帐户的访客使用ChatGPT的场景后,一度把所需英伟达图形处理器(GPU)数量压至仅数百个。


最新回复 (19)
  • pie z 06-30 22:20
    1


    何意味了,那信源呢,推理成本降低一半,就GPT那个推理能力,那不是无敌了

  • Hifumi Mizuhara 06-30 22:20
    2

    啊,就这一句话?


    信源呢,这么草率吗

  • 🐟 06-30 22:20
    3

    信源请求,不然就是视为直接降智以降低成本

  • 翰林文苑 06-30 22:20
    4

    新方法:降智

    这样就不止降低一半了。

  • XTer 06-30 22:20
    5

    笑死了,不至于是516降智截断思考吧

  • 路人A 06-30 22:20
    6

    非常好的快讯,使我的AI旋转,这下不得不知道了


    我翻了下原文的内文也是这么简短 ^-^

  • chen 06-30 22:21
    7

    还不如快点出5.6呢,5.5都笨死了

  • Hifumi Mizuhara 06-30 22:21
    8

    新方法?


    旧方法!


    死灰复燃,朝花夕拾,旧事重提,如火如荼 ^-^

  • SugarBreeze 06-30 22:21
    9

    这个我会,只需要 juice /= 2

  • 马凌曙 06-30 22:21
    10

    OpenAI研发出了一种将推理成本降低一半的新方法。



    注:原文如此。



    只能说玩金融玩的

  • 马失前蹄 06-30 22:22
    11

    是不是再说之前新闻奥特曼手捧的那个新芯片? ^-^

  • sxjeru 06-30 22:23
    12

    原来信源要付费,难怪只有个标题。


    大概率就是前几天提到的自研推理芯片。


    https://www.theinformation.com/newsletters/ai-agenda/openai-discovers-new-way-cut-inference-costs-half


  • 点点点…点娘! 06-30 22:23
    13

    旧闻烂炒

  • 3qu 06-30 22:24
    14

    OpenAI研发出了一种将推理成本降低一半的新方法。





    这个看起来完整些?是同一个新闻吗

  • Rice R. Rug 楼主 06-30 22:43
    15

    就是这个,the information的信源。

    怪不得最近框框重置,还送次数

  • Nasavoyager 06-30 22:45
    16

    不能具体说是什么技术和细节逻辑,默认就是降智

  • SKT.Shinyruo 06-30 22:46
    17

    找到了!找到了!新方法是516截断

  • MIKU 06-30 22:46
    18

    只能说现在OpenAI还没上市,做空老黄是吧 ^-^

  • xiaoxin095791 06-30 22:49
    19

    5H额度就够问两句话,任务执行一半不到就没了,你告诉我推理成本降一半?合着5个小时就干一件事,我们的企业家没这么善良,这个降本方案不符合国情,继续改

* 帖子来源Linux.do
返回