一小时80亿词元,这哥们是没有常识吗?

𝓕-𝓓𝓻𝓸𝓲𝓭 2026-10-26 12:50 1



我之前一个星期干了HUB站一百亿tokens,人都干得有点腰酸背疼了。各位佬友们说说一小时八十亿怎么可能?

最新回复 (19)
  • mirror喵ovo 10-26 12:51
    1楼


    加一个 词元与计算机之王

  • Qukiaa 10-26 12:52
    2楼

    可能人开的Openrouter ^-^

  • BLUEMOON 10-26 12:52
    3楼

    e是什么单位 ^-^难道不是8B吗?

  • mirror喵ovo 10-26 12:55
    4楼

    E = 10¹⁸,词头是exa代表百万万亿。^-^

  • soo 10-26 12:55
    5楼

    80亿÷3600=2,222,222token/s 世界无敌啊 ^-^

  • today 10-26 12:56
    6楼

    一个小时 80 亿太牛逼了吧哈哈哈

  • sryhy 10-26 12:56
    7楼

    这种小红书嘉豪,你看到了,留意了,还花时间截图转发到社区,你已经输了

  • 爱吃番茄 10-26 12:56
    8楼

    理论上来说,开两万个服务器,每个服务器tps达到100,就行了。

  • 𝓕-𝓓𝓻𝓸𝓲𝓭 楼主 10-26 12:58
    9楼

    如果是真的话,先顶不住的是荷包而不是并发

  • 疯狂麦克斯 10-26 12:58
    10楼

    我两个并发ds4.1f一下午也就不到0.1B

  • 夕Azir 10-26 12:59
    11楼

    这贴昨天晚上看到过((



    我只是个普通程序员,我感觉一个月正常工作加普通TPS下来几十上百亿都是正常的,毕竟ai的回答还要带点review后的思考判断下可行性的。然后有人说胡彦斌说自己一个半月52亿token不多,我回复了一句,人家还要赶通告,又不是全职写,52亿还算可以了,结果有个人回复我他一个小时就能耗80亿。有么有大神帮我解惑下这个可行性。
    [1000054207.jpg]




    300tps的dsV4.1得并发7500个才有他这使用量

  • chongyang 10-26 13:00
    12楼



    我努力一年也不抵天才随意的几个小时吗 ^-^

  • 黑神话·悟空 10-26 13:00
    13楼

    我加上缓存1小时都才千万token还是最巅峰的时候,平时一个小时就是几百万的token。好奇怎么踩出来的。

  • iMoonway 10-26 13:01
    14楼

    万一是人家 key 被盗了,放其他站被刷了呢?^-^

  • roiding 10-26 13:01
    15楼

    那也不至于吧,一下午不到0.1B。


    上下文拉满,并发拉起来,一小时1b我觉得有可能,更多单人真难办到吧。


    再大我觉得他像O​^-^一样在攻克数学题了

  • EverScape 10-26 13:03
    16楼

    他如果是个美少女的话那我就信了,是个男的肯定不可能

  • 𝓕-𝓓𝓻𝓸𝓲𝓭 楼主 10-26 13:04
    17楼

    DSH最大的缺点就是太省token了,我是比较过,用浏览器拓展使用Token的速度要快得多,上下文不怎么清理,确实消耗得快

  • Sycamore 10-26 13:06
    18楼

    一天拉满各种搞ui还是在用ds的情况下,三个会话同时搞我最极限一次才用了1.8b,晚上7点起床开始到23点躺下

  • 林语尘 10-26 13:07
    19楼

    天网大人要觉醒了 ^-^


* 帖子来源Linux.do
返回