为什么不同中转站速度差这么大

Monkeypox 2026-08-20 21:26 1

因为项目需要,试了很多中转站。发现同一个模型(gpt luna,应该不太会掺水),不太中转站速度差剧非常大,有的首字延迟就几秒,有的一分钟还没蹦出个字。问问大家ai的首字延迟和什么有关,为什么不同中转站差这么大。是不是官方订阅速度最快?

最新回复 (4)
  • contrails 08-20 21:29
    1

    路线有关系,负载也有关系,从你发出消息到首字中间有很多影响因素

  • hoofei 08-20 21:43
    2

    中间商不要赚点差价?中间商赚差价要不要计费?官方要计费,源头供应商要再计一次费,二手贩子再计一次费,三手中转站再计一次费。每层计费不都要损耗你几十上百ms?再加上源头服务在美国,二手贩子服务器在日本,三手中转站服务器在新加坡……

  • 骑猪看月亮 08-20 22:12
    3

    慢的那种可能都已经到你手上已经被转发了好几次了

  • 落魄 08-20 22:39
    4

    路线问题比较大

* 帖子来源NodeSeek
返回