cpa首字延迟巨高

testG 2026-06-29 14:29 1



如图,延迟高的是使用的接口/v1/responses ,延迟低的是使用的/v1/chat/completions ,但是有时候response的延迟又会正常一下,我是cpa加newapi的方式,我的rpm只有1,应该不用开cpa的商业模式吧?我cpa也没设置什么奇怪的设置,反代的是我的plus账号,一个接到聊天软件问东西,另一个使用codex,有没有佬有这种情况解决了的

ps:cpa在美国那台机器上

最新回复 (11)
  • Quintus1 06-29 14:31
    1

    网络不行,给cpa挂个代理试试,或者开ws连接。基本就是你网络的问题,设置什么都没用,你可以让ai拉个日志分析一下

  • testG 楼主 06-29 14:37
    2



    我的延迟是这样的,cpa那台机器在美国,这延迟也不算高吧佬 ^-^

  • testG 楼主 06-29 14:38
    3

    这个是我newapi的地址ping那台cpa的延迟

  • cc 06-29 14:49
    4

    普通线路机是这样的。我用的dmit三网优化线路中转,hostdzire部署sub2api,首字1s左右

  • Quintus1 06-29 15:26
    5

    cpa地址 ping一下chatgpt.com试一下。反正肯定的网络的问题,自己找找是哪个链路延迟太高了

  • YaLei Li 06-29 15:29
    6

    我部署在hf上的,首字基本都是1秒内,很少超过2秒的。

  • testG 楼主 06-29 15:31
    7



    这是ping的延迟,应该也不是这个的问题吧 ^-^

  • wangms 06-29 15:42
    8


    硅谷的小鸡, 很快、很爽

  • efls 06-29 16:00
    9

    可以尝试打开websockets,supports_websockets = true


    [model_providers.OpenAI]

    name = “OpenAI”

    base_url = “api地址”

    wire_api = “responses”

    supports_websockets = true

  • faithererer 06-29 16:15
    10

    我的链路是 ->美国->德国->openai 首字也才一两秒,看看丢包率怎么样

  • NorthArc 07-02 13:31
    11

    佬 买的哪家的啊 价格是咋样一个月

* 帖子来源Linux.do
返回