TL;DR
首字延迟中位数 1.23 s→208 ms(↓ 83%)

TPS 中位数 13.2→19.8 tokens/s(↑ 49%)

完整版
之前一直用一个 Vircs 家宽节点部署 CPA 反代 Codex(美区 iOS 内购 Pro 20x 账号),最近几天速度慢的出奇,上下文稍微长一点 TPS 就只有个位数。如下图所示,输入 100K 左右,缓存率正常,TPS 极低

我最开始怀疑是否账号被风控了,于是换了一个账号(土区 iOS 内购 PLUS 账号),发现生成速度没有任何好转。如下图,同样输入 100K 左右,缓存率正常,TPS 和上一个 Pro 20x 账号如出一辙

最后我尝试换了一下 IP,在 CPA 上把代理设置成了一个搬瓦工洛杉矶节点,没有重启 CPA、没有重登账号,但是 TPS 立马就变高了。如下图,同样输入 100K 左右,大部分请求 TPS 来到了20+、30+,偶尔还能达到 40+。另外可以观察到,切换 IP 过后不仅仅是 TPS 增加,首字延迟也得到了优化,切换 IP 之前首字延迟 1~3s,切换 IP 过后首字延迟均 <1s,很多时候是 100~200ms.

我来回切换了几次 CPA 的出口 IP,该结论可复现。 虽然 20~30 的 TPS 仍然不算很快,但是比个位数的体验好了不少。
对于这个现象我有两个猜测:
猜测1:OpenAI 风控 IP,对于特定 IP 执行限速策略。
猜测2:OpenAI 根据 IP 路由资源池,旧 IP 路由到的资源池算力紧张。
当然以上两个猜测没有任何根据,纯属娱乐。
最后,被 Codex 龟速困扰的佬友们如果有多余的 IP,可以尝试切换 IP,说不定有奇效呢 ^-^
提醒:更换 IP 会增加账号风控、封号风险,有顾虑的佬友自行权衡