【喵喵公益站】新增网关处理空回复等功能

站点：https://new-api.rugao.me
共享渠道：渠道共享
加入映射了，可能要重新配置

增加了灰度测试（先插入了50个key进行测试），参考大佬叫我小杨同学的帖子，增加了英伟达网关

网关功能：

1. 
   

   把 NVIDIA Key 统一接到一个网关里

   
   
   
   
   • 50 个 NVIDIA Key 不再直接分散在 New API 渠道里跑。
   
   
   • 现在通过渠道 英伟达网关灰度 走 nvidia-api-gateway。
   
   
   • New API 只看到一个灰度渠道，后面由网关负责调度这些 NVIDIA Key。
   
   
   
   


2. 
   

   降低单 Key 并发，减少空回复/卡死概率

   
   
   
   
   • 单 Key 并发降到 1。
   
   
   • 关闭代理池，直接用当前香港服务器连 NVIDIA。
   
   
   • 保留重试机制：失败会换 Key/重试，避免某个 Key 或某次上游异常直接把请求打死。
   
   
   
   


3. 
   

   拉长等待时间，适配慢模型

   
   
   
   
   • 请求超时、流式空闲超时都拉长到 1800 秒。
   
   
   • 首包等待是 45 秒。
   
   
   • New API 和 Nginx 也配了更长的流式超时，减少 client_gone。
   
   
   
   

来几个大佬进行测试一下吧，有啥问题提出来，我这边在进行修改