2. NodeSeek
  3. sub2api 我的首token算啥程度

sub2api 我的首token算啥程度

lzd 2026-07-03 13:53 1


直接用的dmit部署的


我机器-> dmit -> oai


这个首token是不是算很慢，每次都感觉一个任务都要 好几分钟才完成


不知道是我中转慢的问题，还是context过大导致慢

最新回复 (7)
  • vico 07-03 13:55
    1楼

    是很慢了，一般都是 3s 内吧

  • JiaZaiWanBi 07-03 13:56
    2楼

    慢爆了

  • lzd 楼主 07-03 14:08
    3楼

    @vico #1 我图里avg平均值其实也是2833ms


    但是会有部分很慢的 首token要上10s的

  • vico 07-03 14:09
    4楼

    @lzd #3

    基本上 4-5s 以上就感觉很慢了

  • lyy0709 07-03 14:10
    5楼



    这是我的

  • lzd 楼主 07-03 14:25
    6楼

    @lyy0709 #5 佬，你的体感是不是也很慢哟？

  • lyy0709 07-03 14:35
    7楼

    @lzd #6 还行吧，plus平均2-3秒，超长文本会久一点

* 帖子来源NodeSeek
附近帖子
返回
飞读
随机推荐