Hermes Agent 在很多 provider 里 TTFT 高达 1-2 分钟，没法用了

ingramyang 2026-08-12 10:11 1

Hermes Agent 没法玩了。不知道是每次都动态拼前缀的原因，还是大模型 provider 没有路由到同一缓存 provider 的原因，prefill 前缀疑似每次都要重新计算，导致在 Hermes 普遍首轮对话要注入 23K 左右上下文的情况下，OpenCode Go / 千问云 / OpenRouter 每一轮的 TTFT 都高达 60-100s ，只有火山引擎不知道通过什么魔法（可能是预热甚至多租户隔离？）优化到了 10s 甚至 5s 内。没办法，卸了不玩了。
开源的东西再好，终究比不过商业化和中心化的玩法，唉。

最新回复 (4)

ingramyang 楼主 08-12 10:34

1楼

各位在使用过程中有发现这个现象么，真的痛苦死了，不想去用各家闭源生态的桌面 agent 。
bitmin 08-12 11:22

2楼

看不懂，不过我用 Hermes Agent OpenCode Go deepseek-v4-flash latency 大多时候都在 10s 内。我是丢在服务器上的
ingramyang 楼主 08-12 11:43

3楼

@bitmin 感谢回复。我的也在服务器上，阿里云的服务器。但是基本上很多情况下 latency 会到 100s+
ingramyang 楼主 08-12 14:03

4楼

经过排查是服务器开启了 ipv6 但是 ipv6 没有开通连通公网的问题😒此贴终结

* 帖子来源V2EX

附近帖子

↑后端开发工程师（ Python 方向｜全职居家远程）初级和高级
↑感觉 AI 大模型最终归宿不是软件开发而是机器人
↑换运营商云服务器好吗？
↑动态 IP/静态 ISP 优惠放送！💎动态流量免费领💎静态 ISP 新用户五折不限流量
↑想在中秋节的时候去呼伦贝尔玩 7 天，站友有什么推荐的行程吗？
📍 Hermes Agent 在很多 provider 里 TTFT 高达 1-2 分钟，没法用了
↓8.12 日全食，看不到咋办？用 3D 模拟一个！
↓无限空间画布工具
↓在国内有哪些风险相对比较低、收益相对比较高的理财方式？
↓[蹭蹭热度] 观 " v 友退缩" 所想
↓AI 多人协作的时候遇到的一些“问题”