最近在研究 Hermes Agent ,准备把它作为一个多用户应用的 Agent runtime ,想请教一下熟悉 Hermes / MCP / Agent 架构的朋友。
我的需求比较简单:
多个用户使用同一套 AI 能力,例如:
相同的 system prompt
相同的模型
公共 Skills
公共 MCP
Web Search
公共知识库
但是每个用户必须拥有独立的:
conversation/session
long-term memory
user profile/preferences
reminders / cron jobs
private data
MCP credentials / permissions
例如:
Hermes
│
┌───────┼───────┐
▼ ▼ ▼
User A User B User C
我目前主要纠结两个方案。
方案一:多个用户共享一个 Hermes instance
通过:
user_id
session_key
来区分用户。
例如:
user:10001
user:10002
user:10003
Hermes 本身负责:
reasoning
skills
MCP
tool calling
用户相关的数据则由应用层隔离。
这种方式看起来最合理,也方便以后横向扩展。
但我比较担心 Hermes 内部的一些状态,例如:
USER.md
memory
session
cron
MCP context
是否完全适合 multi-tenant 环境。
例如 User A 告诉 Agent:
我叫张三,我住上海。
有没有可能由于 memory / context 设计问题,后面 User B 的 context 中出现 User A 的信息?
方案二:每个用户一个 Hermes Profile
User A → Hermes Profile A
User B → Hermes Profile B
User C → Hermes Profile C
隔离肯定更简单。
但是如果未来有:
10,000 users
100,000 users
显然不太希望维护 10 万个 Hermes profiles 。
而且实际上大部分用户使用的是完全相同的 Agent ,只是 personal memory / credentials 不一样。
我目前比较倾向的结构
把 Hermes 当成一个 stateless / semi-stateless Agent runtime 。
例如:
Hermes Worker Pool
/ | \
Hermes 1 Hermes 2 Hermes 3
\ | /
Backend
│
┌─────────────┼─────────────┐
▼ ▼ ▼
User DB Memory DB Job/Cron DB
每次请求:
request
↓
identify user_id
↓
load user context/memory
↓
Hermes executes
↓
save updated state
也就是说:
Hermes = Agent execution/runtime
Application = identity + isolation + persistence
而不是:
1 user = 1 Hermes
另外还有一个我比较关心的问题:private MCP 。
公共 MCP 比较简单:
Search MCP
Knowledge MCP
Weather MCP
大家共享即可。
但是如果不同用户连接自己的服务:
User A → Obsidian
User B → Google Calendar
User C → Notion
这种情况下大家一般怎么处理?
例如:
根据 user_id 动态加载对应 credentials ?
MCP Server 自己做 multi-tenant ?
每个用户启动一个 MCP Server ?
在 Hermes 外面增加一层 MCP gateway ?
Hermes 有没有推荐的设计方式?
想请教一下:
Hermes 一个 instance 服务多个用户是否可靠?
Hermes 的 memory/session 是否真正支持 user-level isolation ?
USER.md 这种全局状态在 multi-user 环境应该怎么处理?
长期 memory 最好放 Hermes ,还是放外部 DB ?
user-specific MCP credentials 大家会怎么隔离?
大规模部署时,是不是应该采用 Hermes worker pool ,而不是一个用户一个 profile ?
有没有人已经用 Hermes 做过类似的 multi-tenant 架构?
目前还在做 POC ,主要想先把架构方向确定下来,避免后面因为 memory / permissions / MCP isolation 重新设计。
如果有踩坑经验,非常欢迎分享。