Hermes Agent 多用户 / Multi-tenant 应该怎么设计？一个实例服务多个用户可行吗？
anamulhaque1268: 最近在研究 Hermes Agent，准备把它作为一个多用户应用的 Agent runtime，想请教一下熟悉 Hermes / MCP / Agent 架构的朋友。
我的需求比较简单：多个用户使用同一套 AI 能力，例如：
- 相同的 system prompt
- 相同的模型
- 公共 Skills
- 公共 MCP
- Web Search
- 公共知识库
但是每个用户必须拥有独立的：
- conversation/session
- long-term memory
- user profile/preferences
- reminders / cron jobs
- private data
- MCP credentials / permissions
例如：
```
Hermes
│
┌───────┼───────┐
▼ ▼ ▼
User A User B User C
```
我目前主要纠结两个方案。
## 方案一：多个用户共享一个 Hermes instance
通过：
- user_id
- session_key
来区分用户。
例如：
- user:10001
- user:10002
- user:10003
Hermes 本身负责：
- reasoning
- skills
- MCP
- tool calling
用户相关的数据则由应用层隔离。
这种方式看起来最合理，也方便以后横向扩展。 但我比较担心 Hermes 内部的一些状态，例如：
- [USER.md](http://user.md/)
- memory
- session
- cron
- MCP context
是否完全适合 multi-tenant 环境。例如 User A 告诉 Agent：
> 我叫张三，我住上海。
有没有可能由于 memory / context 设计问题，后面 User B 的 context 中出现 User A 的信息？
## 方案二：每个用户一个 Hermes Profile
User A → Hermes Profile A
User B → Hermes Profile B
User C → Hermes Profile C
隔离肯定更简单。但是如果未来有：
- 10,000 users
- 100,000 users
显然不太希望维护 10 万个 Hermes profiles。而且实际上大部分用户使用的是完全相同的 Agent，只是 personal memory / credentials 不一样。
我目前比较倾向的结构
把 Hermes 当成一个 stateless / semi-stateless Agent runtime。
例如：
```
Hermes Worker Pool
/ | \
Hermes 1 Hermes 2 Hermes 3
\ | /
Backend
│
┌─────────────┼─────────────┐
▼ ▼ ▼
User DB Memory DB Job/Cron DB
```
每次请求：
1. request
2. identify user_id
3. load user context/memory
4. Hermes executes
5. save updated state
也就是说：
- Hermes = Agent execution/runtime
- Application = identity + isolation + persistence
而不是：
1 user = 1 Hermes
另外还有一个我比较关心的问题：private MCP。
公共 MCP 比较简单：
- Search MCP
- Knowledge MCP
- Weather MCP
大家共享即可。但是如果不同用户连接自己的服务：
- User A → Obsidian
- User B → Google Calendar
- User C → Notion
这种情况下大家一般怎么处理？
例如：
- 根据 user_id 动态加载对应 credentials ？
- MCP Server 自己做 multi-tenant ？
- 每个用户启动一个 MCP Server ？
- 在 Hermes 外面增加一层 MCP gateway ？
Hermes 有没有推荐的设计方式？
想请教一下：
- Hermes 一个 instance 服务多个用户是否可靠？
- Hermes 的 memory/session 是否真正支持 user-level isolation ？
- [USER.md](http://user.md/) 这种全局状态在 multi-user 环境应该怎么处理？
- 长期 memory 最好放 Hermes 还是放外部 DB ？
- user-specific MCP credentials 大家会怎么隔离？
- 大规模部署时，是不是应该采用 Hermes worker pool，而不是一个用户一个 profile ？
有没有人已经用 Hermes 做过类似的 multi-tenant 架构？
目前还在做 POC，主要想先把架构方向确定下来，避免后面因为 memory / permissions / MCP isolation 重新设计。
如果有踩坑经验，非常欢迎分享。
---
原文链接：[点击查看](https://www.v2ex.com/t/1235423)
我的需求比较简单：多个用户使用同一套 AI 能力，例如：
- 相同的 system prompt
- 相同的模型
- 公共 Skills
- 公共 MCP
- Web Search
- 公共知识库
但是每个用户必须拥有独立的：
- conversation/session
- long-term memory
- user profile/preferences
- reminders / cron jobs
- private data
- MCP credentials / permissions
例如：
```
Hermes
│
┌───────┼───────┐
▼ ▼ ▼
User A User B User C
```
我目前主要纠结两个方案。
## 方案一：多个用户共享一个 Hermes instance
通过：
- user_id
- session_key
来区分用户。
例如：
- user:10001
- user:10002
- user:10003
Hermes 本身负责：
- reasoning
- skills
- MCP
- tool calling
用户相关的数据则由应用层隔离。
这种方式看起来最合理，也方便以后横向扩展。 但我比较担心 Hermes 内部的一些状态，例如：
- [USER.md](http://user.md/)
- memory
- session
- cron
- MCP context
是否完全适合 multi-tenant 环境。例如 User A 告诉 Agent：
> 我叫张三，我住上海。
有没有可能由于 memory / context 设计问题，后面 User B 的 context 中出现 User A 的信息？
## 方案二：每个用户一个 Hermes Profile
User A → Hermes Profile A
User B → Hermes Profile B
User C → Hermes Profile C
隔离肯定更简单。但是如果未来有：
- 10,000 users
- 100,000 users
显然不太希望维护 10 万个 Hermes profiles。而且实际上大部分用户使用的是完全相同的 Agent，只是 personal memory / credentials 不一样。
我目前比较倾向的结构
把 Hermes 当成一个 stateless / semi-stateless Agent runtime。
例如：
```
Hermes Worker Pool
/ | \
Hermes 1 Hermes 2 Hermes 3
\ | /
Backend
│
┌─────────────┼─────────────┐
▼ ▼ ▼
User DB Memory DB Job/Cron DB
```
每次请求：
1. request
2. identify user_id
3. load user context/memory
4. Hermes executes
5. save updated state
也就是说：
- Hermes = Agent execution/runtime
- Application = identity + isolation + persistence
而不是：
1 user = 1 Hermes
另外还有一个我比较关心的问题：private MCP。
公共 MCP 比较简单：
- Search MCP
- Knowledge MCP
- Weather MCP
大家共享即可。但是如果不同用户连接自己的服务：
- User A → Obsidian
- User B → Google Calendar
- User C → Notion
这种情况下大家一般怎么处理？
例如：
- 根据 user_id 动态加载对应 credentials ？
- MCP Server 自己做 multi-tenant ？
- 每个用户启动一个 MCP Server ？
- 在 Hermes 外面增加一层 MCP gateway ？
Hermes 有没有推荐的设计方式？
想请教一下：
- Hermes 一个 instance 服务多个用户是否可靠？
- Hermes 的 memory/session 是否真正支持 user-level isolation ？
- [USER.md](http://user.md/) 这种全局状态在 multi-user 环境应该怎么处理？
- 长期 memory 最好放 Hermes 还是放外部 DB ？
- user-specific MCP credentials 大家会怎么隔离？
- 大规模部署时，是不是应该采用 Hermes worker pool，而不是一个用户一个 profile ？
有没有人已经用 Hermes 做过类似的 multi-tenant 架构？
目前还在做 POC，主要想先把架构方向确定下来，避免后面因为 memory / permissions / MCP isolation 重新设计。
如果有踩坑经验，非常欢迎分享。
---
原文链接：[点击查看](https://www.v2ex.com/t/1235423)
评论
暂无评论。