线上的 agent 应用应该怎么部署
DingJZ:
以前纯文本类的部署了 dify 集群，现在越来越不想用 dify 了，东西太重，扩展的时候也不如代码灵活。
业务上会有很多小的 agent，比如让 AI 处理 Excel，然后调用接口校验一下提交之类的小流程，大部分是直接用 Python 写的 demo，之前的玩法是测试通过后，让开发转成 Java 放在现有的系统里。
但是现在越来越多了，不好管理，而且有些 Python 的库和 Java 在实现上还是有差异，还是感觉有点浪费时间。
所以想直接把测试过的 Python 的应用部署让业务直接调用。
需求可能主要是可观测，可扩展，高可用。
有什么方案推荐吗
---
原文链接：[点击查看](https://www.v2ex.com/t/1235082)
以前纯文本类的部署了 dify 集群，现在越来越不想用 dify 了，东西太重，扩展的时候也不如代码灵活。
业务上会有很多小的 agent，比如让 AI 处理 Excel，然后调用接口校验一下提交之类的小流程，大部分是直接用 Python 写的 demo，之前的玩法是测试通过后，让开发转成 Java 放在现有的系统里。
但是现在越来越多了，不好管理，而且有些 Python 的库和 Java 在实现上还是有差异，还是感觉有点浪费时间。
所以想直接把测试过的 Python 的应用部署让业务直接调用。
需求可能主要是可观测，可扩展，高可用。
有什么方案推荐吗
---
原文链接：[点击查看](https://www.v2ex.com/t/1235082)
评论
暂无评论。