10 分钟打造自己的专属豆包和 deepseek，基于 Go+React 开发了一款 Agent 编排器 Ollmo
# ollmo
**Open LLM Orchestrator · 开源大模型编排器**
数据不出门，用自己的知识库，打造专属 AI 生产力工具。
生产级 RAG 平台，提供混合检索、多租户隔离与流式对话能力。后端基于 Go + Fiber，前端基于 Next.js App Router + shadcn/ui。
## 为什么做 ollmo
市面上的 AI 应用编排平台：工作流、节点、插件，几十个概念、上百项配置。想让 AI 帮个忙，得先花好几天学会一套复杂的系统。AI 本该让事情变简单，结果却背道而驰。
ollmo 把一切收敛成三步：**上传文档、提出问题、拿到带出处的答案**。一条命令部署，十分钟上手。
- **简单** — 只做一件事并做到极致：把你的文档变成能问答的助手。
- **易用** — 十分钟上手，不需要先学会一套比业务还复杂的系统。
- **克制** — 不堆概念、不加多余配置，复杂留在系统内部，简单留给你。
## 核心特性
- **混合检索** — 基于 Milvus 2.5+ 的稠密 + 稀疏向量检索，支持知识库级 Rerank 配置。
- **多租户** — MySQL 、Milvus 、MinIO 全链路逻辑隔离，所有表携带 `tenant_id`。
- **文档流水线** — 上传（拖拽、粘贴、多文件）→ 解析（MinerU / 本地解析器）→ 分块 → 向量化 → 索引，全程异步（Asynq + Redis）。
- **流式对话** — SSE 实时流式输出，带来源引用；Agent 开场白带来拟人化问候。
- **自动记忆** — 长对话在后台自动生成摘要（异步 LLM 任务），摘要注入后续会话，实现跨对话上下文延续，支持站点级开关。
- **Agent 画布** — 可视化编排 Agent 流水线（React Flow）：意图分类 → 检索 → 条件分支 → LLM → 直接回复。支持知识库级系统提示词、温度、top_k 、Rerank 开关、开场白与 LLM 选择。
- **数据处理流水线画布** — 可视化入库 DAG （React Flow）：来源 → 解析器 → 分块器 → 向量化 → 存储，可配置解析选项、分块策略与批大小。
- **GraphRAG** — 入库时 LLM 抽取实体与关系，查询时实体匹配增强检索上下文。
- **模型可配置** — 租户级管理 LLM / Embedding / Rerank 模型，知识库可单独指定。选择优先级：知识库配置 → 租户默认 → config.yaml。
- **团队与权限** — 邀请制成员管理（所有者 / 管理员 / 成员），每用户每日消息配额，知识库级成员权限（查看者 / 编辑者 / 所有者）。
- **管理控制台** — 超级管理员用户管理、团队管理（计划与配额：免费版 / 专业版 / 企业版）、系统设置（注册开关、自动记忆）、数据分析看板、审计日志。
- **外部 API** — API Key 鉴权的编程式访问（检索、知识库管理、流式对话）。
- **国际化** — 中英文界面，前后端消息契约，URL 不含语言标识。
## 技术栈
| 层 | 选型 |
| ------ | -------------------------------------- |
| 后端 | Go 1.26+ / Fiber / GORM |
| 前端 | Next.js 15 (App Router) / React / shadcn-ui |
| 数据库 | MySQL 8.0 (utf8mb4) — 元数据 |
| 向量库 | Milvus 2.5+ — 稠密 + 稀疏混合检索 |
| 对象存储 | MinIO （S3 兼容）— 原始文档、解析产物、缩略图 |
| 任务队列 | Asynq + Redis — 解析、向量化、索引重建、自动摘要 |
| 文档解析 | MinerU （容器化，可选 GPU ）+ 本地解析器 |
| 认证 | 本地账号（邮箱 + 密码 + JWT ） |
项目地址：
[https://github.com/ollmo-go/ollmo](https://github.com/ollmo-go/ollmo)
[https://gitee.com/ollmo-go/ollmo](https://gitee.com/ollmo-go/ollmo)
官网地址：
[https://ollmo.com/](https://ollmo.com/)
欢迎大家点赞，感谢大家。
---
原文链接：[点击查看](https://www.v2ex.com/t/1234483)
**Open LLM Orchestrator · 开源大模型编排器**
数据不出门，用自己的知识库，打造专属 AI 生产力工具。
生产级 RAG 平台，提供混合检索、多租户隔离与流式对话能力。后端基于 Go + Fiber，前端基于 Next.js App Router + shadcn/ui。
## 为什么做 ollmo
市面上的 AI 应用编排平台：工作流、节点、插件，几十个概念、上百项配置。想让 AI 帮个忙，得先花好几天学会一套复杂的系统。AI 本该让事情变简单，结果却背道而驰。
ollmo 把一切收敛成三步：**上传文档、提出问题、拿到带出处的答案**。一条命令部署，十分钟上手。
- **简单** — 只做一件事并做到极致：把你的文档变成能问答的助手。
- **易用** — 十分钟上手，不需要先学会一套比业务还复杂的系统。
- **克制** — 不堆概念、不加多余配置，复杂留在系统内部，简单留给你。
## 核心特性
- **混合检索** — 基于 Milvus 2.5+ 的稠密 + 稀疏向量检索，支持知识库级 Rerank 配置。
- **多租户** — MySQL 、Milvus 、MinIO 全链路逻辑隔离，所有表携带 `tenant_id`。
- **文档流水线** — 上传（拖拽、粘贴、多文件）→ 解析（MinerU / 本地解析器）→ 分块 → 向量化 → 索引，全程异步（Asynq + Redis）。
- **流式对话** — SSE 实时流式输出，带来源引用；Agent 开场白带来拟人化问候。
- **自动记忆** — 长对话在后台自动生成摘要（异步 LLM 任务），摘要注入后续会话，实现跨对话上下文延续，支持站点级开关。
- **Agent 画布** — 可视化编排 Agent 流水线（React Flow）：意图分类 → 检索 → 条件分支 → LLM → 直接回复。支持知识库级系统提示词、温度、top_k 、Rerank 开关、开场白与 LLM 选择。
- **数据处理流水线画布** — 可视化入库 DAG （React Flow）：来源 → 解析器 → 分块器 → 向量化 → 存储，可配置解析选项、分块策略与批大小。
- **GraphRAG** — 入库时 LLM 抽取实体与关系，查询时实体匹配增强检索上下文。
- **模型可配置** — 租户级管理 LLM / Embedding / Rerank 模型，知识库可单独指定。选择优先级：知识库配置 → 租户默认 → config.yaml。
- **团队与权限** — 邀请制成员管理（所有者 / 管理员 / 成员），每用户每日消息配额，知识库级成员权限（查看者 / 编辑者 / 所有者）。
- **管理控制台** — 超级管理员用户管理、团队管理（计划与配额：免费版 / 专业版 / 企业版）、系统设置（注册开关、自动记忆）、数据分析看板、审计日志。
- **外部 API** — API Key 鉴权的编程式访问（检索、知识库管理、流式对话）。
- **国际化** — 中英文界面，前后端消息契约，URL 不含语言标识。
## 技术栈
| 层 | 选型 |
| ------ | -------------------------------------- |
| 后端 | Go 1.26+ / Fiber / GORM |
| 前端 | Next.js 15 (App Router) / React / shadcn-ui |
| 数据库 | MySQL 8.0 (utf8mb4) — 元数据 |
| 向量库 | Milvus 2.5+ — 稠密 + 稀疏混合检索 |
| 对象存储 | MinIO （S3 兼容）— 原始文档、解析产物、缩略图 |
| 任务队列 | Asynq + Redis — 解析、向量化、索引重建、自动摘要 |
| 文档解析 | MinerU （容器化，可选 GPU ）+ 本地解析器 |
| 认证 | 本地账号（邮箱 + 密码 + JWT ） |
项目地址：
[https://github.com/ollmo-go/ollmo](https://github.com/ollmo-go/ollmo)
[https://gitee.com/ollmo-go/ollmo](https://gitee.com/ollmo-go/ollmo)
官网地址：
[https://ollmo.com/](https://ollmo.com/)
欢迎大家点赞，感谢大家。
---
原文链接：[点击查看](https://www.v2ex.com/t/1234483)
评论
暂无评论。