掘金热榜的一篇盘点实测了 61 个 Java/JVM AI 开源项目,并按 L0—L6 将它们划分为模型接入、应用框架、Agent 运行时、协议、数据检索、工作流和应用平台七层;Spring 系、LangChain 系、Agent 原生系与厂商 SDK 仍然并存。
结论是:没有通吃型 Java Agent 框架。选择 2026 年的 Java AI Agent 开源项目时,应先判断项目属于哪一层,再比较同类方案的边界,而不是给 50 多个项目排一张总榜。
50+ 项目分为哪几层?
这套分类不是严格的依赖关系,而是一张工程地图:越靠下越接近模型和基础设施,越靠上越贴近业务系统。
L6 应用与平台层 JeecgBoot · Chat2DB · RuoYi AI · LangChat · JManus
↓
L5 集成与工作流层 Camel · Flink Agents · Camunda · Flowable · Kestra · Temporal
↓
L4 数据与检索层 Tika · Lucene · Vespa · Milvus · Qdrant · JLama · DJL
↓
L3 标准协议层 MCP Java SDK · A2A Java SDK · Quarkus MCP
↓
L2 Agent 运行时层 AgentScope Java · Embabel · Koog · ADK Java · LangGraph4j · Atmosphere
↓
L1 应用框架层 Spring AI · LangChain4j · Solon AI · Agents-Flex · ai4j
↓
L0 模型接入层 openai-java · deepseek4j · ollama4j · 各家 provider SDK
七层分类及项目归类来自热点盘点,完整项目名单可参见原文。 这套地图的实际价值在于避免三种常见误选:把模型 SDK 当成 Agent 框架、把向量数据库当成完整 RAG、把聊天界面当成企业级 Agent 平台。
Spring AI、LangChain4j 和原生运行时如何选型?
做 Java Agent 框架选型时,通常应先看现有技术栈和任务形态,再比较功能数量。
| 方案 | 定位 | 核心能力 | 适合场景 | 主要短板 | 迁移成本判断 |
|---|---|---|---|---|---|
| Spring AI 2.x | 企业应用框架 | Tool Calling、RAG、记忆、多模型、Agent 流程编排,与 Spring Boot 集成 | 已有 Spring Boot、Spring Cloud 体系 | 对 Spring 约定和依赖体系绑定较深,非 Spring 项目收益有限 | 同栈低,跨栈中 |
| LangChain4j | 独立应用框架 | ReAct、Self-Ask、PlanAndExecute、Multi-Agent、持久记忆、向量存储、本地模型支持 | 非 Spring 项目、复杂多步骤任务、本地模型场景 | 范式和组件较多,需要团队明确记忆、检索和工具边界 | 中 |
| 原生运行时 | L2 编排与执行层 | AgentScope Java、Embabel、Koog、ADK Java、LangGraph4j 等,各自提供运行时和编排模型 | 需要明确运行时边界、多 Agent 协作或与协议层组合 | 路线分散、API 与抽象不统一,平台治理成本较高 | 中至高 |
| Atmosphere | 跨框架适配层 | 一个 @Agent 类可运行在 12 个不同运行时之上 |
已有多个 Agent 框架、希望降低切换与适配成本 | 统一的是接入形式,不会自动统一状态、权限和检索语义 | 前期中等,运行时间切换相对灵活 |
Spring AI 2.x 和 LangChain4j 的能力范围来自技术选型资料。 原生运行时与 Atmosphere 的分类和跨框架定位来自 61 个项目的实测盘点。
如果系统已经是 Spring Boot,优先从 Spring AI 2.x 开始通常更省事;如果是非 Spring 存量项目,或者涉及复杂多步骤、多 Agent 与本地模型,则应重点评估 LangChain4j。这个判断不意味着 Spring AI 做不了复杂任务,而是框架价值取决于它能否低成本接入现有工程。
原生运行时并非应用框架的简单替代品。它更适合放在架构中层:上层承接业务框架,下接 MCP/A2A,外围连接检索和持久工作流。Atmosphere 可以减少多运行时适配代码,但不会消除不同运行时在消息、状态和工具语义上的差异。
工具调用、RAG、记忆和多 Agent 如何分工?
LLM 与 Agent 不是同一层。模型负责理解和生成;Agent 则是在模型之上增加任务规划、工具调用、记忆管理与环境交互的系统。 因此,工具调用、RAG、多 Agent 编排和记忆与状态这些常被混为一谈的能力,实际往往分布在不同层。
| 能力 | 主要负责层 | 边界提醒 |
|---|---|---|
| Tool Calling | L1 定义工具与参数,L2 调度执行,L5 接入业务流程 | 模型选中工具,不等于工具已经获得安全授权 |
| RAG | L1 负责调用链,L4 负责解析、索引、向量检索等 | RAG 不等于向量数据库,检索质量也受文档和切片策略影响 |
| 多 Agent 编排 | L2 负责角色协作和执行策略,L5 负责长时间运行与持久流程 | 多 Agent 不等于持久工作流 |
| 记忆与状态 | L1/L2 保存会话上下文,L5 承担可恢复的业务状态 | 会话记忆不等于订单、工单等业务状态 |
这些边界与 Spring AI、LangChain4j 及七层生态的职责划分一致。 在 Java 多 Agent 编排中,主要成本往往不在模型调用,而在业务状态、权限、失败恢复和审计被混写进 Prompt 或 Agent 循环。
已有企业系统该选一个框架,还是组合多个组件?
对于大多数存量系统,选型可以先沿两条主线评估。
第一条是“框架优先”。Spring Boot 系统从 Spring AI 2.x 开始评估;非 Spring、复杂多步骤或本地模型场景重点评估 LangChain4j。如果需求只是低并发调用内部工具,也可以用 HTTP 客户端封装工具函数,自行实现提示词管理、工具调用解析、多轮记忆和 ReAct 循环;代价是 RAG、持久记忆和多 Agent 调度都需要自己建设。
第二条是“企业组合优先”。成熟企业系统通常不宜要求一个框架包办全部能力,更合理的组合是:
L2 Agent 运行时 + L3 MCP/A2A 协议 + L4 数据检索 + L5 持久工作流。
L1 应用框架负责降低业务接入成本,L6 平台负责界面、权限和运营入口。若组织内已经存在多个运行时,Atmosphere 可以作为适配边界,但它不能替代协议治理、状态设计和生产验证。
其他高频场景可以先按以下路径缩小范围:
- 私有化部署:优先核对本地模型接入、Embedding、向量存储和运维成本,可从 LangChain4j 的本地模型支持或 provider SDK 开始。
- 长期流程与办公自动化:重点查看 Camunda、Flowable、Kestra、Temporal 等工作流项目,不要只比较 Agent Prompt。
- 标准协议接入:从 MCP Java SDK、A2A Java SDK 等协议层组件切入,再反推运行时兼容性。
- 低代码应用平台:评估 JeecgBoot、RuoYi AI、LangChat、JManus 等 L6 项目时,优先检查权限、审计、模型配置和已有系统集成能力。
如何用决策树完成选型?
选型可以按固定顺序过滤,不必从项目名单里凭印象挑选:
现有技术栈?
├─ Spring Boot → 优先评估 Spring AI 2.x
└─ 非 Spring → 评估 LangChain4j;简单任务可轻量自研
↓
Agent 任务复杂度?
├─ 单次工具调用、低并发 → 轻量封装即可
└─ 多步骤、多 Agent、复杂规划 → LangChain4j 或 L2 原生运行时
↓
数据与模型如何部署?
├─ 公有云模型 → 比较 provider SDK 与框架适配成本
└─ 本地或私有化 → 核对本地模型、Embedding、检索和资源需求
↓
是否需要持久流程与标准协议?
├─ 需要 → L5 工作流 + L3 MCP/A2A
└─ 不需要 → 暂不增加编排复杂度
↓
迁移与治理要求?
├─ 多框架并存 → 评估 Atmosphere 适配层
└─ 单一技术栈 → 优先减少运行时数量与接口数量
进入生产前,还应按同一套业务任务做横向验证,而不是分别观看各项目的演示:
| 实测维度 | 重点检查项 |
|---|---|
| 功能与边缘场景 | 多步骤任务、异常输入、工具失败、流程中断与结果完整性 |
| 性能与资源消耗 | 延迟、并发能力、CPU、内存及模型调用放大情况 |
| 稳定性与故障恢复 | 网络中断、重试、恢复、降级和重复执行 |
| 扩展与协议兼容 | 工具扩展、插件机制、MCP/A2A 等协议兼容性 |
| 安全与合规 | 权限边界、敏感信息脱敏、审计与数据隔离 |
| 总成本 | 模型调用、基础设施、存储、观测和运维人力的合计成本 |
这六项评估维度来自 AI Agent 选型与场景适配指南,其中总成本不能只计算 Token 或 API 费用,还要包含基础设施与运维人力。
生态地图能缩小范围,但不能替代生产验证
这份生态地图用于判断“哪些项目属于同类、应该放在哪里”,但不能提供统一性能榜单。正式采用前,仍需用真实任务验证成功率、并发稳定性、故障恢复、权限边界、数据脱敏与总成本。
JVM 生态仍处于多路线并存阶段,框架 API 可能继续变化,跨框架迁移成本也不能忽略。 因此,选型时既要避免“大而全”,也不能因为某个项目演示完整,就默认它能直接承担企业系统中的长期状态管理、权限控制和运维责任。
[email protected]
。
我们承诺在核实信息后,将第一时间删除相关内容或断开链接。
























暂无评论内容