最近在开发基于大语言模型的Java应用时发现不同LLM提供商的API差异很大切换模型需要重写大量代码。LangChain4j作为专门为Java开发者设计的开源库提供了统一的API接口让构建LLM应用变得简单高效。本文将完整介绍LangChain4j的核心功能、环境搭建、实战案例和最佳实践帮助Java开发者快速上手。1. LangChain4j核心概念解析1.1 什么是LangChain4jLangChain4j是一个地道的、开源的Java库专门用于在JVM上构建基于大语言模型LLM的应用程序。它提供了统一的API来对接流行的LLM提供商如OpenAI、Google Vertex AI等和向量数据库如Pinecone、Milvus等让开发者能够轻松实现工具调用、智能代理和检索增强生成RAG等功能。与Python版本的LangChain不同LangChain4j是专门为Java生态系统设计的遵循Java的编程惯例包括类型安全、POJO、注解、接口、依赖注入和流畅API等特性。它能够无缝集成到Quarkus、Spring Boot、Helidon和Micronaut等企业级Java框架中。1.2 核心价值与优势LangChain4j的主要价值在于解决了Java开发者集成LLM时的几个关键痛点统一API层不同的LLM提供商和向量数据库都有自己独特的API接口学习成本高。LangChain4j提供了标准化的接口开发者只需学习一套API就能对接20 LLM提供商和30向量数据库。完整的工具箱从底层的提示词模板、对话记忆管理、函数调用到高层的代理模式和RAG模式LangChain4j提供了丰富的工具和实现覆盖了LLM应用开发的各个环节。企业级集成作为专为Java设计的库LangChain4j深度集成了主流的Java框架支持依赖注入、配置管理等企业级特性适合在生产环境中使用。1.3 主要应用场景LangChain4j适用于多种LLM应用场景智能聊天机器人构建具有记忆能力和工具调用功能的对话系统文档问答系统基于RAG技术实现对企业文档的智能查询代码生成工具利用LLM的代码生成能力辅助开发数据分析和报告生成将结构化数据转换为自然语言报告自动化工作流通过工具调用集成外部系统和API2. 环境准备与项目搭建2.1 系统要求与依赖管理在开始使用LangChain4j之前需要确保开发环境满足以下要求Java版本建议使用Java 11或更高版本构建工具Maven 3.6 或 Gradle 7.0IDEIntelliJ IDEA、Eclipse或VS Code等主流开发环境LangChain4j采用模块化设计开发者可以根据需要选择特定的模块。核心模块提供了基础功能而特定提供商模块则包含了对具体LLM服务的支持。2.2 Maven项目配置以下是使用Maven构建LangChain4j项目的基本配置!-- pom.xml -- project xmlnshttp://maven.apache.org/POM/4.0.0 xmlns:xsihttp://www.w3.org/2001/XMLSchema-instance xsi:schemaLocationhttp://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd modelVersion4.0.0/modelVersion groupIdcom.example/groupId artifactIdlangchain4j-demo/artifactId version1.0.0/version properties maven.compiler.source11/maven.compiler.source maven.compiler.target11/maven.compiler.target langchain4j.version0.25.0/langchain4j.version /properties dependencies !-- LangChain4j核心模块 -- dependency groupIddev.langchain4j/groupId artifactIdlangchain4j-core/artifactId version${langchain4j.version}/version /dependency !-- OpenAI集成 -- dependency groupIddev.langchain4j/groupId artifactIdlangchain4j-open-ai/artifactId version${langchain4j.version}/version /dependency !-- 可选Spring Boot集成 -- dependency groupIddev.langchain4j/groupId artifactIdlangchain4j-spring-boot-starter/artifactId version${langchain4j.version}/version /dependency /dependencies /project2.3 Gradle项目配置对于使用Gradle的项目可以在build.gradle文件中添加以下依赖// build.gradle plugins { id java } group com.example version 1.0.0 sourceCompatibility 11 repositories { mavenCentral() } dependencies { implementation dev.langchain4j:langchain4j-core:0.25.0 implementation dev.langchain4j:langchain4j-open-ai:0.25.0 implementation dev.langchain4j:langchain4j-spring-boot-starter:0.25.0 }3. 核心功能深度解析3.1 统一的LLM接口设计LangChain4j通过统一的接口抽象了不同LLM提供商的差异。核心接口包括ChatLanguageModel聊天模型接口用于对话场景StreamingChatLanguageModel支持流式输出的聊天模型EmbeddingModel文本嵌入模型用于向量化表示ModerationModel内容审核模型以下是如何使用统一接口调用不同LLM提供商的示例import dev.langchain4j.model.chat.ChatLanguageModel; import dev.langchain4j.model.openai.OpenAiChatModel; public class UnifiedModelExample { public static void main(String[] args) { // 创建OpenAI聊天模型 ChatLanguageModel model OpenAiChatModel.builder() .apiKey(your-openai-api-key) .modelName(gpt-3.5-turbo) .temperature(0.7) .maxTokens(100) .build(); // 使用统一接口进行对话 String response model.generate(请用Java写一个Hello World程序); System.out.println(response); } }3.2 提示词模板与记忆管理提示词模板是LLM应用中的重要组件LangChain4j提供了灵活的模板机制import dev.langchain4j.model.chat.ChatLanguageModel; import dev.langchain4j.model.openai.OpenAiChatModel; import dev.langchain4j.service.SystemMessage; import dev.langchain4j.service.UserMessage; import dev.langchain4j.service.AiServices; interface Assistant { SystemMessage(你是一个专业的Java开发助手) String chat(UserMessage String message); } public class TemplateExample { public static void main(String[] args) { ChatLanguageModel model OpenAiChatModel.builder() .apiKey(your-api-key) .build(); Assistant assistant AiServices.create(Assistant.class, model); String answer assistant.chat(如何优化Java程序的性能); System.out.println(answer); } }记忆管理允许对话系统保持上下文连贯性import dev.langchain4j.memory.ChatMemory; import dev.langchain4j.memory.chat.MessageWindowChatMemory; import dev.langchain4j.service.AiServices; public class MemoryExample { public static void main(String[] args) { ChatLanguageModel model OpenAiChatModel.builder() .apiKey(your-api-key) .build(); ChatMemory chatMemory MessageWindowChatMemory.withMaxMessages(10); Assistant assistant AiServices.builder(Assistant.class) .chatLanguageModel(model) .chatMemory(chatMemory) .build(); // 第一次对话 String response1 assistant.chat(我叫张三); System.out.println(AI: response1); // 第二次对话AI会记得之前的上下文 String response2 assistant.chat(我刚才说我叫什么名字); System.out.println(AI: response2); } }3.3 工具调用与函数执行工具调用是LangChain4j的强大功能之一允许LLM调用外部工具和函数import dev.langchain4j.agent.tool.Tool; import dev.langchain4j.service.AiServices; import java.time.LocalDateTime; import java.time.format.DateTimeFormatter; class Calculator { Tool(计算两个数字的和) public int add(int a, int b) { return a b; } Tool(获取当前时间) public String getCurrentTime() { return LocalDateTime.now().format(DateTimeFormatter.ofPattern(yyyy-MM-dd HH:mm:ss)); } } public class ToolExample { public static void main(String[] args) { ChatLanguageModel model OpenAiChatModel.builder() .apiKey(your-api-key) .build(); Calculator calculator new Calculator(); Assistant assistant AiServices.builder(Assistant.class) .chatLanguageModel(model) .tools(calculator) .build(); // AI会自动选择调用合适的工具 String result assistant.chat(请计算123加456等于多少); System.out.println(result); String time assistant.chat(现在是什么时间); System.out.println(time); } }4. 完整实战案例构建智能文档问答系统4.1 项目需求分析我们将构建一个基于RAG检索增强生成的文档问答系统主要功能包括支持多种文档格式PDF、TXT、DOCX的解析文档内容的向量化存储和检索基于检索结果的智能问答对话记忆和上下文管理4.2 项目结构设计src/main/java/com/example/rag/ ├── RAGApplication.java # 主应用类 ├── config/ │ └── EmbeddingConfig.java # 嵌入模型配置 ├── service/ │ ├── DocumentService.java # 文档处理服务 │ ├── VectorStoreService.java # 向量存储服务 │ └── QAService.java # 问答服务 └── model/ └── Document.java # 文档实体类4.3 核心代码实现首先配置嵌入模型和向量存储// config/EmbeddingConfig.java package com.example.rag.config; import dev.langchain4j.model.embedding.EmbeddingModel; import dev.langchain4j.model.openai.OpenAiEmbeddingModel; import dev.langchain4j.store.embedding.EmbeddingStore; import dev.langchain4j.store.embedding.inmemory.InMemoryEmbeddingStore; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; Configuration public class EmbeddingConfig { Bean public EmbeddingModel embeddingModel() { return OpenAiEmbeddingModel.builder() .apiKey(your-openai-api-key) .modelName(text-embedding-ada-002) .build(); } Bean public EmbeddingStore embeddingStore() { return new InMemoryEmbeddingStore(); } }文档处理服务负责解析和向量化// service/DocumentService.java package com.example.rag.service; import dev.langchain4j.data.document.Document; import dev.langchain4j.data.document.DocumentParser; import dev.langchain4j.data.document.loader.FileSystemDocumentLoader; import dev.langchain4j.data.document.parser.TextDocumentParser; import dev.langchain4j.data.document.splitter.DocumentSplitters; import dev.langchain4j.data.segment.TextSegment; import dev.langchain4j.model.embedding.EmbeddingModel; import dev.langchain4j.store.embedding.EmbeddingStore; import dev.langchain4j.store.embedding.EmbeddingStoreIngestor; import org.springframework.stereotype.Service; import java.nio.file.Paths; import java.util.List; Service public class DocumentService { private final EmbeddingModel embeddingModel; private final EmbeddingStoreTextSegment embeddingStore; public DocumentService(EmbeddingModel embeddingModel, EmbeddingStoreTextSegment embeddingStore) { this.embeddingModel embeddingModel; this.embeddingStore embeddingStore; } public void ingestDocument(String filePath) { DocumentParser parser new TextDocumentParser(); Document document FileSystemDocumentLoader.loadDocument(Paths.get(filePath), parser); EmbeddingStoreIngestor ingestor EmbeddingStoreIngestor.builder() .documentSplitter(DocumentSplitters.recursive(500, 50)) .embeddingModel(embeddingModel) .embeddingStore(embeddingStore) .build(); ingestor.ingest(document); } }问答服务实现智能检索和回答// service/QAService.java package com.example.rag.service; import dev.langchain4j.data.segment.TextSegment; import dev.langchain4j.model.chat.ChatLanguageModel; import dev.langchain4j.model.openai.OpenAiChatModel; import dev.langchain4j.retriever.EmbeddingStoreRetriever; import dev.langchain4j.service.AiServices; import dev.langchain4j.service.SystemMessage; import dev.langchain4j.service.UserMessage; import dev.langchain4j.store.embedding.EmbeddingStore; import org.springframework.stereotype.Service; import java.util.List; interface DocumentAssistant { SystemMessage(你是一个文档问答助手基于提供的文档内容回答问题) String answer(UserMessage String question); } Service public class QAService { private final DocumentAssistant assistant; public QAService(EmbeddingStoreTextSegment embeddingStore) { ChatLanguageModel chatModel OpenAiChatModel.builder() .apiKey(your-openai-api-key) .modelName(gpt-3.5-turbo) .temperature(0.1) .build(); EmbeddingStoreRetriever retriever EmbeddingStoreRetriever.from(embeddingStore); this.assistant AiServices.builder(DocumentAssistant.class) .chatLanguageModel(chatModel) .retriever(retriever) .build(); } public String askQuestion(String question) { return assistant.answer(question); } }4.4 应用主类与测试// RAGApplication.java package com.example.rag; import com.example.rag.service.DocumentService; import com.example.rag.service.QAService; import org.springframework.boot.CommandLineRunner; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; SpringBootApplication public class RAGApplication implements CommandLineRunner { private final DocumentService documentService; private final QAService qaService; public RAGApplication(DocumentService documentService, QAService qaService) { this.documentService documentService; this.qaService qaService; } public static void main(String[] args) { SpringApplication.run(RAGApplication.class, args); } Override public void run(String... args) throws Exception { // 加载文档 documentService.ingestDocument(documents/technical_guide.txt); // 进行问答测试 String answer qaService.askQuestion(文档中提到了哪些技术要点); System.out.println(答案: answer); } }4.5 运行结果与验证运行应用后系统会解析指定路径的文档内容将文档分割成文本片段并生成向量嵌入存储向量到内存向量数据库中根据用户问题检索相关文档片段基于检索结果生成准确的回答5. 高级特性与集成方案5.1 与Spring Boot深度集成LangChain4j提供了专门的Spring Boot Starter可以简化配置和管理# application.yml langchain4j: openai: api-key: ${OPENAI_API_KEY} chat-model: model-name: gpt-3.5-turbo temperature: 0.7 max-tokens: 1000 embedding: openai: model-name: text-embedding-ada-002// 使用Spring Boot自动配置 Service public class SpringIntegrationService { Autowired private ChatLanguageModel chatModel; Autowired private EmbeddingModel embeddingModel; public void demonstrateIntegration() { String response chatModel.generate(Spring Boot集成示例); System.out.println(response); } }5.2 流式响应处理对于需要实时显示响应的场景LangChain4j支持流式输出import dev.langchain4j.model.chat.StreamingChatLanguageModel; import dev.langchain4j.model.openai.OpenAiStreamingChatModel; public class StreamingExample { public static void main(String[] args) { StreamingChatLanguageModel streamingModel OpenAiStreamingChatModel.builder() .apiKey(your-api-key) .modelName(gpt-3.5-turbo) .build(); streamingModel.generate(请详细介绍Java流式处理, new StreamingResponseHandler() { Override public void onNext(String token) { System.out.print(token); // 实时输出每个token } Override public void onComplete() { System.out.println(\n--- 回答完成 ---); } Override public void onError(Throwable error) { System.err.println(发生错误: error.getMessage()); } }); } }5.3 多模型路由与降级策略在生产环境中可能需要使用多个LLM提供商来实现高可用import dev.langchain4j.model.chat.ChatLanguageModel; import dev.langchain4j.model.openai.OpenAiChatModel; import dev.langchain4j.model.anthropic.AnthropicChatModel; public class MultiModelRouter { private final ListChatLanguageModel models; public MultiModelRouter() { this.models Arrays.asList( OpenAiChatModel.builder().apiKey(openai-key).build(), AnthropicChatModel.builder().apiKey(anthropic-key).build() ); } public String generateWithFallback(String prompt) { for (ChatLanguageModel model : models) { try { return model.generate(prompt); } catch (Exception e) { System.err.println(模型调用失败: e.getMessage()); // 继续尝试下一个模型 } } throw new RuntimeException(所有模型调用都失败了); } }6. 常见问题与解决方案6.1 依赖冲突问题在使用LangChain4j时可能会遇到HTTP客户端冲突问题多个HTTP客户端在类路径中被找到解决方案排除冲突的HTTP客户端依赖明确指定使用的HTTP客户端dependency groupIddev.langchain4j/groupId artifactIdlangchain4j-open-ai/artifactId version0.25.0/version exclusions exclusion groupIdcom.squareup.okhttp3/groupId artifactIdokhttp/artifactId /exclusion /exclusions /dependency !-- 明确添加特定版本的HTTP客户端 -- dependency groupIdcom.squareup.okhttp3/groupId artifactIdokhttp/artifactId version4.10.0/version /dependency6.2 内存管理优化当处理大量文档时内存使用可能成为瓶颈优化策略使用外部向量数据库如Pinecone、Chroma分批处理大型文档调整文本分割策略EmbeddingStoreIngestor.builder() .documentSplitter(DocumentSplitters.recursive(300, 30)) // 调整分段大小和重叠 .embeddingModel(embeddingModel) .embeddingStore(externalEmbeddingStore) // 使用外部存储 .build();6.3 超时与重试机制网络调用可能因各种原因失败需要合理的重试策略OpenAiChatModel.builder() .apiKey(your-api-key) .modelName(gpt-3.5-turbo) .timeout(Duration.ofSeconds(60)) .maxRetries(3) .logRequests(true) .logResponses(true) .build();6.4 性能监控与日志在生产环境中监控LLM调用的性能和成本很重要import dev.langchain4j.model.output.Response; import dev.langchain4j.model.openai.OpenAiChatModel; public class MonitoringExample { public static void main(String[] args) { OpenAiChatModel model OpenAiChatModel.builder() .apiKey(your-api-key) .logRequests(true) .logResponses(true) .build(); long startTime System.currentTimeMillis(); ResponseString response model.generate(测试请求); long duration System.currentTimeMillis() - startTime; System.out.println(请求耗时: duration ms); System.out.println(回答: response.content()); System.out.println(Token使用: response.tokenUsage()); } }7. 生产环境最佳实践7.1 安全配置管理API密钥和敏感配置不应该硬编码在代码中Configuration public class SecurityConfig { Bean public ChatLanguageModel chatModel() { return OpenAiChatModel.builder() .apiKey(System.getenv(OPENAI_API_KEY)) // 从环境变量读取 .modelName(gpt-3.5-turbo) .build(); } }使用Spring Cloud Config或Kubernetes Secrets进行配置管理# configmap.yaml apiVersion: v1 kind: ConfigMap metadata: name: langchain4j-config data: model.name: gpt-3.5-turbo model.temperature: 0.77.2 错误处理与降级实现健壮的错误处理机制Service public class RobustQAService { private final QAService primaryService; private final QAService fallbackService; public String askQuestionWithFallback(String question) { try { return primaryService.askQuestion(question); } catch (Exception primaryException) { log.warn(主服务失败尝试备用服务, primaryException); try { return fallbackService.askQuestion(question); } catch (Exception fallbackException) { log.error(所有服务都失败了, fallbackException); return 抱歉当前无法回答问题请稍后重试。; } } } }7.3 性能优化策略向量检索优化使用合适的索引策略调整相似度阈值实现缓存机制提示词优化使用清晰的系统提示词限制回答长度优化温度参数设置public class OptimizedAssistant { private static final String SYSTEM_PROMPT 你是一个专业的技术助手请遵循以下规则 1. 回答要简洁明了 2. 优先提供代码示例 3. 如果不确定请明确说明 4. 每次回答不超过200字 ; public String getOptimizedResponse(String question) { // 实现优化逻辑 return optimizedAnswer; } }7.4 成本控制与监控LLM API调用可能产生显著成本需要监控和控制Component public class CostMonitor { private final AtomicLong totalTokens new AtomicLong(0); private final AtomicLong totalCost new AtomicLong(0); public void recordUsage(TokenUsage usage, double costPerToken) { long tokens usage.totalTokenCount(); totalTokens.addAndGet(tokens); totalCost.addAndGet((long)(tokens * costPerToken)); } public CostSummary getSummary() { return new CostSummary(totalTokens.get(), totalCost.get()); } }8. 扩展学习与进阶方向8.1 与其他Java AI框架对比LangChain4j vs Spring AILangChain4j更专注于LLM应用模式Agent、RAG等Spring AI提供更广泛的AI能力集成选择取决于具体需求场景集成方案在实际项目中可以根据需要组合使用不同框架的优势。8.2 自定义组件开发LangChain4j支持扩展自定义组件// 自定义工具 public class CustomTool { Tool(自定义数据处理工具) public String processData(P(输入数据) String input) { // 自定义处理逻辑 return processedResult; } } // 自定义向量存储 public class CustomEmbeddingStore implements EmbeddingStoreTextSegment { // 实现自定义存储逻辑 }8.3 社区资源与持续学习官方资源GitHub仓库langchain4j/langchain4j官方文档docs.langchain4j.dev示例项目langchain4j-examples学习路径建议从基础聊天应用开始掌握工具调用和记忆管理实践RAG系统构建学习生产环境部署参与社区贡献LangChain4j作为Java生态中LLM应用开发的重要工具正在快速演进。建议关注项目更新及时了解新特性和最佳实践。通过实际项目实践不断优化应用架构和性能表现充分发挥LLM在Java应用中的价值。