LangChain4j学习
简介
LangChain4j 是 LangChain 的 Java 实现，旨在帮助开发者将大型语言模型（LLM）快速整合到 Java 应用中，支持聊天、RAG、函数调用、多模态输入等能力。
核心组件
1. ChatModel
ChatModel 是与 LLM 通信的接口，支持调用大语言模型生成回复。
ChatModel model = QwenChatModel.withApiKey("your-key");
ChatResponse response = model.chat(UserMessage.from("你好"));
System.out.println(response.aiMessage().text());2. AiService 接口
通过注解定义 AI 接口。
@AiService
interface AiCodeHelperService {
@SystemMessage(fromResource = "system-prompt.txt")
String chat(String userMessage);
}3. ChatMemory（聊天记忆）
用于实现上下文记忆支持。
ChatMemory memory = MessageWindowChatMemory.withMaxMessages(10);
AiService service = AiServices.builder(MyService.class)
.chatModel(chatModel)
.chatMemory(memory)
.build();4. 多模态支持
LangChain4j 支持文本、图像混合输入：
UserMessage userMessage = UserMessage.from(
TextContent.from("描述图片"),
ImageContent.from("https://example.com/image.jpg")
);🧠 相关技术概念
🔁 1. RAG（Retrieval-Augmented Generation）检索增强生成
RAG 是 LangChain 中最核心的应用场景之一，其基本思想是：
在生成回答前，先“检索”相关信息，再把这些信息交给大模型进行“生成”。
工作流程：
- 用户提出问题（Query）
- 系统通过向量数据库进行语义检索
- 检索出的文本作为上下文加入 prompt
- 大模型生成回答
在 LangChain4j 中支持：
Retriever接口EmbeddingModel（向量生成）VectorStore（向量存储与检索）RetrievalAugmentedChatMemory（记忆+检索结合）
🕹️ 2. MCP（模块上下文协议）
LangChain4j 支持与外部 MCP 工具链进行集成，以扩展其上下文能力和工具调度能力。
McpTransport transport = new HttpMcpTransport.Builder()
.sseUrl("https://open.bigmodel.cn/api/mcp/web_search/sse?Authorization=" + apiKey)
.logRequests(true)
.logResponses(true)
.build();
McpClient mcpClient = new DefaultMcpClient.Builder()
.key("clientKey")
.transport(transport)
.build();AiServices.builder(AiCodeHelperService.class)
.toolProvider(McpToolProvider.builder().mcpClients(mcpClient).build())
.build();📦 3. Prompt Template（提示词模板）
用于构造动态 prompt，便于参数化。
PromptTemplate template = PromptTemplate.from("你是一个{role}，请帮助我{task}");
String prompt = template.apply(Map.of("role", "程序员", "task", "写一个冒泡排序"));🧠 4. Memory（记忆系统）
MessageWindowChatMemory: 限制消息数量TokenWindowChatMemory: 限制 token 长度ChatMemoryStore: 可持久化记忆（支持 Redis、MongoDB 等）
🧩 5. Tool & Function Call
LangChain4j 支持函数调用与工具集成：
Tool weatherTool = Tool.builder()
.name("getWeather")
.description("获取城市天气")
.executor(city -> getWeather(city))
.build();工具可以用于 Agent 执行环境中。
🧠 6. Agent 智能体
Agent 是具备推理和决策能力的智能体，LangChain4j 通过 ReAct 方式支持多工具调用。
Agent agent = Agent.builder()
.chatModel(chatModel)
.tools(List.of(searchTool, calcTool))
.build();Agent 可根据上下文自动决定使用哪些工具。
🛡️ 7. Guardrails（输入输出防护）
用于控制 AI 输入或输出的安全与合规性。
public class SafeInputGuardrail implements InputGuardrail {
@Override
public InputGuardrailResult validate(UserMessage userMessage) {
// 检测敏感词、SQL注入等
return success();
}
}📈 8. ChatModelListener（日志与可观测性）
监听模型请求、响应、错误：
@Bean
ChatModelListener chatModelListener() {
return new ChatModelListener() {
public void onRequest(ChatModelRequestContext ctx) {
log.info("Request: {}", ctx.chatRequest());
}
public void onResponse(ChatModelResponseContext ctx) {
log.info("Response: {}", ctx.chatResponse());
}
public void onError(ChatModelErrorContext ctx) {
log.error("Error: {}", ctx.error());
}
};
}🔄 9. SSE 流式输出
支持以响应式方式输出 AI 响应内容：
@GetMapping("/chat")
public Flux<ServerSentEvent<String>> chat(int memoryId, String message) {
return aiCodeHelperService.chatStream(memoryId, message)
.map(chunk -> ServerSentEvent.<String>builder().data(chunk).build());
}需要启用 streaming-chat-model:
langchain4j:
community:
dashscope:
streaming-chat-model:
model-name: qwen-max
api-key: xxx结论
LangChain4j 提供了 Java 基础下强大的 LLM 功能扩展，多模态，记忆，RAG，SSE 流式，结构化输出、工具调用、MCP 都有规范支持，非常适合构建个性化、处理处境下的 AI 应用。
贡献者
flycodeu
版权所有
版权归属：