牛摸鱼文章
LangChain / LangGraph 主要用了什么 AI 技术?
LangChain + LangGraph 底层核心 AI 技术全梳理
一、基础定位区分
LangChain:LLM 应用组件化开发框架,封装通用 AI 基础能力(提示词、RAG、记忆、线性工作流、基础 Agent),解决单轮 / 多轮简单 AI 流程。
LangGraph:LangChain 生态的有状态图执行引擎,基于图论 + BSP 分布式计算模型,专门解决复杂循环、多分支、多智能体、可中断恢复的高级 Agent 流程,完全复用 LangChain 所有底层 AI 组件,新增状态图调度核心技术。
二、LangChain 核心依赖的 AI 技术(所有 LangGraph 均继承)
1. 大语言模型抽象层(LLM/Chat Model 统一封装)
底层依托生成式大语言模型(LLM) 整套技术栈,做统一接口封装:
文本自回归生成技术:对接 GPT、Claude、通义、文心、豆包、LLaMA、Qwen 等,封装流式生成、批量推理、温度 /top_p 采样控制
函数调用(Function Calling / Tool Call):标准 LLM 结构化输出技术,让模型自主识别需要调用外部工具,是 Agent 的底层基础
多模态 LLM 兼容:支持图文输入、图像 Embedding、多模态问答链
推理加速适配:兼容 vLLM、TGI、Ollama 本地推理引擎,统一屏蔽各家 API 差异
2. 提示词工程(Prompt Engineering)标准化技术
模板化提示词:PromptTemplate、ChatPromptTemplate,变量插值、角色预设、对话历史自动拼接
少样本学习(Few-shot Prompt):内置示例填充、动态示例检索,提升 LLM 输出规范性
输出解析器(Output Parser):JSON/List/ 自定义格式结构化解析,解决 LLM 自由文本不可控问题
提示词缓存、分层优化、自动精简,降低上下文 Token 消耗
3. RAG 检索增强生成(LangChain 最核心落地技术)
完整链路依赖向量语义检索全套 AI 技术:
文本嵌入(Embedding / 表征学习)
基于 Sentence-BERT、自研文本向量模型,将文档 / 问题映射为高维稠密向量,计算余弦相似度实现语义匹配
文档预处理流水线
文档加载(多格式解析)→ 文本分块(语义分割 / 递归字符分割)→ 清洗降噪
向量数据库(Vector Store)
近邻检索算法(HNSW、IVF_FLAT),支持 Chroma、Milvus、PgVector、Pinecone、Redis 向量检索
检索器(Retriever):混合检索(关键词 BM25 + 向量检索多路召回)、重排(Rerank 模型)优化召回精度
检索问答链(RetrievalQA):检索结果注入上下文窗口,缓解 LLM 幻觉、知识截止问题
4. 对话记忆(Memory)上下文状态管理技术
解决 LLM 无状态问题,实现多轮对话连贯:
短期滚动记忆:BufferMemory 完整存储对话消息
摘要压缩记忆:ConversationSummaryMemory,用 LLM 自动压缩超长历史,控制上下文长度
向量长期记忆:VectorStoreMemory,把久远对话向量化存储,实现超长对话检索召回
持久化记忆后端:Redis、SQL、文件存储对话历史,跨会话复用上下文
5. Chain 链式工作流编排(线性 / 分支确定性流水线)
基础流程调度技术,把原子 AI 组件串行 / 并行组装:
基础单元:LLMChain(提示词 + 模型最小执行单元)
业务链:检索链、对话检索链、工具调用链、文档摘要链
调度模式:串行链、并行链、条件分支链(if-else 静态分支)
局限:原生 LangChain Chain不支持循环、无法保存中间状态、不能暂停恢复,复杂迭代 Agent 无力,这是 LangGraph 诞生的核心原因
6. Agent 自主智能体基础技术(ReAct 规划框架)
LangChain 原生 Agent 基于ReAct 推理 - 行动范式:
思考 - 行动循环:LLM 输出 Thought(推理)→ Action(工具调用)→ Observation(工具返回结果)循环
工具抽象层(Tools):统一封装搜索、计算器、API、数据库、代码执行等外部能力
规划 Agent(Plan-and-Solve):LLM 先拆分复杂任务为子步骤,分步执行
缺陷:原生 Agent 循环写死、无全局状态、无法人工介入、中断丢失进度,复杂多智能体协作难以实现
三、LangGraph 独有核心 AI / 调度技术(在 LangChain 之上扩展)
1. 基于 BSP/Pregel 模型的有向
赞 0 · 评论 1 · 收藏 0