牛摸鱼

牛摸鱼文章

LangChain / LangGraph 主要用了什么 AI 技术?

增长章鱼 ·

LangChain + LangGraph 底层核心 AI 技术全梳理 一、基础定位区分 LangChain:LLM 应用组件化开发框架,封装通用 AI 基础能力(提示词、RAG、记忆、线性工作流、基础 Agent),解决单轮 / 多轮简单 AI 流程。 LangGraph:LangChain 生态的有状态图执行引擎,基于图论 + BSP 分布式计算模型,专门解决复杂循环、多分支、多智能体、可中断恢复的高级 Agent 流程,完全复用 LangChain 所有底层 AI 组件,新增状态图调度核心技术。 二、LangChain 核心依赖的 AI 技术(所有 LangGraph 均继承) 1. 大语言模型抽象层(LLM/Chat Model 统一封装) 底层依托生成式大语言模型(LLM) 整套技术栈,做统一接口封装: 文本自回归生成技术:对接 GPT、Claude、通义、文心、豆包、LLaMA、Qwen 等,封装流式生成、批量推理、温度 /top_p 采样控制 函数调用(Function Calling / Tool Call):标准 LLM 结构化输出技术,让模型自主识别需要调用外部工具,是 Agent 的底层基础 多模态 LLM 兼容:支持图文输入、图像 Embedding、多模态问答链 推理加速适配:兼容 vLLM、TGI、Ollama 本地推理引擎,统一屏蔽各家 API 差异 2. 提示词工程(Prompt Engineering)标准化技术 模板化提示词:PromptTemplate、ChatPromptTemplate,变量插值、角色预设、对话历史自动拼接 少样本学习(Few-shot Prompt):内置示例填充、动态示例检索,提升 LLM 输出规范性 输出解析器(Output Parser):JSON/List/ 自定义格式结构化解析,解决 LLM 自由文本不可控问题 提示词缓存、分层优化、自动精简,降低上下文 Token 消耗 3. RAG 检索增强生成(LangChain 最核心落地技术) 完整链路依赖向量语义检索全套 AI 技术: 文本嵌入(Embedding / 表征学习) 基于 Sentence-BERT、自研文本向量模型,将文档 / 问题映射为高维稠密向量,计算余弦相似度实现语义匹配 文档预处理流水线 文档加载(多格式解析)→ 文本分块(语义分割 / 递归字符分割)→ 清洗降噪 向量数据库(Vector Store) 近邻检索算法(HNSW、IVF_FLAT),支持 Chroma、Milvus、PgVector、Pinecone、Redis 向量检索 检索器(Retriever):混合检索(关键词 BM25 + 向量检索多路召回)、重排(Rerank 模型)优化召回精度 检索问答链(RetrievalQA):检索结果注入上下文窗口,缓解 LLM 幻觉、知识截止问题 4. 对话记忆(Memory)上下文状态管理技术 解决 LLM 无状态问题,实现多轮对话连贯: 短期滚动记忆:BufferMemory 完整存储对话消息 摘要压缩记忆:ConversationSummaryMemory,用 LLM 自动压缩超长历史,控制上下文长度 向量长期记忆:VectorStoreMemory,把久远对话向量化存储,实现超长对话检索召回 持久化记忆后端:Redis、SQL、文件存储对话历史,跨会话复用上下文 5. Chain 链式工作流编排(线性 / 分支确定性流水线) 基础流程调度技术,把原子 AI 组件串行 / 并行组装: 基础单元:LLMChain(提示词 + 模型最小执行单元) 业务链:检索链、对话检索链、工具调用链、文档摘要链 调度模式:串行链、并行链、条件分支链(if-else 静态分支) 局限:原生 LangChain Chain不支持循环、无法保存中间状态、不能暂停恢复,复杂迭代 Agent 无力,这是 LangGraph 诞生的核心原因 6. Agent 自主智能体基础技术(ReAct 规划框架) LangChain 原生 Agent 基于ReAct 推理 - 行动范式: 思考 - 行动循环:LLM 输出 Thought(推理)→ Action(工具调用)→ Observation(工具返回结果)循环 工具抽象层(Tools):统一封装搜索、计算器、API、数据库、代码执行等外部能力 规划 Agent(Plan-and-Solve):LLM 先拆分复杂任务为子步骤,分步执行 缺陷:原生 Agent 循环写死、无全局状态、无法人工介入、中断丢失进度,复杂多智能体协作难以实现 三、LangGraph 独有核心 AI / 调度技术(在 LangChain 之上扩展) 1. 基于 BSP/Pregel 模型的有向

#职场经验#职场#经验分享

赞 0 · 评论 1 · 收藏 0

一进牛摸鱼,牛马有归栖

点赞、评论、收藏请在工作台完成;本页供阅读、搜索与分享。