AI大模型探索之路-应用篇1：Langchain框架概述

AI大模型探索之路-应用篇1：Langchain框架概述—快速构建大模型应用

一、什么是LangChain？

二、LangChain解决了哪些问题？

三、LangChain总体架构

四、代码实践样例

总结

一、什么是LangChain？

为大模型应用提供简便之道。

LangChain，专为构建庞大的语言模型应用程序设计的框架，其角色和作用类似于Java领域的Spring框架。它极大地简化了开发者对大型语言模型应用的开发流程，提升了开发效率，同时降低了技术门槛。LangChain的模块化功能使开发者可以方便地将多个组件组合在一起，以组件化的方式构建复杂而具有特定业务逻辑的应用程序。

二、LangChain解决了哪些问题？

1. 开发效率问题

它通过提供一系列实用的工具和组件，LangChain极大地提高了开发效率，相当于spring在后端开发中的角色。开发者能够高效地定制工作流程，从而实现快速构建并部署基于语言模型的应用程序。

2. 模型选择问题

目前存在着众多的语言模型，为特定的任务挑选最合适的模型既费时又费力。因此，LangChain通过提供统一的接口和工具，抽象化底层模型的具体实现，让开发者能够更轻松地比较不同模型并进行模型切换，从而找到最适应特定应用需求的模型。

3. 数据时效性问题

由于语言模型训练所依赖的数据存在截止时间，无法反映截止时间之后产生的信息。因此，借助于LangChain's在线联网能力，开发者可轻松地获取到最新的内容，从而弥补了这一短板。

4. token的限制问题

大型语言模型如GPT在面临Token数量的限制时通常会力不从心，例如无法处理长篇PDF文件总结等任务。LangChain通过模块化的方式，使得开发者能够将复杂的任务分解成多个部分，从而有效地规避了这种限制。

5. 与外部交互问题

LangChain的Agents模块使语言模型能够和外部API以及数据库实现交互，扩展了模型能够执行的任务种类，如信息检索和数据库交互等，从而提升了模型的功能性和实用性。

三、LangChain总体架构

1、LangChain Libraries：这是一个包含多种组件接口和集成的库，可用于将这些组件集成成基本运行时的链和代理，同时也包括已经实现的链和代理。这个库由几个部分构成：
1）Langchain-core: 作为基本支撑，提供了链式表达式语言，支持并行处理、追踪、回调、批量、流式操作、同步等功能。
2）Langchain-community:整合第三方工具，如模型操作、提示词模板、文件解析、分块、向量化、embedding等。
3）Langchain：提供了链（Chains）和代理（Agents）。链用于将多个步骤链接起来，处理复杂的业务逻辑；代理用于和外部API交互，拓展LangChain的功能，如数据库操作、接口调用、文件操作等。
2、LangChain Templates：提供了一系列容易部署的参考架构，适用于处理各种任务。
3、LangServe：用于将 LangChain 链部署为 REST API 的库。
4、LangSmith：一个开发者平台，LangSmith可以提供调试、测试、评估和监控基于任何语言模型框架构建的链。并且，它能够无缝地与LangChain进行集成。

四、代码实践样例

# 安装依赖 pip install langchain langchain-openai

from langchain_openai import ChatOpenAI
# 确认环境变量中已经配置OPENAI_API_KEY
llm = ChatOpenAI()

# 导入提示词模板
from langchain_core.prompts import ChatPromptTemplate
prompt = ChatPromptTemplate.from_messages([
    ("system", "You are world class technical documentation writer."),
    ("user", "{input}")
])

# LCEL语法操作
chain = prompt | llm
chain.invoke({"input": "how can langsmith help with testing?"})

# 引入输出解析器
from langchain_core.output_parsers import StrOutputParser
output_parser = StrOutputParser()
chain = prompt | llm | output_parser
chain.invoke({"input": "how can langsmith help with testing?"})