一、说明

在日常生活中，我们主要致力于构建端到端的应用程序。我们可以使用许多自动 ML 平台和 CI/CD 管道来自动化 ml 管道。我们还有像Roboflow和Andrew N.G.的登陆AI这样的工具来自动化或创建端到端的计算机视觉应用程序。

如果我们想在OpenAI或拥抱脸的帮助下创建一个LLM应用程序，那么以前，我们想手动完成。出于同样的目的，我们有两个最著名的库，Haystack 和 LangChain，它们帮助我们为 LLM 模型创建端到端的应用程序或管道。让我们更多地了解Langchain。

二、什么是LangChain链？

LangChain 是一个创新的框架，它正在彻底改变我们开发由语言模型驱动的应用程序的方式。通过结合先进的原则，LangChain正在重新定义通过传统API可以实现的极限。此外，LangChain应用程序是代理的，使语言模型能够轻松交互并适应其环境。

Langchain由几个模块组成。顾名思义，将不同的模块链接在一起是Langchain的主要目的。这里的想法是将每个模块链接在一个链中，最后使用该链一次调用所有模块。

这些模块包括以下内容：

型
提示
记忆
链
代理
回调
指标

让我们从，

2.1 模型

如简介中所述，模型主要涵盖大型语言模型。相当大的大型语言模型是由具有众多参数的神经网络组成的模型，并在大量未标记的文本上进行训练。科技巨头有各种各样的LLM，比如，

谷歌的伯特
OpenAI 的 GPT-3
谷歌的拉MDA
PaLM by Google
LLaMA by Meta AI
OpenAI 的 GPT-4
还有更多...

在语言链的帮助下，与大型语言模型的交互变得更加容易。Langchain提供的界面和功能有助于轻松地将LLM的强大功能集成到您的工作应用程序中。LangChain通过利用asyncio库为LLM提供异步支持。

还有 Langchain 提供的异步支持[通过释放处理请求的线程，服务器可以将其分配给其他任务，直到准备好响应，从而最大限度地提高资源利用率。目前、、、和受支持，但对其他 LLM 的异步支持已在路线图上。您可以使用该方法异步调用 OpenAI LLM。您还可以编写自定义 LLM 包装器，而不是 LangChain 中支持的包装器。OpenAIPromptLayerOpenAIChatOpenAIAnthropicagenerate

我在应用程序中使用了OpenAI，并且主要使用Davinci，Babbage，Curie和Ada模型来陈述问题。每个模型都有自己的优点、令牌使用计数和用例。您可以在此处阅读有关这些模型的更多信息。

2.1.1 示例 1

# Importing modules 
from langchain.llms import OpenAI

#Here we are using text-ada-001 but you can change it 
llm = OpenAI(model_name="text-ada-001", n=2, best_of=2)

#Ask anything
llm("Tell me a joke")

2.1.2 产出1：

'\n\nWhy did the chicken cross the road?\n\nTo get to the other side.'

示例 2：

llm_result = llm.generate(["Tell me a poem"]*15)

产出2：

[Generation(text="\n\nWhat if love neverspeech\n\nWhat if love never ended\n\nWhat if love was only a feeling\n\nI'll never know this love\n\nIt's not a feeling\n\nBut it's what we have for each other\n\nWe just know that love is something strong\n\nAnd we can't help but be happy\n\nWe just feel what love is for us\n\nAnd we love each other with all our heart\n\nWe just don't know how\n\nHow it will go\n\nBut we know that love is something strong\n\nAnd we'll always have each other\n\nIn our lives."),
 Generation(text='\n\nOnce upon a time\n\nThere was a love so pure and true\n\nIt lasted for centuries\n\nAnd never became stale or dry\n\nIt was moving and alive\n\nAnd the heart of the love-ick\n\nIs still beating strong and true.')]

2.2 提示

我们都知道，提示是我们提供给任何系统的输入，以根据我们的用例完善我们的答案，使其更准确或更具体。很多时候，您可能希望获得更多结构化的信息，而不仅仅是文本回复。许多新的目标检测和基于对比预训练和零镜头学习的分类算法包括提示作为结果的有效输入。举个例子，OpenAI的CLIP和META的Grounding DINO使用提示作为预测的输入。

在 Langchain 中，我们可以根据自己想要的答案设置一个提示模板，然后将其链接到主链进行输出预测。输出分析器还有一个工具来优化结果。输出解析器负责（1）指示模型应如何格式化输出，以及（2）将输出解析为所需的格式（包括在必要时重试）。

在 Langchain 中，我们可以提供提示作为模板。模板是指提示的蓝图或我们想要答案的特定格式。LangChain提供预先设计的提示模板，可以为不同类型的任务生成提示。但是，在某些情况下，默认模板可能无法满足您的要求。默认情况下，我们可以使用自定义提示模板。

2.2.1 例

from langchain import PromptTemplate
# This template will act as a blue print for prompt

template = """
I want you to act as a naming consultant for new companies.
What is a good name for a company that makes {product}?
"""

prompt = PromptTemplate(
    input_variables=["product"],
    template=template,
)
prompt.format(product="colorful socks")
# -> I want you to act as a naming consultant for new companies.
# -> What is a good name for a company that makes colorful socks?

2.3 记忆：

默认情况下，LangChain 中的链和代理以无状态模式运行，这意味着它们独立处理每个传入的查询。但是，在某些应用程序中，例如聊天机器人，在短期和长期内保留以前的交互非常重要。这就是“记忆”概念发挥作用的地方。

LangChain以两种形式提供内存组件。首先，LangChain 提供了用于管理和操作以前的聊天消息的辅助实用程序，这些消息被设计为模块化且有用，无论其用例如何。其次，LangChain提供了一种将这些实用程序集成到链中的简单方法。这使得它们具有高度的通用性和适应任何情况。

2.3.1 例

from langchain.memory import ChatMessageHistory

history = ChatMessageHistory()
history.add_user_message("hi!")

history.add_ai_message("whats up?")
history.messages

2.3.2 输出

<span style="color:rgba(0, 0, 0, 0.8)"><span style="background-color:#ffffff"><span style="background-color:#f9f9f9"><span style="color:#242424">[HumanMessage（content='<span style="color:#c41a16">hi！</span>'， additional_kwargs={}），
 AIMessage（content='<span style="color:#c41a16">whats up？'</span>， additional_kwargs={}）]</span></span></span></span>

2.4 链：

链提供了一种将各种组件合并到统一应用程序中的方法。例如，可以创建一个链，该链接收来自用户的输入，使用提示模板对其进行格式化，然后将格式化的回复传输到LLM。通过将多个链与其他组件集成，可以生成更复杂的链。

LLMChain被认为是查询 LLM 对象使用最广泛的方法之一。它根据提示模板格式化提供的输入键值以及内存键值（如果存在），然后将格式化的字符串发送到 LLM，然后生成返回的输出。

在调用语言模型之后，可以采取一系列步骤，其中可以对模型进行一系列调用。当希望将一个调用的输出用作另一个调用的输入时，这种做法特别有价值。在这一系列链中，每个单独的链都有一个输入和一个输出，一个步骤的输出用作下一个步骤的输入。

#Here we are chaining everything
from langchain.chat_models import ChatOpenAI
from langchain.prompts.chat import (
    ChatPromptTemplate,
    HumanMessagePromptTemplate,
)
human_message_prompt = HumanMessagePromptTemplate(
        prompt=PromptTemplate(
            template="What is a good name for a company that makes {product}?",
            input_variables=["product"],
        )
    )
chat_prompt_template = ChatPromptTemplate.from_messages([human_message_prompt])
chat = ChatOpenAI(temperature=0.9)
# Temperature is about randomness in answer more the temp, random the answer
#Final Chain

chain = LLMChain(llm=chat, prompt=chat_prompt_template)
print(chain.run("colorful socks"))

2.5 代理：

某些应用程序可能不仅需要预先确定的LLM /其他工具调用序列，还需要依赖于用户输入的不确定序列。这些类型的序列包括可以访问一系列工具的“代理”。根据用户输入，代理可以确定应调用哪些工具（如果有）。

根据文档，代理的高级伪代码如下所示：

收到一些用户输入

代理决定使用哪个工具（如果有），以及该工具的输入应该是什么

然后使用该工具输入调用该工具，并记录观察结果（这只是使用该工具输入调用该工具的输出。

工具、工具输入和观察的历史记录将传递回代理，并决定下一步要执行的步骤

重复此操作，直到代理决定不再需要使用工具，然后直接响应用户。

2.5.1 例：

from langchain.agents import load_tools
from langchain.agents import initialize_agent
from langchain.agents import AgentType
from langchain.llms import OpenAI

llm = OpenAI(temperature=0)

tools = load_tools(["serpapi", "llm-math"], llm=llm)

agent = initialize_agent(tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True)

agent.run("Who is Leo DiCaprio's girlfriend? What is her current age raised to the 0.43 power?")

让我们在下面附的一个快照中总结所有内容。

LangChain的高级思想[图片来源：作者]

了解所有模块和链接对于使用 Lang-Chain 为大型语言模型构建管道应用程序非常重要。这只是对 LangChain 的简单介绍，在本系列的下一部分，我们将研究真正的管道，例如制作 pdfGPT、制作对话机器人、回答文档和其他应用程序。这种基于应用程序的工作将使这些概念更加清晰。LangChain 的文档很好理解，但我添加了我自己的想法以使其更清晰。你可以在这里找到LangChain的文档。

[编辑：我在下面添加了LangChain系列的下一部分，这样你就不需要在我的个人资料中搜索它]

其它参考：

了解语言链🦜️🔗：第2部分

实际实施 LangChain 以构建自定义数据机器人涉及合并内存、提示模板和...

代币和模型：了解语言链 🦜️🔗 部分：3

了解令牌以及如何为您的用例选择 OpenAI 模型，API 密钥定价的工作原理