介绍

RAG（Retrieval Augmented Generation）是一种突破知识限制、整合外部数据并增强上下文理解的方法。

由于其高效地整合外部数据而无需持续微调，RAG的受欢迎程度正在飙升。

让我们来探索RAG如何克服LLM的挑战！

LLM知识限制大型语言模型面临与知识的准确度和时效性相关的几个挑战。其中两个常见问题是幻觉和知识断裂。

幻觉：当模型自信地产生一个错误响应时发生。例如，如果一个模型声称“googly retriever”是一种真实的狗品种，那么这就是一种幻觉，可能导致误导性的信息。

知识断裂：当LLM返回的信息根据模型的训练数据已经过时时发生。每个基础模型都有一个知识断裂，意味着其知识仅限于训练时可用的数据。例如，如果您询问模型关于最近一次NBA总冠军的获胜者，它可能会提供过时的信息。

RAG提供了一种缓解这些挑战的技术。它使您能够为模型提供访问外部数据源的权限，通过引入事实上下文来减轻幻觉，并通过整合最新信息来克服知识断裂。

Retrieval-Augmented Generation（RAG）Retrieval-Augmented Generation（RAG）是一个多功能框架，使大型语言模型（LLMs）能够访问其训练数据之外的外部数据。RAG不局限于单个实现，它适应不同的任务和数据格式的多种方法。

它使LLM能够在运行时利用外部数据源，包括知识库、文档、数据库和互联网。这对于使用外部数据增强语言模型非常有价值，填补了其训练数据中未涵盖的知识差距。

为了高效地从文档中检索信息，一种常见的做法是使用捕获语义意义的嵌入向量将它们索引到向量数据库中。此外，对大型文档进行分块以提高相关性并减少噪声，最终通过提供特定的上下文信息来增强模型的响应。

RAG框架

RAG框架中有两个关键模型：

RAG-序列模型：该模型利用相同的检索到的文档生成完整的序列。它将检索到的文档视为单个潜在变量，通过对前K个进行近似处理，通过边缘化得到序列到序列的概率。在此方法中，使用检索器检索前K个文档，生成器计算每个文档的输出序列概率。然后通过边缘化将这些概率组合起来。RAG-标记模型：在此模型中，可以为每个目标标记绘制不同的潜在文档，使生成器在产生答案时可以选择多个文档的内容。类似于RAG-序列模型，它检索前K个文档，然后为每个文档生成下一个输出标记的分布。对于每个输出标记重复此过程，并进行相应的边缘化处理。

此外，RAG还可以用于序列分类任务，将目标类别视为单个序列目标。在这种情况下，RAG-Sequence和RAG-Token模型变得等效。

RAG的组件检索器：检索器（DPR）根据查询和文档索引检索相关文档。检索组件基于密集段落检索（DPR），并采用具有从BERT派生的密集和查询表示的双编码器架构。使用最大内积搜索（MIPS）算法选择具有最高先验概率的前K个文档。生成器：基于BART-large的生成器组件负责生成序列。它通过简单地连接输入和检索到的内容来结合它们。

训练阶段在训练过程中，检索器和生成器共同进行训练，而无需直接监督要检索哪个文档。训练目标最小化每个目标的负边际对数似然。

解码阶段在解码阶段，RAG-Sequence和RAG-Token模型需要不同的方法。RAG-Token使用标准的自回归序列生成和束搜索解码器。相比之下，RAG-Sequence对每个文档运行束搜索，并使用生成器概率对假设进行评分。对于较长的输出序列，采用高效的解码方法以避免过多的前向传递。

RAG的实施和编排实施RAG工作流程可能很复杂，涉及从接受用户提示到查询数据库、分块文档以及协调整个流程的多个步骤。

像LangChain这样的框架通过提供与LLMs和RAG等增强技术一起工作的模块化组件来简化此过程。LangChain包括用于各种输入格式的文档加载器、用于拆分文档的文档转换器以及其他组件，以简化基于LLM的应用程序的开发。

使用LangChain的RAG工作流程LangChain是一个全面的自然语言处理平台，在使RAG模型易于访问和高效方面发挥着关键作用。以下是LangChain如何适应RAG工作流程的方式。

文档加载器和转换器LangChain提供了各种文档加载器，可以从各种来源获取文档，包括私有S3存储桶和公共网站。这些文档可以是各种类型，如HTML、PDF或代码。文档转换器组件负责准备这些文档以进行检索，包括将大型文档拆分为更小、更易于管理的块。

文本嵌入模型LangChain中的文本嵌入模型旨在与各种文本嵌入提供商和方法进行接口，包括OpenAI、Cohere和Hugging Face。这些模型创建了文本的向量表示形式，捕捉其语义含义。这种向量化使得相似文本的高效检索成为可能。

向量存储随着嵌入技术的出现，需要高效的数据库来存储和搜索这些嵌入。LangChain提供了与超过50个不同的向量存储的集成，使您可以轻松选择最适合您需求的一个。

检索器LangChain中的检索器提供了检索与查询相关的文档的接口。这些检索器可以使用向量存储作为其骨干，但还支持其他类型的检索器。LangChain的检索器提供了自定义检索算法的灵活性，范围从简单的语义搜索到提高性能的高级方法。

缓存嵌入LangChain的“缓存嵌入”功能允许将嵌入存储或临时缓存，减少了重新计算的需求，并提高了整体性能。

与Hugging Face的集成Hugging Face是一个领先的基于变压器模型的平台，提供预训练模型，包括RAG中使用的模型。LangChain与Hugging Face的模型无缝集成，使您能够针对特定任务进行微调和调整。

结论

检索增强生成（RAG）模型代表了大型语言模型领域的突破性进展。

LangChain和类似的框架使得RAG和其他增强技术更容易实施，能够快速开发利用LLMs的潜力的应用程序。

这些技术之间的协同作用为知识密集型语言任务领域的创新开辟了令人兴奋的可能性。

​

如何学习大模型

现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。

作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。

我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

二、AI大模型视频教程

三、AI大模型各大学习书籍

四、AI大模型各大场景实战案例

五、结束语

学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。

再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。

因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。