基于LLM大模型的结构化数据批量提取

在当今世界，越来越多的组织致力于数据驱动的决策。然而，他们通常面临着从非结构化文本数据（例如客户评论或反馈）中提取有价值的见解的挑战。

这篇文章是为想要使用非结构化数据获得有用见解的数据科学家、分析师和决策者量身定制的。我们探索大型语言模型 (LLM) 的批量用例，重点关注非结构化文本到结构化数据的转换。通过利用这种方法，企业可以利用结构化信息丰富其数据库，并提高对非结构化数据源的理解。为了说明此类用例，我们将深入研究客户反馈分析的示例。

这个存储库提供了开始使用此类 LLM 批量用例的常规设置。

NSDT工具推荐： Three.js AI纹理开发包 - YOLO合成数据生成器 - GLTF/GLB在线编辑 - 3D模型格式在线转换 - 可编程3D场景编辑器 - REVIT导出3D模型插件 - 3D模型语义搜索引擎 - Three.js虚拟轴心开发包

1、使用案例：客户反馈

让我们以网页上对应于特定产品的客户评论为例。

我们可能有一些可用的结构化信息，例如每个客户给出的星级数。但是，我们可能需要更多具体信息。例如，为什么客户给予高或低评价？为了找到答案，我们需要自己阅读和过滤这些评论。在对数千种产品进行数百次评论的情况下，这是一个不可行的过程。

理想情况下，也许我们会看到每个主题的评级，例如质量、运输、价格等。这有两个好处：

我们将能够更好地确定我们可以改进的地方。
我们将帮助客户在购买产品时做出更好的决定。

在下图中，我们可以看到每个主题的评分概览。

根据该图，敏锐的眼睛可能会注意到我们正在对提及某个主题的所有评论进行平均评分。如果我们收到的评论提到多个主题：“质量很好，运输很差”，那么这种方法就不太有效。在这种情况下，我们可能会错误地对质量给予低评级，或对运输给予高评级。然而，为了使我们的示例简单，我们暂时忽略这些类型的评论。

你可能想知道，为什么不让客户直接就这些主题提供反馈呢？那么这样的话，审核的过程就会变得更加复杂。这可能会导致客户根本不评价。

那么，我们该怎么做呢？我们需要一种可扩展的方法来从非结构化文本（即评论）中提取结构化信息（即主题）。

2、使用LLM提取结构化信息

在此示例中，我们使用LLM大模型，因为它的灵活性和易用性。它使我们无需训练模型即可完成任务。但请注意，对于非常结构化的输出，一旦收集到足够的样本，也可以训练简单的分类模型。

我们可以采取以下方法：

创建巧妙的提示
将非结构化文本交给LLM
检索 LLM 的结构化输出
保存到数据库

我们尝试强制 LLM 输出有效的 JSON，因为我们可以轻松地将原始 JSON 作为 Python 中的对象加载。例如，我们可以定义 Pydantic BaseModel，并使用它来验证模型输出。此外，我们可以使用它的定义立即为模型提供正确的格式化指令。要了解有关强制LLM提供结构化输出的更多信息，请查看我们之前的博客文章。

我们的 Pydantic BaseModel 看起来像这样：

from typing import List, Literal
from pydantic import BaseModel, Field

class DesiredOutput(BaseModel):
    topics: List[
        Literal[
            "quality", 
            "price", 
            "shipping",
        ]
    ] = Field("Topic(s) in the input text")

然而，模型第一次可能不会正确。我们可以通过将验证错误反馈到提示中来对模型进行几次尝试。这种方法可以被认为是拉斯维加斯类型的算法。流程如下所示：