基于火山引擎云搜索的混合搜索实战

在搜索应用中，传统的 Keyword Search 一直是主要的搜索方法，它适合精确匹配查询的场景，能够提供低延迟和良好的结果可解释性，但是 Keyword Search 并没有考虑上下文信息，可能产生不相关的结果。最近几年，基于向量检索技术的搜索增强技术 Semantic Search 越来越流行，通过使用机器学习模型将数据对象(文本、图像、音视频等)转化成向量，向量距离代表对象间的相似性，如果使用的模型和问题领域相关性高，则往往能更好地理解上下文和搜索意图，进而提高搜索结果的相关性，反之，如果模型和问题领域相关性不高，则效果会大打折扣。

Keyword Search 和 Semantic Search 都存在明显的优劣势，那么是否可以通过组合它们的优点来整体提高搜索的相关性？答案是，简单的算术组合并不能收到预期的效果，主要原因有两个：

  • 首先是不同类型查询的评分并不在同一个可比较的维度，因此不能直接进行简单的算术计算。

  • 其次是在分布式检索系统中，评分通常在分片级别，需要对所有分片的评分进行全局归一化处理。

综上，我们需要寻找一种理想的查询类型来解决这些问题，它能单独执行每个查询子句，同时收集分片级别的查询结果，最后对所有查询的评分进行归一化合并后返回最终的结果，这就是混合搜索(Hybrid Search) 方案。

通常一次混合搜索查询可以分为以下几步：

  1. 查询阶段：使用混合查询子句进行 Keyword Search 和 Semantic Search。

  2. 评分归一化和合并阶段，该阶段在查询阶段之后。

    1. 由于每种查询类型都会提供不同范围的评分，该阶段对每一个查询子句的评分结果执行归一化操作，支持的归一化方法有 min_max、l2、rrf。

    2. 对归一化后的评分进行组合，组合方法有 arithmetic_mean、geometric_mean、harmonic_mean。

  3. 根据组合后的评分对文档重新排序并返回给用户。

实现思路

从前面原理介绍，我们可以看到要实现一个混合检索应用，至少需要用到这些基础技术设施

  • 全文检索引擎

  • 向量检索引擎

  • 用于向量 Embedding 的机器学习模型

  • 将文本、音频、视频等数据转化成向量的数据管道

  • 融合排序

火山引擎云搜索构建在开源的 Elasticsearch 和 OpenSearch 项目上，从第一天上线就支持了完善成熟的文本检索和向量检索能力，同时针对混合搜索场景也进行了一系列的功能迭代和演进，提供了开箱即用的混合搜索解决方案。本文将以图像搜索应用为例，介绍如何借助火山引擎云搜索服务的解决方案快速开发一个混合搜索应用。

其端到端流程概括如下：

  1. 配置创建相关对象

    1. Ingestion Pipeline：支持自动调用模型把图片转换向量并存到索引中

    2. Search Pipeline：支持把文本查询语句自动转换成向量以便进行相似度计算

    3. k-NN索引：存放向量的索引

  2. 将图像数据集数据写入 OpenSearch 实例，OpenSearch 会自动调用机器学习模型将文本转为 Embedding 向量。

  3. Client 端发起混合搜索查询时，OpenSearch 调用机器学习模型将传入的查询转为 Embedding 向量。

  4. OpenSearch 执行混合搜索请求处理，组合 Keyword Seach 和 Semantic Seach 的评分，返回搜索结果。

方案实战

环境准备

1.登录火山引擎云搜索服务（https://console.volcengine.com/es），创建实例集群，版本选择 OpenSearch 2.9.0。

2.待实例创建完毕，启用 AI 节点。

3.在模型选择上，可以创建自己的模型，也可以选择公共模型。这里我们选择公共模型，完成配置后，点击立即启动。

至此，准备好了 OpenSearch 实例和混合搜索所依赖的机器学习服务。

数据集准备

使用 Amazon Berkeley Objects Dataset（https://registry.opendata.aws/amazon-berkeley-objects/）作为数据集，数据集无需本地下载，直接通过代码逻辑上传到 OpenSearch，详见下面代码内容。

操作步骤

安装 Python 依赖

pip install -U elasticsearch7==7.10.1
pip install -U pandas
pip install -U jupyter
pip install -U requests
pip install -U s3fs
pip install -U alive_progress
pip install -U pillow
pip install -U ipython

连接到 OpenSearch

# Prepare opensearch info
from elasticsearch7 import Elasticsearch as CloudSearch
from ssl import create_default_context
# opensearch info
opensearch_domain = '{{ OPENSEARCH_DOMAIN }}'
opensearch_port = '9200'
opensearch_user = 'admin'
opensearch_pwd = '{{ OPENSEARCH_PWD }}'
# remote config for model server
model_remote_config = {
    "method": "POST",
    "url": "{{ REMOTE_MODEL_URL }}",
    "params": {},
    "headers": {
        "Content-Type": "application/json"
    },
    "advance_request_body": {
        "model": "sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2"
    }
}
# dimension for knn vector
knn_dimension = 384
# load cer and create ssl context
ssl_context = create_default_context(cafile='./ca.cer')
# create CloudSearch client
cloud_search_cli = CloudSearch([opensearch_domain, opensearch_port],
                               ssl_context=ssl_context,
                               scheme="https",
                               http_auth=(opensearch_user, opensearch_pwd)
                               )
# index name
index_name = 'index-test'

# pipeline id
pipeline_id = 'remote_text_embedding_test'
# search pipeline id
search_pipeline_id = 'rrf_search_pipeline_test'

1.填入 OpenSearch 链接地址和用户名密码信息。model_remote_config 是远程机器学习模型连接配置，可在模型调用信息查看，将调用信息中的 remote_config 配置全部复制到 model_remote_config。

2.在实例信息->服务访问部分，下载证书到当前目录。

3.给定索引名称、Pipeline ID 和 Search Pipeline ID。

创建 Ingest Pipeline

创建 Ingest Pipeline，指定使用的机器学习模型，将指定字段转换为向量后嵌入回去。如下，将 caption 字段转为向量存储到 caption_embedding 中。

# Create ingest pipeline
pipeline_body = {
    "description": "text embedding pipeline for remote inference",
    "processors": [{
        "remote_text_embedding": {
            "remote_config": model_remote_config,
            "field_map": {
                "caption": "caption_embedding"
            }
        }
    }]
}
# create request
resp = cloud_search_cli.ingest.put_pipeline(id=pipeline_id, body=pipeline_body)
print(resp)

创建 Search Pipeline

创建查询需要使用的 Pipeline，配置好远程模型。

支持的归一化方法和加权求和方法：

  • 归一化方法：min_max，l2，rrf

  • 加权求和方法：arithmetic_mean，geometric_mean，harmonic_mean

这里选择 rrf 归一化方法。

# Create search pipeline
import requests
search_pipeline_body = {
    "description": "post processor for hybrid search",
    "request_processors": [{
        "remote_embedding": {
            "remote_config": model_remote_config
        }
    }],
    "phase_results_processors": [  # normalization and combination
        {
            "normalization-processor": {
                "normalization": {
                    "technique": "rrf",  # the normalization technique in the processor is set to rrf
                    "parameters": {
                        "rank_constant": 60  # param
                    }
                },
                "combination": {
                    "technique": "arithmetic_mean",  # the combination technique is set to arithmetic mean
                    "parameters": {
                        "weights": [
                            0.4,
                            0.6
                        ]
                    }
                }
            }
        }
    ]
}
headers = {
    'Content-Type': 'application/json',
}
# create request
resp = requests.put(
    url="https://" + opensearch_domain + ':' + opensearch_port + '/_search/pipeline/' + search_pipeline_id,
    auth=(opensearch_user, opensearch_pwd),
    json=search_pipeline_body,
    headers=headers,
    verify='./ca.cer')
print(resp.text)

创建 k-NN 索引

  1. 将事先创建好的 Ingest Pipeline 配置到 index.default_pipeline 字段中；

  2. 同时，配置 properties，将 caption_embedding 设置为 knn_vector，这里使用 faiss 中的 hnsw。

# Create k-NN index
# create index and set settings, mappings, and properties as needed.
index_body = {
    "settings": {
        "index.knn": True,
        "number_of_shards": 1,
        "number_of_replicas": 0,
        "default_pipeline": pipeline_id  # ingest pipeline
    },
    "mappings": {
        "properties": {
            "image_url": {
                "type": "text"
            },
            "caption_embedding": {
                "type": "knn_vector",
                "dimension": knn_dimension,
                "method": {
                    "engine": "faiss",
                    "space_type": "l2",
                    "name": "hnsw",
                    "parameters": {}
                }
            },
            "caption": {
                "type": "text"
            }
        }
    }
}
# create index
resp = cloud_search_cli.indices.create(index=index_name, body=index_body)
print(resp)

加载数据集

读取数据集到内存中，并过滤出部分需要使用的数据。

# Prepare dataset
import pandas as pd
import string
appended_data = []
for character in string.digits[0:] + string.ascii_lowercase:
    if character == '1':
        break
    try:
        meta = pd.read_json("s3://amazon-berkeley-objects/listings/metadata/listings_" + character + ".json.gz",
                            lines=True)
    except FileNotFoundError:
        continue
    appended_data.append(meta)
appended_data_frame = pd.concat(appended_data)
appended_data_frame.shape
meta = appended_data_frame
def func_(x):
    us_texts = [item["value"] for item in x if item["language_tag"] == "en_US"]
    return us_texts[0] if us_texts else None
meta = meta.assign(item_name_in_en_us=meta.item_name.apply(func_))
meta = meta[~meta.item_name_in_en_us.isna()][["item_id", "item_name_in_en_us", "main_image_id"]]
print(f"#products with US English title: {len(meta)}")
meta.head()
image_meta = pd.read_csv("s3://amazon-berkeley-objects/images/metadata/images.csv.gz")
dataset = meta.merge(image_meta, left_on="main_image_id", right_on="image_id")
dataset.head()

上传数据集

上传数据集到 Opensearch，针对每条数据，传入 image_url 和 caption。无需传入 caption_embedding，将通过远程机器学习模型自动生成。

# Upload dataset
import json
from alive_progress import alive_bar
cnt = 0
batch = 0
action = json.dumps({"index": {"_index": index_name}})
body_ = ''

with alive_bar(len(dataset), force_tty=True) as bar:
    for index, row in (dataset.iterrows()):
        if row['path'] == '87/874f86c4.jpg':
            continue
        payload = {}
        payload['image_url'] = "https://amazon-berkeley-objects.s3.amazonaws.com/images/small/" + row['path']
        payload['caption'] = row['item_name_in_en_us']
        body_ = body_ + action + "\n" + json.dumps(payload) + "\n"
        cnt = cnt + 1

        if cnt == 100:
            resp = cloud_search_cli.bulk(
                request_timeout=1000,
                index=index_name,
                body=body_)
            cnt = 0
            batch = batch + 1
            body_ = ''

        bar()
print("Total Bulk batches completed: " + str(batch))

混合搜索查询

以查询 shoes 为例，查询中包含两个查询子句，一个是 match 查询，一个是 remote_neural 查询。查询时将事先创建好的 Search Pipeline 指定为查询参数，Search Pipeline 会将传入的文本转为向量，存储到 caption_embedding 字段，用于后续查询。

# Search with search pipeline
from urllib import request
from PIL import Image
import IPython.display as display
def search(text, size):
    resp = cloud_search_cli.search(
        index=index_name,
        body={
            "_source": ["image_url", "caption"],
            "query": {
                "hybrid": {
                    "queries": [
                        {
                            "match": {
                                "caption": {
                                    "query": text
                                }
                            }
                        },
                        {
                            "remote_neural": {
                                "caption_embedding": {
                                    "query_text": text,
                                    "k": size
                                }
                            }
                        }
                    ]
                }
            }
        },
        params={"search_pipeline": search_pipeline_id},
    )
    return resp
k = 10
ret = search('shoes', k)
for item in ret['hits']['hits']:
    display.display(Image.open(request.urlopen(item['_source']['image_url'])))
    print(item['_source']['caption'])

混合搜索演示

以上就是以图像搜索应用为例，介绍如何借助火山引擎云搜索服务的解决方案快速开发一个混合搜索应用的实战过程，欢迎大家登陆火山引擎控制台操作！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/628697.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

三类银行互联网贷款迎新规！速看菊风信贷智能双录解决方案

三类银行互联网贷款迎新规！速看菊风信贷智能双录解决方案

​​继2020年《商业银行互联网贷款管理暂行办法》（下称《办法》）和2021年《关于进一步规范商业银行互联网贷款业务的通知》之后，时隔三年，股份制银行、城商行、民营银行（简称“三类银行”）互联网贷款业务再…
阅读更多...
Advanced RAG 07：在RAG系统中进行表格数据处理的新思路

Advanced RAG 07：在RAG系统中进行表格数据处理的新思路

编者按： 目前，检索增强生成（RAG）系统成为了将海量知识赋能于大模型的关键技术之一。然而,如何高效地处理半结构化和非结构化数据，尤其是文档中的表格数据，仍然是 RAG 系统面临的一大难题。 本文作者针对这一…
阅读更多...
买了个彩票，哈哈哈哈哈。

买了个彩票，哈哈哈哈哈。

买了个彩票-双色球，发现挺有意思的。 索性把双色球的所有期的中奖号码的数据都爬了下来，03至今，21年了。txt文本，6.5MB大小。 大家有啥好的建议，分析一下数据呢。
阅读更多...
堆的数组实现

堆的数组实现

前言 本次博客来讲解一下堆的数组实现，好吧还是会结合图例，让大家理解 堆的定义 什么是堆？ 堆是一颗完全二叉树。它的性质是父节点一定大于或者一定小于子节点 每一个结点都要满足这个性质就是堆 堆的特性是堆顶的数据一定是最大或最小…
阅读更多...
数据不出境的SSL证书

数据不出境的SSL证书

说到SSL证书，大部分用户对于SSL证书的作用还是有着或多或少的了解的。比如： 使用SSL证书可以实现网站的加密访问，相对于数据传输的安全性来说，https访问可以杜绝http的明文访问； 提升品牌形象，安装SSL证书…
阅读更多...
vue3 + ts中，element-plus组件通过ref引用组件内方法，显示提示

vue3 + ts中，element-plus组件通过ref引用组件内方法，显示提示

在vue3 ts 项目中，我们通过ref引用element-plus组件内部方法时，编辑器没有提示信息，通常我们都是如下写法 这里想进行一下表单校验，需要引用el-form组件中的validate方法，从这里可以看出是没有给相应的提示信息的。这…
阅读更多...
洛谷模板.Floyd的深度理解（python）

洛谷模板.Floyd的深度理解（python）

先上代码： n, m map(int, input().split()) edge [ [float(inf)]*n for _ in range(n)] for i in range(m):u, v, w map(int, input().split())edge[u-1][v-1] min(edge[u-1][v-1], w)edge[v-1][u-1] min(edge[v-1][u-1], w) for i in range(n):edge[i][i] 0…
阅读更多...
小程序（四）

小程序（四）

十四、分包加载 （一）普通分包与主包 随着项目越来越大，为了用户更好的体验，小程序引用了分包技术，分包技术将tabBar页面及一些全局使用的静态资源，放到主包中，开发者可以根据需要添加分包&…
阅读更多...
三无跨考，上岸热门211？

三无跨考，上岸热门211？

这个系列会邀请上岸学长学姐进行经验分享~ 今天分享经验的同学也是梦马班的学员，一战高分上岸福州大学！ 经验分享 一战零基础跨考福州大学866，初试395，信号141，最后本部录取排名前十。各位要报考福州大学的学弟学妹…
阅读更多...
Win7远程桌面连接不上：原因及专业解决方案

Win7远程桌面连接不上：原因及专业解决方案

Win7远程桌面连接作为一种方便的工具，使得用户可以从一台计算机远程访问和操作另一台计算机。然而，有时用户可能会遇到Win7远程桌面连接不上的情况，这可能是由于多种原因导致的。 一、原因分析 1. 网络设置问题：确保计算机与远程…
阅读更多...
SpringBoot之远程调用的三大方式

SpringBoot之远程调用的三大方式

为什么要使用远程调用？ SpringBoot不仅继承了Spring框架原有的优秀特性，而且还通过简化配置来进一步简化了Spring应用的整个搭建和开发过程。在Spring-Boot项目开发中，存在着本模块的代码需要访问外面模块接口，或外部url链接的需求…
阅读更多...
国网645协议报文解析软件

国网645协议报文解析软件

本文分享一款支持国网DL645-2007规约的报文解析软件， 链接: https://pan.baidu.com/s/1ngbBG-yL8ucRWLDflqzEnQ 提取码: y1de 主界面如下图所示： 本解析软件同时内嵌规约文档，支持一键打开文档，功能如下： 同时支持模…
阅读更多...
SAP CS07复制BOM简介

SAP CS07复制BOM简介

在比较大型的集团公司中会应用到这样一个场景，所有的BOM都是由总部研发统一管控，然后在下发到下属的工厂进行生产，当发生变更的时候BOM也是会随之进行变更。 同样的在相同的两家工厂中，使用的是一套的设计方案，并且当物料发起变更的时候BOM也要随之进行变更处理。 在对BO…
阅读更多...
【软件的安装与基本设置】AD21软件的PCB规则设置

【软件的安装与基本设置】AD21软件的PCB规则设置

在绘制PCB之前，要进行规则的创建，因为在绘制PCB的过程中，难免会出现很多错误，所以需要先对绘制PCB创建规则，即所有的打孔，走线，铺铜都要基于电气性能规则去设计，等到后期&#xff0c…
阅读更多...
win10共享文件夹到ubuntu22

win10共享文件夹到ubuntu22

win10共享文件夹 新建用户 新建用户、设置密码。避免共享给EveryOne，导致隐私问题。 点击左下角的开始菜单，选择“设置”（WinI）打开设置窗口。在设置窗口中，搜索或直接点击“账户”进入账户设置。在账户设置中&…
阅读更多...
Android Compose 五：常用组件 TextField

Android Compose 五：常用组件 TextField

1、基本使用 1.1 随便用用 TextField(value "吃吃吃", onValueChange {})结果 点击输入框可以弹出软键盘光标显示正常 到文字最后位置文字 “吃吃吃” 无法删除输入文本无法变更 1.2 使用 val text remember {mutableStateOf("这一个输入框") } Te…
阅读更多...
微信小程序如何变现

微信小程序如何变现

微信小程序有多种变现方式，以下是一些主要的方法： 广告变现：在小程序中嵌入广告，通过点击、曝光等手段获取收益。这是一种非常普遍的变现方式，尤其适合流量较大、用户活跃度较高的小程序。 电商变现：通过…
阅读更多...
Vitis Platform Methodology

Vitis Platform Methodology

Vitis Platform Methodology
阅读更多...
2024年开抖店都需要做哪些准备？这些条件缺一不可

2024年开抖店都需要做哪些准备？这些条件缺一不可

大家好，我是电商花花。 作为目前国内最受欢迎的短视频电商平台，抖音将成为众多创业者的首选平台。 在往年我们都知道抖音小店市场很多，红利很大，利润大，不少人都通过抖音小店实现了脱贫，也有部分上班族获…
阅读更多...
品鉴中的礼仪习俗：如何遵循正确的红酒品鉴礼仪

品鉴中的礼仪习俗：如何遵循正确的红酒品鉴礼仪

在品鉴云仓酒庄雷盛红酒时，遵循正确的礼仪习俗不仅能展现个人的修养，还能更好地领略葡萄酒的风味。下面我们将探讨红酒品鉴中的礼仪习俗。 首先，当我们拿起酒杯时，应该注意不要晃动酒杯，以免扰动其中的酒液。同时&…
阅读更多...
最新文章

Copyright @ 2022~2023