Elasticsearch中父子文档的关联:利用Join类型赋予文档的层级关系

码到三十五 : 个人主页

心中有诗画,指尖舞代码,目光览世界,步履越千山,人间尽值得 !

Elasticsearch是一个强大的搜索引擎,它提供了丰富的功能来满足复杂的搜索需求。其中,父子索引类型的join功能是一个强大的工具,它允许我们在同一索引中创建具有层级关系的文档。在这篇博客中,我们将深入探讨Elasticsearch中的父子索引类型join,包括其工作原理、如何使用以及需要注意的事项。

目录

    • 前言
      • 1. 父子关系文档
      • 2. Nested嵌套类型
      • 3. Nested类型和父子类型的差异
    • 一、使用对象数组存在的问题
    • 二、父子索引类型join的工作原理和作用
      • 父子join关联解决的问题
      • 使用join字段的优势
    • 三、父子join关联的使用
      • 3.1 创建带join字段的索引
      • 3.2 添加父子文档
      • 3.3 特殊搜索方式
      • 3.4 聚集操作
    • 四、应用层关联数据
    • 五、注意事项和性能考虑
    • 结语

前言

在Elasticsearch的实际应用中,嵌套文档是一个常见的需求,尤其是当我们需要对对象数组进行独立索引和查询时。在Elasticsearch中,这类嵌套结构被称为父子文档,它们能够“彼此独立地进行查询”。实现这一功能主要有两种方式:

1. 父子关系文档

  • 在Elasticsearch 5.x版本中,这种关系是通过parent-child父子type来实现的,允许一个索引对应多个type。
  • 但从6.x版本开始,由于Elasticsearch不再支持单个索引对应多个type,因此父子索引的实现方式转变为使用Join数据类型。

2. Nested嵌套类型

  • 这是一种更为紧凑和高效的方式来处理嵌套文档,允许在单个文档中直接嵌套其他文档,并保持它们之间的关联性,便于进行复杂的查询操作。

3. Nested类型和父子类型的差异

Nested类型

  1. 数据结构:Nested类型用于索引和查询对象数组,其中每个对象都可以看作是一个独立的文档。这些对象在内部被视为独立的文档,可以独立地进行索引和查询。
  2. 查询性能:由于Nested类型的每个嵌套对象都是独立索引的,因此查询性能相对较高。你可以直接针对嵌套对象的特定字段进行查询,而无需扫描整个文档。
  3. 使用场景:当你有一个文档,其中包含多个与主文档相关联的子对象时,例如一个订单文档中包含多个商品项,每个商品项都有自己的一组属性,这时使用Nested类型是非常合适的。
  4. 更新限制:更新Nested类型中的一个嵌套对象通常需要重新索引整个主文档,这可能会影响性能。

在这里插入图片描述
父子类型

  1. 数据结构:父子Join类型允许你将两个独立的文档(父文档和子文档)通过关系字段连接起来。每个文档都是单独存储的,但它们之间通过特定的join字段来建立关联。
  2. 查询性能:查询性能可能略低于Nested类型,因为父子文档是分开存储的,查询时可能需要进行额外的连接操作。
  3. 使用场景:当你需要处理具有一对多关系的文档时,例如博客文章(父文档)和评论(子文档),或者用户和他们的订单等场景,父子Join类型是一个很好的选择。
  4. 更新灵活性:与Nested类型不同,使用父子Join类型时,你可以独立地更新父文档或子文档,而无需重新索引与其相关联的文档。这提供了更大的灵活性,特别是在需要频繁更新或添加新关联数据的情况下。

Nested类型和父子Join类型在处理关联数据时各有优势。Nested类型更适合处理静态的、紧密关联的嵌套数据,而父子Join类型则更适合处理需要动态更新或具有一对多关系的文档。

一、使用对象数组存在的问题

对象数组的默认存储方式

Elasticsearch内部并不直接支持对象的层次结构,而是将对象层次结构扁平化为一个字段名和字段值的简单列表。这种处理方式可能导致数据关联性的丢失。例如,考虑以下文档:

PUT user/user_info/1
{
  "group": "man",
  "userName": [ 
    {
      "first": "张",
      "last": "三"
    },
    {
      "first": "李",
      "last": "四"
    }
  ]
}

如果我们尝试查询first为“张”且last为“四”的数据,按照常理,这样的数据应该不存在。然而,使用以下查询:

GET /user/user_info/_search
{
  "query": {
    "bool": {
      "must": [
        {
          "match": {
            "userName.first": "张"
          }
        },
        {
          "match": {
            "userName.last": "四"
          }
        }
      ]
    }
  }
}

意外地,我们可能会得到结果。这是因为Lucene(Elasticsearch的底层库)没有内部对象的概念,它将内部对象扁平化处理了。在内部,文档实际上被存储为:

{
  "group": "man",
  "userName.first": ["张", "李"],
  "userName.last": ["三", "四"]
}

可以看到,userName.firstuserName.last被扁平化为多值字段,它们之间的关联性已经丢失,因此查询结果可能不符合我们的预期。

二、父子索引类型join的工作原理和作用

在Elasticsearch中,父子索引类型join是通过特殊的字段类型来实现的,该字段类型被称为“join”。这个字段允许我们定义文档之间的父子关系。当我们创建一个包含join字段的索引时,我们需要指定哪些文档类型是父文档,哪些是子文档。

在底层,Elasticsearch使用特殊的路由机制来确保父子文档存储在同一个分片上。这是非常重要的,因为这样可以提高查询性能并确保数据的一致性。当我们索引一个子文档时,需要使用routing参数来指定其父文档的ID,以便Elasticsearch可以将它们路由到相同的分片。

父子join关联解决的问题

  1. 数据层级关系的表示:在实际应用中,很多数据天然具有层级或关联关系。例如,一个博客系统可能包含博客文章和对应的评论,其中博客文章是父级数据,而评论是与文章相关联的子级数据。父子索引类型允许在Elasticsearch中明确地表示这种数据之间的层级关系。

  2. 关联查询的优化:当数据之间存在关联关系时,我们经常需要进行跨层级的查询。比如,我们可能想要找到所有包含特定评论的博客文章,或者查找某篇博客文章下的所有评论。通过使用父子索引类型,Elasticsearch可以高效地处理这类关联查询,因为它内部优化了父子文档之间的关联访问。

  3. 数据聚合和分析:在数据分析场景下,我们可能需要对具有层级关系的数据进行聚合操作。父子索引类型使得这类聚合更加直观和高效。例如,可以很容易地统计每篇博客文章有多少评论,或者分析不同类型的博客文章下评论的分布情况。

  4. 文档间的引用完整性:在某些情况下,确保文档间的引用完整性是很重要的。通过使用父子关系,可以更容易地管理和维护这种完整性。例如,当删除一个父文档时,可以方便地找到并处理所有相关的子文档。

  5. 简化数据模型:在某些情况下,使用父子关系可以简化数据模型的设计。通过将相关联的数据组织在同一个索引中,并明确它们的层级关系,可以减少数据冗余和提高数据的一致性。

虽然父子索引类型提供了解决上述问题的有效手段,但它也带来了一些额外的复杂性和性能考虑。因此,在使用之前需要仔细评估数据模型和查询需求,以确定是否适合使用父子索引类型。

使用join字段的优势

join字段提供了一种在索引中明确定义父子文档之间关系的方法。使用join字段的优势在于:

  • 独立操作:可以独立地对子文档进行增加、删除和修改操作,而不需要对整个数组进行操作。
  • 性能优化:父子文档位于同一索引,减少了查询时的网络开销,因为不需要跨索引进行搜索。
  • 特殊搜索方式:支持以父搜子、以子搜父等特殊搜索方式,使得查询更加灵活和高效。
  • 聚集操作:join字段还支持children和parent聚集操作,用于对父子文档进行统计分析。

三、父子join关联的使用

3.1 创建带join字段的索引

创建一个新的索引,并定义好父子文档的映射关系。在映射中加入join字段,并设置好父子关系的名称。例如,我们可以定义一个订单索引,其中包含商品子文档。

PUT order-join
{
  "settings": {
    "number_of_shards": 5,
    "number_of_replicas": 1
  },
  "mappings": {
    "properties": {
      "orderid": { "type": "integer" },
      "buyer": { "type": "keyword" },
      "order_time": { "type": "date", "format": "yyyy-MM-dd HH:mm:ss" },
      "goodsid": { "type": "integer" },
      "goods_name": { "type": "keyword" },
      "price": { "type": "double" },
      "produce_time": { "type": "date", "format": "yyyy-MM-dd HH:mm:ss" },
      "my_join_field": {
        "type": "join",
        "relations": {
          "order": "goods"
        }
      }
    }
  }
}

3.2 添加父子文档

在添加文档时,需要明确指定文档的父子关系。父文档只需指定join字段的关系名称,而子文档则需指定父文档的主键和关系名称。

PUT order-join/_doc/1
{
  "orderid": "1",
  "buyer": "tom",
  "order_time": "2020-11-04 00:00:00",
  "my_join_field": {
    "name": "order"
  }
}

PUT order-join/_doc/2?routing=1
{
  "goodsid": "1",
  "goods_name": "milk",
  "price": 5.2,
  "produce_time": "2020-10-04 00:00:00",
  "my_join_field": {
    "name": "goods",
    "parent": "1"
  }
}

3.3 特殊搜索方式

利用join字段,可以实现一些特殊的搜索操作:

  • 以父搜子:通过父文档的属性来查询子文档。例如,我们可以查询所有属于特定买家的商品。

    POST order-join/_search
    {
      "query": {
        "has_parent": {
          "parent_type": "order",
          "query": {
            "term": {
              "buyer": {
                "value": "tom"
              }
            }
          }
        }
      }
    }
    
  • 以子搜父:通过子文档的属性来查询父文档。例如,我们可以查询所有包含特定商品的订单。

    POST order-join/_search
    {
      "query": {
        "has_child": {
          "type": "goods",
          "query": {
            "match_all": {}
          }
        }
      }
    }
    
  • 父文档主键搜索:通过父文档的主键值来查询所有关联的子文档。例如,我们可以查询订单号为1的所有商品。

    POST order-join/_search
    {
      "query": {
        "parent_id": {
          "type": "goods",
          "id": "1"
        }
      }
    }
    

3.4 聚集操作

join字段还支持children和parent聚集操作,用于对父子文档进行统计分析。

  • children聚集:统计每个父文档的子文档数据。例如,我们可以统计每个买家购买的商品名称和数量。

    POST order-join/_search
    {
      "query": {
        "match_all": {}
      },
      "aggs": {
        "orders": {
          "terms": {
            "field": "buyer",
            "size": 10
          },
          "aggs": {
            "goods_data": {
              "children": {
                "type": "goods"
              },
              "aggs": {
                "goods_name": {
                  "terms": {
                    "field": "goods_name",
                    "size": 10
                  }
                }
              }
            }
          }
        }
      }
    }
    
  • parent聚集:统计每个子文档的父文档数据。例如,我们可以统计每种商品的购买者信息。

    POST order-join/_search
    {
      "aggs": {
        "goods": {
          "terms": {
            "field": "goods_name",
            "size": 10
          },
          "aggs": {
            "goods_data": {
              "parent": {
                "type": "goods"
              },
              "aggs": {
                "orders": {
                  "terms": {
                    "field": "buyer",
                    "size": 10
                  }
                }
              }
            }
          }
        }
      }
    }
    

四、应用层关联数据

除了使用join字段,还可以在应用层通过外键字段来实现父子关联。这种方法需要为父文档和子文档分别建立索引,并在查询时进行多次请求。虽然这种方法在处理父子关系时可能不如join字段高效,但它提供了更多的灵活性。

五、注意事项和性能考虑

  • 性能影响:由于父子文档必须存储在同一个分片上,这可能会对索引的性能产生影响。当数据量非常大时,单个分片上的文档数量可能会增加,从而影响查询和索引性能。因此,在设计数据模型时需要谨慎考虑父子关系的使用。
  • 数据一致性:当更新或删除父子文档时,需要确保数据的一致性。Elasticsearch不会自动处理父子文档之间的一致性,因此需要应用程序逻辑来确保数据同步。

结语

Elasticsearch中的父子索引类型join是一个强大的工具,它允许我们在同一索引中创建具有层级关系的文档。通过正确使用join字段和相关的查询DSL,我们可以有效地表示和查询具有父子关系的数据模型。然而,在使用时需要注意性能影响和数据一致性等问题,并确保与当前Elasticsearch版本的兼容性。



听说...关注下面公众号的人都变牛了,纯技术,纯干货 !

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/543329.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

伺服系统中电机磁极偏角自学习的实现方案

一、 电机磁极偏角自学习原理简述 要知道磁极偏角,首先要明确的是磁极角,在我个人的理解里磁极角就是park和Ipark变换里所需的电角度,我们的矢量控制方法是定磁链的,就是要保证两相同步旋转坐标系的Id轴和三相静止坐标系的A轴要重…

自定义多数据源

多数据源 第一章 自定义多数据源 文章目录 多数据源前言一、先在配置文件中配置好多个数据源二、配置数据源的配置文件三、定义动态数据源配置1、自定义了Datasource,主要目的是为了在Spring容器中定义一个datasource的Bean,用于mybtais获取数据库连接使…

kali工具----网络映射器(Network Mapper)

识别活跃的主机 尝试渗透测试之前,必须先识别在这个目标网络内活跃的主机。在一个目标网络内,最简单的方法将是执行ping命令。当然,它可能被一个主机拒绝,也可能被接收。本节将介绍使用Nmap工具识别活跃的主机。 1、网络映射器工具…

【迅为iTOP-4412-linux 系统制作(4)】ADB 或者 TF 卡烧写测试

准备工作 编译生成的内核镜像uImage 和设备树 dtb 文件“exynos4412-itop-elite.dtb”已经可以使用了。 把编译生成的uimage和dtb文件。拷贝fastboot工具。官方的u-boot-iTOP-4412.bin 也拷贝到 platform-tools 文件夹目录内。system.img 也拷贝到 platform-tools 文件夹目录…

【Java EE】 IoC详解(Bean的存储)

文章目录 🎍Controller(控制器存储)🌸如何从Spring容器中获取对象(ApplicationContext)🌸获取bean对象的其他方式(BeanFactory)🌸Bean 命名约定🌸…

[ROS 系列学习教程] 建模与仿真 - Gazebo 与 URDF 建模介绍

ROS 系列学习教程(总目录) 本文目录 一、Gazebo 介绍二、URDF 建模介绍2.1 一个简单的实体2.2 rivz显示URDF模型2.3 保存与加载rviz配置2.4 launch文件快速启动2.5 package结构 由于种种原因,有时我们不能直接使用真实的机器人进行调试,这时就需要对机器…

Tomcat源码解析——源码环境搭建

一、源码下载 在进行源码阅读前,先下载源码包,这样便于做笔记和debug。 我所用的版本是Tomcat7.0.68, Tomcat7.0.68下载地址:Index of /dist/tomcat/tomcat-7/v7.0.68/src 所有Tomcat的源码包下载地址:Index of /dist/…

【C++庖丁解牛】哈希表/散列表的设计原理 | 哈希函数

🍁你好,我是 RO-BERRY 📗 致力于C、C、数据结构、TCP/IP、数据库等等一系列知识 🎄感谢你的陪伴与支持 ,故事既有了开头,就要画上一个完美的句号,让我们一起加油 目录 前言1.哈希概念2.哈希冲突…

每日一题(力扣)---从中序与后序遍历序列构造二叉树

思路 根据中序遍历和后序遍历的特性可知,后序遍历的最后一个元素为根元素。然后找到中序遍历中对应的序号。将中序遍历的划分为两部分,左边为左子树,右边为右子树。 方法 由思路可知,可以使用递归。递归函数的入口为划分的区间…

day57 判断子序列 不同的子序列 两个字符串的删除操作 编辑距离

题目1 392 判读子序列 题目链接 392 判断子序列 题意 判断字符串s是否为字符串t的子序列 (子序列的相对位置在原字符串中不改变) 就是求最长公共子序列的长度与字符串s的长度是否相等 动态规划 1)确定dp数组及下标i的含义 dp[i][j]…

二十款好用的屏幕录制,绿色绿色好用软件工具,云盘下载

本人收藏多年的屏幕录制工具,绿色的,你懂得的。。。。 二十款好用的屏幕录制,绿色绿色好用软件工具,值得收藏 下载地址: 链接:https://pan.baidu.com/s/1RPTlFfeap4TGMnDPgCEo-w?pwdmaky 提取码&#xff1…

C#简单工厂模式的实现

using System.Diagnostics.Metrics; using System.Runtime.InteropServices; using static 手写工厂模式.Program;namespace 手写工厂模式 {internal class Program{public interface eats {void eat();}//定义了一个接口public class rice : eats{public void eat() {Console.…

【Next】动态路由、加载 UI 和流式传输

动态路由 动态段作为 params 属性传递给 layout、page、route 和 generateMetadata 函数。 /app/blog/[slug]/page.tsx export default function Page({params}: {params:{slug:string}}) {return <h1>Slug Page -- {params.slug}</h1> };/app/shop/[...slug]/pa…

【C++成长记】C++入门 | 类和对象(上) |类的作用域、类的实例化、类的对象大小的计算、类成员函数的this指针

&#x1f40c;博主主页&#xff1a;&#x1f40c;​倔强的大蜗牛&#x1f40c;​ &#x1f4da;专栏分类&#xff1a;C❤️感谢大家点赞&#x1f44d;收藏⭐评论✍️ 目录 一、类的作用域 二、类的实例化 三、类对象模型 四、this指针 1、this指针的引出 2 this指针的特…

4.8-4.12算法刷题笔记

刷题 堆1. 堆排序2. 模拟堆 哈希表3. 模拟散列表4. 字符串哈希 DFS5. 排列数字6. n-皇后问题 2. BFS&#xff08;队列&#xff09;7. 字母迷宫8. 滑动谜题 3. 树与图的dfs9. 树的重心 4. 树与图的bfs(最短路)10. 图中点的层次( 无权最短路 ) 5. 拓扑排序11. 课程表 6. 朴素dijk…

C++系列-C++前言

什么是C C语言是结构化和模块化的语言&#xff0c;适合处理较小规模的程序&#xff0c;对于复杂的问题&#xff0c;规模较大的程序&#xff0c;需要高度的抽象和建模时&#xff0c;C语言则不合适&#xff0c;为了解决软件危机&#xff0c;20世纪80年代&#xff0c;计算机界提出…

iterations迭代列表

今天总结一下这个列表的迭代 情况1&#xff0c;两个列表的迭代 import itertoolsfor x1,x2 in itertools.product([1, 5, 8], [0.5, 4]):print((x1,x2))结果如下 情况2&#xff08;一个列表的迭代&#xff09; import itertools# for x1,x2 in itertools.product([1, 5, 8…

大数据产品有哪些分类?各类里知名大数据产品都有哪些?

随着互联网技术的持续进步和全球数字化转型的推进&#xff0c;我们正处于一个数据爆炸的时代。在这样的大背景下&#xff0c;大数据已经逐渐崭露头角&#xff0c;成为了推动各行各业发展的关键因素和核心资源。大数据不仅仅是指数据的规模巨大&#xff0c;更重要的是它蕴含的价…

人员聚集监测识别摄像机

随着科技的不断发展&#xff0c;人员聚集监测识别摄像机已经成为了现代社会安全管理的重要工具。这种摄像机能够对人员聚集的情况进行实时监测和识别&#xff0c;帮助相关部门及时发现和处理潜在的安全风险。 人员聚集监测识别摄像机可以通过高清晰度的摄像头和先进的人脸识别技…

Java实现短信发送并校验,华为云短信配合Redis实现发送与校验

Java实现短信发送并校验&#xff0c;华为云短信配合Redis实现发送与校验 安装sms4j和redis <dependency><groupId>org.dromara.sms4j</groupId><artifactId>sms4j-spring-boot-starter</artifactId><version>3.2.1</version> <…