【物联网】Kafka 数据采集

基础信息

组件名称 : kafka-connector
组件版本: 1.0.0
组件类型: 系统默认
状 态: 正式发布
组件描述:通用kafka连接网关,消费来自kafka的数据,并转发给下一个节点做相关的数据解析。

配置文件:

注: 配置文件仅供修改升级组件式利用,一般情况下对用户透明。无需做任何更改,除非用户需要手动维护组件心跳或通信端口时,一般情况下禁止修改。

df:
  component:
  	##全局参数
    name: tcp-connector
    type: 2                               #1:采集器;2:接收器;3:转换器;4:存储器;5:解析器;6:状态解析器:7:同步器;8:消息通知
    transportPort: 49096                  #内部akka
    heartbeatCron: 0/30 * * ? * * *       #网关心跳数据上报时间
    ##全局参数结束
    ##组件参数
    parameter:
      connection[0]:
        name: TCP服务端口号
        key: tcp.port
        required: true
        default-value: 16060
        input-type: input
        description: TCP服务占用的端口
        value-type: int
      base[0]:
        name: 数据包类型
        key: tcp.packet.type
        required: true
        default-value: 1
        value-type: int
        input-type: select
        select-option: 字符串类型|1,字节类型|2
      base[1]:
        name: 数据包固定分割字节数组ASCII值
        key: tcp.delimiter
        required: false
        default-value: 13,10
        input-type: input
        description: TCP数据包固定分割符十进制ASCII值,多个用英文,分割
        value-type: string
      base[2]:
        name: Byte类型数据包长度字节数
        key: tcp.length.field.length
        required: false
        default-value: 2
        input-type: input
        description: 整个Byte类型的TCP数据包,包长度字节段一共有几个字节,用于长度拆包模式
        value-type: int
      base[3]:
        name: Byte类型数据包长度数据段起始位置偏移
        key: tcp.length.field.offset
        required: false
        default-value: 0
        input-type: input
        description: 长度字节段在整个数据包中从起始位置的偏移,用于长度拆包模式
        value-type: int
      base[4]:
        name: Byte类型数据包长度含义
        key: tcp.length.meaning
        required: false
        default-value: 1
        input-type: select
        select-option: 长度字节后数据长度|1,整个TCP包长度|2
        description: 数据包中字节长度的含义,是长度字节后面的字节长度,还是整个TCP包的长度
        value-type: int
      advance[0]:
        name: 连接最大空闲时间秒数
        key: tcp.timeout.seconds
        required: false
        value-type: int
        default-value: 60
        input-type: input
        description: TCP连接最大空闲时间,单位秒,默认60秒
      advance[1]:
        name: TCP包每一帧最大字节数
        key: tcp.max.frame.length
        required: false
        value-type: int
        default-value: 2048
        input-type: input
        description: TCP包每一帧最大字节数,超过最大字节数会丢弃数据并关闭连接,默认2048

组件测试

针对所有网关,操作方式均为,拖动网关-》配置网关-》启动网关

  1. 配置网关

image.png

  1. 参数说明

image.png
image.png
image.png

  1. 启动网关

注意观察执行日志,确保网关正常运行,状态status 字段为1时表示正常运行中
image.png

  1. 测试验证

1)前提准备:
已经安装好kafka 节点并一正常启动,测试环境kafka信息如下:

IP: 192.168.3.195
PORT: 19092
用户/密码: NONE

2)配置参数
image.png
我们只关注到主要的配置信息。高级配置保持默认即可。
3)启动网关
确保kafka-connector已经正常启动image.png
通过kafka客户端直接发送测试数据:

/opt/kafka_2.13-3.3.1/bin
[develop@itserver01 bin]$ ./kafka-console-producer.sh --broker-list 192.168.3.195:19092 --topic test-topic

4)状态确认
使用TCP 测试工具连接tcp-connector并发送数据执行测试
观察tcp-connector网关日志信息确认是否成功
image.png
如果收到与发送的消息一致即配置成功。

注意:这里返回消息日志中大量的null,请不用关注,在整个架构设计中,我们数据发送的格式全都采用的统一的格式,而所有结构网关类型的组件上传的数据完全不关心数据格式,只负责转发数据,由其他对应的组件做相关的数据处理。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/487930.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

喜报 | 聚合科技荣获江苏省数字经济学会科学技术奖

近日,江苏省数字经济学会公布了2023年度江苏省数字经济学会科学技术奖获奖名单。本次在全省范围内共评选出科学技术进步奖、科学技术创新奖、优秀成果奖获奖项目共计19项。“聚合数据资产服务API平台”凭借其前沿的创新性和优秀的应用前景成功获得科学技术创新奖二等…

视频推拉流EasyDSS点播平台云端录像播放异常的问题排查与解决

视频推拉流EasyDSS视频直播点播平台可提供一站式的视频转码、点播、直播、视频推拉流、播放H.265视频等服务,搭配RTMP高清摄像头使用,可将无人机设备的实时流推送到平台上,实现无人机视频推流直播、巡检等应用。 有用户反馈,项目现…

2.7、创建列表(List)

概述 列表是一种复杂的容器,当列表项达到一定数量,内容超过屏幕大小时,可以自动提供滚动功能。它适合用于呈现同类数据类型或数据类型集,例如图片和文本。在列表中显示数据集合是许多应用程序中的常见要求(如通讯录、…

Apache Spark

一、Apache Spark 1、Spark简介 Apache Spark是用于大规模数据 (large-scala data) 处理的统一 (unified) 分析引擎。 Spark官网 Spark最早源于一篇论文Resilient Distributed Datasets: A Fault-Tolerant Abstraction for In-Memory Cluster Computing,该论文是由加州大学柏…

Harmony OS 网络编程 实验指南

netcat简介 netcat 是什么? netcat是一个非常强大的网络实用工具,可以用它来调试TCP/UDP应用程序; netcat 如何安装? Linux上可以使用发行版的包管理器安装,例如Debian/Ubuntu上: sudo apt-get instal…

cas学习2:idea里搭建cas项目

在上篇中介绍了cas服务在tomcat中怎么启动的及某j集成cas,这篇讲下idea怎么集成cas成一个项目,为后续的定制化开发做好铺垫。 1.下载CAS 模板 Overlay Template,我这里使用 Apereo CAS 5.3 版本,JDK需要1.8 地址:Git…

钡铼技术R40路由器助力构建无人值守的智能化污水处理厂

钡铼技术R40路由器作为智能化污水处理厂的关键网络设备,发挥着至关重要的作用,助力构建无人值守的智能化污水处理系统。在现代社会,污水处理是城市环境保护和可持续发展的重要组成部分,而智能化污水处理厂借助先进的技术和设备&am…

微信小程序wx.navigateTo无法跳转到Component组件问题解决。(共享元素动画必备)

关于Component构造器官方是有文档说明的,然后官方文档内部也给出了组件是可以通过像pages一样跳转的。但是官方文档缺少了必要的说明,会引起wx.navigateTo无法跳转到组件问题! 以下是官方文档截图: 解决方式: 组件创建…

4.2 循环语句loop,等差数列求和

汇编语言 1. 循环语句loop loop指令的格式是:loop 标号,CPU执行loop指令的时候,要进行两部操作 cx cx - 1;判断cx中的值,不为0则转至标号处执行程序,如果为0则向下执行 循环使用loop来实现,循环次数存…

flask_restful的基本使用

优势: Flask-Restful 是一个专门用来写 restful api 的一个插件。 使用它可以快速的集成restful api 接口功能。 在系统的纯api 的后台中,这个插件可以帮助我们节省很多时间。 缺点: 如果在普通的网站中,这个插件就没有优势了&…

技术文件分享 | 《基于倾斜摄影测量的城市级实景三维地理场景模型生产技术规程》.pdf

为提高利用倾斜摄影测量技术生产城市级实景三维地理场景模型成果水平,湖北省地理国情监测中心联合武汉大学、武汉大势智慧科技有限公司等单位制定了《基于倾斜摄影测量的城市级实景三维地理场景模型生产技术规程》,经湖北省市场监管局批准、备案,被收录为…

如何调用occtproxy放入自己的wpf文件

1.创建一个wpf程序 2.添加项目occtproxy.vcxproj 3.把该项目配置类型设为dll 4.添加引用 5.报错显示,这是因为还没有生成dll 6.把occtproxy设为启动项目运行,设定输出目录在该目录下,生成dll 7.再运行,即可

Oracle 控制文件详解

1、控制文件存储的数据信息 1)数据库名称和数据库唯一标识符(DBID) 2)创建数据库的时间戳 3)有关数据文件、联机重做日志文件、归档重做日志文件的信息 4)表空间信息 5)检查点信息 6)日志序列号…

tcp和udp分别是什么?udp和tcp的区别

TCP和UDP是计算机网络中常见的两种传输层协议,它们在实际应用中具有不同的特点和用途。本文将对TCP和UDP进行介绍,并分析它们之间的区别。 TCP和UDP分别是什么? TCP(Transmission Control Protocol) TCP是一种面向连…

Spring Boot | SpringBoo“开发入门“

目录 : 1.SpringBoot的“介绍”SpringBoot”概述” :SpringBoot”简介“SpringBoot的“优点” 2. SpringBoot入门程序环境准备使用 “Maven”方式构建SpringBoot 项目使用“Spring Initializr”方式构建Spring Boot 项目 3. “单元测试” 和“热部署”单元测试热部署…

微服务day07 -- 搜索引擎 ( 数据聚合 + 自动补全 + 数据同步 + ES集群 )

1.数据聚合 聚合(aggregations)可以让我们极其方便的实现对数据的统计、分析、运算。例如: 什么品牌的手机最受欢迎? 这些手机的平均价格、最高价格、最低价格? 这些手机每月的销售情况如何? 实现这些…

基于springboot的美食分享管理平台+数据库+部署文档+数据库表结构文档+免费远程调试

项目介绍: 基于springboot的美食分享管理平台。Javaee项目,springboot项目,采用M(model)V(view)C(controller)三层体系结构,通过SpringBoot MybatisBootstrap来实现。MyS…

Facebook是什么?有什么功能?如何利用Facebook运营?

Facebook,也常被人们称为“脸书”、“脸谱”等,是美国的社交网络服务及社会化媒体网站,拥有超过20亿的月活跃用户,对于众多商家而言,Facebook以其广泛的用户基础和强大的社交影响力,成为了一个理想的社媒营…

http和socks5代理哪个隐蔽性更强?

HTTP代理和SOCKS5代理各有其优缺点,但就隐蔽性而言,SOCKS5代理通常比HTTP代理更隐蔽。以下是它们的比较: HTTP代理: 透明性较高:HTTP代理在HTTP头中会透露原始客户端的IP地址,这使得它相对不太隐蔽。…

JetPack之Room入门

目录 一、简介1.1 主要组件1.2 三者关系 二、基础使用2.1 依赖导入2.2 Student 实体类定义2.3 StudentDao 操作接口类2.4 StudentDataBase 类2.5 RoomTestActivity 类 三、参考链接 一、简介 JetPack 中的 Room 是一个用于在 SQLite 数据库上提供抽象层的持久性库。它允许开发…