Kafka分布式数据处理平台

目录

一.消息队列基本介绍

1.为什么需要消息队列

2.使用消息队列的好处

2.1 解耦

耦合(非解耦)

解耦

2.2 可恢复性

2.3 缓冲

2.4 灵活性 & 峰值处理能力

2.5 异步通信

3.消息队列的两种模式

3.1 点对点模式

3.2 发布/订阅模式

二.Kafka基本介绍

1.Kafka是什么?

2.Kafka的特性

3.Kafka系统架构

3.1 Broker(服务代理节点)

3.2 Producer(生产者)

3.3 Consumer(消费者)

3.4 Consumer Group(消费组)

3.5 ZooKeeper

3.6 Topic(主题)

3.7 Partition(分区)

3.8 Replica(副本)

3.9 Leader and Follower

3.10 Offset(偏移量)

三.部署ZooKeeper+Kafka集群

1.环境准备

2.下载安装安装包

​编辑

3.修改配置文件

4.设置环境变量

5.配置ZooKeeper启动脚本

​编辑6.设置开机自启并启动

7.Kafka命令行操作

7.1 创建topic

7.2 查看当前服务器中的所有topic

7.3 查看某个topic的详情

7.4 发布消息

7.5 消费消息

7.6 修改分区数

7.7 删除topic


一.消息队列基本介绍

1.为什么需要消息队列

主要原因是由于在高并发环境下,同步请求来不及处理,请求往往会发生阻塞。比如大量的请求并发访问数据库,导致行锁表锁,最后请求线程会堆积过多, 从而触发 too many connection 错误, 引发雪崩效应。
我们使用消息队列,通过异步处理请求,从而缓解系统的压力。消息队列常应用于异步处理,流量削峰,应用解耦,消息通讯等场景当前比较常见的 MQ 中间件有 ActiveMQ、RabbitMQ、RocketMQ、Kafka 等。

2.使用消息队列的好处

2.1 解耦

允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束。

耦合(非解耦)
  • 耦合是指两个或两个以上的体系或两种运动形式间通过相互作用而彼此影响以至联合起来的现象。
  • 在软件工程中,对象之间的耦合度就是对象之间的依赖性。对象之间的耦合越高,维护成本越高,因此对象的设计应使类和构件之间的耦合最小。
  • 分类:有软硬件之间的耦合,还有软件各模块之间的耦合。耦合性是程序结构中各个模块之间相互关联的度量。它取决于各个模块之间的接口的复杂程度、调用模块的方式以及哪些信息通过接口。
解耦
  • 解耦,字面意思就是解除耦合关系。
  • 在软件工程中,降低耦合度即可以理解为解耦,模块间有依赖关系必然存在耦合,理论上的绝对零耦合是做不到的,但可以通过一些现有的方法将耦合度降至最低。
  • 设计的核心思想:尽可能减少代码耦合,如果发现代码耦合,就要采取解耦技术。让数据模型,业务逻辑和视图显示三层之间彼此降低耦合,把关联依赖降到最低,而不至于牵一发而动全身。原则就是A功能的代码不要写在B的功能代码中,如果两者之间需要交互,可以通过接口,通过消息,甚至可以引入框架,但总之就是不要直接交叉写。
  • 观察者模式:观察者模式存在的意义就是「解耦」,它使观察者和被观察者的逻辑不再搅在一起,而是彼此独立、互不依赖。比如网易新闻的夜间模式,当用户切换成夜间模式之后,被观察者会通知所有的观察者「设置改变了,大家快蒙上遮罩吧」。QQ消息推送来了之后,既要在通知栏上弹个推送,又要在桌面上标个小红点,也是观察者与被观察者的巧妙配合。

2.2 可恢复性

系统的一部分组件失效时,不会影响到整个系统。消息队列降低了进程间的耦合度,所以即使一个处理消息的进程挂掉,加入队列中的消息仍然可以在系统恢复后被处理。

2.3 缓冲

有助于控制和优化数据流经过系统的速度,解决生产消息和消费消息的处理速度不一致的情况。

2.4 灵活性 & 峰值处理能力

在访问量剧增的情况下,应用仍然需要继续发挥作用,但是这样的突发流量并不常见。如果为以能处理这类峰值访问为标准来投入资源随时待命无疑是巨大的浪费。使用消息队列能够使关键组件顶住突发的访问压力,而不会因为突发的超负荷的请求而完全崩溃。

2.5 异步通信

很多时候,用户不想也不需要立即处理消息。消息队列提供了异步处理机制,允许用户把一个消息放入队列,但并不立即处理它。想向队列中放入多少消息就放多少,然后在需要的时候再去处理它们。

  • 同步是指:发送方发出数据后,等接收方发回响应以后才发下一个数据包的通讯方式。  
  • 异步是指:发送方发出数据后,不等接收方发回响应,接着发送下个数据包的通讯方式

3.消息队列的两种模式

3.1 点对点模式

一对一,消费者主动拉取数据,消息收到后消息清除

消息生产者生产消息发送到消息队列中, 然后消息消费者从消息队列中取出并且消费消息。 消息被消费以后, 消息队列中不再有存储,所以消息消费者不可能消费到已经被消费的消息。消息队列支持存在多个消费者, 但是对一个消息而言,只会有一个消费者可以消费。

  • 每个消息只有一个接收者(Consumer)(即一旦被消费,消息就不再在消息队列中)

  • 发送者和接收者间没有依赖性,发送者发送消息之后,不管有没有接收者在运行,都不会影响到发送者下次发送消息

  • 接收者在成功接收消息之后需向队列应答成功,以便消息队列删除当前接收的消息

3.2 发布/订阅模式

一对多, 又叫观察者模式,消费者消费数据之后不会清除消息

  • 每个消息可以有多个订阅者

  • 发布者和订阅者之间有时间上的依赖性。针对某个主题(Topic)的订阅者,它必须创建一个订阅者之后,才能消费发布者的消息

  • 为了消费消息,订阅者需要提前订阅该角色主题,并保持在线运行

二.Kafka基本介绍

1.Kafka是什么?

Kafka 是一个分布式的基于发布/订阅模式的消息队列(MQ,Message Queue),主要应用于大数据实时处理领域。
最初由 Linkedin 公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于 Zookeeper 协调的分布式消息中间件系统,它的最大的特性就是可以实时的处理大量数据以满足各种需求场景,比如基于 hadoop 的批处理系统、低延迟的实时系统、Spark/Flink 流式处理引擎,nginx 访问日志,消息服务等等,用 scala 语言编写,Linkedin 于 2010 年贡献给了 Apache 基金会并成为顶级开源项目。

2.Kafka的特性

  • 高吞吐量、低延迟
    Kafka 每秒可以处理几十万条消息,它的延迟最低只有几毫秒。每个 topic 可以分多个 Partition,Consumer Group 对 Partition 进行消费操作,提高负载均衡能力和消费能力。

  • 可扩展性
    kafka 集群支持热扩展

  • 持久性、可靠性
    消息被持久化到本地磁盘,并且支持数据备份防止数据丢失

  • 容错性
    允许集群中节点失败(多副本情况下,若副本数量为 n,则允许 n-1 个节点失败)

  • 高并发
    支持数干个客户端同时读写

3.Kafka系统架构

  1. 生产者生产数据传给broker即kafka服务器集群
  2. kafka集群将数据存储在topic主题中,每个topic主题中有多个分片(分片做了备份在其他topic)
  3. 分片中存储数据,kafka集群注册在zookeeper中,zookeeper通知消费者kafka服务器在线列表
  4. 消费者收到zookeeper通知的在线列表,从broker中拉取数据
  5. 消费者保存偏移量到zookeeper中,以便记录自己宕机消费到什么地方

3.1 Broker(服务代理节点)

  • 服务代理节点,其实就是一个kafka实例或服务节点,多个broker构成了kafka集群
  • 一台 kafka 服务器就是一个 broker。一个集群由多个 broker 组成。一个 broker 可以容纳多个 topic

3.2 Producer(生产者)

  1. 生产者,也就是写入消息的一方,将消息写入broker中
  2. 即数据的发布者,该角色将消息 push 发布到 Kafka 的 topic 中
  3. broker 接收到生产者发送的消息后,broker 将该消息追加到当前用于追加数据的 segment 文件中
  4. 生产者发送的消息,存储到一个 partition 中,生产者也可以指定数据存储的 partition

3.3 Consumer(消费者)

  • 消费者,也就是读取消息的一方,从broker中pull 拉取数据
  • 可以消费多个 topic 中的数据

3.4 Consumer Group(消费组

  • 消费者组,由多个 consumer 组成
  • 所有的消费者都属于某个消费者组,即消费者组是逻辑上的一个订阅者。可为每个消费者指定组名,若不指定组名则属于默认的组
  • 将多个消费者集中到一起去处理某一个 Topic 的数据,可以更快的提高数据的消费能力
  • 消费者组内每个消费者负责消费不同分区的数据,一个分区只能由一个组内消费者消费,防止数据被重复读取
  • 消费者组之间互不影响
  • 消费组。一个或多个消费者构成一个消费组,不同的消费组可以订阅同一个主题的消息且互不影响

3.5 ZooKeeper

  • kafka使用zookeeper来管理集群的元数据 meta 信息,以及控制器的选举等操作
  • 由于 consumer 在消费过程中可能会出现断电宕机等故障,consumer 恢复后,需要从故障前的位置的继续消费,所以 consumer 需要实时记录自己消费到了哪个 offset,以便故障恢复后继续消费
  • zookeeper的作用就是,生产者push数据到kafka集群,就必须要找到kafka集群的节点在哪里,这些都是通过zookeeper去寻找的。消费者消费哪一条数据,也需要zookeeper的支持,从zookeeper获得offset,offset记录上一次消费的数据消费到哪里,这样就可以接着下一条数据进行消费

3.6 Topic(主题

  • 可以理解为一个队列,生产者和消费者面向的都是一个 topic。
  • 类似于数据库的表名或者 ES 的 index
  • 物理上不同 topic 的消息分开存储

3.7 Partition(分区

  • 分区,同一个主题下的消息还可以继续分成多个分区,一个分区只属于一个主题
  • 为了实现扩展性,一个非常大的 topic 可以分布到多个 broker(即服务器)上,一个 topic 可以分割为一个或多个 partition,每个 partition 是一个有序的队列。Kafka 只保证 partition 内的记录是有序的,而不保证 topic 中不同 partition 的顺序
  • 每个 topic 至少有一个 partition,当生产者产生数据的时候,会根据分配策略选择分区,然后将消息追加到指定的分区的队列末尾

Partation 数据路由规则:

1.指定了 patition,则直接使用
2.未指定 patition 但指定 key(相当于消息中某个属性),通过对 key 的 value 进行 hash 取模,选出一个 patition
3.patition 和 key 都未指定,使用轮询选出一个 patition

每条消息都会有一个自增的编号,用于标识消息的偏移量,标识顺序从 0 开始。

每个 partition 中的数据使用多个 segment 文件存储。

如果 topic 有多个 partition,消费数据时就不能保证数据的顺序。严格保证消息的消费顺序的场景下(例如商品秒杀、 抢红包),需要将 partition 数目设为 1。

  • broker 存储 topic 的数据。如果某 topic 有 N 个 partition,集群有 N 个 broker,那么每个 broker 存储该 topic 的一个 partition。
  • 如果某 topic 有 N 个 partition,集群有 (N+M) 个 broker,那么其中有 N 个 broker 存储 topic 的一个 partition, 剩下的 M 个 broker 不存储该 topic 的 partition 数据。
  • 如果某 topic 有 N 个 partition,集群中 broker 数目少于 N 个,那么一个 broker 存储该 topic 的一个或多个 partition。在实际生产环境中,尽量避免这种情况的发生,这种情况容易导致 Kafka 集群数据不均衡

3.8 Replica(副本

  • 副本,一个分区可以有多个副本来提高容灾性
  • 为保证集群中的某个节点发生故障时,该节点上的 partition 数据不丢失,且 kafka 仍然能够继续工作,kafka 提供了副本机制,一个 topic 的每个分区都有若干个副本,一个 leader 和若干个 follower

3.9 Leader and Follower

  • 分区有了多个副本,那么就需要有同步方式。kafka使用一主多从进行消息同步,主副本提供读写的能力,而从副本不提供读写,仅仅作为主副本的备份
  • 每个 partition 有多个副本,其中有且仅有一个作为 Leader,Leader 是当前负责数据的读写的 partition
  • Follower 跟随 Leader,所有写请求都通过 Leader 路由,数据变更会广播给所有 Follower,Follower 与 Leader 保持数据同步。Follower 只负责备份,不负责数据的读写。
  • 如果 Leader 故障,则从 Follower 中选举出一个新的 Leader。
  • 当 Follower 挂掉、卡住或者同步太慢,Leader 会把这个 Follower 从 ISR(Leader 维护的一个和 Leader 保持同步的 Follower 集合) 列表中删除,重新创建一个 Follower

3.10 Offset(偏移量)

  • 可以唯一的标识一条消息,分区中的每一条消息都有一个所在分区的偏移量,这个偏移量唯一标识了该消息在当前这个分区的位置,并保证了在这个分区的顺序性,不过不保证跨分区的顺序性
  • 偏移量决定读取数据的位置,不会有线程安全的问题,消费者通过偏移量来决定下次读取的消息(即消费位置)
  • 消息被消费之后,并不被马上删除,这样多个业务就可以重复使用 Kafka 的消息
  • 某一个业务也可以通过修改偏移量达到重新读取消息的目的,偏移量由用户控制
  • 消息最终还是会被删除的,默认生命周期为 1 周(7*24小时)

三.部署ZooKeeper+Kafka集群

1.环境准备

服务器类型IP地址
Zookeeper服务器1192.168.21.10
Zookeeper服务器2192.168.21.30
Zookeeper服务器3192.168.21.40

2.下载安装安装包

1. #下载安装包
cd /opt
wget https://mirrors.tuna.tsinghua.edu.cn/apache/kafka/2.7.1/kafka_2.13-2.7.1.tgz
 
1.1 #有压缩包就直接拖进来
cd /opt
rz -E
 
2. #安装Kafka
tar zxvf kafka_2.13-2.7.1.tgz
mv kafka_2.13-2.7.1 /usr/local/kafka

3.修改配置文件

1. #移动并将配置文件进行备份
cd /usr/local/kafka/config/
cp server.properties{,.bak}
 
2. #修改
vim server.properties
-------------------------------------------
broker.id=0                           
#21行,broker的全局唯一编号,每个broker不能重复,因此要在其他机器上配置 broker.id=1、broker.id=2
 
listeners=PLAINTEXT://192.168.21.10:9092    
#31行,指定监听的IP和端口,如果修改每个broker的IP需区分开来,也可保持默认配置不用修改
 
num.network.threads=3    
#42行,broker 处理网络请求的线程数量,一般情况下不需要去修改
 
num.io.threads=8         
#45行,用来处理磁盘IO的线程数量,数值应该大于硬盘数
 
socket.send.buffer.bytes=102400       #48行,发送套接字的缓冲区大小
 
socket.receive.buffer.bytes=102400    #51行,接收套接字的缓冲区大小
 
socket.request.max.bytes=104857600    #54行,请求套接字的缓冲区大小
 
log.dirs=/usr/local/kafka/logs        #60行,kafka运行日志存放的路径,也是数据存放的路径
 
num.partitions=1    
#65行,topic在当前broker上的默认分区个数,会被topic创建时的指定参数覆盖
 
num.recovery.threads.per.data.dir=1    #69行,用来恢复和清理data下数据的线程数量
 
log.retention.hours=168    
#103行,segment文件(数据文件)保留的最长时间,单位为小时,默认为7天,超时将被删除
 
log.segment.bytes=1073741824    
#110行,一个segment文件最大的大小,默认为 1G,超出将新建一个新的segment文件
 
zookeeper.connect=192.168.21.10:2181,192.168.21.30:2181,192.168.21.40:2181    
#123行,配置连接Zookeeper集群地址
------------------------------------------------

4.设置环境变量

1. #修改环境变量
vim /etc/profile
----------------------------------------
export KAFKA_HOME=/usr/local/kafka
export PATH=$PATH:$KAFKA_HOME/bin
-----------------------------------------
 
2. #刷新配置文件
source /etc/profile
 
3. #查看环境变量
echo $PATN

5.配置ZooKeeper启动脚本

vim /etc/init.d/kafka
------------------------------------------------
#!/bin/bash
#chkconfig:2345 22 88
#description:Kafka Service Control Script
KAFKA_HOME='/usr/local/kafka'
case $1 in
start)
	echo "---------- Kafka 启动 ------------"
	${KAFKA_HOME}/bin/kafka-server-start.sh -daemon ${KAFKA_HOME}/config/server.properties
;;
stop)
	echo "---------- Kafka 停止 ------------"
	${KAFKA_HOME}/bin/kafka-server-stop.sh
;;
restart)
	$0 stop
	$0 start
;;
status)
	echo "---------- Kafka 状态 ------------"
	count=$(ps -ef | grep kafka | egrep -cv "grep|$$")
	if [ "$count" -eq 0 ];then
        echo "kafka is not running"
    else
        echo "kafka is running"
    fi
;;
*)
    echo "Usage: $0 {start|stop|restart|status}"
esac
------------------------------------------------------------------

6.设置开机自启并启动

1. #设置开机自启
chmod +x /etc/init.d/kafka
chkconfig --add kafka
 
2. #分别启动 Kafka
service kafka start

7.Kafka命令行操作

7.1 创建topic

kafka-topics.sh --create --zookeeper 192.168.21.10:2181,192.168.21.30:2181,192.168.21.40:2181 --replication-factor 2 --partitions 3 --topic test
 
############################################
--zookeeper:定义 zookeeper 集群服务器地址,如果有多个 IP 地址使用逗号分割,一般使用一个 IP 即可
--replication-factor:定义分区副本数,1 代表单副本,建议为 2 
--partitions:定义分区数 
--topic:定义 topic 名称

7.2 查看当前服务器中的所有topic

kafka-topics.sh  --describe --zookeeper 192.168.21.10:2181,192.168.21.30:2181,192.168.21.40:2181

7.3 查看某个topic的详情

kafka-topics.sh  --describe --zookeeper 192.168.21.10:2181,192.168.21.30:2181,192.168.21.40:2181

7.4 发布消息

kafka-console-producer.sh --broker-list 192.168.21.10:9092,192.168.21.30:9092,192.168.21.40:9092  --topic test

7.5 消费消息

kafka-console-consumer.sh --bootstrap-server 192.168.21.10:9092,192.168.21.30:9092,192.168.21.40:9092 --topic test --from-beginning
#--from-beginning:会把主题中以往所有的数据都读取出来

7.6 修改分区数

kafka-topics.sh --zookeeper 192.168.21.10:2181,192.168.21.30:2181,192.168.21.40:2181 --alter --topic test --partitions 6

7.7 删除topic

kafka-topics.sh --delete --zookeeper 192.168.21.10:2181,192.168.21.30:2181,192.168.21.40:2181 --topic test

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/544189.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

【脚本】多功能Ubuntu临时授予用户sudo权限管理工具

转载请注明出处:小锋学长生活大爆炸[xfxuezhagn.cn] 设计原理和初衷可以看这里:【技巧】Ubuntu临时授予用户sudo权限,并在一定时间后自动撤销_ubuntu jianshao sudo-CSDN博客文章浏览阅读404次。非常实用_ubuntu jianshao sudohttps://blog.c…

# 达梦sql查询 Sql 优化

达梦sql查询 Sql 优化 文章目录 达梦sql查询 Sql 优化注意点测试数据单表查询 Sort 语句优化优化过程 多表关联SORT 优化函数索引的使用 注意点 关于优化过程中工具的选用,推荐使用自带的DM Manage,其它工具在查看执行计划等时候不明确在执行计划中命中…

Echarts简单的多表联动效果和添加水印和按钮切换数据效果

多表联动 多表联动效果指的是在多个表格之间建立一种交互关系,以便它们之间的操作或选择能够相互影响。通常情况下,多表联动效果可以通过以下方式之一实现: 数据关联: 当在一个表格中选择或操作某些数据时,另一个表格…

【opencv】示例-stiching.cpp 图像拼接

#include "opencv2/imgcodecs.hpp" // 导入opencv图像编码功能库 #include "opencv2/highgui.hpp" // 导入opencv高层用户界面功能库 #include "opencv2/stitching.hpp" // 导入opencv图像拼接功能库#include <iostream> // 导入输入输出…

Tool:VRAM的简介、查询电脑VRAM的常用方法

Tool&#xff1a;VRAM的简介、查询电脑VRAM的常用方法 目录 VRAM的简介 查询电脑VRAM的常用方法 1、对于Windows系统 T1、设置-系统-显示查询法 T2、使用 DirectX 诊断工具&#xff1a; T3、使用系统信息工具&#xff1a; 2、对于Linux系统 T1、使用nvidia-smi命令&…

IO流基本流

目录 什么是IO流 IO流的体系 字节流 FileOutputStream FileInputStream 字符集 字符流 FileReader FileWriter 字节流和字符流的使用场景 什么是IO流 内存不能永久化存储,程序停止,数据丢失,所以要添加一个存档功能,存储到硬盘的文件,我们要知道文件在哪里和如何传…

Java实现二叉树(下)

1.前言 http://t.csdnimg.cn/lO4S7 在前文我们已经简单的讲解了二叉树的基本概念&#xff0c;本文将讲解具体的实现 2.基本功能的实现 2.1获取树中节点个数 public int size(TreeNode root){if(rootnull){return 0;}int retsize(root.left)size(root.right)1;return ret;}p…

Python 全栈 Web 应用模板:成熟架构,急速开发 | 开源日报 No.223

tiangolo/full-stack-fastapi-template Stars: 15.6k License: MIT full-stack-fastapi-template 是一个现代化的全栈 Web 应用模板。 使用 FastAPI 构建 Python 后端 API。使用 SQLModel 进行 Python SQL 数据库交互&#xff08;ORM&#xff09;。Pydantic 用于数据验证和设…

excel里如何的科学计数法的数字转换成数值?

比如下图&#xff0c;要想把它们转换成3250跟1780&#xff0c;有什么快捷的办法吗&#xff1f; 科学计数法在excel里的格式&#xff0c;与我们常规在数学上写的有差异。这个转换可以这样做&#xff1a; 1.转换后的效果&#xff1a; 2.问题分析 题目中所附截图&#xff0c;单元…

HTML重要标签重点及属性(表格表单列表)——之转生在异世界学前端

表格标签 table是用于定义表格的标签 tr是用于定义表格的行 td是用来定义表格的列&#xff0c;th是表头一般只有一个表头会加粗 表格属性border是设置边框值为1;1是有边框&#xff0c; align设置居中对齐方式center&#xff0c;left&#xff0c;right cellpadding设置文字…

Linux操作系统中关于用户管理的操作

创建新用户 useradd 【选项】 用户名 在/etc/passwd中以追加的方式在passwd的最后一行添加用户信息。 可以使用命令tail -n 1/etc/passwd查看文件的最后一行内容。 ls /home/首先/home/这是普通用户的家目录&#xff0c; 在/home/下会有一个跟用户名同名的家目录&#xf…

Arrow, 一个六边形的 Python 时间库

文章目录 Arrow, 一个六边形的 Python 时间库第一部分&#xff1a;背景介绍第二部分&#xff1a;库是什么&#xff1f;第三部分&#xff1a;如何安装这个库&#xff1f;第四部分&#xff1a;库函数使用方法第五部分&#xff1a;场景应用第六部分&#xff1a;常见Bug及解决方案第…

Mac 软件清单

~自留备用~ Macbook用了几年之后, 512G的内置硬盘有些紧张了, 这几天总是提示空间不足, 就重装了下系统, 重装之后竟然不记得有些软件的名字和下载链接, 特此记录 Office 办公套件 直接从微软官网下载Office 安装包https://officecdnmac.microsoft.com/pr/C1297A47-86C4-4C1F…

前端三剑客 —— JavaScript (第六节)

目录 内容回顾 BOM编程 DOM编程* document对象 document对象的属性 document对象的方法 DOM对象节点 操作DOM对象内容 操作DOM对象的属性 --- DOM对象.属性名称 --- DOM对象[属性名称] --- 调用系统API &#xff08;Application Program interface&#xff09;&#…

汇编语言知识点整理(应付考试专用,想学习找其他的)

1 基础知识 1.1 信息在计算机内部的表示和存储 1.1.1 信息存储的基本概念 信息在计算机内部是以二进制数据的形式在存储器中存取的。介绍两个基本概念&#xff1a; 位&#xff08;Bit&#xff09; 计算机中最小的数据单位&#xff0c;一位有0、1两状态。Bit是计算机中最小…

对常见FTP客户端/服务器的调查与分析

前言 主要是想看看常见的服务器和客户端是如何实现协议中要求的功能的&#xff0c;。 比如RF959要求的记录结构&#xff08;Record Structure&#xff09;、页结构&#xff08;Page Structure&#xff09;、Block Mode、Compress Mode&#xff0c;看起来就很抽象。 实测发现…

【算法】回溯:与递归,dfs的同质与分别,剪枝与恢复现场的详细理解,n皇后的回溯解法及算法复杂度分析。

目录 ​编辑 1.什么是回溯 2.关于剪枝 3.关于恢复现场 4.题目&#xff1a;二叉树的所有路径&#xff08;凸显恢复现场&#xff1a;切实感受回溯与深搜&#xff09; 问题分析 ①函数设置为&#xff1a;void Dfs(root) ②函数设置为&#xff1a;void Dfs(root,path) 解题思想&…

Day101:漏洞发现-漏扫项目篇NucleiYakitGobyAfrogXrayAwvs联动中转被动

目录 特征类-三方Poc调用&模版Poc调用 案例1&#xff1a;单点对某特征点进行安全评估 Goby-综合类 Nuclei-较综合类 Afrog-特征类 Yakit-可特征可综合 案例2&#xff1a;新型对某特征点进行安全评估 综合类-主动漏扫&中转联动&被动联动 案例1&#xff1a;…

给自己的机器人部件安装单目摄像头并实现gazebo仿真功能

手术执行器添加摄像头 手术执行器文件夹surgical_new内容展示如何添加单目摄像头下载现成的机器人环境文件启动仿真环境 手术执行器文件夹surgical_new内容展示 进入src文件夹下选择进入vision_obliquity文件夹 选择launch 有两个可用gazebo中rviz展示的launch文件&#xff0…

当我们使用git 上传码云的时候报错:Push rejected Push to origin/master was rejected

在我们推送成果去git&#xff08;码云&#xff09;的过程中报错&#xff1a;Push rejected Push to origin/master was rejected 这个问题是我们在推的时候被拒绝了 控制台报错&#xff1a; 18:46:19.665: [zengqingqingandluoxuwen] git -c credential.helper -c core.quote…