1 数据库
1.1 数据库类型
关系型数据库
关系型数据库是一个结构化的数据库,创建在关系模型(二维表格模型)基础上,一般面向于记录。
SQL语句(标准数据查询语句)就是一种基于关系型数据库的语言,用于执行对关系型数据库中数据的检索和操作
主流的关系型数据库包括 Oracle、MySQL、SQL、Server、Microsoft Access、DB2、PostgreSQL等
以上数据库在使用的时候必须先建库建表设计表结构,然后存储数据的时候按照表结构去存,如果数据与表结构不匹配就会存储失败。
非关系型数据库
NoSQL(NoSQL = not only SQL),意思是“不仅仅只是SQL”,时非关系型数据库的总称。
除了主流的关系型数据库外的数据库,都认为是非关系型。
不需要先建库建表定义数据存储表结构,每条记录都可以有不同的数据类型和字段个数(比如微信里的文字、图片、视频、文件)
主流的NoSQL数据库有 Redis、MongBD、Hbase、Memcached、ElasticSearch、TSDB等
1.2 关系型数据库和非关系型数据库的区别
1)数据存储方式不同
关系型和非关系型数据库的主要查查一式数据存储的方式。关系型数据天然就是表格式的,因此存储在数据表的行和列中。数据表可以彼此关联写作存储,也很容易提取数据。
非关系型数据不适合存储在数据表的行和列中,而是大块组合在一起。非关系型数据通常存储在数据集中,就像文档、键值对或者图结构。你的数据及其特性式选择数据存储和提取方式的首要影响因素。
2)扩展方式不同
SQL和NoSQL数据库最大的差可能是在扩展方式上,要支持日益增长的需求当然要扩展。
要支持更多并发量,SQL数据库时纵向扩展,也就是说提高处理能力,使用速度更快速的计算机,这样处理相同的数据集就更快乐。因为数据存储在关系表中,操作的性能瓶颈可能实际很多个表,这都需要通过提高计算机性能来克服。虽然SQL数据库有很大的扩展空间,但最终肯定会达到纵向扩展的上限。
而NoSQL数据库时横向扩展的。因此非关系型数据存储天然就是分布式的,NoSQL数据库的扩展可以通过资源池添加更多的普通的数据库服务器(节点)来分担负载。
3)对事务性的支持不同
关系型数据遵循ACID规则:原子性、一致性、隔离性、持久性
NoSQL数据库遵循BASE原则:基本可用、软/柔性事务、最终一致性
由于关系型数据的数据强一致性,所以对于事务的支持很好。关系型数据库支持对事务原子性细粒度控制,并且易于回滚事务。
NoSQL数据库时在CAP(一致性、可用性、分区容忍度)中任选两项,因为基于节点的分布式系统中,不坑你同时全部满足,所以对事务的支持不是很好。
区别类型 | SQL | NoSQL |
---|---|---|
存储结构 | 二维表格结构 | 不固定的,键对值、文档、索引、图形结构、时间序列等 |
扩展方式 | 纵向扩展(提升单机硬件性能) | 横向扩展(增加服务器节点数量) |
事务支持 | 基于ACID原则,事务控制更稳定,细粒度更高 | 基于BASE原则,稳定性和细粒度控制方面不如SQL |
典型代表 | MySQL、Oracle、SQL-Server、PostgreSQL | Redis、Memcached、MongDB、ElasticSearch、Prometheus |
1.3 非关系型数据库产生的背景
可用于应对 Web2.0 纯动态网站类型的三高问题(高并发、高性能、高可用)
(1)High performance——对数据库高并发读写需求 (2)Huge Storage——对海量数据高效存储与访问需求 (3)High Scalability && High Availability——对数据库高可扩展性与高可用性需求
关系型数据库和非关系型数据库都有各自的特点与应用场景,两者的紧密结合将会给Web2.0的数据库发展带来新的思路。让关系型数据库关注在关系上和对数据的一致性保障,非关系型数据库关注在存储和高效率上。例如,在读写分离的MySQL数据库环境中,可以把经常访问的数据存储在非关系型数据库中,提升访问速度。
1.4 总结
关系型数据库:
实例-->数据库-->表(table)-->记录行(row)、数据字段(column)
非关系型数据库:
实例-->数据库-->集合(collection)-->键值对(key-value) 非关系型数据库不需要手动建数据库和集合(表)。
2 Redis
2.1 Redis概述
Redis(远程字典服务器) 是一个开源的、使用 C 语言编写的 NoSQL 数据库。 Redis 基于内存运行并支持持久化,采用key-value(KV键值对)的存储形式,是目前分布式架构中不可或缺的一环。
默认端口号:TCP/6379
Redis服务器程序是单进程模型,也就是在一台服务器上可以同时启动多个Redis进程,Redis的实际处理速度则是完全依靠于主进程的执行效率。若在服务器上只运行一个Redis进程,当多个客户端同时访问时,服务器的处理能力是会有一定程度的下降;若在同一台服务器上开启多个Redis进程,Redis在提高并发处理能力的同时会给服务器的CPU造成很大压力。即:在实际生产环境中,需要根据实际的需求来决定开启多少个Redis进程。若对高并发要求更高一些,可能会考虑在同一台服务器上开启多个进程。若CPU资源比较紧张,采用单进程即可。
2.2 Redis的特点
(1)具有极高的数据读写速度:数据读取的速度最高可达到 110000 次/s,数据写入速度最高可达到 81000 次/s。
(2)支持丰富的数据类型:支持 key-value(键值对)、Strings(字符串)、Lists(双向列表)、Hashes(哈希表/散列)、Sets (集合[无序])及 Sorted Sets/Zset (有序集合)等数据类型操作。
三种特殊数据类型:HyperLogLogs(基数统计)、Bitmaps(位图)、geospatial(地理位置)
(3)支持数据的持久化:可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。
(4)原子性:Redis 所有操作都是原子性的。
(5)支持数据备份:即 master-salve 模式的数据备份。
2.3 Redis的应用场景
1)Redis作为基于内存运行的数据库,是一个高性能的缓存,一般应用在Session缓存、队列、排行榜、计数器、最近最热文章、最近最热评论、发布订阅等。
2)Redis 适用于数据实时性要求高、数据存储有过期和淘汰特征的、不需要持久化或者只需要保证弱一致性、逻辑简单的场景。
3)我们通常会将部分数据放入缓存中,来提高访问速度,然后数据库承担存储的工作。
2.4 哪些数据适合放入缓存中
●即时性。例如查询最新的物流状态信息。
●数据一致性要求不高。例如门店信息,修改后,数据库中已经改了,五分钟后缓存中才是最新的,但不影响功能使用。
●访问量大且更新频率不高,例如网站首页的广告信息,访问量大,但是不会经常变化。
2.5 Redis为什么这么快
1、Redis是一款纯内存结构,数据读写都在内存中完成的,避免了磁盘I/O等耗时操作。
2、Redis命令处理的核心模块为单线程,避免了多线程切换而消耗CPU,不用考虑各种锁的问题,不存在加锁、释放锁的操作,没有因为可能出现死锁而导致性能消耗。
3、采用了 I/O 多路复用机制,可以使线程处理更多的网络连接请求,大大提升了并发能力。
tip:在 Redis 6.0 中新增加的多线程也只是针对处理网络请求过程采用了多线性,而数据的读写命令,仍然是单线程处理的。
2.6 Redis部署
修改内核参数
<span style="background-color:#f8f8f8"><span style="color:#333333">vim /etc/sysctl.conf
vm.overcommit_memory = 1
net.core.somaxconn = 2048</span></span>
解压源码包编译并安装
<span style="background-color:#f8f8f8"><span style="color:#333333">tar zxvf /opt/redis-7.0.13.tar.gz -C /opt/
cd /opt/redis-7.0.13
make
make PREFIX=/usr/local/redis install</span></span>
创建redis工作目录,并从源码包中将配置文件复制到redis工作目录中,创建执行用户并授权
<span style="background-color:#f8f8f8"><span style="color:#333333">mkdir /usr/local/redis/{conf,log,data}
cp /opt/redis-7.0.13/redis.conf /usr/local/redis/conf/
useradd -M -s /sbin/nologin redis
chown -R redis.redis /usr/local/redis/</span></span>
配置环境变量
<span style="background-color:#f8f8f8"><span style="color:#333333">vim /etc/profile
PATH=$PATH:/usr/local/redis/bin #增加一行
source /etc/profile</span></span>
修改配置文件
<span style="background-color:#f8f8f8"><span style="color:#333333">vim /usr/local/redis/conf/redis.conf
bind 127.0.0.1 192.168.80.10 #87行,添加 监听的主机地址
protected-mode no #111行,将本机访问保护模式设置no。如果开启了,那么在没有设定bind ip且没有设密码的情况下,Redis只允许接受本机的响应
port 6379 #138行,Redis默认的监听6379端口
daemonize yes #309行,设置为守护进程,后台启动
pidfile /usr/local/redis/log/redis_6379.pid #341行,指定 PID 文件
logfile "/usr/local/redis/log/redis_6379.log" #354行,指定日志文件
dir /usr/local/redis/data #504行,指定持久化文件所在目录
requirepass abc123 #1037行,增加一行,设置redis密码</span></span>
定义systemd服务管理脚本
<span style="background-color:#f8f8f8"><span style="color:#333333">vim /usr/lib/systemd/system/redis-server.service
[Unit]
Description=Redis Server
After=network.target
[Service]
User=redis
Group=redis
Type=forking
TimeoutSec=0
PIDFile=/usr/local/redis/log/redis_6379.pid
ExecStart=/usr/local/redis/bin/redis-server /usr/local/redis/conf/redis.conf
ExecReload=/bin/kill -s HUP $MAINPID
ExecStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true
[Install]
WantedBy=multi-user.target</span></span>
启动服务并查看状态
<span style="background-color:#f8f8f8"><span style="color:#333333">systemctl start redis-server
systemctl enable redis-server
netstat -lntp | grep 6379</span></span>
3 Redis命令工具
3.1 查看目录下的命令工具
<span style="background-color:#f8f8f8"><span style="color:#333333">cd /usr/local/redis/bin
ls</span></span>
3.2 各个命令工具的语法和选项
redis-cli 命令行工具
语法:redis-cli -h host -p port [-a password]
选项 | 说明 |
---|---|
-h | 指定远程主机 |
-p | 指定Redis服务的端口号 |
-a | 指定密码,未设置数据库密码可以省略-a选项 |
若不添加任何选项表示,则使用 127.0.0.1:6379 连接本机上的 Redis 数据库
<span style="background-color:#f8f8f8"><span style="color:#333333">redis-cli -h 192.168.111.10 -p 6379 -a 'abc123' </span></span>
redis-benchmark 测试工具
redis-benchmark 是官方自带的 Redis 性能测试工具,可以有效的测试 Redis 服务的性能。
基本的测试语法:redis-benchmark [选项] [选项值]
选项 | 说明 |
---|---|
-h | 指定服务器主机名 |
-p | 指定服务器端口 |
-s | 指定服务器socket |
-c | 指定并发连接数 |
-n | 指定请求数 |
-d | 以字节的形式指定SET/GET值的数据大小 |
-k | 1=keep alive 0=reconnect |
-r | SET/GET/INCR(递增1) 使用随机key,SADD使用随机值 |
-P(大P) | 通过管道符传输<numreq>请求 |
-q | 强制退出redis,仅显示quert/sec值 |
--csv | 以CSV格式输出 |
-l | 生成循环,永久执行测试 |
-t | 仅运行以逗号分隔的测试命令列表 |
-l(大i) | ldle模式,仅打开N个idle连接并等待 |
向 IP 地址为 192.168.111.10 端口为 6379 的 Redis 服务器发送 100 个并发连接与 100000 个请求测试性能
<span style="background-color:#f8f8f8"><span style="color:#333333">redis-benchmark -h 192.168.111.10 -p 6379 -c 100 -n 100000 -a 'abc123'</span></span>
测试存取大小为 100 字节的数据包的性能
<span style="background-color:#f8f8f8"><span style="color:#333333"> redis-benchmark -h 192.168.111.10 -p 6379 -q -d 100</span></span>
测试本机上 Redis 服务在进行 set 与 lpush 操作时的性能
<span style="background-color:#f8f8f8"><span style="color:#333333">redis-benchmark -t set,lpush -n 100000 -q</span></span>
3.3 常用的Redis数据库命令
通用数据库命令
查询 key 对应的 value 值类型
type 键
查询符合规则的键值列表,通常情况可以结合*、?等选项来使用
*表示任意长度的任意字符
keys 键 *
?表示一个任意字符
keys 键 ?
??表示任意两个字符
keys 键 ??
判断键值是否存在 1表示存在,0表示不存在
exists 键
为已存在的key 设置过期时间,单位为秒
expire 键 过期时间
创建string类型的键并设置过期时间
setex 键 过期时间 值
查看 key 还有多少秒过期,-1表示永不过期,-2表示已过期
ttl 键
已有 key 进行重命名。(覆盖)
使用rename命令进行重命名时,无论目标key是否存在都进行重命名,且源key的值会覆盖目标key的值。在实际使用过程中,建议先用 exists 命令查看目标 key 是否存在,然后再决定是否执行 rename 命令,以避免覆盖重要数据。
rename 旧键 新键
对已有 key 进行重命名,并检测新名是否存在,如果目标 key 存在则不进行重命名。(不覆盖已存在的键)
renamenx 旧键 新键
统计当前库中键的总数
dbsize
设置/修改redis密码
config set requirepass '密码'
查看密码
config get requirepass
在redis里验证密码(一旦设置密码,必须先验证通过密码,否则所有操作不可用)
auth '密码'
切换库,默认库ID为 0~15
select 库ID
移动键到指定的库
move 键 库ID
清空当前库(慎用)
flushdb
清空所有库(慎用)
flushall
String类型数据
set:存放数据,命令格式为 set key value
get:获取数据,命令格式为 get key
删除当前数据库的指定 key
List类型数据
从右往左输入键数据
lpush 键名 数据1,数据2,数据3
lrange 键名 起始下标 终止下标
从左往右输入数据
rpush 键名 数据1,数据2,数据3
lrange 键名 起始下标 终止下标
删除string类型的单个键元素
lrem 键 元素个数 元素值(删除2个为1的值)
Hash类型数据
创建键名键值
hset 键名 字段1 值1 字段2 值2
查看键名 字段
hget 键名 字段
删除键名字段
hdel 键名 字段
查看所有hash类型的键
hgetall 键
仅显示hash类型的键名不显示值
hkeys 键
仅显示hash类型的键值不显示键名
删除hash类型的键单个元素
Set类型数据
创建set类型的键
sadd 键 值1 值2 值3 ....