麒麟v10 上部署 TiDB v5.1.2 生产环境优化实践
490
2023-05-07
学会这15点，让你分分钟拿下Redis数据库
学会这15点，让你分分钟拿下Redis数据库
1、Redis简介
REmote DIctionary Server(Redis) 是一个由Salvatore Sanfilippo写的key-value存储系统。Redis是一个开源的使用ANSI C语言编写、遵守BSD协议、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库，并提供多种语言的API。它通常被称为数据结构服务器，因为值（value）可以是 字符串(String), 哈希(Map), 列表(list), 集合(sets) 和 有序集合(sorted sets)等类型。
大家都知道了redis是基于key-value的no sql数据库，因此，先来了解一下关于key相关的知识点。
（1）任何二进制的序列都可以作为key使用
（2）Redis有统一的规则来设计key
（3）对key-value允许的最大长度是512MB
2、支持的语言
ActionScript Bash C C# C++ Clojure Common Lisp Crystal D Dart Elixir emacs lisp Erlang Fancy gawk GNU Prolog Go Haskell Haxe Io Java Javascript Julia Lua Matlab mruby Nim Node.js Objective-C OCaml Pascal Perl PHP Pure Data Python R Racket Rebol Ruby Rust Scala Scheme Smalltalk Swift Tcl VB VCL
3、Redis的应用场景到底有哪些？？
（1）最常用的就是会话缓存
（2）消息队列，比如支付
（3）活动排行榜或计数
（4）发布、订阅消息(消息通知)
（5）商品列表、评论列表等
4、Redis安装
关于redis安装与相关的知识点介绍请参考 Nosql数据库服务之redis
安装的大概步骤如下：
Redis是c语言开发的，安装redis需要c语言的编译环境
如果没有gcc需要在线安装：yum install gcc-c++
第二步：解压缩redis：tar zxvf redis-3.0.0.tar.gz
第三步：编译。进入redis源码目录(cd redis-3.0.0)。执行 make
第四步：安装。make install PREFIX=/usr/local/redis
#PREFIX参数指定redis的安装目录
5、Redis数据类型
Redis一共支持五种数据类型
string(字符串)hash(哈希)list(列表)set(集合)zset（sorted set 有序集合）
string(字符串)
它是redis最基本的数据类型，一个key对应一个value，需要注意是一个键值最大存储512MB。
127.0.0.1:6379> set key "hello world" OK 127.0.0.1:6379> get key "hello world" 127.0.0.1:6379> getset key "nihao" "hello world" 127.0.0.1:6379> mset key1 "hi" key2 "nihao" key3 "hello" OK 127.0.0.1:6379> get key1 "hi" 127.0.0.1:6379> get key2 "nihao" 127.0.0.1:6379> get key3 "hello"
相关命令介绍
set 为一个Key设置value（值）
get 获得某个key对应的value（值）
getset 为一个Key设置value（值）并返回对应的值
mset 为多个key设置value（值）
hash(哈希)
redis hash是一个键值对的集合， 是一个string类型的field和value的映射表，适合用于存储对象
127.0.0.1:6379> hset redishash 1 "001" (integer) 1 127.0.0.1:6379> hget redishash 1 "001" 127.0.0.1:6379> hmset redishash 1 "001" 2 "002" OK 127.0.0.1:6379> hget redishash 1 "001" 127.0.0.1:6379> hget redishash 2 "002" 127.0.0.1:6379> hmget redishash 1 2 1) "001" 2) "002"
相关命令介绍
hset 将Key对应的hash中的field配置为value，如果hash不存则自动创建，
hget 获得某个hash中的field配置的值
hmset 批量配置同一个hash中的多个field值
hmget 批量获得同一个hash中的多个field值
list(列表)
是redis简单的字符串列表，它按插入顺序排序
127.0.0.1:6379> lpush word hi (integer) 1 127.0.0.1:6379> lpush word hello (integer) 2 127.0.0.1:6379> rpush word world (integer) 3 127.0.0.1:6379> lrange word 0 2 1) "hello" 2) "hi" 3) "world" 127.0.0.1:6379> llen word (integer) 3
相关命令介绍
lpush 向指定的列表左侧插入元素，返回插入后列表的长度
rpush 向指定的列表右侧插入元素，返回插入后列表的长度
llen 返回指定列表的长度
lrange 返回指定列表中指定范围的元素值
set(集合)
是string类型的无序集合，也不可重复
127.0.0.1:6379> sadd redis redisset (integer) 1 127.0.0.1:6379> sadd redis redisset1 (integer) 1 127.0.0.1:6379> sadd redis redisset2 (integer) 1 127.0.0.1:6379> smembers redis 1) "redisset1" 2) "redisset" 3) "redisset2" 127.0.0.1:6379> sadd redis redisset2 (integer) 0 127.0.0.1:6379> smembers redis 1) "redisset1" 2) "redisset" 3) "redisset2" 127.0.0.1:6379> smembers redis 1) "redisset1" 2) "redisset3" 3) "redisset" 4) "redisset2" 127.0.0.1:6379> srem redis redisset (integer) 1 127.0.0.1:6379> smembers redis 1) "redisset1" 2) "redisset3" 3) "redisset2"
相关命令介绍
sadd 添加一个string元素到key对应的set集合中，成功返回1，如果元素存在返回0
smembers 返回指定的集合中所有的元素
srem 删除指定集合的某个元素
zset（sorted set 有序集合）
是string类型的有序集合，也不可重复
sorted set中的每个元素都需要指定一个分数，根据分数对元素进行升序排序，如果多个元素有相同的分数，则以字典序进行升序排序，sorted set 因此非常适合实现排名
127.0.0.1:6379> zadd nosql 0 001 (integer) 1 127.0.0.1:6379> zadd nosql 0 002 (integer) 1 127.0.0.1:6379> zadd nosql 0 003 (integer) 1 127.0.0.1:6379> zcount nosql 0 0 (integer) 3 127.0.0.1:6379> zcount nosql 0 3 (integer) 3 127.0.0.1:6379> zrem nosql 002 (integer) 1 127.0.0.1:6379> zcount nosql 0 3 (integer) 2 127.0.0.1:6379> zscore nosql 003 "0" 127.0.0.1:6379> zrangebyscore nosql 0 10 1) "001" 2) "003" 127.0.0.1:6379> zadd nosql 1 003 (integer) 0 127.0.0.1:6379> zadd nosql 1 004 (integer) 1 127.0.0.1:6379> zrangebyscore nosql 0 10 1) "001" 2) "003" 3) "004" 127.0.0.1:6379> zadd nosql 3 005 (integer) 1 127.0.0.1:6379> zadd nosql 2 006 (integer) 1 127.0.0.1:6379> zrangebyscore nosql 0 10 1) "001" 2) "003" 3) "004" 4) "006" 5) "005"
相关命令介绍
zadd 向指定的sorteset中添加1个或多个元素
zrem 从指定的sorteset中删除1个或多个元素
zcount 查看指定的sorteset中指定分数范围内的元素数量
zscore 查看指定的sorteset中指定分数的元素
zrangebyscore 查看指定的sorteset中指定分数范围内的所有元素
6、键值相关的命令
127.0.0.1:6379> exists key (integer) 1 127.0.0.1:6379> exists key1 (integer) 1 127.0.0.1:6379> exists key100 (integer) 0 127.0.0.1:6379> get key "nihao,hello" 127.0.0.1:6379> get key1 "hi" 127.0.0.1:6379> del key1 (integer) 1 127.0.0.1:6379> get key1 (nil) 127.0.0.1:6379> rename key key0 OK 127.0.0.1:6379> get key (nil) 127.0.0.1:6379> get key0 "nihao,hello" 127.0.0.1:6379> type key0 string
exists #确认key是否存在
del #删除key
expire #设置Key过期时间(单位秒)
persist #移除Key过期时间的配置
rename #重命名key
type #返回值的类型
7、Redis服务相关的命令
127.0.0.1:6379> select 0 OK 127.0.0.1:6379> info # Server redis_version:3.0.6 redis_git_sha1:00000000 redis_git_dirty:0 redis_build_id:347e3eeef5029f3 redis_mode:standalone os:Linux 3.10.0-693.el7.x86_64 x86_64 arch_bits:64 multiplexing_api:epoll gcc_version:4.8.5 process_id:31197 run_id:8b6ec6ad5035f5df0b94454e199511084ac6fb12 tcp_port:6379 uptime_in_seconds:8514 uptime_in_days:0 hz:10 lru_clock:14015928 config_file:/usr/local/redis/redis.conf -------------------省略N行 127.0.0.1:6379> CONFIG GET 0 (empty list or set) 127.0.0.1:6379> CONFIG GET 15 (empty list or set)
slect #选择数据库(数据库编号0-15)
quit #退出连接
info #获得服务的信息与统计
monitor #实时监控
config get #获得服务配置
flushdb #删除当前选择的数据库中的key
flushall #删除所有数据库中的key
8、Redis的发布与订阅
Redis发布与订阅(pub/sub)是它的一种消息通信模式，一方发送信息，一方接收信息。
下图是三个客户端同时订阅同一个频道
下图是有新信息发送给频道1时，就会将消息发送给订阅它的三个客户端
9、Redis事务
Redis事务可以一次执行多条命令
（1）发送exec命令前放入队列缓存，结束事务
（2）收到exec命令后执行事务操作，如果某一命令执行失败，其它命令仍可继续执行
（3）一个事务执行的过程中，其它客户端提交的请求不会被插入到事务执行的命令列表中
一个事务经历三个阶段
开始事务(命令:multi)
命令执行
结束事务(命令:exec)
127.0.0.1:6379> MULTI OK 127.0.0.1:6379> set key key1 QUEUED 127.0.0.1:6379> get key QUEUED 127.0.0.1:6379> rename key key001 QUEUED 127.0.0.1:6379> exec 1) OK 2) "key1" 3) OK
10、Redis安全配置
可以通过修改配置文件设备密码参数来提高安全性
#requirepass foobared
去掉注释#号就可以配置密码
没有配置密码的情况下查询如下
127.0.0.1:6379> CONFIG GET requirepass 1) "requirepass" 2) ""
配置密码之后，就需要进行认证
127.0.0.1:6379> CONFIG GET requirepass (error) NOAUTH Authentication required. 127.0.0.1:6379> AUTH foobared #认证 OK 127.0.0.1:6379> CONFIG GET requirepass 1) "requirepass" 2) "foobared"
11、Redis持久化
Redis持久有两种方式:Snapshotting(快照),Append-only file(AOF)
Snapshotting(快照)
（1）将存储在内存的数据以快照的方式写入二进制文件中，如默认dump.rdb中
（2）save 900 1
#900秒内如果超过1个Key被修改，则启动快照保存
（3）save 300 10
#300秒内如果超过10个Key被修改，则启动快照保存
（4）save 60 10000
#60秒内如果超过10000个Key被修改，则启动快照保存
Append-only file(AOF)
（1）使用AOF持久时，服务会将每个收到的写命令通过write函数追加到文件中（appendonly.aof）
（2）AOF持久化存储方式参数说明
appendonly yes
#开启AOF持久化存储方式
appendfsync always
#收到写命令后就立即写入磁盘，效率最差，效果最好
appendfsync everysec
#每秒写入磁盘一次，效率与效果居中
appendfsync no
#完全依赖OS，效率最佳，效果没法保证
12、Redis 性能测试
自带相关测试工具
实际测试同时执行100万的请求
[root@test ~]# redis-benchmark -n 1000000 -q PING_INLINE: 152578.58 requests per second PING_BULK: 150308.14 requests per second SET: 143266.47 requests per second GET: 148632.58 requests per second INCR: 145857.64 requests per second LPUSH: 143781.45 requests per second LPOP: 147819.66 requests per second SADD: 138350.86 requests per second SPOP: 134282.27 requests per second LPUSH (needed to benchmark LRANGE): 141302.81 requests per second LRANGE_100 (first 100 elements): 146756.67 requests per second LRANGE_300 (first 300 elements): 148104.27 requests per second LRANGE_500 (first 450 elements): 152671.75 requests per second LRANGE_600 (first 600 elements): 148104.27 requests per second MSET (10 keys): 132731.62 requests per second
13、Redis的备份与恢复
Redis自动备份有两种方式
第一种是通过dump.rdb文件实现备份
第二种使用aof文件实现自动备份
dump.rdb备份
Redis服务默认的自动文件备份方式(AOF没有开启的情况下)，在服务启动时，就会自动从dump.rdb文件中去加载数据。
具体配置在redis.conf
save 900 1
save 300 10
save 60 10000
也可以手工执行save命令实现手动备份
127.0.0.1:6379> set name key OK 127.0.0.1:6379> SAVE OK 127.0.0.1:6379> set name key1 OK 127.0.0.1:6379> BGSAVE Background saving started
redis快照到dump文件时，会自动生成dump.rdb的文件
# The filename where to dump the DB dbfilename dump.rdb -rw-r--r-- 1 root root 253 Apr 17 20:17 dump.rdb
SAVE命令表示使用主进程将当前数据库快照到dump文件
BGSAVE命令表示，主进程会fork一个子进程来进行快照备份
两种备份不同之处，前者会阻塞主进程，后者不会。
恢复举例
# Note that you must specify a directory here, not a file name. dir /usr/local/redisdata/ 备份文件存储路径 127.0.0.1:6379> CONFIG GET dir 1) "dir" 2) "/usr/local/redisdata" 127.0.0.1:6379> set key 001 OK 127.0.0.1:6379> set key1 002 OK 127.0.0.1:6379> set key2 003 OK 127.0.0.1:6379> save OK
将备份文件备份到其它目录
[root@test ~]# ll /usr/local/redisdata/ total 4 -rw-r--r-- 1 root root 49 Apr 17 21:24 dump.rdb [root@test ~]# date Tue Apr 17 21:25:38 CST 2018 [root@test ~]# cp ./dump.rdb /tmp/
删除数据
127.0.0.1:6379> del key1 (integer) 1 127.0.0.1:6379> get key1 (nil)
关闭服务，将原备份文件拷贝回save备份目录
[root@test ~]# redis-cli -a foobared shutdown [root@test ~]# lsof -i :6379 [root@test ~]# cp /tmp/dump.rdb /usr/local/redisdata/ cp: overwrite ‘/usr/local/redisdata/dump.rdb’? y [root@test ~]# redis-server /usr/local/redis/redis.conf & [1] 31487
登录查看数据是否恢复
[root@test ~]# redis-cli -a foobared 127.0.0.1:6379> mget key key1 key2 1) "001" 2) "002" 3) "003"
AOF自动备份
redis服务默认是关闭此项配置
###### APPEND ONLY MODE ########## appendonly no # The name of the append only file (default: "appendonly.aof") appendfilename "appendonly.aof" # appendfsync always appendfsync everysec # appendfsync no
配置文件的相关参数，前面已经详细介绍过。
AOF文件备份，是备份所有的历史记录以及执行过的命令，和mysql binlog很相似，在恢复时就是重新执次一次之前执行的命令，需要注意的就是在恢复之前，和数据库恢复一样需要手工删除执行过的del或误操作的命令。
AOF与dump备份不同
1、aof文件备份与dump文件备份不同
2、服务读取文件的优先顺序不同，会按照以下优先级进行启动
如果只配置AOF,重启时加载AOF文件恢复数据
如果同时 配置了RBD和AOF,启动是只加载AOF文件恢复数据
如果只配置RBD,启动时将加载dump文件恢复数据
注意：只要配置了aof，但是没有aof文件，这个时候启动的数据库会是空的
14、Redis 生产优化介绍
（1）内存管理优化
hash-max-ziplist-entries 512 hash-max-ziplist-value 64 list-max-ziplist-entries 512 list-max-ziplist-value 64 #list的成员与值都不太大的时候会采用紧凑格式来存储，相对内存开销也较小
0 表示内核将检查是否有足够的可用内存供应用进程使用；如果有足够的可用内存，内存申请允许；否则，内存申请失败，并把错误返回给应用进程。
1 表示内核允许分配所有的物理内存，而不管当前的内存状态如何。
2 表示内核允许分配超过所有物理内存和交换空间总和的内存
（2）内存预分配
（3）持久化机制
定时快照：效率不高，会丢失数据
AOF：保持数据完整性（一个实例的数量不要太大2G最大）
优化总结
1）根据业务需要选择合适的数据类型
2）当业务场景不需持久化时就关闭所有持久化方式（采用ssd磁盘来提升效率）
3）不要使用虚拟内存的方式，每秒实时写入AOF
4）不要让REDIS所在的服务器物理内存使用超过内存总量的3/5
5）要使用maxmemory
6）大数据量按业务分开使用多个redis实例
15、Redis集群应用
集群是将多个redis实例集中在一起，实现同一业务需求，或者实现高可用与负载均衡
到底有哪些集群方案呢？？
（1）haproxy+keepalived+redis集群
1）通过redis的配置文件，实现主从复制、读写分离
2）通过haproxy的配置，实现负载均衡，当从故障时也会及时从集群中T除
3）利用keepalived来实现负载的高可用
（2）redis官方Sentinel集群管理工具
Redis集群生产环境高可用方案实战过程
1）sentinel负责对集群中的主从服务监控、提醒和自动故障转移
2）redis集群负责对外提供服务
关于redis sentinel cluster集群配置可参考
（3）Redis Cluster
Redis Cluster是Redis的分布式解决方案，在Redis 3.0版本正式推出的，有效解决了Redis分布式方面的需求。当遇到单机内存、并发、流量等瓶颈时，可以采用Cluster架构达到负载均衡的目的。
1）官方推荐，毋庸置疑。
2）去中心化，集群最大可增加1000个节点，性能随节点增加而线性扩展。
3）管理方便，后续可自行增加或摘除节点，移动分槽等等。
4）简单，易上手。
版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。
相关文章
