Redis 的各项功能处理了哪些问题?
先看一下Redis是一个什么东西。官方简介解释到:
综上所述,Redis提供了丰富的功能,首次见到可能会感觉眼花缭乱,这些功能都是干嘛用的?都处理了什么问题?什么情况下才会用到相应的功能?那么下面从零开始,一步一步的演进来粗略的解释下。
1 从零开始
最初的需求非常简单,我们有一个提供热点新闻列表的api:http://api.xxx.com/hot-news,api的消费者抱怨说每次请求都要2秒左右才能返回结果。
随后我们就着手于如何提升一下api消费者感知的性能,很快最简单粗暴的第一个方案就出来了:为API的响应加上基于HTTP的缓存控制 cache-control:max-age=600 ,即让消费者可以缓存这个响应十分钟。
假如api消费者假如有效的利用了响应中的缓存控制信息,则可以有效的改善其感知的性能(10分钟以内)。但是还有2个弊端:第一个是在缓存生效的10分钟内,api消费者可能会得到旧的数据;第二个是假如api的用户端无视缓存直接访问API仍然是需要2秒,治标不治本呐。
2 基于本机内存的缓存
为理解决调用API仍然需要2秒的问题,经过排查,其主要起因在于使用SQL获取热点新闻的过程中消耗了将近2秒的时间,于是乎,我们又想到了一个简单粗暴的处理方案,即把SQL查询的结果直接缓存在当前api服务器的内存中(设置缓存有效时间为1分钟)。后续1分钟内的请求直接读缓存,不再花费2秒去执行SQL了。
如果这个api每秒接收到的请求时100个,那么一分钟就是6000个,也就是只有前2秒拥挤过来的请求会耗时2秒,后续的58秒中的所有请求都可以做到即便响应,而无需再等2秒的时间。
其余API的小伙伴发现这是个好办法,于是很快我们就发现API服务器的内存要爆满了。。。
3 服务端的Redis
在API服务器的内存都被缓存塞满的时候,我们发现不得不另想处理方案了。最直接的想法就是我们把这些缓存都丢到一个专门的服务器上吧,把它的内存配置的大大的。而后我们就盯上了redis。。。至于如何配置部署redis这里不解释了,redis官方有详细的详情。随后我们就用上了一台单独的服务器作为Redis的服务器,API服务器的内存压力得以处理。
3.1 持久化(Persistence)
单台的Redis服务器一个月总有那么几天心情不好,心情不好就罢工了,导致所有的缓存都丢失了(redis的数据是存储在内存的嘛)。尽管可以把Redis服务器重新上线,但是因为内存的数据丢失,造成了缓存雪崩,API服务器和数据库的压力还是一下子就上来了。所以这个时候Redis的持久化功能就派上用场了,可以缓解一下缓存雪崩带来的影响。redis的持久化指的是redis会把内存的中的数据写入到硬盘中,在redis重新启动的时候加载这些数据,从而最大限度的降低缓存丢失带来的影响。
3.2 哨兵(Sentinel)和复制(Replication)
Redis服务器毫无征兆的罢工是个麻烦事。那么怎办办?答曰:备份一台,你挂了它上。那么如何得知某一台redis服务器挂了,如何切换,如何保证备份的机器是原始服务器的完整备份呢?这时候就需要Sentinel和Replication出场了。Sentinel可以管理多个Redis服务器,它提供了监控,提示以及自动的故障转移的功能;Replication则是负责让一个Redis服务器可以配备多个备份的服务器。Redis也是利用这两个功能来保证Redis的高可用的。此外,Sentinel功能则是对Redis的发布和订阅功能的一个利用。
3.3 集群(Cluster)
单台服务器资源的总是有上限的,CPU资源和IO资源我们可以通过主从复制,进行读写分离,把一部分CPU和IO的压力转移到从服务器上。但是内存资源怎样办,主从模式做到的只是相同数据的备份,并不能横向扩充内存;单台机器的内存也只能进行加大解决,但是总有上限的。所以我们就需要一种处理方案,可以让我们横向扩展。最终的目的既是把每台服务器只负责其中的一部分,让这些所有的服务器构成一个整体,对外界的消费者而言,这一组分布式的服务器就像是一个集中式的服务器一样(之前在解读REST的博客中解释过分布式于基于网络的差异:基于网络应用的架构)。
在Redis官方的分布式方案出来之前,有twemproxy和codis两种方案,这两个方案总体上来说都是依赖proxy来进行分布式的,也就是说redis本身并不关心分布式的事情,而是交由twemproxy和codis来负责。而redis官方给出的cluster方案则是把分布式的这部分事情做到了每一个redis服务器中,使其不再需要其余的组件即可以独立的完成分布式的要求。我们这里不关心这些方案的优略,我们关注一下这里的分布式究竟是要解决那些事情?也就是twemproxy和codis独立解决的解决分布式的这部分逻辑和cluster集成到redis服务的这部分逻辑究竟在处理什么问题?
如我们前面所说的,一个分布式的服务在外界看来就像是一个集中式的服务一样。那么要做到这一点就面临着有一个问题需要处理:既是添加或者减少分布式服务中的服务器的数量,对消费这个服务的用户端而言应该是无感的;那么也就意味着用户端不能穿透分布式服务,把自己绑死到某一个台的服务器上去,由于一旦如此,你就再也无法新添加服务器,也无法进行故障替换。
处理这个问题有两个路子:
第一个路子最直接,那就是我加一个中间层来隔离这种具体的依赖,即twemproxy采用的方式,让所有的用户端只能通过它来消费redsi服务,通过它来隔离这种依赖(但是你会发现twermproxy会成为一个单点),这种情况下每台redis服务器都是独立的,它们之间彼此不知对方的存在;
第二个路子是让redis服务器知道彼此的存在,通过重定向的机制来引导用户端来完成自己所需要的操作,比方用户端链接到了某一个redis服务器,说我要执行这个操作,redis服务器发现自己无法完成这个操作,那么就把能完成这个操作的服务器的信息给到用户端,让用户端去请求另外的一个服务器,这时候你就会发现每一个redis服务器都需要保持一份完整的分布式服务器信息的一份资料,不然它怎样知道让用户端去找其余的哪个服务器来执行用户端想要的操作呢。
Redis Cluster的具体实现细节则是采用了Hash槽的概念,即预先分配出来16384个槽:在用户端通过对Key进行CRC16(key)% 16384运算得到对应的槽是哪一个;在redis服务端则是每个服务器负责一部分槽,当有新的服务器加入或者者移除的时候,再来迁移这些槽以及其对应的数据,同时每个服务器都持有完整的槽和其对应的服务器的信息,这就使得服务器端可以进行对用户端的请求进行重定向解决。
4 用户端的Redis
上面的第三小节主要详情的是Redis服务端的演进步骤,解释了Redis如何从一个单机的服务,进化为一个高可用的、去中心化的、分布式的存储系统。这一小节则是关注下用户端可以消费的redis服务。
4.1 数据类型
redis支持丰富的数据类型,从最基础的string到复杂的常用到的数据结构都有支持:
string:最基本的数据类型,二进制安全的字符串,最大512M。
list:按照增加顺序保持顺序的字符串列表。
set:无序的字符串集合,不存在重复的元素。
sorted set:已排序的字符串集合。
hash:key-value对的一种集合。
bitmap:更细化的一种操作,以bit为单位。
hyperloglog:基于概率的数据结构。
这些众多的数据类型,主要是为了支持各种场景的需要,当然每种类型都有不同的时间复杂度。其实这些复杂的数据结构相当于之前我在《解读REST》这个系列博客基于网络应用的架构风格中详情到的远程数据访问(Remote Data Access = RDA)的具体实现,即通过在服务器上执行一组标准的操作命令,在服务端之间得到想要的缩小后的结果集,从而简化用户端的使用,也可以提高网络性能。比方 假如没有list这种数据结构,你就只能把list存成一个string,用户端拿到完整的list,操作后再完整的提交给redis,会产生很大的白费。
4.2 事务
上述数据类型中,每一个数据类型都有独立的命令来进行操作,很多情况下我们需要一次执行不止一个命令,而且需要其同时成功或者者失败。redis对事务的支持也是源自于这部分需求,即支持一次性按顺序执行多个命令的能力,并保证其原子性。
4.3 Lua脚本
在事务的基础上,假如我们需要在服务端一次性的执行更复杂的操作(包含少量逻辑判断),则lua即可以排上用场了(比方在获取某一个缓存的时候,同时延长其过期时间)。redis保证lua脚本的原子性,肯定的场景下,是可以代替redis提供的事务相关的命令的。相当于基于网络应用的架构风格中详情到的远程求值(Remote Evluation = REV)的具体实现。
4.4 管道
由于redis的用户端和服务器的连接时基于TCP的, 默认每次连接都时只能执行一个命令。管道则是允许利用一次连接来解决多条命令,从而可以节省少量tcp连接的开销。管道和事务的差异在于管道是为了节省通信的开销,但是并不会保证原子性。
4.5 分布式锁
官方推荐采用Redlock算法,即便用string类型,加锁的时候给的一个具体的key,而后设置一个随机的值;取消锁的时候用使用lua脚原本先执行获取比较,而后再删除key。具体的命令如下:
总结
本篇着重从笼统层面来解释下redis的各项功能以及其存在的目的,而没有关心其具体的细节是什么。从而可以聚焦于其处理的问题,依据笼统层面的概念可以使得我们在特定的场景下选择更合适的方案,而非局限于其技术细节。
以上均是笔者个人的少量了解,假如不当之处,欢迎指正。
欢迎工作一到五年的Java工程师朋友们加入Java架构开发:744677563
群内提供免费的Java架构学习资料(里面有高可用、高并发、高性能及分布式、Jvm性能调优、Spring源码,MyBatis,Netty,Redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多个知识点的架构资料)正当利用自己每一分每一秒的时间来学习提升自己,不要再用”没有时间“来掩饰自己思想上的懒惰!趁年轻,使劲拼,给未来的自己一个交代!
1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
5. 如有链接无法下载、失效或广告,请联系管理员处理!
6. 本站资源售价只是摆设,本站源码仅提供给会员学习使用!
7. 如遇到加密压缩包,请使用360解压,如遇到无法解压的请联系管理员
开心源码网 » Redis 的各项功能处理了哪些问题?