推荐学习:redis学习教程
1 标准lru的实现原理lru,最近最少使用(least recently used,lru),经典缓存算法。
lru会使用一个链表维护缓存中每个数据的访问情况,并根据数据的实时访问,调整数据在链表中的位置,然后通过数据在链表中的位置,表示数据是最近刚访问的,还是已有段时间未访问。
lru会把链头、尾分别设为mru端和lru端:
mru,most recently used 缩写,表示此处数据刚被访问lru端,此处数据最近最少被访问的数据lru可分成如下情况:
case1:当有新数据插入,lru会把该数据插入到链首,同时把原来链表头部的数据及其之后的数据,都向尾部移动一位case2:当有数据刚被访问一次后,lru会把该数据从它在链表中当前位置,移动到链首。把从链表头部到它当前位置的其他数据,都向尾部移动一位case3:当链表长度无法再容纳更多数据,再有新数据插入,lru去除链表尾部的数据,这也相当于将数据从缓存中淘汰掉case2图解:链表长度为5,从链表头部到尾部保存的数据分别是5,33,9,10,8。假设数据9被访问一次,则9就会被移动到链表头部,同时,数据5和33都要向链表尾部移动一位。
所以若严格按lru实现,假设redis保存的数据较多,还要在代码中实现:
为redis使用最大内存时,可容纳的所有数据维护一个链表
需额外内存空间来保存链表
每当有新数据插入或现有数据被再次访问,需执行多次链表操作
在访问数据的过程中,让redis受到数据移动和链表操作的开销影响
最终导致降低redis访问性能。
所以,无论是为节省内存 or 保持redis高性能,redis并未严格按lru基本原理实现,而是提供了一个近似lru算法实现。
2 redis的近似lru算法实现redis的内存淘汰机制是如何启用近似lru算法的?redis.conf中的如下配置参数:
maxmemory,设定redis server可使用的最大内存容量,一旦server使用实际内存量超出该阈值,server会根据maxmemory-policy配置策略,执行内存淘汰操作
maxmemory-policy,设定redis server内存淘汰策略,包括近似lru、lfu、按ttl值淘汰和随机淘汰等
所以,一旦设定maxmemory选项,且将maxmemory-policy配为allkeys-lru或volatile-lru,近似lru就被启用。allkeys-lru和volatile-lru都会使用近似lru淘汰数据,区别在于:
allkeys-lru是在所有的kv对中筛选将被淘汰的数据volatile-lru在设置了ttl的kv对中筛选将被淘汰数据redis如何实现近似lru算法的呢?
全局lru时钟值的计算
如何计算全局lru时钟值的,以用来判断数据访问的时效性
键值对lru时钟值的初始化与更新
哪些函数中对每个键值对对应的lru时钟值,进行初始化与更新
近似lru算法的实际执行
如何执行近似lru算法,即何时触发数据淘汰,以及实际淘汰的机制实现
2.1 全局lru时钟值的计算近似lru算法仍需区分不同数据的访问时效性,即redis需知道数据的最近一次访问时间。因此,有了lru时钟:记录数据每次访问的时间戳。
redis对每个kv对中的v,会使用个redisobject结构体保存指向v的指针。那redisobject除记录值的指针,还会使用24 bits保存lru时钟信息,对应的是lru成员变量。这样,每个kv对都会把它最近一次被访问的时间戳,记录在lru变量。
redisobject定义包含lru成员变量的定义:
每个kv对的lru时钟值是如何计算的?redis server使用一个实例级别的全局lru时钟,每个kv对的lru time会根据全局lru时钟进行设置。
这全局lru时钟保存在redis全局变量server的成员变量lruclock
当redis server启动后,调用initserverconfig初始化各项参数时,会调用getlruclock设置lruclock的值:
于是,就得注意,**若一个数据前后两次访问的时间间隔<1s,那这两次访问的时间戳就是一样的!**因为lru时钟精度就是1s,它无法区分间隔小于1秒的不同时间戳!
getlruclock函数将获得的unix时间戳,除以lru_clock_resolution后,就得到了以lru时钟精度来计算的unix时间戳,也就是当前的lru时钟值。
getlruclock会把lru时钟值和宏定义lru_clock_max(lru时钟能表示的最大值)做与运算。
所以默认情况下,全局lru时钟值是以1s为精度计算得unix时间戳,且是在initserverconfig中进行的初始化。
那redis server运行过程中,全局lru时钟值是如何更新的?和redis server在事件驱动框架中,定期运行的时间事件所对应的servercron有关。
servercron作为时间事件的回调函数,本身会周期性执行,其频率值由redis.conf的hz配置项决定,默认值10,即servercron函数会每100ms(1s/10 = 100ms)运行一次。servercron中,全局lru时钟值就会按该函数执行频率,定期调用getlruclock进行更新:
这样,每个kv对就能从全局lru时钟获取最新访问时间戳。
对于每个kv对,它对应的redisobject.lru在哪些函数进行初始化和更新的呢?
2.2 键值对lru时钟值的初始化与更新对于一个kv对,其lru时钟值最初是在这kv对被创建时,进行初始化设置的,这初始化操作在createobject函数中调用,当redis要创建一个kv对,就会调用该函数。
createobject除了会给redisobject分配内存空间,还会根据maxmemory_policy配置,初始化设置redisobject.lru。
若maxmemory_policy=lfu,则lru变量值会被初始化设置为lfu算法的计算值maxmemory_policy≠lfu,则createobject调用lru_clock设置lru值,即kv对对应的lru时钟值。lru_clock返回当前全局lru时钟值。因为一个kv对一旦被创建,就相当于有了次访问,其对应lru时钟值就表示了它的访问时间戳:
那一个kv对的lru时钟值又是何时再被更新?
只要一个kv对被访问,其lru时钟值就会被更新!而当一个kv对被访问时,访问操作最终都会调用lookupkey。
lookupkey会从全局哈希表中查找要访问的kv对。若该kv对存在,则lookupkey会根据maxmemory_policy的配置值,来更新键值对的lru时钟值,也就是它的访问时间戳。
而当maxmemory_policy没有配置为lfu策略时,lookupkey函数就会调用lru_clock函数,来获取当前的全局lru时钟值,并将其赋值给键值对的redisobject结构体中的lru变量
这样,每个kv对一旦被访问,就能获得最新的访问时间戳。但你可能好奇:这些访问时间戳最终是如何被用于近似lru算法进行数据淘汰的?
2.3 近似lru算法的实际执行redis之所以实现近似lru,是为减少内存资源和操作时间上的开销。
2.3.1 何时触发算法执行?近似lru主要逻辑在performevictions。
performevictions被evictiontimeproc调用,而evictiontimeproc函数又是被processcommand调用。
processcommand,redis处理每个命令时都会调用:
然后,issafetoperformevictions还会再次根据如下条件判断是否继续执行performevictions:
一旦performevictions被调用,且maxmemory-policy被设置为allkeys-lru或volatile-lru,近似lru就被触发执行了。
2.3.2 近似lru具体执行过程执行可分成如下步骤:
2.3.2.1 判断当前内存使用情况调用getmaxmemorystate评估当前内存使用情况,判断当前redis server使用内存容量是否超过maxmemory配置值。
若未超过maxmemory,则返回c_ok,performevictions也会直接返回。
getmaxmemorystate评估当前内存使用情况的时候,若发现已用内存超出maxmemory,会计算需释放的内存量。这个释放内存大小=已使用内存量-maxmemory。
但已使用内存量并不包括用于主从复制的复制缓冲区大小,这是getmaxmemorystate通过调用freememorygetnotcountedmemory计算的。
而若当前server使用的内存量超出maxmemory上限,则performevictions会执行while循环淘汰数据释放内存。
为淘汰数据,redis定义数组evictionpoollru,保存待淘汰的候选kv对,元素类型是evictionpoolentry结构体,保存了待淘汰kv对的空闲时间idle、对应k等信息:
这样,redis server在执行initsever进行初始化时,会调用evictionpoolalloc为evictionpoollru数组分配内存空间,该数组大小由evpool_size决定,默认可保存16个待淘汰的候选kv对。
performevictions在淘汰数据的循环流程中,就会更新这个待淘汰的候选kv对集合,即evictionpoollru数组。
2.3.2.2 更新待淘汰的候选kv对集合performevictions调用evictionpoolpopulate,其会先调用dictgetsomekeys,从待采样哈希表随机获取一定数量k:
dictgetsomekeys采样的哈希表,由maxmemory_policy配置项决定:若maxmemory_policy=allkeys_lru,则待采样哈希表是redis server的全局哈希表,即在所有kv对中采样否则,待采样哈希表就是保存着设置了ttl的k的哈希表。
dictgetsomekeys采样的k的数量由配置项maxmemory-samples决定,默认5:
于是,dictgetsomekeys返回采样的kv对集合。evictionpoolpopulate根据实际采样到的kv对数量count,执行循环:调用estimateobjectidletime计算在采样集合中的每一个kv对的空闲时间:
接着,evictionpoolpopulate遍历待淘汰的候选kv对集合,即evictionpoollru数组,尝试把采样的每个kv对插入evictionpoollru数组,取决于如下条件之一:
能在数组中找到一个尚未插入kv对的空位能在数组中找到一个kv对的空闲时间<采样kv对的空闲时间有一成立,evictionpoolpopulate就能把采样kv对插入evictionpoollru数组。等所有采样键值对都处理完后,evictionpoolpopulate函数就完成对待淘汰候选键值对集合的更新了。
接下来,performevictions开始选择最终被淘汰的kv对。
2.3.2.3 选择被淘汰的kv对并删除因evictionpoolpopulate已更新evictionpoollru数组,且该数组里的k,是按空闲时间从小到大排好序了。所以,performevictions遍历一次evictionpoollru数组,从数组的最后一个k开始选择,若选到的k非空,就把它作为最终淘汰的k。
该过程执行逻辑:
一旦选到被淘汰的k,performevictions就会根据redis server的惰性删除配置,执行同步删除或异步删除:
至此,performevictions就淘汰了一个k。若此时释放的内存空间还不够,即没有达到待释放空间,则performevictions还会重复执行前面所说的更新待淘汰候选kv对集合、选择最终淘汰k的过程,直到满足待释放空间的大小要求。
performevictions流程:
近似lru算法并未使用耗时且耗空间的链表,而使用固定大小的待淘汰数据集合,每次随机选择一些k加入待淘汰数据集合。
最后,按待淘汰集合中k的空闲时间长度,删除空闲时间最长的k。
总结根据lru算法的基本原理,发现若严格按基本原理实现lru算法,则开发的系统就需要额外内存空间保存lru链表,系统运行时也会受到lru链表操作的开销影响。
而redis的内存资源和性能都很重要,所以redis实现近似lru算法:
首先是设置了全局lru时钟,并在kv对创建时获取全局lru时钟值作为访问时间戳,及在每次访问时获取全局lru时钟值,更新访问时间戳然后,当redis每处理一个命令,都调用performevictions判断是否需释放内存。若已使用内存超出maxmemory,则随机选择一些kv对,组成待淘汰候选集合,并根据它们的访问时间戳,选出最旧数据淘汰一个算法的基本原理和算法的实际执行,在系统开发中会有一定折中,需综合考虑所开发的系统,在资源和性能方面的要求,以避免严格按照算法实现带来的资源和性能开销。
推荐学习:redis教程
以上就是完全掌握redis的lru缓存淘汰算法实现的详细内容。
