Kaito's Blog

致力成为一枚silver bullet.

0%

randomkey导致Redis阻塞的问题分析

最近在公司对redis做一些二次开发时,发现一个randomkey命令可能导致整个redis实例长时间阻塞的问题,redis版本为3.2.9,以此记录。

问题

由于我们公司使用的是redis集群版Codis,Codis内置的redis版本比较低,为3.2.9版本。

我们近期在做Codis双机房时,需要对redis增加一些功能以此支持双机房,在开发和测试中发现,执行randomkey命令有可能导致整个redis长时间阻塞的问题。

randomkey主要功能是在redis中随机返回一个key出来,它随机选取key的代码如下。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
robj *dbRandomKey(redisDb *db) {
dictEntry *de;

// 死循环从哈希表中找到一个不过期的key
while(1) {
sds key;
robj *keyobj;

// 从实例的哈希表里随机一个元素
de = dictGetRandomKey(db->dict);
if (de == NULL) return NULL;

// 获取这个元素的key
key = dictGetKey(de);
keyobj = createStringObject(key,sdslen(key));
// 如果key已经过期 则把这个key从实例中删除
// 注意:expireIfNeeded对于过期的key只针对master有效
// 如果是slave则永远不会删除key
if (dictFind(db->expires,key)) {
if (expireIfNeeded(db,keyobj)) {
decrRefCount(keyobj);
continue;
}
}
return keyobj;
}
}

从上面代码可以看出来,如果当前是个slave,并且整个实例中存在大量已经过期的key(key已过期,但redis还未来得及删除key),执行randomkey命令时,由于找不到不过期的key,那么这个逻辑就会陷入死循环,阻塞住整个实例,整个实例不可用。

如果当前是master,执行randomkey命令时,redis会一直随机选择key,直到找到一个不过期的key,同时会把已经过期的key从整个实例中删除。也就是说,在这种场景下,虽然不会长时间阻塞整个实例,但也会比执行一个普通的命令耗时要久。如果你在一个大量已过期的实例上执行randomkey命令,那可能会导致业务访问redis变慢。

解决

我们对比了官方最新版的redis,已经针对此问题进行了修复。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
robj *dbRandomKey(redisDb *db) {
dictEntry *de;
// 当前实例全部都是过期key 最大循环100次
int maxtries = 100;
int allvolatile = dictSize(db->dict) == dictSize(db->expires)

// 死循环从哈希表中找到一个不过期的key
while(1) {
sds key;
robj *keyobj;

// 从实例的哈希表里随机一个元素
de = dictGetRandomKey(db->dict);
if (de == NULL) return NULL;

// 获取这个元素的key
key = dictGetKey(de);
keyobj = createStringObject(key,sdslen(key));
// 如果key已经过期 则把这个key从实例中删除
// 注意:expireIfNeeded对于过期的key只针对master有效
// 如果是slave则永远不会删除key
if (dictFind(db->expires,key)) {
// 如果整个实例都是过期key 在slave上执行此命令最多循环100次 避免长时间阻塞
if (allvolatile && server.masterhost && --maxtries == 0) {
return keyobj;
}
if (expireIfNeeded(db,keyobj)) {
decrRefCount(keyobj);
continue;
}
}
return keyobj;
}
}

解决方案就是增加一个最大重试次数,如果整个实例都是过期key,那么最多寻找maxtries次就返回,避免阻塞整个实例。

注意点

但要注意的是,如果达到了maxtries,那么返回的key是已经过期的key,你虽然在randomkey中看到了这个key,但对这个key执行其他命令时,还是拿不到这个key的。

这个方案只针对slave上执行这个命令进行了修复,也就是不会再让redis陷入死循环。

但在master上执行这个命令还是会发生上述的变慢问题,如果你在使用redis时,经常使用这个命令,同时实例中存在大量已经过期的key,那么redis变慢很有可能是这个问题导致的。

如果此文章能给您带来小小的工作效率提升,不妨小额赞助我一下,以鼓励我写出更好的文章!