Redis: 跳跃表
總結:
基于鏈表的查詢由于不能使用二分查找算法,因此需要挨個遍歷鏈表元素對比定位。插入和刪除操作雖然只需要進行指針的變換,但首先還是要定位到插入位置,因此當鏈表的數據量比較大的時候,就會出現效率很低,非常的耗時。
為了減少遍歷時比較的次數,提出將鏈表中部分的關鍵節點提取出來。例如1-2-3-4-5-6-7-9,將奇數點1-3-5-7-9提取出來作為關鍵點,當我要插入8的時候,就只需要和1,3,5,7,9進行比較而不用和2,4,6比較,這樣一來就減少了比較的次數,當數據量比較大的時候,這種效率的提高就會比較明顯。這是一種以空間換取時間的策略。其實這就相當于將1-3-5-7-9提取出來作為一級索引,接下來還可以繼續抽取關鍵點進行二級索引,三級索引...等等。每建立一層索引比較次數就會降低為原先的1/2.?
當新插入很多節點的時候,之前的上層節點的索引關鍵點就會不夠用,就要考慮在每當在新插入關鍵點的時候就要從新關鍵點中選取一部分提到上一層。至于怎么提法?由于跳躍表的添加和刪除關鍵點是不可預測的,很難用一種有效的算法來保證跳表的索引部分始終均勻,因此給出的方法是使用拋硬幣的概率事件來決定,由于在大樣本的情況下,正反面的概率都會趨近0.5,可以使得大體趨近均勻。
跳躍表插入關鍵點的關鍵步驟大概如下:
1)首先新關鍵點和各層的索引關鍵點進行比較,確定在原鏈表(最底層鏈表)中需要插入的位置。O(logn)
2) 把新關鍵點插入到原鏈表;
3)利用拋硬幣的隨機方式決定新關鍵點是否需要提升為上一層的索引。結果為正則繼續提升,為負則停止提升。
因此跳躍表的插入時間復雜度是O(logn),空間復雜度是O(n)
跳躍表刪除關鍵點的關鍵步驟大概如下:
1)首先自上而下,查找第一次出現關鍵點的索引,并逐層找到每一層對應的節點。O(logn)
2)刪除每一層查找到的關鍵點,如果該層只剩下一個節點,刪除當前整個索引層(原鏈表層除外)
跳躍表刪除操作的時間復雜度是O(logN)
?
為什么選擇跳表
目前經常使用的平衡數據結構有:B樹,紅黑樹,AVL樹,Splay Tree, Treep等。
想象一下,給你一張草稿紙,一只筆,一個編輯器,你能立即實現一顆紅黑樹,或者AVL樹
出來嗎? 很難吧,這需要時間,要考慮很多細節,要參考一堆算法與數據結構之類的樹,
還要參考網上的代碼,相當麻煩。
用跳表吧,跳表是一種隨機化的數據結構,目前開源軟件 Redis 和 LevelDB 都有用到它,
它的效率和紅黑樹以及 AVL 樹不相上下,但跳表的原理相當簡單,只要你能熟練操作鏈表,
就能輕松實現一個 SkipList。
有序表的搜索
考慮一個有序表:
從該有序表中搜索元素 < 23, 43, 59 > ,需要比較的次數分別為 < 2, 4, 6 >,總共比較的次數
為 2 + 4 + 6 = 12 次。有沒有優化的算法嗎???鏈表是有序的,但不能使用二分查找。類似二叉
搜索樹,我們把一些節點提取出來,作為索引。得到如下結構:
這里我們把 < 14, 34, 50, 72 > 提取出來作為一級索引,這樣搜索的時候就可以減少比較次數了。
我們還可以再從一級索引提取一些元素出來,作為二級索引,變成如下結構:
這里元素不多,體現不出優勢,如果元素足夠多,這種索引結構就能體現出優勢來了。
這基本上就是跳表的核心思想,其實也是一種通過“空間來換取時間”的一個算法,通過在每個節點中增加了向前的指針,從而提升查找的效率。
跳表
下面的結構是就是跳表:
其中 -1 表示 INT_MIN, 鏈表的最小值,1 表示 INT_MAX,鏈表的最大值。
跳表具有如下性質:
(1) 由很多層結構組成
(2) 每一層都是一個有序的鏈表
(3) 最底層(Level 1)的鏈表包含所有元素
(4) 如果一個元素出現在 Level i 的鏈表中,則它在 Level i 之下的鏈表也都會出現。
(5) 每個節點包含兩個指針,一個指向同一鏈表中的下一個元素,一個指向下面一層的元素。
跳表的搜索
例子:查找元素 117
(1) 比較 21, 比 21 大,往后面找
(2) 比較 37,???比 37大,比鏈表最大值小,從 37 的下面一層開始找
(3) 比較 71,??比 71 大,比鏈表最大值小,從 71 的下面一層開始找
(4) 比較 85, 比 85 大,從后面找
(5) 比較 117, 等于 117, 找到了節點。
具體的搜索算法如下:
C代碼
1.
3. find(x)??
4. {?
5.?????p = top;?
6.?while?(1) {?
7.?while?(p->next->key < x)?
8.?????????????p = p->next;?
9.?if?(p->down == NULL)??
10.?return?p->next;?
11.?????????p = p->down;?
12.?????}?
13. }?
跳表的插入
先確定該元素要占據的層數 K(采用丟硬幣的方式,這完全是隨機的)
然后在 Level 1 ... Level K 各個層的鏈表都插入元素。
例子:插入 119, K = 2
如果 K 大于鏈表的層數,則要添加新的層。
例子:插入 119, K = 4
丟硬幣決定?K
插入元素的時候,元素所占有的層數完全是隨機的,通過一下隨機算法產生:
C代碼
1.?int?random_level()?
2. {?
3.?????K = 1;?
4.
5.?while?(random(0,1))?
6.?????????K++;?
7.
8.?return?K;?
9. }?
相當與做一次丟硬幣的實驗,如果遇到正面,繼續丟,遇到反面,則停止,
用實驗中丟硬幣的次數 K 作為元素占有的層數。顯然隨機變量 K 滿足參數為 p = 1/2 的幾何分布,
幾何分布的期望值為E[K] = 1/p
因此,K 的期望值 E[K] = 1/p = 2. 就是說,各個元素的層數,期望值是 2 層。
跳表的高度。
n 個元素的跳表,每個元素插入的時候都要做一次實驗,用來決定元素占據的層數 K,
跳表的高度等于這 n 次實驗中產生的最大 K。
?
跳表的空間復雜度分析
根據上面的分析,每個元素的期望高度為 2, 一個大小為 n 的跳表,其節點數目的
期望值是 2n。
跳表的刪除
在各個層中找到包含 x 的節點,使用標準的 delete from list 方法刪除該節點。
例子:刪除 71
?
引言:
上周現場面試阿里巴巴研發工程師終面,被問到如何讓鏈表的元素查詢接近線性時間。筆者苦思良久,繳械投降。面試官告知回去可以看一下跳躍表,遂出此文。
?
跳躍表的引入
我們知道,普通單鏈表查詢一個元素的時間復雜度為O(n),即使該單鏈表是有序的,我們也不能通過2分的方式縮減時間復雜度。
?
?
如上圖,我們要查詢元素為55的結點,必須從頭結點,循環遍歷到最后一個節點,不算-INF(負無窮)一共查詢8次。那么用什么辦法能夠用更少的次數訪問55呢?最直觀的,當然是新開辟一條捷徑去訪問55。
?
?
如上圖,我們要查詢元素為55的結點,只需要在L2層查找4次即可。在這個結構中,查詢結點為46的元素將耗費最多的查詢次數5次。即先在L2查詢46,查詢4次后找到元素55,因為鏈表是有序的,46一定在55的左邊,所以L2層沒有元素46。然后我們退回到元素37,到它的下一層即L1層繼續搜索46。非常幸運,我們只需要再查詢1次就能找到46。這樣一共耗費5次查詢。
?
那么,如何才能更快的搜尋55呢?有了上面的經驗,我們就很容易想到,再開辟一條捷徑。
如上圖,我們搜索55只需要2次查找即可。這個結構中,查詢元素46仍然是最耗時的,需要查詢5次。即首先在L3層查找2次,然后在L2層查找2次,最后在L1層查找1次,共5次。很顯然,這種思想和2分非常相似,那么我們最后的結構圖就應該如下圖。
?
?
我們可以看到,最耗時的訪問46需要6次查詢。即L4訪問55,L3訪問21、55,L2訪問37、55,L1訪問46。我們直覺上認為,這樣的結構會讓查詢有序鏈表的某個元素更快。那么究竟算法復雜度是多少呢?
?
如果有n個元素,因為是2分,所以層數就應該是log n層 (本文所有log都是以2為底),再加上自身的1層。以上圖為例,如果是4個元素,那么分層為L3和L4,再加上本身的L2,一共3層;如果是8個元素,那么就是3+1層。最耗時間的查詢自然是訪問所有層數,耗時logn+logn,即2logn。為什么是2倍的logn呢?我們以上圖中的46為例,查詢到46要訪問所有的分層,每個分層都要訪問2個元素,中間元素和最后一個元素。所以時間復雜度為O(logn)。
?
至此為止,我們引入了最理想的跳躍表,但是如果想要在上圖中插入或者刪除一個元素呢?比如我們要插入一個元素22、23、24……,自然在L1層,我們將這些元素插入在元素21后,那么L2層,L3層呢?我們是不是要考慮插入后怎樣調整連接,才能維持這個理想的跳躍表結構。我們知道,平衡二叉樹的調整是一件令人頭痛的事情,左旋右旋左右旋……一般人還真記不住,而調整一個理想的跳躍表將是一個比調整平衡二叉樹還復雜的操作。幸運的是,我們并不需要通過復雜的操作調整連接來維護這樣完美的跳躍表。有一種基于概率統計的插入算法,也能得到時間復雜度為O(logn)的查詢效率,這種跳躍表才是我們真正要實現的。
?
容易實現的跳躍表
容易實現的跳躍表,它允許簡單的插入和刪除元素,并提供O(logn)的查詢時間復雜度,以下我們簡稱為跳躍表。
?
先討論插入,我們先看理想的跳躍表結構,L2層的元素個數是L1層元素個數的1/2,L3層的元素個數是L2層的元素個數的1/2,以此類推。從這里,我們可以想到,只要在插入時盡量保證上一層的元素個數是下一層元素的1/2,我們的跳躍表就能成為理想的跳躍表。那么怎么樣才能在插入時保證上一層元素個數是下一層元素個數的1/2呢?很簡單,拋硬幣就能解決了!假設元素X要插入跳躍表,很顯然,L1層肯定要插入X。那么L2層要不要插入X呢?我們希望上層元素個數是下層元素個數的1/2,所以我們有1/2的概率希望X插入L2層,那么拋一下硬幣吧,正面就插入,反面就不插入。那么L3到底要不要插入X呢?相對于L2層,我們還是希望1/2的概率插入,那么繼續拋硬幣吧!以此類推,元素X插入第n層的概率是(1/2)的n次。這樣,我們能在跳躍表中插入一個元素了。
?
在此還是以上圖為例:跳躍表的初試狀態如下圖,表中沒有一個元素:
?
?
如果我們要插入元素2,首先是在底部插入元素2,如下圖:
?
?
然后我們拋硬幣,結果是正面,那么我們要將2插入到L2層,如下圖
?
?
繼續拋硬幣,結果是反面,那么元素2的插入操作就停止了,插入后的表結構就是上圖所示。接下來,我們插入元素33,跟元素2的插入一樣,現在L1層插入33,如下圖:
?
?
然后拋硬幣,結果是反面,那么元素33的插入操作就結束了,插入后的表結構就是上圖所示。接下來,我們插入元素55,首先在L1插入55,插入后如下圖:
?
?
然后拋硬幣,結果是正面,那么L2層需要插入55,如下圖:
?
?
繼續拋硬幣,結果又是正面,那么L3層需要插入55,如下圖:
?
?
繼續拋硬幣,結果又是正面,那么要在L4插入55,結果如下圖:
?
?
繼續拋硬幣,結果是反面,那么55的插入結束,表結構就如上圖所示。
?
以此類推,我們插入剩余的元素。當然因為規模小,結果很可能不是一個理想的跳躍表。但是如果元素個數n的規模很大,學過概率論的同學都知道,最終的表結構肯定非常接近于理想跳躍表。
?
當然,這樣的分析在感性上是很直接的,但是時間復雜度的證明實在復雜,在此我就不深究了,感興趣的可以去看關于跳躍表的paper。
?
再討論刪除,刪除操作沒什么講的,直接刪除元素,然后調整一下刪除元素后的指針即可。跟普通的鏈表刪除操作完全一樣。
?
再來討論一下時間復雜度,插入和刪除的時間復雜度就是查詢元素插入位置的時間復雜度,這不難理解,所以是O(logn)。
?
Java實現
在章節2中,我們采用拋硬幣的方式來決定新元素插入的最高層數,這當然不能在程序中實現。代碼中,我們采用隨機數生成的方式來獲取新元素插入的最高層數。我們先估摸一下n的規模,然后定義跳躍表的最大層數maxLevel,那么底層,也就是第0層,元素是一定要插入的,概率為1;最高層,也就是maxLevel層,元素插入的概率為1/2^maxLevel。
?
我們先隨機生成一個范圍為0~2^maxLevel-1的一個整數r。那么元素r小于2^(maxLevel-1)的概率為1/2,r小于2^(maxLevel-2)的概率為1/4,……,r小于2的概率為1/2^(maxLevel-1),r小于1的概率為1/2^maxLevel。
?
舉例,假設maxLevel為4,那么r的范圍為0~15,則r小于8的概率為1/2,r小于4的概率為1/4,r小于2的概率為1/8,r小于1的概率為1/16。1/16正好是maxLevel層插入元素的概率,1/8正好是maxLevel層插入的概率,以此類推。
?
通過這樣的分析,我們可以先比較r和1,如果r<1,那么元素就要插入到maxLevel層以下;否則再比較r和2,如果r<2,那么元素就要插入到maxLevel-1層以下;再比較r和4,如果r<4,那么元素就要插入到maxLevel-2層以下……如果r>2^(maxLevel - 1),那么元素就只要插入在底層即可。
?
以上分析是隨機數算法的關鍵。算法跟實現跟語言無關,但是Java程序員還是更容易看明白Java代碼實現的跳躍表,以下貼一下別人的java代碼實現。作者找不到了,就這樣吧。
? 1 /*************************** SkipList.java *********************/2 3 import java.util.Random;4 5 public class SkipList<T extends Comparable<? super T>> {6 private int maxLevel;7 private SkipListNode<T>[] root;8 private int[] powers;9 private Random rd = new Random(); 10 SkipList() { 11 this(4); 12 } 13 SkipList(int i) { 14 maxLevel = i; 15 root = new SkipListNode[maxLevel]; 16 powers = new int[maxLevel]; 17 for (int j = 0; j < maxLevel; j++) 18 root[j] = null; 19 choosePowers(); 20 } 21 public boolean isEmpty() { 22 return root[0] == null; 23 } 24 public void choosePowers() { 25 powers[maxLevel-1] = (2 << (maxLevel-1)) - 1; // 2^maxLevel - 1 26 for (int i = maxLevel - 2, j = 0; i >= 0; i--, j++) 27 powers[i] = powers[i+1] - (2 << j); // 2^(j+1) 28 } 29 public int chooseLevel() { 30 int i, r = Math.abs(rd.nextInt()) % powers[maxLevel-1] + 1; 31 for (i = 1; i < maxLevel; i++) 32 if (r < powers[i]) 33 return i-1; // return a level < the highest level; 34 return i-1; // return the highest level; 35 } 36 // make sure (with isEmpty()) that search() is called for a nonempty list; 37 public T search(T key) { 38 int lvl; 39 SkipListNode<T> prev, curr; // find the highest nonnull 40 for (lvl = maxLevel-1; lvl >= 0 && root[lvl] == null; lvl--); // level; 41 prev = curr = root[lvl]; 42 while (true) { 43 if (key.equals(curr.key)) // success if equal; 44 return curr.key; 45 else if (key.compareTo(curr.key) < 0) { // if smaller, go down, 46 if (lvl == 0) // if possible 47 return null; 48 else if (curr == root[lvl]) // by one level 49 curr = root[--lvl]; // starting from the 50 else curr = prev.next[--lvl]; // predecessor which 51 } // can be the root; 52 else { // if greater, 53 prev = curr; // go to the next 54 if (curr.next[lvl] != null) // non-null node 55 curr = curr.next[lvl]; // on the same level 56 else { // or to a list on a lower level; 57 for (lvl--; lvl >= 0 && curr.next[lvl] == null; lvl--); 58 if (lvl >= 0) 59 curr = curr.next[lvl]; 60 else return null; 61 } 62 } 63 } 64 } 65 public void insert(T key) { 66 SkipListNode<T>[] curr = new SkipListNode[maxLevel]; 67 SkipListNode<T>[] prev = new SkipListNode[maxLevel]; 68 SkipListNode<T> newNode; 69 int lvl, i; 70 curr[maxLevel-1] = root[maxLevel-1]; 71 prev[maxLevel-1] = null; 72 for (lvl = maxLevel - 1; lvl >= 0; lvl--) { 73 while (curr[lvl] != null && curr[lvl].key.compareTo(key) < 0) { 74 prev[lvl] = curr[lvl]; // go to the next 75 curr[lvl] = curr[lvl].next[lvl]; // if smaller; 76 } 77 if (curr[lvl] != null && key.equals(curr[lvl].key)) // don't 78 return; // include duplicates; 79 if (lvl > 0) // go one level down 80 if (prev[lvl] == null) { // if not the lowest 81 curr[lvl-1] = root[lvl-1]; // level, using a link 82 prev[lvl-1] = null; // either from the root 83 } 84 else { // or from the predecessor; 85 curr[lvl-1] = prev[lvl].next[lvl-1]; 86 prev[lvl-1] = prev[lvl]; 87 } 88 } 89 lvl = chooseLevel(); // generate randomly level 90 newNode = new SkipListNode<T>(key,lvl+1); // for newNode; 91 for (i = 0; i <= lvl; i++) { // initialize next fields of 92 newNode.next[i] = curr[i]; // newNode and reset to newNode 93 if (prev[i] == null) // either fields of the root 94 root[i] = newNode; // or next fields of newNode's 95 else prev[i].next[i] = newNode; // predecessors; 96 } 97 } 98 }總結
以上是生活随笔為你收集整理的Redis: 跳跃表的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: equal、hashcode、==
- 下一篇: 网络:长连接、短连接