国产精品电影_久久视频免费_欧美日韩国产激情_成年人视频免费在线播放_日本久久亚洲电影_久久都是精品_66av99_九色精品美女在线_蜜臀a∨国产成人精品_冲田杏梨av在线_欧美精品在线一区二区三区_麻豆mv在线看

在分庫分表中,如何選擇合適的分片算法?

數據庫 其他數據庫
選擇分片算法和選擇 Sharding Key 也有一定的關系,比如前一篇提到的 B 端系統使用創建時間去做分片,那算法就很簡單了,就是按照一定的時間范圍去做拆分。

選擇什么分片算法

范圍分片

選擇分片算法和選擇 Sharding Key 也有一定的關系,比如前一篇提到的 B 端系統使用創建時間去做分片,那算法就很簡單了,就是按照一定的時間范圍去做拆分。

這種實現最大的特點就是簡單并且查詢友好,因為所有相關的數據都按照時間范圍落在一個分片里。并且因為 B端系統低并發的特性,這樣查詢不會帶來什么效率問題。

但是如果是C端系統就不行了,按照時間范圍拆分會帶來熱點數據傾斜,可能即使分了很片,數據庫依然頻頻告警。

所以 C 端系統一般不會選擇時間范圍去拆分,而是選擇一個合適的算法,不僅是讓數據均勻去分布,而且需要讓熱點數據去均勻分布。這樣用戶的請求才能均勻去分布到每個機器上,發揮出分庫分表的優勢。

數據映射表

均勻分配數據的關鍵就在于知道有多少數據分配在了哪些庫里,那我們專門用一個表記錄這些 Sharding Key 對應的分片不就可以了嗎?數據映射表方案是這樣的,查詢的時候先使用 Sharding Key 去映射表查詢對應的分片信息,然后再根據分片信息去指定分片查詢。

這樣的好處是:數據分配靈活,可以人為掌控,想怎么分就怎么分,并且后期擴容方便,我想把哪些數據遷移到新數據庫直接調整映射表就好了。

缺點也顯而易見:這樣的查詢需要多一次數據庫連接的過程,當然這個問題可以通過把熱點映射 Key 加入到緩存中來進行優化。但是如果映射表數據過多,而我們又需要對映射表頻繁寫入和查詢,映射表本身就容易成為性能瓶頸。

圖片圖片

ID取模算法

ID取模算法大家應該都能想到。我需要分N個庫,把用戶 id 對N直接取模就可以了,結果就等于分庫號。比如用戶id是2023007,限制有10個分庫,那么2023007%10=7,7就是分庫號。雖然簡單,但是對于大多數場景它完全可以勝任,因為大多數系統并沒有非常夸張的數據量。

相比第一種范圍分片,它的數據均勻程度通常要好很多。但是這是有前提條件的,他非常依賴ID的自增連續性,要求尾號相對連續。比如尾號不能和性別、地域等因素有關系,否則會影響數據再分片中的分布情況。

ID取模:
public class ShardingUtil {
    // 計算數據表編號
    public static int shard(int id, int tableCount) {
        return id % tableCount;
    }
}

Hash分片算法

Hash 分片算法也叫 Hash 取模算法,他跟ID 取模算法類似,最終都是對分片數量 N 取模,但是不同的是它會在取模之前先對 Sharding Key 做一次Hash計算。示例如下:

public class ShardingUtil {
    // 計算哈希值
    public static int hash(String key) {
        int hash = 0;
        for (int i = 0; i < key.length(); i++) {
            hash = hash * 31 + key.charAt(i);
        }
        return hash;
    }

    // 計算數據表編號
    public static int shard(int hash, int tableCount) {
        return (hash & Integer.MAX_VALUE) % tableCount;
    }
}

它的好處是,相比簡單的直接ID取模,多了一步Hash,讓數據分布更為均勻,且實現依舊簡單。但是缺點依舊存在,擴容不方便的問題并沒有得到解決,需要以2的倍數擴容,擴容時候最少需要遷移50%的數據到新分片上。

一致性Hash算法

一致性哈希算法是用于解決分布式系統中的數據分片和負載均衡問題的一種算法。一致性哈希算法的基本思想是將所有的數據和服務器都映射到一個固定大小的哈希環上,通過對數據的哈希值進行計算,將其映射到環上的某個位置,然后選擇離這個位置最近的服務器作為數據的存儲位置。

環的大小是2^32-1,這樣就可以保證每一個ip地址都可以在環上獲得一個映射位置,并且這個足夠大的數字可以提供更高的數據均勻度。查找數據時key落在某個點后,繼續向前遇到的第一個Node就是要查找的分片。在添加或刪除服務器時,只會影響哈希環上與該服務器相鄰的一小段數據的存儲位置,而不會影響整個系統的數據分布。

圖片圖片

在分庫分表中,假設我們有N個數據庫或數據表,我們可以將它們映射到一個固定大小的哈希環上,然后通過數據庫的IP地址計算數據的哈希值,將其映射到環上的某個位置,并選擇離該位置最近的數據庫或數據表作為數據的存儲位置。

但是標準的一致性Hash通過 hash(數據庫IP地址) % 2^32 計算數據庫在Hash環中的位置,如果分片數量較少,會造成數據庫節點在Hash環節點分布不均勻,最終導致數據分布不均勻。并且現在大都使用云環境,節點的IP地址很可能會發生變化,從而導在hash環位置的變化。解決這個問題有下面幾種辦法:

  1. 對于IP位置變更的問題,我們可以不采用IP去Hash,而使用分片的邏輯號,比如Node1、Node2。
  2. 對于Hash偏斜問題,我們可以通過增加虛擬節點來解,認為去將數據調配。

但是通過上述優化,我覺得這樣的一致性Hash算法還是不夠簡單。首先是DB數量不夠多的情況下,增加虛擬節點的問題,還得多去維護虛擬節點。

這里有兩種解決思路:

  1. 對DB計算Hash值的算法進行改寫,直接根據邏輯編號指定在Hash環位置的映射位置,比如指定Node1、Node2分別在Hash環的起點和中點。
  2. 其實可以參考Redis cluster 采用的Hash槽算法的思路。我們直接將Hash環簡化為4096或者2048個槽位,將固定范圍的槽位分配到對應節點上。

這樣,數據的均勻分布情況得到進一步的優化。

示例如下:

public static final int SHARDING_COUNT = 4;
// 計算數據表編號
public static int shard(Long id) {
    return (Math.abs(id.hashCode()) % 2048) / (2048 / SHARDING_COUNT);
}

一致性hash分片算法的主要優點如下:

  • 數據分布均勻,且可以人為調控。
  • 擴容方便,沒有2倍限制,只需要遷移1/N的數據。

主要缺點:

  • 相比于其他算法,他的實現更為復雜。
  • 有分布不均勻的問題,但是可以通過虛擬節點解決,或者指定槽位。

它能夠幫助分布式系統實現數據的分片和負載均衡,提高系統的可伸縮性和可用性。

Redis Cluster采用的是一種基于哈希槽的分片機制,該機制是一致性哈希算法的一種變體,它將整個哈希環分成固定數量的槽,每個節點負責一定數量的槽。

具體來說,Redis Cluster將整個哈希環分成16384個槽,每個節點負責其中的一部分槽,每個key通過哈希函數計算出一個哈希值,并映射到某個槽中,然后根據槽和節點之間的映射關系,將該key存儲到對應的節點中。在Redis Cluster中,每個節點都維護了一個槽的分配表,記錄了每個槽被分配給了哪個節點。

相對于傳統的一致性哈希算法,Redis Cluster采用哈希槽算法的優勢在于:

  1. 算法簡單:將哈希環分成固定數量的槽,每個節點負責一定數量的槽,可以簡化分片算法的實現。
  2. 可擴展性好:增加或刪除節點時,只需要重新分配一部分槽即可,不需要像一致性哈希算法那樣重新映射所有的key,可以有效地減少數據遷移量。
  3. 靈活性高:可以根據實際需要調整槽的數量和節點的分配情況,以滿足不同的應用場景。

總結

最后用一張表總結一下

分片算法

優勢

缺點

范圍分片

實現簡單,擴容方便。

適合數據量大但并發量不高的B端系統

容易產生熱點數據問題,訪問不均勻。不適合高訪問量的2C系統

數據映射表

數據分配靈活,可以人為掌控,并且后期擴容方便。

查詢時候至少需要兩次數據庫連接的過程,映射表容易成為熱點和性能瓶頸點。

ID取模算法

實現簡單,適用大多場景

對于業務ID的連續性過于依賴,ID尾號的自增和分布情況會影響數據分布,容易存在不均勻問題.隨著業務增長擴容不方便。

哈希分片算法(哈希取模)

實現簡單,相對來說數據分布更均勻

同樣,隨著業務增長擴容不方便,需要以2的倍數擴容,最少遷移1/2的舊數據。(聯想HashMap)

一致性哈希算法

數據分布均勻,并且可以添加虛擬節點進一步調控數據的均勻程度。擴容方便,并且在擴容時候只需要遷移少量數據。沒有2倍限制,增加一個節點只需要遷移最多1/n數據。

算法實現復雜,也會有節點分布不均勻的情況,但是可以通過虛擬節點解決,或者利用Hash槽人工分配(聯想Redis Cluster)。

最后,歡迎大家提問和交流。

責任編輯:武曉燕 來源: 后端開發技術
相關推薦

2020-07-28 09:04:09

NewSQL分庫分表

2024-02-26 08:39:39

分庫分表數量

2022-07-11 08:16:47

NewSQL關系數據庫系統

2024-04-01 08:53:50

分庫分表分片算法

2024-05-23 16:48:42

機器學習算法人工智能

2020-07-30 17:59:34

分庫分表SQL數據庫

2022-12-09 09:21:10

分庫分表算法

2024-03-26 09:42:27

分片算法應用

2011-03-23 15:57:43

Oracle索引

2024-11-22 15:32:19

2021-05-20 07:32:59

分庫分表數據量

2019-11-12 09:54:20

分庫分表數據

2017-05-25 13:37:46

機器學習算法神經網絡

2017-05-25 11:14:21

機器學習算法神經網絡

2022-03-17 17:08:05

機器學習算法類型

2023-11-28 12:08:56

機器學習算法人工智能

2024-07-26 00:16:11

2018-03-14 09:49:35

數據庫遷移

2025-07-03 08:21:16

2024-07-10 08:42:39

點贊
收藏

51CTO技術棧公眾號

日产国产高清一区二区三区| 日本一卡二卡四卡精品 | 国产精品多人| 欧美高跟鞋交xxxxxhd| 国产在线免费观看| 国产精品美女久久久久久| 亚洲精品视频一二三| 欧美精品乱码| 久久久久久av| 欧美一级网址| 亚洲精品在线不卡| 制服丝袜中文字幕在线| 色先锋aa成人| 免费在线观看麻豆视频 | 综合久久2019| 欧美性xxxx极品hd欧美风情| 50路60路老熟妇啪啪| 精品亚洲免费视频| 国产一区二区精品在线| 天天揉久久久久亚洲精品| 45www国产精品网站| 国产精品国产亚洲精品| 亚洲嫩模很污视频| 国语对白在线刺激| 欧美一区二区三区精品| 成人午夜电影在线观看| 欧美日韩国产一区二区三区| 中国国产一级毛片| 一区二区三区色| 嫩草影院2018| 一区二区三区中文字幕精品精品| 亚洲精品午夜在线观看| 国产视频一区二区在线观看| 国产第一页视频| 国产亚洲女人久久久久毛片| 欧日韩免费视频| 不卡区在线中文字幕| 欧美三级免费观看| 日韩影院在线观看| 亚洲日韩欧美视频| 中文在线中文资源| 亚洲激情自拍图| 日韩精品极品| 亚洲人成啪啪网站| 欧美成人xxxx| 欧美韩日一区二区| 另类尿喷潮videofree| 97久久伊人激情网| 日本午夜精品久久久| 日本午夜人人精品| 色一区二区三区四区| 国产日韩欧美中文| 国产精品二区影院| 视频一区视频二区视频| 国产一区三区三区| 国产h视频在线播放| 久久久精品tv| 午夜男人视频在线观看| 欧美三电影在线| 羞羞视频在线免费国产| 影音先锋久久久| 免费一区二区三区在在线视频| 日韩成人免费看| 欧美又粗又长又爽做受| 国产欧美视频一区二区三区| 性综艺节目av在线播放| 欧美三区在线观看| a日韩av网址| 欧美在线观看网址综合| 最新欧美人z0oozo0| 无码免费一区二区三区免费播放 | 日韩电影免费观看中文字幕| 成人黄色免费观看| 欧美一级视频一区二区| 国产精品九九| 日本黄网站色大片免费观看| 亚洲欧洲精品一区二区三区| 国产乱理伦片a级在线观看| 亚洲第一男人av| 国产精品成人自拍| 久久99精品国产一区二区三区| 高清国产一区二区| 色网视频在线| 亚洲天堂男人的天堂| 国产精品一区二区99| 日本亚洲导航| 亚洲女同女同女同女同女同69| 日韩伦理电影网站| 91av在线精品| 美女视频黄免费的久久| 丁香六月婷婷| 日韩风俗一区 二区| 精品日韩免费| 国产精品无码电影在线观看| 欧美日韩国产色| **日韩最新| 精品伦精品一区二区三区视频| 99精品欧美一区二区蜜桃免费 | 999香蕉视频| 91激情五月电影| 国产激情欧美| 国产一区在线免费观看| 久久这里只有精品首页| 麻豆av在线免费看| 性色av一区二区咪爱| 日韩二区三区四区| 91免费日韩| 主播福利视频一区| 宅男噜噜噜66一区二区| 成人黄网18免费观看的网站| 日韩精品视频在线| 牛夜精品久久久久久久99黑人| 国产美女三级视频| 日韩一区二区在线播放| 日本高清免费电影一区| a在线视频观看| 亚洲精品98久久久久久中文字幕| 天天精品视频| 久久精品无码一区二区日韩av| 在线色欧美三级视频| 免费国产自线拍一欧美视频| 伊人春色在线| 97香蕉超级碰碰久久免费软件 | 午夜av一区| 无码少妇一区二区三区芒果| 亚洲成人性视频| 欧美国产三区| 国产网友自拍电影在线| 九九热这里只有在线精品视| 国产高清亚洲一区| 少女频道在线观看高清 | 18+激情视频在线| 成人免费看吃奶视频网站| 国产精品国产三级国产aⅴ原创 | 国产精品一久久香蕉国产线看观看| 国产91在线|亚洲| 国产蜜臀av在线播放| 粉嫩av一区二区三区免费观看| 亚洲综合在线第一页| 日韩有码一区| 在线观看国产一级片| 欧美人在线观看| 久久久久免费观看| 国产精品免费精品自在线观看| 精品成在人线av无码免费看| 亚洲精品按摩视频| 免费在线看一区| 日本大片在线播放| 天堂精品一区二区三区| 亚洲成人黄色网| 免费人成黄页网站在线一区二区| 午夜视频在线免费观看| 成人黄动漫网站免费| 一本一道久久a久久精品综合蜜臀 一本一道综合狠狠老 | 日韩精品视频免费专区在线播放 | 国产亚洲综合久久| 国产在线观看一区二区| 欧美aa一级| 黑人巨大国产9丨视频| 亚洲欧美日韩天堂| 成+人+亚洲+综合天堂| 九九九精品视频| 欧美激情精品久久久久久小说| 久久高清视频免费| 亚洲视频在线观看三级| 精品国产精品国产偷麻豆| 黄页网址大全在线观看| 91九色偷拍| 欧美成人bangbros| 国产aⅴ精品一区二区三区色成熟| 成人国产一区| xxx国产在线观看| 成人免费视频97| 91麻豆精品久久久久蜜臀| 久久成人免费日本黄色| 开心久久婷婷综合中文字幕| 国产又黄又猛又粗| 国产精品一区二区三区久久| 欧美日韩小视频| 精品一区二区三区在线播放| 不卡精品视频| 99热在线网站| 欧美少妇一区| 色视频www在线播放国产成人 | 国产韩日精品| 免费看a级黄色片| 成人有码视频在线播放| 欧美色爱综合网| 国产乱码一区二区三区| 91蜜桃臀久久一区二区| 天堂a中文在线| 亚洲三区视频| 久久久久久亚洲| 欧美日韩亚洲高清| 久久国产精品99精品国产| 懂色av一区二区| www 日韩| 最近免费中文字幕中文高清百度| 91亚洲永久免费精品| 亚洲人成网站免费播放|