国产精品电影_久久视频免费_欧美日韩国产激情_成年人视频免费在线播放_日本久久亚洲电影_久久都是精品_66av99_九色精品美女在线_蜜臀a∨国产成人精品_冲田杏梨av在线_欧美精品在线一区二区三区_麻豆mv在线看

分布式架構系統生成全局唯一序列號的一個思路

存儲 存儲軟件 分布式
分布式架構下,唯一序列號生成是我們在設計一個系統,尤其是數據庫使用分庫分表的時候常常會遇見的問題。當分成若干個sharding表后,如何能夠快速拿到一個唯一序列號,是經常遇到的問題。

 一、相關背景

分布式架構下,唯一序列號生成是我們在設計一個系統,尤其是數據庫使用分庫分表的時候常常會遇見的問題。當分成若干個sharding表后,如何能夠快速拿到一個唯一序列號,是經常遇到的問題。

在攜程賬號數據庫遷移MySql過程中,我們對用戶ID的生成方案進行了新的設計,要求能夠支撐攜程現有的新用戶注冊體量。

本文通過攜程用戶ID生成器的實現,希望能夠對大家設計分庫分表的唯一id有一些新的思路。

[[210819]]

二、特性需求

  1. 全局唯一
  2. 支持高并發
  3. 能夠體現一定屬性
  4. 高可靠,容錯單點故障
  5. 高性能

三、業內方案

生成ID的方法有很多,來適應不同的場景、需求以及性能要求。

常見方式有:

1、利用數據庫遞增,全數據庫唯一。

優點:明顯,可控。

缺點:單庫單表,數據庫壓力大。

2、UUID, 生成的是length=32的16進制格式的字符串,如果回退為byte數組共16個byte元素,即UUID是一個128bit長的數字,一般用16進制表示。

優點:對數據庫壓力減輕了。

缺點:但是排序怎么辦?

此外還有UUID的變種,增加一個時間拼接,但是會造成id非常長。

3、twitter在把存儲系統從MySQL遷移到Cassandra的過程中由于Cassandra沒有順序ID生成機制,于是自己開發了一套全局唯一ID生成服務:Snowflake。

  1. 41位的時間序列(精確到毫秒,41位的長度可以使用69年)
  2. 10位的機器標識(10位的長度最多支持部署1024個節點)
  3. 12位的計數順序號(12位的計數順序號支持每個節點每毫秒產生4096個ID序號) ***位是符號位,始終為0。

優點:高性能,低延遲;獨立的應用;按時間有序。

缺點:需要獨立的開發和部署。

4、Redis生成ID

當使用數據庫來生成ID性能不夠要求的時候,我們可以嘗試使用Redis來生成ID。這主要依賴于Redis是單線程的,所以也可以用生成全局唯一的ID。可以用Redis的原子操作INCR和INCRBY來實現。

可以使用Redis集群來獲取更高的吞吐量。假如一個集群中有5臺Redis。可以初始化每臺Redis的值分別是1,2,3,4,5,然后步長都是5。各個Redis生成的ID為:

A:1,6,11,16,21

B:2,7,12,17,22

C:3,8,13,18,23

D:4,9,14,19,24

E:5,10,15,20,25

比較適合使用Redis來生成每天從0開始的流水號。比如訂單號=日期+當日自增長號。可以每天在Redis中生成一個Key,使用INCR進行累加。

優點:

不依賴于數據庫,靈活方便,且性能優于數據庫。

數字ID天然排序,對分頁或者需要排序的結果很有幫助。

使用Redis集群也可以防止單點故障的問題。

缺點:

如果系統中沒有Redis,還需要引入新的組件,增加系統復雜度。

需要編碼和配置的工作量比較大,多環境運維很麻煩,

在開始時,程序實例負載到哪個redis實例一旦確定好,未來很難做修改。

5.   Flicker的解決方案

因為MySQL本身支持auto_increment操作,很自然地,我們會想到借助這個特性來實現這個功能。

Flicker在解決全局ID生成方案里就采用了MySQL自增長ID的機制(auto_increment + replace into + MyISAM)。

6.還有其他一些方案,比如京東淘寶等電商的訂單號生成。因為訂單號和用戶id在業務上的區別,訂單號盡可能要多些冗余的業務信息,比如:

滴滴:時間+起點編號+車牌號

淘寶訂單:時間戳+用戶ID

其他電商:時間戳+下單渠道+用戶ID,有的會加上訂單***個商品的ID。

而用戶ID,則要求含義簡單明了,包含注冊渠道即可,盡量短。

四、最終方案

最終我們選擇了以flicker方案為基礎進行優化改進。具體實現是,單表遞增,內存緩存號段的方式。

首先建立一張表,像這樣:

SEQUENCE_GENERATOR_TABLE

id   stub

1    192.168.1.1

其中id是自增的,stub是服務器ip

因為新數據庫采用mysql,所以使用mysql的獨有語法 replace to來更新記錄來獲得唯一id,例如這樣:

  1. REPLACE INTO SEQUENCE_GENERATOR_TABLE (stub) VALUES (“192.168.1.1”); 

再用SELECT id FROM SEQUENCE_GENERATOR_TABLEWHERE stub = “192.168.1.1”;   把它拿回來。

到上面為止,我們只是在單臺數據庫上生成ID,從高可用角度考慮,接下來就要解決單點故障問題。

這也就是為什么要有這個機器ip字段呢?就是為了防止多服務器同時更新數據,取回的id混淆的問題。

所以,當多個服務器的時候,這個表是這樣的:

id   stub

5    192.168.1.1

2    192.168.1.2

3    192.168.1.3

4    192.168.1.4

每臺服務器只更新自己的那條記錄,保證了單線程操作單行記錄。

這時候每個機器拿到的分別是5,2,3,4這4個id。

至此,我們似乎解決這個服務器隔離,原子性獲得id的問題,也和flicker方案基本一致。

但是追根溯源,在原理上,方案還是依靠數據庫的特性,每次生成id都要請求db,開銷很大。我們對此又進行優化,把這個id作為一個號段,而并不是要發出去的序列號,并且這個號段是可以配置長度的,可以1000也可以10000,也就是對拿回來的這個id放大多少倍的問題。

OK,我們從DB一次查詢操作的開銷,拿回來了1000個用戶id到內存中了。

現在的問題就是要解決同一臺服務器在高并發場景,讓大家順序拿號,別拿重復,也別漏拿。

這個問題簡單來說,就是個保持這個號段對象隔離性的問題。

AtomicLong是個靠譜的辦法。

當***次拿回號段id后,擴大1000倍,然后賦值給這個變量atomic,這就是這個號段的***個號碼。

  1. atomic.set(n * 1000); 

并且內存里保存一下***id,也就是這個號段的***一個號碼

  1. currentMaxId = (n + 1) * 1000; 

一個號段就形成了。

此時每次有請求來取號時候,判斷一下有沒有到***一個號碼,沒有到,就拿個號,走人。

  1. Long uid = atomic.incrementAndGet(); 

如果到達了***一個號碼,那么阻塞住其他請求線程,最早的那個線程去db取個號段,再更新一下號段的兩個值,就可以了。

這個方案,核心代碼邏輯不到20行,解決了分布式系統序列號生成的問題。

這里有個小問題,就是在服務器重啟后,因為號碼緩存在內存,會浪費掉一部分用戶ID沒有發出去,所以在可能頻繁發布的應用中,盡量減小號段放大的步長n,能夠減少浪費。

經過實踐,性能的提升遠遠重要于浪費一部分id。

如果再追求***,可以監聽spring或者servlet上下文的銷毀事件,把當前即將發出去的用戶ID保存起來,下次啟動時候再撈回內存即可。

五、上線效果

運行5個多月,十分穩定。

SOA服務平均響應時間 0.59毫秒;

客戶端調用平均響應時間2.52毫秒;

附流程圖:

責任編輯:武曉燕 來源: 36大數據
相關推薦

2024-03-13 08:23:08

分布式系統隨機

2025-07-25 01:00:00

Redis+接口冪等性

2021-06-28 14:45:07

分布式框架操作

2021-11-08 19:25:37

Go生成系統

2021-06-05 07:33:09

ID分布式架構

2022-02-23 07:09:30

分布式ID雪花算法

2023-09-03 22:14:23

分布式ID

2013-09-11 16:02:00

Spark分布式計算系統

2022-08-01 08:01:04

ID發號器系統

2021-10-13 06:49:14

事故復盤ID

2016-09-30 10:13:07

分布式爬蟲系統

2019-01-28 11:46:53

架構運維技術

2018-09-06 22:49:31

分布式架構服務器

2020-07-30 09:35:09

Redis分布式鎖數據庫

2022-06-27 08:36:27

分布式事務XA規范

2011-09-14 10:08:07

Beanstalkd

2020-06-11 13:31:45

TCP序列號網絡

2017-04-12 09:29:02

HiveMapReduceSpark

2022-04-14 07:56:30

公平鎖Java線程

2023-05-29 14:07:00

Zuul網關系統
點贊
收藏

51CTO技術棧公眾號

亚洲一区二区三区精品在线| 亚洲精品视频二区| 男人天堂网站在线| 噜噜噜躁狠狠躁狠狠精品视频| 国产精品吊钟奶在线| 成人激情久久| 亚洲欧美日韩高清| 韩国精品一区| 日韩国产精品视频| 男女羞羞视频在线观看| 欧美一区二区视频网站| 亚洲免费视频一区二区三区| 在线免费不卡电影| 成人好色电影| 欧美在线免费观看亚洲| 黄色的视频在线免费观看| 欧美日韩激情美女| 毛片毛片毛片毛片毛片毛片| 亚洲日本在线天堂| 丁香六月婷婷| 一级中文字幕一区二区| 在线观看黄色| 欧美午夜精品一区二区蜜桃| 免费网站成人| 亚洲激情小视频| 巨胸喷奶水www久久久免费动漫| 在线看福利67194| 清纯唯美激情亚洲| 国产精品久久久久久av福利| 欧美精品自拍| 色综合久久av| 成人性生交大片免费| 婷婷六月天在线| 一区二区三区在线免费观看| 国产免费a∨片在线观看不卡| 欧美精品高清视频| 免费观看成人性生生活片 | 国产成人久久777777| 国产精品久久久久久久午夜片 | 国产精品久久久久久久久久尿| jiujiure精品视频播放| 亚洲直播在线一区| 亚洲男人影院| 日韩视频一二三| 91首页免费视频| 99色在线视频| 欧美日韩国产首页| 激情久久一区二区| 国产脚交av在线一区二区| 亚洲福利久久| 国内精品视频一区二区三区| 福利一区视频在线观看| а√最新版地址在线天堂| 国产在线精品免费| 3d蒂法精品啪啪一区二区免费| 久草在线中文最新视频| 国产在线精品免费| 欧美激情日韩图片| 毛片在线播放网站| 中文一区二区三区四区| 在线免费视频一区二区| 精品久久久久亚洲| 好紧好硬好湿我太爽了| 亚洲电影在线一区二区三区| 日本少妇一区二区| 久久激情视频免费观看| 嫩呦国产一区二区三区av| 国产成人精品久久亚洲高清不卡| 亚洲精品123区| 777777av| 欧美伊人久久大香线蕉综合69| 中文在线8资源库| 国产精品专区h在线观看| 激情欧美一区二区三区在线观看| 日本女优北野望在线电影| 亚洲电影在线观看| 精品色999| 18禁裸男晨勃露j毛免费观看 | 2022国产精品| 成人高清伦理免费影院在线观看| 无圣光视频在线观看| 国产视频久久久| 欧美岛国激情| 黄色大片中文字幕| 在线观看日产精品| 东京久久高清| 国产亚洲美州欧州综合国| 8848hh四虎| 精品国产免费人成电影在线观看四季| 亚洲精品一区二区三区中文字幕 | 加勒比海盗1在线观看免费国语版| 国产精品视频一二| 岛国av在线网站| 91热精品视频| 国产蜜臀av在线一区二区三区| 2024最新电影在线免费观看| 国产精品久久久久久av福利| 91在线视频播放| 黄色大片在线| 国产精品嫩草在线观看| 亚洲图片自拍偷拍| 91精品入口| 黄页网站在线观看视频| 精品日产卡一卡二卡麻豆| 91精品国产91久久综合| 91午夜国产| 久久亚洲综合国产精品99麻豆精品福利 | 欧美三级电影在线播放| 午夜精品在线视频一区| 成人动态视频| 久久免费视频3| 亚洲精品久久久一区二区三区| 欧美日韩久久| 在线看国产视频| 欧美性在线观看| 久久毛片高清国产| 欧美三级电影网址| 成人在线视频一区二区三区| 亚洲第一区在线观看| 久久午夜电影| 免费黄色在线| 久久99精品久久久久久久青青日本 | 久久精品欧美日韩精品| 91在线亚洲| 无码熟妇人妻av在线电影| 国产偷亚洲偷欧美偷精品| 免费人成网站在线观看欧美高清| 日p在线观看| 日本10禁啪啪无遮挡免费一区二区| 欧美性淫爽ww久久久久无| 午夜久久一区| 香蕉视频在线播放| 欧美精品国产精品久久久| 欧美一区二区高清| 日韩av在线播放中文字幕| 中文字幕资源网在线观看| 日本一区网站| 精品亚洲一区二区三区在线观看 | 先锋影音一区二区| 久久久久久久久久久视频| 久久精品国产一区二区电影| 久久久久久久久久久电影| 97视频一区| 久热久精久品这里在线观看| 91在线播放国产| 欧美日韩精品高清| 蜜桃精品视频在线| 成人激情综合| 欧美激情成人网| 欧美亚洲在线观看| 亚洲一区视频在线| 黄色av成人| www在线观看黄色| 精品久久一二三| 97人洗澡人人免费公开视频碰碰碰| 国产亚洲精品资源在线26u| 欧美电影完整版在线观看| 在线中文字幕观看| 日本精品一区二区三区高清 久久 日本精品一区二区三区不卡无字幕 | 免费拍拍拍网站| 中文字幕少妇一区二区三区| 国产亚洲欧美日韩日本| 精品免费在线| 国产91在线视频蝌蚪| 日本一二三区视频在线| 欧美精品日韩三级| 欧美日韩美女在线观看| 日本vs亚洲vs韩国一区三区 | 国产精品久久久久9999高清| 亚洲涩涩在线| av网站一区| 久久99精品久久久久久久青青日本| 日韩精品极品视频免费观看| 国产精品丝袜在线| 欧美成人嫩草网站| 韩国主播福利视频一区二区三区| 爱福利视频一区二区| 国产一区视频在线| 日韩成人在线播放| 亚洲精选视频在线| 日韩av网站在线观看| 精品国产午夜肉伦伦影院| 97超碰人人在线| 手机成人av在线| 欧美在线性视频| 91精品在线免费| 中文一区一区三区高中清不卡| 午夜久久影院| aa亚洲一区一区三区| 黄色网址在线播放| 欧美黑人经典片免费观看| 国产日韩亚洲欧美| 尤物精品国产第一福利三区| 日韩欧美在线播放| 久久久久国产精品麻豆ai换脸| 亚洲黄色毛片| 综合伊思人在钱三区| 欧美电影h版| 成人动漫在线免费观看| 日本不卡一区在线|