建站
咨詢(xún)
售后
建站咨詢(xún)
新聞中心
上篇文章《??美團(tuán)二面：如果每天有百億流量，你如何保證數(shù)據(jù)一致性？??》，初步給大家分析了一下，一個(gè)復(fù)雜的分布式系統(tǒng)中，數(shù)據(jù)不一致的問(wèn)題是怎么產(chǎn)生的。
創(chuàng)新互聯(lián)公司專(zhuān)注于慶元網(wǎng)站建設(shè)服務(wù)及定制，我們擁有豐富的企業(yè)做網(wǎng)站經(jīng)驗(yàn)。 熱誠(chéng)為您提供慶元營(yíng)銷(xiāo)型網(wǎng)站建設(shè)，慶元網(wǎng)站制作、慶元網(wǎng)頁(yè)設(shè)計(jì)、慶元網(wǎng)站官網(wǎng)定制、成都微信小程序服務(wù)，打造慶元網(wǎng)絡(luò)公司原創(chuàng)品牌,更為您提供慶元網(wǎng)站排名全網(wǎng)營(yíng)銷(xiāo)落地服務(wù)。
簡(jiǎn)單來(lái)說(shuō)，就是一個(gè)分布式系統(tǒng)中的多個(gè)子系統(tǒng)（或者服務(wù)）協(xié)作處理一份數(shù)據(jù)，但是最后這個(gè)數(shù)據(jù)的最終結(jié)果卻沒(méi)有符合期望。
這是一種非常典型的數(shù)據(jù)不一致的問(wèn)題。當(dāng)然在分布式系統(tǒng)中，數(shù)據(jù)不一致問(wèn)題還有其他的一些情況。
比如說(shuō)多個(gè)系統(tǒng)都要維護(hù)一份數(shù)據(jù)的多個(gè)副本，結(jié)果某個(gè)系統(tǒng)中的數(shù)據(jù)副本跟其他的副本不一致，這也是數(shù)據(jù)不一致。
但是這幾篇文章，說(shuō)的主要是我們上篇文章分析的那種數(shù)據(jù)不一致的問(wèn)題到底應(yīng)該如何解決。
一、多系統(tǒng)訂閱數(shù)據(jù)回顧
我們先來(lái)看一張圖，是之前講系統(tǒng)架構(gòu)解耦的時(shí)候用的一張圖。
好！通過(guò)上面這張圖，我們來(lái)回顧一下之前做了系統(tǒng)解耦之后的一個(gè)架構(gòu)圖。
其實(shí)，實(shí)時(shí)計(jì)算平臺(tái)會(huì)把數(shù)據(jù)計(jì)算的結(jié)果投遞到一個(gè)消息中間件里。
然后，數(shù)據(jù)查詢(xún)平臺(tái)、數(shù)據(jù)質(zhì)量監(jiān)控系統(tǒng)、數(shù)據(jù)鏈路追蹤系統(tǒng)，各個(gè)系統(tǒng)都需要那個(gè)數(shù)據(jù)計(jì)算結(jié)果，都會(huì)去訂閱里面的數(shù)據(jù)。
這個(gè)就是當(dāng)前的一個(gè)架構(gòu)，所以這個(gè)系列文章分析到這里，大家也可以反過(guò)來(lái)理解了之前為什么要做系統(tǒng)架構(gòu)的解耦了。
因?yàn)橐环莺诵臄?shù)據(jù)，是很多系統(tǒng)都可能會(huì)需要的。通過(guò)引入MQ對(duì)架構(gòu)解耦了之后，各個(gè)系統(tǒng)就可以按需訂閱數(shù)據(jù)了。
二、核心數(shù)據(jù)的監(jiān)控系統(tǒng)
如果要解決核心數(shù)據(jù)的不一致問(wèn)題，首先就是要做核心數(shù)據(jù)的監(jiān)控。
有些同學(xué)會(huì)以為這個(gè)監(jiān)控就是用falcon之類(lèi)的系統(tǒng)，做業(yè)務(wù)metrics監(jiān)控就可以了，但是其實(shí)并不是這樣。
這種核心數(shù)據(jù)的監(jiān)控，遠(yuǎn)遠(yuǎn)不是做一個(gè)metrics監(jiān)控可以解決的。
在我們的實(shí)踐中，必須要自己開(kāi)發(fā)一個(gè)核心數(shù)據(jù)的監(jiān)控系統(tǒng)，在里面按照自己的需求，針對(duì)復(fù)雜的數(shù)據(jù)校驗(yàn)邏輯開(kāi)發(fā)大量的監(jiān)控代碼。
我們用那個(gè)數(shù)據(jù)平臺(tái)項(xiàng)目來(lái)舉例，自己寫(xiě)的數(shù)據(jù)質(zhì)量監(jiān)控系統(tǒng)，需要把核心的一些數(shù)據(jù)指標(biāo)從MQ里消費(fèi)出來(lái)，這些數(shù)據(jù)指標(biāo)都是實(shí)時(shí)計(jì)算平臺(tái)計(jì)算好的。
那么此時(shí)，就需要自定義一套監(jiān)控邏輯了，這種監(jiān)控邏輯，不同的系統(tǒng)都是完全不一樣的。
比如在這種數(shù)據(jù)類(lèi)的系統(tǒng)里，很可能對(duì)數(shù)據(jù)指標(biāo)A的監(jiān)控邏輯是如下這樣的：
- 數(shù)據(jù)指標(biāo)A = 數(shù)據(jù)指標(biāo)B + 數(shù)據(jù)指標(biāo)C - 數(shù)據(jù)指標(biāo)D * 24。
每個(gè)核心指標(biāo)都是有自己的一個(gè)監(jiān)控公式的，這個(gè)監(jiān)控公式，就是負(fù)責(zé)開(kāi)發(fā)實(shí)時(shí)計(jì)算平臺(tái)的同學(xué)，他們寫(xiě)的數(shù)據(jù)計(jì)算邏輯，是知道數(shù)據(jù)指標(biāo)之間的邏輯關(guān)系的。
所以此時(shí)就有了一個(gè)非常簡(jiǎn)單的思路：
- 首先，這個(gè)數(shù)據(jù)監(jiān)控系統(tǒng)從MQ里消費(fèi)到每一個(gè)最新計(jì)算出來(lái)的核心數(shù)據(jù)指標(biāo)。
- 然后根據(jù)預(yù)先定義好的監(jiān)控公式，從數(shù)據(jù)查詢(xún)平臺(tái)里調(diào)用接口獲取出來(lái)公式需要的其他數(shù)據(jù)指標(biāo)。
- 接著，按照公式進(jìn)行監(jiān)控計(jì)算。
如果監(jiān)控計(jì)算過(guò)后發(fā)現(xiàn)幾個(gè)數(shù)據(jù)指標(biāo)之間的關(guān)系居然不符合預(yù)先定義好的那個(gè)規(guī)則，那么此時(shí)就可以立馬發(fā)送報(bào)警了（短信、郵件、IM通知）。
工程師接到這報(bào)警之后，就可以立馬開(kāi)始排查，為什么這個(gè)數(shù)據(jù)居然會(huì)不符合預(yù)先定義好的一套業(yè)務(wù)規(guī)則呢。
這樣就可以解決數(shù)據(jù)問(wèn)題的第一個(gè)痛點(diǎn)：不需要等待用戶(hù)發(fā)現(xiàn)后反饋給客服了，自己系統(tǒng)第一時(shí)間就發(fā)現(xiàn)了數(shù)據(jù)的異常。
同樣，給大家上一張圖，直觀的感受一下。
三、電商庫(kù)存數(shù)據(jù)如何監(jiān)控
如果用電商里的庫(kù)存數(shù)據(jù)來(lái)舉例也是一樣的，假設(shè)你想要監(jiān)控電商系統(tǒng)中的核心數(shù)據(jù)：庫(kù)存數(shù)據(jù)。
首先第一步，在微服務(wù)架構(gòu)中，你必須要收口。
也就是說(shuō)，在徹底的服務(wù)化中，你要保證所有的子系統(tǒng) / 服務(wù)如果有任何庫(kù)存更新的操作，全部走接口調(diào)用請(qǐng)求庫(kù)存服務(wù)。只能是庫(kù)存服務(wù)來(lái)負(fù)責(zé)庫(kù)存數(shù)據(jù)在數(shù)據(jù)庫(kù)層面的更新操作，這樣就完成了收口。
收口了之后做庫(kù)存數(shù)據(jù)的監(jiān)控就好辦了，完全可以采用MySQL binlog采集的技術(shù)，直接用Mysql binlog同步中間件來(lái)監(jiān)控?cái)?shù)據(jù)庫(kù)中庫(kù)存數(shù)據(jù)涉及到的表和字段。
只要庫(kù)存服務(wù)對(duì)應(yīng)的數(shù)據(jù)庫(kù)中的表涉及到增刪改操作，都會(huì)被Mysql binlog同步中間件采集后，發(fā)送到數(shù)據(jù)監(jiān)控系統(tǒng)中去。
此時(shí)，數(shù)據(jù)監(jiān)控系統(tǒng)就可以采用預(yù)先定義好的庫(kù)存數(shù)據(jù)監(jiān)控邏輯，來(lái)查驗(yàn)這個(gè)庫(kù)存數(shù)據(jù)是否準(zhǔn)確。
這個(gè)監(jiān)控邏輯可以是很多種的，比如可以后臺(tái)走異步線(xiàn)程請(qǐng)求到實(shí)際的C/S架構(gòu)的倉(cāng)儲(chǔ)系統(tǒng)中，查一下實(shí)際的庫(kù)存數(shù)量。
或者是根據(jù)一定的庫(kù)存邏輯來(lái)校驗(yàn)一下，舉個(gè)例子：
- 虛擬庫(kù)存 + 預(yù)售庫(kù)存 + 凍結(jié)庫(kù)存 + 可銷(xiāo)售庫(kù)存 = 總可用庫(kù)存數(shù)。
當(dāng)然，這就是舉個(gè)例子，實(shí)際如何監(jiān)控，大家根據(jù)自己的業(yè)務(wù)來(lái)做就好了。
四、數(shù)據(jù)計(jì)算鏈路追蹤
此時(shí)我們已經(jīng)解決了第一個(gè)問(wèn)題，主動(dòng)監(jiān)控系統(tǒng)中的少數(shù)核心數(shù)據(jù)，在第一時(shí)間可以自己先收到報(bào)警發(fā)現(xiàn)核心是護(hù)具有異常。
但是此時(shí)我們還需要解決第二個(gè)問(wèn)題，那就是當(dāng)你發(fā)現(xiàn)核心數(shù)據(jù)出錯(cuò)之后，如何快速的排查問(wèn)題到底出在哪里？
比如，你發(fā)現(xiàn)數(shù)據(jù)平臺(tái)的某個(gè)核心指標(biāo)出錯(cuò)，或者是電商系統(tǒng)的某個(gè)商品庫(kù)存數(shù)據(jù)出錯(cuò)，此時(shí)你要排查數(shù)據(jù)到底為什么錯(cuò)了，應(yīng)該怎么辦呢？
很簡(jiǎn)單，此時(shí)我們必須要做數(shù)據(jù)計(jì)算鏈路的追蹤。
也就是說(shuō)，你必須要知道這個(gè)數(shù)據(jù)從最開(kāi)始到底是經(jīng)歷了哪些環(huán)節(jié)和步驟，每個(gè)環(huán)節(jié)到底如何更新了數(shù)據(jù)，更新后的數(shù)據(jù)又是什么，還有要記錄下來(lái)每次數(shù)據(jù)變更后的監(jiān)控檢查點(diǎn)。
比如說(shuō)：
- 步驟A -> 步驟B -> 步驟C -> 2018-01-01 10:00:00。
第一次數(shù)據(jù)更新后，數(shù)據(jù)監(jiān)控檢查點(diǎn)，數(shù)據(jù)校驗(yàn)情況是準(zhǔn)確，庫(kù)存數(shù)據(jù)值為1365。
- 步驟A -> 步驟B -> 步驟D -> 步驟C -> 2018-01-01 11:05:00。
第二次數(shù)據(jù)更新后，數(shù)據(jù)監(jiān)控檢查點(diǎn)，數(shù)據(jù)校驗(yàn)情況是錯(cuò)誤，庫(kù)存數(shù)據(jù)值為1214。
類(lèi)似上面的那種數(shù)據(jù)計(jì)算鏈路的追蹤，是必須要做的。
因?yàn)槟惚仨氁酪粋€(gè)核心數(shù)據(jù)，他每次更新一次值經(jīng)歷了哪些中間步驟，哪些服務(wù)更新過(guò)他，那一次數(shù)據(jù)變更對(duì)應(yīng)的數(shù)據(jù)監(jiān)控結(jié)果如何。
此時(shí)，如果你發(fā)現(xiàn)一個(gè)庫(kù)存數(shù)據(jù)出錯(cuò)了，立馬可以人肉搜出來(lái)這個(gè)數(shù)據(jù)過(guò)往的歷史計(jì)算鏈路。
你可以看到這條數(shù)據(jù)從一開(kāi)始出現(xiàn)，然后每一次變更的計(jì)算鏈路和監(jiān)控結(jié)果。
比如上面那個(gè)舉例，你可能發(fā)現(xiàn)第二次庫(kù)存數(shù)據(jù)更新后結(jié)果是1214，這個(gè)值是錯(cuò)誤的。
然后你一看，發(fā)現(xiàn)其實(shí)第一次更新的結(jié)果是正確的，但是第二次更新的計(jì)算鏈路中多了一個(gè)步驟D出來(lái)，那么可能這個(gè)步驟D是服務(wù)D做了一個(gè)更新。
此時(shí)，你就可以找服務(wù)D的服務(wù)人問(wèn)問(wèn)，結(jié)果可能就會(huì)發(fā)現(xiàn)，原來(lái)服務(wù)D沒(méi)有按照大家約定好的規(guī)則來(lái)更新庫(kù)存，結(jié)果就導(dǎo)致庫(kù)存數(shù)據(jù)出錯(cuò)。
這個(gè)，就是排查核心數(shù)據(jù)問(wèn)題的一個(gè)通用思路。
五、百億流量下的數(shù)據(jù)鏈路追蹤
如果要做數(shù)據(jù)計(jì)算鏈路，其實(shí)要解決的技術(shù)問(wèn)題只有一個(gè)，那就是在百億流量的高并發(fā)下，任何一個(gè)核心數(shù)據(jù)每天的計(jì)算鏈路可能都是上億的，此時(shí)你應(yīng)該如何存儲(chǔ)呢？
其實(shí)給大家比較推薦的，是用elasticsearch技術(shù)來(lái)做這種數(shù)據(jù)鏈路的存儲(chǔ)。
因?yàn)閑s一方面是分布式的，支持海量數(shù)據(jù)的存儲(chǔ)。
而且他可以做高性能的分布式檢索，后續(xù)在排查數(shù)據(jù)問(wèn)題的時(shí)候，是需要對(duì)海量數(shù)據(jù)做高性能的多條件檢索的。
所以，我們完全可以獨(dú)立出來(lái)一個(gè)數(shù)據(jù)鏈路追蹤系統(tǒng)，并設(shè)置如下操作：
- 數(shù)據(jù)計(jì)算過(guò)程中涉及到的各個(gè)服務(wù)，都需要對(duì)核心數(shù)據(jù)的處理發(fā)送一條計(jì)算鏈路日志到數(shù)據(jù)鏈路追蹤系統(tǒng)。
- 然后，數(shù)據(jù)鏈路追蹤系統(tǒng)就可以把計(jì)算鏈路日志落地到存儲(chǔ)里去，按照一定的規(guī)則建立好對(duì)應(yīng)的索引字段。
- 舉個(gè)例子，索引字段：核心數(shù)據(jù)名稱(chēng)，核心數(shù)據(jù)id，本次請(qǐng)求id，計(jì)算節(jié)點(diǎn)序號(hào)，本次監(jiān)控結(jié)果，子系統(tǒng)名稱(chēng)，服務(wù)名稱(chēng)，計(jì)算數(shù)據(jù)內(nèi)容，等等。
此時(shí)一旦發(fā)現(xiàn)某個(gè)數(shù)據(jù)出錯(cuò)，就可以立即根據(jù)這條數(shù)據(jù)的id，從es里提取出來(lái)歷史上所有的計(jì)算鏈路。
而且還可以給數(shù)據(jù)鏈路追蹤系統(tǒng)開(kāi)發(fā)一套用戶(hù)友好的前端界面，比如在界面上可以按照請(qǐng)求id展示出來(lái)每次請(qǐng)求對(duì)應(yīng)的一系列技術(shù)步驟組成的鏈路。
此時(shí)會(huì)有什么樣的體驗(yàn)?zāi)兀课覀兞ⅠR可以清晰的看到是哪一次計(jì)算鏈路導(dǎo)致了數(shù)據(jù)的出錯(cuò)，以及過(guò)程中每一個(gè)子系統(tǒng) / 服務(wù)對(duì)數(shù)據(jù)做了什么樣的修改。
然后，我們就可以追本溯源，直接定位到出錯(cuò)的邏輯，進(jìn)行分析和修改。
說(shuō)了那么多，還是給大家來(lái)一張圖，一起來(lái)感受一下這個(gè)過(guò)程。
六、自動(dòng)化數(shù)據(jù)鏈路分析
到這里為止，大家如果能在自己公司的大規(guī)模分布式系統(tǒng)中，落地上述那套數(shù)據(jù)監(jiān)控 + 鏈路追蹤的機(jī)制，就已經(jīng)可以非常好的保證核心數(shù)據(jù)的準(zhǔn)確性了。
通過(guò)這套機(jī)制，核心數(shù)據(jù)出錯(cuò)時(shí)，第一時(shí)間可以收到報(bào)警，而且可以立馬拉出數(shù)據(jù)計(jì)算鏈路，快速的分析數(shù)據(jù)為何出錯(cuò)。
但是，如果要更進(jìn)一步的節(jié)省排查數(shù)據(jù)出錯(cuò)問(wèn)題的人力，那么可以在數(shù)據(jù)鏈路追蹤系統(tǒng)里面加入一套自動(dòng)化數(shù)據(jù)鏈路分析的機(jī)制。
大家可以反向思考一下，假如說(shuō)現(xiàn)在你發(fā)現(xiàn)數(shù)據(jù)出錯(cuò)，而且手頭有數(shù)據(jù)計(jì)算鏈路，你會(huì)怎么檢查？
不用說(shuō)，當(dāng)然是大家坐在一起唾沫橫飛的分析了，人腦分析。
比如說(shuō)，步驟A按理說(shuō)執(zhí)行完了應(yīng)該數(shù)據(jù)是X，步驟B按理說(shuō)執(zhí)行完了應(yīng)該數(shù)據(jù)是Y，步驟C按理說(shuō)執(zhí)行完了應(yīng)該數(shù)據(jù)是Z。
結(jié)果，誒！步驟C執(zhí)行完了怎么數(shù)據(jù)是ZZZ呢？？看來(lái)問(wèn)題就出在步驟C了！
然后去步驟C看看，發(fā)現(xiàn)原來(lái)是服務(wù)C更新的，此時(shí)服務(wù)C的負(fù)責(zé)人開(kāi)始吭哧吭哧的排查自己的代碼，看看到底為什么接收到一個(gè)數(shù)據(jù)Y之后，自己的代碼會(huì)處理成數(shù)據(jù)ZZZ，而不是數(shù)據(jù)Z呢？
最后，找到了代碼問(wèn)題，此時(shí)就ok了，在本地再次復(fù)現(xiàn)數(shù)據(jù)錯(cuò)誤，然后修復(fù)bug后上線(xiàn)即可。
所以，這個(gè)過(guò)程的前半部分，是完全可以自動(dòng)化的。也就是你寫(xiě)一套自動(dòng)分析數(shù)據(jù)鏈路的代碼，就模擬你人腦分析鏈路的邏輯即可，自動(dòng)一步步分析每個(gè)步驟的計(jì)算結(jié)果。這樣就可以把數(shù)據(jù)監(jiān)控系統(tǒng)和鏈路追蹤系統(tǒng)打通了。
一旦數(shù)據(jù)監(jiān)控系統(tǒng)發(fā)現(xiàn)數(shù)據(jù)出錯(cuò)，立馬可以調(diào)用鏈路追蹤系統(tǒng)的接口，進(jìn)行自動(dòng)化的鏈路分析，看看本次數(shù)據(jù)出錯(cuò)，到底是鏈路中的哪個(gè)服務(wù)bug導(dǎo)致的數(shù)據(jù)問(wèn)題。
接著，將所有的信息匯總起來(lái)，發(fā)送一個(gè)報(bào)警通知給相關(guān)人等。
相關(guān)人員看到報(bào)警之后，一目了然，所有人立馬知道本次數(shù)據(jù)出錯(cuò)，是鏈路中的哪個(gè)步驟，哪個(gè)服務(wù)導(dǎo)致的。
最后，那個(gè)服務(wù)的負(fù)責(zé)人就可以立馬根據(jù)報(bào)警信息，排查自己的系統(tǒng)中的代碼了。
七、總結(jié)
到這篇文章為止，我們基本上梳理清楚了大規(guī)模的負(fù)責(zé)分布式系統(tǒng)中，如何保證核心數(shù)據(jù)的一致性。
名稱(chēng)欄目：教你面試的時(shí)候如何迅速完成90%以上的海量數(shù)據(jù)處理題
轉(zhuǎn)載源于：http://www.5511xx.com/article/cdjdjcp.html
