建站
咨詢
售后
建站咨詢
新聞中心
談到大數(shù)據(jù)框架，現(xiàn)在最火的就是Hadoop和Spark，但我們往往對(duì)它們的理解只是提留在字面上，并沒(méi)有對(duì)它們進(jìn)行深入的思考，倒底現(xiàn)在業(yè)界都在使用哪種技術(shù)？二者間究竟有哪些異同？它們各自解決了哪些問(wèn)題？下面不妨跟我一塊看下它們究竟有什么異同。
成都創(chuàng)新互聯(lián)專注于上城網(wǎng)站建設(shè)服務(wù)及定制，我們擁有豐富的企業(yè)做網(wǎng)站經(jīng)驗(yàn)。 熱誠(chéng)為您提供上城營(yíng)銷型網(wǎng)站建設(shè)，上城網(wǎng)站制作、上城網(wǎng)頁(yè)設(shè)計(jì)、上城網(wǎng)站官網(wǎng)定制、小程序設(shè)計(jì)服務(wù)，打造上城網(wǎng)絡(luò)公司原創(chuàng)品牌,更為您提供上城網(wǎng)站排名全網(wǎng)營(yíng)銷落地服務(wù)。
解決問(wèn)題的層面不一樣
首先，Hadoop和Apache Spark兩者都是大數(shù)據(jù)框架，但是各自存在的目的不盡相同。Hadoop實(shí)質(zhì)上更多是一個(gè)分布式數(shù)據(jù)基礎(chǔ)設(shè)施: 它將巨大的數(shù)據(jù)集分派到一個(gè)由普通計(jì)算機(jī)組成的集群中的多個(gè)節(jié)點(diǎn)進(jìn)行存儲(chǔ)，意味著您不需要購(gòu)買(mǎi)和維護(hù)昂貴的服務(wù)器硬件，Hadoop還會(huì)索引和跟蹤這些數(shù)據(jù)，讓大數(shù)據(jù)處理和分析效率達(dá)到前所未有的高度；Spark，則是那么一個(gè)專門(mén)用來(lái)對(duì)那些分布式存儲(chǔ)的大數(shù)據(jù)進(jìn)行處理的工具，它并不會(huì)進(jìn)行分布式數(shù)據(jù)的存儲(chǔ)。
兩者可合可分
Hadoop除了提供了一個(gè)為大家所共識(shí)的HDFS分布式數(shù)據(jù)存儲(chǔ)功能之外，還提供了叫做MapReduce的數(shù)據(jù)處理功能，所以我們完全可以拋開(kāi)Spark，使用Hadoop自身的MapReduce來(lái)完成數(shù)據(jù)的處理；Spark也不是非要依附在Hadoop身上才能生存，但如上所述，畢竟它沒(méi)有提供文件管理系統(tǒng)，所以它必須和其他的分布式文件系統(tǒng)進(jìn)行集成才能運(yùn)作，這里我們可以選擇Hadoop的HDFS,也可以選擇其他的基于云的數(shù)據(jù)系統(tǒng)平臺(tái)，但Spark默認(rèn)來(lái)說(shuō)還是被用在Hadoop上面的，畢竟大家都認(rèn)為它們的結(jié)合是最好的。
Spark數(shù)據(jù)處理速度秒殺MapReduce
Spark因?yàn)槠涮幚頂?shù)據(jù)的方式不一樣，會(huì)比MapReduce快上很多，MapReduce是分步對(duì)數(shù)據(jù)進(jìn)行處理的: “從集群中讀取數(shù)據(jù)，進(jìn)行一次處理，將結(jié)果寫(xiě)到集群，從集群中讀取更新后的數(shù)據(jù)，進(jìn)行下一次的處理，將結(jié)果寫(xiě)到集群，等等” Booz Allen Hamilton的數(shù)據(jù)科學(xué)家Kirk Borne如此解析；反觀Spark，它會(huì)在內(nèi)存中以接近“實(shí)時(shí)”的時(shí)間完成所有的數(shù)據(jù)分析：“從集群中讀取數(shù)據(jù)，完成所有必須的分析處理，將結(jié)果寫(xiě)回集群，最終完成” ，Spark的批處理速度比MapReduce快近10倍，內(nèi)存中的數(shù)據(jù)分析速度則快近100倍，如果需要處理的數(shù)據(jù)和結(jié)果需求大部分情況下是靜態(tài)的，且你也有耐心等待批處理的完成的話，MapReduce的處理方式也是完全可以接受的，但如果你需要對(duì)流數(shù)據(jù)進(jìn)行分析，比如那些來(lái)自于工廠的傳感器收集回來(lái)的數(shù)據(jù)，又或者說(shuō)你的應(yīng)用是需要多重?cái)?shù)據(jù)處理的，那么你也許更應(yīng)該使用Spark進(jìn)行處理，大部分機(jī)器學(xué)習(xí)算法都是需要多重?cái)?shù)據(jù)處理的，此外，通常會(huì)用到Spark的應(yīng)用場(chǎng)景有以下方面：實(shí)時(shí)的市場(chǎng)活動(dòng)，在線產(chǎn)品推薦，網(wǎng)絡(luò)安全分析，機(jī)器日記監(jiān)控等。
災(zāi)難恢復(fù)
兩者的災(zāi)難恢復(fù)方式迥異，但是都很不錯(cuò)。因?yàn)镠adoop將每次處理后的數(shù)據(jù)都寫(xiě)入到磁盤(pán)上，所以其天生就能很有彈性的對(duì)系統(tǒng)錯(cuò)誤進(jìn)行處理;Spark的數(shù)據(jù)對(duì)象存儲(chǔ)在分布于數(shù)據(jù)集群中的叫做彈性分布式數(shù)據(jù)集(RDD: Resilient Distributed Dataset)中,這些數(shù)據(jù)對(duì)象既可以放在內(nèi)存，也可以放在磁盤(pán)，所以RDD同樣也可以提供完成的災(zāi)難恢復(fù)功能。
分享題目：淺談Hadoop和Spark異同
文章位置：http://www.5511xx.com/article/cooopee.html
