新聞中心
hadoop安裝在什么系統(tǒng)上?
windows下的hadoop的分布部署主要有兩種方式,采用cygwin模擬linux下命令的方式,部署安裝hadoop系統(tǒng),修改系統(tǒng)的代碼文件DF.java使其可以在windows下運行。

主要原因在于,在hadoop的代碼中對數(shù)據(jù)節(jié)點的磁盤使用情況的獲取采用了,linux下的df -k 命令進行獲取,而在windows沒有此命令支持,因此在數(shù)據(jù)節(jié)點啟動DataNode時會產(chǎn)生啟動進程異常錯誤。
我已經(jīng)成功在windows下配置了hadoop,啟動成功后,利用jps命令,居然發(fā)現(xiàn)什么都沒顯示?
根據(jù)樓主的描述hadoop應該已經(jīng)啟來了。
jps是java的工具,能夠顯示系統(tǒng)當前運行的java程序及其進程號。
運行jps沒有顯示,應該是沒有配置好系統(tǒng)的path、java_home和classpath。
執(zhí)行hadoop fs -ls等同于hadoop fs -ls .該命令查看的是hdfs的/user/hadoop目錄。而且默認是沒有這個目錄的。需要自己創(chuàng)建。
IT運維崗位要求有那些?
IT運維崗位的要求通常包括:
1. 具備計算機相關專業(yè)的本科或以上學歷;
2. 熟悉常見操作系統(tǒng)(如Windows、Linux等)的安裝、配置和維護;
3. 熟悉常見網(wǎng)絡設備(如交換機、路由器等)的配置和維護;
4. 熟悉TCP/IP協(xié)議和網(wǎng)絡技術,能夠排查和解決網(wǎng)絡故障;
5. 熟悉常見服務器硬件和軟件的安裝、配置和維護;
6. 懂得使用常用的運維工具和腳本語言,如Shell、Python等;
7. 具備良好的溝通能力和團隊合作能力,能夠與其他部門和供應商進行有效的協(xié)調(diào)和合作;
8. 具備獨立問題解決能力和較強的學習能力,能夠快速學習和適應新技術和工具;
9. 具備一定的項目管理和風險控制能力,能夠制定和執(zhí)行運維計劃,確保系統(tǒng)的穩(wěn)定性和高可用性;
10. 具備較強的故障排除和問題解決能力,能夠高效地定位和修復各種技術問題;
11. 具備良好的文檔編寫和總結能力,能夠編寫規(guī)范和清晰的技術文檔和操作手冊。
當然,具體的要求還會因不同公司和崗位的要求而有所不同,以上僅為一般性的IT運維崗位要求。
IT運維崗位要求包括以下幾個方面:
本科及以上學歷,計算機等相關專業(yè)。
2年以上Hadoop相關運維經(jīng)驗,了解Hadoop各組件的原理,并有實際部署維護經(jīng)驗。
深入理解Linux系統(tǒng),計算機網(wǎng)絡,運維體系結構,精于容量規(guī)劃、架構設計、性能優(yōu)化。
熟悉一門以上腳本語言(shell/perl/python等),熟練掌握自動化運維技術。
熟悉docker操作、實施,能通過kuberneter、swarm技術管理docker集群,熟悉灰度發(fā)布。
熟悉hadoop、hive、hbase、yarn、spark等大數(shù)據(jù)生態(tài)圈之組件的原理及運維方式。
熟悉數(shù)據(jù)庫基本原理,能對Mysql進行性能優(yōu)化,監(jiān)控Mysql日常運行情況,熟悉主備、主從、安全機制。
有敏銳的技術洞察力和較強的問題分析能力,故障排查能力,有很好的技術敏感度和風險識別能力。
到此,以上就是小編對于hadoop可以在 windows的問題就介紹到這了,希望這3點解答對大家有用。
文章標題:hadoop安裝在什么系統(tǒng)上?(hadoop在windows的應用)
轉載源于:http://www.5511xx.com/article/dhccssd.html


咨詢
建站咨詢
