建站
咨詢
售后
建站咨詢
新聞中心
這里有您想知道的互聯(lián)網營銷解決方案
硬核干貨！Redis分布式集群部署實戰(zhàn)
硬核干貨！Redis 分布式集群部署實戰(zhàn)
作者：老A 2020-07-03 13:29:08
存儲
存儲軟件
分布式
Redis Redis集群采用一致性哈希槽的方式將集群中每個主節(jié)點都分配一定的哈希槽，對寫入的數(shù)據(jù)進行哈希后分配到某個主節(jié)點進行存儲。
成都創(chuàng)新互聯(lián)公司堅持“要么做到，要么別承諾”的工作理念，服務領域包括：成都網站設計、成都做網站、外貿網站建設、企業(yè)官網、英文網站、手機端網站、網站推廣等服務，滿足客戶于互聯(lián)網時代的興城網站設計、移動媒體設計的需求，幫助企業(yè)找到有效的互聯(lián)網解決方案。努力成為您成熟可靠的網絡建設合作伙伴！
本文轉載自微信公眾號「 民工哥技術之路」，作者老A。轉載本文請聯(lián)系民工哥技術之路公眾號。
原理：
- Redis集群采用一致性哈希槽的方式將集群中每個主節(jié)點都分配一定的哈希槽，對寫入的數(shù)據(jù)進行哈希后分配到某個主節(jié)點進行存儲。
- 集群使用公式(CRC16 key)& 16384計算鍵key數(shù)據(jù)那個槽。
- 16384個slot均勻分布在各個節(jié)點上。
- 集群中每個主節(jié)點將承擔一部分槽點的維護，而槽點中存儲著數(shù)據(jù)，每個主節(jié)點都有至少一個從節(jié)點用于高可用。
節(jié)點通信方式：
- 開啟一個端口 設置的端口號+10000，用于集群之間節(jié)點通信交換信息。
- 每個節(jié)點默認每秒10次選擇隨機5個節(jié)點發(fā)送ping消息，將自身信息和知道的集群信息傳遞，收到ping消息后返回pong消息做回復，最后通過這種隨機的消息交換，最終每個節(jié)點將獲得所有信息。
- 當某個主節(jié)點掛掉，所有節(jié)點將會發(fā)現(xiàn)主節(jié)點掛掉了，作為主節(jié)點的從節(jié)點，就會接替主節(jié)點的工作，然后告訴所有其它節(jié)點，他成為了主。這樣其它存活節(jié)點，就將它們維護的信息表更新從節(jié)點將接任做主，如果都掛掉集群將報錯。當從一個節(jié)點操作，根據(jù)一致性哈希計算后將存儲在其中一個主節(jié)點中，從節(jié)點將同步主的數(shù)據(jù)。
- redis cluster是去中心化的，集群中的每個節(jié)點都是平等的關系，每個節(jié)點都保存各自的數(shù)據(jù)和整個集群的狀態(tài)。每個節(jié)點都和其他所有節(jié)點連接，而且這些連接保持活躍。
- 搭建集群時，會為每一個分片的主節(jié)點，對應一個從節(jié)點。實現(xiàn)slaveof功能，同時當主節(jié)點down，實現(xiàn)sentinel哨兵的自動failover切換功能
Redis分布式集群(部署)：
端口號：7000-7005
本次分布式分片集群在一臺LInux系統(tǒng)即可，只需要安裝多個實例作為集群配置。
安裝ruby環(huán)境支持：
- yum -y install ruby rubygems
yum安裝2.0.0版本，但是gem需要2.2.2版本以上，所以選擇編譯
下載并安裝ruby環(huán)境：
- wget https://cache.ruby-lang.org/pub/ruby/2.6/ruby-2.6.1.tar.gz
- tar xf ruby-2.6.1.tar.gz && cd ruby-2.6.1/
- ./configure --prefix=/usr/local/ruby
- make && make install && echo $?
- echo 'export PATH=$PATH:/usr/local/ruby/bin' >> /etc/profile
- source /etc/profile
修改gem工具國內源：
- # 查看gem工具源地址
- gem sources -l
- # 添加一個阿里云的gem工具源
- gem sources -a http://mirrors.aliyun.com/rubygems/
- # 刪除gem工具默認國外源
- gem sources --remove https://rubygems.org/
- # 下載當前最新版本集群插件
- gem install redis -v 4.1.0
集群節(jié)點準備：
- mkdir /data/700{0..5}
配置7000端口實例：
- vim /data/7000/redis.conf
- port 7000
- daemonize yes
- pidfile /data/7000/redis.pid
- loglevel notice
- logfile "/data/7000/redis.log"
- dbfilename dump.rdb
- dir /data/7000
- protected-mode no
- cluster-enabled yes
- cluster-config-file nodes.conf
- cluster-node-timeout 5000
- appendonly yes
拷貝其他端口實例：
- # 拷貝配置文件
- cp /data/7000/redis.conf /data/7001/
- cp /data/7000/redis.conf /data/7002/
- cp /data/7000/redis.conf /data/7003/
- cp /data/7000/redis.conf /data/7004/
- cp /data/7000/redis.conf /data/7005/
- # 修改配置文件內容
- sed -i 's#7000#7001#g' /data/7001/redis.conf
- sed -i 's#7000#7002#g' /data/7002/redis.conf
- sed -i 's#7000#7003#g' /data/7003/redis.conf
- sed -i 's#7000#7004#g' /data/7004/redis.conf
- sed -i 's#7000#7005#g' /data/7005/redis.conf
啟動所有實例：
- redis-server /data/7000/redis.conf
- redis-server /data/7001/redis.conf
- redis-server /data/7002/redis.conf
- redis-server /data/7003/redis.conf
- redis-server /data/7004/redis.conf
- redis-server /data/7005/redis.conf
創(chuàng)建命令軟鏈接：
(這個命令過期了，現(xiàn)在使用redis-cli命令)(可選執(zhí)行命令)
- ln -s /usr/local/redis-5.0.2/src/redis-trib.rb /usr/sbin/
查看進程：
- ps -ef |grep redis-server
加入所有實例節(jié)點到集群管理：
- # --replicas 1",1是代表每一個主有一個從,后面的是所有節(jié)點的地址與端口信息
- redis-cli --cluster create --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005
分布式主從規(guī)則為，前三個實例節(jié)點是主，對應的后面三個實例節(jié)點為從節(jié)點，如果replicas 2，那就多加3個實例節(jié)點
查看主節(jié)點狀態(tài)：
- redis-cli -p 7000 cluster nodes|grep master
查看從節(jié)點狀態(tài)：
- redis-cli -p 7000 cluster nodes|grep slave
Redis-分布式集群(管理)
集群節(jié)點增加準備：
- mkdir /data/700{6..7}
- 拷貝其他端口實例：
- # 拷貝配置文件
- cp /data/7000/redis.conf /data/7006/
- cp /data/7000/redis.conf /data/7007/
- # 修改配置文件內容
- sed -i 's#7000#7006#g' /data/7006/redis.conf
- sed -i 's#7000#7007#g' /data/7007/redis.conf
啟動新節(jié)點實例：
- redis-server /data/7006/redis.conf
- redis-server /data/7007/redis.conf
查看進程：
- ps -ef |grep redis-server
添加主節(jié)點：(7000實例是管理節(jié)點)
- #'把7006實例添加到7000實例這個主節(jié)點所在集群內(此時已經有了4個主節(jié)點)
- redis-cli --cluster add-node 127.0.0.1:7006 127.0.0.1:7000
查看主節(jié)點狀態(tài)：
- redis-cli -p 7000 cluster nodes|grep master
轉移slot(重新分片)：
- #'操作集群管理節(jié)點從新分配，并在交互界面指定分片大小、選擇接收分片的節(jié)點ID
- redis-cli --cluster reshard 127.0.0.1:7000
- How many slots do you want to move (from 1 to 16384)? 4096
- #通過人工手動計算數(shù)據(jù)分片總大小除以主節(jié)點后的數(shù)字
- What is the receiving node ID? 2129d28f0a86fc89571e49a59a0739812cff7953
- #選擇接收數(shù)據(jù)分片的節(jié)點ID，（這是新增節(jié)點7006實例的ID號）
- Source node #1: all
- #選擇從哪些源主節(jié)點重新分片給新主節(jié)點）（all是所有節(jié)點）
- Do you want to proceed with the proposed reshard plan (yes/no)? yes
- #確認修改以上的操作
重新查看主節(jié)點狀態(tài)：(可以看到集群數(shù)據(jù)的重新分片)
- redis-cli -p 7000 cluster nodes|grep master
添加從節(jié)點：
- #'把7007實例節(jié)點添加到7006實例主節(jié)點內，并指定對應7006實例主節(jié)點坐在集群的管理節(jié)點
- redis-cli --cluster add-node 127.0.0.1:7007 127.0.0.1:7000 --cluster-slave --cluster-master-id 2129d28f0a86fc89571e49a59a0739812cff7953
查看從節(jié)點狀態(tài)：
- redis-cli -p 7000 cluster nodes|grep slave
集群節(jié)點刪除準備：
移動要刪除節(jié)點的數(shù)據(jù)分片：
- #'操作集群管理節(jié)點從新分配，并在交互界面指定分片大小、選擇接收分片的節(jié)點ID
- redis-cli --cluster reshard 127.0.0.1:7000
- #方法是根據(jù)要刪除master節(jié)點的分片位置，然后一個組分一個節(jié)點 ， 也可以直接移動所有數(shù)據(jù)片到一個節(jié)點
- How many slots do you want to move (from 1 to 16384)? 1365
- #通過人工手動查看數(shù)據(jù)分片總大小
- What is the receiving node ID? e64f9074a3733fff7baa9a4848190e56831d5447
- #選擇接收數(shù)據(jù)分片的節(jié)點ID，（這是新增節(jié)點7006實例的ID號）
- Source node #1: 2129d28f0a86fc89571e49a59a0739812cff7953
- #選擇從哪些源主節(jié)點重新分片給新主節(jié)點（這是要刪除的主節(jié)點的ID號）
- Source node #2: done
- #這是結束命令
- Do you want to proceed with the proposed reshard plan (yes/no)? yes
- #確認修改以上的操作
重新查看主節(jié)點狀態(tài)：(可以看到集群數(shù)據(jù)的重新分片)
- redis-cli -p 7000 cluster nodes|grep master
繼續(xù)移動數(shù)據(jù)片：
- #'操作集群管理節(jié)點從新分配，并在交互界面指定分片大小、選擇接收分片的節(jié)點ID
- redis-cli --cluster reshard 127.0.0.1:7000
- # 方法是根據(jù)要刪除master節(jié)點的分片位置，然后一個組分一個節(jié)點 ， 也可以直接移動所有數(shù)據(jù)片到一個節(jié)點
- How many slots do you want to move (from 1 to 16384)? 1366 #通過人工手動查看數(shù)據(jù)分片總大小
- What is the receiving node ID? f6c1aaea3a8c56e0c7dee8ad7ae17e26dd04244c
- #選擇接收數(shù)據(jù)分片的節(jié)點ID，（這是新增節(jié)點7006實例的ID號）
- Source node #1: 2129d28f0a86fc89571e49a59a0739812cff7953
- #選擇從哪些源主節(jié)點重新分片給新主節(jié)點（這是要刪除的主節(jié)點的ID號）
- Source node #2: done
- #這是結束命令
- Do you want to proceed with the proposed reshard plan (yes/no)? yes
- #確認修改以上的操作
重新查看主節(jié)點狀態(tài)：(可以看到集群數(shù)據(jù)的重新分片)
- redis-cli -p 7000 cluster nodes|grep master
最后一次移動數(shù)據(jù)片：
- #'操作集群管理節(jié)點從新分配，并在交互界面指定分片大小、選擇接收分片的節(jié)點ID
- redis-cli --cluster reshard 127.0.0.1:7000
- #方法是根據(jù)要刪除master節(jié)點的分片位置，然后一個組分一個節(jié)點 ， 也可以直接移動所有數(shù)據(jù)片到一個節(jié)點
- How many slots do you want to move (from 1 to 16384)? 1365
- #通過人工手動查看數(shù)據(jù)分片總大小
- What is the receiving node ID? 5a0df4ea0af5f35c1248e45e88d44c3f2e10169f
- Source node #1: 2129d28f0a86fc89571e49a59a0739812cff7953
- Source node #2: done
重新查看主節(jié)點狀態(tài)：(可以看到集群數(shù)據(jù)的重新分片)
- redis-cli -p 7000 cluster nodes|grep master
刪除清空數(shù)據(jù)片的主節(jié)點：
- #'刪除已經清空數(shù)據(jù)的7006實例
- redis-cli --cluster del-node 127.0.0.1:7006 2129d28f0a86fc89571e49a59a0739812cff7953
- #刪除沒有主庫的7007實例
- redis-cli --cluster del-node 127.0.0.1:7007 821bcf78c5e4c0b08aa7a5d514214b657ebec4ab
其他配置管理：
- 內存信息查看
- redis-cli -p 6382 -a redhat info memory
- #設置最大只能使用100MB的內存
- redis-cli -p 6382 -a redhat config set maxmemory 102400000
新聞標題：硬核干貨！Redis分布式集群部署實戰(zhàn)
文章來源：http://www.5511xx.com/article/ccscjsp.html
