海量日志平臺構(gòu)建elastics集群腦裂

1、大講臺科技ES 集群腦裂，怎么辦？什么是"腦裂"現(xiàn)象？由于某些節(jié)點的失效，部分節(jié)點的網(wǎng)絡(luò)連接會斷開，并形成一個與原集群一樣名字的集群，這種情況稱為集群腦裂（split-brain）現(xiàn)象。這個問題非常，因為兩個新形成的集群會同時索引和修改集群的數(shù)據(jù)。產(chǎn)生"腦裂"的？1：網(wǎng)絡(luò)內(nèi)網(wǎng)一般出現(xiàn)此問題，可以內(nèi)網(wǎng)流量狀態(tài)。的網(wǎng)絡(luò)出現(xiàn)問題的可能性大些。- 1 -大講臺科技2：節(jié)點負載由于 master 節(jié)點與 data 節(jié)點都是混合在一起的，所以當(dāng)工作節(jié)點的負載較大（確實也較大）時，導(dǎo)致對應(yīng)的 ES 實例停止響應(yīng)，而這臺服務(wù)器如果正充當(dāng)著 master 節(jié)點的，那么一部

2、分節(jié)點就會認為這個master 節(jié)點失效了，故重新新的節(jié)點，這時就出現(xiàn)了腦裂；3：回收內(nèi)存由于data 節(jié)點上 ES 進程占用的內(nèi)存較大，較大規(guī)模的內(nèi)存回收操作也能造成 ES 進程失去響應(yīng)。應(yīng)對"腦裂"的解決辦法1、推測出應(yīng)該是由于節(jié)點負載導(dǎo)致了 master 進程停止響應(yīng)，繼而導(dǎo)致了部分節(jié)點對于 master 的選擇出現(xiàn)了。為此，一個直觀的解決方案便是將 master 節(jié)點與 data 節(jié)點分離。為此，我們添加了三臺服務(wù)器進入 ES 集群，不過它們的只是 master 節(jié)點，不擔(dān)任和搜索的，故它們是相對輕量級的進程?？梢酝ㄟ^以下配置來限制其：node.master: tr

3、uenode.data: false當(dāng)然，其它的節(jié)點就不能再擔(dān)任 master 了，把上面的配置反過來即可。這樣就做到了將 master 節(jié)點與data 節(jié)點分離。- 2 -大講臺科技當(dāng)然，為了使新加入的節(jié)點快速確定 master 位置，可以將 data 節(jié)點的默認的master 發(fā)現(xiàn)方式有 multicast 修改為 unicast：discovery.zen.ping.multicast.enabled: falsediscovery.zen.ping.unicast.hosts: "master1", "master2", "master

4、3"elasticsearch 的集群是內(nèi)嵌自動發(fā)現(xiàn)功能的。elasticsearch 的集群是內(nèi)嵌自動發(fā)現(xiàn)功能的。你只需要在每個節(jié)點配置好了集群名稱，節(jié)點名稱，互相通信的節(jié)點會根據(jù) es 自定義的服務(wù)發(fā)現(xiàn)協(xié)議去按照多播的方式來尋找網(wǎng)絡(luò)上配置在同樣集群內(nèi)的節(jié)點。和其他的服務(wù)發(fā)現(xiàn)功能一樣，es 是支持多播和單播的。多播是需要看服務(wù)器是否支持的，由于其安全性，其實現(xiàn)在基本的云服務(wù)（比如）是不支持多播的，所以即使你開啟了多播模式，你也僅僅只能找到本機上的節(jié)點。單播模式安全，也高效，但是缺點就是如果增加了一個新的的話，就需要每個節(jié)點上進行配置才生效了。- 3 -大講臺科技2、discover

5、y.zen.ping_timeout（默認值是 3 秒）：默認情況下，一個節(jié)點會認為，如果 master 節(jié)點在 3 秒之內(nèi)沒有應(yīng)答，那么這個節(jié)點就是死掉了，而增加這個值，會增加節(jié)點等待響應(yīng)的時間，從一定程度上會減少誤判。3、discovery.zen.minimum_master_nodes（默認是 1）：這個參數(shù)的是，一個節(jié)點需要看到的具有 master 節(jié)點資格的最小數(shù)量，然后才能在集群中做操作。的推薦值是(N/2)+1（向下取整），其中 N是具有master 資格的節(jié)點的數(shù)量（我們的情況是 3，因此這個參數(shù)設(shè)置為 2，但對于只有 2 個節(jié)點的情況，設(shè)置為 2 就有些問題了，一個節(jié)點 DOWN 掉后，你肯定連不上 2 臺服務(wù)器了，這點需要注意）?？偨Y(jié)ElasticSearch 腦裂問題依然是一個比較難以