任務(wù)和作業(yè)失敗

主講：張義目錄01配置失敗的map任務(wù)的重試次數(shù)02作業(yè)失敗后重試03為YARN組件配置工作恢復(fù)功能配置失敗的map任務(wù)的重試次數(shù)1配置失敗的map任務(wù)的重試次數(shù)如果運(yùn)行map或者reduce任務(wù)的容器失敗，在默認(rèn)情況下，ApplicationMaster會(huì)在將該任務(wù)標(biāo)記為失敗之前，進(jìn)行4次重試。不同于常規(guī)的Java或者SQL程序，一個(gè)失敗的map任務(wù)并不意味著該任務(wù)會(huì)保持失敗的狀態(tài)﹔Hadoop更多的時(shí)候是重新執(zhí)行失敗的map任務(wù)。假設(shè)一個(gè)map任務(wù)因?yàn)橐粋€(gè)節(jié)點(diǎn)的本地目錄被耗盡而失敗，當(dāng)ResourceManager重啟該作業(yè)時(shí)，大概率會(huì)將該任務(wù)分配到其他節(jié)點(diǎn)，此時(shí)就有很大的概率執(zhí)行成功。可以通過(guò)參數(shù)mapred.map.max.attempts設(shè)置ResourceManager重新執(zhí)行失敗的map任務(wù)的最大次數(shù)，如下所示:配置失敗的map任務(wù)的重試次數(shù)<property><name>mapred.map.max.attempts</name><value>4</value></property>在該配置下，當(dāng)任務(wù)進(jìn)行4次重試仍然失敗后，ResourceManager會(huì)最終宣布該任務(wù)失敗。在本例中參數(shù)mapred.map.max.attempts的值被設(shè)置為4，其默認(rèn)值為2。作業(yè)失敗后重試2作業(yè)失敗后重試為了運(yùn)行應(yīng)用程序，可以配置相應(yīng)的運(yùn)行失敗的作業(yè)多次重試。使用參數(shù)mapreduce.am.max-attempts可以為應(yīng)用程序設(shè)置最大的重試次數(shù)。需要注意的是，該參數(shù)應(yīng)用于特定應(yīng)用程序級(jí)別，而非整個(gè)集群級(jí)別。mapreduce.am.max-attempts參數(shù)的默認(rèn)值是2，這意味著ResourceManager會(huì)至少重啟一次應(yīng)用程序的ApplicationMaster(有失敗的情況下)。為YARN組件配置工作恢復(fù)功能3為YARN組件配置工作恢復(fù)功能當(dāng)ResourceManager或者NodeManager重啟時(shí)，正在運(yùn)行的工作會(huì)丟失。為了避免這種情況的發(fā)生，可以為ResourceManager和NodeManager開(kāi)啟工作恢復(fù)功能。ResourceManager高可用性是開(kāi)啟工作恢復(fù)功能的前提條件。為了開(kāi)啟工作恢復(fù)功能，在yarn-site.xml文件中設(shè)置yarn-resourcemanager.work-preserving-recovery.enabled和yarn.nodemanager.recovery.enabled兩個(gè)參數(shù)的值均為true。為YARN組件配置工作恢復(fù)功能<property><name>yarn.resourcemanager.work-preserving-recovery.enabled</name><value>true</value></property>為YARN組件配置工作恢復(fù)功能<property><name>yarn.nodemanager.recovery.enabled</name><value>true</value></property>為YARN組件配置工作恢復(fù)功能此外，需要為NodeManager的工作恢復(fù)功能配置一個(gè)本地目錄以保存NodeManager的狀態(tài)信息。參數(shù)yarn.nodemanager.recovery.dir指定了存儲(chǔ)位置，其默認(rèn)值為${hadoop.tmp.dir}/yarn-nm-recovery。通常情況下并不在/tmp臨時(shí)目錄中存儲(chǔ)關(guān)鍵信息，因此可以為該目錄指定一個(gè)不同的存儲(chǔ)路徑。最后，必須為yarn.nodemanager.address配置項(xiàng)設(shè)定一個(gè)地址以及特定的端口，如0.0.0.0:12345，而非使用一個(gè)臨時(shí)端口。默認(rèn)情況下，NodeManagerRP