Hadoop集群故障诊断

集群故障诊断通行方法:1.cloudera manager 监控和管理软件本身出问题了(没有任何数据),集群还是好的,业务还在正常跑;2.监控软件是好的,从监控里发现了很多问题,如CPU飙高、内存飙高; Apache网站上由类似于cloudera manager的 Ambari (web-base tool) 集群内部应用故障如何来诊断,思路:只要用到Yarn的话,都会产生一个 Resource Manager log,看是在所有节点都失败了(全局变量、执行的脚本、参数有没有写对,yarn组件对应mapreduce的全局配置是不是出错,就是resource manager的配置)还是某些节点失败(看看在失败的节点上 NodeManager的日志) 是不是作业总在同一台节点上失败(资源枯竭啦?还是每个配置有问题) 若果不是,是不是Mapreduce作业没有配置好(AppMaster,Mapper,Reducer) 所有的错误诊断都要依赖日志 中心思想:看监控 看日志。

上一篇:wpf设置某容器透明,而不应用到容器的子元素的方法


下一篇:Unicode和UTF-8之间的转换