优化yarn在任务执行时核数把控不准确的问题
核数不准这个事情是个概率问题，如果你碰见了，只能说你有点非欧，本质上是因为集群配置问题，默认时yarn不会去精准把控任务的核数，因为默认的资源计算方式是用实际内存去估算核数，这就导致如果大家配置任务时，如果实际内存占用比较多，yarn的资源计算可能结果就会和实际的产生误差，导致资源的使用出现各种问题
（图片来源网络，侵删）
如果你想要让yarn准确的计算使用多少核，那么需要更改所有节点中的capacity-scheduler.xml配置文件
原配置文件中的 yarn.scheduler.capacity.resource-calculator org.apache.hadoop.yarn.util.resource.DefaultResourceCalculator 要修改为 yarn.scheduler.capacity.resource-calculator org.apache.hadoop.yarn.util.resource.DominantResourceCalculator
这样大家再去看的时候就会发现核数也是正确的了，其实yarn之所以这样，想想也好理解，核数是定死的，但是内存本质上受Hadoop最小申请资源数和规整化因子的原因，使得内存的使用其实是不饱满的，所有yarn时刻注意内存的理论使用情况，从而没有太多注意核数和continer，以此为程序员提供一个可参考的内存数字，不然内存不够会OOM的！！！
免责声明：我们致力于保护作者版权，注重分享，被刊用文章因无法核实真实出处，未能及时与作者取得联系，或有版权异议的，请联系管理员，我们会立即处理! 部分文章是来自自研大数据AI进行生成,内容摘自(百度百科,百度知道,头条百科,中国民法典,刑法,牛津词典,新华词典,汉语词典,国家院校,科普平台)等数据,内容仅供学习参考,不准确地方联系删除处理! 图片声明：本站部分配图来自人工智能系统AI生成,觅知网授权图片,PxHere摄影无版权图库和百度，360，搜狗等多加搜索引擎自动关键词搜索配图，如有侵权的图片，请第一时间联系我们，邮箱：ciyunidc@ciyunshuju.com。本站只作为美观性配图使用,无任何非法侵犯第三方意图,一切解释权归图片著作权方,本站不承担任何责任。如有恶意碰瓷者,必当奉陪到底严惩不贷!
