Yarn 动态资源池配置

1. 配置动态资源池目的

2. 操作步骤

2.1 开启 HDFS 权限检查(默认是开启的)

HDFS权限

2.2 给集群创建新用户, 以 bi_dev 为例。

// 创建用户组
# groupadd bi_dev
// 创建用户
# useradd -s /bin/sh -g bi_dev -d /usr/bi_dev -m bi_dev
// 设置密码
# passwd bi_dev

// hdfs 创建用户目录
# sudo -u hdfs hdfs dfs -mkdir /user/bi_dev
// 修改用户权限
# sudo -u hdfs hdfs dfs -chown bi_dev:bi_dev /user/bi_dev

3. 运行MapReduce程序 WordCount

# echo "Hello World, hello Belle." > file0
# echo "Hello Wille, hello BB." > file1
# hdfs dfs -mkdir -p /user/bi_dev/wordcount/input
# hdfs dfs -put file* /user/bi_dev/wordcount/input 
# hadoop jar /usr/local/cloudera/parcels/CDH/jars/hadoop-examples.jar wordcount wordcount/input wordcount/output
# hdfs dfs -getmerge wordcount/output output.txt
# cat output.txt
Belle.  1
hello   2
BB.     1
Wille,  1
Hello   2
World,  1

4. 开启资源管理器 ACL , 并设置相应的ACL(Admin ACL)

ACL配置
  • 选中启动REsourceManager ACL
  • 设置管理ACL用户和用户组
    其中yarn.acl.enable默认值为true。而对于yarn.admin.acl默认值为*,意味着所有人都可以管理Resource Manager (比如运行yarn rmadmin)、管理已提交 (比如取消 kill) 的任务。

格式:用户1,用户2,用户3 用户组1,用户组2,用户组3
PS:用户和用户组之间必须有个空格

5. 关闭未声明资源池的自动生成

未声明的池
  • 默认情况下,"Allow Undeclared Pools"可选项是选中的,需要关闭。否则如果用户指定一个尚未声明的资源池时,比如prod,YARN将会自动生成一个prod资源池。配置文件修改后需要重新启动YARN服务,重新部署客户端配置。

6. 配置“若用户提交任务不指定特定的queue,就使用 default 资源池”

默认队列配置

7. 进去动态资源池配置页面

动态资源池配置入口
动态资源池配置操作界面

7.1 资源池( 资源分配界面)。

主要配置项:
权重(%):动态权重,资源不是静态的,去其他池相关的资源共享
最大最小CPU、内存
正在运行的应用程序最大数量
计划策略
创建资源池


创建资源池

7.2 配置计划策略(对单独资源池控制)

配置计划策略

7.3 提交访问控制(对单独资源池控制)

提交访问控制

7.4 管理访问控制 (对单独资源池控制)

管理访问控制

7.5 验证访问控制

新建
用户: yan.jy
用户组:wms
初始化wordCount数据,见步骤3
在执行 hadoop 命令内加入资源池控制,如下图

验证资源池控制

8. 计划模式(资源池配置集)

可以根据不同时段使用不同的资源池配置。


计划模式

配置了计划模式,资源池会有多套配置,如下图:


配置集

计划规则主要控制配置有效时间段,创建计划规则如下图:


计划规则

9. 放置规则

主要作用:控制任务(Job、Task)使用资源池规则,即任务会根据以下规则放到对应资源池执行。


放置规则

10. 用户限制

主要作用:控制单个用户最大应用程序并发度。


image.png
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,189评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,577评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,857评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,703评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,705评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,620评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,995评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,656评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,898评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,639评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,720评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,395评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,982评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,953评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,195评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,907评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,472评论 2 342

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,594评论 18 139
  • Apache YARN(Yet Another Resource Negotiator)是一个Hadoop集群资源...
    单行线的旋律阅读 2,769评论 0 11
  • YarnYarn产生背景:Yarn直接来自于MR1.0MR1.0 问题:采用的是master slave结构,ma...
    时待吾阅读 5,539评论 2 23
  • 意化千诗诗千意, 情自深出出深情。 浅河水清清水浅, 情不为何何为情? 清风自我我自清, 情不为谁谁为情。 人望明...
    雅俗共赏Y阅读 208评论 1 4
  • 说来也怪,叔同最后不经意的一句“好多事物都成了一辈子的情节”还是让我不可遏抑地在回忆中回到了那个我以为永远回不去的...
    扶摇风阅读 1,151评论 2 14