Oozie简单配置与使用JokerQ

驯象人2、Oozie简介一个基于工作流引擎的开源框架,由Cloudera公司贡献给Apache,提供对HadoopMapreduce、PigJobs的任务调度与协调。Oozie需要部署到JavaServlet容器中运行。3、Oozie在集群中扮演的角色定时调度任务,多任务可以按照执行的逻辑顺序调度。4、Oozie的功能模块4.1、Workflow顺序执行流程节点,支持fork(分支多个节点),join(合并多个节点为一个)4.2、Coordinator定时触发workflow4.3、BundleJob绑定多个Coordinator5、Oozie的节点5.1、控制流节点(ControlFlowNodes)控制流节点一般都是定义在工作流开始或者结束的位置,比如start,end,kill等。以及提供工作流的执行路径机制,如decision,fork,join等。5.2、动作节点(ActionNodes)就是执行具体任务动作的节点。

6.1上传(oozie-4.0.0-cdh5.3.6.tar.gz)并解压(tar-zxvfoozie-4.0.0-cdh5.3.6.tar.gz-C/opt/module/)

6.2上传ext-2.2.zip(可视化之类的工具)(不用解压)

6.3修改Hadoop配置文件修改(cd/opt/module/hadoop-2.5.0-cdh5.3.6/etc/hadoop),完成后scp到其他机器节点

6.3.1修改core-site.xml(vimcore-site.xml),在最后添加

6.3.2配置JobHistoryServer服务(必须,如果原来已经不用配置,检查是否配置)

6.3.2.1修改mapred-site.xml(vimmapred-site.xml),在最后添加

mapreduce.jobhistory.addresshadoop201:10020mapreduce.jobhistory.webapp.addresshadoop201:19888

6.3.2.2修改yarn-site.xml(vimyarn-site.xml)(已经修改过),在最后添加

6.4开启Hadoop集群

$sh~/start-cluster.sh(启动脚本)*尖叫提示:需要配合开启JobHistoryServer(启动命令:mr-jobhistory-daemon.shstarthistoryserver)

6.5最好执行一个MR任务进行测试(在hadoop202中执行此命令(mapreduce机器))。

6.7解压oozie目录下的hadooplibs到oozie所在的目录(解压成功后文件夹会生成在oozie目录下hadooplibs/)

tar-zxvf/opt/module/oozie-4.0.0-cdh5.3.6/oozie-hadooplibs-4.0.0-cdh5.3.6.tar.gz-C/opt/module/6.8在oozie目录下创建创建libext文件夹(mkdirlibext/)

6.9拷贝一些依赖的Jar包到libext目录下

6.9.1进入到hadooplibs下的hadooplib-2.5.0-cdh5.3.6.oozie-4.0.0-cdh5.3.6目录

cd/opt/module/oozie-4.0.0-cdh5.3.6/hadooplibs/hadooplib-2.5.0-cdh5.3.6.oozie-4.0.0-cdh5.3.66.9.2拷贝当前文件夹所有到libext目录下

cp*/opt/module/oozie-4.0.0-cdh5.3.6/libext/6.9.3拷贝Mysql驱动包到libext目录下

cd/opt/software/mysql-connector-java-5.1.276.9.4拷贝驱动包

cp-amysql-connector-java-5.1.27-bin.jar/opt/module/oozie-4.0.0-cdh5.3.6/libext/6.10将ext-2.2.zip拷贝到libext/目录下

cp-a/opt/software/ext-2.2.zip/opt/module/oozie-4.0.0-cdh5.3.6/libext/6.11修改Oozie配置文件

6.11.1进入oozie的conf目录下(cd/opt/module/oozie-4.0.0-cdh5.3.6/conf/)

6.11.2修改(vimoozie-site.xml)

6.12在Mysql中创建Oozie的数据库

6.12.1进入数据库(mysql-uroot-p123456)

6.12.2创建数据库(mysql>createdatabaseoozie;)

6.13初始化Oozie的配置

6.13.1上传Oozie目录下的yarn.tar.gz文件到HDFS(尖叫提示:yarn.tar.gz文件会自行解压)

6.13.2创建oozie.sql文件

bin/oozie-setup.shdbcreate-run-sqlfileoozie.sql6.13.3打包项目,生成war包(Oozie停止状态)

bin/oozie-setup.shprepare-war6.14启动Oozie服务

6.15访问Oozie的Web页面

1.进入(cd/opt/module/oozie-4.0.0-cdh5.3.6/)

2.解压官方案例模板

tar-zxvfoozie-examples.tar.gz3.创建oozie-apps文件夹(mkdiroozie-apps)

4.拷贝文件到文件夹下

cp-rexamples/apps/shell/oozie-apps/5.进入文件夹(cdoozie-apps/shell/)

6.随便编写一个脚本p1.sh(vip1.sh),添加如下测试内容

#!/bin/bash/usr/sbin/ifconfig>/tmp/p1.log7.编辑job.properties(vimjob.properties)修改如下内容

8.修改workflow.xml(vimworkflow.xml)

9.上传任务配置

/opt/module/hadoop-2.5.0-cdh5.3.6/bin/hdfsdfs-put/opt/module/oozie-4.0.0-cdh5.3.6/oozie-apps/user/jokerq10.执行任务

在mapreduce的8088可以查看

11.想要杀死某个任务

1.解压官方案例模板,创建文件夹等操作(上面已经执行)

2.进入(cd/opt/module/oozie-4.0.0-cdh5.3.6/oozie-apps/shell)

3.创建测试脚本p1.sh(vimp1.sh),添加如下

#!/bin/bash/usr/bin/date>/tmp/p1.log4.创建测试脚本p2.sh(vimp2.sh),添加如下

#!/bin/bash/usr/bin/date>/tmp/p2.log5.编辑job.properties

6.编辑workflow.xml(添加一个action,一个action对应一个脚本)

7.上传

(先删除上个案例留下的)/opt/module/hadoop-2.5.0-cdh5.3.6/bin/hdfsdfs-rmr/user/jokerq/oozie-apps/opt/module/hadoop-2.5.0-cdh5.3.6/bin/hdfsdfs-put/opt/module/oozie-4.0.0-cdh5.3.6/oozie-apps/user/jokerq8.执行

1.先编写一个可以运行的MR任务的.jar包(此处拷贝mapredurce的例子jar包)

cp-a/opt/module/hadoop-2.5.0-cdh5.3.6/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.5.0-cdh5.3.6.jar/opt/module/oozie-4.0.0-cdh5.3.6/2.进入oozie目录(cd/opt/module/oozie-4.0.0-cdh5.3.6/)

3.拷贝官方模板到oozie-apps

cp-r/opt/module/oozie-4.0.0-cdh5.3.6/examples/apps/map-reduce//opt/module/oozie-4.0.0-cdh5.3.6/oozie-apps/4.测试一下wordcount在yarn中的运行

/opt/module/hadoop-2.5.0-cdh5.3.6/bin/yarnjarhadoop-mapreduce-examples-2.5.0-cdh5.3.6.jarwordcount/input//ouput111/5.配置job.properties(cdoozie-apps/map-reduce/--->>>vimjob.properties)

6.配置workflow.xml(vimworkflow.xml)

cp-a/opt/module/oozie-4.0.0-cdh5.3.6/hadoop-mapreduce-examples-2.5.0-cdh5.3.6.jar./lib8.上传配置好的app文件夹到HDFS

/opt/module/hadoop-2.5.0-cdh5.3.6/bin/hdfsdfs-put/opt/module/oozie-4.0.0-cdh5.3.6/oozie-apps/map-reduce//user/jokerq/oozie-apps9.执行任务

2.改oozie-default.xml文件(cd/opt/module/oozie-4.0.0-cdh5.3.6/conf--->>>vimoozie-default.xml),修改oozie的时区为GMT+0800:

4.重启oozie服务,并重启浏览器(一定要注意清除缓存)

cd/opt/module/oozie-4.0.0-cdh5.3.6/$bin/oozied.shstop$bin/oozied.shstart5.拷贝官方模板配置定时任务

cp-r/opt/module/oozie-4.0.0-cdh5.3.6/examples/apps/cron//opt/module/oozie-4.0.0-cdh5.3.6/oozie-apps/6.进入目录

cd/opt/module/oozie-4.0.0-cdh5.3.6/oozie-apps/cron7.修改job.properties

8.修改coordinator.xml

9.修改workflow.xml

小问题总结:1、Mysql权限配置2、workflow.xml配置的时候不要忽略file属性3、jps查看进程时,注意有没有bootstrap4、关闭oozie**bin/oozied.shstop)如果无法关闭,则可以使用kill**kill-911111oozie-server/temp/xxx.pid文件一定要删除5、Oozie重新打包时,一定要注意先关闭进程,删除对应文件夹下面的pid文件。(可以参考第4条目)6、配置文件一定要生效**起始标签和结束标签无对应则不生效**配置文件的属性写错了,那么则执行默认的属性。7、libext下边的jar存放于某个文件夹中,导致share/lib创建不成功8、-rmrshare/lib这样是不行的。rm-rmr/user/admin这样删除是错误的。9、调度任务时,找不到指定的脚本,可能是oozie-site.xml里面的Hadoop配置文件没有关联上10、修改Hadoop配置文件,需要重启集群。一定要记得scp到其他节点11、JobHistoryServer必须开启,集群要重启的。12、Mysql配置如果没有生效的话,默认使用derby数据库13、在本地修改完成的job配置,必须重新上传到HDFS14、将HDFS上面的配置文件,下载下来查看是否有错误。15、Linux用户名和Hadoop的用户名不一致。

THE END
1.“Plus”这个词的多重含义与用法:从数学到生活的全面解析与探讨“Plus”这个词在日常生活中出现得非常频繁,wwh.balansfx3.com,。无论是在数学、语言还是日常交流中,你都能看到它的身影,wwb.tch551.com,。虽然“plus”在不同的上下文中有不同的含义,但它的核心意思始终和“增加”或“更多”有关,www.chance-me.com,。接下来,我们就来详细探讨一下“plus”的多种含义和用https://m.163.com/dy/article/JJQ35P6K0556A727.html
2.第三版(bing翻译+google翻译)vb.net英文翻译资源原理:利用Bing+Google翻译引擎. 使用方法,启动自动翻译后.右键复制需要翻译的英语文本(例如msdn英文文档),则将内容自动翻译出来. 1,速度更快,占用内存极小,采用多线程技术 2,采用谷歌+bing翻译api 程序需要翻译key(翻译字数和次数有限制),如果本程序提供的key不能使用,请自行申请翻译key 3,注意,如果想绕过翻译keyhttps://download.csdn.net/download/isanzdoom/2981353
3.旅游签证(分领区/全国受理/加急办理+材料全套/英文翻译+1对1x1 1.行程结束后至少还有6个月有效期而且无任何破损,2.至少留有4页空白签证页不含备注页英文版,往返机票出行预定单 查看样图 单位证明扫描件 x1 1.使馆可能会抽查营业执照,如遇抽查必须交; 2.有最新年审的营业执照副本/正本 或者组织机构代码副本/正本; 3.A4纸复印/打印之后,再加盖跟在职证明上一致的公章; https://www.mafengwo.cn/sales/10213805.html
4.中国菜名英文翻译中国菜名的英文翻译 头盘餐前小品Appetizers 1.各式刺身拼Sashimi Platter 2.锅贴Pot Sticker 3.辣汁脆炸鸡腿Fried Chicken Legs (Spicy Hot) 4.鸡沙律Chicken Salad 5.酥炸大虾Fried Prawns 6.酥炸生豪Fried Oysters 7.酥炸鲜鱿Fried Squid 8.海哲分蹄Smoked Jelly Fish 9.五香牛展Special Beef 10.白云凤爪Chhttps://m.360docs.net/doc/1710200927.html
5.关于钱的谚语英文翻译高中知识关于钱的谚语英文翻译 1.关于钱的英语谚语 关于钱的英文谚语 1.Time is money 时间就是金钱 2.Money is not everying,but without money,everying is nothing. 钱不是万能的,但是没有钱是万万不能的 3money makes the mare to go . 有钱能使鬼推磨。https://www.027art.com/gaokao/HTML/11857173.html
6.关于数字日期及时间的英文表达方式,这里都齐全了!0 zero 1 one 2 two 3 three 4 four 5 five 6 six 7 seven 8 eight 9 nine 10 ten 11 eleven 12 twelve 13 thirteen 14 fourteen 15 fifteen 16 sixteen 17 seventeen 18 eighteen 19 nineteen 20 twenty 21 twenty-one 22 twenty-two https://mp.weixin.qq.com/s?__biz=MzA3OTc5NTE3Ng==&mid=2651383349&idx=2&sn=d2b6b26b986bbfaa497cb8de4c4e8eac&chksm=85c6ebcc33d1266e64c901e10a9da7122b02d5c946a6f15430eb5eaec362c8d361870e46c66e&scene=27
7.英语专四专八备考全攻略专八的翻译有向文学方面发展的趋势,都是一些文绉绉的中文要翻译成英文。 但是专八的翻译只要你看懂了原文意思,保证行文流畅准确即可得分。对于这一块: 不要一看到中文就埋头苦翻! 先看看题目! 而且最重要的是: 只翻译划横线部分! No.1 【翻译答题的小步骤】 https://wgy.xjnu.edu.cn/2022/0223/c12788a120287/page.htm
8.药物制剂仿制药研发第一步,5分钟搞定美日英欧盟原研查询网址:www.canbigou.com,输入任意药品通用名称、英文通用名称、商品名进行查询! 2、搞定日语翻译 查询日本原研,一个大的问题就是语言问题,这里有三个方法: (1)日本制药通用名数据库 日本制药通用名数据库可以检索在日本上市的药品。该网站可以通过CAS号、化学名称进行检索,同样可以进行英文与日文转换互查。地址(https://www.canbigou.com/index.php/d/570.html
9.密切的近义词是什么一、【近义词】 亲密、亲昵、亲近、亲切、亲热 二、【基本解释】 [释义] (1) (形)基本义:关系近。 (2) (动)使关系接近。 (3) (动)(对问题等)照顾得周到。 [构成] 并列式:密+切 三、【英文翻译】 1.(关系近) close; intimate; establish closer (links withhttp://zuowen.yjbys.com/jinyici/245549.html
10.光彩的近义词(1) 基本义:(名)颜色和光泽。光彩夺目。(作主语) (2) (形)光荣。小张当了劳动模范;咱全村都很光彩。(作谓语) [构成]并列式:光+彩 [同义]光荣、荣耀 三、【英文翻译】 1.(颜色和光泽) lustre; splendour; radiance; glow; sheen; splendid; glittering https://m.ruiwen.com/jinyici/223929.html
11.个1的英文个1翻译个1英语怎么说个1 个1的英文翻译 基本释义 Ge1 分享单词到:http://dict.cn/%E4%B8%AA1
12.《甜蜜的小狐狸1中字翻译英文版》完整版免费在线观看主演:三上悠亚s1鲇川柚姬svs列番号臼井里美+蕾电车雾生雪莱 状态:标清 导演:江华 类型:历史 语言:捷克语 中文字幕 地区:美国 年代:2013 更新:2024-03-30 21:55:58 简介:《甜蜜的小狐狸1 中字翻译英文版》是江华导演的一部超级经典的历史片,该剧讲述了:低级异兽肉口感一般,就跟种植机器人种的作物一样,营http://www.sxsczx.cn/zhaoshengkaoshi/newplayer/r8sprmLh.html
13.1到100的英文翻译数字是我们经常要用到的。那么你知道1到100的英文翻译吗?一起来学习一下吧! 1到100的英文翻译: 1one 2 two 3 three 4 four 5 five 6 six 7 seven 8 eight 9 nine 10 ten 11 eleven 12 twelve 13 thirteen 14 fourteen 15 fifteen 16 sixteen https://www.xuexila.com/yingyu/415729.html
14.英文祝福语带翻译英文祝福语带翻译 在学习、工作或生活中,要用到祝福语的情况还是蛮多的,祝福语的种类很多,可分为吉日喜庆祝福语、寿诞祝福语、事业祝福语、祝酒词等。那么你有真正了解过祝福语吗?下面是小编收集整理的英文祝福语带翻译,希望能够帮助到大家。 英文祝福语带翻译1 https://m.wenshubang.com/zhufuyu/2415351.html
15.求XX路1栋1楼的英文翻译相似问题 英语翻译地址:中国云南省昆明市XX区XX镇XX街XX号. 请问这个地址要怎么翻译?XX省XX市XX区XX小区 7号楼 1单元 XXX 室 用英语翻译怎么写? xx路xx生活区xx楼3单元301室 英文翻译 特别推荐 热点考点 2022年高考真题试卷汇总 2022年高中期中试卷汇总 2022年高中期末试卷汇总 2022年高中月考试卷汇总 https://www.zybang.com/question/4bd3e4526ad4562384bc88c3571a7f72.html
16.品牌命名实操指南:一篇文章讲透“如何为品牌起个好名字”1、传播成本低 好名字能带来更容易的识别度,也能带来更多的传播,让人能够很容易就看得懂,分得清,记得住。这么说,一个普通名字需要花费100万进行推广,才能起到的效果,可能换一个好名字,也许70万甚至更低就能起到同样的效果。这个有点儿主观的差值,我们就可以粗略的认知为一个好名字的价值。 https://www.digitaling.com/articles/282855.html
17.英语口语谢谢怎么说谢谢的英文翻译 thanks; thank you 例句与用法 He did not even bother to say thank you . 他甚至连说一声谢谢都不肯。 Please accept our thanks to mr. jones and yourself . 谢谢您和琼斯。 I must remember to write and thank her . 我一定得记住去写信谢谢她。 https://www.qinxue365.com/yyxx/Spoken_English/484926.html
18.八字算命的英文怎么说呢八字翻译1. 英文翻译八字算命 英语中通常称为“八字算命”Four Pillars of Destiny”或“Ba Zi”. 其中,“Four Pillars of Destiny“是对八字算命的直接翻译,强调了年柱、月柱、日柱、时柱四个核心部分。“Ba Zi“它是将中文发音直接音译成英文,方便那些对中文或中国文化有一定了解的人识别和理解。 Four Pillars of Dehttps://www.sxsjjy.com/view/291440