搭建企业级大数据平台ClouderaManager+CDH5.8+CentOS7

丰富的线上&线下活动,深入探索云世界

做任务,得社区积分和周边

最真实的开发者用云体验

让每位学生受益于普惠算力

让创作激发创新

资深技术专家手把手带教

遇见技术追梦人

技术交流,直击现场

海量开发者使用工具、手册,免费下载

极速、全面、稳定、安全的开源镜像

开发手册、白皮书、案例集等实战精华

为开发者定制的Chrome浏览器插件

【本文转载自:www.bigdata-star.com】

在搭建CM之前。。本人也是纯人工的把hadoop生态圈常用组件自己集成了一遍。。途中遇到各种坑,比如版本不匹配导致的一系列问题。。但自己尝试一下是好的!因为手把手的纯命令行的搭建可以让你更了解它们!但是到了企业中是不可能这样滴,因为有诸多的劣势,试问如果一个集群有1000个节点,你怎么去人工搭?如果要全部升级,你又怎么人工处理?还有前面说的,版本不匹配问题各种坑。所以还是要用图形化的,管理性强的工具,比如CM。

CM功能强大,主要表现在几个方面:

搭建CM平台大致可以分为六部曲:

[root@localhost~]#vim/etc/sysconfig/network-scripts/ifcfg-eno16777728

TYPE=EthernetNAME=eno16777728DEVICE=eno16777728ONBOOT=yesBOOTPROTO=staticIPADDR=192.168.109.140NETMASK=255.255.255.0GATEWAY=192.168.109.2[root@localhost~]#vim/etc/sysconfig/network

NETWORKING=yesHOSTNAME=cm-master[root@localhost~]#vim/etc/hosts

127.0.0.1localhostlocalhost.localdomainlocalhost4localhost4.localdomain4::1localhostlocalhost.localdomainlocalhost6localhost6.localdomain6192.168.109.141cm-slave1192.168.109.142cm-slave2192.168.109.140cm-master注意不要手贱把前两行删掉!很多软件是直接找localhost。

[root@localhost~]#vim/etc/resolv.conf

searchlocaldomainnameserver192.168.109.2nameserver8.8.8.8网络配置已经完成,重启网络服务[root@localhost~]#servicenetworkrestart

[root@cm-master~]#servicefirewalldstatusRedirectingto/bin/systemctlstatusfirewalld.service●firewalld.service-firewalld-dynamicfirewalldaemonLoaded:loaded(/usr/lib/systemd/system/firewalld.service;enabled;vendorpreset:enabled)Active:active(running)sinceSat2018-03-3101:17:17PDT;37minagoMainPID:766(firewalld)CGroup:/system.slice/firewalld.service

└─766/usr/bin/python-Es/usr/sbin/firewalld--nofork--nopid通过查看防火墙状态,我们看到它是active状态的,得把它禁用了:[root@cm-master~]#systemctlstopfirewalld.service[root@cm-master~]#systemctldisablefirewalld.servicestop只是暂时停用,disable设置开启

这东西太麻烦了,对很多权限严格控制,导致无法正常运行的情况。[root@cm-master~]#vim/etc/selinux/config

SELINUX=disabled时钟同步master机器上配置:[root@cm-master/]#servicentpdstartRedirectingto/bin/systemctlstartntpd.service[root@cm-master/]#vim/etc/ntp.conf

0-59/10****/usr/sbin/ntpdatecm-master免密登陆[root@cm-master/]#ssh-keygen[root@cm-master/]#ssh-copy-id192.168.109.141[root@cm-master/]#ssh-copy-id192.168.109.142

java-1.8.0-openjdk-headless-1.8.0.65-3.b17.el7.x86_64java-1.8.0-openjdk-1.8.0.65-3.b17.el7.x86_64java-1.7.0-openjdk-1.7.0.91-2.6.2.3.el7.x86_64java-1.7.0-openjdk-headless-1.7.0.91-2.6.2.3.el7.x86_64[root@cm-masterusr]#rpm-e--nodepsjava-1.8.0-openjdk-headless-1.8.0.65-3.b17.el7.x86_64[root@cm-masterusr]#rpm-e--nodepsjava-1.8.0-openjdk-1.8.0.65-3.b17.el7.x86_64[root@cm-masterusr]#rpm-e--nodepsjava-1.7.0-openjdk-1.7.0.91-2.6.2.3.el7.x86_64[root@cm-masterusr]#rpm-e--nodepsjava-1.7.0-openjdk-headless-1.7.0.91-2.6.2.3.el7.x86_64

[root@cm-masterusr]#mkdir/usr/java/将下载好的javatar包通过工具传输到此目录下,解压[root@cm-masterjava]#tar-zxvfjdk-7u80-linux-x64.tar.gz

exportJAVA_HOME=/usr/java/jdk1.7.0_80exportPATH=$JAVA_HOME/bin:$PATHexportCLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar[root@cm-masterusr]#source/etc/profile

javaversion"1.7.0_80"Java(TM)SERuntimeEnvironment(build1.7.0_80-b15)JavaHotSpot(TM)64-BitServerVM(build24.80-b11,mixedmode)

其实CM默认使用的是PostgreSQL但是大部分企业还是使用mysql作为存储数据库。而且大部分人都比较熟悉Mysql。所以我们也使用Mysql。

[root@cm-master~]#rpm-qa|grepmariadbmariadb-libs-5.5.44-2.el7.centos.x86_64[root@cm-master~]#rpm-e--nodepsmariadb-libs-5.5.44-2.el7.centos.x86_64

[root@cm-mastermysql]#rpm-ivhmysql-community-common-5.7.21-1.el7.x86_64.rpm[root@cm-mastermysql]#rpm-ivhmysql-community-libs-5.7.21-1.el7.x86_64.rpm[root@cm-mastermysql]#rpm-ivhmysql-community-client-5.7.21-1.el7.x86_64.rpm[root@cm-mastermysql]#rpm-ivhmysql-community-server-5.7.21-1.el7.x86_64.rpm[root@cm-mastermysql]#rpm-ivhmysql-community-devel-5.7.21-1.el7.x86_64.rpm[root@cm-mastermysql]#rpm-ivhmysql-community-libs-compat-5.7.21-1.el7.x86_64.rpm

[root@cm-mastermysql]#/usr/sbin/mysqld--initialize-insecure启动mysql[root@cm-mastermysql]#/usr/sbin/mysqld--user=root&[1]37255进入mysql[root@cm-mastermysql]#mysql-uroot进入mysql之后依次执行如下操作(根据自己需求,比如假设你不需要oozie你就不要创建oozie数据库)

vim/etc/yum.repos.d/cloudera-manager.repo

[root@cm-masterlocal]#cd/etc/cloudera-scm-server/[root@cm-mastercloudera-scm-server]#lsdb.propertieslog4j.properties[root@cm-mastercloudera-scm-server]#vimdb.properties

com.cloudera.cmf.db.type=mysql#Thedatabasehost#Ifanonstandardportisneeded,use'hostname:port'com.cloudera.cmf.db.host=192.168.109.140:3306#Thedatabasenamecom.cloudera.cmf.db.name=cmf#Thedatabaseusercom.cloudera.cmf.db.user=cmf#Thedatabaseuser'spasswordcom.cloudera.cmf.db.password=123456添加Mysql的驱动包到/usr/share/java目录下[root@cm-masterx86_64]#cd/usr/share/java将下载好的驱动包放入此目录[root@cm-masterjava]#lsjline.jarjs.jarmysql-connector-java-5.1.42-bin.jarrhino-examples.jarrhino.jartagsoup.jar[root@cm-masterjava]#mvmysql-connector-java-5.1.42-bin.jarmysql-connector-java.jar注意:一定要改名为mysql-connector-java!!!

[root@cm-masterjava]#servicecloudera-scm-serverstart实时查看日志是否有报错[root@cm-masterjava]#cd/var/log/cloudera-scm-server/[root@cm-masterjava]#tail-Fcloudera-scm-server.log

[root@cm-master/]#sysctl-wvm.swappiness=0vm.swappiness=0[root@cm-master/]#echo"vm.swappiness=0">>/etc/sysctl.conf[root@cm-master/]#echonever>/sys/kernel/mm/transparent_hugepage/defrag[root@cm-master/]#echonever>>/etc/rc.local

本人第一次按照CM的时候遇到很多坑,而且当时都无解,百度Google也搜不到,网上很多博客,但是都没有说的很详细,也没有把需要注意的问题重点强调,所以我写了这篇博客,非常详细,把可能会遇到的坑重点强调,比如jdk1.7.0_80如果你改成jdk或者别的名字就会报错,再比如mysql的驱动包一定要是mysql-connector-java.jar这个名字,等等。请务必按照我的步骤完全照做,版本、目录、文件名都要保持一致,这样才能杜绝遇到莫名其妙的坑。另外,遇到问题也没有关系!查看日志!!!查看日志!!!查看日志!!!重要的事情说三遍。

THE END
1.教育网站平台怎么搭建?教育网站平台开发搭建流程步骤是什么?教育网站平台开发搭建流程步骤是什么? 随着互联网的发展,网络教育平台也越来越多。 教育平台搭建也是一个庞大而复杂的工程,不同的平台特点不同而功能不同。 对于普通学员而言,他们可以通过平台上的网站了解相关培训机构的教学资源。 对于学校而言,有了互联网技术,学生可以更方便地获取教学信息。 通过学习相关课程获得https://jz.fkw.com/blog/1262862
2.app搭建详细步骤?(如何搭建app平台)深圳漫云网络科技有限公司专注于链游系统开发、app开发、NFT系统开发以及盲盒开发等领域。对于那些想要搭建自己的app平台的客户来说,我们提供了一套详细的步骤,以帮助他们实现他们的目标。 在搭建app平台之前,首先需要明确你的需求和目标。你需要考虑你的app的功能、定位、目标用户等方面的因素。一旦明确了这些需求,我们https://176902877.b2b.11467.com/news/4736200.asp
3.云平台服务器搭建的步骤是什么问答云平台服务器搭建的一般步骤如下:1.选择云服务提供商:选择适合自己的云服务提供商。2.选择服务器类型:选择适合自己的服务器类型,例如虚拟机、容器、裸金属等。3.选择操作系统:选择适合自己的操作系统,例如Windows、Linux等。4.配置服务器:配置服务器的CPU、内存、存储等参数,根据实际需求进行调整。5.安装软件:根据https://www.yisu.com/ask/6492451.html
4.消防物联网平台搭建方案(城市智慧消防物联网建设方案)消防物联网平台是指利用物联网技术集成火灾监控设备、传感器、控制器和云计算等技术,实现对消防设备和火灾状况的实时监控、管理和控制。搭建这样的平台可以大大提高火灾预警和灭火救援的效率,有效保障人们生命财产的安全。 二、平台搭建步骤及方案: 1.硬件设备选择: https://www.gdliontech.cn/support/1109.html
5.如何搭建一个外汇平台,具体需要哪些步骤?在外汇市场风控软件是平台商十分重要的环节,做不好风控,平台难以走远。 中国有句古话叫术业有专攻,依托行业内的主流平台搭建商,借助成熟经验去搭建一个完整的外汇平台,是代理商升级到平台商的一种理想方式,外汇黄金年代还刚刚开始。 以上就是自己想要开外汇平台必须知道的七步骤全部内容!https://www.zhiguf.com/focusnews_detail/1060133
6.全栈开发平台平台介绍和快速搭建步骤基于Java和mysql的开发平台,集成了平台基本的管理员、角色和机构的权限配置,还包含了简单的流程模块和其他高级功能。 管理型项目大部分菜单都是列表和汇总页面,墨渊管理开发平台可以通过一个方法十几行代码实现一个通用的列表页面,且包含查询条件和导出以及echart,无需前后端沟通,快速高效。 https://www.jianshu.com/p/b14eef8f998d
7.如何在企业内部有效搭建建筑工程管理平台一、项目管理平台搭建步骤 1、需求评估 实施工程项目管理软件之前应充分评估企业管理需求,明确管理目标。实施项目管理软件的最终目的是什么?希望最终取得什么样的结果?实施软件需要时间、资金和资源有多少? 2、系统选型 根据业务管理需求和企业规模,成立选型小组,由各部门和各级别的代表组成,囊括公司最高管理层成员和施工https://www.zhonghesoft.com/xwzx/hyxw_itemid_644.html
8.软件云平台搭建和云平台部署mob64ca12f63d4f的技术博客软件云平台搭建与部署指南 在现代软件开发中,云平台的搭建与部署是一个核心技能。本文将引导你完成这一过程,讲解每一步的细节及相关代码。 项目流程概述 以下是搭建云平台与部署的主要步骤: 流程图 选择云服务提供商设置云服务器安装所需的软件环境部署应用代码测试与监控应用运行情况进行必要的维护 https://blog.51cto.com/u_16213456/12324062
9.如何搭建跨境电商平台步骤五:了解并遵循各国跨境电商相关法律法规。 对于搭建跨境电商平台,许多人都心生向往,但却不知从何下手。今天小编就教你如何搭建跨境电商平台,让你成为跨境电商大神。 △某业某财产品截图 选择合适的平台 首先,要选择一个适合自己的跨境电商平台,比如畅捷通。畅捷通在跨境电商领域拥有丰富的经验,拥有专业的团队和深https://h.chanjet.com/ask/7f01ea98ba0c1.html
10.搭建大数据平台的6个步骤大数据搭建一个高效的大数据平台是实现数据驱动决策的关键。下面将详细介绍这六个步骤以及每个步骤中的相关代码示例。 需求分析和规划 在这个阶段,你需要明确你的大数据平台的目标和需求。这包括确定你想要分析的数据类型、数据来源以及你希望从数据中获得的信息。在规划阶段,你需要定义数据的存储和处理需求,选择适合你需求的大https://download.csdn.net/blog/column/12408301/133873279
11.搭建工程项目管理软件步骤是什么?解放号软件生态云平台从本质上讲,工程项目管理软件是从全局出发,以项目整体利益最大化为目标,以项目范围、成本、质量等各专项管理的协调、统一为内容,所开展的综合性管理过程。 因此,开展项目管理就要有项目各要素及各专项管理,进行综合协调的观念。那么接下来小编就来对企业搭建工程项目管理软件步骤是什么介绍一下吧,往下看: https://www.shangyexinzhi.com/article/4184274.html
12.如何搭建一个网站平台?AI写作小程序的搭建并不是一件困难的事情,只要按照上述步骤进行操作,就可以轻松地搭建一个AI写作小程序。当然,AI写作小程序的功能还有很大的提升空间,我们可以不断地进行优化和改进,以便满足用户的需求。 三、如何搭建一个充值平台网站? 充值元宝有3种方式: https://tool.a5.cn/article/show/76407.html
13.展会直播间搭建详细步骤和方法展会直播间搭建和营销是企业在展会期间利用直播技术与观众实时互动、进行产品展示和宣传的重要环节。以下是展会直播间搭建和营销的详细步骤和方法: 展会直播间搭建步骤: 1、 选择合适的直播平台:在搭建展会直播间之前,首先需要选择一个适合企业需求的直播平台。263是一家专业的直播云服务提供商,可以提供稳定可靠的直播服https://www.263.net/blog/5855.html
14.搭建微信商城平台的步骤有哪些?以上就是小编给大家介绍的搭建微信商城平台的步骤有哪些?搭建微信商城平台需要注意什么?搭建微信商城平台需要什么流程?如果大家还想了解其它关于搭建微信商城平台的资料,可以选择关注中企动力,它是一个老的品牌商,其中移动商城服务于很多中小型企业。https://www.300.cn/xxzx/1336.html
15.搭建电子商务平台的方法是什么?具体的流程步骤9.运营和维护:进行日常的运营管理,包括商品管理、订单管理、售后服务等。同时,定期进行系统维护和更新,确保平台的安全和稳定。 以上是搭建电子商务平台的主要流程步骤,具体情况可能因平台类型和需求而有所差异,建议在整个搭建过程中充分调研和评估,并寻求专业的技术支持和指导。https://www.tp-shop.cn/news_8524.html
16.本地知识库部署搭建的步骤二、本地知识库部署步骤 在部署本地知识库以前,首先要明确自己的要求。这包括确立知识库的主要用途、知识行业、消费群体、访问权限等。通过深入的需求分析,为后续的部署工作给予明确的方向与目标。 选择合适的技术平台 根据需求分析的结果,选择合适的当地知识库技术平台。目前,市场上的多种知识库管理系统供选择,如开源https://www.ti-net.com.cn/info/8757.html
17.一键搭建属于自己的ChatGPT网页服务Vercel.com:这个强大的静态网站托管和部署平台支持多种前端框架和静态网站生成器。通过在 Vercel 上部署 ChatGPT-Next-Web,您可以获得最佳的性能和安全性。 搭建步骤:我们详细介绍了在 Vercel 平台上搭建 ChatGPT-Next-Web 服务的步骤,包括导入项目、配置环境变量和进行部署。即使对于非技术人员,这些步骤也非常简单易https://mdnice.com/writing/f99bb240e9304de5a59d5ca827b761c4