博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Hadoop(一)Hadoop的介绍和安装前准备
阅读量:7104 次
发布时间:2019-06-28

本文共 1049 字,大约阅读时间需要 3 分钟。

一.什么是Hadoop?

  1. Hadoop是Apache旗下的一套开源软件平台
  2. Hadoop提供的功能:利用服务器集群,根据用户的自定义业务逻辑,对海量数据进行分布式处理
  3. Hadoop的核心组件有:

    • HDFS(分布式文件系统)
    • Yarn(运算资源调度系统)
    • MapReduce(分布式运算编程框架)
  4. 广义上来说,Hadoop通常是指一个更广泛的概念——HADOOP生态圈

二.Hadoop的产生背景

  1. Hadoop最早起源于Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎,包括网页抓取、索引、查询等功能,但随着抓取网页数量的增加,遇到了严重的可扩展性问题——如何解决数十亿网页的存储和索引问题。
  2. 2003年、2004年谷歌发表的两篇论文为该问题提供了可行的解决方案。

    • 分布式文件系统(GFS),可用于处理海量网页的存储
    • 分布式计算框架MAPREDUCE,可用于处理海量网页的索引计算问题。
  3. Nutch的开发人员完成了相应的开源实现HDFS和MAPREDUCE,并从Nutch中剥离成为独立项目Hadoop,到2008年1月,Hadoop成为Apache顶级项目,迎来了它的快速发展期。

三.推荐系统——Hadoop的一个典型应用案例

Hadoop可以用来做什么?

这里介绍一个数据分析系统(推荐系统)的处理流程,用于初步理解Hadoop等框架在其中的应用,暂时不用关注过多细节问题。
推荐系统流程图

四.安装Hadoop之前的准备

1.创建Hadoop用户

先以root用户登录,然后使用下面命令创建一个名为hadoop的用户

useradd -m hadoop -s /bin/bash

这条命令创建了可以登陆的 hadoop 用户,并使用 /bin/bash 作为shell。

接着使用如下命令修改密码,

passwd hadoop

按提示输入两次密码,可简单的设为 “hadoop”(密码随意指定,若提示“无效的密码,过于简单”则再次输入确认就行)。

可为 hadoop 用户增加管理员权限,方便部署,避免一些比较棘手的权限问题(生产环境不建议此做法),执行:

visudo

如下图,找到 root ALL=(ALL) ALL 这行(应该在第98行),在这行下面增加一行内容:hadoop ALL=(ALL) ALL (当中的间隔为tab),如下图所示:

最后,使用新创建的hadoop用户远程登录,然后查看现在是哪个用户执行:

2.配置集群机器的免密登录

参考 ,这篇文章介绍了服务器间的免密登录。

转载地址:http://qkuhl.baihongyu.com/

你可能感兴趣的文章
mysql“Access denied for user 'root'@'localhost'”问题的解决
查看>>
基于java的分布式爬虫
查看>>
React Native系列——Navigator组件的使用介绍
查看>>
bootstrap 代码
查看>>
jsp自定义标签
查看>>
我的技术博客-公告板!
查看>>
c++大文件读写操作(文件内存映射)
查看>>
nginx 主动防御DDOS***
查看>>
JS学习笔记
查看>>
linux sed seq awk 部分
查看>>
oracle删除168万数据;varchar表示时间;java传参date;传参后的时间保存到秒
查看>>
冰箱保鲜标准出炉,行业或迎新纪元
查看>>
十三、添加RD 会话主机角色
查看>>
Android笔记--一个图片+文字的自定义按钮
查看>>
Android/Java 读、写MP3文件ID3V1信息
查看>>
企业开展智能制造,将会存在和带来哪些风险?
查看>>
从Kubernetes 1.14 发布,看技术社区演进方向
查看>>
PHP源码:方维o2o本地生活服务系统v2.2多城市商业版
查看>>
Websense:Android的安全性令人担忧
查看>>
Office 365 系列之四:添加自定义域
查看>>