网创优客建站品牌官网
为成都网站建设公司企业提供高品质网站建设
热线:028-86922220
成都专业网站建设公司

定制建站费用3500元

符合中小企业对网站设计、功能常规化式的企业展示型网站建设

成都品牌网站建设

品牌网站建设费用6000元

本套餐主要针对企业品牌型网站、中高端设计、前端互动体验...

成都商城网站建设

商城网站建设费用8000元

商城网站建设因基本功能的需求不同费用上面也有很大的差别...

成都微信网站建设

手机微信网站建站3000元

手机微信网站开发、微信官网、微信商城网站...

建站知识

当前位置:首页 > 建站知识

Hadoop

Hadoop:
大数据集群,只能运行在Linux平台
RDBMS:表
字段、数据类型、约束
结构化数据
关系数据库在数据中占据重要的地位
但不是所有的数据都可以结构化
结构化数据:structured data
非结构化数据:unstructured data
半结构化数据:semi-structured data
通常保存为xml , json
Google:pagerank 页面算法
化整为零,并行处理
将一个大问题切割成多个小问题
OLAP:数据挖掘
机器学习:deep learning
多节点并行处理

成都创新互联公司是一家专注网站建设、网络营销策划、微信小程序、电子商务建设、网络推广、移动互联开发、研究、服务为一体的技术型公司。公司成立十载以来,已经为1000+成都石雕各业的企业公司提供互联网服务。现在,服务的1000+客户与我们一路同行,见证我们的成长;未来,我们一起分享成功的喜悦。

Map reduce:
函数式编程API
运行框架

HDFS + Mapreduce=Hadoop
HDFS:
namenode:NN节点
Datanode:DN节点
MapReduce:
jobTracker:JT节点
TaskTracker:TT节点

Hadoop
Hadoop
Hadoop使用Java语言开发,mapper,reducer都是使用Java语言开发

hadoop生态:
Hadoop

Hadoop
一个mapper,reducer可以没有reduce,但不能没有mapper
HDFS:
1、HDFS设计用来存储大文件,对海量小文件的存储不太适用;
2、用户空间的文件系统;
3、HDFS不支持修改;新版本支持追加;
4、不支持挂载,并通过系统调用进行访问,只能使用专用访问接口,如专用命令行工具,API;

Scribe ,facebook
flume
hadoop外围组件

hadoop集群生态,生态圈
Hadoop
hive 中间组件
技术是面向场景的
基于HBASE可以做数据修改
HBASE 是NOSQL,稀疏格式存储方案
Cloudera , CDH 著名hadoop技术服务提供商类似于redhat

Hadoop

关系型数据库数据导入到Hadoop流程图:
RDBMS --> Sqoop --> Hbase --> HDFS

Avro :将数据序列化
Hadoop

如何学习Hadoop
1、安装配置HDFS
2、安装配置MapReduce
3、HBase
4、Hive
5、sqoop
6、flume/scribe/chukwa

HDFS正常情况几个节点:四个节点
本地模式 调试模式
伪分布式(使用一个节点)
完全分布式(4以上的节点)

Hadoop 并行处理系统 多副本
MapReduce
处理逻辑
Hadoop

关系数据库:
行式数据库 ,表

HBase :
列式数据库
键值对 ,键值组

收集日志的工具
flume (ASF)
chukwa (ASF)
scribe (facebook)

比hadoop更高级的编程接口 读入工具
Hive SQL
pig
Crunch Java API
Hadoop

Avro 序列化工具
Hadoop有强大的生态环境
sqoop :
让HDFS 分析关系数据库(Oracle ,MySQL ,SQL Server ,DB2)中的数据
Zookeeper 管理组件

生态图
Hadoop

Hadoop核心组件:
MapReduce
HDFS

R语言
R是用于统计分析、绘图的语言和操作环境。R是属于GNU系统的一个自由、免费、源代码开放的软件,它是一个用于统计计算和统计制图的优秀工具

伪分布式系统基本5个进程:
JobTracker
TaskTracker
NameNode
SecondaryNameNode
DataNode

Hadoop生态各个组件之间兼容性不太好 组件来自于各个开源项目
Cloudera CDH 组合发行版是Hadoop的一个分支,比较著名的
各种配置文件 .xml
Hadoop

Hadoop进程监听的地址和端口
Hadoop

Hadoop


文章标题:Hadoop
转载源于:http://bjjierui.cn/article/ghdddh.html

其他资讯