大数据存储HDFS的示例分析

这篇文章主要为大家展示了“大数据存储HDFS的示例分析”，内容简而易懂，条理清晰，希望能够帮助大家解决疑惑，下面让小编带领大家一起研究并学习一下“大数据存储HDFS的示例分析”这篇文章吧。

上栗网站制作公司哪家好，找成都创新互联公司！从网页设计、网站建设、微信开发、APP开发、自适应网站建设等网站项目制作，到程序开发，运营维护。成都创新互联公司于2013年成立到现在10年的时间，我们拥有了丰富的建站经验和运维经验，来保证我们的工作的顺利进行。专注于网站建设就选成都创新互联公司。

一、数据序列化框架：

FaceBook Thrift：具体序列化和RPC两个功能。

Google Protocol Buffers（ProtoBuf）：只有序列化功能，不具备RPC功能。

Apache Avro：具体序列化和RPC两个功能。

二、序列化框架对比：

解析速度 时间由小到大：protobuf、thrift、Avro  

序列化大小，由小到大：avro、protobuf、thrift  

三、文件存储格式：

常见存储格式包括行式存储（文本格式Text File、Key/Value二进制存储格式Sequence File）和列式存储（ORC、Parquet、Carbon Data）

列式存储对比：ORC通常作为数据表的数据格式应用在hive和presto等计算引擎中，它们对ORC读写进行了优化，而Parquet提供了非常易用的读写API，用户可在应用程序（eg：spark、MapReduce等分布式程序）中直接读写Parquet格式的文件，而Carbon Data在索引和数据更新方面有良好支撑，可用在多维OLAP分析场景中。

四、分布式文件系统

分为文件级别的分布式系统和块级别的分布式系统。

文件级别的分布式系统：不足之处是难以负载均衡、难以并行处理

块级别的分布式系统：将文件分为等大的数据块（eg：128M），并以数据块为单位存储到不同节点上，进而解决文件级别的分布式系统存在的负载均衡和并行处理问题，HDFS即是块级别的分布式文件系统。

五、HDFS基本架构：NameNode、DataNode、Client

HDFS关键技术：容错性设计、副本放置策略、异构存储介质（ARCHIVE：高存储密度但耗电较少的存储介质，DISK：磁盘介质，这是HDFS默认存储介质，SSD：固态硬盘，RAM_DISK：数据被写入内存中，同时会往改存储介质中异步一份）、集中式缓存管理（HDFS允许用户将一部分目录或文件缓存在off-heap内存中）

六、HDFS访问方式：

1、HDFS shell命名：分为用户命令和管理员命令

用户命令：常用的有文件操作命令dfs（eg：创建、上传、删掉文件）、文件一致性检查命令fsck（eg：查看文件块信息）、分布式文件复制命令distcp（集群内文件或者集群间文件并行复制）。

管理命令：对服务生命周期管理，eg：启动、关闭NameNode/DataNode、限制目录使用空间大小。

2、HDFS API：HDFS对外提供了丰富的编程API，允许用户使用java以及其他编程语言编写应用程序访问HDFS。

3、数据收集组件:Flume（提供的sink hdfs 能够直接将收集到的数据写入HDFS）、Sqoop（允许用户指定数据写入HDFS的目录，文件格式支持Text、SequenceFile两种格式，压缩方式支持LZO、Snappy等主流压缩编码）

4、计算引擎方式：SQL方式，Hive、Impala及Presto等查询引擎均允许用户直接使用SQL访问HDFS中的存储文件。

以上是“大数据存储HDFS的示例分析”这篇文章的所有内容，感谢各位的阅读！相信大家都有了一定的了解，希望分享的内容对大家有所帮助，如果还想学习更多知识，欢迎关注创新互联行业资讯频道！

本文名称：大数据存储HDFS的示例分析
文章分享：http://bjjierui.cn/article/geggge.html