数据平台数据处理流程图
创新互联建站是一家专注于成都网站制作、网站设计、外贸网站建设与策划设计,资溪网站建设哪家好?创新互联建站做网站,专注于网站建设十多年,网设计领域的专业建站公司;建站业务涵盖:资溪等地区。资溪做网站价格咨询:18980820575
- 数据准备:
主要分为几个来源:FTP数据来源,合作方推送的数据,从携程对外开放的API接口获取数据,酒店管理系统日志数据以及在线旅行社网站的数据源。 - 数据接入:
针对数据多来源的特性开发针对特定场景的数据接入方式。
a.FTP来源的数据:采用shel脚本开发,包括检查数据是否准备就绪、开始下载、解密解包、lzop压缩、put方式上传文件到HDFS
b.合作方推送的数据:搭建简单的web服务,接受携程推送的请求,利用Nginx完成请求负载,并利用Nginx记录请求中的数据,写入文件。后续通过日志收集系统获取数据(其实可以从合作方直接将数据推送Kafka的)
c.合作方API接口数据:开发程序形成生产者消费者模式,生产者将任务写入队列,消费者从队列中获取任务并利用线程池并发从合作方API接口获取数据
d.PMS日志数据:主要由开源Flume组件完成
e.网站数据:利用爬虫抓取网站数据
3.数据存储:
分为实时和离线数据存储两种方式,分别通过Kafka和HDFS进行存储
4.数据处理:
在数据处理环节,主要利用MapReduce和Spark进行数据处理任务的开发。
5、数据查询:
将Hive定义在数据查询这一流程,用户在使用数据平台过程中,通过Hive对数据进行查询。
![多来源数据采集、处理的数据流程](/upload/otherpic75/155667.jpg)
文章名称:多来源数据采集、处理的数据流程
文章URL:
http://bjjierui.cn/article/pposep.html