微信搜索superit|邀请体验:大数据, 数据管理、OLAP分析与可视化平台 | 赞助作者:赞助作者

Spark项目实战

spark aide_941 2℃ 0评论
摘要:一、模拟生成数据 1 package com.bw.test; 2 3 import java.util.ArrayList; 4 import java.util.Arrays; 5 import java.util.List; 6 import java.util.Random; 7 impor 阅读全文
posted @ 2018-05-23 20:23 扎心了,老铁 阅读(5696) 评论(3) 推荐(0) 编辑
摘要:一、概述 JSON的全称是”JavaScript Object Notation”,意思是JavaScript对象表示法,它是一种基于文本,独立于语言的轻量级数据交换格式。XML也是一种数据交换格式,为什么没 有选择XML呢?因为XML虽然可以作为跨平台的数据交换格式,但是在JS(JavaScrip 阅读全文
posted @ 2018-05-23 18:58 扎心了,老铁 阅读(3511) 评论(0) 推荐(0) 编辑
摘要:一、创建Maven项目 创建项目,名称为LogAnalysis 二、常用工具类 2.1 配置管理组建 ConfigurationManager.java 1 import java.io.InputStream; 2 import java.util.Properties; 3 4 /** 5 * 阅读全文
posted @ 2018-05-21 11:52 扎心了,老铁 阅读(3665) 评论(0) 推荐(1) 编辑
摘要:一、概述 数据设计,往往包含两个环节: 第一个:就是我们的上游数据,就是数据调研环节看到的项目基于的基础数据,是否要针对其开发一些Hive ETL,对数据进行进一步的处理和转换,从而让我们能够更加方便的和快速的去计算和执行spark作业; 第二个:就是要设计spark作业要保存结果数据的业务表的结构 阅读全文
posted @ 2018-05-21 09:42 扎心了,老铁 阅读(3302) 评论(0) 推荐(0) 编辑
摘要:1、按条件筛选session 搜索过某些关键词的用户、访问时间在某个时间段内的用户、年龄在某个范围内的用户、职业在某个范围内的用户、所在某个城市的用户,发起的session。找到对应的这些用户的session,也就是我们所说的第一步,按条件筛选session。 这个功能,就最大的作用就是灵活。也就是 阅读全文
posted @ 2018-05-21 09:30 扎心了,老铁 阅读(3925) 评论(0) 推荐(0) 编辑
摘要:一、user_visit_action(Hive表) 1.1 表的结构 date:日期,代表这个用户点击行为是在哪一天发生的user_id:代表这个点击行为是哪一个用户执行的session_id :唯一标识了某个用户的一个访问sessionpage_id :点击了某些商品/品类,也可能是搜索了某个关 阅读全文
posted @ 2018-05-21 09:29 扎心了,老铁 阅读(3981) 评论(0) 推荐(0) 编辑
摘要:一、对用户访问session进行分析 1、可以根据使用者指定的某些条件,筛选出指定的一些用户(有特定年龄、职业、城市); 2、对这些用户在指定日期范围内发起的session,进行聚合统计,比如,统计出访问时长在0~3s的session占总session数量的比例; 3、按时间比例,比如一天有24个小 阅读全文
posted @ 2018-05-21 09:27 扎心了,老铁 阅读(5578) 评论(2) 推荐(2) 编辑
摘要: 阅读全文
posted @ 2018-05-21 09:26 扎心了,老铁 阅读(5374) 评论(0) 推荐(0) 编辑
摘要: 阅读全文
posted @ 2018-05-21 09:24 扎心了,老铁 阅读(5215) 评论(0) 推荐(5) 编辑
摘要:Zookeeper集群搭建 http://www.cnblogs.com/qingyunzong/p/8619184.html Hadoop集群搭建 http://www.cnblogs.com/qingyunzong/p/8634335.html http://www.cnblogs.com/qi 阅读全文
posted @ 2018-05-21 09:23 扎心了,老铁 阅读(4981) 评论(0) 推荐(1) 编辑
摘要:一、CentOS7集群搭建 1.1 准备3台centos7的虚拟机 IP及主机名规划如下: 192.168.123.110 spark1192.168.123.111 spark2192.168.123.112 spark3 1.2 修改IP地址 1.3 修改主机映射 1.4 修改主机名 三台机器分 阅读全文
posted @ 2018-05-21 09:21 扎心了,老铁 阅读(4903) 评论(0) 推荐(0) 编辑
摘要:一、项目概述 本项目主要用于互联网电商企业中,使用Spark技术开发的大数据统计分析平台,对电商网站的各种用户行为(访问行为、购物行为、广告点击行为等)进行复杂的分析。用统计分析出来的数据,辅助公司中的PM(产品经理)、数据分析师以及管理人员分析现有产品的情况,并根据用户行为分析结果持续改进产品的设 阅读全文
posted @ 2018-05-21 09:20 扎心了,老铁 阅读(10385) 评论(0) 推荐(0) 编辑

转载请注明:SuperIT » Spark项目实战

喜欢 (0)or分享 (0)

您必须 登录 才能发表评论!