SuperIT 专业IT技术社区之后端大数据与Devops

hive JDBC 进度和日志查看

hive JDBC 进度和日志查看 @(hive)[JDBC|进度|日志] hive的JDBC提供了java连接hiveserver2查询的能力，但是hive JDBC有别于关系型数据库，一个查询语句可能要在十几分钟到几十分钟才会返回结果，而hive JDBC...

2年前 (2020-10-28) 6℃

java

如何使用maven生成可以执行的jar? 不依赖任何外界包，maven如何生成可以执行的jar?

pom中不包含任何引用的情况下，只需要在pom中添加 maven-jar-plugin即可。解决过程新建项目，仅包含一个main函数类：Xixi.java，输出 Xixi Say: hello pom中配置为 <groupId>com.paxi</gro...

2年前 (2020-10-28) 4℃

hadoop

Hadoop（HDFS、YARN、HBase、Hive和Spark等）默认端口表

Hadoop（HDFS、YARN、HBase、Hive和Spark等）默认端口表 2018-08-10阅读 2890 端口作用 9000 fs.defaultFS，如：hdfs://172.25.40.171:9...

2年前 (2020-10-28) 3℃

未分类

基础概念hive vs spark vs hive on spark

hive hive与hadoop关系：hive是基于Hadoop的一个数据仓库工具，Hive是建立在 Hadoop 上的数据仓库基础构架。通俗意义上的hive，就是hive on mr Step 1：UI(user interface) 调用 execu...

2年前 (2020-10-28) 4℃

Hive设置连接用户名和密码

Hive设置连接用户名和密码，操作相关步骤如下： Hive-site.xml,缺省为NONE。此处改为CUSTOM https://blog.csdn.net/lr131425/article/details/72628001 <property> <n...

2年前 (2020-10-27) 5℃

GitHub开源的10个超棒后台管理面板

2年前 (2020-10-26) 4℃

Hive学习之路（十二）Hive SQL练习之影评案例

目录案例说明 https://www.cnblogs.com/qingyunzong/p/8727264.html 数据下载 https://files.cnblogs.com/files/qingyunzong/hive%E5%BD%B1%E8%AF%84%E6...

2年前 (2020-10-26) 8℃

hive优化常用手段

hive优化常用手段 1、好的模型设计事半功倍 2、解决数据倾斜问题 3、减少 job 数 4、设置合理的 MapReduce 的 task 数，能有效提升性能。(比如，10w+级别的计算，用 160个 reduce，那是相当的浪费，1 个足够) 5、了解数据分布，自己动手解决数...

2年前 (2020-10-26) 4℃

SQOOP 导出Hive数据到MySQL

基本知识： Sqoop导出的基本用法：https://sqoop.apache.org/docs/1.4.6/SqoopUserGuide.html#_syntax_4 的10. sqoop-export 内容摘要：本文主要是对–update-mode参数的用法进...

2年前 (2020-10-26) 4℃

Hive学习之路（十二）Hive SQL练习之影评案例

目录案例说明数据下载解析 1、正确建表，导入数据（三张表，三份数据），并验证是否正确 2、求被评分次数最多的10部电影，并给出评分次数（电影名，评分次数） 3、分别求男性，女性当中评分最高的10部电影（性别，电影名，影评分） 4、求movieid = 2116这部...

2年前 (2020-10-26) 4℃

spark

Spark项目实战

Spark项目之电商用户行为分析大数据平台之（十二）Spark上下文构建及模拟数据生成摘要：一、模拟生成数据 1 package com.bw.test; 2 3 import java.util.ArrayList; 4 import java.util.Arrays; ...

2年前 (2020-10-26) 4℃

Hive学习之路（十二）Hive SQL练习之影评案例

Hive学习之路（十二）Hive SQL练习之影评案例讨论QQ：1586558083 目录案例说明数据下载解析 1、正确建表，导入数据（三张表，三份数据），并验证是否正确 2、求被评分次数最多的10部电影，并给出评分次数（电影名，评分次数） 3、分别求男性...

2年前 (2020-10-26) 3℃

SQOOP 导出-Hive和MySQL数据导入导出

基本知识： Sqoop导出的基本用法：https://sqoop.apache.org/docs/1.4.6/SqoopUserGuide.html#_syntax_4 的10. sqoop-export 一、sqoop导出hive表到mysql中: 实现语句： ...

2年前 (2020-10-26) 3℃

Sqoop学习之路（一）

Sqoop学习之路（一）讨论QQ：1586558083 目录一、概述二、工作机制三、安装 1、前提概述 2、软件下载 3、安装步骤四、Sqoop的基本命令基本操作示例五、Sqoop的数据导入 1、从RDBMS导入到HDFS中 2、把My...

2年前 (2020-10-26) 5℃

Sqoop 之数据迁移

文章目录 1.RDBMS到HDFS 1.1全部导入 1.2导入指定列 –columns 1.3导入指定行–where 1.4查询导入 1.5增量导入数据 1.6导入文件格式 2.RDBMS到Hive 3.RDBMS到Hbase 4.HIVE/H...

2年前 (2020-10-26) 2℃

hbase

hbase出现org.apache.hadoop.hbase.PleaseHoldException: Master is initializing错误解决

使用hbase创建namespace和table时提示该错误，完整的错误日志如下：按照网上的解决思路： 1、设置主机之间的NTP时间同步。 2、修改hbase-site.xml配置文件 <property> <name>hbase.ro...

2年前 (2020-10-26) 3℃

使用Sqoop导Mysql数据到Hbase报错

报错日志 20/04/14 16:40:45 WARN mapreduce.HBaseImportJob: Could not find HBase table hbase_company 20/04/14 16:40:45 WARN mapreduce.HBaseImpo...

2年前 (2020-10-26) 2℃

linux

命令行时区选择

tzselect：执行tzselect命令–>选择Asia–>选择China–>选择east China – Beijing, Guangdong, Shanghai, etc–>然后输入1 转...

2年前 (2020-10-22) 4℃

python

Python多进程-进程间数据的传递

两个进程间的数据是独立的，要进行数据传递的话可通过几个方法 Queue 通过队列来进行进程间数据的传递 1 2 3 4 5 6 7 8 9 10 11 12 13 14 # -*- coding:utf-8 -*- __author__ = "MuT6...

2年前 (2020-10-21) 4℃

hadoop

安装CDH&CM

(推荐)https://www.xiaokunli.com/2019/03/25/CM-CDH6.1.0%E5%AE%89%E8%A3%85%E8%BF%87%E7%A8%8B%E8%AF%A6%E8%A7%A3/ (推荐)https://blog.csdn.net/weixin...

2年前 (2020-10-13) 6℃

spark

运行Spark官方提供的例子

去spark官网把spark下载下来： https://spark.apache.org/downloads.html 解压，可以看下目录：其中examples目录下提供了java,scala,python,R语言的各种例子。点进src目录可以看到源代码，如：...

2年前 (2020-10-12) 3℃

大型云计算平台的搭建以及解决方案（超详细）

需求分析能接入 500 台以上的云终端，可以满足大型公司内各类员工的办公需求。公司员工用各自的账号能在公司内部的任何云终端上登录自己的远程桌面，实现公司内部移动办公；同时，要求出差在外的员工也能安全访问远程桌面，公司安全管理部门能监控到外发的电子文档资料。对于一家大型公司来说，...

2年前 (2020-10-12) 3℃

中型云计算平台的搭建以及解决方案（超详细）

需求分析能满足 100～500 个用户日常办公的需要，每个用户分配一个账号，从而使其能在任何一台云终端上登录云端桌面，实现公司内部的移动办公。应用场所包括大型的阅览室、培训教室、中型公司、大型门柜业务等。系统设计我们继续在前面双机方案的基础上做纵向和横向扩展：首先，在纵向上...

2年前 (2020-10-12) 3℃