博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Hive
阅读量:6227 次
发布时间:2019-06-21

本文共 2208 字,大约阅读时间需要 7 分钟。

1.Hive概述

1.1在hadoop生态圈中属于数据仓库的角色。它能够管理hadoop中的数据,同时可以查询hadoop中的数据。
  本质上讲,hive是一个SQL解析引擎。Hive可以把SQL查询转换为MapReduce中的job来运行。
  hive有一套映射工具,可以把SQL转换为MapReduce中的job,可以把SQL中的表、字段转换为HDFS中的文件(夹)以及文件中的列
  这套映射工具称之为metastore,一般存放在derby、mysql中。
1.2 hive在hdfs中的默认位置是/user/hive/warehouse,是由配置文件hive-conf.xml中属性hive.metastore.warehouse.dir决定的。
2.hive的安装
(1)解压缩、重命名、设置环境变量
(2)在目录$HIVE_HOME/conf/下,执行命令mv hive-default.xml.template hive-site.xml重命名
在目录$HIVE_HOME/conf/下,执行命令mv hive-env.sh.template hive-env.sh重命名
(3)修改hadoop的配置文件hadoop-env.sh,修改内容如下:

export HADOOP_CLASSPATH=.:$CLASSPATH:$HADOOP_CLASSPATH:$HADOOP_HOME/bin

(4)在目录$HIVE_HOME/bin下面,修改文件hive-config.sh,增加以下内容:

export JAVA_HOME=/usr/local/jdkexport HIVE_HOME=/usr/local/hiveexport HADOOP_HOME=/usr/local/hadoop

3.安装mysql

(1)删除linux上已经安装的mysql相关库信息。rpm -e xxxxxxx --nodeps

  执行命令rpm -qa |grep mysql 检查是否删除干净
(2)安装mysql服务端
  执行命令 rpm -i mysql-server-5.5.31-2.e16.i686.rpm
(3)启动mysql 服务端,
  执行命令 mysqld_safe &
(4)安装mysql客户端
  执行命令 rpm -i mysql-client-5.5.31-2.e16.i686.rpm
(5)设置root用户密码
  执行命令mysql_secure_installation
4. 使用mysql作为hive的metastore
(1)把mysql的jdbc驱动(在Downloads里)放置到hive的lib目录下
执行命令:cp mysql-connection-java-5.1.10.jar /usr/local/hive/lib/
(2)修改hive/conf/hive-site.xml文件,修改内容如下:

  
javax.jdo.option.ConnectionURL
  
jdbc:mysql://hadoop0:3306/hive?createDatabaseIfNotExist=true
  
javax.jdo.option.ConnectionDriverName
  
com.mysql.jdbc.Driver
  
javax.jdo.option.ConnectionUserName
  
root
  
javax.jdo.option.ConnectionPassword
  
admin

5. 内部表

CREATE TABLE t1(id int); LOAD DATA LOCAL INPATH '/root/id' INTO TABLE t1;//从hdfs上传CREATE TABLE t2(id int, name string) ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t';

6. 分区表

CREATE TABLE t3(id int) PARTITIONED BY (day int); LOAD DATA LOCAL INPATH '/root/id' INTO TABLE t1 PARTITION (day=22);

7. 桶表

create table t4(id int) clustered by(id) into 4 buckets; set hive.enforce.bucketing = true;insert into table t4 select id from t3;

8. 外部表

create external table t5(id int) location '/external';

 

转载地址:http://fynna.baihongyu.com/

你可能感兴趣的文章
thinkphp整合系列之短信验证码、订单通知
查看>>
fsimage 和 edits log
查看>>
遍历json对象---Java
查看>>
Java反编译插件JadClipse
查看>>
从头开始搭建一个Spring boot+RabbitMQ环境
查看>>
bash编程 将一个目录里所有文件存为一个array 并分割为三等分——利用bash array切片...
查看>>
自己动手开发IOC容器
查看>>
hdparm
查看>>
[LeetCode] Best Time to Buy and Sell Stock
查看>>
jQuery学习之开篇
查看>>
jQuery上传插件Uploadify使用详解
查看>>
《Flask Web开发——基于Python的Web应用开发实践》一字一句上机实践(上)
查看>>
css3-2 CSS3选择器和文本字体样式
查看>>
C++11学习
查看>>
【java】java工具类StringUtils,org.apache.commons.lang3.StringUtils
查看>>
WPF太阳、地球、月球运动轨迹模拟
查看>>
Getting Started with Scala
查看>>
curl != casperjs ? - Google Groups
查看>>
Oracle从字符串资源中得到想要的数据分析
查看>>
敏捷开发中的Code Review
查看>>