创建数据库
-
创建一个数据库,数据库在HDFS上的默认存储路径是/user/hive/warehouse/*.db。
hive (default)> create database mydatabase;
-
避免要创建的数据库已经存在错误,增加if not exists判断。
hive (default)> create database if not exists mydatabase1;
-
创建一个数据库,指定数据库在HDFS上存放的位置
hive (default)> create database if not exists mydatabase2 location '/mydatabase.db'
查询数据库
显示数据库
- 显示数据库
hive (default)> show databases; - 过滤显示查询的数据库
hive (default)> show databases like 'myda*';
查看数据库详情
- 显示数据库信息
hive (default)> desc database extended mydatabase; - 显示数据库详细信息,extended
hive (default)> desc database extended mydatabase;
切换当前数据库
hive (default)> use mydatabase;
修改数据库
用户可以使用ALTER DATABASE命令为某个数据库的DBPROPERTIES设置键-值对属性值,来描述这个数据库的属性信息。数据库的其他元数据信息都是不可更改的,包括数据库名和数据库所在的目录位置。修改当前正在使用的数据库,要先退出使用
hive (default)> alter database mydatabase set dbproperties('createtime'='20180930');
在hive中查看修改结果
hive (default)> desc database extended mydatabase;
删除数据库
- 删除空数据库
hive (default)> drop database mydatabase1; -
如果删除的数据库不存在,最好采用 if exists判断数据库是否存在
hive (default)> drop database mydatabase1;
-
如果数据库不为空,可以采用cascade命令,强制删除
hive (default)> drop database mydatabase cascade;
创建表
建表语法
CREATE [EXTERNAL] TABLE [IF NOT EXISTS] table_name
[(col_name data_type [COMMENT col_comment], ...)]
[COMMENT table_comment]
[PARTITIONED BY (col_name data_type [COMMENT col_comment], ...)]
[CLUSTERED BY (col_name, col_name, ...)
[SORTED BY (col_name [ASC|DESC], ...)] INTO num_buckets BUCKETS]
[ROW FORMAT row_format]
[STORED AS file_format]
[LOCATION hdfs_path]
字段相关解释说明
- CREATE TABLE 创建一个指定名字的表。如果相同名字的表已经存在,则抛出异常;可以用 IF NOT EXISTS 选项来忽略这个异常
- EXTERNAL关键字可以让用户创建一个外部表,在建表的同时指定一个指向实际数据的路径(LOCATION关键字指定),Hive创建内部表时,会将数据移动到数据仓库指向的路径;若创建外部表,仅记录数据所在的路径,不对数据的位置做任何改变。在删除表的时候,内部表的元数据和数据会被一起删除,而外部表只删除元数据,不删除数据
- COMMENT:为表和列添加注释
- PARTITIONED BY创建分区表
- CLUSTERED BY创建分桶表
- SORTED BY不常用
- ROW FORMAT
DELIMITED [FIELDS TERMINATED BY char] [COLLECTION ITEMS TERMINATED BY char] [MAP KEYS TERMINATED BY char] [LINES TERMINATED BY char] - STORED AS
指定存储文件类型
常用的存储文件类型:SEQUENCEFILE(二进制序列文件)、TEXTFILE(文本)、RCFILE(列式存储格式文件)
如果文件数据是纯文本,可以使用STORED AS TEXTFILE。如果数据需要压缩,使用 STORED AS SEQUENCEFILE - LOCATION 指定表在HDFS上的存储位置、
- LIKE允许用户复制现有的表结构,但是不复制数据
管理表
默认创建的表都是所谓的管理表,有时也被称为内部表。因为这种表,Hive会(或多或少地)控制着数据的生命周期。Hive默认情况下会将这些表的数据存储在由配置项hive.metastore.warehouse.dir(例如,/user/hive/warehouse)所定义的目录的子目录下,当我们删除一个管理表时,Hive也会删除这个表中数据。管理表不适合和其他工具共享数据
具体操作
- 创建管理表
create table if not exists student1(
id int, name string
)
row format delimited fields terminated by '\t'
stored as textfile;
- 插入数据
insert into student1 values(1, "Z");
- 根据查询结果创建表
create table if not exists student2 as select * from student1;
- 根据已经存在的表结构创建表
create table if not exists student3 like student1;
外部表
因为表是外部表,所以Hive并非认为其完全拥有这份数据。删除该表并不会删除掉这份数据,不过描述表的元数据信息会被删除掉
每天将收集到的网站日志定期流入HDFS文本文件。在外部表(原始日志表)的基础上做大量的统计分析,用到的中间表、结果表使用内部表存储,数据通过SELECT+INSERT进入内部表
具体操作
- 创建部门表和员工表
create external table if not exists default.dept(
deptno int,
dname string,
loc int
)
row format delimited fields terminated by '\t';
create external table if not exists default.emp(
empno int,
ename string,
job string,
mgr int,
hiredate string,
sal double,
comm double,
deptno int)
row format delimited fields terminated by '\t';
- 导入数据
load data local inpath '/opt/module/datas/dept.txt' into table default.dept;
load data local inpath '/opt/module/datas/emp.txt' into table default.emp;
- 查看表格式化数据
desc formatted dept;
管理表与外部表的互相转换
只能用单引号,严格区分大小写,如果不是完全符合,那么只会添加kv 而不生效
- 修改内部表student2为外部表
alter table student2 set tblproperties('EXTERNAL'='TRUE');
- 修改外部表student2为内部表
alter table student2 set tblproperties('EXTERNAL'='FALSE');
注意:('EXTERNAL'='TRUE')和('EXTERNAL'='FALSE')为固定写法,区分大小写
分区表
分区表实际上就是对应一个HDFS文件系统上的独立的文件夹,该文件夹下是该分区所有的数据文件。Hive中的分区就是分目录,把一个大的数据集根据业务需要分割成小的数据集。在查询时通过WHERE子句中的表达式选择查询所需要的指定的分区,这样的查询效率会提高很多。
分区表基本操作
- 创建表
create table if not exists dept_partition(
deptno int,
deptname string,
deptloc string
)
partitioned by (month string)
row format delimited fields terminated by '\t';
- 加载数据到分区表中
load data local inpath '/opt/module/datas/dept.txt' into table default.dept_partition partition(month='201808');
load data local inpath '/opt/module/datas/dept.txt' into table default.dept_partition partition(month='201809');
load data local inpath '/opt/module/datas/dept.txt' into table default.dept_partition partition(month='201810');
- 查询
-- 单分区查询
select * from dept_partition where month = '201808';
-- 多分区联合查询 union(排序) in or 三种方式
select * from dept_partition where month = '201808'
union
select * from dept_partition where month = '201809';
select * from dept_partition where month in ('201808', '201809');
select * from dept_partition where month='201808' or month='201809';
- 增加分区
创建单个分区
alter table dept_partition add partition(month='201811');
创建多个分区,用空格分开
alter table dept_partition add partition(month='201812') partition(month='201901');
- 删除分区
删除单个分区
alter table dept_partition drop partition(month='201811');
删除多个分区,用逗号分开
alter table dept_partition drop partition(month='201812'),partition(month='201901');
- 查看分区表有多少分区
show partitions dept_partition;
二级分区表
- 创建二级分区
create table if not exists dept_partition2(
deptno int,
deptname string,
demploc string
)
partitioned by(month string, day string)
row format delimited fields terminated by '\t';
- 上传数据
load data local inpath '/opt/module/datas/dept.txt' into table
default.dept_partition2 partition(month='201810', day='13');
- 查询数据
select * from dept_partition2 where month='201810' and day = '13';
分区表与数据关联的三种方式
- 创建目录,上传数据后修复
-- 创建目录
dfs -mkdir -p
/user/hive/warehouse/dept_partition2/month=201810/day=12;
-- 上传数据
dfs -put /opt/module/datas/dept.txt /user/hive/warehouse/dept_partition2/month=201810/day=12;
-- 执行修复命令
msck repair table dept_partition2;
- 创建目录,上传数据后添加分区
-- 创建目录
dfs -mkdir -p
/user/hive/warehouse/dept_partition2/month=201810/day=14;
-- 上传数据
dfs -put /opt/module/datas/dept.txt /user/hive/warehouse/dept_partition2/month=201810/day=14;
-- 添加分区
alter table dept_partition2 add partition(month='201810',
day='14');
- 创建目录,load数据到分区
-- 创建目录
dfs -mkdir -p
/user/hive/warehouse/dept_partition2/month=201810/day=15;
-- load 数据到分区
load data local inpath '/opt/module/datas/dept.txt' into table
dept_partition2 partition(month='201810',day='15');
修改表
重命名表
- 语法
ALTER TABLE table_name RENAME TO new_table_name - 案例
alter table student rename to student4;
增加、修改和删除表分区
前面已描述
增加、修改、替换列信息
- 语法
更新列语法
ALTER TABLE table_name CHANGE [COLUMN] col_old_name col_new_name column_type [COMMENT col_comment] [FIRST|AFTER column_name]
增加和替换列
ALTER TABLE table_name ADD|REPLACE COLUMNS (col_name data_type [COMMENT col_comment], ...)
注意,ADD是代表新增一字段,字段位置在所有列后面(partition列前),REPLACE则是表示替换表中所有字段 - 案例
-- 添加列
alter table dept_partition add columns(deptdesc string);
-- 更新列
alter table dept_partition change column deptdesc desc int;
-- 替换列·
alter table dept_partition replace columns(deptno string, dname
string, loc string);
删除表
drop table dept_partition;