设为首页 加入收藏

TOP

hive的mysql版的安装配置以及远程服务
2019-04-21 00:47:14 】 浏览:46
Tags:hive mysql 安装 配置 以及 远程 服务

hive的mysql版的安装配置

hive的mysql版安装前先了解一下 hive
Hive 学习开始:
Hive 是基于 Hadoop 的一个数据仓库工具,可以将结构化的数据文件 映射为
一张数据库表
并提供类 SQL 查询功能。
本质是将 SQL 转换为 MapReduce 程序。
主要用途:用来做离线数据分析,比直接用 MapReduce 开发效率更高。

直接使用 Hadoop MapReduce 处理数据所面临的问题:
人员学习成本太高
MapReduce 实现复杂查询逻辑开发难度太大
使用 Hive :
操作接口采用类 SQL 语法,提供快速开发的能力
避免了去写 MapReduce,减少开发人员的学习成本
功能扩展很方便

Hive 组件:
用户接口:
元数据存储:
解释器/编译器/优化器/执行器/:生成的查询计划存储在hdfs,并在随后由mapreduce调用执行。

Hive和hadoop 的关系:
Hive 利用 HDFS 存储数据,利用 MapReduce 查询分析数据。

Hive 与传统数据库对比:hive只适合用来做批量数据统计分析。

在这里插入图片描述

Hive 数据类型:
Hive中所有的数据都存储在hdfs中,没有专门的存储格式。
在创建时指定数据中的分隔符,hive就可以映射成功,解析数据。

Hive 的安装与部署:
1 安装前需要安装好 jdk和hadoop 以及启动hadoop集群:start-all.sh
2.上传 hive包 解压 后到bin目录可以看见hive

Hive 根据元数据存储的介质不同 分为
1.derby版【属于内嵌模式 直接./hive 即可启动】【注意derby版 缺点:不同的路劲启动 就会在等级目录下 产生一个metastore_db 元数据,这就导致了无法共享 如:进去bin 后 ./hive 启动 和bin/hive 启动 创建的库表不能共享】
2.mysql版 【企业中用/生产环境用】
步骤:1.yum install mysql mysql-server mysql-devel 【安装mysql】
2./etc/init.d/mysqld start 【初始化mysql 并启动】
3.USE mysql;
4.UPDATE user SET Password=PASSWORD(‘hadoop’) WHERE user=‘root’; 【设置登录密码 用户】

5.GRANT ALL PRIVILEGES ON . TO ‘root’@’%’ IDENTIFIED BY ‘hadoop’ WITH GRANT OPTION; 【给mysql所有权限】
6.FLUSH PRIVILEGES; 【刷新配置】
7.chkconfig mysqld on; 【设置mysql开机启动】
8.配置hive 中的mysql 到hive的conf目录 下编辑vi conf/hive-env.sh 配置: export HADOOP_HOME=/export/servers/hadoop
9.创建:vi hive-site.xml


javax.jdo.option.ConnectionURL
jdbc:mysql://lnote1:3306/hivecreateDatabaseIfNotExist=true
JDBC connect string for a JDBC metastore

	<property>
	<name>javax.jdo.option.ConnectionDriverName</name>
	<value>com.mysql.jdbc.Driver</value>
	<description>Driver class name for a JDBC metastore</description>
	</property>

	<property>
	<name>javax.jdo.option.ConnectionUserName</name>
	<value>root</value>
	<description>username to use against metastore database</description>
	</property>

	<property>
	<name>javax.jdo.option.ConnectionPassword</name>
	<value>hadoop</value>
	<description>password to use against metastore database</description>
	</property>
	</configuration>

10.hive 的lib目录下缺失 mysql的连接驱动 上传jar包 启动hive即可【bin/hive 或者的到bin目录中 ./hive】

三 hive 的远程服务
1.将hive的插件 下发到其他机器 :scp -r /export/servers/hive root@note2:/export/servers scp -r /export/servers/hive root@note3:/export/servers
2.首先在note1上开启 hive 远程服务: 到hive 的目录下 bin/hiveserver2
3.在其他机器上【如:note3】 开启hive的客户端 ./beeline
4. 连接远程hive 命令: ! connect jdbc:hive2://note1:10000
5.输入 note1机器的root ;和note1机器的用户密码【不是mysql 用户密码】
6.连接完成后 测试是否连接成功 show databases;

】【打印繁体】【投稿】【收藏】 【推荐】【举报】【评论】 【关闭】 【返回顶部
上一篇hive:Access denied for user .. 下一篇hive:Access denied for user ..

最新文章

热门文章

Hot 文章

Python

C 语言

C++基础

大数据基础

linux编程基础

C/C++面试题目