TOP

使用flume日志采集直接将采集数据导入hive
2019-02-23 14:08:34 】 浏览:389
Tags:使用 flume 日志 采集 直接 数据 导入 hive

今天给大家分享下 使用flume采集日志,直接将日志导入对应的hive表中,然后使用hive进行日志分析

下面就以apache access log为例

具体使用hive的外部表还是普通的表,个人决定哈

我这里就以普通表来讲解,首先我们创建一个hive表(注:此表我是从hive官网上直接拷贝修改了下表名,哈哈)

1,首先进入hive 命令行模式

我创建了一个自己的数据库

create database hive_1208;

然后使用该数据库:

use hive_1208;

直接执行建表语句:

CREATE TABLE td_log_analyze(
  host STRING,
  identity STRING,
  user STRING,
  time STRING,
  request STRING,
  status STRING,
  size STRING,
  referer STRING,
  agent STRING)
partitioned by (dt string)
ROW FORMAT SERDE 'org.apache.hadoop.hive.contrib.serde2.RegexSerDe'
WITH SERDEPROPERTIES (
  "input.regex" = "([^ ]*) ([^ ]*) ([^ ]*) (-|\\[[^\\]]*\\]) ([^ \"]*|\"[^\"]*\") (-|[0-9]*) (-|[0-9]*)(: ([^ \"]*|\"[^\"]*\") ([^ \"]*|\"[^\"]*\"))",
  "output.format.string" = "%1$s %2$s %3$s %4$s %5$s %6$s %7$s %8$s %9$s"
)
STORED AS TEXTFILE;

2,然后你就可以在hdfs 看到对应的目录



下面就该flume 出动了,

我的配置如下:

#定义agent名, source、channel、sink的名称
logAnalyzeAG.sources = r1
logAnalyzeAG.channels = c1
logAnalyzeAG.sinks = k1

#具体定义source
logAnalyzeAG.sources.r1.type = spooldir
logAnalyzeAG.sources.r1.spoolDir = /usr/local/nginx_logs
#设置缓存提交行数
logAnalyzeAG.sources.s1.deserializer.maxLineLength =1048576
logAnalyzeAG.sources.s1.fileSuffix = .DONE
logAnalyzeAG.sources.s1.ignorePattern = access(_\d{4}\-\d{2}\-\d{2}_\d{2})\.log(\.DONE)
logAnalyzeAG.sources.s1.consumeOrder = oldest
logAnalyzeAG.sources.s1.deserializer = org.apache.flume.sink.solr.morphline.BlobDeserializer$Builder
logAnalyzeAG.sources.s1.batchsize = 5
#定义拦截器,为消息添加时间戳
#logAnalyzeAG.sources.r1.interceptors = i1
#logAnalyzeAG.sources.r1.interceptors.i1.type = org.apache.flume.interceptor.TimestampInterceptor$Builder


#具体定义channel
logAnalyzeAG.channels.c1.type = memory
logAnalyzeAG.channels.c1.capacity = 10000
logAnalyzeAG.channels.c1.transactionCapacity = 100

#具体定义sink
logAnalyzeAG.sinks.k1.type = hdfs
#%y-%m-%d/%H%M/%S
#这里对应就是hive 表的目录 此处如果是外部表,则直接对应你的localtion地址,如果普通则对应到你的hive表目录即可
logAnalyzeAG.sinks.k1.hdfs.path = hdfs://192.168.3.141:9000/hive/warehouse/hive_1208.db/td_log_analyze/%Y-%m-%d_%H
logAnalyzeAG.sinks.k1.hdfs.filePrefix = nginx-%Y-%m-%d_%H
logAnalyzeAG.sinks.k1.hdfs.fileSuffix = .log
logAnalyzeAG.sinks.k1.hdfs.fileType = DataStream
#不按照条数生成文件
logAnalyzeAG.sinks.k1.hdfs.rollCount = 0
#HDFS上的文件达到128M时生成一个文件
logAnalyzeAG.sinks.k1.hdfs.rollSize = 2914560
#HDFS上的文件达到60秒生成一个文件
#logAnalyzeAG.sinks.k1.hdfs.rollInterval = 60
logAnalyzeAG.sinks.k1.hdfs.useLocalTimeStamp = true

#组装source、channel、sink
logAnalyzeAG.sources.r1.channels = c1
logAnalyzeAG.sinks.k1.channel = c1

我这是flume sources使用的是spoolDir type监控/usr/local/nginx_logs

进去该监控目录vi assec_2015-12-08_12.log

将如下数据导入加入

180.173.250.74 - - [08/Jan/2015:12:38:08 +0800] "GET /avatar/xxx.png HTTP/1.1" 200 968 "http://www.iteblog.com/archives/994" "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/34.0.1847.131 Safari/537.36"
		180.173.250.74 - - [08/Jan/2015:12:38:08 +0800] "GET /avatar/xxx.png HTTP/1.1" 200 968 "http://www.iteblog.com/archives/994" "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/34.0.1847.131 Safari/537.36"
		180.173.250.74 - - [08/Jan/2015:12:38:08 +0800] "GET /avatar/xxx.png HTTP/1.1" 200 968 "http://www.iteblog.com/archives/994" "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/34.0.1847.131 Safari/537.36"

保存完之后了flume则会采集该日志 到指定的hdfs dir

==你会看到hdfs目录如下:



此时在说明日志采集成功,

我这里是对日志进行的分区存放,所以要想将hive表对应指定分区需要创建hive 分区如下

ALTER TABLE td_log_analyze ADD IF NOT EXISTS PARTITION (dt='2015-12-08_12') LOCATION '/hive/warehouse/hive_1208.db/td_log_analyze/2015-12-08_12/';

此时你进去hive命令执行查看分区是否创建成功

show partitions td_log_analyze;



然后查询hive表

select * from td_log_analyze;



OK到此处一切正常结束,具体分析就看个人业务了哈

注:上面需要手动给hive创建分区那个步骤,看具体分区的间隔,可写自动化脚本来自动创建分区,个人建议提前一天创建分区即可。


使用flume日志采集直接将采集数据导入hive https://www.cppentry.com/bencandy.php?fid=119&id=210100

】【打印繁体】【投稿】【收藏】 【推荐】【举报】【评论】 【关闭】 【返回顶部
上一篇flume实例(三):扇入 下一篇flume读取日志数据写入kafka &nbs..