RCFileInputFormat的使用方法

2014-11-24 07:17:42 · 作者: · 浏览: 2

在使用RCFileInputFormat时可以设置需要读取的列的序号:

/**

* Sets read columns' ids(start from zero) for RCFile's Reader. Once a column

* is included in the list, RCFile's reader will not skip its value.

*

*/

public static void setReadColumnIDs(Configuration conf, ArrayList ids) {

String id = toReadColumnIDString(ids);

setReadColumnIDConf(conf, id);


}

如果使用RCFileInputFormat,在map当中传入的value为数据库表的一行。如要读取该行的每一列可以使用如下方法:

String[] columns = new String[columnNum];

for(int i=0;i
columns[i]= new String(value.get(i).getData(),value.get(i).getStart(),

Value.get(i).getLength());

}

其中,columnNum为读取的列数,然后在for循环中构造每一列。在这里可能会有疑问的地方,为什么每一列还需要start和length呢?因为value.get(i).getData()获取的是该行所有列的数据,不是针对该列的数据,所以需要“开始位置”和“长度”。在这里我们或许还可以推定:该行所有列value.get(i).getData()的方法其实是共享了一个byte数组。