• 设为首页
  • 点击收藏
  • 手机版
    手机扫一扫访问
    迪恩网络手机版
  • 关注官方公众号
    微信扫一扫关注
    迪恩网络公众号

Java SplitLineReader类代码示例

原作者: [db:作者] 来自: [db:来源] 收藏 邀请

本文整理汇总了Java中org.apache.hadoop.mapreduce.lib.input.SplitLineReader的典型用法代码示例。如果您正苦于以下问题:Java SplitLineReader类的具体用法?Java SplitLineReader怎么用?Java SplitLineReader使用的例子?那么恭喜您, 这里精选的类代码示例或许可以为您提供帮助。



SplitLineReader类属于org.apache.hadoop.mapreduce.lib.input包,在下文中一共展示了SplitLineReader类的3个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于我们的系统推荐出更棒的Java代码示例。

示例1: LineRecordReader

import org.apache.hadoop.mapreduce.lib.input.SplitLineReader; //导入依赖的package包/类
public LineRecordReader(InputStream in, long offset, long endOffset,
    int maxLineLength, byte[] recordDelimiter) {
  this.maxLineLength = maxLineLength;
  this.in = new SplitLineReader(in, recordDelimiter);
  this.start = offset;
  this.pos = offset;
  this.end = endOffset;    
  filePosition = null;
}
 
开发者ID:naver,项目名称:hadoop,代码行数:10,代码来源:LineRecordReader.java


示例2: initialize

import org.apache.hadoop.mapreduce.lib.input.SplitLineReader; //导入依赖的package包/类
public void initialize(InputSplit genericSplit, TaskAttemptContext context)  {
    try {
        FileSplit split = (FileSplit)genericSplit;
        Configuration job = context.getConfiguration();
        this.maxLineLength = job.getInt("mapreduce.input.linerecordreader.line.maxlength", 2147483647);
        this.start = split.getStart();
        this.end = this.start + split.getLength();
        Path file = split.getPath();
        FileSystem fs = file.getFileSystem(job);
        this.fileIn = fs.open(file);
        CompressionCodec codec = (new CompressionCodecFactory(job)).getCodec(file);
        if(null != codec) {
            this.isCompressedInput = true;
            this.decompressor = CodecPool.getDecompressor(codec);
            if(codec instanceof SplittableCompressionCodec) {
                SplitCompressionInputStream cIn = ((SplittableCompressionCodec)codec).createInputStream(this.fileIn, this.decompressor, this.start, this.end, SplittableCompressionCodec.READ_MODE.BYBLOCK);
                this.in = new CompressedSplitLineReader(cIn, job, this.recordDelimiterBytes);
                this.start = cIn.getAdjustedStart();
                this.end = cIn.getAdjustedEnd();
                this.filePosition = cIn;
            } else {
                this.in = new SplitLineReader(codec.createInputStream(this.fileIn, this.decompressor), job, this.recordDelimiterBytes);
                this.filePosition = this.fileIn;
            }
        } else {
            this.fileIn.seek(this.start);
            this.in = new SplitLineReader(this.fileIn, job, this.recordDelimiterBytes);
            this.filePosition = this.fileIn;
        }

        if(this.start != 0L) {
            this.start += (long)this.in.readLine(new Text(), 0, this.maxBytesToConsume(this.start));
        }

        this.pos = this.start;
    }catch(Exception ex){
        LOG.warn("Exception occurred during initialization {}", ex, ex);
    }

}
 
开发者ID:Comcast,项目名称:spark-util,代码行数:41,代码来源:ErrorHandlingLineRecordReader.java


示例3: LineRecordReader

import org.apache.hadoop.mapreduce.lib.input.SplitLineReader; //导入依赖的package包/类
public LineRecordReader(InputStream in, long offset, long endOffset,
    int maxLineLength, byte[] recordDelimiter) {
  this.maxLineLength = maxLineLength;
  this.in = new SplitLineReader(in, recordDelimiter);
  this.start = offset;
  this.pos = offset;
  this.end = endOffset;
  this.filePosition = null;
}
 
开发者ID:Nextzero,项目名称:hadoop-2.6.0-cdh5.4.3,代码行数:10,代码来源:LineRecordReader.java



注:本文中的org.apache.hadoop.mapreduce.lib.input.SplitLineReader类示例整理自Github/MSDocs等源码及文档管理平台,相关代码片段筛选自各路编程大神贡献的开源项目,源码版权归原作者所有,传播和使用请参考对应项目的License;未经允许,请勿转载。


鲜花

握手

雷人

路过

鸡蛋
该文章已有0人参与评论

请发表评论

全部评论

专题导读
上一篇:
Java RingPosition类代码示例发布时间:2022-05-22
下一篇:
Java Oracle8iDialect类代码示例发布时间:2022-05-22
热门推荐
阅读排行榜

扫描微信二维码

查看手机版网站

随时了解更新最新资讯

139-2527-9053

在线客服(服务时间 9:00~18:00)

在线QQ客服
地址:深圳市南山区西丽大学城创智工业园
电邮:jeky_zhao#qq.com
移动电话:139-2527-9053

Powered by 互联科技 X3.4© 2001-2213 极客世界.|Sitemap