• 设为首页
  • 点击收藏
  • 手机版
    手机扫一扫访问
    迪恩网络手机版
  • 关注官方公众号
    微信扫一扫关注
    迪恩网络公众号

Java Submitter类代码示例

原作者: [db:作者] 来自: [db:来源] 收藏 邀请

本文整理汇总了Java中org.apache.hadoop.mapred.pipes.Submitter的典型用法代码示例。如果您正苦于以下问题:Java Submitter类的具体用法?Java Submitter怎么用?Java Submitter使用的例子?那么恭喜您, 这里精选的类代码示例或许可以为您提供帮助。



Submitter类属于org.apache.hadoop.mapred.pipes包,在下文中一共展示了Submitter类的1个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于我们的系统推荐出更棒的Java代码示例。

示例1: runDebugScript

import org.apache.hadoop.mapred.pipes.Submitter; //导入依赖的package包/类
/**
 * Run the debug-script now. Because debug-script can be user code, we use
 * {@link TaskController} to execute the debug script.
 * 
 * @throws IOException
 */
private void runDebugScript() throws IOException {
  String taskStdout ="";
  String taskStderr ="";
  String taskSyslog ="";
  String jobConf = task.getJobFile();
  try {
    // get task's stdout file 
    taskStdout = FileUtil
        .makeShellPath(TaskLog.getRealTaskLogFileLocation(task.getTaskID(),
            task.isTaskCleanupTask(), TaskLog.LogName.STDOUT));
    // get task's stderr file
    taskStderr = FileUtil
        .makeShellPath(TaskLog.getRealTaskLogFileLocation(task.getTaskID(),
            task.isTaskCleanupTask(), TaskLog.LogName.STDERR));
    // get task's syslog file
    taskSyslog = FileUtil
        .makeShellPath(TaskLog.getRealTaskLogFileLocation(task.getTaskID(),
            task.isTaskCleanupTask(), TaskLog.LogName.SYSLOG));
  } catch(Exception e){
    LOG.warn("Exception finding task's stdout/err/syslog files", e);
  }
  File workDir = new File(lDirAlloc.getLocalPathToRead(
      TaskTracker.getLocalTaskDir(task.getUser(), task.getJobID()
          .toString(), task.getTaskID().toString(), task
          .isTaskCleanupTask())
          + Path.SEPARATOR + MRConstants.WORKDIR, localJobConf).toString());
  // Build the command  
  File stdout = TaskLog.getTaskLogFile(task.getTaskID(), task
      .isTaskCleanupTask(), TaskLog.LogName.DEBUGOUT);
  // add pipes program as argument if it exists.
  String program ="";
  String executable = Submitter.getExecutable(localJobConf);
  if ( executable != null) {
    try {
      program = new URI(executable).getFragment();
    } catch (URISyntaxException ur) {
      LOG.warn("Problem in the URI fragment for pipes executable");
    }     
  }
  String [] debug = debugCommand.split(" ");
  List<String> vargs = new ArrayList<String>();
  for (String component : debug) {
    vargs.add(component);
  }
  vargs.add(taskStdout);
  vargs.add(taskStderr);
  vargs.add(taskSyslog);
  vargs.add(jobConf);
  vargs.add(program);
  DebugScriptContext context = 
    new TaskController.DebugScriptContext();
  context.args = vargs;
  context.stdout = stdout;
  context.workDir = workDir;
  context.task = task;
  getTaskController().runDebugScript(context);
  // add the lines of debug out to diagnostics
  int num = localJobConf.getInt(MRJobConfig.TASK_DEBUGOUT_LINES, -1);
  addDiagnostics(FileUtil.makeShellPath(stdout), num, "DEBUG OUT");
}
 
开发者ID:rekhajoshm,项目名称:mapreduce-fork,代码行数:67,代码来源:TaskTracker.java



注:本文中的org.apache.hadoop.mapred.pipes.Submitter类示例整理自Github/MSDocs等源码及文档管理平台,相关代码片段筛选自各路编程大神贡献的开源项目,源码版权归原作者所有,传播和使用请参考对应项目的License;未经允许,请勿转载。


鲜花

握手

雷人

路过

鸡蛋
该文章已有0人参与评论

请发表评论

全部评论

专题导读
上一篇:
Java InputComponent类代码示例发布时间:2022-05-22
下一篇:
Java Interpreter类代码示例发布时间:2022-05-22
热门推荐
阅读排行榜

扫描微信二维码

查看手机版网站

随时了解更新最新资讯

139-2527-9053

在线客服(服务时间 9:00~18:00)

在线QQ客服
地址:深圳市南山区西丽大学城创智工业园
电邮:jeky_zhao#qq.com
移动电话:139-2527-9053

Powered by 互联科技 X3.4© 2001-2213 极客世界.|Sitemap