Java DataSetIterator类代码示例

OGeek|极客世界-中国程序员成长平台 › 门户 › 编程› Java›Java编程经验

原作者: [db:作者] 来自: [db:来源] 收藏邀请

本文整理汇总了Java中org.deeplearning4j.datasets.iterator.DataSetIterator类的典型用法代码示例。如果您正苦于以下问题：Java DataSetIterator类的具体用法？Java DataSetIterator怎么用？Java DataSetIterator使用的例子？那么恭喜您, 这里精选的类代码示例或许可以为您提供帮助。

DataSetIterator类属于org.deeplearning4j.datasets.iterator包，在下文中一共展示了DataSetIterator类的8个代码示例，这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞，您的评价将有助于我们的系统推荐出更棒的Java代码示例。

示例1: evaluate

import org.deeplearning4j.datasets.iterator.DataSetIterator; //导入依赖的package包/类
@Override
   @SuppressWarnings("rawtypes")
   public Model evaluate()
   {
final Evaluation evaluation = new Evaluation(parameters.getOutputSize());
try
{
    final DataSetIterator iterator = new MnistDataSetIterator(100, 10000);
    while (iterator.hasNext())
    {
	final DataSet testingData = iterator.next();
	evaluation.eval(testingData.getLabels(), model.output(testingData.getFeatureMatrix()));
    }

    System.out.println(evaluation.stats());
}
catch (IOException e)
{
    e.printStackTrace();
}
return this;
   }

开发者ID:amrabed，项目名称:DL4J，代码行数:23，代码来源:StackedAutoEncoderModel.java

示例2: train

import org.deeplearning4j.datasets.iterator.DataSetIterator; //导入依赖的package包/类
@Override
   public Model train()
   {
final DataSetIterator iterator = data.getIterator();
while (iterator.hasNext())
{
    DataSet next = iterator.next();
    model.fit(new DataSet(next.getFeatureMatrix(), next.getFeatureMatrix()));
}
return this;
   }

开发者ID:amrabed，项目名称:DL4J，代码行数:12，代码来源:DeepAutoEncoderModel.java

示例3: main

import org.deeplearning4j.datasets.iterator.DataSetIterator; //导入依赖的package包/类
public static void main(String[] args) throws Exception {
		final int numRows = 28;
		final int numColumns = 28;
		int outputNum = 10;
		int numSamples = 60000;
		int batchSize = 100;
		int iterations = 10;
		int seed = 123;
		int listenerFreq = batchSize / 5;

		log.info("Load data....");
		DataSetIterator iter = new MnistDataSetIterator(batchSize, numSamples,
				true);

		log.info("Build model....");
		 MultiLayerNetwork model = softMaxRegression(seed, iterations, numRows, numColumns, outputNum);
//		// MultiLayerNetwork model = deepBeliefNetwork(seed, iterations,
//		// numRows, numColumns, outputNum);
//		MultiLayerNetwork model = deepConvNetwork(seed, iterations, numRows,
//				numColumns, outputNum);

		model.init();
		model.setListeners(Collections
				.singletonList((IterationListener) new ScoreIterationListener(
						listenerFreq)));

		log.info("Train model....");
		model.fit(iter); // achieves end to end pre-training

		log.info("Evaluate model....");
		Evaluation eval = new Evaluation(outputNum);

		DataSetIterator testIter = new MnistDataSetIterator(100, 10000);
		while (testIter.hasNext()) {
			DataSet testMnist = testIter.next();
			INDArray predict2 = model.output(testMnist.getFeatureMatrix());
			eval.eval(testMnist.getLabels(), predict2);
		}

		log.info(eval.stats());
		log.info("****************Example finished********************");

	}

开发者ID:PacktPublishing，项目名称:Machine-Learning-End-to-Endguide-for-Java-developers，代码行数:44，代码来源:NeuralNetworks.java

示例4: main

import org.deeplearning4j.datasets.iterator.DataSetIterator; //导入依赖的package包/类
public static void main(String[] args) throws Exception {
     // final int numRows = 28;
     // final int numColumns = 28;
      int outputNum = 10;
int inputNum = 1000;
      int numSamples = 60000;
      int batchSize = 1024;
      int iterations = 10;
      int seed = 123;
      int listenerFreq = batchSize / 5;

      log.info("Load data....");
      DataSetIterator iter = new MnistDataSetIterator(batchSize,numSamples,true);

      log.info("Build model....");
      MultiLayerConfiguration conf = new NeuralNetConfiguration.Builder()
         .seed(seed)
         .gradientNormalization(GradientNormalization.ClipElementWiseAbsoluteValue)
         .gradientNormalizationThreshold(1.0)
         .iterations(iterations)
         .momentum(0.5)
         .momentumAfter(Collections.singletonMap(3, 0.9))
         .optimizationAlgo(OptimizationAlgorithm.CONJUGATE_GRADIENT)
         .list()
   .layer(0, new AutoEncoder.Builder()
		   .nIn(inputNum)
		   .nOut(500)
                 .weightInit(WeightInit.XAVIER).lossFunction(LossFunction.RMSE_XENT)
                 .corruptionLevel(0.3)
                 .build())
         .layer(1, new AutoEncoder.Builder()
                .nIn(500)
				.nOut(250)
                      .weightInit(WeightInit.XAVIER).lossFunction(LossFunction.RMSE_XENT)
                      .corruptionLevel(0.3)
                      .build())
         .layer(2, new AutoEncoder.Builder()
                .nIn(250)
				.nOut(125)
                      .weightInit(WeightInit.XAVIER).lossFunction(LossFunction.RMSE_XENT)
                      .corruptionLevel(0.3)
                      .build())
   .layer(3, new AutoEncoder.Builder()
                .nIn(125)
				.nOut(50)
                      .weightInit(WeightInit.XAVIER).lossFunction(LossFunction.RMSE_XENT)
                      .corruptionLevel(0.3)
                      .build())
         .layer(4, new OutputLayer.Builder(LossFunction.NEGATIVELOGLIKELIHOOD)
                .activation("softmax")
                      .nIn(75)
				.nOut(outputNum)
				.build())
         .pretrain(true)
   .backprop(false)
         .build();

      MultiLayerNetwork model = new MultiLayerNetwork(conf);
      model.init();
      model.setListeners(Arrays.asList((IterationListener) new ScoreIterationListener(listenerFreq)));

      log.info("Train model....");
      model.fit(iter); 

      log.info("Evaluate model....");
      Evaluation eval = new Evaluation(outputNum);

      DataSetIterator testIter = new MnistDataSetIterator(100,10000);
      while(testIter.hasNext()) {
          DataSet testMnist = testIter.next();
          INDArray predict2 = model.output(testMnist.getFeatureMatrix());
          eval.eval(testMnist.getLabels(), predict2);
      }

      log.info(eval.stats());

  }

开发者ID:PacktPublishing，项目名称:Deep-Learning-with-Hadoop，代码行数:78，代码来源:StackedAutoEncoder.java

示例5: main

import org.deeplearning4j.datasets.iterator.DataSetIterator; //导入依赖的package包/类
public static void main(String[] args) throws IOException {
     
    Nd4j.MAX_SLICES_TO_PRINT = -1;
    Nd4j.MAX_ELEMENTS_PER_SLICE = -1;
    Nd4j.ENFORCE_NUMERICAL_STABILITY = true;
    final int numRows = 4;
    final int numColumns = 1;
    int outputNum = 10;
    int numSamples = 150;
    int batchSize = 150;
    int iterations = 100;
    int seed = 123;
    int listenerFreq = iterations/2;

    log.info("Load data....");
    DataSetIterator iter = new IrisDataSetIterator(batchSize, numSamples);
    
    DataSet iris = iter.next();

    iris.normalizeZeroMeanZeroUnitVariance();

    log.info("Build model....");
    NeuralNetConfiguration conf = new NeuralNetConfiguration.Builder().regularization(true)
            .miniBatch(true)
           
            .layer(new RBM.Builder().l2(1e-1).l1(1e-3)
                    .nIn(numRows * numColumns)  
                    .nOut(outputNum) 
                    .activation("relu")  
                    .weightInit(WeightInit.RELU)  
                    .lossFunction(LossFunctions.LossFunction.RECONSTRUCTION_CROSSENTROPY).k(3)
                    .hiddenUnit(HiddenUnit.RECTIFIED).visibleUnit(VisibleUnit.GAUSSIAN)
                    .updater(Updater.ADAGRAD).gradientNormalization(GradientNormalization.ClipL2PerLayer)
                    .build())
            .seed(seed)  
            .iterations(iterations)
            .learningRate(1e-3)  
            .optimizationAlgo(OptimizationAlgorithm.LBFGS)
            .build();
    Layer model = LayerFactories.getFactory(conf.getLayer()).create(conf);
    model.setListeners(new ScoreIterationListener(listenerFreq));

    log.info("Evaluate weights....");
    INDArray w = model.getParam(DefaultParamInitializer.WEIGHT_KEY);
    log.info("Weights: " + w);
    log.info("Scaling the dataset");
    iris.scale();
    log.info("Train model....");
    for(int i = 0; i < 20; i++) {
        log.info("Epoch "+i+":");
        model.fit(iris.getFeatureMatrix());
    }

}

开发者ID:PacktPublishing，项目名称:Deep-Learning-with-Hadoop，代码行数:55，代码来源:RBM.java

示例6: getIterator

import org.deeplearning4j.datasets.iterator.DataSetIterator; //导入依赖的package包/类
public DataSetIterator getIterator()
   {
return iterator;
   }

开发者ID:amrabed，项目名称:DL4J，代码行数:5，代码来源:Data.java

示例7: main

import org.deeplearning4j.datasets.iterator.DataSetIterator; //导入依赖的package包/类
public static void main(String[] args) throws Exception {
    SentenceIterator docIter = new CollectionSentenceIterator(new SentenceToPhraseMapper(new ClassPathResource("/train.tsv").getFile()).sentences());
    TokenizerFactory factory = new DefaultTokenizerFactory();
    Word2Vec  vec = new Word2Vec.Builder().iterate(docIter).tokenizerFactory(factory).batchSize(100000)
            .learningRate(2.5e-2).iterations(1)
            .layerSize(100).windowSize(5).build();
    vec.fit();

    NeuralNetConfiguration conf = new NeuralNetConfiguration.Builder().nIn(vec.getLayerSize()).nOut(vec.getLayerSize())
            .hiddenUnit(RBM.HiddenUnit.RECTIFIED).visibleUnit(RBM.VisibleUnit.GAUSSIAN).momentum(0.5f)
            .iterations(10).learningRate(1e-6f).build();

    InMemoryLookupCache l = (InMemoryLookupCache) vec.getCache();

    DBN d = new DBN.Builder()
            .configure(conf).hiddenLayerSizes(new int[]{250,100,2})
            .build();
    DataSet dPretrain = new DataSet(l.getSyn0(),l.getSyn0());
    DataSetIterator dPretrainIter =  new ListDataSetIterator(dPretrain.asList(),1000);
    while(dPretrainIter.hasNext()) {
        d.pretrain(dPretrainIter.next().getFeatureMatrix(), 1, 1e-6f, 10);


    }

    // d.pretrain(l.getSyn0(),1,1e-3f,1000);
    d.getOutputLayer().conf().setLossFunction(LossFunctions.LossFunction.RMSE_XENT);

    SemanticHashing s = new SemanticHashing.Builder().withEncoder(d)
            .build();

    d = null;

    dPretrainIter.reset();
    while(dPretrainIter.hasNext()) {
        s.fit(dPretrainIter.next());

    }




    Tsne t = new Tsne.Builder()
            .setMaxIter(100).stopLyingIteration(20).build();

    INDArray output = s.reconstruct(l.getSyn0(),4);
    l.getSyn0().data().flush();
    l.getSyn1().data().flush();
    s = null;
    System.out.println(Arrays.toString(output.shape()));
    t.plot(output,2,new ArrayList<>(vec.getCache().words()));
    vec.getCache().plotVocab(t);

}

开发者ID:ihuerga，项目名称:deeplearning4j-nlp-examples，代码行数:55，代码来源:VisualizationSemanticHashing.java

示例8: main

import org.deeplearning4j.datasets.iterator.DataSetIterator; //导入依赖的package包/类
public static void main(String[] args) {
    DataSetIterator iter = new MultipleEpochsIterator(1,new RottenTomatoesTrainDataSetIterator(800,800,new RottenTomatoesWordVectorDataFetcher()));
    NeuralNetConfiguration conf = new NeuralNetConfiguration.Builder().nIn(iter.inputColumns()).hiddenUnit(RBM.HiddenUnit.RECTIFIED)
            .visibleUnit(RBM.VisibleUnit.GAUSSIAN).iterations(10).momentum(0.5f)
            .nOut(5).activationFunction(Activations.hardTanh()).learningRate(1e-6f).regularization(true)
            .l2(2e-4f).build();
    ActorNetworkRunner runner = new ActorNetworkRunner(iter);


    Conf c = new Conf();
    c.setConf(conf);
    c.setMultiLayerClazz(DBN.class);
    c.setLayerConfigs();
    c.setSplit(100);
    c.getLayerConfigs().get(c.getLayerConfigs().size() - 1).setActivationFunction(Activations.softMaxRows());
    c.getLayerConfigs().get(c.getLayerConfigs().size() - 1).setLossFunction(LossFunctions.LossFunction.MCXENT);

    c.setLayerSizes(new int[]{1000,500});

    runner.setup(c);
    runner.train();







}

开发者ID:ihuerga，项目名称:deeplearning4j-nlp-examples，代码行数:30，代码来源:MovingWindowDBN.java

注：本文中的org.deeplearning4j.datasets.iterator.DataSetIterator类示例整理自Github/MSDocs等源码及文档管理平台，相关代码片段筛选自各路编程大神贡献的开源项目，源码版权归原作者所有，传播和使用请参考对应项目的License；未经允许，请勿转载。

鲜花

握手

雷人

路过

鸡蛋

该文章已有0人参与评论

请发表评论

全部评论

专题导读

More+

10-27 六六分期app的软件客服如何联系？(六六分期

11-06 可心卡盟:win10系统火狐flash插件崩溃怎么

11-06 亲亲特价:怎么删除回收站图标

11-06 济南大学虚拟社区:鲁大师节能降温的具体办

11-06 xlueops.exe:无线网络安装向导

11-06 女斗合众国:win7系统cf与主机连接不稳定怎

11-06 0xc000022-[cf烟雾头]cf怎么调烟雾头

11-06 qizideyouhuo:应用程序无法正常启动0xc0000

11-06 ipz-185:win7系统vcf文件怎么打开

11-06 傻哥蹦迪:win10系统s4怎么打开usb调试

11-06 八神浩树gtaste:回收站清空了怎么恢复

11-06 妖尾之黑色守护:win10系统电脑没有1440x900

11-06 校园至尊魔王小说:win7系统浏览网页时字体

11-06 女斗合众国:win10系统访问共享文件夹提示请

11-06 tokyo hot n0654:恢复win7系统默认字体一招

11-06 雨酷仙境:设置win7系统转移临时文件夹腾出

11-06 阿穆纳伊之杖:win7系统开始菜单在右边还原

11-06 tunespotting:win10系统火狐flash插件总是

11-06 甘尔葛分析师：计谋网站seo关键词暴涨有什

11-06 蔡贵霖: 计谋网站seo关键词暴涨有什么秘密

11-06 博益网首页:ao3网页版进入不了解决方法

11-06 漏斗子专栏: 网站数据分析小白易懂精华篇

11-06 见证双虹怎么做:win7系统开启telnet命令的

11-06 颾狐蝶蜋:系统资源不足无法完成请求的服务

11-06 国光中学校歌:提交网站到alexa查询详细步骤

11-06 西安有情天:静态网页和动态网页的区别

11-06 红木雅尚斋:外部链接构造对网站的好处

11-06 前官礼遇：防止域名劫持–增强域安全性的10

11-06 密传二转答案: 中文分词算法有哪些

11-06 金泉家园邮编:百度快照劫持的表现及应对方

Java UiChild类代码示例发布时间：2022-05-22

Java FlowEvent类代码示例发布时间：2022-05-22

剪的笔顺,诠释剪的笔画,认识剪的部首

1 六六分期app的软件客服如何联系？(六六分期

六六分期app的软件客服如何联系？不知道吗？加qq群【895510560】即可！标题：六六分期

阅读：18149|2023-10-27

2 可心卡盟:win10系统火狐flash插件崩溃怎么

今天小编告诉大家如何处理win10系统火狐flash插件总是崩溃的问题，可能很多用户都不知

阅读：9635|2022-11-06

3 亲亲特价:怎么删除回收站图标

今天小编告诉大家如何对win10系统删除桌面回收站图标进行设置，可能很多用户都不知道

阅读：8161|2022-11-06

4 济南大学虚拟社区:鲁大师节能降温的具体办

今天小编告诉大家如何对win10系统电脑设置节能降温的设置方法，想必大家都遇到过需要

阅读：8538|2022-11-06

5 xlueops.exe:无线网络安装向导

我们在使用xp系统的过程中,经常需要对xp系统无线网络安装向导设置进行设置，可能很多

阅读：8440|2022-11-06

6 女斗合众国:win7系统cf与主机连接不稳定怎

今天小编告诉大家如何处理win7系统玩cf老是与主机连接不稳定的问题，可能很多用户都不

阅读：9360|2022-11-06

7 0xc000022-[cf烟雾头]cf怎么调烟雾头

电脑对日常生活的重要性小编就不多说了，可是一旦碰到win7系统设置cf烟雾头的问题，很

阅读：8410|2022-11-06

8 qizideyouhuo:应用程序无法正常启动0xc0000

我们在日常使用电脑的时候，有的小伙伴们可能在打开应用的时候会遇见提示应用程序无法

阅读：7848|2022-11-06

9 ipz-185:win7系统vcf文件怎么打开

今天小编告诉大家如何对win7系统打开vcf文件进行设置，可能很多用户都不知道怎么对win

阅读：8395|2022-11-06

10 傻哥蹦迪:win10系统s4怎么打开usb调试

今天小编告诉大家如何对win10系统s4开启USB调试模式进行设置，可能很多用户都不知道怎

阅读：7387|2022-11-06

客服电话

电子邮件

Java DataSetIterator类代码示例

示例1: evaluate

示例2: train

示例3: main

示例4: main

示例5: main

示例6: getIterator

示例7: main

示例8: main

请发表评论

全部评论

上一篇：

下一篇：

PacktPublishing/Python-Machine-Learning-

MATLAB——文件读写（1）

armancodv/building-energy-model-matlab:

鲁东大学一米网:Win7系统USB驱动器RAM的操

FGRibreau/import-tweets-to-mastodon: How

剪的笔顺,诠释剪的笔画,认识剪的部首

六六分期app的软件客服如何联系？(六六分期

florent37/ViewAnimator: A fluent Android

florent37/Shrine-MaterialDesign2: implem

CVE-2020-36276

SimpleSoftwareIO/simple-sms: Send and re

关于我们

产品与服务

解决方案

139-2527-9053