Java LetterTokenizer类代码示例

OGeek|极客世界-中国程序员成长平台 › 门户 › 编程› Java›Java编程经验

原作者: [db:作者] 来自: [db:来源] 收藏邀请

本文整理汇总了Java中org.apache.lucene.analysis.core.LetterTokenizer类的典型用法代码示例。如果您正苦于以下问题：Java LetterTokenizer类的具体用法？Java LetterTokenizer怎么用？Java LetterTokenizer使用的例子？那么恭喜您, 这里精选的类代码示例或许可以为您提供帮助。

LetterTokenizer类属于org.apache.lucene.analysis.core包，在下文中一共展示了LetterTokenizer类的10个代码示例，这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞，您的评价将有助于我们的系统推荐出更棒的Java代码示例。

示例1: main

import org.apache.lucene.analysis.core.LetterTokenizer; //导入依赖的package包/类
public static void main(String[] args) throws IOException {
	System.out.println(NumberUtils.isDigits("12345"));
	System.out.println(NumberUtils.isDigits("12345.1"));
	System.out.println(NumberUtils.isDigits("12345,2"));
	
	System.out.println(NumberUtils.isNumber("12345"));
	System.out.println(NumberUtils.isNumber("12345.1"));
	System.out.println(NumberUtils.isNumber("12345,2".replace(",", ".")));
	System.out.println(NumberUtils.isNumber("12345,2"));
	StringReader input = new StringReader(
			"Правя тест на класификатор и после др.Дулитъл, пада.br2n ще се оправя с данните! които,са много зле. Но това е по-добре. Но24"
					.replaceAll("br2n", ""));

	LetterTokenizer tokenizer = new LetterTokenizer();
	tokenizer.setReader(input);

	TokenFilter stopFilter = new StopFilter(tokenizer, BULGARIAN_STOP_WORDS_SET);
	TokenFilter length = new LengthFilter(stopFilter, 3, 1000);
	TokenFilter stemmer = new BulgarianStemFilter(length);
	TokenFilter ngrams = new ShingleFilter(stemmer, 2, 2);

	try (TokenFilter filter = ngrams) {

		Attribute termAtt = filter.addAttribute(CharTermAttribute.class);
		filter.reset();
		while (filter.incrementToken()) {
			String word = termAtt.toString().replaceAll(",", "\\.").replaceAll("\n|\r", "");
			System.out.println(word);
		}
	}
}

开发者ID:mhardalov，项目名称:news-credibility，代码行数:32，代码来源:EgdeMain.java

示例2: testCrossPlaneNormalization

import org.apache.lucene.analysis.core.LetterTokenizer; //导入依赖的package包/类
public void testCrossPlaneNormalization() throws IOException {
  Analyzer analyzer = new Analyzer() {
    @Override
    protected TokenStreamComponents createComponents(String fieldName, Reader reader) {
      Tokenizer tokenizer = new LetterTokenizer(newAttributeFactory(), reader) {
        @Override
        protected int normalize(int c) {
          if (c > 0xffff) {
            return 'δ';
          } else {
            return c;
          }
        }
      };
      return new TokenStreamComponents(tokenizer, tokenizer);
    }
  };
  int num = 1000 * RANDOM_MULTIPLIER;
  for (int i = 0; i < num; i++) {
    String s = TestUtil.randomUnicodeString(random());
    TokenStream ts = analyzer.tokenStream("foo", s);
    try {
      ts.reset();
      OffsetAttribute offsetAtt = ts.addAttribute(OffsetAttribute.class);
      while (ts.incrementToken()) {
        String highlightedText = s.substring(offsetAtt.startOffset(), offsetAtt.endOffset());
        for (int j = 0, cp = 0; j < highlightedText.length(); j += Character.charCount(cp)) {
          cp = highlightedText.codePointAt(j);
          assertTrue("non-letter:" + Integer.toHexString(cp), Character.isLetter(cp));
        }
      }
      ts.end();
    } finally {
      IOUtils.closeWhileHandlingException(ts);
    }
  }
  // just for fun
  checkRandomData(random(), analyzer, num);
}

开发者ID:europeana，项目名称:search，代码行数:40，代码来源:TestCharTokenizers.java

示例3: testCrossPlaneNormalization2

import org.apache.lucene.analysis.core.LetterTokenizer; //导入依赖的package包/类
public void testCrossPlaneNormalization2() throws IOException {
  Analyzer analyzer = new Analyzer() {
    @Override
    protected TokenStreamComponents createComponents(String fieldName, Reader reader) {
      Tokenizer tokenizer = new LetterTokenizer(newAttributeFactory(), reader) {
        @Override
        protected int normalize(int c) {
          if (c <= 0xffff) {
            return 0x1043C;
          } else {
            return c;
          }
        }
      };
      return new TokenStreamComponents(tokenizer, tokenizer);
    }
  };
  int num = 1000 * RANDOM_MULTIPLIER;
  for (int i = 0; i < num; i++) {
    String s = TestUtil.randomUnicodeString(random());
    TokenStream ts = analyzer.tokenStream("foo", s);
    try {
      ts.reset();
      OffsetAttribute offsetAtt = ts.addAttribute(OffsetAttribute.class);
      while (ts.incrementToken()) {
        String highlightedText = s.substring(offsetAtt.startOffset(), offsetAtt.endOffset());
        for (int j = 0, cp = 0; j < highlightedText.length(); j += Character.charCount(cp)) {
          cp = highlightedText.codePointAt(j);
          assertTrue("non-letter:" + Integer.toHexString(cp), Character.isLetter(cp));
        }
      }
      ts.end();
    } finally {
      IOUtils.closeWhileHandlingException(ts);
    }
  }
  // just for fun
  checkRandomData(random(), analyzer, num);
}

开发者ID:europeana，项目名称:search，代码行数:40，代码来源:TestCharTokenizers.java

示例4: testCrossPlaneNormalization

import org.apache.lucene.analysis.core.LetterTokenizer; //导入依赖的package包/类
public void testCrossPlaneNormalization() throws IOException {
  Analyzer analyzer = new Analyzer() {
    @Override
    protected TokenStreamComponents createComponents(String fieldName, Reader reader) {
      Tokenizer tokenizer = new LetterTokenizer(TEST_VERSION_CURRENT, reader) {
        @Override
        protected int normalize(int c) {
          if (c > 0xffff) {
            return 'δ';
          } else {
            return c;
          }
        }
      };
      return new TokenStreamComponents(tokenizer, tokenizer);
    }
  };
  int num = 1000 * RANDOM_MULTIPLIER;
  for (int i = 0; i < num; i++) {
    String s = _TestUtil.randomUnicodeString(random());
    TokenStream ts = analyzer.tokenStream("foo", new StringReader(s));
    ts.reset();
    OffsetAttribute offsetAtt = ts.addAttribute(OffsetAttribute.class);
    while (ts.incrementToken()) {
      String highlightedText = s.substring(offsetAtt.startOffset(), offsetAtt.endOffset());
      for (int j = 0, cp = 0; j < highlightedText.length(); j += Character.charCount(cp)) {
        cp = highlightedText.codePointAt(j);
        assertTrue("non-letter:" + Integer.toHexString(cp), Character.isLetter(cp));
      }
    }
    ts.end();
    ts.close();
  }
  // just for fun
  checkRandomData(random(), analyzer, num);
}

开发者ID:pkarmstr，项目名称:NYBC，代码行数:37，代码来源:TestCharTokenizers.java

示例5: testCrossPlaneNormalization2

import org.apache.lucene.analysis.core.LetterTokenizer; //导入依赖的package包/类
public void testCrossPlaneNormalization2() throws IOException {
  Analyzer analyzer = new Analyzer() {
    @Override
    protected TokenStreamComponents createComponents(String fieldName, Reader reader) {
      Tokenizer tokenizer = new LetterTokenizer(TEST_VERSION_CURRENT, reader) {
        @Override
        protected int normalize(int c) {
          if (c <= 0xffff) {
            return 0x1043C;
          } else {
            return c;
          }
        }
      };
      return new TokenStreamComponents(tokenizer, tokenizer);
    }
  };
  int num = 1000 * RANDOM_MULTIPLIER;
  for (int i = 0; i < num; i++) {
    String s = _TestUtil.randomUnicodeString(random());
    TokenStream ts = analyzer.tokenStream("foo", new StringReader(s));
    ts.reset();
    OffsetAttribute offsetAtt = ts.addAttribute(OffsetAttribute.class);
    while (ts.incrementToken()) {
      String highlightedText = s.substring(offsetAtt.startOffset(), offsetAtt.endOffset());
      for (int j = 0, cp = 0; j < highlightedText.length(); j += Character.charCount(cp)) {
        cp = highlightedText.codePointAt(j);
        assertTrue("non-letter:" + Integer.toHexString(cp), Character.isLetter(cp));
      }
    }
    ts.end();
    ts.close();
  }
  // just for fun
  checkRandomData(random(), analyzer, num);
}

开发者ID:pkarmstr，项目名称:NYBC，代码行数:37，代码来源:TestCharTokenizers.java

示例6: testCrossPlaneNormalization

import org.apache.lucene.analysis.core.LetterTokenizer; //导入依赖的package包/类
public void testCrossPlaneNormalization() throws IOException {
  Analyzer analyzer = new Analyzer() {
    @Override
    protected TokenStreamComponents createComponents(String fieldName, Reader reader) {
      Tokenizer tokenizer = new LetterTokenizer(TEST_VERSION_CURRENT, reader) {
        @Override
        protected int normalize(int c) {
          if (c > 0xffff) {
            return 'δ';
          } else {
            return c;
          }
        }
      };
      return new TokenStreamComponents(tokenizer, tokenizer);
    }
  };
  int num = 1000 * RANDOM_MULTIPLIER;
  for (int i = 0; i < num; i++) {
    String s = _TestUtil.randomUnicodeString(random());
    TokenStream ts = analyzer.tokenStream("foo", s);
    try {
      ts.reset();
      OffsetAttribute offsetAtt = ts.addAttribute(OffsetAttribute.class);
      while (ts.incrementToken()) {
        String highlightedText = s.substring(offsetAtt.startOffset(), offsetAtt.endOffset());
        for (int j = 0, cp = 0; j < highlightedText.length(); j += Character.charCount(cp)) {
          cp = highlightedText.codePointAt(j);
          assertTrue("non-letter:" + Integer.toHexString(cp), Character.isLetter(cp));
        }
      }
      ts.end();
    } finally {
      IOUtils.closeWhileHandlingException(ts);
    }
  }
  // just for fun
  checkRandomData(random(), analyzer, num);
}

开发者ID:jimaguere，项目名称:Maskana-Gestor-de-Conocimiento，代码行数:40，代码来源:TestCharTokenizers.java

示例7: testCrossPlaneNormalization2

import org.apache.lucene.analysis.core.LetterTokenizer; //导入依赖的package包/类
public void testCrossPlaneNormalization2() throws IOException {
  Analyzer analyzer = new Analyzer() {
    @Override
    protected TokenStreamComponents createComponents(String fieldName, Reader reader) {
      Tokenizer tokenizer = new LetterTokenizer(TEST_VERSION_CURRENT, reader) {
        @Override
        protected int normalize(int c) {
          if (c <= 0xffff) {
            return 0x1043C;
          } else {
            return c;
          }
        }
      };
      return new TokenStreamComponents(tokenizer, tokenizer);
    }
  };
  int num = 1000 * RANDOM_MULTIPLIER;
  for (int i = 0; i < num; i++) {
    String s = _TestUtil.randomUnicodeString(random());
    TokenStream ts = analyzer.tokenStream("foo", s);
    try {
      ts.reset();
      OffsetAttribute offsetAtt = ts.addAttribute(OffsetAttribute.class);
      while (ts.incrementToken()) {
        String highlightedText = s.substring(offsetAtt.startOffset(), offsetAtt.endOffset());
        for (int j = 0, cp = 0; j < highlightedText.length(); j += Character.charCount(cp)) {
          cp = highlightedText.codePointAt(j);
          assertTrue("non-letter:" + Integer.toHexString(cp), Character.isLetter(cp));
        }
      }
      ts.end();
    } finally {
      IOUtils.closeWhileHandlingException(ts);
    }
  }
  // just for fun
  checkRandomData(random(), analyzer, num);
}

开发者ID:jimaguere，项目名称:Maskana-Gestor-de-Conocimiento，代码行数:40，代码来源:TestCharTokenizers.java

示例8: create

import org.apache.lucene.analysis.core.LetterTokenizer; //导入依赖的package包/类
@Override
public Tokenizer create() {
    return new LetterTokenizer();
}

开发者ID:justor，项目名称:elasticsearch_my，代码行数:5，代码来源:LetterTokenizerFactory.java

示例9: create

import org.apache.lucene.analysis.core.LetterTokenizer; //导入依赖的package包/类
@Override
public LetterTokenizer create(Reader input) {
  return new LetterTokenizer(luceneMatchVersion, input);
}

开发者ID:pkarmstr，项目名称:NYBC，代码行数:5，代码来源:LetterTokenizerFactory.java

示例10: tokenStream

import org.apache.lucene.analysis.core.LetterTokenizer; //导入依赖的package包/类
@Override
public TokenStream tokenStream(String fieldName, Reader reader) {
    return new MetaphoneReplacementFilter(new LetterTokenizer(reader));
}

开发者ID:xuzhikethinker，项目名称:t4f-data，代码行数:5，代码来源:MetaphoneReplacementAnalyzer.java

注：本文中的org.apache.lucene.analysis.core.LetterTokenizer类示例整理自Github/MSDocs等源码及文档管理平台，相关代码片段筛选自各路编程大神贡献的开源项目，源码版权归原作者所有，传播和使用请参考对应项目的License；未经允许，请勿转载。

鲜花

握手

雷人

路过

鸡蛋

该文章已有0人参与评论

请发表评论

全部评论

专题导读

More+

10-27 六六分期app的软件客服如何联系？(六六分期

11-06 可心卡盟:win10系统火狐flash插件崩溃怎么

11-06 亲亲特价:怎么删除回收站图标

11-06 济南大学虚拟社区:鲁大师节能降温的具体办

11-06 xlueops.exe:无线网络安装向导

11-06 女斗合众国:win7系统cf与主机连接不稳定怎

11-06 0xc000022-[cf烟雾头]cf怎么调烟雾头

11-06 qizideyouhuo:应用程序无法正常启动0xc0000

11-06 ipz-185:win7系统vcf文件怎么打开

11-06 傻哥蹦迪:win10系统s4怎么打开usb调试

11-06 八神浩树gtaste:回收站清空了怎么恢复

11-06 妖尾之黑色守护:win10系统电脑没有1440x900

11-06 校园至尊魔王小说:win7系统浏览网页时字体

11-06 女斗合众国:win10系统访问共享文件夹提示请

11-06 tokyo hot n0654:恢复win7系统默认字体一招

11-06 雨酷仙境:设置win7系统转移临时文件夹腾出

11-06 阿穆纳伊之杖:win7系统开始菜单在右边还原

11-06 tunespotting:win10系统火狐flash插件总是

11-06 甘尔葛分析师：计谋网站seo关键词暴涨有什

11-06 蔡贵霖: 计谋网站seo关键词暴涨有什么秘密

11-06 博益网首页:ao3网页版进入不了解决方法

11-06 漏斗子专栏: 网站数据分析小白易懂精华篇

11-06 见证双虹怎么做:win7系统开启telnet命令的

11-06 颾狐蝶蜋:系统资源不足无法完成请求的服务

11-06 国光中学校歌:提交网站到alexa查询详细步骤

11-06 西安有情天:静态网页和动态网页的区别

11-06 红木雅尚斋:外部链接构造对网站的好处

11-06 前官礼遇：防止域名劫持–增强域安全性的10

11-06 密传二转答案: 中文分词算法有哪些

11-06 金泉家园邮编:百度快照劫持的表现及应对方

Java LineSeparator类代码示例发布时间：2022-05-22

Java OrderedBytes类代码示例发布时间：2022-05-22

剪的笔顺,诠释剪的笔画,认识剪的部首

1 六六分期app的软件客服如何联系？(六六分期

六六分期app的软件客服如何联系？不知道吗？加qq群【895510560】即可！标题：六六分期

阅读：18273|2023-10-27

2 可心卡盟:win10系统火狐flash插件崩溃怎么

今天小编告诉大家如何处理win10系统火狐flash插件总是崩溃的问题，可能很多用户都不知

阅读：9677|2022-11-06

3 亲亲特价:怎么删除回收站图标

今天小编告诉大家如何对win10系统删除桌面回收站图标进行设置，可能很多用户都不知道

阅读：8179|2022-11-06

4 济南大学虚拟社区:鲁大师节能降温的具体办

今天小编告诉大家如何对win10系统电脑设置节能降温的设置方法，想必大家都遇到过需要

阅读：8549|2022-11-06

5 xlueops.exe:无线网络安装向导

我们在使用xp系统的过程中,经常需要对xp系统无线网络安装向导设置进行设置，可能很多

阅读：8457|2022-11-06

6 女斗合众国:win7系统cf与主机连接不稳定怎

今天小编告诉大家如何处理win7系统玩cf老是与主机连接不稳定的问题，可能很多用户都不

阅读：9393|2022-11-06

7 0xc000022-[cf烟雾头]cf怎么调烟雾头

电脑对日常生活的重要性小编就不多说了，可是一旦碰到win7系统设置cf烟雾头的问题，很

阅读：8430|2022-11-06

8 qizideyouhuo:应用程序无法正常启动0xc0000

我们在日常使用电脑的时候，有的小伙伴们可能在打开应用的时候会遇见提示应用程序无法

阅读：7865|2022-11-06

9 ipz-185:win7系统vcf文件怎么打开

今天小编告诉大家如何对win7系统打开vcf文件进行设置，可能很多用户都不知道怎么对win

阅读：8415|2022-11-06

10 傻哥蹦迪:win10系统s4怎么打开usb调试

今天小编告诉大家如何对win10系统s4开启USB调试模式进行设置，可能很多用户都不知道怎

阅读：7394|2022-11-06

客服电话

电子邮件

Java LetterTokenizer类代码示例

示例1: main

示例2: testCrossPlaneNormalization

示例3: testCrossPlaneNormalization2

示例4: testCrossPlaneNormalization

示例5: testCrossPlaneNormalization2

示例6: testCrossPlaneNormalization

示例7: testCrossPlaneNormalization2

示例8: create

示例9: create

示例10: tokenStream

请发表评论

全部评论

上一篇：

下一篇：

librespeed/speedtest: Self-hosted Speedt

avehtari/BDA_m_demos: Bayesian Data Anal

四维彩超怎么看性别？四维看男孩女孩诀窍

medfreeman/markdown-it-toc-and-anchor: m

Matlab如何循环读取文件

剪的笔顺,诠释剪的笔画,认识剪的部首

六六分期app的软件客服如何联系？(六六分期

florent37/ViewAnimator: A fluent Android

florent37/Shrine-MaterialDesign2: implem

CVE-2020-36276

SimpleSoftwareIO/simple-sms: Send and re

关于我们

产品与服务

解决方案

139-2527-9053