页面树结构

2017-11-09 ApacheCN 开源组织,第二期邀请成员活动,一起走的更远 : http://www.apachecn.org/member/209.html


MachineLearning 优酷地址 : http://i.youku.com/apachecn

转至元数据结尾
转至元数据起始

简述

hyphenation_decompounderdictionary_decompounder过滤器可以将许多德语中的复合词进行拆分。

两个过滤器都需要单词字典,可以按如下方式提供:

 

word_list

或一系列字,在令牌过滤器配置中内联指定

word_list_path

UTF-8编码文件的路径(绝对或相对于config目录),每行包含一个字。

Hyphenation decompounder(连词分解)

hyphenation_decompounder使用连字符语法来查找潜在的字词,然后对单词字典进行检查。 输出的token质量与您使用的语法文件的质量直接相关。 对于像德语这样的语言是非常适用的。 

基于XML的连字符语法文件可以在“ 对象格式化对象 (OFFO)Sourceforge”项目中找到。 目前仅支持FOP v1.2兼容连字符文件。 您可以直接下载offo-hyphenation_v1.2.zip并查看offo-hyphenation/hyph/目录。想了解更多可以去查看Apache FOP项目。

Dictionary decompounder(字典分解)

dictionary_decompounder使用强力方法与仅字典字典结合使用复合词中的子词。 它比连字符分解器慢得多,但可以作为检验字典质量的第一步。


Compound token filter parameters(复合词元过滤器参数)

以下参数可用于配置复合词元过滤器:

 

type

任何一个dictionary_decompounder或者是hyphenation_decompounder 。

word_list

包含用于单词字典的单词列表的数组。

word_list_path

单词字典的路径(绝对或相对于config目录)。

hyphenation_patterns_path

FOP XML连字符模式文件的路径(绝对或相对于config目录)。(当连词分解时需要配置)

min_word_size

最小字大小。 默认为5。

min_subword_size

最小子字大小。 默认为2。

max_subword_size

最大字大小。 默认为15。

only_longest_match

是否只包括最长的匹配子字。 默认为false

 

如下例所示:

index :
    analysis :
        analyzer :
            myAnalyzer2 :
                type : custom
                tokenizer : standard
                filter : [myTokenFilter1, myTokenFilter2]
        filter :
            myTokenFilter1 :
                type : dictionary_decompounder
                word_list: [one, two, three]
            myTokenFilter2 :
                type : hyphenation_decompounder
                word_list_path: path/to/words.txt
                hyphenation_patterns_path: path/to/fop.xml
                max_subword_size : 22

 

  • 无标签