Lucene中的动态摘要

jopen 10年前

Lucene扩展中有一个HighLighter自动摘要的包。

通过调用:getBestFragments 返回一个或多个和搜索关键词最相关的段落。

Fragmenter 把文本分成多个段落。

QueryScorer 计算每个段落的分值。QueryScorer只应该包含需要做高量显示的Term。

TokenStream 通 过IndexReader中的位置信息来返回一个TokenStream,而不要再次分词处理原文后返回TokenStream。如果 IndexReader中的Token位置有重叠,为了把冗余的Token去掉,TokenStream计算起来会麻烦一些。

Highlighter highlighter =new Highlighter(this,new QueryScorer(query));    highlighter.setTextFragmenter(new SimpleFragmenter(40));    for (int i = 0; i < hits.length(); i++)    {     String text = hits.doc(i).get(FIELD_NAME);     int maxNumFragmentsRequired = 2;     String fragmentSeparator = "...";     TermPositionVector tpv = (TermPositionVector)reader.getTermFreqVector(hits.id(i),FIELD_NAME);     TokenStream tokenStream=TokenSources.getSingleTokenStream(tpv,true);     String result =highlighter.getBestFragment(tokenStream,text);     System.out.println("\t" + result);    }