Lucene 高阶查询的六脉神剑 —— QueryParser

上篇我们介绍了 Lucene 多样的查询模式,每一种都是相互独立的用来解决特定查询目标的 Query 对象。本节我们要将这些查询模式使用 QueryParser 组合起来进行合并查询 —— 用一个文本字符串表达式来表示所有的查询模式。

QueryParser 的基本作用是将一个满足特定语法的字符串转换成相应的查询对象。我们可以不再需要使用组合对象的方式来手动构造复合逻辑查询,而是通过一个单行字符串就可以完成原先需要数行代码才能完成的查询功能。

关键词查询 TermQuery 与组合查询 BooleanQuery

关键词查询是最简单的查询,在 QueryParser 的语法里它就是一个「无空格」普通的字符串。

1var analyser = new HanLPAnalyzer(); 2var parser = new QueryParser("content", analyser); 3var query = parser.parse("北京大学"); 4System.out.println(query); 5var hits = searcher.search(query, 10).scoreDocs; 6 7-------------- 8content:北京大学 9

如果在「北京」和「大学」之间多了一个空格, 那么解析的结果将默认会是「逻辑或」表达式,相当于 BooleanQuery 的两个 SHOULD。

1var query = parser.parse("北京 大学"); 2System.out.println(query); 3 4------------ 5content:北京 content:大学 6

我们打印一下上面的 query 对象的 Class,你就会发现它确实是一个 BooleanQuery 对象。

1System.out.println(query.getClass()); 2 3------------ 4class org.apache.lucene.search.BooleanQuery 5

我们还可以稍微调整一下表达式,将上面的解析结果变成成「逻辑与」,表示文章中出现「北京」或者「大学」的都会进入查询结果,使用 + 号作为前缀,这里的加号相当于 BooleanQuery 中的 MUST 选项。

1var query = parser.parse("+北京 +大学"); 2

除了逻辑或与还有逻辑非,对应于 MUST_NOT,它使用 - 号来表示 MUST_NOT。

1var query = parser.parse("+北京 -大学") 2

前面我们提到如果单独使用 MUST_NOT,查询将会是空集,因为它无法直接利用倒排索引。

注意 QueryParser 会使用传递进去的 analyzer 对象对字符串进行分词,最开始例子的「北京大学」解析后之所以是单个字符串,那是因为「北京大学」本身就是一个完整的原子词汇。如果我们试试「北京林业大学」就会完全是不一样的结果,它是三个词汇的或运算。

1var query = parser.parse("北京林业大学"); 2 3----------------- 4content:北京 content:林业 content:大学 5

范围查询

Lucence 对于整数范围和字符串范围是不一样的处理方式,它有 NumericRangeQuery 和 TermRangeQuery,但是默认的 QueryParser 表达式仅支持 TermRangeQuery,使用下面的范围表达式解析出来的结果将会是 TermRangeQuery。如果对整形的 article_id 字段进行字符串的范围查询,那么结果将会是空集。

1var parser = new QueryParser("article_id", analyser); 2var query = parser.parse("[400000 TO 450000]"); 3System.out.println(query); 4System.out.println(query.getClass()); 5 6--------------- 7article_id:[400000 TO 450000] 8class org.apache.lucene.search.TermRangeQuery 9

那我们能不能让 QueryParser 支持 NumbericRangeQuery 呢?办法是有的,但是会比较麻烦一些,需要我们使用代码来手动修改 QueryParser 的默认行为 —— 编写一个子类,覆盖掉默认的 getRangeQuery 方法。

1static class MyQueryParser extends QueryParser { 2 3 public MyQueryParser(String f, Analyzer a) { 4 super(f, a); 5 } 6 7 @Override 8 protected Query getRangeQuery(String field, String low, String high, boolean startInclusive, boolean endInclusive) throws ParseException { 9 if(this.field.equals(field)) { 10 return IntPoint.newRangeQuery(field, Integer.parseInt(low), Integer.parseInt(high)); 11 } 12 return super.getRangeQuery(field, low, high, startInclusive, endInclusive); 13 } 14} 15

我们注意到 IntPoint.newRangeQuery 似乎没有提供边界参数,它默认是不包含边界的。如果期望处理边界参数,那就需要对参数进行 +1 和 -1 的微调,下限 -1,上限 +1。如果是浮点数,那就需要使用 FloatPoint.nextUp/nextDown 方法给浮点参数进行微调。下面我们使用上面自定义的 QueryParser 看看结果如何。

1var analyser = new HanLPAnalyzer(); 2var parser = new MyQueryParser("article_id", analyser); 3var query = parser.parse("[400000 TO 450000]"); 4System.out.println(query); 5System.out.println(query.getClass()); 6var hits = searcher.search(query, 10).scoreDocs; 7System.out.println(hits.length); 8 9-------------- 10article_id:[400000 TO 450000] 11class org.apache.lucene.document.IntPoint$1 1210 13

前缀查询 PrefixQuery 和通配符查询 WildcardQuery

这两个查询都是有效利用了关键词树 FST 的前缀属性来扫描出匹配的关键词集合。PrefixQuery 可以理解为 WildcardQuery 的子集。通配符查询的 QueryParser 语法比较简单,还是使用 * 号和 ? 号。

1var parser = new QueryParser("content", analyser); 2var query = parser.parse("北京*"); 3System.out.println(query); 4System.out.println(query.getClass()); 5 6-------- 7content:北京* 8class org.apache.lucene.search.PrefixQuery 9

为了避免性能问题,QueryParser 默认禁止首字符带 * 号的查询,在调用 parse 方法时会直接抛异常。

 

关于首字符带 * 号,QueryParser 还有一个例外情况,它内置了一个非常特殊的通配符 : ,它表示匹配所有的内容,也就是全文遍历 MatchAllDocsQuery。

1var parser = new QueryParser("content", analyser); 2var query = parser.parse("*:*"); 3System.out.println(query); 4System.out.println(query.getClass()); 5 6------------ 7*:* 8class org.apache.lucene.search.MatchAllDocsQuery 9

短语查询 PhraseQuery

QueryParser 使用双引号来表示短语查询,默认的 slop 是零。

1var parser = new QueryParser("content", analyser); 2var query = parser.parse("\"动物世界\""); 3System.out.println(query); 4System.out.println(query.getClass()); 5 6------------- 7content:"动物 世界" 8class org.apache.lucene.search.PhraseQuery 9

但是如果将「动物世界」换成「北京大学」,结果却变成了简单的关键词查询 TermQuery。

1var parser = new QueryParser("content", analyser); 2var query = parser.parse("\"动物世界\""); 3System.out.println(query); 4System.out.println(query.getClass()); 5 6------------ 7content:北京大学 8class org.apache.lucene.search.TermQuery 9

这是因为分词器会对双引号中的内容进行分词,如果它是原子的就是 TermQuery,否则就是短语查询。那如何给短语设置我们期望的 slop 参数呢?答案是使用波浪号 ~。

1var query = parser.parse("\"动物世界\"~5"); 2 3---------- 4content:"动物 世界"~5 5

模糊查询 FuzzyQuery

模糊查询也使用波浪号,但是不需要双引号了,如果希望设定模糊相似度(模糊因子),可以在波浪号后面增加一个浮点数,默认的模糊因子我也不知道是多少,但是我从代码中了解到默认的编辑距离是 2。如果设置了模糊因子 factor,编辑距离将会是 min((1-factor)*Length, 2),无论如何编辑距离也不会超过 2。

1var parser = new QueryParser("title", analyser); 2var query = parser.parse("动物世界~0.5"); 3System.out.println(query); 4System.out.println(query.getClass()); 5 6----------- 7title:动物世界~2 8class org.apache.lucene.search.FuzzyQuery 9

括号与 AND、OR

为了支持更加复杂的组合逻辑,ParseQuery 提供了括号、AND、OR、NOT 这样的组合操作符,适当使用它们可以使得查询表达式逻辑更加清晰。

1var parser = new QueryParser("content", analyser); 2var query = parser.parse("(北京* OR 清华) AND 大学"); 3System.out.println(query); 4 5------------- 6+(title:北京* title:清华) +title:大学 7 8var analyser = new HanLPAnalyzer(); 9var parser = new QueryParser("content", analyser); 10var query = parser.parse("(北京* OR 清华) AND NOT 小学"); 11System.out.println(query); 12 13----------- 14+(content:北京 content:清华) -content:小学 15

字段选择

我们在构造 QueryParser 时会传入一个目标字段名称,其实这个字段名称只是默认字段名称,如果表达式中没有指定字段名称,那么就会使用这个默认字段名称。如果不想使用默认字段名称,可以在表达式中使用字段限定符。

1var parser = new QueryParser("content", analyser); 2var query = parser.parse("(title:北京* OR title:清华) AND 大学"); 3System.out.println(query); 4 5---------- 6+(title:北京* title:清华) +content:大学 7

如此该查询匹配的就是个混合字段,会使用到多个倒排索引联合匹配、评分和排序。

字段加权

如果我希望在标题出现「北京大学」或者内容出现「北京大学」都可以,但是希望标题中出现的评分排序要靠前,那么可以对个别字段进行加权。下面我们来对比一下加权前后的效果

1var parser = new QueryParser("content", analyser); 2var query = parser.parse("title:科幻 OR 科幻"); 3 4var parser = new QueryParser("content", analyser); 5var query = parser.parse("title:科幻^5.0 OR 科幻"); 6

先看加权前

再看加权后

 

很明显评分显著发生了放大,还有一个很重要的改变就是标题中没有「科幻」的文章从前十中消失了。在文章搜索中,加权是一个必不可少的功能,但是究竟加权多大的值这又是另外一个我们暂时不好回答的问题,随着我们对搜索技术了解的逐步深入,在不久的未来也许我们会有答案。

代码交流 2021