`
qindongliang1922
  • 浏览: 2146533 次
  • 性别: Icon_minigender_1
  • 来自: 北京
博客专栏
7265517b-f87e-3137-b62c-5c6e30e26109
证道Lucene4
浏览量:116302
097be4a0-491e-39c0-89ff-3456fadf8262
证道Hadoop
浏览量:124568
41c37529-f6d8-32e4-8563-3b42b2712a50
证道shell编程
浏览量:58441
43832365-bc15-3f5d-b3cd-c9161722a70c
ELK修真
浏览量:70335
社区版块
存档分类
最新评论

Solr搜索问题笔记(二)

    博客分类:
  • Solr
阅读更多

记录两个问题:
(1)在配置分词的场景中,如何让精确查询的排在前面,模糊查询的排在后面,这个需求算是比较常见的,但如果你是在数据库中,那么就非常容易了,where xxx=xxx 出来就是精确匹配的,但是在Lucene或者Solr中,反到有点诡异了,其实也不算问题,如果熟悉的Lucene的评分机制,理解起来则会很容易,在Lucene中90%的情况下,都是精确匹配的排在上面,但是还有10%的几率会导致,精确匹配的不会排在第一位,但是肯定是在top10里面的,虽然误差很小,但让用户和测试人员就很不理解,在这里就不解释了,精确匹配没排在top1确实有点说不过去,关于具体的原因,请查看散仙的前一篇文章
http://qindongliang.iteye.com/blog/2218352

下面谈谈,如何解决:
其实还是采用了,最普遍的用法,索引两个字段,一个分词,一个不分词,但是他们都索引了,在查询时,同时查询这两个字段,分词的字段:模糊查,不分词的字段:精确查,这样以来既能保证,召全率,也能保证查准率,可以说是一种不错的方案。

当然如果我们能从分词器下手,直接在分词的时候,就保留一份原始的数据,作为索引,这样以来确实也可以,但是中文的分词器,都是基于词典切分的,都是以最小的单元的作为token的,而不是一整个token,所以,只能强制的把过来的token,作为一整个term存储一次,这样做其实跟加一个字段,没啥区别,所以具体场景,具体对待。

(2)关于Solr的String类型的Field一个问题,String字段,是一个不会分词的字段,但是可以索引和被搜索,但是实际情况有点诧异,如果一个词组里面包含()()这样的小括号,搜索时候,精确匹配就会出现问题,因为索引里面这个小括号,无论是中文的括号,还是英文的,都会被转义成其他的编码,目前为止只发现这一个符号,会被改变,其他的大括号,中括号,目前还没发现,被改变,所以,在索引时候,最好把特殊字符,给过滤掉,如何在Solr里配置:
 



	<!-- 配置一个支持正则过滤的分词器,过滤企业名带非法符号的名称 -->
	  <fieldType name="qstring" class="solr.TextField" positionIncrementGap="100">
	        <analyzer>
	                <tokenizer class="solr.KeywordTokenizerFactory"/>
                        <filter class="solr.PatternReplaceFilterFactory" pattern="([[()()]])" replacement="" replace="all"/>
                </analyzer>
          </fieldType>



最后欢迎大家扫码关注微信公众号:我是攻城师(woshigcs),我们一起学习,进步和交流!(woshigcs)
本公众号的内容是有关搜索和大数据技术和互联网等方面内容的分享,也是一个温馨的技术互动交流的小家园,有什么问题随时都可以留言,欢迎大家来访!



12
6
分享到:
评论
3 楼 deepeye 2017-06-19  
楼主,请教个问题,文中提到的“索引两个字段,一个分词,一个不分词”,不理解不分词是啥概念,怎么配置?比如一大段文本,如何设置不分词
2 楼 qindongliang1922 2015-06-26  
zqb666kkk 写道
楼主你好 solr最近 新出的5.2.1版本 配合中文分词的用ik  怎么用? 你知道吗?



可以编译一个最新版的
1 楼 zqb666kkk 2015-06-24  
楼主你好 solr最近 新出的5.2.1版本 配合中文分词的用ik  怎么用? 你知道吗?

相关推荐

Global site tag (gtag.js) - Google Analytics