1. IK分词器简介
IK Analyzer是一个开源的，基于java语言开发的轻量级的中文分词工具包。从2006年12月推出1.0版开始， IK Analyzer已经推出了4个大版本。最初，它是以开源项目Luence为应用主体的，结合词典分词和文法分析算法的中文分词组件。从3.0版本开始，IK发展为面向Java的公用分词组件，独立于Lucene项目，同时提供了对Lucene的默认优化实现。在2012版本中，IK实现了简单的分词歧义排除算法，标志着IK分词器从单纯的词典分词向模拟语义分词衍化。
后来，被一个叫medcl（曾勇 elastic开发工程师与布道师，elasticsearch开源社区负责人，2015年加入elastic）的人集成到了elasticsearch中， 并支持自定义字典....
摘自[Elasticsearch - 各平台配置IK分词器]
2. 下载
3. 安装
在plugins目录中新建一个ik也可以命名为其他文件夹名称，方便区别这个文件夹是包含ik就行)，然后将下载的zip包解压到ik中，重启es就可以。
4. 配置词库
ik_home/config/IKAnalyzer.cfg.xml
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
<comment>IK Analyzer 扩展配置</comment>
<!--用户可以在这里配置自己的扩展字典 -->
<entry key="ext_dict">custom.dic</entry>
<!--用户可以在这里配置自己的扩展停止词字典-->
<entry key="ext_stopwords"></entry>
<!--用户可以在这里配置远程扩展字典 -->
<!-- <entry key="remote_ext_dict">words_location</entry> -->
<!--用户可以在这里配置远程扩展停止词字典-->
<!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>
从IKAnalyzer.cfg.xml 可以看到用户可以自定义配置词库的自定义扩展信息。
- IKAnalyzer.cfg.xml，用来配置自定义的词库
- main.dic，ik原生内置的中文词库，大约有27万多条，只要是这些单词，都会被分在一起。
- surname.dic，中国的姓氏。
- suffix.dic，特殊（后缀）名词，例如
乡、江、所、省等等。 - preposition.dic，中文介词，例如
不、也、了、仍等等。 - stopword.dic，英文停用词库，例如
a、an、and、the等。 - quantifier.dic，单位名词，如
厘米、件、倍、像素等。
例如配置扩展词典，可以添加custom.dic(与IKAnalyzer.cfg.xml在同一目录级别)
随后配置custom.dic
[root@shine107 config]# cat custom.dic
慕课网
慕课
课网
慕
课
网
骚年
5. ES中测试ik_analyzer
向ES服务器发送发送post请求：http://192.168.21.107:9200/user/_analyze
{
"text":"慕课网是一个好网站，骚年要加油",
"analyzer":"ik_smart"
}
得到的服务器响应为
ik_max_word：会将文本做最细粒度的拆分，比如会将“*国歌”拆分为“*,中华人民,中华,华人,人民*,人民,人,民,*,共和,和,国国,国歌”，会穷尽各种可能的组合；
ik_smart：会做最粗粒度的拆分，比如会将“*国歌”拆分为“*,国歌”。如下：