一、sphinx的基本介绍
引入:
解决方式: 使用sphinx来实现 英文的搜索问题(大文本)
1、使用背景
当对大文本数据进行单词匹配查询时,如:有一个歌曲网站,数据库中
收集着上百万首歌曲的信息,如果要查询出歌词中带“爱情”的所有歌
曲,典型的做法是执行如下SQL语句:
SELECT * FROM songs WHERE content LIKE "%爱情%"。
但是在MYSQL中以%开头的查询无法使用索引,所以这条SQL语句将执
行全表扫描,性能极差。MyISAM引擎中的全文索引是专门对文本创建
索引的,但对中文的支持不好。
好的解决方案:使用sphinx !
传统上的sphinx技术
英文:1 today is monday ,the wearther is ranning;
2 tomorrow is tuesday ,the wearther is sunning;
把整个文档按照空格进行分词,去掉一些修饰词(停词 比如 a is the 等),形成以下词组:
today monday weather ranning tomorrow sunning
把上面的单词进行创建索引
关键字 所在的ID(主键且不为空)
1 today 1
2 monday 1
3 weather 1,2
4 ranning 1
5 sunning 2
中文: 今天是星期一,天气下雨
明天是星期二,天气晴
中文没法进行分词
说明:sphinx分词技术只针对中文,不支持英文。
今天所讲的sphinx并不是真正意义上的sphinx,而是结合中文的分词技术加上mmseg中文分词形成的一个叫做coreseek的软件技术来实现
2、sphinx(coreseek)的原理
第一步:对应数据源建立索引
中文分词技术,去掉停词(如 是、的、这个等)
今天 1
下雨 1
明天 1,2,3
学习 2
第二步:执行查询,返回查询到单词所在,mysql里面记录的id
php要把查询的单词给sphinx软件,软件拿到要查询的单词后,从索引里面进行匹配。返回该单词在mysql表里面记录的id
php拿到单词所在的id后,根据该id去mysql里面查找数据。
3、什么是Coreseek
Coreseek 是一款中文全文检索/搜索软件,基于Sphinx研发并独立发布,
专攻中文搜索和信息处理领域,适用于行业/垂直搜索、论坛/站内搜索
数据库搜索、文档/文献检索、信息检索、数据挖掘等应用场景
二、开始安装执行
1、下载软件,解压后,拷贝到指定的目录
下载 http://www.coreseek.com/ 地址
2、建立一个sphinx的配置文件。
3、建立索引
分为三步走:
配置数据源 配置索引 配置服务器端的信息。
(1)配置数据源(固定的某个表的数据)
语法:source 数据源的名字
在一个配置文件中,可以配置多个数据源的。
(2)针对数据源配置索引,
一个数据源对应一个索引的配置,
(3)配置sphinx服务器端信息。
4、根据sphinx.conf的配置,创建索引
以管理员进入cmd 进入到sphinx/bin目录
语法:
indexer -c 配置文件 索引的名字
5、安装sphinx(coreseek)启动服务,
以管理员进入cmd进入到sphinx/bin目录,使用searchd.exe命令
语法:searchd -c 配置文件 --install
启动服务
默认的端口号是9312,
总结:
(1)针对数据源建立索引,要配置的是数据源,数据源对应的索引,服务器端配置
使用indexer命令完成索引的创建。
(2)启动sphinx的服务进行查询
(3)带上配置文件
三、使用php查询测试
四、SPHINX的匹配模型
1、SPH_MATCH_ALL 完全匹配所有的词(默认使用)
如“冬天 的 雪”,并不会匹配 “我爱冬天”,
但可以匹配 “我的朋友,爱冬天,和雪”。
因为“冬天的雪” 被分成 “冬天”,“的”,“雪”三个词,匹配条件是同时包含
这三个词,“我爱冬天”里只包含一个“冬天”
2、SPH_MATCH_ANY: 匹配任意一个词
如“冬天 的 雪”,并会匹配 “我爱冬天”。
"冬天的雪“ -》 ”冬天“ ”的“ ”雪“
因为“我爱冬天”里有一个“冬天”相匹配。
3、
4、
5、
六、增量索引建立
原来有1000万条记录,建立完成索引了,
后来又添加了500条记录,
思路:把后面添加的记录单独建立索引,建立的增量索引再合并到主索引上面。
具体实施:
(1)新建一张表,用于记录数据源表中最大的id,当主索引建完之后,表里面就记录最大的id,
(2)建立增量索引是主查询,就使用条件了。
select id,title,description from dede_archives where id>(select max_id from a)
步骤:
(1)新建一张表
create table a(max_id int);
(2)修改主数据源
(3)添加增量数据源
(4)配置增量索引
(5)重新建立主索引
添加数据,进行建立增量索引
(6)把增量索引合并到主索引上面
indexer -c配置文件 --merge 主索引的名字 增量索引的名字 --rotate(不关闭服务强制合并)
说明:以后有数据更新,只需要做以下步骤即可
检测结果:之前的数据和后面添加的数据都使用到了sphinx全文检索