mysql 函數之全文搜尋功能
- 伊谢尔伦原創
- 2016-11-23 11:56:311498瀏覽
語法：
MATCH (col1,col2,...) AGAINST (expr [IN BOOLEAN MODE | WITH QUERY EXPANSION])
MySQL支援全文索引和搜尋功能。 MySQL中的全文索引類型FULLTEXT的索引。 FULLTEXT 索引只可用於 MyISAM表；他們可以從CHAR、 VARCHAR或TEXT欄位中作為CREATE TABLE語句的一部分建立，或是隨後使用ALTER TABLE 或 CREATE INDEX被加入。對於較大的資料集，將你的資料輸入一個沒有FULLTEXT索引的表中，然後建立索引， 其速度比把資料輸入現有FULLTEXT索引的速度更為快。
全文搜尋同MATCH()函數一起執行。
mysql> CREATE TABLE articles ( -> id INT UNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY, -> title VARCHAR(200), -> body TEXT, -> FULLTEXT (title,body) -> );Query OK, 0 rows affected (0.00 sec)
mysql> INSERT INTO articles (title,body) VALUES -> ('MySQL Tutorial','DBMS stands for DataBase ...'), -> ('How To Use MySQL Well','After you went through a ...'), -> ('Optimizing MySQL','In this tutorial we will show ...'), -> ('1001 MySQL Tricks','1. Never run mysqld as root. 2. ...'), -> ('MySQL vs. YourSQL','In the following database comparison ...'), -> ('MySQL Security','When configured properly, MySQL ...');Query OK, 6 rows affected (0.00 sec)
Records: 6 Duplicates: 0 Warnings: 0
mysql> SELECT * FROM articles -> WHERE MATCH (title,body) AGAINST ('database');
+----+-------------------+------------------------------------------+
| id | title | body |
+----+-------------------+------------------------------------------+
| 5 | MySQL vs. YourSQL | In the following database comparison ... |
| 1 | MySQL Tutorial | DBMS stands for DataBase ... |
+----+-------------------+------------------------------------------+
2 rows in set (0.00 sec)MATCH()函數對於一個字串執行資料庫內的自然語言搜尋。一個資料庫就是1套1個或2個包含在FULLTEXT內的欄位。搜尋字串作為對AGAINST()的參數而被給定。對於表中的每一行, MATCH() 傳回相關值，即, 搜尋字串和 MATCH()表中指定該行文字之間的一個相似性測量列中。
在預設狀態下, 搜尋的執行方式為不區分大小寫方式。然而,你可以透過對編入索引的列使用二進位排序方式執行區分大小寫的全文搜尋。 例如，可以向一個使用latin1字元集的欄位給定latin1_bin 的排序方式，對於全文搜尋區分大小寫。
如上述所舉例子，當MATCH()被用在一個 WHERE 語句中時，相關值是非負浮點數。零相關的意思是沒有相似性。相關性的計算是基於該行中單字的數目, 該行中獨特子的數目，資料庫中單字的總數，以及包含特殊單字的文件(行)數目。
對於自然語言全文搜索，要求MATCH() 函數中命名的列和你的表中一些FULLTEXT索引中包含的列相同。對於前述問訊， 注意，MATCH()函數(題目及全文)中所命名的欄位和文章表的FULLTEXT索引中的欄位相同。若要分別搜尋題目和全文，應該對每個欄位建立FULLTEXT索引。
或也可以執行布林搜尋或使用查詢擴充進行搜尋。
上面的例子基本上顯示瞭如何使用返回行的相關性順序漸弱的MATCH()函數。而下面的例子則展示了怎樣明確地檢索相關值。回傳行的順序是不定的，原因是 SELECT 語句不包含 WHERE或ORDER BY 子句：
mysql> SELECT id, MATCH (title,body) AGAINST ('Tutorial') -> FROM articles;
+----+-----------------------------------------+
| id | MATCH (title,body) AGAINST ('Tutorial') |
+----+-----------------------------------------+
| 1 | 0.65545833110809 |
| 2 | 0 |
| 3 | 0.66266459226608 |
| 4 | 0 |
| 5 | 0 |
| 6 | 0 |
+----+-----------------------------------------+
6 rows in set (0.00 sec)下面的範例則較為複雜。詢問傳回相關值，同時將行依照相關性漸弱的順序排序。要達到這個結果，你應該兩次指定MATCH()： 一次在 SELECT 清單中而另一次在 WHERE子句中。這不會造成額外的內務操作，原因是MySQL 最佳化程式註意到兩個MATCH()呼叫是相同的，因此只會啟動一次全文搜尋程式碼。
mysql> SELECT id, body, MATCH (title,body) AGAINST -> ('Security implications of running MySQL as root') AS score
-> FROM articles WHERE MATCH (title,body) AGAINST -> ('Security implications of running MySQL as root');
+----+-------------------------------------+-----------------+
| id | body | score |
+----+-------------------------------------+-----------------+
| 4 | 1. Never run mysqld as root. 2. ... | 1.5219271183014 |
| 6 | When configured properly, MySQL ... | 1.3114095926285 |
+----+-------------------------------------+-----------------+
2 rows in set (0.00 sec)表中有2行(0.00 秒)
MySQL FULLTEXT 執行將任何單字字元原形 (字母、數字和底線部分)的序列視為一個單字。這個序列或許也包含單引號 ('),但在一行中不會超過一個。 這意味著 aaa'bbb 會被視為一個單字，而 aaa''bbb則被視為2個單字。位於單字前後的單引號會被FULLTEXT分析程式去掉； 'aaa'bbb' 會變成 aaa'bbb。
FULLTEXT分析程式會透過尋找某些分隔符號來確定單字的起始位置和結束位置，例如' ' (間隔符號)、 , (逗號)以及 . (句號)。假如單字沒有被分隔符號分開，(例如在中文裡 ), 則 FULLTEXT 分析程式不能確定一個字的起始位置和結束位置。為了能夠在這樣的語言中向FULLTEXT 索引添加單字或其它編入索引的術語，你必須對它們進行預處理，使其被一些諸如"之類的任意分隔符分隔開。
一些詞在全文搜尋會被忽略：
任何過於短的字都會被忽略。 the” 或“some” 這樣過於平常而被認為是不具語義的詞。存在一個內置的停止字， 但它可以通過用戶自定義列表被改寫。
詞庫和詢問中每一個正確的單詞根據其在詞庫和詢問中的重要性而被衡量。庫中其語意價值較低。最適合同大型詞庫一起使用 (事實上, 此時它經過仔細的調整 )。 , 雖然單字「MySQL」 出現在文章表中的每一行，但對這個字的搜尋可能得不到任何結果：
mysql> SELECT * FROM articles
-> WHERE MATCH (title,body) AGAINST ('MySQL');
找不到搜索的词(0.00 秒)这个搜索的结果为空，原因是单词 “MySQL” 出现在至少全文的50%的行中。 因此, 它被列入停止字。对于大型数据集，使用这个操作最合适不过了----一个自然语言问询不会从一个1GB 的表每隔一行返回一次。对于小型数据集，它的用处可能比较小。
一个符合表中所有行的内容的一半的单词查找相关文档的可能性较小。事实上, 它更容易找到很多不相关的内容。我们都知道，当我们在因特网上试图使用搜索引擎寻找资料的时候，这种情况发生的频率颇高。可以推论，包含该单词的行因其所在特别数据集 而被赋予较低的语义价值。 一个给定的词有可能在一个数据集中拥有超过其50%的域值，而在另一个数据集却不然。
当你第一次尝试使用全文搜索以了解其工作过程时，这个50% 的域值提供重要的蕴涵操作：若你创建了一个表，并且只将文章的1、2行插入其中， 而文中的每个单词在所有行中出现的机率至少为 50% 。那么结果是你什么也不会搜索到。一定要插入至少3行，并且多多益善。需要绕过该50% 限制的用户可使用布尔搜索代码。
1. 布尔全文搜索
利用IN BOOLEAN MODE修改程序， MySQL 也可以执行布尔全文搜索：
mysql> SELECT * FROM articles WHERE MATCH (title,body) -> AGAINST ('+MySQL -YourSQL' IN BOOLEAN MODE);
+----+-----------------------+-------------------------------------+
| id | title | body |
+----+-----------------------+-------------------------------------+
| 1 | MySQL Tutorial | DBMS stands for DataBase ... |
| 2 | How To Use MySQL Well | After you went through a ... |
| 3 | Optimizing MySQL | In this tutorial we will show ... |
| 4 | 1001 MySQL Tricks | 1. Never run mysqld as root. 2. ... |
| 6 | MySQL Security | When configured properly, MySQL ... |
+----+-----------------------+-------------------------------------+这个问询检索所有包含单词“MySQL”的行，但不检索包含单词“YourSQL”的行。
布尔全文搜索具有以下特点：
它们不使用 50% 域值。.
它们不会按照相关性渐弱的顺序将行进行分类。你可以从上述问询结果中看到这一点：相关性最高的行是一个包含两个“MySQL” 的行，但它被列在最后的位置，而不是开头位置。
即使没有FULLTEXT，它们仍然可以工作，尽管这种方式的搜索执行的速度非常之慢。
最小单词长度全文参数和最大单词长度全文参数均适用。
停止字适用。
布尔全文搜索的性能支持以下操作符：
+
一个前导的加号表示该单词必须 出现在返回的每一行的开头位置。
-
一个前导的减号表示该单词一定不能出现在任何返回的行中。
(无操作符)
在默认状态下(当没有指定 + 或–的情况下)，该单词可有可无，但含有该单词的行等级较高。这和MATCH() ... AGAINST()不使用IN BOOLEAN MODE修改程序时的运作很类似。
> 021c18ccb59b6067bed130a15fabd8d0 操作符增强其影响，而 3a11c09e5eab1dd0cd1a25f5714e192bturnover 寻找包含单词“apple”和“turnover” 的行，或包含“apple” 和“strudel”的行 (无先后顺序),然而包含 “apple turnover”的行较包含“apple strudel”的行排列等级更为高。 'apple*' 寻找包含“apple”、“apples”、“applesauce”或“applet”的行。 '"some words"' 寻找包含原短语“some words”的行 (例如,包含“some words of wisdom” 的行，而非包含 “some noise words”的行)。注意包围词组的‘"’ 符号是界定短语的操作符字符。它们不是包围搜索字符串本身的引号。 2. 全文搜索带查询扩展 全文搜索支持查询扩展功能 (特别是其多变的“盲查询扩展功能” )。若搜索短语的长度过短, 那么用户则需要依靠全文搜索引擎通常缺乏的内隐知识进行查询。这时，查询扩展功能通常很有用。例如, 某位搜索 “database” 一词的用户，可能认为“MySQL”、“Oracle”、“DB2” and “RDBMS”均为符合 “databases”的项，因此都应被返回。这既为内隐知识。 在下列搜索短语后添加WITH QUERY EXPANSION，激活盲查询扩展功能(即通常所说的自动相关性反馈)。它将执行两次搜索，其中第二次搜索的搜索短语是同第一次搜索时找到的少数顶层文件连接的原始搜索短语。这样,假如这些文件中的一个 含有单词 “databases” 以及单词 “MySQL”, 则第二次搜索会寻找含有单词“MySQL” 的文件，即使这些文件不包含单词 “database”。下面的例子显示了这个不同之处： 另一个例子是Georges Simenon 搜索关于Maigret的书籍, 这个用户不确定“Maigret”一词的拼法。若不使用查询扩展而搜索“Megre and the reluctant witnesses” 得到的结果只能是的“Maigret and the Reluctant Witnesses” 。 而带有查询扩展的搜索会在第二遍得到带有“Maigret”一词的所有书名。 注释： 盲查询扩展功能很容易返回非相关文件而增加无用信息，因此只有在查询一个长度很短的短语时才有必要使用这项功能。 3. 全文停止字 以下表列出了默认的全文停止字： a's able about above according accordingly across actually after afterwards again against ain't all allow allows almost alone along already also although always am among amongst an and another any anybody anyhow anyone anything anyway anyways anywhere apart appear appreciate appropriate are aren't around as aside ask asking associated at available away awfully be became because become becomes becoming been before beforehand behind being believe below beside besides best better between beyond both brief but by c'mon c's came can can't cannot cant cause causes certain certainly changes clearly co com come comes concerning consequently consider considering contain containing contains corresponding could couldn't course currently 絕對描述了儘管沒有做 不同做做沒有做做 不做做向下做向下做 每個 edu 例如 個前五名之後，每個人的所有人都在其他地方。幾乎沒有發生過 還沒有發生過沒有發生過他 他是你好幫助所以她在這裡在此，她自己，嗨， 他，他自己，希望在這裡， ，然而，我'd 我會 我已經 即 如果忽略 立即 因為 公司 確實 表示表示表示表示內部 相反 向內 不是 它 它會 它會 它是它的 本身 讓我們喜歡喜歡 可能 很少 看起來 有限公司 主要是 很多 可能 也許 ，下一個，不，沒有人，沒有人，沒有人，也沒有，通常也沒有，沒有什麼新奇的，現在沒有顯然在哪裡 經常關閉哦好的好吧 好的舊的一次只開一個 一個只到其他或其他 其他否則應該我們 地 rd rd rd確實合理地重新介紹，無論相對分別相對分別 right right 說同樣的話說 說第二個說，第二見，看來似乎是 看到自我自我明智的signious sernious sernious sernious sernious sendious sey seled sey seen sey sendious sey sendious sey sendious seen noversious似乎很認真七個。她不應該從六歲開始，所以，某人，某人，某事，有時，有時，某處，很快ry 指定 指定 仍然 子 這樣 sup 比 謝謝 謝謝謝謝 儘管三遍貫穿 因此也一起採取了 朝著 諸如漢語和日語這樣的表意語言沒有自定界符。因此， FULLTEXT分析程序不能確定在這些或其它的這類語言中詞的起始和結束的位置。 若支援在一個單獨表中使用多字元集，則所有 FULLTEXT索引中的欄位 必須使用相同的字元集和函式庫。 MATCH()欄位清單必須同該表中一些 FULLTEXT索引定義中的欄位清單完全符合,除非MATCH()在IN BOOLEAN MODE。 對AGAINST() 的參數必須是常數字串。 5. 微調MySQL全文搜尋 MySQL的全文搜尋容量幾乎沒有使用者調節參數。假如你擁有一個 MySQL來源分佈，你就能對全文搜尋效能行使更多控制，原因是一些變化需要原始碼修改。 注意，為了更有效，需要對全文搜尋謹慎調節。實際上，在大多數情況下修改預設效能只能降低其效能。 除非你知道自己在做什麼，否則不要改變 MySQL來源。 下述的大多數全文變數必須在伺服器啟動時被設定。為了改變它們，也要重新啟動伺服器；在伺服器正在運行期間，他們不會被改變。 一些變數的改變需要你重建表中的 FULLTEXT 索引。本章結尾部分給出了其有關操作說明。 ft_min_word_len and ft_max_word_len系統自變數規定了被編入索引單字的最小長度和最大長度。 預設的最小值為四個字元；預設的最大值取決於所使用的 MySQL 版本。假如你改變任意一個值，那麼你必須重建你的 FULLTEXT索引。 例如，若你希望一個3字符的單字變成可查找項，則可以透過將以下行移到一個供選擇檔案裡，從而設定 ft_min_word_len 變數： · [mysqld] · ft_min_word_len=3 [EQ%此時不需要重建索引。註：這樣做你會嚴重的By 降低 MySQL為MATCH()函數提供合適的相關值得能力。假如你爭得需要搜尋這樣的普通詞，而使用IN BOOLEAN MODE代替的效果更好，因為它不遵循 50% 閾值。 要改變布林全文搜尋的運算符，設定 ft_boolean_syntax 系統變數。 這個變數也可以在伺服器運作時被改變，但你必須有SUPER 特權才能這麼做。在這種情況下不需要重建索引。 假如你改變了影響索引的全文變數 (ft_min_word_len、 ft_max_word_len或ft_stopword_file),或假如你改變了禁用字檔案本身，則你必須在變更和重新啟動伺服器後重建你的 FULLTEXT索引。此時，要重建索引， 只要進行一個 QUICK 修理作業： mysql> REPAIR TABLE tbl_name QUICK; 注意，假如你使用 myisam 來執行一項修改表的操作索引最小單字長度和最大單字長度以及停止字的預設全文參數值重建FULLTEXT索引，除非你已另外指定。這會導致問詢失敗。 發生這個問題的原因是只有伺服器認識這些參數。它們的儲存位置不在 MyISAM 索引檔案中。若你已經修改了最小單字長度或最大單字長度或伺服器中的停止字，為避免這個問題，為你對mysqld所使用的myisamchk 指定相同的ft_min_word_len、 ft_max_word_len和ft_stopword_file值。例如，假如你已經將最小字長設定為 3, 則你可以這樣修改一個有myisamchk的表： shell> myisamchk --recover --ft_min_word_len=3 tbl_name.MYI 為保證參數使用相同的值， 可將每一項都放在供選文件中的 [mysqld]和 [myisamchk] 部分： [mysqld] ft_min_word_len=3 [myisamchk] 使用 REPAIR TABLE、 ANALYZE TABLE、OPTIMIZE TABLE或ALTER TABLE來取代使用 myisamchk 。這些語句透過伺服器來執行，伺服器知道使用哪個全文參數值比較合適。 mysql> SELECT * FROM articles -> WHERE MATCH (title,body) AGAINST ('database');
+----+-------------------+------------------------------------------+
| id | title | body |
+----+-------------------+------------------------------------------+
| 5 | MySQL vs. YourSQL | In the following database comparison ... |
| 1 | MySQL Tutorial | DBMS stands for DataBase ... |
+----+-------------------+------------------------------------------+
2 rows in set (0.00 sec)
mysql> SELECT * FROM articles -> WHERE MATCH (title,body) -> AGAINST ('database' WITH QUERY EXPANSION);
+----+-------------------+------------------------------------------+
| id | title | body |
+----+-------------------+------------------------------------------+
| 1 | MySQL Tutorial | DBMS stands for DataBase ... |
| 5 | MySQL vs. YourSQL | In the following database comparison ... |
| 3 | Optimizing MySQL | In this tutorial we will show ... |
+----+-------------------+------------------------------------------+
3 rows in set (0.00 sec)