您好,登錄后才能下訂單哦!
這篇文章給大家介紹如何在PHP中使用MySQL+sphinx+scws實(shí)現(xiàn)全文檢索功能,內(nèi)容非常詳細(xì),感興趣的小伙伴們可以參考借鑒,希望對大家能有所幫助。
安裝sphinx
[root@MevHost sphinxb]# mkdir -p /usr/local/src/sphinx [root@MevHost sphinxb]# cd /usr/local/src/sphinx [root@MevHost sphinxb]# tar -xf sphinx-2.2.11-release.tar.gz [root@MevHost sphinxb]# cd sphinx-2.2.11-release // 這里是指定安裝的目錄,還有引用mysql,(我這里是mariadb的安裝目錄) [root@MevHost sphinxb]# ./configure --prefix=/usr/local/sphinx2 --with-mysql=/usr/local/mariadb/ [root@MevHost sphinxb]# make && make install
安裝sphinx
客戶端
這個(gè)要安裝上,不然安裝PHP安裝sphinx擴(kuò)展時(shí)會(huì)出現(xiàn)報(bào)錯(cuò)
[root@MevHost sphinxb]# cd /usr/local/src/sphinx/sphinx-2.2.11-release/api/libsphinxclient //sphinx-2.2.11-release目錄下 [root@MevHost sphinxb]# ./configure --prefix=/usr/local/sphinx2/libsphinxclient [root@MevHost sphinxb]# make && make install
為PHP安裝sphinx
擴(kuò)展
[root@MevHost sphinxb]# cd /usr/local/src/sphinx [root@MevHost sphinxb]# tar zxvf sphinx-1.3.1.tgz [root@MevHost sphinxb]# cd sphinx-1.3.1 [root@MevHost sphinxb]# phpize [root@MevHost sphinxb]# ./configure --with-sphinx=/usr/local/sphinx2/libsphinxclient --with-php-config=/usr/local/php/bin/php-config [root@MevHost sphinxb]# make && make install
成功后再 php.ini 添加:
extension=sphinx.so
PHP7版本sphinx擴(kuò)展下載
下載地址
http://git.php.net/?p=pecl/search_engine/sphinx.git;a=shortlog;h=refs/heads/php7
安裝scws
[root@MevHost sphinxb]# tar -jxvf scws-1.2.3.tar.bz2 [root@MevHost sphinxb]# mkdir /usr/local/scws [root@MevHost sphinxb]# cd scws-1.2.3 [root@MevHost sphinxb]# ./configure --prefix=/usr/local/scws/ [root@MevHost sphinxb]# make && make install
為PHP安裝scws擴(kuò)展
[root@MevHost sphinxb]# cd /usr/local/src/sphinx/scws-1.2.3/phpext [root@MevHost sphinxb]# phpize [root@MevHost sphinxb]# ./configure --with-php-config=/usr/local/php/bin/php-config [root@MevHost sphinxb]# make && make install
在php.ini 加入
extension = scws.so scws.default.charset=utf-8 scws.default.fpath = /usr/local/scws/etc
安裝scws詞庫
[root@MevHost sphinxb]# tar jxvf scws-dict-chs-utf8.tar.bz2 -C /usr/local/scws/etc/ #www為php-fpm運(yùn)行用戶 [root@MevHost sphinxb]# chown www:www /usr/local/scws/etc/dict.utf8.xdb
創(chuàng)建MySQL數(shù)據(jù)源
mtest.sql
SET FOREIGN_KEY_CHECKS=0; -- ---------------------------- -- Table structure for userinfo -- ---------------------------- DROP TABLE IF EXISTS `userinfo`; CREATE TABLE `userinfo` ( `id` int(11) unsigned NOT NULL AUTO_INCREMENT, `userid` int(11) unsigned NOT NULL DEFAULT '0', `addtime` datetime NOT NULL, `post` varchar(20) NOT NULL DEFAULT '', `summary` text NOT NULL, PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=21 DEFAULT CHARSET=utf8; -- ---------------------------- -- Records of userinfo -- ---------------------------- INSERT INTO `userinfo` VALUES ('17', '1', '2017-12-10 00:24:54', '在CentOS7中使用Sendmail通', 'sendmail'); INSERT INTO `userinfo` VALUES ('18', '2', '2017-12-10 10:24:54', '徹底理解PHP的SESSION機(jī)制', 'session'); INSERT INTO `userinfo` VALUES ('19', '3', '2017-12-10 12:24:54', '手把手編寫自己的PHPMVC框架實(shí)例教程', 'mvc'); INSERT INTO `userinfo` VALUES ('20', '4', '2017-12-10 00:24:54', 'php獲取今日、昨日、上周、本月的起始時(shí)', '時(shí)間'); -- ---------------------------- -- Table structure for users -- ---------------------------- DROP TABLE IF EXISTS `users`; CREATE TABLE `users` ( `id` int(11) unsigned NOT NULL AUTO_INCREMENT, `username` varchar(20) NOT NULL DEFAULT '', PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=5 DEFAULT CHARSET=utf8; -- ---------------------------- -- Records of users -- ---------------------------- INSERT INTO `users` VALUES ('1', 'Lionee'); INSERT INTO `users` VALUES ('2', 'libber'); INSERT INTO `users` VALUES ('3', 'sysmob'); INSERT INTO `users` VALUES ('4', '學(xué)習(xí)');
配置sphinx
配置文件在/usr/local/sphinx2/etc
cp sphinx-min.conf.dist sphinx.conf
source users { type = mysql sql_host = 127.0.0.1 sql_user = root sql_pass = 123456 sql_db = mtest sql_port = 3306 # optional, default is 3306 sql_query_pre = SET NAMES utf8 sql_query_pre = SET SESSION query_cache_type=OFF sql_query = SELECT a.id, a.userid,b.username, UNIX_TIMESTAMP(a.addtime) AS addtime, a.post, a.summary FROM userinfo a left join users b on a.userid = b.id sql_attr_uint = userid sql_field_string = username sql_field_string = post sql_attr_timestamp = addtime sql_ranged_throttle = 0 #sql_attr_uint = group_id #sql_attr_timestamp = date_added #sql_ranged_throttle = 0 } source src1throttled : users { sql_ranged_throttle = 100 } index users { source = users path = /usr/local/sphinx2/var/data/users docinfo = extern mlock = 0 morphology = none min_word_len = 1 html_strip = 1 charset_table = U+FF10..U+FF19->0..9, 0..9, U+FF41..U+FF5A->a..z, U+FF21..U+FF3A->a..z,A..Z->a..z, a..z, U+0149, U+017F, U+0138, U+00DF, U+00FF, U+00C0..U+00D6->U+00E0..U+00F6,U+00E0..U+00F6, U+00D8..U+00DE->U+00F8..U+00FE, U+00F8..U+00FE, U+0100->U+0101, U+0101,U+0102->U+0103, U+0103, U+0104->U+0105, U+0105, U+0106->U+0107, U+0107, U+0108->U+0109,U+0109, U+010A->U+010B, U+010B, U+010C->U+010D, U+010D, U+010E->U+010F, U+010F,U+0110->U+0111, U+0111, U+0112->U+0113, U+0113, U+0114->U+0115, U+0115, U+0116->U+0117,U+0117, U+0118->U+0119, U+0119, U+011A->U+011B, U+011B, U+011C->U+011D, U+011D,U+011E->U+011F, U+011F, U+0130->U+0131, U+0131, U+0132->U+0133, U+0133, U+0134->U+0135,U+0135, U+0136->U+0137, U+0137, U+0139->U+013A, U+013A, U+013B->U+013C, U+013C,U+013D->U+013E, U+013E, U+013F->U+0140, U+0140, U+0141->U+0142, U+0142, U+0143->U+0144,U+0144, U+0145->U+0146, U+0146, U+0147->U+0148, U+0148, U+014A->U+014B, U+014B,U+014C->U+014D, U+014D, U+014E->U+014F, U+014F, U+0150->U+0151, U+0151, U+0152->U+0153,U+0153, U+0154->U+0155, U+0155, U+0156->U+0157, U+0157, U+0158->U+0159, U+0159,U+015A->U+015B, U+015B, U+015C->U+015D, U+015D, U+015E->U+015F, U+015F, U+0160->U+0161,U+0161, U+0162->U+0163, U+0163, U+0164->U+0165, U+0165, U+0166->U+0167, U+0167,U+0168->U+0169, U+0169, U+016A->U+016B, U+016B, U+016C->U+016D, U+016D, U+016E->U+016F,U+016F, U+0170->U+0171, U+0171, U+0172->U+0173, U+0173, U+0174->U+0175, U+0175,U+0176->U+0177, U+0177, U+0178->U+00FF, U+00FF, U+0179->U+017A, U+017A, U+017B->U+017C,U+017C, U+017D->U+017E, U+017E, U+0410..U+042F->U+0430..U+044F, U+0430..U+044F,U+05D0..U+05EA, U+0531..U+0556->U+0561..U+0586, U+0561..U+0587, U+0621..U+063A, U+01B9,U+01BF, U+0640..U+064A, U+0660..U+0669, U+066E, U+066F, U+0671..U+06D3, U+06F0..U+06FF,U+0904..U+0939, U+0958..U+095F, U+0960..U+0963, U+0966..U+096F, U+097B..U+097F,U+0985..U+09B9, U+09CE, U+09DC..U+09E3, U+09E6..U+09EF, U+0A05..U+0A39, U+0A59..U+0A5E,U+0A66..U+0A6F, U+0A85..U+0AB9, U+0AE0..U+0AE3, U+0AE6..U+0AEF, U+0B05..U+0B39,U+0B5C..U+0B61, U+0B66..U+0B6F, U+0B71, U+0B85..U+0BB9, U+0BE6..U+0BF2, U+0C05..U+0C39,U+0C66..U+0C6F, U+0C85..U+0CB9, U+0CDE..U+0CE3, U+0CE6..U+0CEF, U+0D05..U+0D39, U+0D60,U+0D61, U+0D66..U+0D6F, U+0D85..U+0DC6, U+1900..U+1938, U+1946..U+194F, U+A800..U+A805,U+A807..U+A822, U+0386->U+03B1, U+03AC->U+03B1, U+0388->U+03B5, U+03AD->U+03B5,U+0389->U+03B7, U+03AE->U+03B7, U+038A->U+03B9, U+0390->U+03B9, U+03AA->U+03B9,U+03AF->U+03B9, U+03CA->U+03B9, U+038C->U+03BF, U+03CC->U+03BF, U+038E->U+03C5,U+03AB->U+03C5, U+03B0->U+03C5, U+03CB->U+03C5, U+03CD->U+03C5, U+038F->U+03C9,U+03CE->U+03C9, U+03C2->U+03C3, U+0391..U+03A1->U+03B1..U+03C1,U+03A3..U+03A9->U+03C3..U+03C9, U+03B1..U+03C1, U+03C3..U+03C9, U+0E01..U+0E2E,U+0E30..U+0E3A, U+0E40..U+0E45, U+0E47, U+0E50..U+0E59, U+A000..U+A48F, U+4E00..U+9FBF,U+3400..U+4DBF, U+20000..U+2A6DF, U+F900..U+FAFF, U+2F800..U+2FA1F, U+2E80..U+2EFF,U+2F00..U+2FDF, U+3100..U+312F, U+31A0..U+31BF, U+3040..U+309F, U+30A0..U+30FF,U+31F0..U+31FF, U+AC00..U+D7AF, U+1100..U+11FF, U+3130..U+318F, U+A000..U+A48F,U+A490..U+A4CF ngram_len = 1 ngram_chars = U+4E00..U+9FBF, U+3400..U+4DBF, U+20000..U+2A6DF, U+F900..U+FAFF,U+2F800..U+2FA1F, U+2E80..U+2EFF, U+2F00..U+2FDF, U+3100..U+312F, U+31A0..U+31BF,U+3040..U+309F, U+30A0..U+30FF,U+31F0..U+31FF, U+AC00..U+D7AF, U+1100..U+11FF,U+3130..U+318F, U+A000..U+A48F, U+A490..U+A4CF } common { } indexer { mem_limit = 128M } searchd { #php listen = 9312 #mysql listen = 9306:mysql41 log = /usr/local/sphinx2/var/log/searchd.log query_log = /usr/local/sphinx2/var/log/query.log query_log_format = sphinxql read_timeout = 5 client_timeout = 300 max_children = 30 persistent_connections_limit = 30 pid_file = /usr/local/sphinx2/var/log/searchd.pid seamless_rotate = 1 preopen_indexes = 1 unlink_old = 1 mva_updates_pool = 1M max_packet_size = 8M max_filters = 256 max_filter_values = 4096 max_batch_queries = 32 workers = threads # for RT to work }
啟動(dòng)sphinx
[root@MevHost ~]# pkill searchd [root@MevHost ~]# /usr/local/sphinx2/bin/indexer --config /usr/local/sphinx2/etc/sphinx.conf --all [root@MevHost ~]# /usr/local/sphinx2/bin/searchd --config /usr/local/sphinx2/etc/sphinx.conf
如果出現(xiàn)下面的報(bào)錯(cuò)
"Oops! It seems that sphinx was built with wrong endianess (cross-compiling?)
either reconfigure and rebuild, defining ac_cv_c_bigendian=no in the environment of
./configure script,
either ensure that '#define USE_LITTLE_ENDIAN = 1' in config/config.h"
我是直接把sphinx下面的config/config.h 改成了他提示的這個(gè) #define USE_LITTLE_ENDIAN = 1,之后make的,
接下來的這段是我們的PHP代碼了
<!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8"> <title>Document</title> </head> <body> <form method="post" action='test.php'> <p>輸入:</p> <input type="text" name="q" autocomplete="false"> </form> </body> </html> <?php // phpinfo();die; ini_set('display_errors','1'); error_reporting(E_ALL); header("Content-type: text/html; charset=utf-8"); if($_POST){ $b_time = microtime(true); $key = $_POST['q']; $index = "users"; //========================================分詞 $so = scws_new(); $so->set_charset('utf-8'); //默認(rèn)詞庫 $so->add_dict(ini_get('scws.default.fpath') . '/dict.utf8.xdb'); //自定義詞庫 // $so->add_dict('./dd.txt',SCWS_XDICT_TXT); //默認(rèn)規(guī)則 $so->set_rule(ini_get('scws.default.fpath') . '/rules.utf8.ini'); //設(shè)定分詞返回結(jié)果時(shí)是否去除一些特殊的標(biāo)點(diǎn)符號 $so->set_ignore(true); //設(shè)定分詞返回結(jié)果時(shí)是否復(fù)式分割,如“中國人”返回“中國+人+中國人”三個(gè)詞。 // 按位異或的 1 | 2 | 4 | 8 分別表示: 短詞 | 二元 | 主要單字 | 所有單字 //1,2,4,8 分別對應(yīng)常量 SCWS_MULTI_SHORT SCWS_MULTI_DUALITY SCWS_MULTI_ZMAIN SCWS_MULTI_ZALL $so->set_multi(false); //設(shè)定是否將閑散文字自動(dòng)以二字分詞法聚合 $so->set_duality(false); //設(shè)定搜索詞 $so->send_text($key); $words_array = $so->get_result(); $words = ""; foreach($words_array as $v) { $words = $words.'|('.$v['word'].')'; } //加入全詞 #$words = '('.$key.')'.$words; $words = trim($words,'|'); $so->close(); echo '<p>輸入:'.$key.'</p>'."\r\n"; echo '<p>分詞:'.$words.'</p>'."\r\n"; //========================================搜索 $sc = new SphinxClient(); $sc->SetServer('127.0.0.1',9312); #$sc->SetMatchMode(SPH_MATCH_ALL); $sc->SetMatchMode(SPH_MATCH_ANY); $sc->SetArrayResult(TRUE); $res = $sc->Query($words,$index); echo "<hr>"; echo "<pre>"; print_r($res); $e_time = microtime(true); $time = $e_time - $b_time; echo $time; } exit; ?>
sphinx 配置文件解析
source:數(shù)據(jù)源,數(shù)據(jù)是從什么地方來的。
index:索引,當(dāng)有數(shù)據(jù)源之后,從數(shù)據(jù)源處構(gòu)建索引。索引實(shí)際上就是相當(dāng)于一個(gè)字典檢索。有了整本字典內(nèi)容以后,才會(huì)有字典檢索。
searchd:提供搜索查詢服務(wù)。它一般是以deamon的形式運(yùn)行在后臺的。
indexer:構(gòu)建索引的服務(wù)。當(dāng)要重新構(gòu)建索引的時(shí)候,就是調(diào)用indexer這個(gè)命令。
attr:屬性,屬性是存在索引中的,它不進(jìn)行全文索引,但是可以用于過濾和排序。
sphinx.conf
## 數(shù)據(jù)源src1 source src1 { ## 說明數(shù)據(jù)源的類型。數(shù)據(jù)源的類型可以是:mysql,pgsql,mssql,xmlpipe,odbc,python ## 有人會(huì)奇怪,python是一種語言怎么可以成為數(shù)據(jù)源呢? ## python作為一種語言,可以操作任意其他的數(shù)據(jù)來源來獲取數(shù)據(jù),更多數(shù)據(jù)請看:(http://www.coreseek.cn/products-install/python/) type = mysql ## 下面是sql數(shù)據(jù)庫特有的端口,用戶名,密碼,數(shù)據(jù)庫名等。 sql_host = localhost sql_user = test sql_pass = sql_db = test sql_port = 3306 ## 如果是使用unix sock連接可以使用這個(gè)。 # sql_sock = /tmp/mysql.sock ## indexer和mysql之間的交互,需要考慮到效率和安全性。 ## 比如考慮到效率,他們兩者之間的交互需要使用壓縮協(xié)議;考慮到安全,他們兩者之間的傳輸需要使用ssl ## 那么這個(gè)參數(shù)就代表這個(gè)意思,0/32/2048/32768 無/使用壓縮協(xié)議/握手后切換到ssl/Mysql 4.1版本身份認(rèn)證。 # mysql_connect_flags = 32 ## 當(dāng)mysql_connect_flags設(shè)置為2048(ssl)的時(shí)候,下面幾個(gè)就代表ssl連接所需要使用的幾個(gè)參數(shù)。 # mysql_ssl_cert = /etc/ssl/client-cert.pem # mysql_ssl_key = /etc/ssl/client-key.pem # mysql_ssl_ca = /etc/ssl/cacert.pem ## mssql特有,是否使用windows登陸 # mssql_winauth = 1 ## mssql特有,是使用unicode還是單字節(jié)數(shù)據(jù)。 # mssql_unicode = 1 # request Unicode data from server ## odbc的dsn串 # odbc_dsn = DBQ=C:\data;DefaultDir=C:\data;Driver={Microsoft Text Driver (*.txt; *.csv)}; ## sql某一列的緩沖大小,一般是針對字符串來說的。 ## 為什么要有這么一種緩沖呢? ## 有的字符串,雖然長度很長,但是實(shí)際上并沒有使用那么長的字符,所以在Sphinx并不會(huì)收錄所有的字符,而是給每個(gè)屬性一個(gè)緩存作為長度限制。 ## 默認(rèn)情況下非字符類型的屬性是1KB,字符類型的屬性是1MB。 ## 而如果想要配置這個(gè)buffer的話,就可以在這里進(jìn)行配置了。 # sql_column_buffers = content=12M, comments=1M ## indexer的sql執(zhí)行前需要執(zhí)行的操作。 # sql_query_pre = SET NAMES utf8 # sql_query_pre = SET SESSION query_cache_type=OFF ## indexer的sql執(zhí)行語句 sql_query = \ SELECT id, group_id, UNIX_TIMESTAMP(date_added) AS date_added, title, content \ FROM documents ## 有的時(shí)候有多個(gè)表,我們想要查詢的字段在其他表中。這個(gè)時(shí)候就需要對sql_query進(jìn)行join操作。 ## 而這個(gè)join操作可能非常慢,導(dǎo)致建立索引的時(shí)候特別慢,那么這個(gè)時(shí)候,就可以考慮在sphinx端進(jìn)行join操作了。 ## sql_joined_field是增加一個(gè)字段,這個(gè)字段是從其他表查詢中查詢出來的。 ## 這里封號后面的查詢語句是有要求的,如果是query,則返回id和查詢字段,如果是payload-query,則返回id,查詢字段和權(quán)重。 ## 并且這里的后一個(gè)查詢需要按照id進(jìn)行升序排列。 # sql_joined_field = tags from query; SELECT docid, CONCAT('tag',tagid) FROM tags ORDER BY docid ASC # sql_joined_field = wtags from payload-query; SELECT docid, tag, tagweight FROM tags ORDER BY docid ASC ## 外部文件字段,意思就是一個(gè)表中,有一個(gè)字段存的是外部文件地址,但是實(shí)際的字段內(nèi)容在文件中。比如這個(gè)字段叫做content_file_path。 ## 當(dāng)indexer建立索引的時(shí)候,查到這個(gè)字段,就讀取這個(gè)文件地址,然后加載,并進(jìn)行分詞和索引建立等操作。 # sql_file_field = content_file_path ## 當(dāng)數(shù)據(jù)源數(shù)據(jù)太大的時(shí)候,一個(gè)sql語句查詢下來往往很有可能鎖表等操作。 ## 那么我么就可以使用多次查詢,那么這個(gè)多次查詢就需要有個(gè)范圍和步長,sql_query_range和sql_range_step就是做這個(gè)使用的。 ## 獲取最大和最小的id,然后根據(jù)步長來獲取數(shù)據(jù)。比如下面的例子,如果有4500條數(shù)據(jù),這個(gè)表建立索引的時(shí)候就會(huì)進(jìn)行5次sql查詢。 ## 而5次sql查詢每次的間隔時(shí)間是使用sql_ranged_rhrottle來進(jìn)行設(shè)置的。單位是毫秒。 # sql_query_range = SELECT MIN(id),MAX(id) FROM documents # sql_range_step = 1000 # sql_ranged_throttle = 0 ## 下面都是些不同屬性的數(shù)據(jù)了 ## 先要了解屬性的概念:屬性是存在索引中的,它不進(jìn)行全文索引,但是可以用于過濾和排序。 ## uint無符號整型屬性 sql_attr_uint = group_id ## bool屬性 # sql_attr_bool = is_deleted ## 長整型屬性 # sql_attr_bigint = my_bigint_id ## 時(shí)間戳屬性,經(jīng)常被用于做排序 sql_attr_timestamp = date_added ## 字符串排序?qū)傩浴R话阄覀儼凑兆址判虻脑?,我們?huì)將這個(gè)字符串存下來進(jìn)入到索引中,然后在查詢的時(shí)候比較索引中得字符大小進(jìn)行排序。 ## 但是這個(gè)時(shí)候索引就會(huì)很大,于是我們就想到了一個(gè)方法,我們在建立索引的時(shí)候,先將字符串值從數(shù)據(jù)庫中取出,暫存,排序。 ## 然后給排序后的數(shù)組分配一個(gè)序號,然后在建立索引的時(shí)候,就將這個(gè)序號存入到索引中去。這樣在查詢的時(shí)候也就能完成字符串排序的操作。 ## 這,就是這個(gè)字段的意義。 # sql_attr_str2ordinal = author_name ## 浮點(diǎn)數(shù)屬性,經(jīng)常在查詢地理經(jīng)緯度的時(shí)候會(huì)用到。 # sql_attr_float = lat_radians # sql_attr_float = long_radians ## 多值屬性(MVA) ## 試想一下,有一個(gè)文章系統(tǒng),每篇文章都有多個(gè)標(biāo)簽,這個(gè)文章就叫做多值屬性。 ## 我要對某個(gè)標(biāo)簽進(jìn)行查詢過濾,那么在建立查詢的時(shí)候就應(yīng)該把這個(gè)標(biāo)簽的值放入到索引中。 ## 這個(gè)字段,sql_attr_multi就是用來做這個(gè)事情的。 # sql_attr_multi = uint tag from query; SELECT docid, tagid FROM tags # sql_attr_multi = uint tag from ranged-query; \ # SELECT docid, tagid FROM tags WHERE id>=$start AND id<=$end; \ # SELECT MIN(docid), MAX(docid) FROM tags ## 字符串屬性。 # sql_attr_string = stitle ## 文檔詞匯數(shù)記錄屬性。比如下面就是在索引建立的時(shí)候增加一個(gè)詞匯數(shù)的字段 # sql_attr_str2wordcount = stitle ## 字符串字段,可全文搜索,可返回原始文本信息。 # sql_field_string = author ## 文檔詞匯數(shù)記錄字段,可全文搜索,可返回原始信息 # sql_field_str2wordcount = title ## 取后查詢,在sql_query執(zhí)行后立即操作。 ## 它和sql_query_post_index的區(qū)別就是執(zhí)行時(shí)間不同 ## sql_query_post是在sql_query執(zhí)行后執(zhí)行,而sql_query_post_index是在索引建立完成后才執(zhí)行。 ## 所以如果要記錄最后索引執(zhí)行時(shí)間,那么應(yīng)該在sql_query_post_index中執(zhí)行。 # sql_query_post = ## 參考sql_query_post的說明。 # sql_query_post_index = REPLACE INTO counters ( id, val ) \ # VALUES ( 'max_indexed_id', $maxid ) ## 命令行獲取信息查詢。 ## 什么意思呢? ## 我們進(jìn)行索引一般只會(huì)返回主鍵id,而不會(huì)返回表中的所有字段。 ## 但是在調(diào)試的時(shí)候,我們一般需要返回表中的字段,那這個(gè)時(shí)候,就需要使用sql_query_info。 ## 同時(shí)這個(gè)字段只在控制臺有效,在api中是無效的。 sql_query_info = SELECT * FROM documents WHERE id=$id ## 比如有兩個(gè)索引,一個(gè)索引比較舊,一個(gè)索引比較新,那么舊索引中就會(huì)有數(shù)據(jù)是舊的。 ## 當(dāng)我要對兩個(gè)索引進(jìn)行搜索的時(shí)候,哪些數(shù)據(jù)要按照新的索引來進(jìn)行查詢呢。 ## 這個(gè)時(shí)候就使用到了這個(gè)字段了。 ## 這里的例子(http://www.coreseek.cn/docs/coreseek_4.1-sphinx_2.0.1-beta.html#conf-sql-query-killlist)給的非常清晰了。 # sql_query_killlist = SELECT id FROM documents WHERE edited>=@last_reindex ## 下面幾個(gè)壓縮解壓的配置都是為了一個(gè)目的:讓索引重建的時(shí)候不要影響數(shù)據(jù)庫的性能表現(xiàn)。 ## SQL數(shù)據(jù)源解壓字段設(shè)置 # unpack_zlib = zlib_column ## MySQL數(shù)據(jù)源解壓字段設(shè)置 # unpack_mysqlcompress = compressed_column # unpack_mysqlcompress = compressed_column_2 ## MySQL數(shù)據(jù)源解壓緩沖區(qū)設(shè)置 # unpack_mysqlcompress_maxsize = 16M ## xmlpipe的數(shù)據(jù)源就是一個(gè)xml文檔 # type = xmlpipe ## 讀取數(shù)據(jù)源的命令 # xmlpipe_command = cat /home/yejianfeng/instance/coreseek/var/test.xml ## 字段 # xmlpipe_field = subject # xmlpipe_field = content ## 屬性 # xmlpipe_attr_timestamp = published # xmlpipe_attr_uint = author_id ## UTF-8修復(fù)設(shè)置 ## 只適用xmlpipe2數(shù)據(jù)源,數(shù)據(jù)源中有可能有非utf-8的字符,這個(gè)時(shí)候解析就有可能出現(xiàn)問題 ## 如果設(shè)置了這個(gè)字段,非utf-8序列就會(huì)全部被替換為空格。 # xmlpipe_fixup_utf8 = 1 } ## sphinx的source是有繼承這么一種屬性的,意思就是除了父source之外,這個(gè)source還有這個(gè)特性 source src1throttled : src1 { sql_ranged_throttle = 100 } ## 索引test1 index test1 { ## 索引類型,包括有plain,distributed和rt。分別是普通索引/分布式索引/增量索引。默認(rèn)是plain。 # type = plain ## 索引數(shù)據(jù)源 source = src1 ## 索引文件存放路徑 path = /home/yejianfeng/instance/coreseek/var/data/test1 ## 文檔信息的存儲模式,包括有none,extern,inline。默認(rèn)是extern。 ## docinfo指的就是數(shù)據(jù)的所有屬性(field)構(gòu)成的一個(gè)集合。 ## 首先文檔id是存儲在一個(gè)文件中的(spa) ## 當(dāng)使用inline的時(shí)候,文檔的屬性和文件的id都是存放在spa中的,所以進(jìn)行查詢過濾的時(shí)候,不需要進(jìn)行額外操作。 ## 當(dāng)使用extern的時(shí)候,文檔的屬性是存放在另外一個(gè)文件(spd)中的,但是當(dāng)啟動(dòng)searchd的時(shí)候,會(huì)把這個(gè)文件加載到內(nèi)存中。 ## extern就意味著每次做查詢過濾的時(shí)候,除了查找文檔id之外,還需要去內(nèi)存中根據(jù)屬性進(jìn)行過濾。 ## 但是即使這樣,extern由于文件大小小,效率也不低。所以不是有特殊要求,一般都是使用extern docinfo = extern ## 緩沖內(nèi)存鎖定。 ## searchd會(huì)講spa和spi預(yù)讀取到內(nèi)存中。但是如果這部分內(nèi)存數(shù)據(jù)長時(shí)間沒有訪問,則它會(huì)被交換到磁盤上。 ## 設(shè)置了mlock就不會(huì)出現(xiàn)這個(gè)問題,這部分?jǐn)?shù)據(jù)會(huì)一直存放在內(nèi)存中的。 mlock = 0 ## 詞形處理器 ## 詞形處理是什么意思呢?比如在英語中,dogs是dog的復(fù)數(shù),所以dog是dogs的詞干,這兩個(gè)實(shí)際上是同一個(gè)詞。 ## 所以英語的詞形處理器會(huì)講dogs當(dāng)做dog來進(jìn)行處理。 morphology = none ## 詞形處理有的時(shí)候會(huì)有問題,比如將gps處理成gp,這個(gè)設(shè)置可以允許根據(jù)詞的長度來決定是否要使用詞形處理器。 # min_stemming_len = 1 ## 詞形處理后是否還要檢索原詞? # index_exact_words = 1 ## 停止詞,停止詞是不被索引的詞。 # stopwords = /home/yejianfeng/instance/coreseek/var/data/stopwords.txt ## 自定義詞形字典 # wordforms = /home/yejianfeng/instance/coreseek/var/data/wordforms.txt ## 詞匯特殊處理。 ## 有的一些特殊詞我們希望把它當(dāng)成另外一個(gè)詞來處理。比如,c++ => cplusplus來處理。 # exceptions = /home/yejianfeng/instance/coreseek/var/data/exceptions.txt ## 最小索引詞長度,小于這個(gè)長度的詞不會(huì)被索引。 min_word_len = 1 ## 字符集編碼類型,可以為sbcs,utf-8。對于Coreseek,還可以有zh_cn.utf-8,zh_ch.gbk,zh_ch.big5 charset_type = sbcs ## 字符表和大小寫轉(zhuǎn)換規(guī)則。對于Coreseek,這個(gè)字段無效。 # 'sbcs' default value is # charset_table = 0..9, A..Z->a..z, _, a..z, U+A8->U+B8, U+B8, U+C0..U+DF->U+E0..U+FF, U+E0..U+FF # # 'utf-8' default value is # charset_table = 0..9, A..Z->a..z, _, a..z, U+410..U+42F->U+430..U+44F, U+430..U+44F ## 忽略字符表。在忽略字符表中的前后詞會(huì)被連起來當(dāng)做一個(gè)單獨(dú)關(guān)鍵詞處理。 # ignore_chars = U+00AD ## 是否啟用通配符,默認(rèn)為0,不啟用 # enable_star = 1 ## min_prefix_len,min_infix_len,prefix_fields,infix_fields都是在enable_star開啟的時(shí)候才有效果。 ## 最小前綴索引長度 ## 為什么要有這個(gè)配置項(xiàng)呢? ## 首先這個(gè)是當(dāng)啟用通配符配置啟用的前提下說的,前綴索引使得一個(gè)關(guān)鍵詞產(chǎn)生了多個(gè)索引項(xiàng),導(dǎo)致索引文件體積和搜索時(shí)間增加巨大。 ## 那么我們就有必要限制下前綴索引的前綴長度,比如example,當(dāng)前綴索引長度設(shè)置為5的時(shí)候,它只會(huì)分解為exampl,example了。 # min_prefix_len = 0 ## 最小索引中綴長度。理解同上。 # min_infix_len = 0 ## 前綴索引和中綴索引字段列表。并不是所有的字段都需要進(jìn)行前綴和中綴索引。 # prefix_fields = filename # infix_fields = url, domain ## 詞匯展開 ## 是否盡可能展開關(guān)鍵字的精確格式或者型號形式 # expand_keywords = 1 ## N-Gram索引的分詞技術(shù) ## N-Gram是指不按照詞典,而是按照字長來分詞,這個(gè)主要是針對非英文體系的一些語言來做的(中文、韓文、日文) ## 對coreseek來說,這兩個(gè)配置項(xiàng)可以忽略。 # ngram_len = 1 # ngram_chars = U+3000..U+2FA1F ## 詞組邊界符列表和步長 ## 哪些字符被看做分隔不同詞組的邊界。 # phrase_boundary = ., ?, !, U+2026 # horizontal ellipsis # phrase_boundary_step = 100 ## 混合字符列表 # blend_chars = +, &, U+23 # blend_mode = trim_tail, skip_pure ## html標(biāo)記清理,是否從輸出全文數(shù)據(jù)中去除HTML標(biāo)記。 html_strip = 0 ## HTML標(biāo)記屬性索引設(shè)置。 # html_index_attrs = img=alt,title; a=title; ## 需要清理的html元素 # html_remove_elements = style, script ## searchd是預(yù)先打開全部索引還是每次查詢再打開索引。 # preopen = 1 ## 字典文件是保持在磁盤上還是將他預(yù)先緩沖在內(nèi)存中。 # ondisk_dict = 1 ## 由于在索引建立的時(shí)候,需要建立臨時(shí)文件和和副本,還有舊的索引 ## 這個(gè)時(shí)候磁盤使用量會(huì)暴增,于是有個(gè)方法是臨時(shí)文件重復(fù)利用 ## 這個(gè)配置會(huì)極大減少建立索引時(shí)候的磁盤壓力,代價(jià)是索引建立速度變慢。 # inplace_enable = 1 # inplace_hit_gap = 0 # preallocated hitlist gap size # inplace_docinfo_gap = 0 # preallocated docinfo gap size # inplace_reloc_factor = 0.1 # relocation buffer size within arena # inplace_write_factor = 0.1 # write buffer size within arena ## 在經(jīng)過過短的位置后增加位置值 # overshort_step = 1 ## 在經(jīng)過 停用詞 處后增加位置值 # stopword_step = 1 ## 位置忽略詞匯列表 # hitless_words = all # hitless_words = hitless.txt ## 是否檢測并索引句子和段落邊界 # index_sp = 1 ## 字段內(nèi)需要索引的HTML/XML區(qū)域的標(biāo)簽列表 # index_zones = title, h*, th } index test1stemmed : test1 { path = /home/yejianfeng/instance/coreseek/var/data/test1stemmed morphology = stem_en } index dist1 { type = distributed local = test1 local = test1stemmed ## 分布式索引(distributed index)中的遠(yuǎn)程代理和索引聲明 agent = localhost:9313:remote1 agent = localhost:9314:remote2,remote3 # agent = /var/run/searchd.sock:remote4 ## 分布式索引( distributed index)中聲明遠(yuǎn)程黑洞代理 # agent_blackhole = testbox:9312:testindex1,testindex2 ## 遠(yuǎn)程代理的連接超時(shí)時(shí)間 agent_connect_timeout = 1000 ## 遠(yuǎn)程查詢超時(shí)時(shí)間 agent_query_timeout = 3000 } index rt { type = rt path = /home/yejianfeng/instance/coreseek/var/data/rt ## RT索引內(nèi)存限制 # rt_mem_limit = 512M ## 全文字段定義 rt_field = title rt_field = content ## 無符號整數(shù)屬性定義 rt_attr_uint = gid ## 各種屬性定義 # rt_attr_bigint = guid # rt_attr_float = gpa # rt_attr_timestamp = ts_added # rt_attr_string = author } indexer { ## 建立索引的時(shí)候,索引內(nèi)存限制 mem_limit = 32M ## 每秒最大I/O操作次數(shù),用于限制I/O操作 # max_iops = 40 ## 最大允許的I/O操作大小,以字節(jié)為單位,用于I/O節(jié)流 # max_iosize = 1048576 ## 對于XMLLpipe2數(shù)據(jù)源允許的最大的字段大小,以字節(jié)為單位 # max_xmlpipe2_field = 4M ## 寫緩沖區(qū)的大小,單位是字節(jié) # write_buffer = 1M ## 文件字段可用的最大緩沖區(qū)大小,字節(jié)為單位 # max_file_field_buffer = 32M } ## 搜索服務(wù)配置 searchd { # listen = 127.0.0.1 # listen = 192.168.0.1:9312 # listen = 9312 # listen = /var/run/searchd.sock ## 監(jiān)聽端口 listen = 9312 listen = 9306:mysql41 ## 監(jiān)聽日志 log = /home/yejianfeng/instance/coreseek/var/log/searchd.log ## 查詢?nèi)罩? query_log = /home/yejianfeng/instance/coreseek/var/log/query.log ## 客戶端讀超時(shí)時(shí)間 read_timeout = 5 ## 客戶端持久連接超時(shí)時(shí)間,即客戶端讀一次以后,持久連接,然后再讀一次。中間這個(gè)持久連接的時(shí)間。 client_timeout = 300 ## 并行執(zhí)行搜索的數(shù)目 max_children = 30 ## 進(jìn)程id文件 pid_file = /home/yejianfeng/instance/coreseek/var/log/searchd.pid ## 守護(hù)進(jìn)程在內(nèi)存中為每個(gè)索引所保持并返回給客戶端的匹配數(shù)目的最大值 max_matches = 1000 ## 無縫輪轉(zhuǎn)。防止 searchd 輪換在需要預(yù)取大量數(shù)據(jù)的索引時(shí)停止響應(yīng) ## 當(dāng)進(jìn)行索引輪換的時(shí)候,可能需要消耗大量的時(shí)間在輪換索引上。 ## 但是啟動(dòng)了無縫輪轉(zhuǎn),就以消耗內(nèi)存為代價(jià)減少輪轉(zhuǎn)的時(shí)間 seamless_rotate = 1 ## 索引預(yù)開啟,是否強(qiáng)制重新打開所有索引文件 preopen_indexes = 1 ## 索引輪換成功之后,是否刪除以.old為擴(kuò)展名的索引拷貝 unlink_old = 1 ## 屬性刷新周期 ## 就是使用UpdateAttributes()更新的文檔屬性每隔多少時(shí)間寫回到磁盤中。 # attr_flush_period = 900 ## 索引字典存儲方式 # ondisk_dict_default = 1 ## 用于多值屬性MVA更新的存儲空間的內(nèi)存共享池大小 mva_updates_pool = 1M ## 網(wǎng)絡(luò)通訊時(shí)允許的最大的包的大小 max_packet_size = 8M ## 崩潰日志文件 # crash_log_path = /home/yejianfeng/instance/coreseek/var/log/crash ## 每次查詢允許設(shè)置的過濾器的最大個(gè)數(shù) max_filters = 256 ## 單個(gè)過濾器允許的值的最大個(gè)數(shù) max_filter_values = 4096 ## TCP監(jiān)聽待處理隊(duì)列長度 # listen_backlog = 5 ## 每個(gè)關(guān)鍵字的讀緩沖區(qū)的大小 # read_buffer = 256K ## 無匹配時(shí)讀操作的大小 # read_unhinted = 32K ## 每次批量查詢的查詢數(shù)限制 max_batch_queries = 32 ## 每個(gè)查詢的公共子樹文檔緩存大小 # subtree_docs_cache = 4M ## 每個(gè)查詢的公共子樹命中緩存大小 # subtree_hits_cache = 8M ## 多處理模式(MPM)。 可選項(xiàng);可用值為none、fork、prefork,以及threads。 默認(rèn)在Unix類系統(tǒng)為form,Windows系統(tǒng)為threads。 workers = threads # for RT to work ## 并發(fā)查詢線程數(shù) # dist_threads = 4 ## 二進(jìn)制日志路徑 # binlog_path = # disable logging # binlog_path = /home/yejianfeng/instance/coreseek/var/data # binlog.001 etc will be created there ## 二進(jìn)制日志刷新 # binlog_flush = 2 ## 二進(jìn)制日志大小限制 # binlog_max_log_size = 256M ## 線程堆棧 # thread_stack = 128K ## 關(guān)鍵字展開限制 # expansion_limit = 1000 ## RT索引刷新周期 # rt_flush_period = 900 ## 查詢?nèi)罩靖袷? ## 可選項(xiàng),可用值為plain、sphinxql,默認(rèn)為plain。 # query_log_format = sphinxql ## MySQL版本設(shè)置 # mysql_version_string = 5.0.37 ## 插件目錄 # plugin_dir = /usr/local/sphinx/lib ## 服務(wù)端默認(rèn)字符集 # collation_server = utf8_general_ci ## 服務(wù)端libc字符集 # collation_libc_locale = ru_RU.UTF-8 ## 線程服務(wù)看守 # watchdog = 1 ## 兼容模式 # compat_sphinxql_magics = 1 }
關(guān)于如何在PHP中使用MySQL+sphinx+scws實(shí)現(xiàn)全文檢索功能就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,可以學(xué)到更多知識。如果覺得文章不錯(cuò),可以把它分享出去讓更多的人看到。
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。