溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

lucene倒排索引的存儲方式介紹

發(fā)布時間:2021-07-06 10:36:03 來源:億速云 閱讀:242 作者:chen 欄目:大數(shù)據(jù)

這篇文章主要講解了“l(fā)ucene倒排索引的存儲方式介紹”,文中的講解內(nèi)容簡單清晰,易于學(xué)習(xí)與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學(xué)習(xí)“l(fā)ucene倒排索引的存儲方式介紹”吧!

        在談?wù)刲ucene倒排索引的存儲方式中只說明了倒排索引位置相關(guān)信息的存儲,并沒有詳細說明如果需要對位置信息進行隨機訪問,那么它的索引該如何設(shè)計。lucene采用的是多級跳躍鏈表的方式,先說說跳躍鏈表基本思想(其實在前面文中也提過),假設(shè)給定一堆排過序的數(shù)字,并且數(shù)據(jù)量很大以至于在內(nèi)存中放不下,如果要快速隨機訪問其中的某個數(shù)值,一種方法是對這些數(shù)字每隔一定的條數(shù)如1000條就記錄相應(yīng)的數(shù)值以及對應(yīng)的文件指針,然后把這些數(shù)值以及對應(yīng)的文件指針加載到內(nèi)存中采用二分查找法找到欲查找數(shù)值所在數(shù)據(jù)塊的起始地址,然后將1000條記錄依次遍歷比較或者加載到內(nèi)存中采用二分查找都可以,這些數(shù)值和文件指針又叫一級跳躍表。

        如果說一級跳躍表的數(shù)據(jù)量依然很大,那么又要在此基礎(chǔ)上再建立一層跳躍表,依此類推就會有多級跳躍表了。值得一提的是級數(shù)并不是越多越好,因為層級越多,查找的次數(shù)也越多,lucene默認(rèn)最大層級為10。

lucene倒排索引的存儲方式介紹

上圖是lucene官方給出的示圖(一個詞代表的倒排位置索引),d代表文檔,x代表每隔128個文檔進行壓縮的文件指針也是第一層級的索引記錄了相應(yīng)的文檔ID和所在文件的指針,c分別為第二層級和第三層級。這樣感覺在代碼實現(xiàn)上較復(fù)雜的索引結(jié)構(gòu)確在lucene實現(xiàn)的時候顯得非常討巧,因為總的層級可以預(yù)先算出來,然后可以邊寫邊計算出文檔所在層級。有興趣滴還是看代碼吧。

感謝各位的閱讀,以上就是“l(fā)ucene倒排索引的存儲方式介紹”的內(nèi)容了,經(jīng)過本文的學(xué)習(xí)后,相信大家對lucene倒排索引的存儲方式介紹這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關(guān)知識點的文章,歡迎關(guān)注!

向AI問一下細節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI