溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

pyhanlp用戶自定義詞典添加實例說明

發(fā)布時間:2020-08-07 15:04:24 來源:ITPUB博客 閱讀:246 作者:adnb34g 欄目:互聯(lián)網(wǎng)科技

pyhanlp用戶自定義詞典添加 實例說明

pyhanlp是python版封裝的的HanLP,項目地址:https://github.com/hankcs/pyhanlp

經(jīng)過測試, HanLP比nltk在中文分詞和實體識別方面都更好用 .

pyhanlp用戶自定義詞典添加實例說明

如何向 pyhanlp添加自定義的詞典?以python 2.7.9為例:

1.安裝pyhanlp:pip install pyhanlp

2.在字典路徑下添加自定義的詞典:CustomDictionary主詞典文本路徑是data/dictionary/custom/CustomDictionary.txt,用戶可以在此增加自己的詞語(不推薦);也可以單獨新建一個文本文件,通過配置文件;CustomDictionaryPath=data/dictionary/custom/CustomDictionary.txt; 我的詞典.txt;來追加詞典(推薦)。

具體絕對路徑可用 hanlp --version獲?。?

#hanlp --version

jar1.6.3:/usr/local/lib/python2.7/site-packages/pyhanlp/static/hanlp-1.6.3.jar

data 1.6.2: /usr/local/lib/python2.7/site-packages/pyhanlp/static/data

config:/usr/local/lib/python2.7/site-packages/pyhanlp/static/hanlp.properties

#cat /usr/local/lib/python2.7/site-packages/pyhanlp/static/hanlp.properties | grep "CustomDictionaryPath"

3.建議在該路徑下添加自己的詞典文件例如 我的詞典.txt,并將其加入上面的properties文件里的CustomDictionaryPath下面。

#cat 我的詞典.txt  

codis集群 nz 1000

今日頭條 nz 1000

 

第一列為詞條,第二列為詞性(默認(rèn)為 n),第三列為詞頻

4.然后需要刪除緩存文件,這樣python才會重新加載新增的文件:

#rm -f CustomDictionary.txt.bin

 

5.測試新增的詞典:

python -c "from pyhanlp import *;print(HanLP.segment('codis集群,今日頭條'))"

五月 16, 2018 4:43:14 下午 com.hankcs.hanlp.corpus.io.IOUtil readBytes

警告: 讀取

/usr/local/lib/python2.7/site-packages/pyhanlp/static/data/dictionary/custom/CustomDictionary.txt.bin時發(fā)生異常java.io.FileNotFoundException: /usr/local/lib/python2.7/site-packages/pyhanlp/static/data/dictionary/custom/CustomDictionary.txt.bin (沒有那個文件或目錄)

 

報這個錯誤沒有關(guān)系,只是個 warning,重新加載緩存文件而已。

 

備注:

HanLP詞性列表: 詳細(xì)的詞性列表可以查詢 hanlp項目網(wǎng)站上內(nèi)容,更為全面詳細(xì)!

---------------------

作者:明月三千里 68

 


向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI