溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

Python響應(yīng)對象text屬性亂碼解決方案

發(fā)布時間:2020-10-16 05:44:38 來源:腳本之家 閱讀:165 作者:何夢吉他 欄目:開發(fā)技術(shù)

在獲得網(wǎng)頁響應(yīng)對象res后,使用res.text屬性可以獲得網(wǎng)頁源代碼,但可能出現(xiàn)亂碼!因?yàn)閞equests庫會使用自動猜測的解碼方式將抓取的網(wǎng)頁源碼進(jìn)行解碼,然后存儲到res對象的text屬性中;

但有的網(wǎng)站的編碼格式和requests庫默認(rèn)的解碼格式()不一樣(比如gbk gb2312是gbk的子集),這時候就要自己手動進(jìn)行解碼,先獲得content屬性,返回的是bytes類型的字符串,再進(jìn)行解碼decode(“網(wǎng)頁的編碼

格式”)

這時候可能出現(xiàn)新的問題

'gbk' codec can't decode byte 0xd0 in position 15264: illegal multibyte sequence

這是因?yàn)橛龅搅朔欠ㄗ址?/p>

比如網(wǎng)頁中有這種字符

Python響應(yīng)對象text屬性亂碼解決方案

全角空格往往有多種不同的實(shí)現(xiàn)方式,比如\xa3\xa0,或者\(yùn)xa4\x57,這些 字符,看起來都是全角空格,但它們并不是“合法”的全角空格(真正的全角空格是\xa1\xa1),因此在轉(zhuǎn)碼的過程中出現(xiàn)了異常。

只要字符串中出現(xiàn)了一個非法字符,整篇文章就都無法轉(zhuǎn)碼。

對于這種字符,根本不需要,不重要!

解決方法:在解碼時候指定errors參數(shù),

decode()的函數(shù)原型是decode([encoding], [errors='strict']),可以用第二個參數(shù)控制錯誤處理的策略,默認(rèn)的參數(shù)是strict,代表遇到非法字符時拋出異常;

  • 如果設(shè)置為ignore,則會忽略非法字符;
  • 如果設(shè)置為replace,則會用?取代非法字符;
  • 如果設(shè)置為xmlcharrefreplace,則使用XML的字符引用

#requests庫默認(rèn)會使用自己猜測的解碼方式將抓取下來的網(wǎng)頁進(jìn)行解碼,然后存儲到text屬性上去;
#但在該網(wǎng)站中,編碼方式和默認(rèn)的解碼方式不一樣,就會產(chǎn)生亂碼,所以要手動進(jìn)行解碼,先獲得content再decode()解碼
#右鍵查看網(wǎng)頁源代碼,發(fā)現(xiàn)是gb2312編碼,gb2312就是gbk的子集,所以用decode("gbk")

以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持億速云。

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI