您好,登錄后才能下訂單哦!
這篇文章給大家介紹python中怎么處理文本數(shù)據(jù),內(nèi)容非常詳細(xì),感興趣的小伙伴們可以參考借鑒,希望對(duì)大家能有所幫助。
1) 問(wèn)題描述
數(shù)據(jù):某個(gè)區(qū)域181天內(nèi)的訪客數(shù)據(jù),格式如下,第一列代表訪客的名稱,第二列代表這位訪客在181天內(nèi)到達(dá)這片區(qū)域的時(shí)刻:
目的:將訪客數(shù)據(jù)進(jìn)行統(tǒng)計(jì),并時(shí)間離散化,按照天 /周/小時(shí)處理為72624的三維矩陣。
也就是說(shuō),矩陣中的每一個(gè)值,代表該區(qū)域 周X、第幾周、幾點(diǎn) 的到訪人數(shù),如
[1,5,19]=100,代表第5周的周一晚上7點(diǎn)的人數(shù)為100。
2)難點(diǎn)
當(dāng)然是對(duì)我的難點(diǎn)。
2.1)怎么按行統(tǒng)計(jì)
2.2)怎么進(jìn)行時(shí)間離散化(存為天、周、時(shí)刻的矩陣)
3)代碼
import time import numpy as np import sys import datetime import pandas as pd import os #用字典查詢代替類型轉(zhuǎn)換,可以減少一部分計(jì)算時(shí)間 date2position = {} datestr2dateint = {} str2int = {} for i in range(182): date = datetime.date(day=1, month=10, year=2018)+datetime.timedelta(days=i) #print(i,":",date) date_int = int(date.__str__().replace("-", "")) date2position[date_int] = [i%7, i//7] datestr2dateint[str(date_int)] = date_int #print(datestr2dateint) # for i in range(24): str2int[str(i).zfill(2)] = i f=open("D:\BaiDuBigData19-URFC-master\\UrbanRegionFunctionClassification-master\data\\train_visit\\000000_008.txt") #table = pd.read_csv(f, header=None,error_bad_lines=False) table = pd.read_csv(f, header=None,sep='\t') #print(table.shape) #print(table.ix[1]) strings = table[1] #print(strings) init = np.zeros((7, 26, 24)) for string in strings: temp = [] for item in string.split(','): temp.append([item[0:8], item[9:].split("|")]) for date, visit_lst in temp: # x - 第幾周 # y - 第幾天 # z - 幾點(diǎn)鐘 # value - 到訪的總?cè)藬?shù) # print(visit_lst) print(date) x, y = date2position[datestr2dateint[date]] for visit in visit_lst: # 統(tǒng)計(jì)到訪的總?cè)藬?shù) init[x][y][str2int[visit]] += 1 #print(init[x][y][str2int[visit]])```
3.1)創(chuàng)建字典,時(shí)間離散化,節(jié)省時(shí)間
此處創(chuàng)建了三個(gè)字典,讓我們看一下代碼實(shí)現(xiàn)以及打印結(jié)果:
date2position = {} datestr2dateint = {} str2int = {} for i in range(182): date = datetime.date(day=1, month=10, year=2018)+datetime.timedelta(days=i) #print(i,":",date) date_int = int(date.__str__().replace("-", "")) date2position[date_int] = [i%7, i//7] datestr2dateint[str(date_int)] = date_int for i in range(24): str2int[str(i).zfill(2)] = i
打印一下 date2position:
打印一下 datestr2dateint:
打印str2int:
可以看出,datestr2dateint是將str的日期,轉(zhuǎn)換為了int的日期。
而date2position 才是計(jì)算出的每一個(gè)具體的日期,代表了第幾周、第幾天。
str2int代表了一天中的24個(gè)時(shí)刻。
3.2)讀取文件,按行獲取字符串
注意到文本的分隔符為\t(區(qū)分用戶名與到訪信息的分割),于是采用
f=open("D:\BaiDuBigData19-URFC-master\\UrbanRegionFunctionClassification-master\data\\train_visit\\000000_008.txt") #table = pd.read_csv(f, header=None,error_bad_lines=False) table = pd.read_csv(f, header=None,sep='\t')
然后用strings讀取到訪信息,也就是table的第二列:
strings = table[1]
3.3)切分字符串
首先,strings為:
可以看到每一行string,為一個(gè)用戶的到訪記錄,循環(huán)讀取。其中,不同日期的到訪是用“,”隔開(kāi),故要使用:
for string in strings: temp = [] for item in string.split(','):
item就可以分開(kāi)每一個(gè)日期的到訪記錄了:
其后,使用temp列表,每一行存儲(chǔ)日期和時(shí)刻。
如第一個(gè)item為 20181221&09|10|11|12|13|14|15
日期為 item[0:8],
時(shí)刻之間使用分隔符“|”隔開(kāi),故可以通過(guò)item[9:].split("|")得到。
temp.append([item[0:8], item[9:].split("|")])
打印一下temp為:
所以需要用兩個(gè)數(shù)據(jù)分別存儲(chǔ)日期,以及時(shí)刻。
首先用來(lái)轉(zhuǎn)換成 周、天、時(shí)刻的72624矩陣(根據(jù)前面的轉(zhuǎn)換函數(shù))
其后根據(jù)這個(gè)矩陣,統(tǒng)計(jì)每一個(gè)位置的訪客數(shù)量
for date, visit_lst in temp: # x - 第幾周 # y - 第幾天 # z - 幾點(diǎn)鐘 # value - 到訪的總?cè)藬?shù) # print(visit_lst) #print(date) x, y = date2position[datestr2dateint[date]] for visit in visit_lst: # 統(tǒng)計(jì)到訪的總?cè)藬?shù) init[x][y][str2int[visit]] += 1
關(guān)于python中怎么處理文本數(shù)據(jù)就分享到這里了,希望以上內(nèi)容可以對(duì)大家有一定的幫助,可以學(xué)到更多知識(shí)。如果覺(jué)得文章不錯(cuò),可以把它分享出去讓更多的人看到。
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。