MongoDB-Map&Reduce

模擬大數(shù)據(jù)搜索場景--‐何旭東

請使用腳本插入本次課程中的Map&Reduce舉例的學(xué)生表到1000w條文檔。字段

保持不變。

使用Map&Reduce 計算出10<age<20 的每班學(xué)生的個數(shù)。

請?zhí)峤籑ap&Reduce 程序，已經(jīng)對應(yīng)的計算結(jié)果。

>

db.users.count();

10000000

>

db.users.find();

{

"_id"

:

ObjectId("55ca9ae785b177a46da9494f"),

"classid"

:

1,

"age"

:

37,

"name"

:

"name0"

}

{

"_id"

:

ObjectId("55ca9ae785b177a46da94950"),

"classid"

:

1,

"age"

:

12,

"name"

:

"name1"

}

{

"_id"

:

ObjectId("55ca9ae785b177a46da94951"),

"classid"

:

1,

"age"

:

31,

"name"

:

"name2"

}

{

"_id"

:

ObjectId("55ca9ae785b177a46da94952"),

"classid"

:

2,

"age"

:

27,

"name"

:

"name3"

}

腳本創(chuàng)建模擬數(shù)據(jù)：

for (var i=1;

i<10000000;i++){ db.users.save({classid:Math.ceil(Math.random()*(2)),age:Math.cei

l(Math.random()*(38-8)+8),name:"name"+i}) };

Map 函數(shù) Map 函數(shù)必須調(diào)用emit(key,value)返回鍵值對。使用this 返回當(dāng)前待

處理的文檔。

> mapf = function(){emit(this.classid, 1)}

function (){emit(this.classid, 1)}

Reduce 函數(shù)

Reduce 函數(shù)接收的參數(shù)類似Group 效果,已經(jīng)按照健聚合過一次

將Map 返回的鍵值序列組合成{key, [value1,value2,value3,....,valuen]}傳遞給

Reduce,Reduce 函數(shù)對values 統(tǒng)計

> reducef=function (key, values) {

... var count = 0;

... values.forEach(function (v) {count += v;}); return count;

... }

function (key, values) {

var count = 0;

values.forEach(function (v) {count += v;}); return count;

}

Options 更多的控制細節(jié)

> res = db.runCommand({ mapreduce:"users", map:mapf, reduce:reducef,

out:"users_res",

finalize:ff,

query:{age:{$lt:10}}

...

});

{

"result"

:

"users_res",

"timeMillis"

:

6251,

"counts"

:

{

"input"

:

333716,

"emit"

:

333716,

"reduce"

:

6676,

"output"

:

2

},

"ok"

:

1

}

>

結(jié)果：

>

db.users_res.find();

{

"_id"

:

1,

"value"

:

{

"classid"

:

1,

"count"

:

167142

}

}

{

"_id"

:

2,

"value"

:

{

"classid"

:

2,

"count"

:

166574

}

}

1 班小于10 歲的有167142 人。2 班小于10 歲的有166574 人。

繼續(xù)統(tǒng)計小于20 歲以下，每個班學(xué)生的個數(shù)：

> res = db.runCommand({ mapreduce:"users", map:mapf, reduce:reducef,

out:"users_2res", finalize:ff, query:{age:{$lt:20}}

... ... });

{

"result" : "users_2res",

"timeMillis" : 23247,

"counts" : {

"input" : 3666243,

"emit" : 3666243,

"reduce" : 73326,

"output" : 2

},

"ok" : 1

}

> db.users_2res.find();

{ "_id" : 1, "value" : { "classid" : 1, "count" : 1832306 } }

{ "_id" : 2, "value" : { "classid" : 2, "count" : 1833937 } }

1 班小于20 歲的有1832306 人。2 班小于20 歲的有1833937 人。