SlideShare a Scribd company logo
1 of 53
Download to read offline
Hadoop MapReduce デザ
インパターン
——MapReduceによる大規
模テキストデータ処理

1 Jimmy Lin, Chris Dyer�著、神
  林 飛志、野村 直之�監修、玉川
  竜司�訳
2 2011年10月01日 発売予定
3 210ページ
4 定価2,940円
Shuffle &
     barrier




    job start/
     shutdown
i                i+1
1
        B                   E

    5           1
                        4
A                   D               G
        3
            3           2
                                4

        C           5       F
5               1
            B                   E
    5               1
                        3   4
A                       D               G
            3
                3           2                       5!4               min(6,4)
                                    4                             1
                                                     B                     E
            C           5       F
                                            5                 1
                        i                                         3   4
                                        A                         D                G
                                                    3
                                                          3            2
                                                                               4
                                                3                          2
                                                    C             5        F

                                                              i+1
a super step




         http://en.wikipedia.org/wiki/Bulk_Synchronous_Parallel
.
.
.
a super step
a super step
1
        B                    E
    5            1
                         4
A                    D               G
        3
             3           2
                                 4

        C            5       F

            initialize
+∞ B             1           +∞
                             E
    5           1
0                   +∞   4            +∞
A                   D                 G
        3
            3            2
                                  4

    +∞ C            5        F   +∞
                    1
+∞ B             1           +∞
                             E
    5           1
0                   +∞   4            +∞
A                   D                 G
        3
            3            2
                                  4

    +∞ C            5        F   +∞
                    1
+∞ B             1           +∞
                             E
    5           1
0                   +∞   4            +∞
A                   D                 G
        3
            3            2
                                  4

    +∞ C            5        F   +∞
                    1
5               1           +∞
            B                   E
    5               1
0                       3   4            +∞
A                       D                G
            3
                3           2
                                     4

    +∞ C                5       F   +∞
                        1
5               1           +∞
            B                   E
    5               1
0                       3   4            +∞
A                       D                G
            3
                3           2
                                     4

    +∞ C                5       F   +∞
                        2
5               1           +∞
            B                   E
    5               1
0                       3   4            +∞
A                       D                G
            3
                3           2
                                     4

    +∞ C                5       F   +∞
                        2
4               1           6
            B                   E
    5               1
0                       3   4           +∞
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        2
4               1           6
            B                   E
    5               1
0                       3   4           +∞
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        3
4               1           6
            B                   E
    5               1
0                       3   4           +∞
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        3
4               1           5
            B                   E
    5               1
0                       3   4           9
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        3
4               1           5
            B                   E
    5               1
0                       3   4           9
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                    end
+∞ B             1           +∞
                             E
    5           1
0                   +∞   4            +∞
A                   D                 G
        3
            3            2
                                  4

    +∞ C            5        F   +∞
                    1
+∞ B             1           +∞
                             E
    5           1
0                   +∞   4            +∞
A                   D                 G
        3
            3            2
                                  4

    +∞ C            5        F   +∞
                    1
+∞ B             1           +∞
                             E
    5           1
0                   +∞   4            +∞
A                   D                 G
        3
            3            2
                                  4

    +∞ C            5        F   +∞
                    1
5               1           +∞
            B                   E
    5               1
0                       3   4            +∞
A                       D                G
            3
                3           2
                                     4

    +∞ C                5       F   +∞
                        2
5               1           +∞
            B                   E
    5               1
0                       3   4            +∞
A                       D                G
            3
                3           2
                                     4

    +∞ C                5       F   +∞
                        2
4               1           6
            B                   E
    5               1
0                       3   4           +∞
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        3
4               1           6
            B                   E
    5               1
0                       3   4           +∞
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        3
4               1           5
            B                   E
    5               1
0                       3   4           9
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        4
4               1           5
            B                   E
    5               1
0                       3   4           9
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        4
4               1           5
            B                   E
    5               1
0                       3   4           9
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        5
4               1           5
            B                   E
    5               1
0                       3   4           9
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                        5
4               1           5
            B                   E
    5               1
0                       3   4           9
A                       D               G
            3
                3           2
                                    4

    6       C           5       F   5
                    end
Large-Scale Graph Processing〜Introduction〜(LT版)
Large-Scale Graph Processing〜Introduction〜(LT版)
Large-Scale Graph Processing〜Introduction〜(LT版)
Large-Scale Graph Processing〜Introduction〜(LT版)
Large-Scale Graph Processing〜Introduction〜(LT版)
Large-Scale Graph Processing〜Introduction〜(LT版)

More Related Content

More from Takahiro Inoue

オンラインゲームソリューション@トレジャーデータ
オンラインゲームソリューション@トレジャーデータオンラインゲームソリューション@トレジャーデータ
オンラインゲームソリューション@トレジャーデータ
Takahiro Inoue
 
事例で学ぶトレジャーデータ 20140612
事例で学ぶトレジャーデータ 20140612事例で学ぶトレジャーデータ 20140612
事例で学ぶトレジャーデータ 20140612
Takahiro Inoue
 
トレジャーデータ株式会社について(for all Data_Enthusiast!!)
トレジャーデータ株式会社について(for all Data_Enthusiast!!)トレジャーデータ株式会社について(for all Data_Enthusiast!!)
トレジャーデータ株式会社について(for all Data_Enthusiast!!)
Takahiro Inoue
 
この Visualization がすごい2014 〜データ世界を彩るツール6選〜
この Visualization がすごい2014 〜データ世界を彩るツール6選〜この Visualization がすごい2014 〜データ世界を彩るツール6選〜
この Visualization がすごい2014 〜データ世界を彩るツール6選〜
Takahiro Inoue
 
Treasure Data Intro for Data Enthusiast!!
Treasure Data Intro for Data Enthusiast!!Treasure Data Intro for Data Enthusiast!!
Treasure Data Intro for Data Enthusiast!!
Takahiro Inoue
 
Hadoop and the Data Scientist
Hadoop and the Data ScientistHadoop and the Data Scientist
Hadoop and the Data Scientist
Takahiro Inoue
 
MongoDB: Intro & Application for Big Data
MongoDB: Intro & Application  for Big DataMongoDB: Intro & Application  for Big Data
MongoDB: Intro & Application for Big Data
Takahiro Inoue
 
An Introduction to Fluent & MongoDB Plugins
An Introduction to Fluent & MongoDB PluginsAn Introduction to Fluent & MongoDB Plugins
An Introduction to Fluent & MongoDB Plugins
Takahiro Inoue
 
An Introduction to Tinkerpop
An Introduction to TinkerpopAn Introduction to Tinkerpop
An Introduction to Tinkerpop
Takahiro Inoue
 
An Introduction to Neo4j
An Introduction to Neo4jAn Introduction to Neo4j
An Introduction to Neo4j
Takahiro Inoue
 
The Definition of GraphDB
The Definition of GraphDBThe Definition of GraphDB
The Definition of GraphDB
Takahiro Inoue
 
MongoDB & Hadoop: Flexible Hourly Batch Processing Model
MongoDB & Hadoop: Flexible Hourly Batch Processing ModelMongoDB & Hadoop: Flexible Hourly Batch Processing Model
MongoDB & Hadoop: Flexible Hourly Batch Processing Model
Takahiro Inoue
 
MongoDB: Replication,Sharding,MapReduce
MongoDB: Replication,Sharding,MapReduceMongoDB: Replication,Sharding,MapReduce
MongoDB: Replication,Sharding,MapReduce
Takahiro Inoue
 
Map Reduce ~Continuous Map Reduce Design~
Map Reduce ~Continuous Map Reduce Design~Map Reduce ~Continuous Map Reduce Design~
Map Reduce ~Continuous Map Reduce Design~
Takahiro Inoue
 
Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜
Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜
Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜
Takahiro Inoue
 

More from Takahiro Inoue (20)

オンラインゲームソリューション@トレジャーデータ
オンラインゲームソリューション@トレジャーデータオンラインゲームソリューション@トレジャーデータ
オンラインゲームソリューション@トレジャーデータ
 
事例で学ぶトレジャーデータ 20140612
事例で学ぶトレジャーデータ 20140612事例で学ぶトレジャーデータ 20140612
事例で学ぶトレジャーデータ 20140612
 
トレジャーデータ株式会社について(for all Data_Enthusiast!!)
トレジャーデータ株式会社について(for all Data_Enthusiast!!)トレジャーデータ株式会社について(for all Data_Enthusiast!!)
トレジャーデータ株式会社について(for all Data_Enthusiast!!)
 
この Visualization がすごい2014 〜データ世界を彩るツール6選〜
この Visualization がすごい2014 〜データ世界を彩るツール6選〜この Visualization がすごい2014 〜データ世界を彩るツール6選〜
この Visualization がすごい2014 〜データ世界を彩るツール6選〜
 
Treasure Data Intro for Data Enthusiast!!
Treasure Data Intro for Data Enthusiast!!Treasure Data Intro for Data Enthusiast!!
Treasure Data Intro for Data Enthusiast!!
 
Hadoop and the Data Scientist
Hadoop and the Data ScientistHadoop and the Data Scientist
Hadoop and the Data Scientist
 
MongoDB: Intro & Application for Big Data
MongoDB: Intro & Application  for Big DataMongoDB: Intro & Application  for Big Data
MongoDB: Intro & Application for Big Data
 
An Introduction to Fluent & MongoDB Plugins
An Introduction to Fluent & MongoDB PluginsAn Introduction to Fluent & MongoDB Plugins
An Introduction to Fluent & MongoDB Plugins
 
An Introduction to Tinkerpop
An Introduction to TinkerpopAn Introduction to Tinkerpop
An Introduction to Tinkerpop
 
An Introduction to Neo4j
An Introduction to Neo4jAn Introduction to Neo4j
An Introduction to Neo4j
 
The Definition of GraphDB
The Definition of GraphDBThe Definition of GraphDB
The Definition of GraphDB
 
Large-Scale Graph Processing〜Introduction〜(完全版)
Large-Scale Graph Processing〜Introduction〜(完全版)Large-Scale Graph Processing〜Introduction〜(完全版)
Large-Scale Graph Processing〜Introduction〜(完全版)
 
Advanced MongoDB #1
Advanced MongoDB #1Advanced MongoDB #1
Advanced MongoDB #1
 
はじめてのGlusterFS
はじめてのGlusterFSはじめてのGlusterFS
はじめてのGlusterFS
 
はじめてのMongoDB
はじめてのMongoDBはじめてのMongoDB
はじめてのMongoDB
 
MongoDB & Hadoop: Flexible Hourly Batch Processing Model
MongoDB & Hadoop: Flexible Hourly Batch Processing ModelMongoDB & Hadoop: Flexible Hourly Batch Processing Model
MongoDB & Hadoop: Flexible Hourly Batch Processing Model
 
MongoDB: Replication,Sharding,MapReduce
MongoDB: Replication,Sharding,MapReduceMongoDB: Replication,Sharding,MapReduce
MongoDB: Replication,Sharding,MapReduce
 
MongoDB Oplog入門
MongoDB Oplog入門MongoDB Oplog入門
MongoDB Oplog入門
 
Map Reduce ~Continuous Map Reduce Design~
Map Reduce ~Continuous Map Reduce Design~Map Reduce ~Continuous Map Reduce Design~
Map Reduce ~Continuous Map Reduce Design~
 
Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜
Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜
Map Reduce 〜入門編:仕組みの理解とアルゴリズムデザイン〜
 

Large-Scale Graph Processing〜Introduction〜(LT版)

  • 1.
  • 2.
  • 3. Hadoop MapReduce デザ インパターン ——MapReduceによる大規 模テキストデータ処理 1 Jimmy Lin, Chris Dyer�著、神 林 飛志、野村 直之�監修、玉川 竜司�訳 2 2011年10月01日 発売予定 3 210ページ 4 定価2,940円
  • 4.
  • 5.
  • 6.
  • 7.
  • 8. Shuffle & barrier job start/ shutdown i i+1
  • 9. 1 B E 5 1 4 A D G 3 3 2 4 C 5 F
  • 10. 5 1 B E 5 1 3 4 A D G 3 3 2 5!4 min(6,4) 4 1 B E C 5 F 5 1 i 3 4 A D G 3 3 2 4 3 2 C 5 F i+1
  • 11.
  • 12.
  • 13. a super step http://en.wikipedia.org/wiki/Bulk_Synchronous_Parallel
  • 14. . . .
  • 16.
  • 17.
  • 18.
  • 20.
  • 21.
  • 22.
  • 23. 1 B E 5 1 4 A D G 3 3 2 4 C 5 F initialize
  • 24. +∞ B 1 +∞ E 5 1 0 +∞ 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 1
  • 25. +∞ B 1 +∞ E 5 1 0 +∞ 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 1
  • 26. +∞ B 1 +∞ E 5 1 0 +∞ 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 1
  • 27. 5 1 +∞ B E 5 1 0 3 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 1
  • 28. 5 1 +∞ B E 5 1 0 3 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 2
  • 29. 5 1 +∞ B E 5 1 0 3 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 2
  • 30. 4 1 6 B E 5 1 0 3 4 +∞ A D G 3 3 2 4 6 C 5 F 5 2
  • 31. 4 1 6 B E 5 1 0 3 4 +∞ A D G 3 3 2 4 6 C 5 F 5 3
  • 32. 4 1 6 B E 5 1 0 3 4 +∞ A D G 3 3 2 4 6 C 5 F 5 3
  • 33. 4 1 5 B E 5 1 0 3 4 9 A D G 3 3 2 4 6 C 5 F 5 3
  • 34. 4 1 5 B E 5 1 0 3 4 9 A D G 3 3 2 4 6 C 5 F 5 end
  • 35.
  • 36. +∞ B 1 +∞ E 5 1 0 +∞ 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 1
  • 37. +∞ B 1 +∞ E 5 1 0 +∞ 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 1
  • 38. +∞ B 1 +∞ E 5 1 0 +∞ 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 1
  • 39. 5 1 +∞ B E 5 1 0 3 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 2
  • 40. 5 1 +∞ B E 5 1 0 3 4 +∞ A D G 3 3 2 4 +∞ C 5 F +∞ 2
  • 41. 4 1 6 B E 5 1 0 3 4 +∞ A D G 3 3 2 4 6 C 5 F 5 3
  • 42. 4 1 6 B E 5 1 0 3 4 +∞ A D G 3 3 2 4 6 C 5 F 5 3
  • 43. 4 1 5 B E 5 1 0 3 4 9 A D G 3 3 2 4 6 C 5 F 5 4
  • 44. 4 1 5 B E 5 1 0 3 4 9 A D G 3 3 2 4 6 C 5 F 5 4
  • 45. 4 1 5 B E 5 1 0 3 4 9 A D G 3 3 2 4 6 C 5 F 5 5
  • 46. 4 1 5 B E 5 1 0 3 4 9 A D G 3 3 2 4 6 C 5 F 5 5
  • 47. 4 1 5 B E 5 1 0 3 4 9 A D G 3 3 2 4 6 C 5 F 5 end