10. 機械学習を⽤いた画像分類
10
ILSVRC2012 Supervison
Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2012). Imagenet classification with
deep convolutional neural networks. In Advances in neural information
processing systems (pp. 1097-1105).
18. 機械学習のレシピ
• ⼊⼒:訓練データ
D = {(x1, y1), (x2, y2), …, (xN, yN)}, xi ∈ X = Rd, yi ∈ Y = R
• 出⼒:予測モデル
未知のデータ x から y を予測するアルゴリズム
• 設計者の⽤意するもの
仮説集合 Θ、損失関数 L(x, y; θ)
18
今⽇は頻度論的な⽴場での教師あり学習につ
いて説明します
19. 機械学習のレシピ1:仮説集合 Θ
各 θ∈Θ に、x から y を予測する「予測モデル」を対応させる
設計者が決めること
• Θ をどういう集合にするか?
• 各 θ にどういう予測モデルを対応させるか?
• 予測モデルが決定的か確率的か?
• 決定的:x から y が⼀意的に決まる、つまり関数 f θ: X → Y
• 確率的:決まらない、例えば確率分布 pθ(x, y) や pθ(y | x)
19
25. ニューラルネットで確率を表現する
yがK個のカテゴリ値の場合
z = NN(x; θ) ∈ RK
P = softmax(z)
p (y=k | x; θ) = Pk for k = 1, …, K
25
NNx z
soft
max
y
softmax(z) = (p1, . . . , pK)
pi =
exp(zi)
PK
i=1 exp(zi)
26. 機械学習のレシピ2:損失関数 L(x, y; θ)
予測モデルの「精度」を測る関数
• L の関数形は設計者次第だが、通常 x に対する予測結果が望ましい
結果 y に近いほどL (x, y, θ) が⼩さくなるように定義する
26
39. Stochastic Gradient Descent (SGD)
39
until some criterion is satisfied:
get data (x, y) randomly
θ ← θ – η N ∇θ L(x, y; θ)
output θ
until some criterion is satisfied:
θ ← θ - η Σi∇θ L(xi, yi; θ)
output θ
GD
SGD
53. 深層学習モデルのパラメータ数
53
Dean, Jeffrey, et al. "Large scale distributed deep networks." Advances in neural information processing
systems. 2012.
Adam Coates, et al. ICML'13 Proceedings of the 30th International Conference on International Conference
on Machine Learning - Volume 28Pages III-1337-III-1345
Shazeer, Noam, et al. "Outrageously large neural networks: The sparsely-gated mixture-of-experts
layer." arXiv preprint arXiv:1701.06538 (2017).
[Dean+12]
1.7 billion [Adam+13] 11 billion
[Shazeer+17]
137 billion
55. Neural Network as a Computational Graph
• 多くのフレームワークでは、NNは計算グラフとして実現される
• データノードと計算ノードからなる2部グラフのDAGとして表現す
るのが計算グラフの最も簡単な表現⽅法
55
y = x1 * x2
z = y - x3
x1 mul suby
x3
z
x2
データノード
計算ノード
58. 誤差逆伝播(Backpropagation)
58
y = x1 * x2
* ga is a derivative of z w.r.t. a i.e. ga =∇a z
x1 mul suby
x3
z
x2
z = y - x3
gx1 = gy * x2
gx2 = gy * x1
gz = 1
gy = gz
gx3 = -gz
gzgy
gx3
gx1
gx2