G検定対策社内数学講座　ディープラーニングでの基礎計算問題

1. ディープラーニングでの
基礎計算
〜パーセプトロンとCNNと活性化関数〜
Jun. 2019 created by ITO Akihiro

2. パーセプトロンの概念
入力 重み バイアス 出力
入力：1 or 0
出力：1 or 0

3. 画像認識の概念
1 2 3
4 5 6
7 8 9
10 11 12
31
32
12
21
22
23
3
1
2
・
・
・
入力層 中間層 出力層
1
0
1 2 3
4 5 6
7 8 9
10 11 12
0
1
0
0
重み
w1-1
...
w1-36
重み
w2-1
...
w2-6
それぞれのシグモイドニューロンは、
ある特徴に対して発火する

4. CNN (Convolutional Neural Network)の概念
畳み込み層
フィル
タ3
特徴マップ
3
プーリング層
出力層
ユニット3
特徴を抽出 特徴をさらに濃縮

5. フィルタを順に当て
画像を単純化し、
特徴を抽出する。
1 2 3 4 5 6 7 8 9 10 11
12 13 14 15 16 17 18 19 20 21 ...
... 121
元画像 フィルタ1
フィルタ2
斜め方向に反応
縦方向に反応

6. 例：
入力画像 (H,W)=(11,11)
フィルタサイズ(Fh,Fw)=(3,3)
パディング (P)=0
ストライド (S)=2
⇒
出力画像 (Oh,Ow)=(5,5)
1 0 0 1 0
1 3 1 2 1
2 2 3 2 3
2 2 2 3 2
1 2 0 1 1
0 0 0 0 0
0 2 1 2 0
2 2 3 2 2
1 2 2 2 1
0 1 0 1 0
公式

7. 活性化関数
ステップ シグモイド
tanh
（ハイパボリックタンジェント）
ReLU ReLU6
0
1
0
0
0
0
6
0
0
1
0
-1
1
0