Recommended
More Related Content
Recently uploaded
Recently uploaded (10)
Featured
Featured (20)
深層学習(講談社)のまとめ 第６章
- 3. ・畳込みニューラルネット ６． 畳込みニューラルネット 畳込みニューラルネット(Convolutional neural network)は画像認識でよく扱われる 順伝播型ネットワーク。これまでのネットワークと異なり、隣接層のユニットが 全結合されたものだけでなく特定のユニットのみが結合を持つ特別な層を持つ。 この構造は生物の脳の視覚野に関する神経科学の知見を ヒントにしている。 具体的には、視覚野における神経細胞の受容野（入力を受け取る部分）の局所性と、 単純型細胞および複雑型細胞の存在である。 どちらの細胞も特定の入力パターンに対応するが、複雑型細胞の方が位置選択性が 厳密ではない。これらの振る舞いは２層ネットワークでモデル化でき、このような 構造を工学的なパターン認識に初めて用いたのがネオコグニトロンである。 CNNは現在、物体カテゴリ認識などに用いられるとともに、多層のCNNが霊長類の 脳の高次視覚野と似た振る舞いを示すことが実験的に示されている。
- 4. ・CNNの構造 ６． 畳込みニューラルネット 主に以下の層で構成される ・畳込み層(Convolutional Layer) ・プーリング層(Pooling Layer) ＊局所コントラスト正規化層(LocalContrast Normalization Layer) ※使われる場合もある ・全結合層(Fully-connected Layer) よく使われるCNNの構造としては、入力から出力に向けて、畳込み層とプーリング層 のペアが繰り返された後、全結合層を通して出力するものがある。 ここで、全結合層はこれまでの順伝播型ネットワークの各層と同様である。
- 5. ・畳込み ６． 畳込みニューラルネット 画像（W×W画素）にフィルタと呼ぶサイズの小さい（H×H画素）画像との間で 行われる積和計算。 𝑢𝑖𝑖 = � � 𝑥𝑖+𝑝,𝑗+𝑞ℎ 𝑝𝑝 𝐻−1 𝑞=0 𝐻−1 𝑝=0 畳込みでは、フィルタのパターンに類似したパターンを画像から抽出するはたらきを もつ。（以下図参照）また、画素値は負の値を含む実数値である。
- 6. ・パディング ６． 畳込みニューラルネット 畳込みは画像とフィルタの積和計算であるが、画像からフィルタがはみ出す位置で 重ねることは本来できない。そのため、画像内にフィルタが収まる範囲内でフィルタ を動かすと、畳込み結果の画像は 入力より小さくなる (𝑊 − 2 𝐻 2⁄ ) × (𝑊 − 2 𝐻 2⁄ ) 式では上記のように表せる。 しかし、入力画像と同サイズにした方が便利な場合があるので、そこで行われる処理 がこのパディングである。具体的には、入力画像の外側に幅 𝐻 2⁄ の「ふち」をつけ て大きくすることで、出力画像が入力画像と同サイズになるようにする。 「ふち」部分の画素値は未定であるため、この値を何らかの手法で決める必要がある。 様々な手法があるが、一般的に「０」にセットするゼロパディングが用いられる。
- 7. ・ストライド ６． 畳込みニューラルネット ここまでは、画像上を縦横方向に１画素ずつフィルタをずらしながら積和計算を 行っていたが、これを数画素ずつずらして計算を行う 手法がある。このときの フィルタの適用位置の間隔をストライドと呼ぶ。 ストライドをsとしたときの出力画像の画素値は 𝑢𝑖𝑖 = � � 𝑥 𝑠𝑖+𝑝,𝑠𝑗+𝑞ℎ 𝑝𝑝 𝐻−1 𝑞=0 𝐻−1 𝑝=0 と計算され、サイズは約１/s倍になる。ただしパディングを行う場合にはサイズは ( (𝑊 − 1) 𝑠⁄ + 1) × ( (𝑊 − 1) 𝑠⁄ + 1) と計算される。
- 8. ・畳込み層 (Convolutional Layer) ６． 畳込みニューラルネット 畳込みの演算を行う単層ネットワーク。実用的には、RGBカラー画像などの 多チャネル の画像に対して、複数個のフィルタを並行して畳込む場合が多い。 チャネル数Kを入力に受け取るが、中間層（畳込み層やプーリング層）では 一般にそれ以上のチャネル数を扱うことが多い。 このとき、チャネルKの画像（W×W×K）をマップと呼ぶことがある。 この畳込み層が第𝑙層であり、直前の第𝑙 + 1層からKチャネルの画像を受け取り M種類のフィルタを適用するとき、式は 𝑢𝑖𝑖𝑚 = � � � 𝑧𝑖+𝑝,𝑗+𝑞,𝑘 (𝑙−1) ℎ 𝑝𝑝𝑝𝑝 𝐻−1 𝑞=0 𝐻−1 𝑝=0 𝐾−1 𝑘=0 + 𝑏𝑖𝑖𝑖 と表せます。ここではバイアスを導入しているが、バイアスはフィルタごとに 各ユニット共通（𝑏𝑖𝑖𝑖 = 𝑏 𝑚）とするのが一般的。
- 9. ６． 畳込みニューラルネット 前述のように求めた𝑢𝑖𝑖𝑖に活性化関数を適用し 𝑧𝑖𝑖𝑖 = 𝑓(𝑢𝑖𝑖𝑖) としたものが畳込み層の最終的な出力である。そのため、入力のサイズが W×W×Kのとき、出力はW×W×Mとなる。また、この重みは出力層の同一 チャネルの全ユニットで同じである（重み共有）。
- 10. ・プーリング層(Pooling Layer) ６． 畳込みニューラルネット プーリング層は通常、畳込み層の直後に設置される。プーリング層の各ユニットは 前述の複雑型細胞のモデル になっており、位置に対する感度を若干低下させている。 具体的には、画像（W×W×K）上で画素（I,j）を中心とするH×H正方領域に含まれる 画素の集合を𝑃𝑖𝑖とし、チャネルごとに独立にこれらの集合から１つの画素値を求める。 いくつかの方法があるが、最大プーリングでは集合の中の最大値を選ぶ。 𝑢𝑖𝑖𝑖 = max (𝑝,𝑞)∈𝑃 𝑖𝑖 𝑧 𝑝𝑝𝑝 平均プーリングでは集合の平均値を求める。 𝑢𝑖𝑖𝑖 = 1 𝐻2 � 𝑧 𝑝𝑝𝑝 (𝑝,𝑞)∈𝑃 𝑖𝑖 チャネルごとに独立してプーリングは行われるため、一般にプーリング層の出力 チャネルは入力と一致する。
- 11. ６． 畳込みニューラルネット 前述のプーリングを含む一般的な表記としてLpプーリングと表せる。 𝑢𝑖𝑖𝑖 = 1 𝐻2 � 𝑧 𝑝𝑝𝑝 𝑃 (𝑝,𝑞)∈𝑃 𝑖𝑖 1 𝑃 このとき、P＝１で平均プーリング、P＝∞で最大プーリングである。 畳込み層と同様にプーリング層でもストライドを設定でき、２以上のストライドが 一般的である。プーリング層では活性化関数を適用しないのが一般的である。 プーリング層では結合の重みが固定されているため、学習によってパラメータが 変化することはない。
- 13. ・減算正規化 ６． 畳込みニューラルネット プーリングと同様に画素（I,j）を中心とするH×H正方領域に含まれる画素の集合𝑃𝑖𝑖を 考える。この集合の画素の平均値を入力画像の各画素から差し引くのが減算正規化で ある。 𝑧𝑖𝑖 = 𝑥𝑖𝑖 − 𝑥𝑖𝑖 = 𝑥𝑖𝑖 − � 𝑥𝑖+𝑝,𝑗+𝑞 (𝑝,𝑞)∈𝑃 𝑖𝑖 また、平均には重み付き平均を用いる場合もある。 𝑥𝑖𝑖 = � 𝑤 𝑝𝑝 𝑥𝑖+𝑝,𝑗+𝑞 (𝑝,𝑞)∈𝑃 𝑖𝑖 この場合、重みは � 𝑤 𝑝𝑝 (𝑝,𝑞)∈𝑃 𝑖𝑖 = � � 𝑤 𝑝𝑝 𝐻−1 𝑞=0 𝐻−1 𝑝=0 = 1 であり、領域の中央で最大値をとり、周辺部へ向けて低下するようなもの である。
- 14. ６． 畳込みニューラルネット 多チャネルの場合、チャネル間の相互作用を考えて重み付き平均を 𝑥̅ 𝑖𝑖 = 1 𝐾 � � 𝑤 𝑝𝑝 𝑥𝑖+𝑝,𝑗+𝑞,𝑘 (𝑝,𝑞)∈𝑃 𝑖𝑖 𝐾−1 𝑘=0 として適用する。 減算正規化に加えてさらに画素値の分散を揃える操作。領域内の分散は 𝜎𝑖𝑖 2 = � 𝑤 𝑝𝑝 𝑥𝑖+𝑝,𝑗+𝑞 − 𝑥̅ 𝑖𝑖 2 (𝑝,𝑞)∈𝑃 𝑖𝑖 と表せて、減算正規化した値をこの標準偏差で割る。 𝑧𝑖𝑖 = 𝑥𝑖𝑖 − 𝑥̅ 𝑖𝑖 𝜎𝑖𝑖 ・減算正規化
- 15. ６． 畳込みニューラルネット しかしこの計算そのままでは、コントラストが小さい局所領域ほど濃淡が増幅されて しまい、画像のノイズが強調されることなどになってしまう。 そこで、入力画像のコントラストが大きい部分にのみ適用するために、 標準偏差がある定数cを下回るときはcで除算する 𝑧𝑖𝑖 = 𝑥𝑖𝑖 − 𝑥̅ 𝑖𝑖 max(𝑐, 𝜎𝑖𝑖) や、同様の効果がに応じて連続的に変化する 𝑧𝑖𝑖 = 𝑥𝑖𝑖 − 𝑥̅ 𝑖𝑖 𝑐 + 𝜎𝑖𝑖 2 を用いる。多チャネルの場合、局所領域の分散は 𝜎𝑖𝑖 2 = 1 𝐾 � � 𝑤 𝑝𝑝 𝑥𝑖+𝑝,𝑗+𝑞,𝑘 − 𝑥̅ 𝑖𝑖 2 (𝑝,𝑞)∈𝑃 𝑖𝑖 𝐾−1 𝑘=0 のように計算される。
- 16. ・勾配の計算 ６． 畳込みニューラルネット CNNでもこれまでと同様に勾配降下法によるパラメータ最適化を行う。 まず、畳込み層は順伝播型ネットワークの中間層と同様に 𝒖(𝑙) = 𝑾(𝑙) 𝒛(𝑙−1) + 𝒃(𝑙) 𝒛(𝑙) = 𝑓(𝑙)(𝒖 𝑙 ) で表せる。ここで、重みWはH×H×KのM個のフィルタの係数ℎ 𝑝𝑝𝑝𝑝を畳込みを 再現するように規則的に並べたものである。 具体的には、フィルタの係数ℎ 𝑝𝑝𝑝𝑝を適当な順で並べた成分数H×H×K×Mの ベクトルhと、 hと内積をとると𝑙 − 1層のユニット𝑖と𝑙層のユニットｊ間の重み 𝑤𝑗𝑗を与えるベクトル𝑡𝑗𝑗を定義する。 𝑤𝑗𝑗 = 𝑡𝑗𝑗 𝑇 𝒉
- 17. ６． 畳込みニューラルネット 𝑡𝑗𝑗は高々１つの成分が１をとり、それ以外は０となるベクトル。 𝑡𝑗𝑗の成分を𝑡𝑗𝑗𝑟と 書き、ｒを固定したとき𝑡𝑗𝑗𝑗を（j,i）成分にもつ行列を𝑇𝑟とする。 この層のデルタを𝜹(𝑙)と書き、全結合層に対する勾配計算の式から重みの勾配は 𝜕𝑾 = 𝜹(𝑙) 𝒛(𝑙−1) 𝑇 と与えられる。しかし、重みWの多くは０または重み共有された同じ変数であるため にフィルタの係数ｈについての勾配に以下のように変形する。 𝜕𝒉 𝑟 = � 𝑻 𝑟⨀𝜕𝑾 𝑗𝑗 𝑖,𝑗 また、デルタは以下のように計算される。 𝜹(𝑙) = 𝑓(𝑙)′ 𝒖(𝑙) ⨀ 𝑾 𝑙+1 𝑇 𝜹(𝑙+1)
- 18. ６． 畳込みニューラルネット プーリング層では学習は行わないが、デルタの逆伝播計算は必要であるため、 プーリングの種類ごとにを以下のように定める。（以下は平均プーリングの例） 𝑤𝑗𝑗 (𝑙+1) = � 1 𝐻2 𝑖𝑖 𝑖 ∈ 𝑃𝑗 0 𝑜𝑜ℎ𝑒𝑒𝑒𝑒𝑒𝑒 最大プーリングでは、ユニットｊの同受容野内で順伝播計算時に最大値を与えた 入力層のユニットiのみ𝑤𝑗𝑗 = 1とし、それ以外を０とする。