Dynamic filters in graph convolutional network

•

2 likes•3,914 views

shima o

Summary of https://arxiv.org/abs/1706.05206

Science

Dynamic Filters in Graph Convolutional Networks,
Verma,+, '17
2017年9月13日
@shima_x

概要
local filteringアプローチによる動的なGCNの提案
3D shape correspondanceタスクでSoTA

貢献
柔軟なGCの提案
不規則な構造に対するlocal graph convolutionを可能にした
畳み込み層のフィルタの考えを再構成することで対応
3D shape correspondenceでSoTAな性能のモデル構築

モチベーション
複雑なグラフ構造に柔軟に対応できるGCを考案したい
特に3次元の点群データ

手法
weightとデータ点の対応
左の手法だと構造（隣接ノード数）が固定される
右の手法だと固定しなくてもよい

Convolution層の再構成
E: out channel
D: in channel
F: filter
w,h: width, height

Convolution層の再構成
y = b + q (x ,x )W x
q (x ,x ) ∝ exp(u x +v x + c )
q (x ,x ) = 1, q (x ,x ) = = 1
q (x ,x ): x ,x 間へのweightの割り当て
∣N ∣: ノードiの隣接ノードの数+1﴾ノードiを含むので﴿
M: Weight matrixの数（Mを小さくすればパラメタ数を小さく出来る）
i
m=1
∑
M
∣N ∣i
1
j∈Ni
∑ m i j m j
m i j m
T
i m
T
j m
m=1
∑
M
m i j
j∈Ni
∑
∣N ∣i
1
m=1
∑
M
m i j
j∈Ni
∑
∣N ∣i
1
m i j i j
i

Convolution層の再構成
次の条件を付けていることにより、次数によって影響を受けない
q (x ,x ) = = 1
次については実装上はMLPでよい
q (x ,x ) ∝ exp(u x +v x + c )
次の条件にすれば普通のグリッドグラフの計算も可能
∀ ∣N ∣ = M, q (x ,x ) ∈ {0, 1}
j∈Ni
∑
∣N ∣i
1
m=1
∑
M
m i j
j∈Ni
∑
∣N ∣i
1
m i j m
T
i m
T
j m
i i m i j

特殊なケース
入力に空間座標を含む場合
u = −v
q (x ,x ) ∝ exp(u (x −x ) + c )
入力空間の距離にマンハッタン距離を仮定
グリッドグラフに適用
普通の畳み込み層の式が使える
詳細省略
m m
m
ij
i j m
T
j i m

実験結果
MNIST
M=9で計算
提案手法の精度が低いのはPooling層がないため（らしい...）

実験結果
Cora and PubMed
M=1 to 32で実験
validationセットでの結果からM=1を使用

実験結果
FAUST
10 shapes in 10 different poses each﴾=100meshes﴿
6,890 vertices each
features: 3D XYG vertex or SHOT﴾SHIFTみたいな特徴点﴿
M=9

What's hot

[DL輪読会]Scalable Training of Inference Networks for Gaussian-Process ModelsDeep Learning JP

第８回関西CV・PRML勉強会（Meanshift）Yutaka Yamada

BA-Net: Dense Bundle Adjustment Network （3D勉強会@関東） Mai Nishimura

Taking a Deeper Look at the Inverse Compositional AlgorithmMai Nishimura

Statistical machine learningilove2dgirl

第41回関東CV勉強会 CNN-SLAM邦洋長谷川

大規模グラフ解析のための乱択スケッチ技法Takuya Akiba

名古屋CV・PRML勉強会 ShuffleNetの論文調査(説明追加)Ryota Kondo

名古屋CV・PRML勉強会 ShuffleNetの論文調査Ryota Kondo

Dl hacks paperreading_20150527Makoto Kawano

[DL輪読会]RobustNet: Improving Domain Generalization in Urban- Scene Segmentatio...Deep Learning JP

20161203 cv 3_d_recon_tracking_eventcameraKyohei Unno

What's hot (12)

[DL輪読会]Scalable Training of Inference Networks for Gaussian-Process Models

第８回関西CV・PRML勉強会（Meanshift）

BA-Net: Dense Bundle Adjustment Network （3D勉強会@関東）

Taking a Deeper Look at the Inverse Compositional Algorithm

Statistical machine learning

第41回関東CV勉強会 CNN-SLAM

大規模グラフ解析のための乱択スケッチ技法

名古屋CV・PRML勉強会 ShuffleNetの論文調査(説明追加)

名古屋CV・PRML勉強会 ShuffleNetの論文調査

Dl hacks paperreading_20150527

[DL輪読会]RobustNet: Improving Domain Generalization in Urban- Scene Segmentatio...

20161203 cv 3_d_recon_tracking_eventcamera

Viewers also liked

Graph Convolutional Network 概説KCS Keio Computer Society

Squeeze and-excitation networksshima o

AIを作ることと理解することKCS Keio Computer Society

論文輪講 Initializing convolutional filters with semantic features for text class...Junya Kamura

ReviewNet_161122shima o

WaveNetTsuguo Mogami

Improving Distributional Similarity with Lessons Learned from Word EmbeddingsHiroki Nakayama

Poincare embeddings for Learning Hierarchical RepresentationsTatsuya Shirakawa

Viewers also liked (8)

Graph Convolutional Network 概説

Squeeze and-excitation networks

AIを作ることと理解すること

論文輪講 Initializing convolutional filters with semantic features for text class...

ReviewNet_161122

WaveNet

Improving Distributional Similarity with Lessons Learned from Word Embeddings

Poincare embeddings for Learning Hierarchical Representations

More from shima o

[読会]Causal transfer random forest combining logged data and randomized expe...shima o

[読会]P qk means-_ billion-scale clustering for product-quantized codesshima o

[読会]Long tail learning via logit adjustmentshima o

[読会]A critical review of lasso and its derivatives for variable selection und...shima o

[読会]Themis decentralized and trustless ad platform with reporting integrityshima o

[読会]Logistic regression models for aggregated datashima o

Introduction of introduction_to_group_theoryshima o

Nmp for quantum_chemistryshima o

Dl study g_learning_to_remember_rare_eventsshima o

連続最適化勉強会shima o

finite time analysis of the multiarmed bandit problemshima o

normalized online learningshima o

logistic regression in rare events datashima o

Joint optimization of bid and budget allocation in sponsored searchshima o

Towards a robust modeling of temporal interest change patterns for behavioral...shima o

Real time bidding algorithms for performance-based display ad allocationshima o

Fingind the right consumer - optimizing for conversion in display advertising...shima o

Real time bid optimization with smooth budget delivery in online advertisingshima o

Estimating conversion rate in display advertising from past performance datashima o

階層ベイズによるワンToワンマーケティング入門shima o

More from shima o (20)

[読会]Causal transfer random forest combining logged data and randomized expe...

[読会]P qk means-_ billion-scale clustering for product-quantized codes

[読会]Long tail learning via logit adjustment

[読会]A critical review of lasso and its derivatives for variable selection und...

[読会]Themis decentralized and trustless ad platform with reporting integrity

[読会]Logistic regression models for aggregated data

Introduction of introduction_to_group_theory

Nmp for quantum_chemistry

Dl study g_learning_to_remember_rare_events

連続最適化勉強会

finite time analysis of the multiarmed bandit problem

normalized online learning

logistic regression in rare events data

Joint optimization of bid and budget allocation in sponsored search

Towards a robust modeling of temporal interest change patterns for behavioral...

Real time bidding algorithms for performance-based display ad allocation

Fingind the right consumer - optimizing for conversion in display advertising...

Real time bid optimization with smooth budget delivery in online advertising

Estimating conversion rate in display advertising from past performance data

階層ベイズによるワンToワンマーケティング入門

Dynamic filters in graph convolutional network

1. Dynamic Filters in Graph Convolutional Networks, Verma,+, '17 2017年9月13日 @shima_x

2. Agenda 概要モチベーション手法実験/結果コメント

3. 概要 local filteringアプローチによる動的なGCNの提案 3D shape correspondanceタスクでSoTA

4. 貢献柔軟なGCの提案不規則な構造に対するlocal graph convolutionを可能にした畳み込み層のフィルタの考えを再構成することで対応 3D shape correspondenceでSoTAな性能のモデル構築

5. モチベーション複雑なグラフ構造に柔軟に対応できるGCを考案したい特に3次元の点群データ

6. 手法 weightとデータ点の対応左の手法だと構造（隣接ノード数）が固定される右の手法だと固定しなくてもよい

7. Convolution層の再構成 E: out channel D: in channel F: filter w,h: width, height

8. ネットワークイメージ

9. Convolution層の再構成 y = b + q (x ,x )W x q (x ,x ) ∝ exp(u x +v x + c ) q (x ,x ) = 1, q (x ,x ) = = 1 q (x ,x ): x ,x 間へのweightの割り当て ∣N ∣: ノードiの隣接ノードの数+1﴾ノードiを含むので﴿ M: Weight matrixの数（Mを小さくすればパラメタ数を小さく出来る） i m=1 ∑ M ∣N ∣i 1 j∈Ni ∑ m i j m j m i j m T i m T j m m=1 ∑ M m i j j∈Ni ∑ ∣N ∣i 1 m=1 ∑ M m i j j∈Ni ∑ ∣N ∣i 1 m i j i j i

10. Convolution層の再構成次の条件を付けていることにより、次数によって影響を受けない q (x ,x ) = = 1 次については実装上はMLPでよい q (x ,x ) ∝ exp(u x +v x + c ) 次の条件にすれば普通のグリッドグラフの計算も可能 ∀ ∣N ∣ = M, q (x ,x ) ∈ {0, 1} j∈Ni ∑ ∣N ∣i 1 m=1 ∑ M m i j j∈Ni ∑ ∣N ∣i 1 m i j m T i m T j m i i m i j

11. グリッドグラフのイメージ

12. 特殊なケース入力に空間座標を含む場合 u = −v q (x ,x ) ∝ exp(u (x −x ) + c ) 入力空間の距離にマンハッタン距離を仮定グリッドグラフに適用普通の畳み込み層の式が使える詳細省略 m m m ij i j m T j i m

13. 実験データセット MNIST Cora, PubMed FAUST

14. 実験結果 MNIST M=9で計算提案手法の精度が低いのはPooling層がないため（らしい...）

15. 実験結果 Cora and PubMed M=1 to 32で実験 validationセットでの結果からM=1を使用

16. 実験結果 FAUST 10 shapes in 10 different poses each﴾=100meshes﴿ 6,890 vertices each features: 3D XYG vertex or SHOT﴾SHIFTみたいな特徴点﴿ M=9

17. 実験結果 FAUST

18. 実験結果 FAUST﴾class推定﴿