自動運転車、高度な予防医療から、ファッションに関する適確なアドバイスまで、これらすべてを実現するのがディープラーニングです。ディープラーニングについてさらに理解を深めていただけるよう、A から Z までの用語集を作成しました。関連資料を併せてご紹介しているので、より詳しい解説が必要な際にも非常に役立ちます。ぜひご活用ください。

1. ディープラーニング用語集

2. 自動運転車や高度な予防医療から、
ファッションに関する適確なアドバイスまで、
これらすべてを実現するのが、ディープラーニングです。

3. ディープラーニングについてさらに理解を深めていただけるよう、
RE-WORK 社が公開した A-Z 用語集のキーワードを
関連資料と併せてご紹介します。

4. 人工ニューラル ネットワーク (ANN) とは
「人間の脳のニューロン構造を
大まかに模した処理装置」
出典: ウィスコンシン大学マディソン校
ARTIFICIAL NEURAL NETWORKS (ANN’S)
NVIDIA の応用研究
DMA エンジンの圧縮 (英語) 表情認識 (英語) 動画の分類 (英語)

5. ビッグ データとは
「日々のビジネスで発生する膨大な量の
構造化および非構造化データ」
出典:『SAS Insights』
BIG DATA
各業界における AI を活用した分析
金融 (英語) 通信 (英語) IoT (英語)

6. 畳み込みニューラル ネットワークとは
「標準的な多層ニューラル ネットワークで、
1 つ以上の畳み込み層が、1 つ以上の
全結合層へとつながっている構成」
出典: UFLDL
CONVOLUTIONAL NEURAL NETWORKS
NVIDIA の応用研究
ハンド ジェスチャの検知と分類 (英語) リソース効率化に関する推論 (英語)

7. ディープラーニングとは
「コンピューターが経験したことを学習し、
概念の階層を通じて世界を理解する
機械学習の方式」
出典: イアン・グッドフェロー氏、ヨシュア・ベンジオ氏、アーロン・カービル氏
DEEP LEARNING
ディープラーニングの応用
金融業界の変革 (英語) がんの検出 (英語) 自動運転車におけるディープラーニング

8. エンベディング (埋め込み) とは
「入力された情報の表現方法、または
エンコード。たとえば、ニューラル ワード
エンベディングは、ある単語を表現する
ベクトルを意味する」
出典: Deeplearning4j
EMBEDDING
研究発表
埋め込み型ニューラル ネットワークの構築 (英語)

9. フィードフォワード ネットワークとは
「入力から出力へ信号が 1 方向に流れる
ネットワーク。フィードバック (ループ) がない
ため、出力が同じ層に影響することはない」
出典: インぺリアル カレッジ
FEEDFORWARD NETWORK
チュートリアル
DIGITS でフィードフォワード ネットワークを構築 (英語)

10. 敵対的生成ネットワークとは
「教師なし機械学習に用いられるアルゴリズム。
ゼロ サム ゲームのフレームワーク内で
相対して学習する 2 つのニューラル
ネットワークで構成される」
出典: イアン・グッドフェロー氏
GENERATIVE ADVERSARIAL NETWORKS
敵対的生成ネットワークの起源
イアン・グッドフェロー氏のポッドキャスト (英語) GTC 17 トーク – 敵対的生成ネットワーク (英語)

11. ハイウェイ ネットワークとは
「情報ハイウェイと呼ばれる高速な通信網を
利用して、速度を落とさずに複数の
RNN 層に情報を流すアーキテクチャ」
出典: Deeplearning4j
HIGHWAY NETWORKS
研究発表
VQA (ビジュアル質問応答) のためのハイウェイ ネットワーク (英語)

12. 初期化とは
「ディープ モデルのトレーニングは実に難しく、初期化の方法が
アルゴリズムに大きく影響する。アルゴリズムの収束は初期値に左右され、
不安定な初期値は数値の問題やエラーが発生する原因にもなり得る」
出典: イアン・グッドフェロー氏
INITIALIZATION
記事
ディープ ニューラル ネットワークにおける重みの初期化 (英語)

13. ジッターとは
「トレーニング時に入力に追加される人工的な
ノイズ。ニューラル ネットワークの規則化や
規則の強化のために用いられる」
出典: Aidoc 社 CTO、マイケル・ブラギンスキー氏
JITTER
チュートリアル
ジッターとは (英語)

14. K 平均法アルゴリズムとは
「ラベル付けされていない (カテゴリやグループが未定義の) データに対して
用いられる教師なし学習の方法。グループの数を変数 K とし、データ内の
グループを見つけ出すために用いられる」
出典: DataScience.Com
K-MEANS ALGORITHM
チュートリアル
CUDA を実装した K 平均法クラスタリング アルゴリズム (英語)

15. 損失関数とは
「個々の推論に対して損失値を算出する関数。
推論が正しければ損失値は小さく、推論から
外れると損失値は大きくなる」
出典: Aidoc 社 CTO、マイケル・ブラギンスキー氏
LOSS FUNCTION
NVIDIA の応用研究
画像復元における損失関数 (英語)

16. 多層パーセプトロン (MLP) とは
「線形に分離できないデータを非線形の活性化関数を用いて処理する、
複数の全結合層を持つフィードフォワード ネットワーク。多層ニューラル
ネットワークの基本型、または、2 層以上で構成されるディープ ニューラル
ネットワークのことを指す」
出典: deeplearning.net
MULTILAYER PERCEPTRON (MLP)
研究発表
GPU を用いた多層パーセプトロン (英語)

17. 自然言語処理とは
「人間の言語 (英語、スペイン語、日本語など) の構造や意味を理解して、
コンピューターがユーザーと自然に対話できるようにする技術」
出典: Gartner Research
NATURAL LANGUAGE PROCESSING
ブログ
NVIDIA Developer – 自然言語処理 (英語)

18. ワンショット ラーニングとは
「コンピューターが経験したことを学習し、
概念の階層を通じて世界を理解する
機械学習の方式何千ものサンプルを学習
する従来の機械学習モデルに対して、1 つ
またはごく少量のトレーニング サンプルをアル
ゴリズムに学習させる方式」
出典: スショヴァン・ハルダー氏
ONE-SHOT LEARNING
研究発表
OpenAI とカリフォルニア大学バークレー校によるワンショット模倣学習 (英語)

19. プーリングとは
「畳み込みニューラル ネットワークに
存在する層の一種で、ニューロンからの
情報を近接する受容野に連携する」
出典: Aidoc 社 CTO、マイケル・ブラギンスキー氏
POOLING
ブログ
Parallel Forall – ディープラーニングの概要: 基本概念 (英語)

20. Q ネットワークとは
「DQN (ディープ Q ネットワーク) と呼ばれる新しい人工知能。
エンドツーエンドの強化学習を用いて、高次元のセンサーから直接、
攻略法を学習できる」
出典: スティグ・ピーターセン著 (2015 年)『Human-level control through deep reinforcement learning』
Q-NETWORKS
ブログ
OpenAI Gym で Q ネットワークにブロック崩しをトレーニング (英語)

21. 強化学習とは
「機械学習の一種で、目的指向型の学習方法。
強化学習アルゴリズムでは、数多くの行動の
選択とその結果で得られる報酬を学習し、
報酬を最大化することを目的とする」
出典: Deeplearning4j
REINFORCEMENT LEARNING
ブログ
ディープラーニングの概要: 強化学習 (英語)

22. ソフトマックス回帰とは
「ニューラル ネットワークの出力層として入力を分類する関数。
スコアのベクトルを累乗してから定数で割って正規化することで、
ベクトルをクラス確率に変換する」
出典: Deeplearning4j
SOFTMAX REGRESSION
チュートリアル
スタンフォード大学 – ソフトマックス回帰 (英語)

23. 転移学習とは
「関連タスクやドメイン内のラベル付けされた既存データを利用して
新しいモデルをトレーニングすること。ソース ドメインのソース タスクを
解決する際に獲得した知識を蓄積し、他の問題に応用する」
出典: セバスチャン・ルダー氏
TRANSFER LEARNING
研究発表
特徴把握による転移学習を遠隔検知と貧困マッピングに活用 (英語)

24. 教師なし学習とは
「ラベルのない入力データで構成される
データセットから推論結果を導く、
機械学習アルゴリズムの一種」
出典: MathWorks
UNSUPERVISED LEARNING
ブログ
教師なし学習を芸術分野に活用

25. 変分オートエンコーダーとは
「学習済みの近似的推論を用いた、
勾配法のみでトレーニング可能な
有向モデル」
出典: イアン・グッドフェロー氏
VARIATIONAL AUTOENCODER
ブログ
オートエンコーダー モデルを用いてコンピューターが服をデザイン (英語)

26. 重み減衰とは
「大きな重みに対して、重みの 2 乗 (L2)
または絶対値 (L1) のペナルティまたは
制限を課すこと」
出典: ジェフリー・ヒントン著
『Neural networks for machine learning』
WEIGHT DECAY
研究発表
重み減衰による汎化性能向上 (英語)

27. XAVIER の初期化とは
「 X と Y の分散を変更せずに、重みを初期化する手法。
このプロセスを、XAVIER の初期化と呼ぶ」
出典: プラティク・ジョシ氏
XAVIER INITIALIZATION
研究発表
ディープ フィードフォワード ニューラル ネットワークのトレーニングの難しさについて (英語)

28. ヨシュア・ベンジオ氏とヤン・ルカン氏は
「ディープラーニングの進歩に多大な貢献をしたパイオニア。
10 月にモントリオールで開催されるディープラーニング サミットにて、
「パネル オブ パイオニア」として登壇する予定」
出典: RE-WORK 用語集
YOSHUA BENGIO &
業績
AI の活用で躍進するロボット工学、物理学、医学
– ヤン・ルカン氏 (英語)
YANN LECUN
ディープラーニングが AI を進化させる
– ヨシュア・ベンジオ氏 (英語)

29. ゼロショット ラーニングとは
「ラベル付きサンプルを一切使用しない、
究極の転移学習の方法」
出典: イアン・グッドフェロー氏
ZERO-SHOT LEARNING
研究発表
クロスモーダル転移によるゼロショット ラーニング (英語)

30. 詳細を確認する
ディープラーニングと AI に関する最新情報を
ぜひチェックしてください