エッジAI の入門。HiAI, Android Neural Network API, Tensor flow, NNVMを紹介

1. エッジAI入門
株式会社ピクセラ
製品事業本部
ソフトウェア開発部門
先端技術開発部
© 2017 PIXELA CORPORATION｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL.
2019年2月15日

2. 概要
○ AIの技術トレンドは、サーバー上で処理を行うクラウドAIからクライアント上で処理するエッジAIへ移行しつつ
あります。
○ エッジAIはクラウドで学習モデルを生成し、クライアント上にダウンロードし、学習モデルを推論する形式です。
○ エッジAIになるとレイテンシーの問題、セキュリティーの問題を解決することができます。
○ 今回、エッジAIの代表的なAPI群およびコンパイラを紹介します。
Copyright © PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL.
2

3. Huawei Kirin + HiAI
© 2018 PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL. 3

4. HiAIとは
Copyright © PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL.
4

5. HiAI Foundationとは
Copyright © PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL.
5

6. HiAI Engineとは
Copyright © PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL.
6

7. Android Neural Networks API
© 2018 PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL. 7

8. Android Neural Networks API（NNAPI）とは
Copyright © PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL.
8

9. NNAPIを使う手順
Copyright © PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL.
9

10. NNAPIとHiAIを比較
Copyright © PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL.
10

11. Tensorflow XLA / NNVM
© 2018 PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL. 11

12. Tensorflow XLAとは
Copyright © PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL.
12

13. NNVMとは
Copyright © PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL.
13

14. まとめ
○ NN推論を行うためのAPI群として①Huawei Kirin + HiAI、②Android Neural Network API
コンパイラとして①Tensorflow XLA、②NNVM コンパイラを紹介しました。
○ エッジ機械学習において以下の点を考慮すると、フレームワークはTensorflow が最適です。
①Tensorflow Lite によるNNAPI 利用
②Tensorflow XLA による新デバイス対応
○ 今後、NNVMにのみ対応する新デバイスを利用することになっても、TensorflowモデルのONNX変換が可能です。
○ NNAPI + Tensorflow Lite で機械学習させるにあたって、重要な要素は以下となります。
①何を機械学習させるか
②モデルへの理解
③学習データと学習方法
④Tensorflow Lite へコンバートの設定
Copyright © PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL.
14

15. 補足
© 2018 PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL. 15

16. NNAPI実装手順
Copyright © PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL.
16

17. TensorFlow Lite Optimizing Converter
Copyright © PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL.
17
https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/lite/toco

18. NNAPI 計算モデル
Copyright © PIXELA CORPORATION. All Rights Reserved.｜PIXELA CORPORATION PROPRIETARY AND CONFIDENTIAL.
18