5月12日（火）Webinar 「Jetson edge computing digital seminar #5」 エヌビディア合同会社 インダストリー事業部マネージャー 梅本 将範

1. 2020/5/12
エヌビディア合同会社
梅本将範
JETSON 最新情報
& 自動外観検査事例紹介

2. 2
NVIDIA JETSON
ソフトウェア デファインド AI エッジコンピューティングプラットフォーム
センサーフュージョン & 演算性能 専門知識、タイムトゥマーケット
JETSON COMPUTER
エコシステムソフトウェアデファインド
Jetpack SDK ∙ CUDA ∙ TensorRT ∙ TensorFlow ∙ ROS
人工知能 コンピュータービジョン
アクセラレーテッドコンピューティング マルチメディア
ジェスチャー認識
物体検出パスプラニング
planning
深度推定
姿勢推定 言語認識
SDK、デザインツール、ライブラリー、GEMs
動作
センシング
解釈
エッジでのAI

3. 3
JETSON ファミリー
エッジでのAIから自律動作システムまで
同じソフトウェア
詳細の製品仕様はホームページにて https://www.nvidia.com/ja-jp/autonomous-machines/embedded-systems/ * TX2i: 10-20W
7.5 – 15W*
50mm x 87mm
JETSON TX2 Series
1.3 TFLOPS (FP16)
5 - 10W
45mm x 70mm
JETSON NANO
0.5 TFLOPS (FP16)
10 – 30W
100mm x 87mm
JETSON AGX XAVIER Series
11 TFLOPS (FP16)
32 TOPS (INT8)
10 - 15W
45mm x 70mm
JETSON Xavier NX
6 TFLOPS (FP16)
21 TOPS (INT8)
エッジでのAI 完全自律動作マシン

4. 4
Softwa
re
JETSON NANO JETSON TX2 JETSON XAVIER NX JETSON AGX XAVIER
GPU
128 Core Maxwell
0.5 TFLOPs (FP16)
256 Core Pascal
1.3 TFLOPS (FP16)
384 Core Volta
21 TOPs (INT8)
512 Core Volta + NVDLA
32 TOPS (INT8)
CPU 4 core ARM A57
6 core Denver and A57
(2x) 2MB L2
6 core Carmel ARM CPU
(3x) 2MB L2 + 4MB L3
8 core Carmel ARM CPU
(4x) 2MB L2 + 4MB L3
Memory
4 GB 64-bit LPDDR4
25.6 GB/s
Up to 8 GB
128b LPDDR4
58 GB/s
8 GB 128-bit LPDDR4x
51.2 GB/s
Up to 32GB 256-bit
LPDDR4x
137 GB/s
Storage 16 GB eMMC Up to 32 GB eMMC 16 GB eMMC 32 GB eMMC
Encode 4K @ 30 (H.265) 4K @ 60 (H.265) 2x 4K @ 30 (H.265) 4x 4K @ 60 (H.265)
Decode 4K @ 60 (H.265) 2x 4K @ 60 (H.265) 2x 4K @ 60 (H.265) 6x 4K @ 60 (H.265)
Camera
12 lanes (3x4 or 4x2)
MIPI CSI-2
D-PHY 1.1 (18 Gbps)
12 lanes MIPI CSI-2
D-PHY 1.2 (30 Gbps)
C-PHY (41 Gbps)
12 lanes (3x4 or 6x2)
MIPI CSI-2
D-PHY 1.2 (30 Gbps)
16 lanes MIPI CSI-2 | 8
lanes SLVS-EC
D-PHY (40 Gbps)
C-PHY (59 Gbps)
Mechanical
69.6mm x 45mm
260 pin edge connector
87mm x 50mm
400 pin connector
69.6mm x 45mm
260 pin edge connector
100mm x 87mm
699 pin connector
Software JetPack SDK – Unified software release across all Jetson products

5. 5
新製品 JETSON XAVIER NX
最大 21 DL TOPS AI 性能
10W | 15W
384 CUDA コア | 48 Tensor コア
6 コア CPU | 8 GB メモリー
45x70mm
Xavier のパフォーマンスを Nano のサイズで
世界最小の AI スーパーコンピュータ
https://www.nvidia.com/ja-jp/autonomous-machines/embedded-systems/jetson-xavier-nx/

6. 6
Orin
JETSON — コマーシャル製品 ロードマップ
Mainstream
Starting at $249
Entry
Starting at $129
AICAPABILITY
Nano 4GB
2028
TX2 4GB
2025
2025
AGX Xavier 16GB
32GB 2025
Nano Next
Autonomous
Machines
Starting at $599
TX2 8GB
2025
Xavier NX
8GB 2026
* Available April (2020)
* TX2 8GB will ship till 2025 but new designs recommend transition to NX.
The year in each box indicates supply availability at least / until. Lifecycle might be extended further, contact your partner sales manager.
Operating life of Jetson is 5 years 24x7 for commercial production modules. Products in development and planning are subject to change.
2020 2021 2022/+ Production
Released In Planning
2021 2022/+ Production2020

7. 7
JETSON — インダストリアル製品 ロードマップ
Released In Development In Planning
The year in each box indicates supply availability at least / until. Lifecycle might be extended further, contact your partner sales manager.
Operating life of Jetson industrial version is 10 years 24x7.
Products in development and planning are subject to change.
2028
AGX Xavier Industrial
32GB
1H2021
Mainstream
AICAPABILITY
Autonomous
Machines
Orin Industrial
TX2i 8GB
2028
2020 2021 2022/+ Production2021 2022/+ Production2020
2031

8. 8
JETSON ソフトウェア
AI エッジデバイス向け
FactoryCity Logistics Healthcare Agriculture
Ecosystem
AI Software and Services
Ecosystem
Machine Vision Cameras & Sensors
Ecosystem
System Software & Developer Tools
Jetson
DeepStream SDK Isaac SDK
DeveloperTools
Computer Vision
VPI
VisionWorks
OpenCV
Sensors
Drivers
Ecosystem
Deep Learning
TensorRT
cuDNN
Multimedia
libargus
Video API
Accelerated Computing
cuBLAS
cuFFT
CUDA-X
CUDA • Linux • RTOS
JetPackSDK

9. 9
継続的なソフトウェアの投資
スケーラブル ソフトウェアデファインド プラットフォーム
MAR
2016
SEPT
2016
MAR
2017
MAR
2018
DEC
2018
Jetpack 2.1/2.2
Jetson TX1
CUDA 7.0
cuDNN 4.0
Ubuntu 14.04
Kernel 3.10
Jetpack 2.3.x
CUDA 8.0
cuDNN 5.1
TensorRT 1.0
Jetpack 3.0/3.1
+ Jetson TX2
2x inference perf
cuDNN 6.0
TensorRT 2.1
Ubuntu 16.04
Kernel 4.4
Jetpack 3.2/3.3
Deepstream 1.5
TensorFlow
CUDA 9.0
cuDNN 7.0
TensorRT 4.0
Jetpack 4.0/4.1
Deepstream 3.0
+ Jetson AGX Xavier
CUDA 10
TensorRT 5.0
Ubuntu 18.04
Kernel 4.9
MAR/July
2019
Jetpack 4.2.x
Deepstream 4.0
Isaac 2019.1
+ Nano, +TX2 4GB
CUDA 10, TensorRT 5.0
Ubuntu 18.04, Kernel 4.9
Nov/Dec
2019
Jetpack 4.3
Deepstream 4.0
Isaac 2019.3
+ Xavier NX patch
CUDA 10.2, TensorRT 6.0,
Open CV 4.1

10. 10
JETPACK 4.4
Developer Preview
Platform Update
• Support for Jetson Xavier NX
Compute Update
• CUDA 10.2
• User-mode submit
• cuDNN 8.0.0
• TensorRT 7.1.0
• New Layers
• VPI 0.2.0
L4T 32.4.2
• Support for upgrading JetPack and L4T using
debian package management tool
• Support for Generic Timestamping Engine (GTE)
• Support for Dynamic Frequency Scaling (DFS) for
Video Image Compositor (VIC)
• SE (Security Engine) samples Developer Tools Update
• Nsight Systems 2020.2
• Nsight Graphics 2020.1
• Support for user defined layouts
• New Vulkan extensions
JetPack SDK: https://developer.nvidia.com/embedded/jetpack
DeepStream SDK
• DeepStream SDK 5.0 is supported

11. 11
NGC NEW CONTANERS
TensorFlow コンテナー ： TensorFlow プリインストール (Python 3.6 環境）
PyTorch コンテナー ： PyTorch, tourchvision プリインストール (Python 3.6 環境）
Machine Learning コンテナ―： TensorFlow, PyTorch, JupyteLab他のML/Data Scince
フレームワーク プリインストール (Python 3.6 環境）
https://ngc.nvidia.com/catalog/all

12. 12
なぜエッジコンピューティング？
エッジでのAI
遅延帯域 圏外
監視カメラの増加
高解像度化が加速
30画像/秒の認識
産業用機械は高速
モバイル通信圏外
低速ネットワーク
PRIVACY
医療データは高機密
オンプレストレージ
プライバシー

13. 13
広がる AI 外観検査
半導体検査
不具合検出および分類
自動車
部品検査
全車体検査
電子部品検査
不具合検出および分類

14. 14
AI による品質検査の最適化
Audiの洗練されたデザイン、そして高まる品質基準はプレス工
場でのドア、エンジンフード、フェンダー等の検査を難しくする。
Audiの従業員による外観検査に追加して、NVIDIA のGPU で
学習したいくつか Deep Learningベースのカメラを直接プレス機
に設置して金属板上の微細な傷を数秒間で最高精度で検出
する。

15. 15
品質コントロールを引き上げる
欠点のない品質を提供することは電子機製造会社にとって重要な
差別化になる一方でミクロンレベルの微細な不良を検出する重要な
チャレンジである。Foxconn Interconnect Technology Group
(FIT) はそれを実現する。
それは NVIDIA の NVIDIA HGX-1,Tesla V100/P4, そしてJetson
TX2によってもたらされたAIによる検査です。それは 95％以上の精度
で品質と効率性でプロの検査員レベルに達しています。

16. 16
複雑、マニュアル、反復的なストレスの多い検査タスクを変革する事で、迅速で正確かつ信頼性の高い結果を提供しながら、より
良い作業環境を提供します。
光学検査は製造ワークフローの 20%、製造コストの 30%です。
自動車用ギアのサプライヤーは、NVIDIA TX2 を搭載した AI 光学検査システムを実装し、 NVIDIA DGX で学習によってギアの
1mm の欠陥と溶接の 0.5mm の欠陥に対して正確な検査を提供します。
複雑で面倒な検査が簡単に

17. 17NVIDIA CONFIDENTIAL. DO NOT DISTRIBUTE.
GTC DIGITAL セッション - 無料で公開中
セッション一覧 https://www.nvidia.com/en-us/gtc/session-catalog-details/?search=#/
① AI on EGX: Innovations and Lessons Learned from a Production Deployment Across Global Manufacturing Sites
[S21867] , Seagate https://developer.nvidia.com/gtc/2020/video/s21867
② Computer vision at-the-Edge: Productionizing in-line deep-learning in automotive tier-1 manufacturing [S22034],
Vitesco Technologies https://developer.nvidia.com/gtc/2020/video/s22034
③ Smart Factory: How AI Enables Smart Manufacturing [S22110], Wistron
https://developer.nvidia.com/gtc/2020/video/s22110
④ Toward Taming the Training Data Complexity in Smart Manufacturing [S21324], Inventec
https://developer.nvidia.com/gtc/2020/video/s21324

18. 18
INVENTEC セッション紹介
データセットの準備が課題であった
短い製品ライフサイクルの中で、不良のデータの準備とアノテーションで
苦労していた。
教師なし学習採用
データラベリングの量が1/10から1/100に減少。
未知の欠陥にも対応。
複雑の模様上でも誤検出低減。
推論高速化
RTX2080Ti および Jetson AGX Xavier 採用により 60 倍高速化。
https://developer.nvidia.com/gtc/2020/video/s21324

19. 19
JETSON を活用した
AI エッジコンピューティング BOX

20. 20
JETSON MICROSITE 紹介
JETSON 特別ページが公開
5/15 MONOist のサイトより公開予定
ニュース記事/解説記事
NVIDIA JETSON ウェビナー情報
JETSON COMMUNITY PROJECTS
無料 DLI
各パートナーのJETSON 関連ページ