JetPack 5.0.2 Deep Dive Presentation File. This file is explained in Jetson Channel YouTube. https://youtu.be/S2ZczzQiG_k

1. JETPACK 5.0.2 ディープダイブ
OCTOBER 2022
エヌビディア合同会社
シニア フィールド アプリケーション エンジニア 小室 正明
マネージャー CHRIS TO

2. Jetpack 5.0.2
フル ソフトウェア スタックのハイライト
Jetson Linux R35.1 (JetPack 5.0.2) のインストール
初回セットアップとアップグレードパス
エミュレーション機能の有効化 (Jetson AGX Orin Developer Kit 上での任意の Jetson Orin モジュールエミュレート)
JetPack コンポーネント Debian パッケージ
新しい開発者向けメタ パッケージの導入
Docker を実行するための最小構成
開発用 x86 コンテナー
クロスコンパイラ コンテナー
Jetson Linux フラッシュコンテナー
GIT のソースコード
Jetson カーネル ソース用の NVIDIA Git サーバー
Jetson ソフトウェア ロードマップ
JetPack 5 と JetPack 6
アジェンダ

3. 3
JETPACK 5 最初の製品リリース
JetPack 5.0.2
Jetson Linux 35.1 BSP
• サポートモジュール:
• Jetson AGX Orin 32GB 量産モジュールのサポートを追加
• Jetson AGX Orin Developer Kit で任意の Jetson Orin モジュールの性能をエミュレートするためのエミュレーション機
能を追加
• セキュリティ:
• UEFI へ制御を移す前のブートファームウェアに対する署名とその Secureboot サポート
• Orin ベースの Jetson モジュールは、署名のみをサポート
• Xavier ベースの Jetson モジュールは、署名と暗号化をサポート
• REE を用いた OP-TEE 上のセキュアストレージ
• OTA
• Xavier ベースの Jetson モジュールを JetPack 4.x から JetPack 5.0.2 にアップグレードするための OTA ツール
• A/B 冗長パーティションメカニズムのサポートと A/B パーティションを更新するための OTA 機能のサポート
• Jetpack コンポーネントの新しいランタイムおよび開発メタ パッケージ
• GIT によるソースコードの配布

4. 4
コンピュートスタック
• CUDA 11.4.14
• アップグレード可能な CUDA に対応
• TensorRT 8.4.1
• cuDNN 8.4.1
• VPI 2.1
• 高速なキーポイント検出
• イメージチャンネル抽出
• メディアンフィルター
JETPACK 5 最初の製品リリース
JetPack 5.0.2
グラフィックス
• Vulkan 1.3
• Vulkan SC 1.0
• OpenWF Display 1.0
• GMB API の完全サポート
• OpenGL 4.6
• Open GL ES 3.2
• EGL 1.5
クラウドネイティブ
• Jetson のクロス コンパイル用コンテナー
• Jetson のイメージをフラッシュするためのコンテナー
NSight ツール
• Nsight system 2022.3
• Nsight Graphics 2022.3
• NSight System, Graphics および Compute は、
Jetson Orin ターゲットをサポート

5. Jetpack 5.0.2
フル ソフトウェア スタックのハイライト
Jetson Linux R35.1 (JetPack 5.0.2) のインストール
初回セットアップとアップグレードパス
エミュレーション機能の有効化 (Jetson AGX Orin Developer Kit 上での任意の Jetson Orin モジュールエミュレート)
JetPack コンポーネント Debian パッケージ
新しい開発者向けメタ パッケージの導入
Docker を実行するための最小構成
開発用 x86 コンテナー
クロスコンパイラ コンテナー
Jetson Linux フラッシュコンテナー
GIT のソースコード
Jetson カーネル ソース用の NVIDIA Git サーバー
Jetson ソフトウェア ロードマップ
JetPack 5 と JetPack 6
アジェンダ

6. 6
JETPACK の構成
JetPack = BSP + { SDKと ライブラリ }
Jetson Linux (L4T)
JetPack コンポーネント
ホスト側の
ツール

7. 7
JETSON LINUX (L4T) のバージョン
Rel-35.1 へのアップグレード方法
Jetson AGX Xavier
Jetson Xavier NX
(T194)
Jetson AGX Orin
(T234)
Rel 34.1.0
(JetPack 5.0 DP)
Rel 34.1.1
(JetPack 5.0.1 DP)
Rel 35.1.0
(JetPack 5.0.2)
Rel 32.x
(JetPack 4.x)
Rel 34.0.1
SDK Manager
sudo vi /etc/apt/sources.list.d/nvidia-l4t-apt-source.list
sudo apt dist-upgrade
又は… CUI フラッシングツール
1
2

8. 8
JETSON LINUX (L4T) のバージョン
Rel-35.1 へのアップグレード方法
Jetson AGX Xavier
Jetson Xavier NX
(T194)
Jetson AGX Orin
(T234)
Rel 34.1.0
(JetPack 5.0 DP)
Rel 34.1.1
(JetPack 5.0.1 DP)
Rel 35.1.0
(JetPack 5.0.2)
Rel 32.x
(JetPack 4.x)
SDK Manager
又は… CUI フラッシングツール
1
sudo vi /etc/apt/sources.list.d/nvidia-l4t-apt-source.list
sudo apt dist-upgrade
2
Rel 34.0.1

9. 9

10. 10
JETSON LINUX (L4T) のバージョン
Rel-35.1 へのアップグレード方法
Jetson AGX Xavier
Jetson Xavier NX
(T194)
Jetson AGX Orin
(T234)
Rel 34.1.0
(JetPack 5.0 DP)
Rel 34.1.1
(JetPack 5.0.1 DP)
Rel 35.1.0
(JetPack 5.0.2)
Rel 32.x
SDK Manager
又は… CUI フラッシングツール
1
sudo vi /etc/apt/sources.list.d/nvidia-l4t-apt-source.list
sudo apt dist-upgrade
2
Rel 34.0.1

11. 11

12. 12

13. 13
JETSON LINUX (L4T) のバージョン
Rel-35.1 へのアップグレード方法
Jetson AGX Xavier
Jetson Xavier NX
(T194)
Jetson AGX Orin
(T234)
Rel 34.1.0
(JetPack 5.0 DP)
Rel 34.1.1
(JetPack 5.0.1 DP)
Rel 35.1.0
(JetPack 5.0.2)
Rel 32.x
(JetPack 4.x)
Rel 34.0.1
SDK Manager
sudo vi /etc/apt/sources.list.d/nvidia-l4t-apt-source.list
sudo apt dist-upgrade
又は… CUI フラッシングツール
1
2

14. 14
エミュレーション
Orin シリーズモジュールをエミュレートする Jetson AGX Orin Developer Kit

15. 15
エミュレーション
CUI フラッシングツールの使用
sudo ./flash.sh jetson-agx-orin-devkit-as-nano4gb
sudo ./flash.sh jetson-agx-orin-devkit-as-nano8gb
https://docs.nvidia.com/jetson/archives/r35.1/DeveloperGuide/text/SD/EmulationSupport.html

16. 16
エミュレーション
Orin Nano モジュールとしてフラッシュする場合
https://developer.nvidia.com/embedded/jetson-linux-r351

17. 17

18. 18
エミュレーション
Orin Nano モジュールとしてフラッシュする場合
https://developer.nvidia.com/embedded/jetson-linux-r351

19. Jetpack 5.0.2
フル ソフトウェア スタックのハイライト
Jetson Linux R35.1 (JetPack 5.0.2) のインストール
初回セットアップとアップグレードパス
エミュレーション機能の有効化 (Jetson AGX Orin Developer Kit 上での任意の Jetson Orin モジュールエミュレート)
JetPack コンポーネント Debian パッケージ
新しい開発者向けメタ パッケージの導入
Docker を実行するための最小構成
開発用 x86 コンテナー
クロスコンパイラ コンテナー
Jetson Linux フラッシュコンテナー
GIT のソースコード
Jetson カーネル ソース用の NVIDIA Git サーバー
Jetson ソフトウェア ロードマップ
JetPack 5 と JetPack 6
アジェンダ

20. 20
JETPACK コンポーネント
“dev” メタパッケージの導入
sudo apt install nvidia-jetpack
nvidia-container
nvidia-jetpack
nvidia-jetpack-dev
nvidia-jetpack-runtime
nvidia-l4t-jetson-multimedia-api
nvidia-vpi
nvidia-cudnn8
nvidia-opencv
nvidia-tensorrt
nvidia-cuda
nvidia-vpi-dev
nvidia-cudnn8-dev
nvidia-opencv-dev
nvidia-tensorrt-dev
nvidia-cuda-dev
nvidia-nsight-sys

21. 21
新たな問題: 何をインストールしなければならないのか
“ABC を動かすには何をインストールすればよいですか ?”
CUDA?
CUDA の
どのパッケージ ?
こんな大きなパッケージ
が必要なのか ?

22. nvidia-cuda
cuda-toolkit-
11-4
cuda-libraries-dev-11-4
cuda-cudart-dev-11-4
cuda-nvrtc-dev-11-4
libcublas-dev-11-4
libcufft-dev-11-4
libcudla-dev-11-4
libcurand-dev-11-4
libcusolver-dev-11-4
libcusparse-dev-11-4
libnpp-dev-11-4
cuda-libraries-11-4
cuda-cudart-11-4
cuda-nvrtc-11-4
libcublas-11-4
libcufft-11-4
libcudla-11-4
libcurand-11-4
libcusolver-11-4
libcusparse-11-4
libnpp-11-4
cuda-documentation
-11-4
cuda-samples-11-4
cuda-compiler-11-4
cuda-tools-11-4
cuda-nvml-dev-11-4 cuda-visual-tools
-11-4
cuda-command-line-tools
-11-4
cuda-cupti-dev-11-4
cuda-gdb-11-4
cuda-nvidiasm-11-4
cuda-nvprof-11-4
cuda-nvtx-11-4
cuda-sanitizer-11-4
cuda-cupti-11-4
cuda-cuobjdump-11-4
cuda-cuxxfilt-11-4
cuda-nvcc-11-4
cuda-nvprune-11-4
cuda-cccl-11-4
cuda-driver-dev-11-4
cuda-toolkit-config-common |
cuda-cudart-11-2
cuda-toolkit-11-config-common |
cuda-cudart-11-2
cuda-toolkit-11-4-config-common
Meta package
Installed package
Before
21MB
12MB
13MB
100MB
46MB
161MB
26MB
527MB
699MB
171MB
393MB
79MB
81MB
466MB
223MB
225MB
251MB
207MB
219MB

23. cuda-toolkit
-11-4
cuda-libraries-dev-11-4
cuda-cudart-dev-11-4
cuda-nvrtc-dev-11-4
libcublas-dev-11-4
libcufft-dev-11-4
libcudla-dev-11-4
libcurand-dev-11-4
libcusolver-dev-11-4
libcusparse-dev-11-4
libnpp-dev-11-4
cuda-libraries-11-4
cuda-cudart-11-4
cuda-nvrtc-11-4
libcublas-11-4
libcufft-11-4
libcudla-11-4
libcurand-11-4
libcusolver-11-4
libcusparse-11-4
libnpp-11-4
cuda-documentation
-11-4
cuda-samples-11-4
cuda-compiler-11-4
cuda-tools-11-4
cuda-nvml-dev-11-4 cuda-visual-tools
-11-4
cuda-command-line-tools
-11-4
cuda-cupti-dev-11-4
cuda-gdb-11-4
cuda-nvidiasm-11-4
cuda-nvprof-11-4
cuda-nvtx-11-4
cuda-sanitizer-11-4
cuda-cupti-11-4
cuda-cuobjdump-11-4
cuda-cuxxfilt-11-4
cuda-nvcc-11-4
cuda-nvprune-11-4
cuda-cccl-11-4
cuda-driver-dev-11-4
cuda-toolkit-config-common |
cuda-cudart-11-2
cuda-toolkit-11-config-common |
cuda-cudart-11-2
cuda-toolkit-11-4-config-common
After
(JP 5.0.2)
21MB
12MB
13MB
100MB
46MB
161MB
26MB
527MB
699MB
171MB
393MB
79MB
81MB
466MB
223MB
225MB
251MB
207MB
219MB
nvidia-cuda-dev
Meta package
Installed package
Meta package (runtime)
Installed package (runtime)
New meta-package
nvidia-cuda
cuda-runtime
-11-4
cuda-11-4

24. 24
サイズが削減された新しいメタパッケージ
nvidia-jetpack-runtime
sudo apt install nvidia-jetpack-runtime
nvidia-container
nvidia-jetpack
nvidia-jetpack-dev
nvidia-jetpack-runtime
nvidia-l4t-jetson-multimedia-api
nvidia-vpi
nvidia-cudnn8
nvidia-opencv
nvidia-tensorrt
nvidia-cuda
nvidia-vpi-dev
nvidia-cudnn8-dev
nvidia-opencv-dev
nvidia-tensorrt-dev
nvidia-cuda-dev
nvidia-nsight-sys

25. 25
NVIDIA コンテナー
Docker コンテナーを動作させるために必要なパッケージ
sudo apt install nvidia-container
nvidia-container
nvidia-jetpack
nvidia-jetpack-dev
nvidia-jetpack-runtime
nvidia-l4t-jetson-multimedia-api
nvidia-vpi
nvidia-cudnn8
nvidia-opencv
nvidia-tensorrt
nvidia-cuda
nvidia-vpi-dev
nvidia-cudnn8-dev
nvidia-opencv-dev
nvidia-tensorrt-dev
nvidia-cuda-dev
nvidia-nsight-sys

26. 26
コンテナ用 L4T の最小セットアップ
Jetson 上で新しい Docker イメージを実行するために必要な推奨される最小限の L4T セットアップ
sudo apt install nvidia-container
sudo service docker restart
https://docs.nvidia.com/metropolis/deepstream/dev-guide/text/DS_docker_containers.html

27. 27
https://gitlab.com/nvidia/container-images/l4t-jetpack/-/blob/master/Dockerfile.jetpack

28. 28
https://gitlab.com/nvidia/container-images/l4t-jetpack/-/blob/master/Dockerfile.jetpack

29. Jetpack 5.0.2
フル ソフトウェア スタックのハイライト
Jetson Linux R35.1 (JetPack 5.0.2) のインストール
初回セットアップとアップグレードパス
エミュレーション機能の有効化 (Jetson AGX Orin Developer Kit 上での任意の Jetson Orin モジュールエミュレート)
JetPack コンポーネント Debian パッケージ
新しい開発者向けメタ パッケージの導入
Docker を実行するための最小構成
開発用 x86 コンテナー
クロスコンパイラ コンテナー
Jetson Linux フラッシュコンテナー
GIT のソースコード
Jetson カーネル ソース用の NVIDIA Git サーバー
Jetson ソフトウェア ロードマップ
JetPack 5 と JetPack 6
アジェンダ

30. 30
便利な X86 コンテナー
(1) JetPack クロスコンパイラ コンテナー
https://catalog.ngc.nvidia.com/orgs/nvidia/containers/jetpack-linux-aarch64-crosscompile-x86

31. 31
便利な X86 コンテナー
(2) Jetson Linux フラッシュコンテナー
https://catalog.ngc.nvidia.com/orgs/nvidia/containers/jetson-linux-flash-x86 v

32. 32
多くのホスト OS に対応した CUI フラッシング方法
ホストマシンの Ubuntu のバージョンが...の場合
Ubuntu 14.04
Ubuntu 16.04
Ubuntu 18.04
Ubuntu 20.04
Ubuntu 22.04
You don’t have host PC
CUI フラッシュ
ツール for JP
4.x
CUI フラッシュ
ツール for JP
5.x
SDK Manager
for JP 4.x
SDK Manager
for JP 5.x
フラッシュコンテナー
for JP 5.0.2

33. 33

34. 34

35. Jetpack 5.0.2
フル ソフトウェア スタックのハイライト
Jetson Linux R35.1 (JetPack 5.0.2) のインストール
初回セットアップとアップグレードパス
エミュレーション機能の有効化 (Jetson AGX Orin Developer Kit 上での任意の Jetson Orin モジュールエミュレート)
JetPack コンポーネント Debian パッケージ
新しい開発者向けメタ パッケージの導入
Docker を実行するための最小構成
開発用 x86 コンテナー
クロスコンパイラ コンテナー
Jetson Linux フラッシュコンテナー
GIT のソースコード
Jetson カーネル ソース用の NVIDIA Git サーバー
Jetson ソフトウェア ロードマップ
JetPack 5 と JetPack 6
アジェンダ

36. 36
GIT ソースコード
https://docs.nvidia.com/jetson/archives/r35.1/ReleaseNotes/Jetson_Linux_Release_Notes_r35.1.pdf
https://nv-tegra.nvidia.com/r/linux-5.10
https://nv-tegra.nvidia.com/r/tegra/kernel-src/nv-kernel-display-
driver.git
https://nv-tegra.nvidia.com/r/3rdparty/libnl/3.5.0.git
https://nv-tegra.nvidia.com/r/tegra/cuda-
src/nvsample_cudaprocess.git
https://nv-tegra.nvidia.com/r/tegra/gfx-src/nv-xconfig.git
https://nv-tegra.nvidia.com/r/tegra/gst-src/gst-egl.git
https://nv-tegra.nvidia.com/r/tegra/gst-src/gst-jpeg.git
https://nv-tegra.nvidia.com/r/tegra/gst-src/gst-nvarguscamera.git
https://nv-tegra.nvidia.com/r/tegra/gst-src/gst-nvcompositor.git
https://nv-tegra.nvidia.com/r/tegra/gst-src/gst-nvtee.git
https://nv-tegra.nvidia.com/r/tegra/gst-src/gst-nvv4l2camera.git
https://nv-tegra.nvidia.com/r/tegra/gst-src/gst-nvvidconv.git
https://nv-tegra.nvidia.com/r/tegra/gst-src/gst-nvvideo4linux2.git
https://nv-tegra.nvidia.com/r/tegra/gst-src/nvgstapps.git
https://nv-tegra.nvidia.com/r/tegra/gst-
src/libgstnvdrmvideosink.git
https://nv-tegra.nvidia.com/r/tegra/gst-src/libgstnvvideosinks.git
https://nv-tegra.nvidia.com/r/tegra/gst-src/libnvgstreamer.git
https://nv-tegra.nvidia.com/r/tegra/nv-sci-src/nvsci_headers.git
https://nv-tegra.nvidia.com/r/tegra/optee-src/atf.git
https://nv-tegra.nvidia.com/r/tegra/optee-src/nv-optee.git
https://nv-tegra.nvidia.com/r/tegra/v4l2-src/v4l2_libs.git

37. 37

38. Jetpack 5.0.2
フル ソフトウェア スタックのハイライト
Jetson Linux R35.1 (JetPack 5.0.2) のインストール
初回セットアップとアップグレードパス
エミュレーション機能の有効化 (Jetson AGX Orin Developer Kit 上での任意の Jetson Orin モジュールエミュレート)
JetPack コンポーネント Debian パッケージ
新しい開発者向けメタ パッケージの導入
Docker を実行するための最小構成
開発用 x86 コンテナー
クロスコンパイラ コンテナー
Jetson Linux フラッシュコンテナー
GIT のソースコード
Jetson カーネル ソース用の NVIDIA Git サーバー
Jetson ソフトウェア ロードマップ
JetPack 5 と JetPack 6
アジェンダ

39. JETSON ORIN 量産ジュールとソフトウエアリリース タイムライン
リリース済み 開発中
HARDWARE
SOFTWARE
JetPack 5.1
Adds support for
Jetson Orin NX 16GB and
AGX Orin 64GB
2022 年 12 月
Jetson Orin NX 16GB
Jetson AGX Orin 64GB
Jetson AGX Orin
Developer Kit
JetPack 5.0
Developer Preview
Supports AGX Orin devkit
+ emulation of all Jetson Orin modules
JetPack 5.0.2
Adds support for
Jetson AGX Orin 32GB
Jetson AGX Orin
32GB
現在 2023 年 1 月
Overlay for
JetPack 5.1
Adds support for
Jetson Orin NX 8GB, Orin Nano
8GB, and Orin Nano 4GB
Jetson Orin Nano 4GB
Jetson Orin NX 8GB
Jetson Orin Nano 8GB

40. JETPACK 6 リリース
Kernel 5.15 Ubuntu 22.04

41. 41
JETSON ソフトウェア ロードマップ
JetPack
5.0
JetPack
5.1
JetPack
5.2
JetPack
6.0
JetPack
6.1
. . .
新機能と CUDA-X スタックを搭載したアクティブブランチ
定期的なセキュリティフィックスを含むサステインブランチ
2023 年中頃
Jetson Orin ベースのモジュール
Jetson Orin および Xavier ベースのモジュール
JetPack
5.2.1
JetPack
5.2.2
. . .

42. 42
ウェビナーのお知らせ
• 10月18日: Unlock a third of AI compute on Jetson AGX
Orin using Deep Learning Accelerator (DLA) for embedded
AI applications.
(Jetson AGX Orin 上で組み込み AI アプリケーション向け Deep
Learning Accelerator (DLA) を活用して AI コンピューティングの 3
分の 1 の性能を解放する)
• 11月1日: Creating a minimal image for production
(量産用の最小ソフトウエアイメージの作成)
• 11月9日: Get the latest CUDA on Jetson
(Jetson で最新の CUDA を入手する)
JetPack 5 Webinar Series (on24.com)