NVIDIA JetPack 4.4 phiên bản mới nhất, hỗ trợ tất cả các phiên bản Jetson Module và Dev Kit

NVIDIA JetPack SDK là một giải pháp toàn diện nhất để xây dựng các ứng dụng AI. Tất cả các sản phẩm NVIDIA Jetson Module và các Developer Kit đều được hỗ trợ bởi JetPack SDK. 

JetPack SDK bao gồm Linux Driver Package (L4T) mới nhất cùng với hệ điều hành Linux cũng như các thư viện được tăng tốc cho CUDA-X và API dành cho Deep Learning, Computer Vision, Accelerated Computing và Multimedia. Nó cũng bao gồm các samples, documentation, developer tools cho cả host computer và developer kit, Hỗ trợ các SDKs khác như: DeepStream dành cho Streaming video analytics và Isaac dành cho Robotics.

JetPack 4.4

JetPack 4.4 là phiên bản mới nhất cho đến hiện tại, hỗ trợ tất cả các phiên bản NVIDIA Jetson.

Các tính năng chính bao gồm việc hỗ trợ cho Jetson Xavier NX và các phiên bản CUDA mới nhất, TensorRT và cuDNN.

 Các tính năng chính trong JetPack

Hệ điều hành

NVIDIA L4T cung cấp bootloader, Linux kernel, những phần mềm cần thiết, NVIDIA drivers, một số file hệ thống,....

JetPack 4.4 nổi bật với L4T 32.4.3 với các tính năng sau :

+ Hỗ trợ việc nâng cấp JetPack và L4T sử dụng debian package management tool

+ Hỗ trợ Generic Timestamping Engine (GTE) dành cho Jetson AGX Xavier và Jetson Xavier NX

+ Hỗ trợ Dynamic Frequency Scaling (DFS) dành cho Video Image Compositor (VIC) sử dụng actmon

+ Các sample SE (Security Engine) dùng cho việc xác thực và mã hóa hỗ trợ phần cứng như các phiên bản Jetson TX2 và các Module Jetson AGX Xavier, Jetson Xavier NX.

+ Tiện ích giúp cho việc tích hợp nhiều module Jetson với nhau.

+ Tùy chọn chỉ định kích thước phân vùng APP trên thẻ nhớ microSD trong cấu hình ban đầu khi khởi động lần đầu tiên của Jetson Xavier NX và Jetson Nano Developer Kits.

+ Hỗ trợ Vulkan 1.2

TensorRT

TensorRT với khả năng thực hiện Deep learning hiệu suất cao dùng cho image classification, segmentation và object detection neural networks. TensorRT được xây dựng trên CUDA, mô hình lập trình song song của NVIDIA cho phép bạn tối ưu hóa cho tất cả các Deep learning frameworks. Nó bao gồm một trình tối ưu hóa cho Deep learning với độ trễ thấp và công suất tối ưu cho các ứng dụng sử dụng Deep learning.

 JetPack 4.4 bao gồm TensorRT 7.1.3 với các điểm nổi bật như :

+ New layers and operators (Các lớp và toán tử mới )

+ Hỗ trợ suy luận hỗn hợp một cách chính xác (mixed precision inference)

+ Hỗ trợ loop constructs

+ Hỗ trợ các mô mình lượng tử (Quantized models)

+ Hỗ trợ Boolean tensors

+ Hỗ trợ Empty tensors

+ Hỗ trợ hiệu chuẩn INT8 với hình ảnh động.

+ ONNX parser hỗ trợ hình ảnh động.

cuDNN

Thư viện CUDA Deep Neural Network cung cấp các nguyên mẫu hiệu suất cao cho các deep learning frameworks. Nó cung cấp các khai triển như : Forward and backward convolution, Pooling, Normalization và activation layers.

JetPack 4.4 bao gồm cuDNN 8.0 với những điểm nổi bật sau:

+ cuDNN hiện được chia thành các multiple training và inference libraries

CUDA

CUDA Toolkit cung cấp môi trường phát triển toàn diện cho các nhà phát triển C và C ++ xây dựng các ứng dụng tăng tốc GPU. Bộ công cụ bao gồm một trình biên dịch cho GPU NVIDIA, thư viện toán học và các công cụ để gỡ lỗi và tối ưu hóa hiệu suất của các ứng dụng của bạn.

JetPack 4.4 bao gồm CUDA 10.2 với những điểm nổi bật sau:

+ Giảm 50% độ trễ cho các nhân CUDA dẫn đến việc sử dụng GPU được cải thiện và sử dụng CPU thấp hơn.

Multimedia API

Jetson Multimedia API package cung cấp các API cấp thấp để phát triển ứng dụng một cách linh hoạt.

Camera application API : libargus cung cấp các API đồng bộ khung hình ở mức độ thấp cho các ứng dụng camera, với việc điều khiển các tham số camera trên mỗi khung hình, hỗ trợ nhiều camera ( bao gồm cả đồng bộ hóa) và luồng đầu ra EGL. Camera CSI đầu ra RAW cần ISP có thể được sử dụng với Plugin Libargus hoặc GStreamer. Trong cả hai trường hợp, V4L2  V4L2 media-controller đều sử dụng Sensor driver API.

Sensor driver API: API V4L2 cho phép giải mã video, mã hóa, chuyển đổi định dạng và các chức năng mở rộng. V4L2 cho phép mã hóa mở ra nhiều tính năng như : Bit rate control, Quality presets, Low latency encode, Temporal tradeoff, Motion vector maps...

Computer Vision

VisionWorks là một gói phần mềm phát triển phần mềm cho Xử lý ảnh

OpenCV là một thư viện mã nguồn mở hàng đầu cho Computer Vision/ Image Procesing và Machine Learning.

VPI (Vision Programing Interface) là một thư viện phần mềm cung cấp các thuật toán Computer Vision/ Image Processing được thực hiện trên PVA2 (Programmable Vision Accelerator), GPU và CPU

Điểm nổi bật của bản JetPack 4.4:

Tối ưu hóa hiệu suất của các thuật toán được giới thiệu trong VPI 0.1.0: lên đến 45 lần trên GPU và lên đến 90 lần trên phần phụ trợ của CPU

Các thuật toán chuyển đổi Image FFT, Image iFFT và Image Format mới được thêm vào với sự hỗ trợ cho các phụ trợ CPU và GPU. (Phần phụ trợ PVA sẽ được hỗ trợ trong một bản phát hành trong tương lai.)

Developer Tools

CUDA cung cấp một môi trường phát triển toàn diện cho các nhà phát triển C và C ++ xây dựng các ứng dụng tăng tốc GPU hiệu suất cao với các thư viện CUDA. Bộ công cụ bao gồm Nsight Eclipse Edition, các công cụ gỡ lỗi và biên dịch bao gồm Nsight Compute và chuỗi công cụ cho các ứng dụng biên dịch chéo.

NVIDIA Nsight Systems là một công cụ lập hồ sơ trên toàn hệ thống với chi phí thấp, cung cấp thông tin chi tiết mà các nhà phát triển cần để phân tích và tối ưu hóa hiệu suất phần mềm.

NVIDIA Nsight Graphics là một ứng dụng độc lập để gỡ lỗi và định cấu hình các ứng dụng đồ họa.

Điểm nổi bật của bản JetPack 4.4:

+ NVIDIA Nsight Systems :

- Phân tích dữ liệu nâng cao với tùy chọn xuất sang SQLite, HDF5 hoặc JSON

- Hỗ trợ lấy mẫu các phần mở rộng của Xavier PMU

- Giảm chi phí NVTX

- Hỗ trợ CLI mới để lập hồ sơ trên các thiết bị có kết nối mạng không liên tục

+ NVIDIA Nsight Graphics :

- Hỗ trợ lưu và tải các bố cục được đặt tên tùy chỉnh

- Cải thiện hiển thị và lọc chế độ xem sự kiện

- Hỗ trợ nâng cao cho việc mở rộng màn hình DPI hỗn hợp

- Hỗ trợ các tiện ích mở rộng Vulkan mới

SDK DeepStream

DeepStream SDK của NVIDIA cung cấp bộ công cụ phân tích phát trực tuyến hoàn chỉnh để xử lý đa cảm biến dựa trên AI, hiểu video và hình ảnh. DeepStream là một phần không thể thiếu của NVIDIA Metropolis , nền tảng để xây dựng các dịch vụ và giải pháp end-to-end giúp chuyển đổi dữ liệu pixel và cảm biến thành những thông tin chi tiết hữu ích.

Điểm nổi bật của bản xem trước dành cho nhà phát triển DeepStream SDK 5.0

Chạy khuôn khổ Deep Learning phổ biến nguyên bản với DeepStream : Khả năng suy luận mới với Máy chủ suy luận Triton (trước đây là Máy chủ suy luận TensorRT) cho phép các nhà phát triển triển khai một mô hình nguyên bản trong TensorFlow, TensorFlow-TensorRT, PyTorch hoặc ONNX trong đường dẫn DeepStream sử dụng máy chủ Suy luận NVIDIA Triton.

Phát triển dựa trên Python : Chọn từ các ứng dụng dựa trên C / C ++ hoặc Python cho trường hợp sử dụng của bạn. Chúng tôi đã giới thiệu hỗ trợ Python với bảy ứng dụng tham khảo . Cả hai tùy chọn phát triển đều cung cấp hiệu suất tương đương.

Giao tiếp an toàn giữa biên và đám mây bằng cách sử dụng nhà môi giới tin nhắn Kafka và giao tiếp SSL

Giới thiệu hỗ trợ Jetson Xavier NX : Triển khai các ứng dụng AI trên siêu máy tính AI nhỏ nhất thế giới ở rìa. Ứng dụng tham chiếu phổ biến trong tất cả các nền tảng.

Khả năng IoT

Kiểm soát ứng dụng DeepStream vượt trội từ cạnh hoặc đám mây với nhắn tin IoT hai chiều

Cập nhật mô hình AI động khi đang di chuyển giúp giảm thời gian ngừng hoạt động của ứng dụng

Khả năng tương tác với Bộ công cụ học tập chuyển giao 2.0 (bản xem trước của nhà phát triển)

DOWNLOAD VÀ CÀI ĐẶT JETPACK 4.4

Cài đặt trực tiếp hệ điều hành

Hệ điều hành dành cho NVIDIA Jetson Nano Developer Kit :

Link tải : https://developer.nvidia.com/jetson-nano-sd-card-image-44-dp

Hệ điều hành dành cho NVIDIA Xavier NX Developer Kit :

Link tải : https://developer.nvidia.com/jetson-nx-developer-kit-sd-card-image-44-dp

Cài đặt gián tiếp qua SDK Manager

Link tải phần mềm SDK Manager dành cho mọi phiên bản Jetson Developer Kit :

https://developer.nvidia.com/nvsdk-manager

Các bước để cài đặt được Jetpack 4.4 thông qua phần mềm quản lý SDK Manager các bạn có thể tham khảo link dưới đây :

https://docs.nvidia.com/sdk-manager/install-with-sdkm-jetson/index.html

Nếu các bạn có bất kỳ ý tưởng mới cũng như đóng góp nào đừng ngần ngại mà hãy inbox trực tiếp cho fanpage . Xin chào và hẹn gặp lại các bạn trong các bài viết tiếp theo !!!

PIVIETNAM.COM.VN CHÚC CÁC BẠN THÀNH CÔNG !!!

Thực hiện bài viết : Bùi Minh Đức

Để cập nhật các tin tức công nghệ mới các bạn làm theo hướng dẫn sau đây :

Các bạn vào Trang chủ >> Tin tức. ở mục này có các bài viết kỹ thuật thuộc các lĩnh vực khác nhau các bạn có thể lựa chọn lĩnh vực mà mình quan tâm để đọc nhé !!!

Các bạn cũng có thế kéo xuống cuối trang để xem những tin tức công nghệ mới nhất.