NVIDIA Jetson Nano 2GB Developer Kit với mức giá chỉ 59$ liệu có tạo nên sự khác biệt ???
09:15 - 07/10/2020
Hiện có giá chỉ 59$, NVIDIA Jetson Nano 2GB liệu có phải là khởi đầu hoàn hảo cho trí thông minh nhân tạo với lợi thế về khả năng tăng tốc trên GPU ?
NVIDIA Jetson AGX Orin Hardware Layout and GPIO Expansion Header Pinout
NVIDIA Jetson là nền tảng hàng đầu thế giới dành cho Trí tuệ nhân tạo (AI) và Deep Learning
Jetson Stats dùng cho Giám sát và Điều khiển trên NVIDIA Jetson Ecosystem [Xavier NX, Nano, AGX Xavier, TX1, TX2]
Xilinx Kria Edge AI SOM ra mắt với Developer Kit
Cách đây hai năm, tại Hội nghị Công nghệ GPU 2018, NVIDIA đã thông báo rằng họ đang tìm cách đưa dòng thiết bị AI nhúng tăng tốc GPU Jetson của mình đến với cộng đồng hacker và nhà sản xuất với Jetson Nano 99 đô la. Bây giờ, hai năm sau họ sẽ tung ra một phiên bản mới với giá chỉ còn 59 đô la - Cạnh tranh trực tiếp với loạt single-board computers giá rẻ như Raspberry Pi 4.
Tuy nhiên, Phiên bản mới có sự cắt giảm từ 4GB RAM LPDDR4 của bản gốc xuống chỉ còn 2GB, đồng thời cũng cắt giảm cổng USB, DisplayPort 1.2 và khe cắm M.2 cho Wi-Fi. Liệu những cắt giảm này chỉ để đạt mức giá 59$ hay thực sự NVIDIA Jetson Nano 2GB có thể trở thành một giải pháp phù hợp cho việc nghiên cứu AI ?
Phần cứng
Chúng ta không ngạc nhiên khi NVIDIA Jetson Nano 2GB rất giống với phiên bản 4GB trước đó. Bộ công cụ dành cho nhà phát triển này giờ đây chỉ còn 2GB RAM kết hợp với Quad-core Carmel-based 1.43GHz Arm Cortex-A57 CPU và 128-core Maxwell GPU đi kèm với board mở rộng với các cổng kết nối giúp cho việc kết nối với ngoại vi một cách dễ dàng.
So với thiết kế của phiên bản ban đầu đã có sự cắt giảm từ 4xUSB 3.0 xuống còn 1xUSB 3.0 và 2XUSB 2.0, chỉ còn hỗ trợ cho một màn hình duy nhất (Cắt giảm DisplayPort 1.2 ) cũng như khe cắm M.2 dành cho wifi cũng bị loại bỏ.
Phần mềm
Được đóng gói dưới dạng "JetPack SDK", phần mềm này bao gồm một hệ điều hành và gói hỗ trợ cùng với tất cả các thư viện và gói hỗ trợ cần thiết để chạy Computer Vision cũng như deep learning trên bo mạch. Nó cũng hỗ trợ đầy đủ cho tất cả các Frameworks và Models phổ biến, bao gồm TensorFlow và PyTorch mà NVIDIA đã chỉ ra rằng không phù hợp cho các dòng sản phẩm tiện ích Edge AI Coral của Google.
Về chủ đề giáo dục, rõ ràng NVIDIA đã rất nghiêm túc trong việc biến phần mềm CUDA của mình trở thành tiêu chuẩn vàng : Jetson Nano 2GB ra mắt cùng với một nền tảng giáo dục mới với tên NVIDIA Jetson AI Certification Program hướng tới đối tượng là người dạy cũng như người học với quá trình Đào tạo và suy luận (Training and Inference), Thu thập dữ liệu (Data Collection), Thị giác máy tính thời gian (Deal-time Computer Vision) với Phân loại và hồi quy (Classification and Regression Networks), Phát hiện đối tượng (Object Detection), Phân đoạn ngữ nghĩa (Semantic Segmentation) thậm chí mở rộng sang lĩnh vực Robotics một trong số đó là Robot mã nguồn mở JetBot.
Hiệu suất
Một điều đáng ngạc nhiên khi thấy Jetson Nano 2Gb hoạt động từng nhịp một giống hệt với phiên bản tiền nhiệm 4GB - không có sự thay đổi nào với System on Chip(SoC). Tất nhiên, điều này chỉ đúng khi khối lượng tính toán phù hợp với 2GB, ngay khi bạn vượt quá giới hạn này thì hiệu suất sẽ giảm dần.
Thực tế thì giới hạn n
Đáng buồn thay, thật quá dễ dàng để đạt đến giới hạn này. Ngay cả với ZRAM được định cấu hình, nén dữ liệu trong RAM như một điểm dừng trước khi phân trang nó ra thẻ nhớ microSD và tệp hoán đổi 4GB, thông báo cảnh báo RAM thấp vẫn luôn đồng hành trong quá trình thử nghiệm của chúng tôi - ngay cả khi thực hiện một việc tương đối thuần phục khi mở một tab trình duyệt trong Chromium và mặc dù chuyển sang màn hình nền LXDE có bộ nhớ nhẹ.
RAM cũng có tác động trực tiếp đến khối lượng công việc học sâu tương thích với thiết bị: Jetson Nano 2GB không gặp khó khăn gì trong việc chạy tất cả các tiêu chuẩn NVIDIA AI-IOT chính thức được thiết kế cho kiểu máy 4GB, nhưng chỉ khi bạn giảm một nửa kích thước không gian làm việc từ 1024 đến 512 - 256, trong trường hợp mạng vgg19_N2 đói bộ nhớ.