Máy tính nhúng AI là gì ?

Máy tính nhúng AI là gì ?

14:30 - 25/07/2020

Các thuật ngữ như : Máy tính nhúng, Máy tính nhúng AI chắc không còn quá xa lạ với các ace làm kỹ thuật. Tuy nhiên một số ae mới bắt đầu trong lĩnh vực này vẫn còn mơ hồ về các khái niệm này. Vì vậy hôm nay chúng ta sẽ tìm hiểu xem : 

Máy tính nhúng là gì ?  Máy tính nhúng AI là gì ? Có các dòng máy tính nhúng phổ thông nào ?

NVIDIA Jetson AGX Orin hiệu suất AI mạnh nhất của NVIDIA Jetson Family với 275 TOPS, 2048 NVIDIA® CUDA® cores, 64 Tensor Cores
NVIDIA Jetson AGX Orin Hardware Layout and GPIO Expansion Header Pinout
NVIDIA Jetson là nền tảng hàng đầu thế giới dành cho Trí tuệ nhân tạo (AI) và Deep Learning
Cách sử dụng Camera CSI với hệ điều hành Raspberry Pi Bulleyes mới nhất
Jetson Stats dùng cho Giám sát và Điều khiển trên NVIDIA Jetson Ecosystem [Xavier NX, Nano, AGX Xavier, TX1, TX2]

Máy tính nhúng là gì ?



Trong cuộc sống thường ngày, chúng ta thường dùng thuật ngữ máy tính để chỉ các Hệ thống máy tính để bàn, Máy tính xách tay, Hệ thống máy chủ,...  Các loại máy tính này thuộc về lớp máy tính thông dụng, bởi chúng được thiết kế với phần cứng và hệ điều hành để dùng cho nhiều mục đích ứng dụng khác nhau.

Bên cạnh đó, còn tồn tại một số lượng khổng lồ những sản phẩm và thiết bị chẳng hạn Điện thoại thông minh, Tivi thông minh, Điều hòa, Tủ lạnh,… mà chúng ta thường không gọi chúng là máy tính, tuy nhiên chúng lại chứa đựng bên trong một hệ thống máy tính dùng cho mục đích điều khiển hoạt động của sản phẩm đó. Những hệ thống máy tính như vậy được gọi là hệ thống máy tính nhúng.

Ngày nay, các loại hệ thống nhúng như vậy có mặt trong rất nhiểu chủng loại sản phẩm từ những sản phẩm dân dụng phục vụ cuộc sống thường ngày như: Máy nghe nhạc, Đầu phát DVD, Điện thoại, Ti-vi, Tủ lạnh,… đến những sản phẩm trong các ngành Công nghiệp ôtô, Hàng hải, Hàng không, Vũ trụ,…

Phần lớn các thiết bị chỉ chứa một hệ thống nhúng trong nó, tuy nhiên nhiều sản phẩm chẳng hạn ôtô có thể bao gồm từ hàng chục tới hàng trăm hệ thống nhúng đảm nhiệm các chức năng khác nhau trong sản phẩm đó.



Trong công nghiệp, hệ thống máy tính nhúng được sử dụng rất rộng rãi trong các hệ thống quản lý nhà máy, tự động hóa nhà máy, hay các dây chuyền sản xuất hoặc kiểm tra sản phẩm. Hầu hết các sản phẩm máy tính nhúng trong công nghiệp đều được sử dụng cho một chức năng duy nhất như quản lý sản xuất hay quản lý sản phẩm.

Như vậy, hiểu một cách đơn giản thì thuật ngữ máy tính nhúng được dùng để chỉ bất cứ hệ thống máy tính nào được dùng như một thành phần cấu thành nên một sản phẩm, mà bản thân sản phẩm đó không thường được gọi là máy tính. Do chỉ là một thành phần của một sản phẩm nào đó cho nên các hệ thống máy tính nhúng thường được thiết kế và tối ưu về cả mặt phần cứng và phần mềm với một chức năng chuyên dụng cho sản phẩm đó.

Nói cách khác, một hệ thống nhúng không thể dùng cho mục đích khác với mục đích mà nó được thiết kế. Chẳng hạn, một hệ thống máy tính nhúng trong máy giặt không thể dùng để điều khiển tủ lạnh được. Khả năng tương tác của người dùng với các hệ thống này là rất hạn chế. Chẳng hạn, người sử dụng không thể sửa đổi hoặc cài đặt thêm phần mềm ứng dụng cho hệ thống máy tính nhúng trong một chiếc tủ lạnh, điều này chỉ có thể thực hiện bởi nhà sản xuất.


Ưu điểm của máy tính nhúng là gì ?


- Chi phí thấp: Do máy tính nhúng thường nhỏ hơn nhiều so với máy tính có đa dụng và không cần phải mua màn hình, bàn phím, chuột nên chi phí ít hơn cho một hệ thống máy tính đa dụng. 

- Kích thước nhỏ cũng giúp triển khai các máy tính nhúng một số lượng lớn các địa điểm từ xa một cách dễ dàng hơn.


Sự phát triển của máy tính nhúng


Ngày nay, với sự phát triển vượt bậc của công nghệ thông tin và công nghệ chế tạo với những bước tiến vượt bậc. Một hệ thống máy tính nằm gọn trong một con chip hay một bo mạch không còn là điều quá bất ngờ với chúng ta nữa. Một thế hệ chip mới tích hợp cả hệ thống SoC hay là System on a Chip. Với 1 SoC, nhà phát triển có thể thiết kế ra các bo mạch khác nhau với các cổng IO thông dụng khác nhau như USB, LAN, WIFI, IR, CSI ... để phục vụ cho các nhà phát triển thứ cấp tạo ra các sản phẩm thông minh trên đó (ngoài điện thoại thông minh). Các sản phẩm thông minh này với sự kết nối liên tục với Internet sẽ tạo ra mạng lưới các sản phẩm thông minh được kết nối với nhau qua Internet, RF hay Bluetooth … và tạo thành Internet vạn vật (Internet of Things).



Nói một cách đơn giản, như trước kia, mạng Internet được kết nối với bởi các mạng của các mạng của các mạng nhưng chủ yếu các nodes trên mạng vẫn là một máy tính để bàn, máy tính xách tay hay máy chủ. Thì bây giờ mạng Internet được kết nối không chỉ máy tính nữa mà cả các thiết bị thông minh khác như Tivi, Điều hòa, Tủ lạnh ...

Ngoài ra, khi máy tính nhúng trở nên dễ tiếp cận hơn, nó trở thành một sản phẩm đơn giản mà bất cứ ai có một ý tưởng về một thiết bị thông minh nào đó có thể sẵn sàng phát triển nó bằng cách mua thiết bị, lập trình, và đưa ra ngoài thế giới.

Đặc biệt nhắc tới máy tính nhúng chúng ta không thể không đề cập đến Single Board Computers (SBC). Đây là từ khóa phát triển mạnh mẽ cùng Internet of Things, nó cũng đang là xu hướng phát triển của máy tính trên thị trường hướng tới khách hàng yêu thích điện tử, lập trình qua các dự án công nghiệp và hướng tới sự phát triển Khoa học máy tính.

Nếu chúng ta hiểu một cách đơn giản thì SBC là những chiếc máy tính mini, nghĩa là thay cho việc phải mang theo cả laptop, hoặc sử dụng PC không tiện cho việc di chuyển đi lại thì chúng ta chỉ cần mang theo 1 board mạch với kích thước nhỏ gọn, có thể là kích thước bằng 1 thẻ ATM, hoặc kích thước nhỏ hơn 1 chiếc Iphone, kết nối màn hình, nguồn và sử dụng như một PC, laptop thông thường. 

Nền tảng chủ yếu của SBC hiện nay trên thị trường là Raspberry Pi (LINK), nó được thiết kế để chạy Linux trên kiến trúc ARM, ngoài ra còn có rất nhiều dòng SBC khác như : Nano Pi M3, Nano Pi NEO, Orange Pi, Banana Pi, C.H.I.P, BeagloBone Black, ODROID – XU4, ODROID C2, Udoo x86 Ultra, ASUS Tinker Board, ROCK 64, The Parallella Board, Humming Board, Libre Computer ROC Renegade, PINE A64, Z-turn board, Minnow Board Max, Tessel 2, …


Máy tính nhúng AI (Artificial Intelligence)


Song hành cùng với sự phát triển của các dòng máy tính nhúng thông thường là sự phát triển của các máy tính nhúng cho phép phát triển các ứng dụng liên đến trí tuệ nhân tạo AI bao gồm các ứng dụng : Machine Learning, Computer Vision, Edge Computing, Speech Recognition & NLP, and Neural Networks Acceleration.

Các nhà sản xuất cũng đưa ra các thế hệ Developer Kit dành cho nghiên cứu và System on Module (SoM) cho việc sản xuất thương mại mở ra một kỷ nguyên của AI & IOT hay viết tắt là AIoT.



Vậy điều khác biệt ở đây là gì ?


Nếu chỉ nhìn hình dáng bên ngoài chúng ta khó có thể thấy sự khác biệt một cách rõ ràng vì chúng đều có kích thước siêu nhỏ. Điều đặc biệt nằm phía bên trong chúng :

+ Một số được trang bị Edge TPU là một ASIC nhỏ được thiết kế bởi Google cung cấp khả năng suy luận Machine Learning hiệu suất cao với mức tiêu thụ năng lượng thấp. Nó có thể thực hiện các Model Mobile Vision như MobileNet v2 với 100+ FPS.

+ Một số khác được trang bị GPU với hàng trăm đến hàng nghìn GFLOPS để chạy các thuật toán AI hiện đại một cách nhanh chóng.

Chú thích : Thuật ngữ GFLOPS là một chỉ số đại diện cho tốc độ và khả năng tính toán của GPU, tương đương với khả năng thực hiện 19.2 tỷ phép tính trên một giây.

Các bạn có thể tham khảo vài viết so sánh giữa TPU & GPU & CPU tại đây (CLICK HERE)


Một số dòng máy tính nhúng, máy tính nhúng AI thông dụng :


1. Máy tính nhúng Raspberry Pi


Bo mạch máy tính nhúng thông dụng đầu tiên chính là Raspberry Pi, đã ra đời cách đây 8 năm vào tháng 2 năm 2012. Phát triển bởi Raspberry Pi Foundation, với mục đích đầu tiên là hỗ trợ nghiên cứu khoa học máy tính trong trường học tại các nước đang phát triển. Theo thời gian, nó dần trở nên phổ thông hơn( giá rất rẻ) và sự tham gia nghiên cứu ngày càng nhiều người trên thế giới ( Không chỉ những người đang làm trong ngành tin học hay máy tính). Raspberry Pi trở thành bo mạch máy tính nhúng phổ thông nhất hiện nay và cái tên Pi gần như được đặt cho các bo mạch máy tính nhúng sau này.

Cho tới thời điểm hiện tại Raspberry Pi đã phát hành nhiều phiên bản từ … gần đây nhất là sự ra đời của phiên bản Raspberry Pi 4 Model B với sự nâng cấp vượt trội so với các phiên bản trước đó và trở thành phiên bản mạnh mẽ nhất cho đến thời điểm hiện tại với các lựa chọn : 2GB, 4GB, 8GB LPDDR4 SDRAM.



2. Máy tính nhúng LattePanda


LattaPanda là một máy tính nhúng nhỏ - gọn (8.8x7.0 cm) có thể cài đặt và sử dụng Windows 10 như một PC thông thường, Nó là một dòng Single Board Computer tương tự như Raspberry Pi. Nếu Raspberry Pi được thiết kế với ưu điểm vượt trội khi sử dụng hệ điều hành Window 10.



Trong bộ nhớ của LattePanda đã được cài đặt sẵn một phiên bản đầy đủ của Windows 10 Home Edition, bạn hoàn toàn có thể cài đặt và sử dụng các công cụ như : Visual Studio, NodeJS, Java, Processing, ... Với các API rất đa dạng và có nhiều tài liệu hướng dẫn trên Internet , các bạn có thể phát triển các dự án phần cứng , phần mềm trên LattePanda như bạn có thể thực hiện trên một PC thông thường : C, C++, Python, C#, Javascript, Ruby, ... 

Trên board mạch của LattePanda còn được tích hợp một Co-ProcessorArduino. Điều này giúp bạn thuật tiện trong việc kết nối với Các thiết bị điều khiển, Cảm biến, … qua nền tảng Arduino rất phổ biến trên cộng đồng công nghệ và nhà trường. LattePanda thực sự linh động và phù hợp cho dù bạn là Windows developer, IoT developer, DIY fanatic, Interactive designer, Robotics whizz, hay bạn là một maker ưa thích sáng tạo.  



LattePanda sử dụng CPU Intel Z8350 Quad Core up to 1.92GHz, có lẽ sự trải nghiệm sử dụng Windows 10 trên LattePanda sẽ đợi thời gian và sự trải nghiệm của người dùng, đó là những ý kiến khách quan nhất. 

Thông tin chi tiết về cấu hình LattaPanda (CLICK HERE)


3. Máy tính nhúng AI Coral Dev Board


Coral Dev Board là một Single-Board Compute(SBC) với một System-on-Module(SOM) có thể tháo rời chứa bộ nhớ eMMC, SOC, Wireless radiosEdge TPU của Google. Nó hoàn hảo cho các thiết bị IoT và các hệ thống nhúng yêu cầu suy luận Machine Learning trên thiết bị một cách nhanh chóng.

Bạn có thể sử dụng Dev Board như một SBC để tăng tốc quá trình xử lý Machine Learning trong một cấu hình nhỏ gọn. SOM trên Dev Board với kích thước 40mmx48mm. Bạn có thể kết hợp với phần cứng PCB mà bạn custom bằng cách sử dụng cổng kết nối board-to-board để tích hợp vào các sản phẩm.

SOM dựa trên System-on-Chip (SOC) đặc biệt sức mạnh độc đáo của nó đến từ bộ đồng xử lý Edge TPU. Edge TPU là một ASIC nhỏ được thiết kế bởi Google cung cấp khả năng suy luật Machine Learning hiệu suất cao với mức tiêu thụ năng lượng thấp. Nó có thể thực hiện các Model Mobile Vision như MobileNet v2 với 100+ FPS.


Bảng so sánh hiệu suất NVIDIA Jetson Nano với các SBC như Raspberry Pi 3 , Google Coral Edge TPU board


4. Máy tính nhúng AI NVIDIA Jetson



NVIDIA Jetson Dev Kit là những máy tính có kích thước siêu nhỏ nhưng vô cùng mạnh mẽ cho phép người dung chạy song song nhiều mạng Neural sử dụng cho các ứng dụng như : Phân loại hình ảnh (Image Classification), Phát hiện đối tượng (Object Detection), Phân đoạn hình ảnh (Image Segmentation) cũng như xử lý giọng nói (Speech Processing).

Bên cạnh đó các thiết bị này cũng được ứng dụng cho các hệ thống AI hiệu suất cao như : Các hệ thống tự động (Autonomous Machines), Các hệ thống Robot phục vụ cho thương mại – chăm sóc khách hàng (commercial robots), Các thiết bị y tế (medical devices), Các hệ thống camera giám sát thông minh (smart cameras), Các hệ thống cảm biến có độ phân giải cao (high-resolution sensors), Kiểm tra quang tự động (automated optical inspection) là phương pháp kiểm tra không tiếp xúc trong quá trình sản xuất, Các nhà máy và các hệ thống thông minh (smart factories and systems) cũng như các hệ thống nhúng AIoT khác…



NVIDIA Jetson được trang bị bộ công cụ tính toán thực sự kinh ngạc qua bảng thông số sau đây :  

 

Jetson Nano Developer Kit

Jetson TX2 Developer Kit

Jetson Xavier NX

Developer Kit

Jetson AGX Xavier Developer Kit

AI Performance

0.5 TFLOPS (FP16)

1.3 TFLOPS (FP16)

6 TFLOPS (FP16)

21 TOPS (INT8)

5.5-11 TFLOPS (FP16)

20-32 TOPS (INT8)

GPU

128-core NVIDIA Maxwell™ GPU

256-core NVIDIA Pascal™ GPU architecture with 256 NVIDIA CUDA cores

NVIDIA Volta architecture with 384 NVIDIA CUDA® cores and 48 Tensor cores

512-Core Volta GPU with Tensor Cores

CPU

Quad-core ARM A57 @ 1.43 GHz

Dual-Core NVIDIA Denver 2 64-Bit CPU

Quad-Core ARM® Cortex®-A57 MPCore

6-core NVIDIA Carmel ARM®v8.2 64-bit CPU 6 MB L2 + 4 MB L3

8-Core ARM v8.2 64-Bit CPU, 8 MB L2 + 4 MB L3

Memory

4 GB 64-bit LPDDR4 25.6 GB/s

8GB 128-bit LPDDR4

1866 MHz - 59.7 GB/s

8 GB 128-bit LPDDR4x @ 51.2GB/s

32 GB 256-Bit LPDDR4x | 137 GB/s

Power Consumption

5-10W

7.5-15W

10-15W

10-30W

 


Như vậy chúng ta đã cùng nhau tìm hiểu các thuật ngữ máy tính nhúng là gì ?  Máy tính nhúng AI là gì ? và điểm qua một số dòng máy tính nhúng, máy tính nhúng AI phổ thông hiện nay. Hẹn gặp lại các bạn trong các bài viết tiếp theo !!!


Nếu các bạn có bất kỳ ý tưởng mới cũng như đóng góp nào đừng ngần ngại mà hãy inbox trực tiếp cho fanpage . Xin chào và hẹn gặp lại các bạn trong các bài viết tiếp theo !!!

PIVIETNAM.COM.VN CHÚC CÁC BẠN THÀNH CÔNG !!!

Thực hiện bài viết : Đào Văn Hậu


Để cập nhật các tin tức công nghệ mới các bạn làm theo hướng dẫn sau đây :


Các bạn vào Trang chủ >> Tin tức. ở mục này có các bài viết kỹ thuật thuộc các lĩnh vực khác nhau các bạn có thể lựa chọn lĩnh vực mà mình quan tâm để đọc nhé !!!

Các bạn cũng có thế kéo xuống cuối trang để xem những tin tức công nghệ mới nhất.