Vodilna platforma na svetu, kot je NVIDIA Jetson, je zaporedje vgrajenih računalniških plošč, ki se večinoma uporablja v avtonomnih strojih in drugih vgrajene aplikacije . Ta plošča vsebuje predvsem module Jetson, ki so visoko zmogljivi računalniki. Jetson je zelo primeren za podobno programsko opremo AI in potek dela v oblaku, ki se uporablja na drugih platformah NVIDIA, in strankam zagotavlja energijsko učinkovito delovanje za izdelavo avtonomnih strojev, ki temeljijo na programski opremi. NVIDIA Jetson se uporablja za aplikacije računalniškega vida. Torej, ta članek obravnava pregled delovanja NVIDIA Jetson in njenih aplikacij.
Kaj je NVIDIA Jetson?
NVIDIA Jetson je napredna vgradni sistem ploščo, ki se uporablja za ustvarjanje inovativnih izdelkov AI v več panogah. NVIDIA Jetson je ena od vodilnih platform strojne opreme, ki je zelo uporabna za tehnološke navdušence in tudi študente, da pridobijo praktične izkušnje z vrsto inovativnih projektov AI. Ta plošča je zelo učinkovita plošča za AI, ki vključuje modularne, majhne oblike in visoko zmogljive robne računalnike. Poleg tega ta plošča vsebuje tudi JetPack SDK, ki se uporablja za pospeševanje programske opreme, in celoten ekosistem za pomoč pri povečanju razvojnega postopka projektov umetne inteligence po meri.
Arhitektura NVIDIA Jetson
Vemo, da je modul Nvidia Jetson iz Nvidie zaporedje vgrajenih računalniških plošč. Vsi modeli Jetson TX1, TX2 in TK1 imajo procesor SoC ali Tegra podjetja Nvidia, ki vključuje CPE z arhitekturo ARM. Tu je Jetson sistem z nizko porabo energije, namenjen predvsem pospeševanju aplikacij strojnega učenja.
Arhitektura NVIDIA Jetson Xavier NX je prikazana spodaj. Je najnaprednejši in majhen superračunalnik z umetno inteligenco, ki se uporablja tudi za robne računalniške naprave avtonomna robotika . Ta modul ima zmogljivost za uvedbo zmogljivosti strežniškega razreda v trdnem faktorju oblike 70 x 45 mm in zagotavlja tudi do 21 TOPS računalništva pod 15 W moči, sicer do 14 TOPS računalništva pod 10 W.
Zgornji diagram vsebuje vgrajeno 384-jedrno NVIDIA Volta GPU vključno s 6-jedrnim 64-bitnim CPE-jem NVIDIA Carmel ARMv8.2, 48 tenzorskimi jedri, 8 GB 128-bitnim LPDDR4x, kodirniki in dekodirniki videa 4K, dvojnimi motorji NVDLA (NVIDIA Deep Learning Accelerator), kamero za do šest takojšnjih visokoločljivostnih senzorski tokovi, dvojna vrata Display Port ali zasloni HDMI 4K, razširitev PCIe generacije 3, USB 3.1 in GPIO z vodilom I2C, SPI, I2S, UART in CAN.
Specifikacije NVIDIA Jetson vključujejo naslednje.
- Moč je 10W ali 15W načinov in 5V vhod.
- CPU je 6-jedrni NVIDIA Carmel 64-bit ARMv 8.2 pri 1400MHz.
- GPE je 384-jedrna NVIDIA Volta pri 1100MHz skozi 48 tenzorskih jeder.
- DL je dvojni motor NVDLA.
- Pomnilnik je 8GB 128-bit LPDDR4x pri 1600MHz.
- 16 GB prostora za shranjevanje eMMC 5.1.
- Kamera ima 12x stez MIPI CSI-2 | 3×4 ali 6×2 kamere.
- Do 6 kamer (36 preko virtualnih kanalov).
- Temperatura od -25°C do 90°C.
- Zaslon je DP 1.4 ali eDP 1.4 ali HDMI 2.0 a/b pri 4Kp60.
- Ethernet je 10 ali 100 ali 1000 BASE-T Ethernet.
- USB 3.1 in USB 2.0.
Ta modul podpira celoten sklad programske opreme CUDA-X NVIDIA in tudi JetPack SDK za razvoj umetne inteligence. Poganja zelo priljubljena ogrodja strojnega učenja in težke DNN-je na več senzorskih tokovih visoke ločljivosti hkrati, poleg računalniškega vida v realnem času, grafike in večpredstavnostnih aplikacij v celotnem namiznem okolju Linux.
Trenutno so razvijalci začeli oblikovati aplikacije AI za Jetson Xavier NX s pomočjo Jetson AGX Xavier Developer Kit. Z uporabo popravka vzorca naprave v bližini JetPack bo naprava delovala kot Jetson Xavier NX. To bo spremenilo število jeder GPE in CPE, ki jih je mogoče pridobiti s programsko opremo, ter nastavilo frekvence ure in napetosti jeder v sistemu.
Popravek je popolnoma reverzibilen, kar se uporablja za približevanje zmogljivosti Jetson Xavier NX. Ta modul bo razvrstil privzete načine moči 10 W in 15 W, ki bodo dosegli največjo zmogljivost med 14 in 21 TOPS glede na aktivni način. Orodje nvpmodel se uporablja za obdelavo profilov moči za prilagajanje najvišjih frekvenc CLK za GPE, CPE, različne takte SoC in pomnilniški krmilnik skupaj z različnimi gruči CPE.
Glede na delovno obremenitev regulator DVFS (Dynamic Voltage & Frequency Scaling) uravnoteži frekvence med izvajanjem do njihovih najvišjih meja, kot je opisano z aktivnim modelom nvp, s čimer se poraba energije zmanjša v mirovanju in glede na delovanje procesorja. Orodje nvpmodel pomaga pri izdelavi in spreminjanju novih načinov napajanja na podlagi TDP in zahtev aplikacije.
Modul NVIDIA Jetson prinaša zmogljivost superračunalnika do samega roba v majhni obliki SOM (system-on-module). Enako 21 TOPS pospešenega računalništva pošilja konjske moči za vzporedno izvajanje trenutnih nevronskih mrež in obdelavo podatkov iz različnih senzorjev visoke ločljivosti. Ta modul je idealen za visoko zmogljive sisteme umetne inteligence, kot so medicinski instrumenti, komercialni roboti, vgrajeni sistemi AIoT, pametne kamere, avtomatski optični pregled, senzorji visoke ločljivosti, pametne tovarne itd.
Programska oprema
Modul NVIDIA Jetson je preprosto podprt s kombiniranimi programskimi arhitekturami, tako da bo razvijalcem programske opreme olajšal delo. Ta kombinirani pristop razvijalcem preprosto prihrani težave s ponavljajočim se kodiranjem, hkrati pa izboljša njihove formacije na drugih modulih Jetson.
NVIDIA JetPack SDK je na voljo z operacijskim sistemom Linux, pospešenimi knjižnicami in API-ji CUDA-X za različna področja strojnega učenja, kot so računalniški vid, globoko učenje itd. Podpira tudi okvire strojnega učenja, kot so Caffe, TensorFlow, Keras in računalniški vid OpenCV knjižnice.
NVIDIA Jetson ponuja različna programska orodja za svoje module, ki so obravnavana spodaj.
NVIDIA JetPack SDK
Paketi programske opreme platforme Jetson, kot so TensorRT, CUDA Toolkit, cuDNN, GStreamer, OpenCV in Visionworks, so vsi sestavljeni na vrhu L4T prek jedra LTS Linux.
Paket gonilnikov za NVIDIA Jetson Linux
Zagotavlja jedro Linuxa, gonilnike NVIDIA, zagonski nalagalnik, vzorčni datotečni sistem, utripajoče pripomočke in še veliko več za platformo Jetson.
NVIDIA DeepStream SDK
Je niz API-jev in knjižnic za pomoč razvijalcem pri načrtovanju in urejanju močnih rešitev IVA (inteligentna video analitika) na platformi Jetson. Uporablja se za izdelavo kompleksnih aplikacij, kot so kodiranje, zajem slike, dekodiranje, sklepanje s TensorRT itd.
NVIDIA Isaac SDK
To je nabor knjižnic, API-jev, gonilnikov in drugih orodij, ki bodo dodali AI robotom naslednje generacije za navigacijo, zaznavanje in manipulacijo. Pomaga torej pri ustvarjanju in uvajanju robotike, ki poganja AI.
Vrste NVIDIA Jetson
Modul NVIDIA Jetson je opremljen s pomnilnikom, grafično procesorsko enoto, centralno procesorsko enoto, hitrimi vmesniki, upravljanjem porabe energije itd. Ti moduli so na voljo v različnih zmogljivostih, energetski učinkovitosti in različicah faktorjev oblike, da jih je mogoče uporabiti v različnih panogah. Na voljo so različne naprave NVIDIA Jetson, ki so obravnavane spodaj.
NVIDIA Jetson Nano
Modul NVIDIA Jetson Nano je primeren za razvijalce ali študente in tudi za začetnike, saj je zasnovan predvsem za praktično učenje in poučevanje. Velikost tega modula je majhna, vendar sta njegova energetska učinkovitost in zmogljivost visoki, zato je popoln za poganjanje sedanjih več vzporednih nevronskih mrež, delovnih obremenitev umetne inteligence in obdelave podatkov iz senzorjev visoke ločljivosti vse naenkrat. Tako je modul Jetson Nano zelo priljubljena robna naprava, ki se uporablja za izdelavo vgrajenih izdelkov in rešitev AI.
Ta modul je kot nalašč za aplikacije računalniškega vida, ki temeljijo na AI, in izvaja naloge AI vida, kot so zaznavanje objektov, segmentacija slik, klasifikacija slik itd. Ta modul je zelo združljiv z odprtokodno programsko opremo za računalniški vid in knjižnicami strojnega učenja OpenCV.
Serija NVIDIA Jetson TX2
Modul serije NVIDIA Jetson TX2 je zasnovan v velikosti kreditne kartice. Značilnosti tega modula vključujejo predvsem NVIDIA Pascal GPU, do 8 GB pomnilnika, 59,7 GB/s pasovne širine pomnilnika in standardne vmesnike strojne opreme. Ta modul zagotavlja do 2,5-krat večjo zmogljivost v primerjavi z modulom NVIDIA Jetson Nano.
Ta modul zelo učinkovito izvaja globoke nevronske mreže na robnih napravah za doseganje večje natančnosti. Moduli, ki so na voljo v seriji, vključujejo predvsem Jetson TX2 4GB, Jetson TX2i, Jetson TX2 in Jetson TX2 NX. Modul NVIDIA Jetson TX2 NX preprosto deli združljivost s pini in obliko prek Jetson Xavier NX in Jetson Nano.
Preostali trije moduli bodo imeli enak faktor oblike modula Jetson TX2. Uporaba serije TX2 se preprosto giblje v različnih panogah, kot so kmetijstvo, proizvodnja, znanosti o življenju, trgovina na drobno itd. Modul Jetson TX2i izmed preostalih modulov je najprimernejši za visoko zmogljive naprave AI, kot so medicinska oprema, kamere strojnega vida in industrijski roboti, ker njegove močne zasnove.
Ta modul je zelo hitra vdelana računalniška naprava z umetno inteligenco, ki ponuja visoko energijsko učinkovitost, kot je 7,5 W, superračunalniške zmogljivosti predvsem za robne naprave z umetno inteligenco ter različne vmesnike strojne opreme za enostavno vključitev v različne izdelke in faktorje oblike.
NVIDIA Jetson Xavier NX
Modul NVIDIA Jetson Xavier NX je zelo majhen v primerjavi s kreditno kartico z visoko zmogljivostjo in energetsko učinkovitostjo. To je znano tudi kot najmanjši superračunalnik AI za robne in vgrajene sisteme na svetu. Ta modul še posebej pomaga pri izvajanju celotnih sistemov AI.
Funkcije Jetson Xavier NX podpirajo tudi tehnologije, ki izvirajo iz oblaka, tako da je razvijalcem enostavno nadgraditi in upravljati izdelke AI. Ta modul podpira vse priljubljene modele in ogrodja AI. Tako ta modul popolnoma ustreza visoko zmogljivim sistemom umetne inteligence, kot so pametne kamere, sistemi za vid z visoko ločljivostjo, ki jih poganja umetna inteligenca, droni, komercialni roboti ali medicinska oprema.
Modul NVIDIA Jetson Xavier NX zagotavlja 21 Tera operacij na sekundo ali TOPS za izvajanje trenutne delovne obremenitve AI s porabo 10 W energije. Oblika tega modula je bolj kompaktna v primerjavi s kreditno kartico. Modul Xavier NX poganja različne nevronske mreže hkrati in obdeluje podatke iz različnih senzorjev visoke ločljivosti. Ta vrsta modula se uporablja za načrtovanje aplikacij za vgrajene in robne računalniške naprave, ki potrebujejo visoko zmogljivost, čeprav z velikimi omejitvami teže, velikosti in moči.
Serija NVIDIA Jetson AGX Xavier
Modul serije NVIDIA Jetson AGX Xavier je v glavnem razvit za avtonomne inteligentne stroje naslednje generacije. Ta modul zagotavlja do 32 TOPS ali Tera operacij na sekundo zmogljivosti umetne inteligence pri porabi le 10 vatov. Razvijalec programske opreme lahko preprosto hitro uredi nevronske mreže z naborom programskih orodij AI NVIDIA.
Ta modul ponuja različne specifikacije in funkcionalne varnostne zmogljivosti, tako da razvijalci ustvarjajo varnostne ali industrijske certificirane izdelke. Zaradi visoke zmogljivosti tega modula so lahko primerni za številne avtonomne stroje, kot so logistični in industrijski roboti, tovarniški sistemi in velika brezpilotna letala.
Jetson Xavier NX Developer Kit
Komplet za razvijanje jetson xavier nx vključuje soliden, energetsko učinkovit modul Xavier NX, ki se uporablja za robne naprave, ki jih poganja AI. Ta modul ima nekatere funkcije, kot je izvorna podpora v oblaku, in pospeši nabor programske opreme NVIDIA v samo 10 W z več kot 10-kratno zmogljivostjo Jetson TX2. Ta komplet za razvijalce uporabljajo proizvajalci inteligentnih strojev, zagonska podjetja z umetno inteligenco in razvijalci aplikacij za oblikovanje sodobnih izdelkov s kompaktnim, zelo natančnim sklepanjem z umetno inteligenco in energijsko učinkovitim faktorjem.
Jetson AGX Xavier Industrial
Industrijski modul Jetson AGX Xavier je del serije AGX Xavier. Zasnova tega modula je faktor oblike, združljiv s pini, ki nadzoruje najnovejše modele AI v zahtevnih aplikacijah. Ta modul zagotavlja razširjene specifikacije glede vibracij, udarcev, temperature, napredne varnostne funkcije, do 4-krat več pomnilnika in 20-krat večjo zmogljivost kot modul TX2i.
Ta modul je zelo koristen za oblikovalce pri načrtovanju avtomatizacije, robotike in drugih inteligentnih izdelkov. Poleg tega oblikuje tudi varnostno certificirane in robustne izdelke za zagotavljanje visoke zmogljivosti za industrijske funkcionalne in varnostne aplikacije, vgrajene v AI, v zasnovi robustne in energijsko učinkovite oblike.
Prednosti
The prednosti NVIDIA Jetson vključujejo naslednje.
- NVIDIA Jetson je primerna za študente, posamezne razvijalce in različne organizacije.
- Platforma Jetson je zelo priljubljena, ker prinaša različne prednosti, kot so modularna prilagodljivost, enotna programska oprema in podpora za tehnologije, ki izvirajo iz oblaka.
- Ta plošča ponuja nabor modulov, ki so zelo koristni za vse, od osnovnih aplikacij AI do zelo zapletenih naprav, ki jih poganja AI.
- To ploščo poganja moč prek poenotene programske arhitekture, ki razvijalcem pomaga pri ponavljajočem se kodiranju. Ko potrebujejo zmogljivost AI/ML, lahko v napravo vključijo povezan modul Jetson, ki poskrbi za dvigovanje težkih predmetov.
- Platforma NVIDIA Jetson preprosto podpira tehnologije in poteke dela v oblaku, kot sta orkestracija in kontejnerizacija, kar razvijalcem omogoča hiter razvoj in razširitev izdelkov AI.
- NVIDIA JetPack SDK je na voljo z operacijskim sistemom Linux, API-ji in knjižnicami za pospeševanje CUDA-X za različne domene strojnega učenja, kot sta računalniški vid in globoko učenje. Zagotavlja tudi podporo za ogrodja strojnega učenja, kot sta knjižnici računalniškega vida Caffe in Keras, TensorFlow & OpenCV.
Slabosti
Ob upoštevanju cene ima zelo malo slabosti
- Modul NVIDIA Jetson nano ni na voljo z wifi v notranjosti.
- Modul NVIDIA Jetson nano vključuje samo dva zatiča PWM na plošči.
Aplikacije
Aplikacije NVIDIA Jetson vključujejo naslednje.
- Modul NVIDIA Jetson ponuja vrhunske sisteme za vdelavo, ki se uporabljajo za izdelavo izdelkov AI za različne scenarije. To je energijsko učinkovit modul, ki se uporablja za AI, ki vključuje visoko zmogljive, modularne robne računalnike majhne oblike.
- Plošče Nvidia Jetson so v glavnem zasnovane za uporabo v vgrajenih sistemih, kot so droni, roboti in druge naprave, ki potrebujejo zmogljivo obdelavo v majhni obliki. Običajne aplikacije plošč Jetson vključujejo predvsem medicinske naprave, avtonomna vozila, digitalne oznake, slušalke AR/VR, aplikacije za pametna mesta itd.
- Ta modul podpira poenotene arhitekture programske opreme, da zelo poenostavi delo razvijalcev programske opreme.
Moduli in naprave NVIDIA Jetson so optimizirane robne naprave, ki se uporabljajo za razvoj sistemov Edge AI. - NVIDIA Jetson Nano Developer Kit je zelo zmogljiv in majhen računalnik, ki vzporedno poganja več nevronskih mrež za različne aplikacije, kot so zaznavanje predmetov, klasifikacija slik, obdelava in segmentacija govora.
- Modul NVIDIA Jetson Nano je popoln za aplikacije računalniškega vida, ki temeljijo na AI, in izvajajo naloge AI vida, kot so segmentacija slike, klasifikacija slike, zaznavanje objektov itd.
- Nano moduli NVIDIA Jetson prinašajo neverjetne nove zmogljivosti na tisoče energijsko učinkovitih in majhnih sistemov AI
- Modul NVIDIA Jetson Nano je združljiv s knjižnicami strojnega učenja OpenCV in odprtokodno programsko opremo za računalniški vid.
Q). Kakšna je poraba energije modulov Jetson?
A). Poraba energije modula Jetson se razlikuje glede na model in uporabo. Modul Jetson Xavier ima na primer običajno porabo energije okoli 15 W do 30 W, medtem ko lahko Jetson TX2 porabi med 7 W in 15 W.
Q). Ali je Jetson mogoče uporabiti za odkrivanje in sledenje predmetov v realnem času?
A). Da, platforme Jetson lahko upravljajo zaznavanje in sledenje vida. Nano modul je visoko zmogljiv GPU z robno računalniško platformo, ki se lahko uporablja predvsem za odkrivanje, štetje in sledenje.
Q). S katerimi tipi senzorjev lahko povezuje Jetson?
A). Vision senzorji se uporabljajo za povezovanje Jetsona z različnimi vmesniki kamere, kot so USB, MIPI CSI in Ethernet. Prav tako se lahko povežejo z lidarjem, ultrazvočnim senzorjem in drugimi tipi ter uporabljajo različne vrste vmesnikov, kot so I2C, SPI itd.
Q). Kakšna je razlika med Jetsonom in Raspberry Pi?
A). Glavna razlika med tema dvema ploščama je; NVIDIA Jetson je bila razvita za obvladovanje visoko zahtevnih nalog umetne inteligence in računalniškega vida, medtem ko ima plošča Raspberry Pi 4 večpredstavnostni grafični procesor z nizko porabo energije, ki se uporablja za splošne namene računalništva in izobraževanja. Jetson se lahko uporablja za naprednejše funkcije, kot je strojno pospešeno dekodiranje in kodiranje videa z uporabo zmogljive GPU (grafične procesne enote) in CPU (centralne procesne enote).
Q). Ali se Jetson lahko uporablja za aplikacije avtonomne robotike?
A). Avtonomno robotiko in industrijo jutrišnjega dne bo poganjala NVIDIA Jetson for Intelligent Machines & Robotics.
Torej, to je pregled NVIDIA Jetson – prednosti in njegove uporabe. Ta modul je vodilna platforma po vsem svetu, ki jo razvijalci uporabljajo za izdelavo naprednih izdelkov AI v vseh panogah. Te module uporabljajo tudi študentje in tudi navdušenci, da pridobijo praktične izkušnje pri učenju AI za izdelavo osupljivih projektov. Platforma Jetson v glavnem obsega energetsko učinkovite majhne komplete za razvijanje in proizvodne module. Tukaj je vprašanje za vas, kaj je NVIDIA?
