NVIDIA Jetson AI GPU Parallel Computing & Edge Computing

En ny æra indenfor videoovervågning er kommet via de mange OEM producenter af NVIDIA Jetson. Det er stort set alle leverandører der har travlt med Jetson planer eller allerede er på markedet i nogle år såsom Genetec, Milestone, Avigilon, Idemia, Eagle Eye Networks CloudVMS og f.eks. Veesio software til butikstyveri.

Fordi løsningerne er både driftsikre og prisbillige og slår alt hvad man kan opnå med almindelige computere så er disse ARM baserede GPU computere blevet en enorm teknologi, man nok næppe har undgået at se gennem de seneste år. Som ansvarlig for videoovervågning, er det efterhånden blevet en pligt at at overvåge løsninger fra NVIDIA.

Det er fordi at selvom Nvidia Corporation er et amerikansk globalt teknologiselskab med 22.000 ansatte (2022) baseret i Santa Clara, Californien så tilhører gruppen en af verdens mest innovative og patentstærke virksomheder.

Nvidia producerer for os relevantt GPU (Grafical Processing Units) men har samtidigt en betydelig indflydelse i SOC-enheder til det mobile marked og især til alle steder hvor man skal bruge hurtig regnekraft f.eks. ved Videoovervågning.

Nvidias primære GPU-produktlinje ved navn “GeForce” er i direkte konkurrence med AMD’s “Radeon”-produkter. Selskabet blev startet i Delaware i 1993.

NVIDIA er et software- og hardware firma, der designer grafikbehandlingsenheder (GPU’er), API’er til datalogi og highperformance computing samt system på en chip-enheder (SoC’er) til markedet for mobil computing og bilindustrien.

Nvidia er en indiskutabel global leder inden for kunstig intelligens. Det er især fordi at den professionelle linje af GPU’er bruges i arbejdsstationer til applikationer inden for områder som videovervågning, arkitektur, teknik og konstruktion, medier og underholdning, bilindustrien, videnskabelig forskning og produktionsdesign.

CUDA programmering er standarden for GPU

Ud over GPU-fremstilling leverer Nvidia en API kaldet CUDA, der tillader oprettelse af massivt parallelle programmer, der bruger GPU’er. VIDEO A/S er leverandør af NVIDIA produkter til videoovervågning og CUDA, som er et c-lignende programmeringssprog kan vi lave udbkling i og tilretninger til.

GPU enhederne er indsat i mange af verdens hurtigste supercomputere i hele verden. For nylig har NVIDIA bevæget sig ind på markedet for mobil databehandling, hvor det producerer Tegra mobile processorer til smartphones og tablets samt køretøjsnavigations- og underholdningssystemer. Ud over AMD omfatter konkurrenterne Intel og Qualcomm.

Men hvad er teknologien godt for og er det ikke usikkert med Edge Computing. Jo det var det, men dagens EC Edge Computing enheder ligger jo bag din firewall og sikkerhedssetup, der er derfor ikke større sikkerhedsproblemer med Edge Computing. Det er sjældent forbundet med sikkerhedshuller der hurtigt lukkes. Ikke siden sidste sommer har jeg set et alvorligt sikkerhedsbrug og det er meget bedre end andre computere og operativsystemer.

Michael Rasmussen der bruger flere produkter fra NVIDIA udtaler:

“Vi bruger f.eks. Jetson, Mellanox, Cummulus Linux, NVIDIA AI, NVIDIA Datacenter løsninger med bl.a. container software for mange forhandlere og virksomheder i Danmark. Der er også en del spændende Open Source software samt det blomstrende økosamfund omkring Jetson og deres øvrige produkter er i verdensklasse.”

Siger salgsdirektør Michael Rasmussen fra Video A/S

Hvad er GPU hardwareenheder og hvad gør de godt for?

Man har store fordele f.eks. i et supermarked med 20 kameraer, hvor 1 enhed kan detektere butikstyveri på f.eks. 20 kameraer. ved at have selve VMS softwaren ved kameraet kan man hurtigt og sikkert fange mange flere tyvknægte fordi moderne AI bygget ind i disse løsninger er mere præcis.

Edge Embedded er et nyt begreb men det er en videobehandlingsløsning, der er bygget på verdens førende integrerede edge computing-platform (Artificial Intelligence) – NVIDIA Jetson (Embedded ARM64 Device + GPU og SoC).

Med overvågningssoftware og hardware i én pakke er Edge-computeren en højtydende computerenhed med lav effekt, der er optimeret til næste generations videoanalyse- og computervisionsløsninger fra VIDEO A/S.

Med en række forskellige formfaktorer understøtter Edge forskellige operationer – fra flere kameraer og høj persongennemstrømning til implementeringer med et enkelt kamera til taktiske og/eller skjulte applikationer.

De lynhurtige fordele, ingen kan komme udenom

• Registrering og matchning sker i næsten realtid: ansigter, fodgængere, køretøjer og farveklassificering, nummerpladegenkendelse, genkendelse af stort set alle objekter
• Med JETSON opnås en behandlingstid på under 1 sekund – fra ansigtsgenkendelse til matchning til alarmgenerering.
• Indbygget skabelongenerering og matchning. Man kan opsætte alt det man ønsker at kunde få alarmer på.
• Understøtter ekstern skabelongenerering og matchning via VIDEO A/S eVIDEO signatur databasen som deles med vore partnere og forhandlere
• Optisk tegngenkendelse (OCR) til præcis identificering af fly, skibe, lastbiler, biler og meget mere.
• Optimeret til ARM64-arkitektur. Det er på ARM at der sker flest innovative udviklingen indenfor Videoovervågning og vi vover gerne påstanden at dem der ikke er med på dette momentum vil tabe i det lange løb
• Videostreaming foregår via JETSONS integrerede H264/H265 RTSP server til on-the-fly og live-view og gennemgang.
• Hardware acceleration skaber H264/H265 koding og de-koding via NVDEC/NVENC.

Hvad kan JETSON med videokameraer og attraktiv billedbehandling?

• Optage video fra flere kameraer som er enhedsafhængige med en konfigurerbar lagerpolitik
• Går Jetson i stykker så skift den, den koster under 2.000 kr. hos VIDEO A/S og med autodownload af alle konfigurationer så er du mere driftsikker end med store VideoSAN løsninger. Vi vurderer oppetid til at være på 99,99% under almindeligt brug.
• Genererer og gemmer “bedste billeder” af registreringer til senere gennemgang.
• Understøtter ombord “overvågningsliste” på 20.000-40.000 personer af interesse.
• Ultrahurtig integreret database optimeret til lagring og kryptering af metadata i hvile.

Fleksibilitet og lynkonfigurationer via autodownload af setup filer minimerer evt. nedetid

• Client Authority Mode sikrer, at ingen personligt identificerbare oplysninger, herunder overvågningslistebilleder og tilknyttede metadata, gemmes på enheden.
• Multiplatform-klientens passer til Windows, Linux og Mac til ultrahurtig rig multimedieoplevelse, enhedskonfiguration og administration.
• Komplet gRPC API til kommunikation med højt gennemløb og applikationsintegration.
• Grøn CO2 reducerende løsninger med vel nok verdens laveste strømforbrug
• Maksimalt strømforbrug på 30 watt.
• Ideel til miljøer med meget lav effekt, herunder sol- og batteridrevne implementeringer.
• Løsninger passer til alle vore mobile teleskop løsninger og monteringer med solceller.

Kilde: Michael Rasmussen, VideoAnalyse A/S www.aistra.net

Fotokredit: Nvidia, Video A/S og Oslo Lufthavn.
Fotokredit af NVIDIA hovedkvarteret:

1. Med tilladelse fra Gensler | Jason O’Rear Photography og tillige fotokredit for anvendelse af foto herunder:
2. Med tilladelse fra Eagle Eye Networks, USA and EU.