Verwerking op het apparaat en AI gaan hand in hand

In samenwerking met Qualcomm

Of u nu een autonoom voertuig bestuurt, gezichtsherkenning gebruikt om toegang te krijgen tot uw bankrekening of uw apparaat beschermt tegen snel veranderende veiligheidsbedreigingen, kunstmatige intelligentie (AI) speelt een grotere rol in ons leven. In het verleden was de kracht van de cloud vereist voor deze verwerking, maar edge-apparaten, zoals smartphones en drones, zijn nu uitgerust om rekenintensieve AI-bewerkingen uit te voeren. In veel gevallen is het edge-apparaat zelfs het voorkeursplatform voor het uitvoeren van AI-aangedreven applicaties.

De realiteit is dat er tegenwoordig meer AI-toepassingen opkomen dan de meesten van ons beseffen. Wanneer een apparaat is uitgerust met AI, kan het ons leven enorm uitbreiden en verbeteren, of het nu gaat om scherpere afbeeldingen en video's, natuurlijker met ons te communiceren of door de omgeving waar te nemen en ons autonoom veilig naar onze bestemming te navigeren.

AI is een overkoepelende term die is ontworpen om alles te omvatten dat een apparaat helpt het menselijk brein te repliceren, zegt Gary Brotman, directeur productbeheer bij Qualcomm. Machine learning (ML) is een brede klasse van technieken en algoritmen om de problemen op te lossen die AI mogelijk maken. De les waar we ons op richten is deep learning (DL) en terugkerende neurale netwerken (RNN), die op het eigenlijke apparaat draaien.

De aanzienlijke verbetering van AI-algoritmen en verwerking op het apparaat, twee cruciale ingrediënten om AI alomtegenwoordig te maken, leiden tot meer naadloze en boeiende gebruikerservaringen. Dit geldt met name wanneer op AI gebaseerde functionaliteit wordt verplaatst naar voertuigen, huishoudelijke apparaten en Internet of Things (IoT)-sensoren. Verbeterde waarnemings- en cognitieve mogelijkheden dankzij de vele technologieën onder de AI-paraplu, zoals ML, DL en RNN's, kunnen nu op moderne edge-apparaten worden uitgevoerd.

AI op het apparaat kan bijvoorbeeld de beeldherkenning en geavanceerde beeldverwerking verbeteren, zoals het produceren van bokeh-effecten (een zachte onscherpe achtergrond) en stijloverdrachten. Met AI uitgeruste apparaten kunnen ook trefwoorden en stemmen leren herkennen, waardoor ze beter op de consument reageren en helpen bij het vertalen van vreemde talen.

Bovendien kan AI apparaten en apps helpen zich meer bewust te worden van de voorkeuren en omgeving van gebruikers, de intentie te begrijpen en op contextueel relevante manieren te reageren. AI op je apparaat resulteert in een meer contextueel rijke ervaring, zegt Brotman. En na verloop van tijd zal uw apparaat kunnen voorspellen en een beter begrip krijgen van wat u vervolgens gaat doen.

AI in uw hand

AI op het apparaat heeft verschillende belangrijke voordelen. De eerste is de prestatie. De verwerking op het apparaat is gewoon sneller - geen retourtje naar de cloud, zegt Brotman. Privacy is de volgende. Mensen delen graag enkele persoonlijke gegevens, maar niet alles. En de derde is betrouwbaarheid. Mobiele netwerken zijn alomtegenwoordig, maar er is geen garantie dat je altijd een verbinding hebt.

Prestatie: Het uitvoeren van AI-algoritmen op het apparaat, onafhankelijk van de cloud, kan de responstijd en efficiëntie aanzienlijk verbeteren, omdat gegevens niet hoeven te worden overgedragen tussen de cloud en het apparaat. Dit is belangrijk omdat mobiele AI-mogelijkheden vaak tijdgevoelig zijn voor gebruikerservaring en besluitvorming.

AI-apps zijn meestal realtime en bedrijfskritisch, zegt Jeff Gehlhaar, vice-president technologie bij Qualcomm. Veel gevallen van AI-gebruik die een ervaring verbeteren, kunnen zich geen latentie veroorloven.

Een autonoom voertuig dat bijvoorbeeld moet remmen, kan zich geen milliseconde latentie veroorloven die het gevolg kan zijn van cloudverwerking. Beslissingen moeten in een fractie van een seconde worden genomen om het voertuig veilig te laten werken.

In termen van gebruikerservaring kan een natuurlijke spraakgebruikersinterface slechts zoveel latentie tolereren. Gebruikers zijn gewend aan onmiddellijke reacties bij het gebruik van een spraakinterface voor natuurlijke taalverwerking, en de gevolgen van netwerkvertragingen zullen leiden tot slechte ervaringen.

Privacy en veiligheid: Door uw gegevens op het apparaat te bewaren, wordt privacy gegarandeerd, en AI wordt ook gebruikt voor biometrische authenticatie met behulp van spraak-, vingerafdruk-, iris- en gezichtsherkenning. Je gezicht gebruiken om een ​​apparaat te ontgrendelen wordt gemeengoed, zegt Brotman. En 3D-gezichtsherkenning is in opkomst om een ​​hogere mate van authenticiteit te bieden voor mobiele betalingen.

De verwerking van AI-toepassingen op het apparaat kan ook de beveiliging van zowel het apparaat als de gegevens vergroten door waakzaam te blijven voor afwijkend gedrag. AI kan helpen bij het detecteren van malware en afwijkend gedrag, zegt Gehlhaar. We kunnen het neurale netwerk trainen om te zien hoe slechte acteurs zich gedragen. En het kan dat slechte gedrag detecteren, zoals vragen: 'Waarom opent mijn cameratoepassing mijn contactendatabase?'

Betrouwbaarheid: Zelfs in de meest geavanceerde delen van de wereld is dekking van mobiele netwerken niet overal aanwezig. Als het echter gaat om bepaalde AI-gestuurde mogelijkheden, is er geen ruimte voor fouten. Autonome voertuigen kunnen het zich eenvoudigweg niet veroorloven om een ​​wegvallend draadloos signaal te ervaren, zoals kan optreden bij het inrijden van een tunnel of parkeergarage. Verwerking op het apparaat zal, naast andere redundantiefuncties, altijd een vereiste zijn voor bedrijfskritieke toepassingen zoals autonoom rijden.

AI naar Edge-apparaten brengen

Hoewel deze AI-functies nu op het apparaat kunnen draaien, speelt de cloud nog steeds een rol, met name als aanvulling op verwerking op het apparaat. AI-apps zijn nog steeds afhankelijk van cloudplatforms om big data te beheren en de neurale netwerkmodellen te trainen die AI-inferentie aansturen.

Edge-apparaten zelf moeten ook zijn uitgerust om AI-workloads effectief uit te voeren. De verwerking moet bijvoorbeeld plaatsvinden binnen de beperkingen van het platform, inclusief stroomverbruik en thermische limieten. Applicatieprocessors met diverse verwerkingsengines zijn bijzonder geschikt voor het efficiënt uitvoeren van AI-taken. Het Qualcomm Snapdragon Mobile Platform is bijvoorbeeld uitgerust met drie afzonderlijke verwerkingsengines: een centrale verwerkingseenheid (CPU), een grafische verwerkingseenheid (GPU) en een digitale signaalprocessor (DSP) met vectorverwerkingsmogelijkheden, die allemaal een sleutelrol spelen in AI op het apparaat.

Bij heterogeen computergebruik zijn er verschillende motoren in de chip om een ​​bepaalde taak zo efficiënt mogelijk te verwerken, zegt Pat Lawlor, technisch marketingpersoneelsmanager bij Qualcomm. De CPU, GPU en DSP hebben verschillende sterke en zwakke punten, en ze kunnen samenwerken of afzonderlijk, afhankelijk van de AI-taak. Ze vullen elkaar aan en de AI-taken draaien op de juiste motoren voor hoge prestaties bij een laag vermogen.

De verhoogde verwerkingskracht die in de chipsets van moderne edge-apparaten is ingebouwd, helpt hen om de intensieve verwerking aan te kunnen. De Qualcomm Hexagon 685 DSP, Adreno 630 GPU en Kryo 385 CPU in de Snapdragon 845 kunnen bijvoorbeeld tot twee tot drie keer snellere AI-verwerking leveren dan de vorige generatie. De Hexagon DSP, bijvoorbeeld, is oorspronkelijk ontworpen voor rekenintensieve vectorworkloads zoals audioverwerking en wordt nog steeds verbeterd om AI-workloads aan te pakken, zoals het versnellen van neurale netwerken tijdens AI-inferentie.

Wat biedt de toekomst voor mobiele AI?

Mobiele AI is een snelgroeiende markt. Met voortdurende vooruitgang in neurale netwerken, DL-algoritmen en hardwareontwerp, zullen we enorme verbeteringen in nauwkeurigheid en snelheid zien, plus nieuwe, meeslepende gebruikerservaringen.

In het bredere universum van mobiliteit liggen ook 5G draadloze netwerken in het verschiet. AI zal 5G verbeteren en uitbreiden en vice versa, zegt Brotman. Met 5G kunnen apparaten vrijer met elkaar communiceren om gegevens te delen en context te delen. Met deze ontwikkeling zullen we een volledig verbonden universum van intelligente edge-apparaten ervaren, waardoor meer gepersonaliseerde, realtime gebruikerservaringen mogelijk worden.

Onze levens worden tegenwoordig rijker door de mogelijkheden van onze apparaten, en onze toekomst zal in toenemende mate worden verbeterd door de vooruitgang die wordt geboekt in AI. De convergentie van deze twee krachtige trends geeft al vorm aan ervaringen in ons persoonlijke en zakelijke leven.

Ga voor meer informatie over AI op het apparaat naar qualcomm.com/artificial-intelligence .

zich verstoppen