[Zurück]

M. Ivanov, M. Wess, A. Jantsch:
"Embedded Machine Learning Demonstrator";
2021; 30 S.

Seit der 2012 Alex Krizhevsky Puplikation zu ImageNet Classi cation with Deep CNNs2 wo er und
seine Kollegen noch nie zuvor gesehene Ergebnisse präsentieren konnten, be ndet sich der Bereich
von DL in einer Renaissance. Seit dem ist ML ein heißes Thema im akademischen Umfeld und der Industrie
geworden. Trotz dem hohen Beraf nach Trainigsdaten, Zeit und Rechenleistung kann ML Probleme
lösen die klassische Algorithmen des maschinellen Sehens nicht einmal anreißen können. Der
Hauptfokus dieser Arbeit besteht darin ein System zu bauen, welches eine Anwendung der visuellen
Erkennung mit der Benutzung von ML auf einer eingebetteten Platform intuitiv beschreibt. Diese Arbeit
geht über die Rollen der Einzelteile aus welchen der EML Demonstrator besteht und beschreibt
ihre Interaktionen. Danach wird die Software Pipeline beschrieben um einen Überblick über den allgemeinen
Daten uss zu erläutern. Schließlich wurde ein Konzept zur Charakterisierung der individuellen
Schichten eines NNs auf dem NCS2 mit dem Prospekt auf zukünftige Erweiterungen erarbeitet.
Die etablierte Methode liefert Information, welche zum optimieren der Schichten in Bezug auf Energieverbrauch
und Inferenz-Kosten verwendet werden können um die Batterielebensdauer zu verlängern.

Deep Learning (DL) has been in a renaissance ever since the 2012 Alex Krizhevsky paper on ImageNet
Classi cation with Deep Convolutional Neural Networks (CNNs)1, where he and his colleagues were
able to show prior unseen results in this domain. Since then, Machine Learning (ML) has become
a hot topic in academia and industry. Despite requiring a large amount of training data, time, and
computing power for training and inference, ML can tackle problems, which classical computer vision
algorithms cannot. The main focus of this work lies in building a system to showcase the application
of image recognition using ML on the edge in an intuitive way. This work goes over the roles of the
individual parts of which the Embedded Machine Learning (EML) Demonstrator consists and describes
their interactions. The software pipeline is then showcased to give an overview of the general data
ow. Lastly, a concept for characterization regarding the energy consumption of individual layers of
Neural Networks (NNs) on the Neural Compute Stick 2 (NCS2) was established during this work with
prospects for further benchmarks. The established method provides information that can be used to
optimize layers in terms of energy consumption and inference costs and, in return, prolong battery life.

Embedded Machine Learning, Optimization

https://publik.tuwien.ac.at/files/publik_296007.pdf