Der Einsatz von Machine Learning auf IoT-Geräten wurde lange Zeit durch deren begrenzte Rechenleistung und eingeschränkte Batteriekapazität limitiert. Dank anhaltender Forschungserfolge im Bereich der Microchips und Prozessoren, gelingt es seit einigen Jahren, komplexe KI-Modelle auf Mikrocontrollern auszuführen.
Diese Modelle sind keine Sprachmodelle wie ChatGPT, die zur Generative Artificial Intelligence (GenAI) gehören, sondern Deep Learning Modelle, die weniger Neuronen tief sind und auf ein spezifisches Aufgabenfeld fokussiert sind.
Dabei sind zwei gigantische Welten aufeinander gestoßen: KI (Künstliche Intelligenz) und Embedded Systems. Ob Smartwatch, Babyfon, Wildkamera oder im Auto: TinyML findet (fast) überall Platz.
Was ist nun also TinyML? Welchen Nutzen kann es haben und worauf muss ich achten, wenn ich KI auf den Microcontroller in ein Produktivsystem einbetten möchte?
Was ist TinyML?
TinyML definiert einen Bereich der KI-Anwendungen, die auf Microprozessoren in eingebetteten Systemen integriert sind. Das bedeutet, dass die Ausführung eines trainierten KI-Modells auf dem Endgerät stattfindet, ohne dass dabei eine Verbindung zu einem Cloud Anbieter notwendig ist. Die notwendige Inferenz passiert vollständig auf dem Endgerät.
Der Begriff TinyML schließt nicht aus, dass künftig auch generative KI-Modelle auf Microcontrollern laufen könnten. Derzeit sind es jedoch technische Einschränkungen, die den Einsatz von GenAI noch begrenzen.
Vorteile von TinyML
1. Datensicherheit
Durch die lokale Ausführung von KI-Modellen wird die Notwendigkeit reduziert, sensible Daten an externe Server zu senden, was das Risiko von Datenschutzverletzungen verringert. Damit bleibt die Datenhoheit auf dem Endgerät. Im Kontext des Cyber Resilience Acts (CRA) und den damit einhergehenden Anforderungen für Hard- und Software ist dieser Aspekt noch einmal relevanter geworden.
2. Konnektivität
Damit verbunden, spielt die Netzwerkkonnektivität auf Endgeräten eine entscheidende Rolle. Durch die Verarbeitung der Daten am Edge entfällt weitgehend die Notwendigkeit einer leistungsstarken Netzwerkverbindung. Wir analysieren den Ist-Zustand und übertragen nur wenige Bytes, um das Analyseergebnis weiterzuleiten. Dadurch eröffnen sich völlig neue Anwendungsgebiete, selbst in Regionen mit unzuverlässiger Konnektivität.
3. Energieeffizienz
Das Ausführen von ML-Modellen erhöht zunächst den Energieverbrauch. Wird dadurch jedoch die zu übertragende Datenmenge deutlich reduziert, kann sich dieser Mehraufwand energetisch lohnen.
Nachteile von TinyML
1. Modellkomplexität
Wie eingangs erwähnt, schränkt die Hardware die Einsetzbarkeit von ML-Modellen ein. Eingebettete Systeme sind effizient gebaut und müssen daher mit den einfachsten Komponenten bzw. Ressourcen auskommen.
Das limitiert die Größe der verwendbaren Modelle und damit den Nutzen, die diese liefern können. Hier ist es wichtig klare Metriken zu definieren, welche die erwartete Qualität des Modells beschreibt, um die notwendige Größe bereits beim Design der Platine in Betracht ziehen zu können.
2. Datenverfügbarkeit
In besonders speziellen Anwendungsfällen fehlen oft die Datenmengen, um qualitativ hochwertige Trainingsdaten zu erhalten. Glücklicherweise lässt sich mit einem Prototyp, der möglichst schnell im Feld Realdaten generiert, diese Datenlücke schließen. Skaliert man das über mehrere Logger Geräte fällt die initiale Datengenerierung stark im Zeitaufwand.
Anwendungsbeispiele
Datensicherheit in der Medizintechnik
Im Bereich des medizinischen IoT fallen zahlreiche personenbezogene Gesundheitsdaten an, die bei Datenverlust oder Datendiebstahl in falsche Hände geraten können.
Durch die Vorverarbeitung und Aggregation der Daten auf dem Endgerät entfällt die entsprechende Verantwortlichkeit in der Cloud. Geht man sogar noch einen Schritt weiter und anonymisiert die Daten auf dem Endgerät und verwendet ein energiesparendes Netzwerk zur Versendung der Daten, dann zahlt TinyML doppelt auf die Datensicherheit des Endproduktes ein.
Konnektivität in der Landwirtschaft
In der Landwirtschaft ist eine stabile Internetverbindung auf dem Acker oder der Weide nicht immer gegeben, was TinyML Lösungen in diesem Bereich zu einem starken Kandidaten machen.
Beispielsweise können Verhaltensmuster von Nutztieren mittels Bewegungssensoren und Gyroskopen auf kleinen batteriebetriebenen Geräten verwendet werden, um daraus Rückschlüsse über die Gesundheit der Tiere zu erlangen.
Damit eröffnen sich präventive Behandlungsmethoden, welche dem Hof Kosten einsparen. Ebenso sind intelligente Traktoren, oder gar autonome Landmaschinen komplett auf lokale Datenverarbeitung angewiesen. Hier könnte man sich eine modulare Lösung erdenken, bei der Einzelsysteme Daten sammeln und direkt selbstständig verarbeiten, bevor sie an eine zentrale Node des Systems geleitet werden.
Smart Factory
Ein großer Anwendungsbereich findet sich in der Kombination der Datenverarbeitung am Edge-Device und in der Cloud. Hierbei handelt es sich um hybride Systeme, die die Vorteile von TinyML direkt auf der Speicherprogrammierbaren Steuerung (SPS) vornehmen können, sollte sich zum Beispiel ein Risiko von Überhitzung der Maschine abzeichnen. Hier zählen Millisekunden.
Dies kann realisiert werden, indem kleinere ML-Modelle direkt live die Maschinendaten verarbeiten und gezielt gegensteuern, falls eine Anomalie auftritt. Die Ergebnisse dieses Vorfalls können dann an die nächsthöhere Stelle gegeben werden, die hier vielleicht Produktionsdaten mit in die Analyse gibt, um Muster zu erkennen, die nur durch einfache Strom, Druck und Temperaturwerte nicht erkennbar wären.
Des Weiteren kann auf diesem Level eine Analyse über alle Maschinen in der Halle gefahren werden, um Verhaltensweisen zu erkennen und frühzeitig Fehlerquellen zu beseitigen. Skaliert man dieses Setup weiter, kann die langfristige Planung der Halle selbst per KI orchestriert werden, um Effizienzsteigerungen zu erlangen.
Smart Sensor
Als Grundlage für diese Anwendungsbeispiele sind konkrete Prototypen unabdingbar, um schnell und kostengünstig Anwendungsfälle validieren zu können.
Zu diesem Zweck haben wir uns bei der 8tronix GmbH daran gemacht eine Sensorplattform zu entwickeln, welche es uns erlaubt Anwendungsbeispiele schnell und kostengünstig zu validieren und damit die Machbarkeit zu testen, bevor in die Entwicklung investiert wird.
Das Projekt setzte sich das Ziel, die schlechte Datenlage durch den Einsatz intelligenter Sensoren zu verbessern.
Hierfür wurde eine Elektronik samt Firmware für einen smarten Sensor entwickelt, der in der Lage ist auf dem verbauten Mikrocontroller Machine-Learning bzw. Deep-Learning Algorithmen auszuführen (Edge AI/ML). Die ML-Algorithmen können aus einer großen Menge von Messdaten die wichtigsten Informationen extrahieren, um diese anschließend über ein energieeffizientes Funkprotokoll (hier LoRaWAN) zu versenden.
Mit diesem Verfahren lassen sich neue Daten und Erkenntnisse gewinnen, die mit handelsüblichen Sensoren derzeit nicht erfasst werden können. Die smarten Sensoren können in verschiedenen Bereichen eingesetzt werden und tragen zu einer umfassenderen Datenbasis für künftige Smart City-Anwendungen bei.
Der Smarte Sensor ist nun einsatzbereit und kann für Machbarkeitsstudien verwendet werden, die unsere Kunden in die Ära der KI befördern.
Zukunft der Technologie
Die kontinuierliche Weiterentwicklung von Mikroprozessoren und spezialisierten Hardware-Beschleunigern wird die Möglichkeiten von TinyML weiter ausbauen.
Wir erkennen eine zunehmende Integration von neuronalen Netzwerk-Beschleunigern (Neural Processing Units – NPUs) direkt in Microcontroller und System-on-Chips (SoCs). Diese NPUs sind speziell für die effiziente Ausführung von ML-Modellen konzipiert und ermöglichen deutlich schnellere Inferenzzeiten bei gleichzeitig geringerem Energieverbrauch.
Zukünftige Chips werden wahrscheinlich noch energieeffizienter und leistungsstärker sein, was die Anwendung komplexerer Modelle auf eingebetteten Systemen ermöglicht.
Die Kombination aus leistungsfähigerer Hardware und optimierten Algorithmen wird TinyML in einer Vielzahl neuer Bereiche vorantreiben:
- Autonome Systeme: TinyML wird die Entwicklung autonomer Systeme wie Drohnen, Robotern und selbstfahrenden Autos ermöglichen, die in der Lage sind, in Echtzeit Entscheidungen zu treffen, ohne auf eine Cloud-Verbindung angewiesen zu sein.
- Wearable Computing: Intelligente Wearables (Smartwatches, Fitness-Tracker) werden in der Lage sein, Gesundheitsdaten zu analysieren, personalisierte Empfehlungen zu geben und sogar medizinische Notfälle zu erkennen – alles direkt auf dem Gerät.
- Industrie 4.0: TinyML wird die vorausschauende Wartung von Maschinen, die Qualitätskontrolle und die Optimierung von Produktionsprozessen in der Industrie ermöglichen.
- Smart Cities: Intelligente Sensoren, die mit TinyML ausgestattet sind, können zur Überwachung der Luftqualität, zur Optimierung des Verkehrsflusses und zur Verbesserung der Energieeffizienz in Städten eingesetzt werden.
- Landwirtschaft: Wie bereits erwähnt, wird TinyML die präzise Landwirtschaft durch die Analyse von Daten von Sensoren und Kameras ermöglichen, um den Ernteertrag zu maximieren und den Einsatz von Ressourcen zu optimieren.
Die Zukunft von TinyML ist vielversprechend. Durch die Kombination von Hardware-Innovationen, optimierten Algorithmen und einem wachsenden Software-Ökosystem wird TinyML die nächste Welle der KI-Anwendungen auslösen und die Welt um uns herum grundlegend verändern.
Die Möglichkeit, KI-Funktionen direkt auf eingebetteten Systemen auszuführen, ohne auf eine Cloud-Verbindung angewiesen zu sein, eröffnet völlig neue Möglichkeiten für Datenschutz, Zuverlässigkeit und Effizienz.
Wir bei 8tronix sind bestrebt, diese Möglichkeiten zu nutzen und innovative TinyML-Lösungen für unsere Kunden zu entwickeln.
