Der Innovations-Enabler Edge Artificial Intelligence (AI) Die Kombination aus Cloud, IoT (Internet of Things) und AI mit modernen Endgeräten wie Kameras und Sensoren ermöglicht eine neue Generation von Anwendungen im Bereich der künstlichen Intelligenz.

Dezentrale IT-Ressourcen und Datenverarbeitung sind nichts Neues und auf den ersten Blick sieht Edge Computing bzw. Edge AI wie "alter Wein in neuen Schläuchen" aus. Aber Edge Computing ist keine "Gegenbewegung" zur Cloud sondern eine logische Weiterentwicklung zu dieser. Cloud und Edge sind also eng integriert und arbeiten "Hand-in-Hand". Dabei werden AI-Modelle in der Cloud trainiert und dann über sichere Verbindungen direkt auf Endgeräte wie Kameras oder Sensoren installiert und lokal ausgeführt. Wird die AI-Funktionalität direkt auf den Endgeräten betrieben, hat dies folgende Vorteile:

• Verbesserter Datenschutz möglich
• Geringerer Bedarf an Bandbreite
• Weniger Latenz
• Bessere Skalierung

Verbesserter Datenschutz möglich

Kameras wie die OAK-D von OpenCV können Objekte, Gesichter oder Autokennzeichen erkennen. Das ist aus Sicht des Datenschutzes zunächst mal sehr problematisch. Aber dank der AI-Verarbeitung lokal auf der Kamera müssen die für die Erkennung notwendigen Daten das Gerät weder verlassen, noch müssen sie gespeichert werden. So könnte man z.B. eine AI-basierte "Mask-Reminder-Kamera" bauen, welche Menschen ohne Maske in Bereichen mit Maskenpflicht freundlich daran erinnert, bitte eine Maske zu tragen. Zwar braucht man immer noch Daten, um das AI-System zu trainieren, ist es aber mal trainiert, kann es vollständig autark und ohne Übertragung von Daten funktionieren. In vielen Anwendungsfällen kann dadurch dem Datenschutz sehr viel besser Rechnung getragen werden. Andere AI-Projekte sind ohne Edge AI aus Datenschutz Sicht gar nicht erst umsetzbar.

Geringerer Bedarf an Bandbreite

Gemäss DataProt werden im Jahre 2025 alleine von IoT Devices 73.1 Zettabytes (1 Zettabyte =10²¹ Bytes) Daten anfallen. Zum Vergleich: Die in der Cloud gespeicherten Daten werden heute auf "nur" ca. 1 Exabyte (= 10¹⁸ Bytes) geschätzt. Auch mit 5G und ständig wachsender Bandbreite wird es wohl kaum möglich sein, die enormen Datenmengen zu übertragen. Dank Edge AI bzw. der Verarbeitung auf den Geräten muss nur ein Bruchteil dieser Daten tatsächlich transportiert werden. Dies spart nicht nur Kosten, sondern beugt auch "Datenstau" auf den Netzwerken vor.

Weniger Latenz

AI-Systeme können Anomalien und Fehlfunktionen in Echtzeit erkennen. In vielen Fällen ist es wichtig, sehr schnell bzw. mit sehr geringer Latenz auf solche zu reagieren. Mit Edge AI können minimale Latenzzeiten sichergestellt werden, da die gesamte Verarbeitung auf dem Gerät selber durchgeführt wird.

Bessere Skalierung

Die Anzahl der IoT Devices wird sich gemäss Statista bis ins Jahre 2025 auf über 30 Mia Geräte mehr als verdoppeln. Angesichts dieses starken Wachstums ist es wichtig, dass die entsprechenden Architekturen und das Zusammenspiel von IoT Devices und Cloud gut skalieren. Mit Edge AI bringt jedes zusätzliche Gerät die benötigte Rechenkapazität selber mit. Die Herausforderung bezüglich Skalierung wird also eher bei der Überwachung, Administration und Orchestrierung von Tausenden oder gar Millionen von Devices liegen. Dazu bieten die beiden grossen Cloud-Anbieter bereits entsprechende Plattformen an:

• Amazon AWS: AWS for the Edge
• Microsoft Azure: Intelligent Cloud and intelligent Edge und AI@Edge Community

Warum jetzt

Dass Edge AI sich gerade jetzt verbreitet, hat primär zwei Gründe:

• Miniaturisierung: Geräte wie Kameras und Sensoren verfügen immer öfters auch über signifikante Rechenleistung bzw. genügend Rechenkapazität, um AI-Module effizient auszuführen.
• Cloud Integration: Es stehen Cloud-basierte Plattformen zur Administration und Orchestrierung der Endgeräte zur Verfügung.

Ähnlich wie die Smartphones in den letzten rund 14 Jahren wird Edge AI für Disruption sorgen und einen wichtigen Beitrag zu neuen Innovationen leisten – insbesondere bei Firmen. Viele Anwendungen im Bereich AI können nur dank dezentraler AI bzw. Edge AI überhaupt umgesetzt werden. Wir stehen bei Edge AI noch ganz am Anfang, aber das Potential ist enorm.

Quellen und weiterführende Informationen

Coral. (2021). Build beneficial and privacy preserving AI.

Jovanović, B. (2021). Internet of Things statistics for 2021 – Taking Things Apart. DataProt.

Statista.com (2021). Internet of Things (IoT) and non-IoT active device connections worldwide from 2010 to 2025.