Edge-KI: Gerätenahe Auswertung mittels RISC-V-Prozessor

Künstlerische Darstellung: RISC-V-Prozessor

Edge-KI: Gerätenahe Auswertung mittels RISC-V-Prozessor

„Edge AI bedeutet, dass KI-Algorithmen entweder direkt auf dem Gerät oder auf einem gerätenahen Server ausgeführt werden“, erläutert Dr. Andreas Weder, Gruppenleiter Modulintegration am Fraunhofer-Institut für Photonische Mikrosysteme IPMS. „Dazu werden die Daten genutzt, die direkt vom Gerät erfasst werden – und zwar ohne dass eine Verbindung zum Internet (Cloud) hergestellt werden muss. Nur die Ergebnisse der Verarbeitung werden dann in die Cloud gespeist. So können die Geräte innerhalb von Millisekunden mittels KI autark Entscheidungen treffen.“ Das Fraunhofer IPMS bietet fertige, plattformunabhängige IP-Core-Module an, mit denen Entwickler nach Angaben des Instituts schnell vollständige Funktionsbereiche in Standardprodukten wie SoCs, Mikrocontroller, FPGAs und ASICs übernehmen und so Entwicklungszeiten und -kosten reduzieren können.

Cloud-unabhängige Datenverarbeitung

Für die Datenverarbeitung werden Maschine-Learning-Modelle verwendet. Ein solches Modell wird auf der Basis von Datensätzen trainiert, um Muster zu erkennen – zunächst am Trainingsdatensatz und später mit echten Daten, beispielsweise von Sensoren. So kann es neue Fakten aus bereits bestehenden Daten ableiten und für einen bestimmten Kontext anwenden, um daraus Vorhersagen abzuleiten. „Anwendungen mit Anforderungen an niedrige Latenzzeiten können von dieser Art der Verarbeitung profitieren, da keine Verzögerungen durch die Übermittlung in die Cloud entstehen“, so Weber. „Das System ist auch bei instabilen Internetverbindungen arbeitsfähig und nicht auf die Verarbeitung der Daten in der Cloud angewiesen – ein großer Vorteil für mobile oder autarke Anwendungen und für Orte mit instabiler Datenverbindung.“ Da die Anzahl an IoT-Geräten weltweit enorm steigt und immer mehr Daten in die Cloud gesendet werden, spielt auch die Skalierbarkeit des Systems eine große Rolle. Zudem ist die Datensicherheit heutzutage von hohem Interesse. Je mehr Daten drahtlos in die Cloud gesendet werden müssen, umso mehr Angriffspunkte liefert ein IoT-System. Die Nutzung eines Edge-Systems erschwert den Angriff von außen, da die Verarbeitung der Daten lokal in einem geschlossenen Netzwerk erfolgt.

Fraunhofer-Technologie für Edge-KI-Anwendungen

Der EMSA5-RISC-V-Prozessor-Core des Fraunhofer IPMS ist nun einsatzfähig für Edge-KI-Anwendungen, beispielsweise für Sensordatenauswertung, Gestensteuerung oder Vibrationsanalyse. „Wir haben eine Portierung von Tensorflow Lite auf den EMSA5 RISC-V durchgeführt“, erklärt Weder. Der EMSA5-Prozessor-Core kann für beliebige FPGA-Plattformen zur Verfügung gestellt werden. Die Integration in kundenspezifische ASICs für beliebige Foundry Technologien ist ebenso möglich. Entwickler, die den EMSA5-Prozessorkern verwenden, können Open-Source RISC-V-Entwicklungsumgebungen, Testwerkzeuge und Bibliotheken, einschließlich der GNU-Toolchain und der umfassenden Eclipse-IDE mit OpenOCD-Debug-Unterstützung nutzen. Das Fraunhofer IPMS arbeitet auch mit kommerziellen Drittanbietern von Compilern und Software-Tools wie der IAR Embedded Workbench zusammen, um die Softwareentwicklung im Kontext der Funktionalen Sicherheit zu ermöglichen.

Weitere Informationen zum EMSA5 RISC-V

Quelle und Bild: ipms.fraunhofer.de