Sensoren lernen das Denken

Im Fraunhofer-Leitprojekt NeurOSmart forscht das Fraunhofer-Institut für Photonische Mikrosysteme IPMS zusammen mit vier weiteren Instituten (ISIT, IMS, IWU, IAIS) unter Leitung des Fraunhofer ISIT gemeinsam an besonders energieeffizienten und intelligenten Sensoren für die nächste Generation autonomer Systeme. Dabei werden die Brücken zwischen Wahrnehmung und Informationsverarbeitung durch innovative Elektronik neu definiert.

Intelligente Maschinen werden zunehmender Bestandteil unseres Alltages. Naheliegende Beispiele sind das autonome Fahren oder etwa moderne Roboter-Staubsauger im Haushalt. Doch auch dort, wo wir nicht direkt mit ihnen in den Kontakt kommen, sind selbstständig arbeitende Roboter zunehmend unerlässlich: Als flinke und unermüdliche Helfer in Logistikzentren oder als präzise und starke Partner in Fertigungsumgebungen.

Um in diesen Anwendungen autonom, also möglichst eigenständig ohne Überwachung durch Menschen, arbeiten zu können, sind diese Roboter mit Sensoren und Elektronik gespickt, die es ihnen ermöglichen, ihre Umgebung wahrzunehmen und auch unvorhergesehene Situationen eigenständig zu bewältigen. Je komplizierter das Aufgabengebiet, desto intelligenter und agiler muss die Maschine sein. Dies führt dazu, dass immer mehr und verschiedene Sensoren, etwa für die Abstandmessung, für die Bewegungserfassung oder die Druckbestimmung bei Berührungen, kombiniert werden und die Elektronik und Computertechnik für die Erfassung und Verarbeitung der Daten immer leistungsstärker sein muss.

Allerdings geht dieser Trend zu mobilen Supercomputern mit einem erheblich steigenden Energieverbrauch einher. Besonders bei mobilen Systemen führt dies zu einer verkürzten Einsatzdauer oder Reichweite und stößt laut aktuellen Prognosen in den nächsten Jahrzehnten gar an die Grenzen der weltweiten Energieerzeugung.

Um dieser Eskalation entgegenzuwirken, setzten die in NeurOSmart beteiligten Fraunhofer-Forscherinnen und Forscher auf einen neuromorphen In-Memory-Beschleuniger, der auf den jeweiligen Sensor maßgeschneidert wird. Als Vorbild für die zu entwickelnde Elektronik dient das menschliche Gehirn, denn dieses ist trotz seiner enormen Rechenleistung sehr energiesparend beim Treffen von Entscheidungen.

»Diese Art der Datenverarbeitung, also des Denkens, wird durch eine neuartige analoge Computer-Speichertechnologie realisiert, die zudem in der Lage ist, Rechenoperationen durchzuführen, wenn Daten in dem System neu erfasst werden«, erläutert der ISIT-Wissenschaftler und Projektleiter Dr. Michael Mensing: »In der Praxis wird dies genutzt, um Objekte und ihr Verhalten exakt und in Echtzeit zu erkennen.« Bisher sind für diese Funktionsweise mehrere getrennt entwickelte Komponenten in Computern und eine besonders energieaufwändige Kommunikation zwischen ihnen nötig.

Unterstrichen werden die Vorteile des neuen Ansatzes durch die parallele Entwicklung besonders kleiner und effizienter Modelle für die Objekterkennung und -klassifizierung, die speziell auf den Sensor, die neuen Möglichkeiten der direkt integrierten Elektronik und ihre Anwendungen angepasst werden. Das Resultat ist eine schnelle Reaktionszeit, erhöhter Datenschutz und erhebliche Energieeinsparung gegenüber dem aktuellen Trend von praxisfernen oder cloudbasierten Lösungen, die bevorzugt auf immer größere, energieintensivere Modelle zurückgreifen.

In der Projektlaufzeit von vier Jahren mit einem Finanzvolumen von acht Millionen Euro soll dieser Ansatz erstmals mit einem komplexen bei Fraunhofer entwickelten LiDAR-System kombiniert und in anwendungsnaher Umgebung erprobt werden. Dieses Sensorsystem ist ein entscheidender Bestandteil autonom arbeitender Systeme, da er seine Umgebung mithilfe detaillierter Abstandsinformationen auch bei schlechtem Wetter und über einen weiten Entfernungsbereich erkennt. Als erste Probe der neuartigen Sensoren werden sie in den nächsten Jahren in Robotersysteme integriert, die ihren menschlichen Kolleginnen und Kollegen in Fertigungsumgebungen unterstützen, beispielsweise durch das Bewegen von schweren Lasten oder Anreichen von Komponenten.

Innerhalb des Projekts entwickelt das Fraunhofer IPMS den Schaltkreis des neuromorphen Beschleunigers. Den Kern des analogen Beschleunigers bilden dabei moderne HfO2-basierte Crossbars. Damit lassen sich die komplexen, oft iterativen digitalen Berechnungen von KI-Modellen (z.B. in CNNs), die sonst mit hohem Energieaufwand auf generalisierten Grafikkarten berechnet werden müssen, auf energieeffiziente Speicheroperationen im Schaltkreis abbilden. Für die interne Steuerung der Datenflüsse wird der RISC-V-Prozessorkern EMSA5 mit direkten Schnittstellen zur analogen Beschleunigerbaugruppe und übergeordneten Systemen sowie Fehlerschutzmechanismen implementiert. Die Erforschung einer softwareprogrammierbaren Systemarchitektur wird einen flexiblen Einsatz des Schaltkreises in einer Vielzahl von Anwendungsfällen ermöglichen.

Weiterhin trainiert das Fraunhofer IPMS gemeinsam mit dem Fraunhofer IAIS den Schaltkreis des neuromorphen Beschleunigers. Dafür wird in einem ersten Schritt das neuronale Netzmodell für die LiDAR-Datenauswertung erforscht. Ziel ist dabei die automatisierte Abbildung auf der verfügbaren Hardwaretopologie sowie deren Übertragung auf ein Schaltkreisdesign. Im System analysiert der Schaltkreis vorverarbeitete LiDAR-Daten. Dabei erfolgt die Kommunikation zwischen Vorverarbeitung (FPGA) und Beschleuniger-Schaltkreis über eine echtzeitfähige Highspeed-Ethernet-Schnittstelle.

Abschließend ist das Fraunhofer IPMS gemeinsam mit dem Fraunhofer-Institut für Siliziumtechnologie ISIT an der Validierung der neuen Speicherzellen-Ansätze für zukünftige Beschleunigerumsetzungen beteiligt.