Navigation und Service

Aufbau einer verteilten IT-Infrastruktur für latenzkritische KI-Anwendungen (ILKA)

Im Projekt ILKA (Aufbau einer verteilten IT-Infrastruktur für latenzkritische KI-Anwendungen) hat die Hochschule Karlsruhe (HKA) eine IT-Infrastruktur für latenzarme Anwendungen von Künstlicher Intelligenz (KI) aufgebaut, die die Hochschule und ihre Partner über viele Jahre hinweg befähigen wird, einzigartige Forschung und Lehre in hochinnovativen Anwendungsbereichen der KI durchzuführen. Projektleiter war Prof. Dr. Christian Zirpins.

Herausforderung

Fortschritte der KI beflügeln heute die Digitalisierung in praktisch allen gesellschaftlichen Bereichen. Vielfältige KI-Anwendungen und -Systeme ermöglichen dabei die Automatisierung immer anspruchsvollerer Aufgaben. Um die Potentiale ausschöpfen zu können, sind jedoch Fachkräfte mit spezifischer Expertise erforderlich – und von diesen gibt es zurzeit nicht genug. Das liegt unter anderem daran, dass zur Ausbildung von Expertinnen und Experten KI-fähige IT-Infrastrukturen benötigt werden, die an Hochschulen nur selten zur Verfügung stehen. Der Bereich latenzkritischer KI-Anwendungen ist davon besonders betroffen. Hier müssen KI-Systeme schnell reagieren, um anspruchsvolle Anwendungen wie autonome Roboter oder virtuelle Assistenzsysteme zu ermöglichen, bei denen Entscheidungen in Sekundenbruchteilen zu treffen sind. Die hierzu erforderlichen Spezialprozessoren, Hochleistungsnetzwerke und Massendatenspeicher sind jedoch an Hochschulen oft nicht verfügbar.

Ziele und Vorgehen

Mit dem Projekt ILKA wurde an der HKA eine grundlegende KI-fähige IT-Infrastruktur etabliert, die auf der vorhandenen Expertise und der strategischen Ausrichtung der Hochschule im Bereich des Forschungsschwerpunkts Intelligente Systeme aufbaut. Dort werden nun auch Softwarearchitekturen, ‑technologien und -entwicklungsmethoden für latenzkritische KI-Applikationen erforscht und gelehrt. Die KI-Infrastruktur wird dabei für den hochschulweiten Einsatz in der Forschung und zur Ausbildung von wissenschaftlichem Nachwuchs eingesetzt. Noch während der Projektlaufzeit haben die drei Anwendungsschwerpunkte Robotik in der Produktion, Intelligente Perzeptions- und Assistenzsysteme sowie intelligente IT-Infrastrukturen Zugriff auf die ILKA-Infrastruktur erhalten. Mit der etablierten Infrastruktur und den Erfahrungen aus den Pilotprojekten der drei Bereiche folgt nach Abschluss des ILKA-Projekts eine Ausweitung auf weitere Anwendungsgebiete und neue Nutzergruppen.

Innovationen und Perspektiven

Die ILKA-IT-Infrastruktur ermöglicht Forschung und Lehre im Bereich latenzkritischer KI-Anwendungen, die bisher nicht durchführbar waren, da es kaum Zugriff auf Spezialprozessoren zur Beschleunigung von Aufgaben des maschinellen Lernens an der HKA gab und die vorhandenen Ressourcen nicht mit experimentellen Umgebungen verschiedener Anwendungsfälle vernetzt waren. Nach der Realisierung des Projekts können für unterschiedliche Anwendungsfälle der Robotik, der partizipativen Assistenzsysteme und der dynamischen IT-Infrastrukturen erstmals KI-Anwendungen mit besonders anspruchsvollen Echtzeitanforderungen erforscht werden. Durch den außergewöhnlichen Aufbau der ILKA-Infrastruktur, bei dem die Spezialprozessoren mittels eines Hochleistungsnetzwerks über zwei Standorte im Stadtgebiet verteilt sind, wird die Erforschung innovativer Ansätze möglich, die latenzkritische KI-Anwendungen leichter realisierbar machen.