Kurztitel: eki
Laufzeit: 01.01.2023 – 31.12.2025
Kurzbeschreibung
Das Ziel des eki-Projekts ist es, die Energieeffizienz von KI-Systemen für tiefe neuronale Netze (DNN) durch Approximationstechniken und die Abbildung auf spezielle Hardwarebausteine zu erhöhen. DNNs haben sich in den letzten Jahren zu einem wesentlichen Ansatz für maschinelles Lernen entwickelt. In der Inferenzphase werden Klassifizierungen oder Regressionen auf typischerweise sehr großen Datensätzen berechnet, was bereits eine erhebliche Rechenlast und damit verbundene CO2-Emissionen verursacht. Da die Nachfrage nach DNN-Inferenz weiterhin stark ansteigen wird, besteht hier ein hoher Handlungsbedarf. Field Programmable Gate Arrays (FPGAs) sind eine besonders gut geeignete Technologie für DNN-Inferenz, da sie durch ihre Hardware-Rekonfigurierbarkeit optimal an die Anwendung angepasst werden können. In diesem Projekt wird auf Basis des Open-Source-Tools FINN ein Software-Toflow entwickelt, der DNNs automatisiert, optimiert und hardwaremäßig anpasst. Die verfolgten Ansätze sind die Approximationstechniken wie Network Pruning und Low-Precision-Quantization sowie die Parallelisierung auf einem FPGA-Cluster. Zur Bewertung wird die erzielte Energieeinsparung durch präzise Messungen in realen Serversystemen charakterisiert. Weitere Aspekte des Projekts sind die Entwicklung einer AutoML-Methode zur Energieoptimierung und die experimentelle Evaluierung mit Test-DNNs sowie zwei Anwendungsfallstudien aus den Bereichen der natürlichen Sprachverarbeitung und der Optimierung in der Landwirtschaft.
Leitung / Kontakt
Ausführende Stelle
Fachbereich Informatik und Naturwissenschaften, Iserlohn
Mitarbeiter:
Max Kuhmichel
Beteiligte Fachbereiche / Firmen / Institutionen
- Fachbereich Informatik und Naturwissenschaften
Universität Paderborn - Paderborn Center for Parallel Computing
- Hochschule Hamm-Lippstadt
- MEGWARE Computer Vertrieb und Service GmbH (assoz.)
- Advanced Micro Devices, Inc. (assoz.)
Drittmittelgeber / Förderung
BMUV
Förderlinie: „KI-Leuchttürme für Umwelt, Klima, Natur und Ressourcen“