Warum braucht KI so viel Rechenleistung?
Täglich sind wir von spannenden Wissenschaftsthemen umgeben. Mit dem Format „Wissenssnack“ möchten wir aktuelle wissenschaftliche Themen näher beleuchten und mit unseren Expert*innen an der Hochschule Osnabrück zusammen beantworten.
Künstliche Intelligenz (KI) ist gerade in aller Munde und auch an Hochschulen wird mit und über KI geforscht und gelehrt. Eine Herausforderung dabei ist, dass KI sehr viel Rechenleistung und daher auch sehr viel Energie benötigt.
Maik Fruhner ist Wissenschaftlicher Mitarbeiter und Promovend an der Hochschule Osnabrück und erklärt uns im Interview warum das so ist und wie die Hochschule damit umgeht.
Wie funktioniert KI?
Künstliche Intelligenz (KI) ist ein Oberbegriff für Systeme, die in der Lage sind, Aufgaben durchzuführen, die typischerweise menschliche Intelligenz erfordern. Dazu gehören Wahrnehmung wie Sehen und Sprachverstehen, Schlussfolgern, Problem lösen, Vorhersagen treffen und Kreativität. Die Funktionsweise von KI basiert auf verschiedenen Techniken, aber die Grundlage sind eigentlich immer Mathematik und Statistik.
Das maschinelle Lernen ist eine Kernkomponente der modernen KI. Es ermöglicht Computern, aus Daten zu lernen und sich anzupassen, ohne explizit programmiert zu werden. Hierbei unterscheidet man zwischen mehreren Teilgebieten. Beim überwachten Lernen lernt ein KI-Modell aus Daten, die bereits mit den richtigen Antworten (Labels) versehen sind, um Vorhersagen zu treffen. Beim unüberwachten Lernen lernt ein Modell aus Daten ohne vorherige Kennzeichnung, um Muster und Beziehungen zu erkennen. Beim sogenannten Verstärkungslernen wird ein Agent (ein lernfähiger Algorithmus ohne Vorwissen) wie zum Beispiel ein selbstfahrendes Auto in eine zunächst unbekannte Umgebung gesetzt. Hier können durch unterschiedliche Handlungen Belohnungen (z.B. Spur halten) und Bestrafungen (z.B. Fahrbahn verlassen) erhalten werden. Der Agent muss selbstständig lernen durch die richtige Auswahl von Aktionen seine Belohnung zu maximieren.
Das aktuell wohl beliebteste Gebiet der KI ist das Deep Learning. Es beschreibt das maschinelle Lernen mittels tiefer, neuronaler Netze. Ein neuronales Netz ist ein Algorithmus, der nach dem Vorbild des menschlichen Gehirns konzipiert ist und aus Schichten von Knoten oder "Neuronen" besteht. Jedes Neuron empfängt Eingaben, verarbeitet sie und gibt sie an die nächste Schicht weiter. Tiefe neuronale Netze verwenden viele solcher Schichten, um komplexe Muster in großen Datenmengen zu erkennen. In einigen Gebieten konnten diese Verfahren bereits bessere Vorhersagen treffen als Menschen.
Wofür nutzt die Hochschule aktuell KI?
KI ist von immer größerem Interesse an der Hochschule sowohl bei den Studierenden als auch den Lehrkräften und Forschungsprojekten. Diese müssen nicht zwangsläufig Informatik-lastig sein. Die Medizintechnik untersucht beispielsweise die Potenziale von KI in Form von Computer Vision zur Erkennung von Krankheitsbildern. In Forschungsprojekten wie Agri-Gaia und AgrifoodTEF werden KI-Modelle für die Landwirtschaft trainiert und getestet.
Im Forschungsprojekt Hiper4All@HsOs wurde der erste, hochschulweite High-Performance-Computing Cluster (HPC-Cluster) konzipiert und in Betrieb genommen. Dieser steht jedem Hochschulangehörigen zur Verfügung, um KI in der Lehre und Forschung zu erproben. Ich war selbst bis zum Projektende in diesem Forschungsprojekt angestellt und somit maßgeblich an den Projektarbeiten beteiligt und konnte so nochmals viel über die Nutzung und Bereitstellung von KI-Diensten lernen. In der Endphase meiner Promotion im Bereich Computer Vision konnte ich guten Nutzen von den 46 verbauten hochleistungs-GPUs (graphics processing units, zu deutsch: Grafikkarten) machen. Diese haben meine Arbeit unvorstellbar beschleunigt. Auf meinem eigenen Computer hätten die Berechnungen vermutliche mehrere Tage bis Wochen gebraucht.
Warum braucht KI so viel Energie und Rechenleistung?
Besonders der Aspekt des Stromverbrauchs war ein zentraler Diskussionspunkt in der Konzeptphase des HPC-Clusters. Wie eingangs erwähnt, basiert KI auf Mathematik und Statistik. Für das Trainieren und Nutzen von KI-Algorithmen muss der Computer milliardenfach Berechnungen mit immer neuen Eingabewerten durchführen, was zu einem enormen Rechenaufwand führt. Dies führte noch vor einigen Jahren zu langen Wartezeiten, in denen der Computer arbeitete, da die Geschwindigkeit des Trainings durch die verfügbare Hardware limitiert ist. Doch mit den Fortschritten der vergangenen Jahre in Bezug auf die Hardwarekomponenten, die das KI-Training beschleunigen (die GPUs) konnten diese Wartezeiten einerseits drastisch verkürzt werden. Andererseits kann die eingesparte Zeit wiederum dazu genutzt werden, noch größere und komplexe KI-Modelle in ähnlicher Zeit anzulernen.
Jede Berechnung kostet jedoch Energie in Form von Strom. Je schneller und „mächtiger“ die Chips werden, desto mehr Strom verbrauchen sie für gewöhnlich auch. Besonders unter Volllast sind sie sehr energiehungrig. Eine Nvidia A100 kann je nach Art zwischen 250 und 400 Watt Leistung beziehen. Davon sind bei uns 46 Stück verbaut. Wir sprechen also von ungefähr 14 kW Strom pro Stunde allein für die Grafikkarten. Das ist vergleichbar mit dem Kochen von ca. 1000 Tassen Kaffee (pro Stunde). Hinzu kommen noch CPU, Arbeitsspeicher und Grundlasten der Systeme.
Durch den vergleichsweise hohen Strompreis in Deutschland sind wir somit stets mit hohen laufenden Kosten konfrontiert, die wir wieder einspielen müssen. Wir versuchen dem entgegenzukommen, indem Teilsysteme des Clusters heruntergefahren werden, wenn die benötigten Ressourcen es zulassen. Andere Länder wie etwa die USA haben durch sehr niedrige Energiekosten hier einen deutlichen Vorteil.
Maik Fruhner im Interview gibt es in diesem Video.
Von: Justine Prüne