Dieser Chatbot verbraucht am meisten Strom von allen

09.08.2023

Das Training von KI-Modellen ist sehr energieintensiv. Wie viel Strom es genau verschlingt, zeigt nun eine Studie.

Dieser Artikel ist älter als ein Jahr!

Mit dem Aufkommen von künstlicher Intelligenz (KI) rückt zunehmend der Energieverbrauch der Technologie in den Fokus. Die Datenzentren, die die Modelle trainieren und für die Nutzer*innen am Laufen halten, brauchen viel Strom.

Wie viel Strom das Training genau verschlingt, hat der texanische Rechenzentrumsbetreiber TRG Datacenters berechnet.

Platz 1: Bing

Der größte Energiefresser der Studie ist der Bing-Chatbot von Microsoft. Jener basiert auf GPT-4 vom ChatGPT-Macher OpenAI. GPT-4 hat 5,8 Mal mehr Parameter als GPT-3 und musste 5 bis 6 Monate lang trainiert werden. Als Hardware kamen dabei GPUs vom Typ Nvidia V100 zum Einsatz, wie Nvidia vor einiger Zeit selbst berichtete.

Der Energieverbrauch für das Training mit diesen Chips soll dabei laut dem Rechenzentrumsbetreiber bei 7.200 Megawattstunden liegen. Zum Vergleich: Ein Haushalt in Österreich verbraucht pro Jahr im Schnitt etwas mehr als 4 Megawattstunden Strom.

Platz 2: ChatGPT mit GPT-3

TRG Datacenters geht davon aus, dass GPT-4 mit dergleichen Hardware wie GPT-3 trainiert wurde. Aufgrund des Umstandes, dass das alte Modell weniger Parameter hat, dauerte das Training entsprechend kürzer. Den Berechnungen zufolge etwa 26 Tage. Daraus ergibt sich ein geringerer Energieverbrauch. ChatGPT mit GPT-3 soll 1.248 Megawattstunden verbraucht haben, wie es heißt.

Der Energieverbrauch lässt auch auf alle anderen Bots umlegen, die mit GPT-3 trainiert wurden, darunter etwa Jasper und YouChat.

➤ Mehr lesen: 10 Tipps: Was bringt mir ChatGPT im Alltag?

Platz 3: Google Bard

Google nutzt zum Trainieren von Bard hauseigene Chips. Die Tensor Processing Unit ist mittlerweile in der 4. Generation verfügbar (TPUv4) und soll besonders energiesparend sein. Laut TRG ist er doppelt so schnell, aber nur halb so energiehungrig wie Nvidias V100.

Die Anzahl der Parameter entspricht in etwa GPT-3. Das Training damit soll aber nur 13 Tage gedauert haben. Die kürzere Zeit in Verbindung mit dem geringeren Verbrauch kommt auf eine Gesamtzahl von 312 Megawattstunden.