700.000 Dollar pro Tag:
So teuer soll der Betrieb von ChatGPT sein

Denn eine Offenlegung gibt es bisher noch nicht, doch das Interesse an diesen Informationen ist groß. Das Forschungsunternehmen namens SemiAnalysis hat mit zur Verfügung stehenden Daten nachgerechnet und ist auf eine erstaunliche Summe gekommen: Das Unternehmen schätzt, dass der Betrieb von ChatGPT etwa 700.000 Dollar pro Tag erfordert. Das entspricht in etwa 36 Cent pro Anfrage, die an den Chatbot gerichtet werden. Der größte Teil der fixen Kosten entfällt dabei auf die Hardware-Infrastruktur, die für den Betrieb der KI-Systeme erforderlich ist.


Infografik Künstliche Intelligenz: KI, eine Gefahr für die öffentliche Ordnung?

Interessantes Kostenmodell

"Die Schätzung der ChatGPT-Kosten ist aufgrund mehrerer unbekannter Variablen ein schwieriges Unterfangen. Wir haben ein Kostenmodell erstellt, aus dem hervorgeht, dass der Betrieb von ChatGPT 694.444 Dollar pro Tag an Kosten für die Rechenhardware kostet. OpenAI benötigt ~3.617 HGX A100 Server (28.936 GPUs), um ChatGPT zu betreiben", schreibt SemiAnalysis in einem Blogbeitrag.

Nimmt man diese Schätzung zugrunde, müsste man mit mehr als 255 Millionen Dollar Betriebskosten pro Jahr rechnen, wenn alle Faktoren so blieben, wie sie aktuell sind. Microsoft soll aber bereits daran arbeiten, mit eigener Hardware die Betriebskosten von ChatGPT runterzubekommen. Die Rede ist dabei von neuen Prozessoren, die energieeffizienter arbeiten. Dazu kommt, dass ChatGPT zu den am schnellsten wachsenden Technologien derzeit gehört. Im Januar, also gerade einmal zwei Monate nach ihrem frei zugänglichen Start, waren bereits über 100 Millionen aktive Nutzer gezählten worden.