X

700.000 Dollar pro Tag:
So teuer soll der Betrieb von ChatGPT sein

Schon Anfang des Jahres diskutierten Experten, dass der Stromverbrauch von Diensten auf Basis von Künstlicher Intelligenz wie ChatGPT immens hoch sind und Unternehmen das transparent darstellen sollten. Nun gibt es Hochrechnungen, was der Betrieb in etwa kosten mag.
23.04.2023  09:00 Uhr
Denn eine Offenlegung gibt es bisher noch nicht, doch das Interesse an diesen Informationen ist groß. Das Forschungsunternehmen namens SemiAnalysis hat mit zur Verfügung stehenden Daten nachgerechnet und ist auf eine erstaunliche Summe gekommen: Das Unternehmen schätzt, dass der Betrieb von ChatGPT etwa 700.000 Dollar pro Tag erfordert. Das entspricht in etwa 36 Cent pro Anfrage, die an den Chatbot gerichtet werden. Der größte Teil der fixen Kosten entfällt dabei auf die Hardware-Infrastruktur, die für den Betrieb der KI-Systeme erforderlich ist.

Künstliche Intelligenz: KI, eine Gefahr für die öffentliche Ordnung?
Infografik Künstliche Intelligenz: KI, eine Gefahr für die öffentliche Ordnung?

Interessantes Kostenmodell

"Die Schätzung der ChatGPT-Kosten ist aufgrund mehrerer unbekannter Variablen ein schwieriges Unterfangen. Wir haben ein Kostenmodell erstellt, aus dem hervorgeht, dass der Betrieb von ChatGPT 694.444 Dollar pro Tag an Kosten für die Rechenhardware kostet. OpenAI benötigt ~3.617 HGX A100 Server (28.936 GPUs), um ChatGPT zu betreiben", schreibt SemiAnalysis in einem Blogbeitrag.

Nimmt man diese Schätzung zugrunde, müsste man mit mehr als 255 Millionen Dollar Betriebskosten pro Jahr rechnen, wenn alle Faktoren so blieben, wie sie aktuell sind. Microsoft soll aber bereits daran arbeiten, mit eigener Hardware die Betriebskosten von ChatGPT runterzubekommen. Die Rede ist dabei von neuen Prozessoren, die energieeffizienter arbeiten. Dazu kommt, dass ChatGPT zu den am schnellsten wachsenden Technologien derzeit gehört. Im Januar, also gerade einmal zwei Monate nach ihrem frei zugänglichen Start, waren bereits über 100 Millionen aktive Nutzer gezählten worden.

Zusammenfassung
  • Experten diskutierten schon Anfang Jahr über hohen Stromverbrauch von KI-Diensten wie ChatGPT.
  • SemiAnalysis schätzte Kosten für Betrieb von ChatGPT auf 700.000 $ pro Tag.
  • Der größte Teil der Kosten entfällt auf Hardware-Infrastruktur.
  • Microsoft arbeitet an energieeffizienterer Hardware für ChatGPT.
  • ChatGPT gehört zu den am schnellsten wachsenden Technologien.
  • Im Januar waren schon über 100 Mio. aktive Nutzer gezählt.
  • Kosten pro Jahr: 255 Mio. Dollar.
Verwandte Themen
OpenAI
☀ Tag- / 🌙 Nacht-Modus
Desktop-Version anzeigen
Impressum
Datenschutz
Cookies
© 2024 WinFuture