Nvidia: Konzern stellt neuen Supercomputer DGX GH200 vor

Der Hochleistungsrechner hört auf den Namen DGX GH200 und verfügt über 256 Grace Hopper-Chips. Jeder Chip ist mit 72 CPU-Kernen, einer Hopper-GPU, 96 Gigabyte HBM3-Speicher sowie 512 Gigabyte LPDDR5X ausgestattet. Sowohl die CPU als auch die GPU können mit einer ein Terabyte pro Sekunde schnellen Verbindung auf andere Chips und den Speicher zugreifen. Die große Speichermenge soll vor allem bei KI-Systemen von Nutzen sein, da die Modelle nicht mehr in kleinere Teile zerlegt werden müssen.

KI-Modelle werden schneller trainiert

Insgesamt hat der Großrechner Zugriff auf 144 Terabyte an Grafikspeicher. Die Module sind mithilfe von 36 NVLink-Switches miteinander verbunden. Natürlich ist der Supercomputer nicht für normale Unternehmen, sondern für die gigantischen Datenzentren von Internet-Giganten wie Microsoft oder Google konzipiert. Die Rechenleistung liegt bei einem Exaflop, sodass die Dauer des Trainings komplexer neuronaler Netze von Monaten auf Wochen reduziert werden kann.

Das gesamte System ist mit einem Gewicht von etwa 20 Tonnen nicht gerade leicht. Im Inneren sollen sich rund 240 Kilometer an Glasfaser-Kabeln finden lassen. Insgesamt besitzt der Supercomputer einen bisektionalen Durchsatz von 128 Terabyte pro Sekunde. Der Nvidia DGX GH200 soll im Laufe des Jahres zur Verfügung stehen.