GPU-Server

Definition

GPU-Server sind Server mit mindestens einer GPU (Graphics ProcessingUnit), die zum Ausführen von rechenintensiven Aufgaben erforderliche Leistungund Geschwindigkeit bieten.  

‍

Technik

Dank der parallelen Architektur einer GPU, die ursprünglich für die Grafik- und Videoverarbeitung entwickelt wurde, kann ein GPU-Server mehrere Aufgaben gleichzeitig mit einer Geschwindigkeit bewältigen, die deutlich dieMöglichkeiten eines CPU-basierten Servers übersteigt.

GPUs sind durchsatzoptimierte und spezialisierte Weiterentwicklungen, als Ergänzung zu CPUs. Anstelle einiger ressourcenintensiver Kerne mit hoher Taktfrequenz zum Durchführen rechenintensiver Aufgaben kommen bei GPUs Tausende von ressourcenschonenden Kernen zum Einsatz, die für die parallele Verarbeitung dieser Prozesse optimiert sind.

‍

‍

Einsatzszenarien für GPU-Server:

• High Performance Computing
• Industrielle Automatisierung
• Konversationelle KI
• Arzneimittelforschung
• Finanzdienstleistungen und Wirtschaft
• KI/Deep Learning Training
• Gesundheitswesen
• Business Intelligence und Analytik
• Klima- und Wettermodellierung    
• Big-Data-Analyse-Pipelines
• 3D-Animationen und Simulationen (z. B. Modellierung der Faltung vonProteinketten)
• Hash-Cracking (z. B. Passwortwiederherstellung)
• Crypto-Mining
• KI-Inferenz und maschinelles Lernen
• Cloud Gaming
• Media/Video Streaming
• Industrielle Automatisierung
• Intelligente medizinische Expertensysteme
• Wissenschaftliche Virtualisierung
• Edge Computing
• Micro Data Center
• Virtualisierung
• Erdöl- und Erdgasförderung
• Forschungsinstitut
• Technologien für autonome Fahrzeuge
• Molekulardynamische Simulation

‍

Verschiedene Bauformen von GPU Server:

Rack-Server mit kleineren bzw. größeren Formfaktoren unterscheiden sich hauptsächlich durch ihre Dichte und Erweiterungsfähigkeit.
‍

1-HE- und 2-HE-GPU-Server

GPU-Server mit kleineren Formfaktoren wurden speziell für eine hohe Performance-Dichte entwickelt. Nachteil ist die leistungsfähig gegenüber Server mit größeren Formfaktoren. Sie werden häufig verwendet, weil sie kostengünstiger sind und wenig Platz im Server-Rack beanspruchen.

Diese Bauform ist wartungsfreundlich, extrem portabel und einfach zuskalieren (die Performance kann durch Einsatz mehrerer Server skaliert werden).

In Servern mit kleinerem Formfaktor werden die GPUs aus Platzgründen in der Regel horizontal verbaut. Zudem ist wenig Platz für PCIe-Steckplätze und Storage vorhanden, wobei hier die Möglichkeit der Erweiterung mittels PCIe-Erweiterungs-Kit oder JBOD-Gehäuse besteht.

‍

4 HE-, 5 HE oder 8 HE-GPU-Rack-Server

Größere GPU-Rack-Server sind auf Workloads ausgelegt, die eine umfangreichere Leistungsfähigkeit erfordern. Sie verfügen über mehr Platz für Storage und zusätzliche Erweiterungssteckplätze, sodass mit zusätzlichen PCIe-Karten die Performance bei der Datenverarbeitung verbessert werden kann. Der zusätzliche Platz ist darüber hinaus auch für eine bessere Luftzirkulationzur Vermeidung einer Überhitzung benötigt.

In Servern mit größerem Formfaktor werden GPUs vertikal installiert, wobei sich der zusätzliche Platz für die Stromanschlüsse an der Oberseite der Karte und nicht an deren Rückseite befindet.

‍

Flüssiggekühlte Universal GPU Systeme

Flüssiggekühlte Systeme für KI-Infrastrukturen mit hoher Dichte sind beigrößeren Anwendungen unumgänglich. Liquid Cooling Systeme ist deutlichen energieeffiizienter als herkömmliche Kühlungen.

‍

Individuelle anpassbare Größe von GPU-Server:

Beim Sizing berücksichtigen wir die gewünschten Produktfunktionen sowie Ihre aktuellen und zukünftigen Geschäftsanforderungen. Die für die jeweilige Anwendung optimale Serverkonfiguration hängt von den Ziel-Workloads, denj eweiligen Anwendungsfällen des Servers und der gewünschten Geschwindigkeit ab.

GPU-Server können für bestimmte Ziel-Workloads wie Video-Rendering,Deep-Learning-Training, Inferenz, Big-Data-Analyse und High-Performance-Computing (HPC) konfiguriert werden.

GPUs verbrauchen viel Strom und erzeugen jede Menge Wärme. Sie sind größer als CPUs und benötigen zusätzlichen Platz für Stromanschlüsse. Das Servergehäuse muss nicht nur groß genug sein, um die gewünschte Anzahl von GPUs aufzunehmen. Zur Vermeidung von Überhitzung, muss die passende Belüftung eingeplant werden.

‍

Vorteile

GPU-Server bieten gegenüber einem CPU-basierten Server deutlich höhere Leistung, mehr Flexibilität und eine bessere Auslastung von CPU-Ressourcen.  

Für skalierbare KI-Infrastruktur sind GPU-Server unumgänglich.

‍

Kontakt

Bei uns bekommen Sie GPU-Server in mehreren Formfaktoren und Konfigurationen. Mit unserem Hersteller Supermicro bieten wir leistungsstarke Computing-Lösungen für eine Vielzahl anspruchsvoller Anwendungen. Unsere Fachexperten stehen für weitere Fragen und Support in jeder Projektphase zur Verfügung.