AKHET K.I

Betrachtet man die Hardware und Anforderungen zur Datenbewältigung von KI-Anwendungen, wie Inferenzen oder Deep-Learning (im sogenannten Data Center), stellt man fest, dass jede Kernkomponente der Rechner bestimmte Leistungswerte nicht unterschreiten darf. Empfohlen werden beispielsweise von NVIDIA Ein- oder Mehrsockel-CPUs auf Basis der Intel^® Xeon^® oder AMD EPYC™ Prozessoren. Für das Management von I/O und anderen Workloads wird hier eine Untergrenze von 6 CPU-Cores gezogen. Über alle CPU-Sockel und Speicherkanäle verteilter RAM bringt hier optimale Leistung, wenn die Menge mindestens 1,5-fach größer ist als der eingesetzte GPU Framebuffer-Speicher. Für jede GPU wird mindestens ein PCIe-Slot x16 benötigt, mindestens mit der Bandbreite der Generation 3.0. Für die Vernetzung von KI-Systemen, für die Verarbeitung der großen Datenmengen oder für HPC- Aufgaben sind Netzwerk-Adapter erforderlich, die einerseits Bandbreiten bis zu 200 Gb/s Ethernet bieten, und andererseits den Overhead der CPU dabei auf Null reduzieren. Als Storage sind hierbei NVMe-basierte “Laufwerke” einzusetzen. Eines pro CPU Sockel, damit die optimale Anwendungsleistung abgerufen werden kann.