Generative KI-Inferenzoperationen mit Cisco UCS / 5. Generation und 4. Generation Intel Xeon Prozessoren

Beschreibung

Cisco UCS mit Prozessoren der 5. Generation Intel® Xeon® und Cisco Nexus ist eine skalierbare Grundlage für die Bereitstellung von generativer KI in großem Maßstab. Diese Architektur bietet:

• Optimale Leistung: Cisco UCS mit Intel Xeon skalierbaren Prozessoren, spezialisierten KI-Beschleunigern und optimierten Software-Frameworks verbessert die Inferenzleistung und Skalierbarkeit erheblich.
• Ausgewogene Architektur: Cisco UCS zeichnet sich sowohl durch Deep-Learning- als auch durch Nicht-Deep-Learning-Computing aus, was für die gesamte Inferenzpipeline von entscheidender Bedeutung ist. Dieser ausgewogene Ansatz führt zu einer besseren Gesamtleistung und Ressourcennutzung.
• Skalierbarkeit nach Bedarf: Cisco UCS skaliert nahtlos mit Ihren Anforderungen an generative KI-Inferenzen. Mit Cisco Intersight können Sie Server hinzufügen oder entfernen, Speicherkapazitäten anpassen und Ressourcen automatisch konfigurieren, wenn sich Ihre Modelle weiterentwickeln und Workloads wachsen.

Sie haben die Möglichkeit, Inferenzierung im Rechenzentrum oder am Edge auszuführen, wobei entweder ein modularer oder ein Rack-Formfaktor verwendet wird.