Klassifizierung bis zum 1,21-fachen der Bilder pro Sekunde für ResNet50-Workloads, indem Sie AWS M6i-Instanzen mit skalierbaren Intel® Xeon®-Prozessoren der 3. Generation auswählen.

Bildklassifizierung:

  • Klassifizieren Sie das 1,21-fache der Bilder pro Sekunde auf AWS M6i-Instanzen mit 96 vCPUs mit skalierbaren Intel Xeon-Prozessoren der 3. Generation im Vergleich zu M5n-Instanzen.

  • Klassifizieren Sie das 1,19-fache der Bilder pro Sekunde auf AWS M6i-Instanzen mit 16 vCPUs mit skalierbaren Intel Xeon-Prozessoren der 3. Generation im Vergleich zu M5n-Instanzen.

author-image

Von

M6i-Instanzen beschleunigte Bildklassifizierung gegenüber M5n-Instanzen mit Prozessoren der vorherigen Generation

Das Ausführen von Deep Learning-Workloads in der Cloud kann Unternehmen die Möglichkeit geben, ihre Daten sinnvoll zu nutzen und gleichzeitig die Flexibilität und einfache Skalierbarkeit zu nutzen, die die Cloud bietet. Für diejenigen, die das ResNet50-Framework zum Klassifizieren von Bildern verwenden, hat Principled Technologies die Leistung von zwei Instance-Typen verglichen:

  • AWS M6i-Instanzen mit skalierbaren Intel® Xeon® Prozessoren der 3. Generation
  • AWS M5n-Instanzen mit skalierbaren Intel Xeon-Prozessoren der 2. Generation

Unter Verwendung von int8-Präzision und einer Stapelgröße von 128 beim ResNet50-Benchmark zeigten die Ergebnisse, dass AWS M6i-Instanzen sowohl für kleine als auch für große Instanzen eine bis zu 1,21-fache Rate der Bilder pro Sekunde für die Bildklassifizierung boten. Das bedeutet, dass AWS M6i-Instanzen, wenn Ihre Organisation diese Art von Bildklassifizierungs-Workloads in der Cloud ausführen möchte, die Daten schneller durchführen können, um früher Erkenntnisse zu liefern.

Bei großen Instanzen schneller Erkenntnisse aus Daten gewinnen

Um zunächst zu zeigen, wie Workloads mit höheren Durchsatzanforderungen abschneiden könnten, testete Principled Technologies mit großen Instanzen mit 96 vCPUs. Die aktualisierten AWS M6i-Instances mit skalierbaren Intel® Xeon® Prozessoren der 3. Generation boten einen erheblichen Leistungsvorteil gegenüber den M5n-Instanzen mit Prozessoren der vorherigen Generation und verarbeiteten beim ResNet50-Benchmark das 1,21-fache der Bilder pro Sekunde (siehe Abbildung 1).

Abbildung 1: Die relative Rate der Bilder pro Sekunde für große M6i- und M5n-Instances (96 vCPUs), die die Bildklassifizierung mit dem ResNet50-Benchmark abschließen. Höhere Zahlen sind besser.

Schnellere Auswertung von Daten auf kleinen Instanzen

Wie Abbildung 2 zeigt, boten kleine Instanzen mit 16 vCPUs ähnliche Leistungsunterschiede wie die größeren Instanzen mit 96 vCPUs. Testergebnisse zeigen, dass AWS M6i-Instanzen mit Intel® Xeon®-Prozessoren der 3. Generation das 1,19-fache der Bilder pro Sekunde von M5n-Instanzen mit Prozessoren der vorherigen Generation klassifizierten.

Abbildung 2: Die relative Rate der Bilder pro Sekunde für kleine M6i- und M5n-Instanzen (16 vCPUs), die die Bildklassifizierung mit dem ResNet50-Benchmark abschließen. Höhere Zahlen sind besser.

Fazit

Die Verwendung von Deep Learning-Frameworks für die Bildklassifizierung kann neue Möglichkeiten zur Diagnose von Erkrankungen oder zur Bewertung von Schäden an der städtischen Infrastruktur nach einem Hurrikan bieten. Unabhängig von Ihrem speziellen Anwendungsfall für die Ausführung von ResNet50 zur Klassifizierung von Bildern kann das Durchlaufen von mehr Bildern pro Sekunde zu Erkenntnissen führen. Tests zeigen, dass die Entscheidung für AWS M6i-Instanzen mit skalierbaren Intel Xeon-Prozessoren der 3. Generation gegenüber M5n-Instanzen mit Prozessoren der vorherigen Generation die Bilder-pro-Sekunde-Rate für die Bildklassifizierung um bis zu 1,21x verbessern kann.

Die schnellere Analyse von Bildern hat mehr Auswirkungen, als nur schneller Antworten zu erhalten. Wenn der von Ihnen gewählte Cloud-Instanztyp mehr Bilder schneller verarbeiten kann, kann er die Anzahl der Instanzen reduzieren, die Sie kaufen müssen – was sich auch positiv auf Ihr Endergebnis auswirkt.

Weitere Informationen

Um mit der Ausführung Ihrer Bildklassifizierungs-Workloads auf AWS M6i-Instanzen zu beginnen, besuchen Sie https://aws.amazon.com/ec2/instanz-types/m6i/.

Weitere Informationen zu diesen Testergebnissen von Drittanbietern finden Sie unter https://facts.pt/DNLGDAd.