Artikel-ID: 000059690 Inhaltstyp: Produktinformationen und Dokumente Letzte Überprüfung: 02.03.2023

Was ist das Verhältnis zwischen der Komplexität eines Modells und seinem Inferenzdurchsatz?

Umgebung

NCS2

BUILT IN - ARTICLE INTRO SECOND COMPONENT
Zusammenfassung

Faktoren, die sich auf die vom Benchmark-Tool erhaltenen FPS auswirken können

Beschreibung

Es konnte nicht ermittelt werden, warum das Benchmark-Tool ähnliche Inferenz-FPS für zwei Modelle mit sehr unterschiedlichen Komplexitäten meldet, die durch Giga Floating Point Operations (GFLOPs) definiert werden.

Lösung
  • Eine höhere Anzahl von SSDs ist direkt proportional zu einer reduzierten Anzahl von FPS. Allerdings gibt es keinen fairen Vergleich zwischen den FPS und DEN FPS.
  • Faktoren, die sich auf die vom Benchmark-Tool erhaltenen FPS auswirken können:
    • Ausführung im synchronen und synchronen Modus
    • Anzahl der Streams
    • Anzahl der Inferenzanfragen
Weitere Informationen

Intel® NCS2 basiert auf der Intel® Movidius™ Myriad™ X VPU mit 16 programmierbaren Shave-Kernen und einer dedizierten neuralen Compute-Engine. Diese Funktion steigert die Leistung der Netzwerke.

Zugehörige Produkte

Dieser Artikel bezieht sich auf 2 Produkte

Der Inhalt dieser Seite ist eine Kombination aus menschlicher und computerbasierter Übersetzung des originalen, englischsprachigen Inhalts. Dieser Inhalt wird zum besseren Verständnis und nur zur allgemeinen Information bereitgestellt und sollte nicht als vollständig oder fehlerfrei betrachtet werden. Sollte eine Diskrepanz zwischen der englischsprachigen Version dieser Seite und der Übersetzung auftreten, gilt die englische Version. Englische Version dieser Seite anzeigen.