Wo finde ich unterstützte Geräte und Konfigurationen pro OpenVINO™ Toolkit-Plugin

Das OpenVINO™-Toolkit verwendet Plug-Ins für die Inferenz-Engine, um Inferenzen auf verschiedenen Zielgeräten durchzuführen. Ein Zielgerät ist die Hardware, die die Inferenz durchführt.

Auf der Seite "Unterstützte Geräte " werden die unterstützten Hardware- und Modellkonfigurationen für jedes Plug-In angezeigt. So können Sie feststellen, ob Ihr Modell mit dem Zielgerät kompatibel ist. Die unterstützten Konfigurationen werden wie folgt beschrieben:

• Modellformate
• Eingabe- und Ausgabepräzision
• Eingangs- und Ausgangslayout
• Schichten

Die folgenden Links enthalten wichtige Details, die die Funktionsweise der einzelnen Plug-ins beschreiben:

GPU

CPU

NPU (NPU)

Automatisches Gerät

Heterogen