Was sind die Unterschiede zwischen der Ausführung von OpenVINO™ mit dem IR-Modellformat und dem Quellformat?

Es konnten keine Informationen zu den Unterschieden zwischen dem Ausführen von OpenVINO™ mit IR-Modellformat und direkt aus dem Quellformat (ONNX*, Pytorch*) gefunden werden.

• Die Durchführung OpenVINO™ Inferenz mit dem IR-Modellformat bietet die bestmöglichen Ergebnisse, da das Modell bereits konvertiert ist. Dieses Format bietet eine geringere Latenz bei der ersten Inferenz und Optionen für Modelloptimierungen. Dieses Format ist am besten für OpenVINO™ Inferenz optimiert.

• Wenn die Inferenz direkt aus dem Quellformat ausgeführt wird, erfolgt die Modellkonvertierung automatisch und wird von OpenVINO™ verarbeitet. Diese Methode ist praktisch, bietet aber möglicherweise nicht die beste Leistung oder Stabilität. Es bietet auch keine Optimierungsoptionen.

Weitere Informationen zu den unterstützten OpenVINO™ Modellformaten finden Sie auf der Seite Modellvorbereitung.