Wird das Inferenz-INT8-Modell auf einer neuen CPU erwartungsgemäß schneller sein als auf einer alten CPU?
Inhaltstyp: Produktinformationen und Dokumente | Artikel-ID: 000091932 | Letzte Überprüfung: 18.05.2023
Das abgeleitete INT8-Modell auf einer neuen CPU und die Inferenzgeschwindigkeit ist schneller als bei einer alten CPU.
Die langsame Inferenz auf einer alten CPU wird basierend auf der Systemkonfiguration und den Hardwarespezifikationen erwartet.
Die Inferenzleistung in einer bestimmten Hardwarekonfiguration finden Sie in den Intel® Distribution des OpenVINO™ Toolkit Benchmark-Ergebnissen .