Support-Wissensdatenbank

Was ist der Grund für die Schlussfolgerung, dass das FP32-Modellformat auf der CPU schneller ist als das FP16-Modellformat?

Inhaltstyp: Kompatibilität | Artikel-ID: 000093301 | Letzte Überprüfung: 20.11.2023

Beschreibung Lösung

Beschreibung

Abgeleitetes FP32-Modellformat und FP16-Modellformat auf der CPU.
Die Inferenzgeschwindigkeit des FP32-Modellformats war schneller als das FP16-Modellformat.
Der Grund kann nicht ermittelt werden, wenn abgeleitet wird, dass das FP32-Modellformat schneller ist als das FP16-Modellformat auf der CPU.

Lösung

Das Inferenzergebnis variiert je nach unterstütztem Geräte-Plugin und unterstütztem Modellformat.

Zugehörige Produkte

Dieser Artikel bezieht sich auf 3-Produkte.

Software für Intel® Xeon Phi™ Prozessor OpenVINO™ toolkit Performance-Bibliotheken

Disclaimer / Rechtliche Hinweise

Der Inhalt dieser Seite ist eine Kombination aus menschlicher und computerbasierter Übersetzung des originalen, englischsprachigen Inhalts. Dieser Inhalt wird zum besseren Verständnis und nur zur allgemeinen Information bereitgestellt und sollte nicht als vollständig oder fehlerfrei betrachtet werden. Sollte eine Diskrepanz zwischen der englischsprachigen Version dieser Seite und der Übersetzung auftreten, gilt die englische Version. Englische Version dieser Seite anzeigen.

Benötigen Sie weitere Hilfe?

Support kontaktieren