Zusammenfassung
Verwenden Sie das Post-Training Optimization Tool (POT), um die Inferenz von Deep-Learning-Modellen zu beschleunigen.
Beschreibung
- Trainierte ein YOLOv4-Modell mit nicht quadratischen Bildern mit PyTorch.
- Konvertierte die Gewichte in DIE ONNX-Datei und dann in Intermediate Representation (IR).
- Es konnte nicht ermittelt werden, wie eine bessere Inferenzleistung erzielt werden kann.
Lösung
Das Post-Training Optimization Tool (POT) wurde entwickelt, um die Inferenz von Deep-Learning-Modellen durch Anwendung spezieller Methoden ohne Modell-Umschulung oder Feinabstimmung zu beschleunigen.
- Wenden Sie Nachschulungsalgorithmen aus dem POT an.
- Weitere Informationen finden Sie unter Befehlszeilenschnittstelle des Tools zur Optimierung nach dem Training.
Weitere Informationen
Weitere Informationen zur Implementierung von nicht quadratischen, trainierten Bildern auf dem YOLO-Modell finden Sie unter Training on non-square images and Die Inferenz von "Platz in YOLO".