Multi-Kamera Multi-Target Python* Demo in OpenVINO™ ist langsam, wenn viele Tracks verwendet werden

1. Die _compute_mct_distance_matrixfunction in der Multi-Camera Multi-Target Python Demo überprüft den Cosine-Abstand zwischen jeder und jeder Schiene über mehrere Kameras hinweg.
2. Eine große Anzahl von Schienen würde Stunden bis Tage kosten, um die Schienen zu überprüfen.

Option 1: Validieren Sie das Modell, indem Sie die Modellleistung auf nicht sichtbare Daten in PyTorch evaluieren.

• Verwenden Sie die Funktion:
  with torch.no_grad():
  for i,data in enumerate(X_test):
  y_val = model.forward(data) #this function is to grab prediction

• Die with torch.no_grad() -Funktion wirkt sich auf die Engine mit automatischem Farbverlauf aus und führt im Wesentlichen dazu. Das Programm wird die Zurücksetzung nicht hervorheben, da es nur um die Bewertung des Modells geht, daher gibt es keine Anforderung, Gewicht oder Vorurteile zu ändern usw. Daher hilft es, die Speichernutzung zu reduzieren und die Berechnung zu beschleunigen. Dies gilt jedoch nur für den Testdatensatz, aber nicht für den Schulungsdatensatz.

Option 2: Beschleunigen Sie die Inferenz von Deep-Learning-Modellen mithilfe der Post-Training Optimization (POT).

• POT verwendet Low Precision Optimization, was dazu beiträgt, die Inferenzzeit zu reduzieren. POT erfordert keinen Schulungsdatensatz oder eine Pipeline, da POT ohne Modell-Umschulung oder Feinabstimmung angewendet werden kann.
• Weitere Informationen zur schrittweisen Implementierung finden Sie unter Command-Line Interface für das Tool zur Optimierung nach dem Training.