Beim Ausführen OpenVINO™ Image Classification Async C++ Sample mit Intel® Inspector

1. OpenVINO™ ausgeführt Bildklassifizierung Async C++ Beispielmit Intel® Inspector zur Überprüfung des Speicherproblems.

   Verwendeter Befehl:

   $ pwd
   /home/centos/inference_engine_cpp_samples_build/intel64/Release
   
   $ /opt/intel/oneapi/inspector/2021.3.0/bin64/inspxe-cl -c mi3 ./classification_sample_async -m /opt/intel/openvino_2021.3.394/deployment_tools/open_model_zoo/tools/downloader/intel/image-retrieval-0001/FP16-INT8/image-retrieval-0001.xml -i /home/centos/images -nt 8
   
   $ /opt/intel/oneapi/inspector/2021.3.0/bin64/inspxe-cl -report observations

2. Intel® Inspector generierter Bericht mit Einzelheiten zum Speicherproblem.

Die Benchmark-App wurde als Referenz verwendet, um die Inferenzleistung zu maximieren. Es gab einige Codes in Bezug auf Latenzstatistiken in der Benchmark-App.

Das Entfernen der zugehörigen Code-Ausschnitte macht den Speicher stabil

Es wird nicht empfohlen, benchmark_app Anwendung für Stresstests zu verwenden, da sie private std::vector_latencies in InferRequestsQueue Class verwendet, die jeden Latenzwert sammelt und den medianen Wert der Latenz berechnet.