Multi-Device-Plugin mit der Intel® Neural Compute Stick 2

Dokumentation

Installation und Setup

000055294

06.09.2022

Das OpenVINO™ Toolkit 2019 R2 führt ein Multi-Device-Plugin ein, das inferenz-Anfragen automatisch verfügbaren Geräten zuweisen kann, um die Anforderungen parallel auszuführen.

  1. Erstellen Sie die C++ Proben, indem Sie die build_samples.sh (Linux) oder build_samples_msvc.bat (Windows) im Verzeichnis /inference_engine/samples/ ausführen.
  2. Verwenden Sie hello_query_device Beispielanwendung zur Erkennung verfügbarer Intel® Neural Compute Stick 2 (Intel® NCS 2) Geräte,

    Linux: ./hello_query_device

    Windows: hello_query_device.exe

    Im hello_query_device Beispiel werden die Namen der verfügbaren Geräte und zusätzliche Informationen zum Gerät ausgegeben. Für den Zweck dieses Artikels sind wir nur an dem Gerätenamen interessiert.

    Verfügbare Geräte:

    Gerät: CPU

    ...

    Gerät: MYRIAD.1.1.2-ma2480

    ...

    Gerät: MYRIAD.1.1.4-ma2480

    ...

  3. Verwenden Sie benchmark_app um das Multi-Device-Plugin mit den erkannten Intel® NCS 2 Geräten zu testen und zu konfigurieren. Beachten Sie, dass die Geräte durch ein Komma ohne Leerzeichen getrennt sind.

    Linux: ./benchmark_app -d MULTI:MYRIAD.1.1.2-ma2480,MYRIAD.1.1.4-ma2480

    Windows: benchmark_app.exe-d MULTI:MYRIAD.1.1.2-ma2480,MYRIAD.1.1.4-ma2480

Weitere Informationen zum Multi-Device-Plugin finden Sie in der Dokumentation OpenVINO Toolkit.