Installieren Sie das OpenVINO™ Toolkit für Raspbian* OS von einem Docker*-Image

Die Intel Distribution des OpenVINO Toolkit macht es einfach, Ihren Code zu übernehmen und zu pflegen. Die Laufzeit (Inferenz-Engine) ermöglicht es Ihnen, die Leistung zu optimieren, indem Sie das optimierte Netzwerk kompilieren und die Inferenzoperationen auf bestimmten Geräten verwalten.

Diese Anleitung zeigt den Benutzern Schritte zum Erstellen eines Docker*-Images zur Installation des OpenVINO™-Toolkits für Raspbian* OS.

Systemvoraussetzungen

Zielbetriebssystem

• Raspbian* Stretch, 32-Bit
• Raspbian* Buster, 32-Bit

Host-Betriebssysteme

• Raspbian* Stretch, 32-Bit
• Raspbian* Buster, 32-Bit

Hardware

• Raspberry Pi* Board mit ARM* ARMv7-A CPU-Architektur. Überprüfen Sie, ob uname -m armv7l.
  • Raspberry Pi* 3 Modell B+
  • Raspberry Pi* 4 Modell B
• Intel® Neural Compute Stick 2

Software

• Docker für Raspbian*

Erstellen eines Docker*-Images für Intel® Neural Compute Stick 2

Image erstellen

Um ein Docker*-Image zu erstellen, müssen Sie ein Dockerfile erstellen, das die definierten Variablen und Befehle enthält, die zum Erstellen eines OpenVINO™ Toolkit-Installations-Image erforderlich sind.

Erstellen Sie Ihre Dockerdatei, indem Sie das folgende Beispiel als Vorlage verwenden.

1. Erstellen Sie ein Verzeichnis, in dem Sie Ihr Docker*-Image erstellen möchten, oder wechseln Sie zu einem Verzeichnis. Dieses Dokument erstellt ein ~/docker-Verzeichnis .

   mkdir ~/docker && cd ~/docker

2. Laden Sie die Dockerfile-Vorlage (ZIP) aus diesem Handbuch herunter oder erstellen Sie Ihre eigene Dockerfile mit dem Inhalt der folgenden Vorlage.

   vi Dockerfile

   FROM balenalib/raspberrypi3:buster

   ARG DOWNLOAD_LINK=https://github.com/openvinotoolkit/openvino/releases/download/2022.2.0/l_openvino_toolkit_debian9_arm_2022.2.0.7713.af16ea1d79a_x86_64.tgz
ARG INSTALL_DIR=/opt/intel/openvino
ARG BIN_FILE=https://storage.openvinotoolkit.org/repositories/open_model_zoo/2022.1/models_bin/3/person-vehicle-bike-detection-crossroad-0078/FP16/person-vehicle-bike-detection-crossroad-0078.bin
ARG WEIGHTS_FILE=https://storage.openvinotoolkit.org/repositories/open_model_zoo/2022.1/models_bin/3/person-vehicle-bike-detection-crossroad-0078/FP16/person-vehicle-bike-detection-crossroad-0078.xml
ARG IMAGE_FILE=https://cdn.pixabay.com/photo/2018/07/06/00/33/person-3519503_960_720.jpg

   RUN apt-get --allow-unauthenticated upgrade
RUN apt-get update && apt-get install -y --no-install-recommends \
apt-utils \
automake \
cmake \
cpio \
gcc \
g++ \
libatlas-base-dev \
libstdc++6 \
libtool \
libusb-1.0.0-dev \
lsb-release \
make \
python3-pip \
python3-numpy \
python3-scipy \
libgtk-3-0 \
pkg-config \
libavcodec-dev \
libavformat-dev \
libswscale-dev \
sudo \
udev \
unzip \
vim \
git \
wget && \
rm -rf /var/lib/apt/lists/*
RUN mkdir -p $INSTALL_DIR && cd $INSTALL_DIR && \
wget -c $DOWNLOAD_LINK && \
tar xf l_openvino_toolkit_debian9_arm*.tgz --strip 1 -C $INSTALL_DIR
# add USB rules
RUN sudo usermod -a -G users "$(whoami)"
# build Object Detection sample
RUN /bin/bash -c "source $INSTALL_DIR/setupvars.sh && \
cd $INSTALL_DIR/install_dependencies && \
sh install_NCS_udev_rules.sh"
RUN echo "source /opt/intel/openvino/setupvars.sh" >> ~/.bashrc && \
mkdir /root/Downloads && \
cd $INSTALL_DIR/samples/c/ && \
/bin/bash -c "source $INSTALL_DIR/setupvars.sh && \
./build_samples.sh && \
cd $INSTALL_DIR/samples/cpp/ && \
./build_samples.sh && \
wget --no-check-certificate $BIN_FILE -O /root/Downloads/person-vehicle-bike-detection-crossroad-0078.bin && \
wget --no-check-certificate $WEIGHTS_FILE -O /root/Downloads/person-vehicle-bike-detection-crossroad-0078.xml && \
wget --no-check-certificate $IMAGE_FILE -O /root/Downloads/walk.jpg "

   Anmerkung

   Sie müssen den direkten Link zum OpenVINO™ Toolkit-Paket in der Variablen DOWNLOAD_LINK in der obigen Vorlage durch den der neuesten Version ersetzen. Sie können den Link des OpenVINO Toolkit für Raspbian* OS-Pakets (d.h. l_openvino_toolkit_debian9_arm_*_x86_64.tgz) von https://storage.openvinotoolkit.org kopieren. Wählen Sie die neueste verfügbare Version aus, klicken Sie mit der rechten Maustaste auf die URL und klicken Sie auf Linkadresse kopieren.

3. Um ein Docker*-Image für Intel® Movidius™ Neural Compute Stick oder Intel® Neural Compute Stick 2 zu erstellen, führen Sie den folgenden Befehl aus:

   docker build . -t <image_name>

   (for example, docker build . -t openvino-rpi)

Ausführen und Testen eines Docker*-Images

Bekannte Einschränkungen:

• Das Intel® Neural Compute Stick 2 Gerät ändert während der Ausführung seine VendorID und DeviceID und sucht jedes Mal nach einem Hostsystem als brandneues Gerät. Das bedeutet, dass es nicht wie gewohnt montiert werden kann.
• UDEV-Ereignisse werden standardmäßig nicht an den Container weitergeleitet, sodass die erneute Verbindung des Geräts nicht erkannt wird.
• Pro Host wird nur ein Gerät unterstützt.

Benchmark-Anwendung wird ausgeführt

Die Anwendung arbeitet mit Modellen in den Formaten OpenVINO IR (model.xml und model.bin) und ONNX (model.onnx). Stellen Sie sicher, dass Sie Ihre Modelle bei Bedarf konvertieren.

1. Verwenden Sie die folgende Option, um das Image auf einem Intel® Neural Compute Stick 2 auszuführen. Um diesen Container im interaktiven und privilegierten Modus auszuführen, aktivieren Sie die Docker-Netzwerkkonfiguration als Host und mounten Sie dann alle Geräte im Container:

   docker run -it --privileged -v /dev:/dev --network=host <image_name> /bin/bash

   (for example, docker run -it --privileged -v /dev:/dev --network=host openvino-rpi /bin/bash)

2. Verwenden Sie die folgenden Befehle, um die Benchmark-App auszuführen. Wechseln Sie zum Verzeichnis der Build-Beispiele:

   cd /root/inference_engine_._samples_build/armv7l/Release/

3. Führen Sie den Benchmarking mit Standardoptionen aus, verwenden Sie den folgenden Befehl mit Spezifikationen für das Modell und einem Pfad zum Eingabebild:

   ./benchmark_app -m ~/Downloads/person-vehicle-bike-detection-crossroad-0078.xml -i ~/Downloads/walk.jpg -d MYRIAD

Damit ist der Installationsvorgang für das OpenVINO™-Toolkit für Raspbian* aus einem Docker*-Image abgeschlossen.