Artikel-ID: 000089266 Inhaltstyp: Fehlerbehebung Letzte Überprüfung: 08.09.2022

Inferenzzeit bei Inferenzierung mit zwei Intel® Neural Compute Stick 2 (NCS2s) mit MULTI-Plugin kann nicht beschleunigt werden

BUILT IN - ARTICLE INTRO SECOND COMPONENT
Zusammenfassung

Beste Art, das Modell mit zwei NCS2s mit dem MULTI-Plugin zu inferieren

Beschreibung
  • Inferenziertes benutzerdefiniertes YOLOv4-Modell mit zwei NCS2 mit multi-Plugin, MULTI:MYRIAD.3.1-ma2480,MYRIAD.3.3-ma2480.
  • Die Inferenzzeit beschleunigte sich nicht.
Lösung

Die beste Möglichkeit, ein Multi-Plugin mit mehreren NCS2s zu verwenden, besteht darin, jeden NCS2 zu konfigurieren und das Multi-Device oben zu erstellen .

from openvino.inference_engine import IECore

ie = IECore()

myriad1_config = {}
myriad2_config = {}
ie.set_config(config=myriad1_config, device_name="MYRIAD.3.1-ma2480")
ie.set_config(config=myriad2_config, device_name="MYRIAD.3.3-ma2480")
# Load the network to the multi-device, specifying the priorities
exec_net = ie.load_network(
network=net, device_name="MULTI", config={"MULTI_DEVICE_PRIORITIES": "MYRIAD.3.1-ma2480,MYRIAD.3.3-ma2480"}
)
# Query the optimal number of requests

#Use -nireq 10 to get maximum FPS.
nireq = exec_net.get_metric("OPTIMAL_NUMBER_OF_INFER_REQUESTS")

Zugehörige Produkte

Dieser Artikel bezieht sich auf 2 Produkte

Der Inhalt dieser Seite ist eine Kombination aus menschlicher und computerbasierter Übersetzung des originalen, englischsprachigen Inhalts. Dieser Inhalt wird zum besseren Verständnis und nur zur allgemeinen Information bereitgestellt und sollte nicht als vollständig oder fehlerfrei betrachtet werden. Sollte eine Diskrepanz zwischen der englischsprachigen Version dieser Seite und der Übersetzung auftreten, gilt die englische Version. Englische Version dieser Seite anzeigen.