Fehler: "ncGraphAllocate: 2127 Not Enough Memory to Allocate Intermediate Tensors on Remote Device" (nicht genügend Speicher zur Zuweisung von zwischengeschalteten Tensoren auf einem Remote-Gerät) beim Ausführen von Inferenz auf Intel® Neur...

Beim Versuch, Inferenz auf einem benutzerdefinierten Modell mit dem Intel® NCS2 auszuführen, wird der folgende Fehler angezeigt:

E: [nCAPI] [388407] [object_detectio] ncGraphAllocate:2127 Not enough memory to allocate intermediate tensors on remote device

• Führen Sie nach Möglichkeit eines der vortrainierten Modelle OpenVINO aus , um sicherzustellen, dass keine Speicherprobleme auftreten.
• Versuchen Sie , NUM_STREAMS Option auf 1 zu setzen, da dadurch die erforderliche Speichergröße reduziert wird.

Das Modell kann für den Intel® NCS2 zu groß sein. Während der interne Speicher des Intel® NCS2 etwa 500 MB beträgt, werden 100 MB Speicher für die Zwischenverarbeitung reserviert, was der Speicher ist, der für die Verarbeitung der aktuellen Ebene zugewiesen ist. Ein Modell mit 181 MB übersteigt beispielsweise die Speicherkapazität für die Zwischenverarbeitung.