Solution Performance

Neusoft is one of the largest software solution & service providers in China. CareVault is a Smart Medical Cloud Platform, providing AI tools to assist medical and scientific research. One of the major applications of CareVault is Down's Syndrome medical image classification. The application is based on Intel® Optimization for Caffe* and customized Alexnet to predict Down's Syndrome, and the medical image inference processing runs offline.

Visit Neusoft.com ›

Challenges

Image recognition and classification applications are often compute-bound. This negatively impacts deep learning inference throughput, thereby resulting in less than optimal user experiences.

Solution

For medical imaging, a customized Alexnet model was optimized on Intel® Optimization for Caffe*. Compared to FP32, Intel® Deep Learning Boost (Intel DL Boost) (delivered by Vector Neural Network Instructions (VNNI)/INT8) optimizations helped increase deep learning inference throughput by 2.02X (see chart)1 2 3, while meeting Neusoft’s accuracy requirements.

Value

Significantly improved deep learning inference throughput, while meeting accuracy requirements, thus delivering better user experience.

Produkt- und Leistungsinformationen

1

Die Leistungsergebnisse beruhen auf Tests vom 20.12.2018 von Intel and Neusoft und spiegeln möglicherweise nicht alle öffentlich verfügbaren Sicherheitsupdates wider. Kein Produkt und keine Komponente bieten absolute Sicherheit.

2

Neusoft Medical Image Classification* (selbstdefinierter Workload); Betriebssystem: Red Hat Enterprise Linux* 7.5 Kernel 4.19.3-1.el7.elrepo.x86_64. Tests von Intel und Neusoft am 20.12.2018 abgeschlossen. Sicherheitsrisikominderung für Varianten 1, 2, 3 und L1TF vorhanden.

KONFIGURATION DES TESTSYSTEMS: Intel® Xeon® Platinum Prozessor 8260L der 2. Generation, 2,3 GHz, 24 Kerne, Turbo und HT ein, BIOS 1.0180, insgesamt 768 GB Arbeitsspeicher, 12 Steckplätze/64 GB/2666 MT/s/DDR4 LRDIMM, 1 x 480 GB/Intel® SSD Rechenzentrums-SSD (Intel® SSD DC) S4500/Intel® Optimierungen für Caffe*

3

In Leistungstests verwendete Software und Workloads können speziell für die Leistungseigenschaften von Intel® Mikroprozessoren optimiert worden sein. Leistungstests wie SYSmark* und MobileMark* werden mit spezifischen Computersystemen, Komponenten, Softwareprogrammen, Operationen und Funktionen durchgeführt. Jede Veränderung bei einem dieser Faktoren kann abweichende Ergebnisse zur Folge haben. Als Unterstützung für eine umfassende Bewertung Ihrer vorgesehenen Anschaffung, auch im Hinblick auf die Leistung des betreffenden Produkts in Verbindung mit anderen Produkten, sollten Sie noch andere Informationen und Leistungstests heranziehen. Weitere Informationen siehe www.intel.de/benchmarks.