KFBIO beschleunigt mithilfe von KI die Erkennung von Tuberkulose

KFBIO hat seinen Code optimiert, um die Verbesserungen des skalierbaren Intel® Xeon® Prozessors zu nutzen.

Auf einen Blick:

  • Konfoong Biotech International Co., Ltd. (KFBIO) ist ein im Bio-IT-Bereich tätiges Hightech-Unternehmen, das sich auf die Entwicklung und Herstellung digitaler Pathologiesysteme spezialisiert hat. Das integrierte digitale Pathologiediagnosesystem des Unternehmens integriert Gesundheitsdienstleistungen, Bildungs- und Forschungsleistungen sowie Informationsdienste.

  • KFBIO verfügte über eine effektive DL-Lösung zum Scannen von M. tuberculosis-Proben mithilfe von GPUs. Die Techniker des Unternehmens benötigten jedoch eine höhere Leistung, um das Scannen und die Diagnose schneller durchführen zu können. In Zusammenarbeit mit KI-Ingenieuren von Intel optimierte KFBIO den Code basierend auf PyTorch und dem Detectron2-Modell, um die Verbesserungen der skalierbaren Intel® Xeon® Prozessoren, einschließlich der Intel Deep Learning Boost-Technik, zu nutzen.

author-image

Von

Der Weltgesundheitsorganisation (WHO) zufolge ist Tuberkulose (TB) eine der zehn häufigsten Todesursachen und die häufigste Todesursache bei einem einzelnen Infektionserreger (vor HIV/AIDS). Eines der Ziele der WHO für nachhaltige Entwicklung ist die Beendigung der TB-Epidemie bis 2030. Zwischen 2000 und 2018 wurden durch die Diagnose und Behandlung von Tuberkulose rund 58 Millionen Menschenleben gerettet.1 Daher bleibt eine schnelle und genaue Erkennung von entscheidender Bedeutung, um die Zahl der jährlichen Fälle weiter zu verringern.

Die Sputumabstrichmikroskopie (SSM) war aufgrund ihrer Einfachheit und der damit verbundenen geringen Kosten die primäre Methode zur Diagnose von Tuberkulose. Das manuelle Ablesen gefärbter Objektträger ist jedoch zeitaufwändig und setzt Ärzte einem potenziellen Infektionsrisiko aus. KFBIO verwendet seine Pathologie-Scansysteme, um SSM-Objektträger als hochauflösende Bilder zu digitalisieren und anschließend DL-Algorithmen (Deep Learning) anzuwenden, um die Diagnose einer M. tb-Infektion zu unterstützen.

DL-basiertes Screening unterstützt die Diagnose von M. tuberculosis

Ningbo Konfoong Bioinformation Co., Ltd. (KFBIO) entwickelt Pathologielösungen. Dazu gehören Probenverarbeitungsgeräte, digitale Pathologie-Scansysteme, Pathologie-Informationssysteme sowie DL-Algorithmen und -Modelle zur Erkennung und Klassifizierung von präkanzerösen Veränderungen und Anomalien. Die Fähigkeit von KFBIO, traditionelle pathologische Schnitte in digitale Bilder zu scannen, gibt Wissenschaftlern die Möglichkeit, DL-Techniken zur Unterstützung der medizinischen Diagnose anzuwenden. KFBIO hat eine Reihe von KI- und DL-gestützten Pathologielösungen entwickelt, einschließlich Lösungen zur Erkennung von Gebärmutterhalskrebs und M. tuberculosis.

Die digitale Bildgebung ermöglicht die kollaborative Speicherung, Nutzung und Analyse medizinischer Daten über ein Netzwerk. Die digitale Pathologie mithilfe von KI wirkt den Engpässen bei den medizinischen Ressourcen entgegen und bietet Menschen in abgelegenen und ländlichen Gebieten bessere Möglichkeiten, eine Diagnose zu erhalten.

Die in diesem Artikel demonstrierte Leistung unterstreicht das Potenzial von KI-gestützten M. tuberculosis-Screenings und Diagnosen, das aus der Zusammenarbeit zwischen KFBIO und Intel hervorgeht.

Intel AI beschleunigt automatisiertes Screening um das 8,40-Fache

2
KFBIO verfügte über eine effektive DL-Lösung zum Scannen von M. tuberculosis-Proben mithilfe von GPUs. Die Techniker des Unternehmens benötigten jedoch eine höhere Leistung, um das Scannen und die Diagnose schneller durchführen zu können. In Zusammenarbeit mit KI-Engineers von Intel optimierte KFBIO den Code basierend auf PyTorch und dem Detectron2-Modell, um die Architekturverbesserungen der skalierbaren Intel® Xeon® Prozessoren, einschließlich Intel Deep Learning Boost-Technik (Intel DL Boost) und der umfassenden Speicherkapazität des Prozessors, zu nutzen.

Die skalierbaren Intel Xeon Prozessoren der 2. Generation (ehemals Cascade Lake) enthalten die neue Intel DL Boost-Technik zur Beschleunigung der Inferenzleistung. Die Intel Math Kernel Library for Deep Neural Networks (Intel MKL-DNN) wurde um schnelle Rechenfunktionen erweitert, um die Hardware-Fortschritte des Prozessors zu nutzen. Die Intel MKL-DNN-Optimierungen werden abstrahiert und direkt in das PyTorch-Framework integriert,3 sodass Endbenutzer diese Technik ohne spezielle Codemodifikationen nutzen können. Die neueste offizielle Version von PyTorch integriert Intel MKL-DNN standardmäßig. Somit können Benutzer ohne zusätzliche Installationsschritte Leistungsvorteile auf Plattformen mit skalierbaren Intel Xeon Prozessoren der 2. Generation erzielen.

Darüber hinaus unterstützen die skalierbaren Intel Xeon Prozessoren der 2. Generation viele Terabyte Arbeitsspeicher und ermöglichen einen schnellen Zugriff auf große Datenmengen. Digitale Pathologiebilder sind gewöhnlich von großem Datenumfang, was die GPU-Speicherkapazität belasten kann. Bei größerer Arbeitsspeicherkapazität kann die Scanlösung mehrere Inferenzinstanzen gleichzeitig in derselben Konfiguration ausführen.

Die Optimierung des M. tuberculosis-Scanalgorithmus von KFBIO war unkompliziert, da anstelle der vorherigen Version von PyTorch 1.4 einfach die für die Intel Architektur optimierte Version von PyTorch 1.6 verwendet wurde. Weitere Verbesserungen bestanden aus der Profilierung des Detectron2-Modells und der Optimierung einiger weniger Arbeitsabläufe.

Benchmark-Tests auf Intel® Xeon® Gold 6252 Prozessoren ergaben eine verbesserte Inferenzleistung im Vergleich zu einem Basismodell ohne Optimierungen auf demselben Prozessor.

Zwei optimierte Benchmarks ergaben eine um das 2,17-Fache gesteigerte Leistung für eine Einzelinstanz und eine um das 11,4-Fache gesteigerte Leistung für 24 Instanzen (siehe Tabelle oben).2 Die Lösung profitierte von einer großen Arbeitsspeicherkapazität bei der Ausführung von 24 Instanzen.

Eine Bereitstellung für Kunden

Vor kurzem hat KFBIO seine DL-gestützte TB-Screening-Lösung im Shanghai Public Health Clinical Center in China erfolgreich in einer integrierten Workstation eingesetzt, die auf skalierbaren Intel Xeon Prozessoren der 2. Generation ausgeführt wird. Das Zentrum wird die Lösung zur beschleunigten Bearbeitung von Tuberkulose-Diagnosefällen einsetzen. Die Lösung integriert den digitalen Pathologiescanner von KFBIO und KI-Software, um End-to-End-Funktionalität bereitzustellen: Digitalisierung von Objektträgern, Durchführung von KI-Inferenzen zur Erkennung von Tuberkulose, Visualisierung von Ergebnissen und Erstellung von Diagnoseberichten. Laut Kundenbewertung liefert das System eine durchschnittliche Erkennungsgenauigkeit von 86,8 Prozent und eine Klassifizierungsgenauigkeit von 88,9 Prozent.4 Die gesamte Workflow-Pipeline kann für eine Einzelfalldiagnose von der Eingabe der Probe bis zur Ausgabe des Berichts in weniger als 80 Sekunden durchgeführt werden.4 Der Kunde ist mit der Leistung zufrieden und erwartet eine weitere Verkürzung des Prozesses auf 60 Sekunden.

Fazit

Durch die Beschleunigung des maschinellen Screenings von Proben mithilfe von KI-Technologien kann die Anzahl der getesteten Proben erhöht werden, und Ärzte können möglicherweise schneller auf Bedenken der Patienten aufmerksam gemacht werden als mit manuellen Methoden allein. Durch die Verwendung von PyTorch 1.6 mit integrierter Intel MKL-DNN-Bibliothek konnte das Detectron2-Modell von KFBIO die Vorteile von Intel DL-Boost in skalierbaren Intel Xeon Prozessoren der 2. Generation nutzen. Da die Prozessorarchitektur einen großen Arbeitsspeicher unterstützt, konnten mehrere Inferenzinstanzen gleichzeitig direkt vom Arbeitsspeicher aus ausgeführt werden. Mit dem für Intel DL-Boost optimierten PyTorch und großen Arbeitsspeicher konnte das Detectron2-Modell mit einer um das 11,4-Fache schnelleren Geschwindigkeit ausgeführt werden als das Basismodell.5

Produkt- und Leistungsinformationen

2KFBIO M. tuberculosis-Screening Detectron2 Modell Durchsatzleistung auf Intel® Xeon® Gold 6252 Prozessor der 2. Generation: NEU: Test 1 (Einzelinstanz mit PyTorch 1.6: Von Intel am 22. Mai 2020 getestet. Intel® Xeon® Gold 6252 Prozessor der 2. Generation mit 2 Sockeln, 24 Kerne, HT Ein, Turbo AUS, Gesamtspeicher 192 GB (12 Steckplätze/16 GB/2666 MHz), BIOS: SSE5C620.86B.02.01.0008.031920191559 (ucode: 0x500002c), Ubuntu 18.04.4 LTS, Kernel 5.3.0-51-generic, mitigated. Test 2 (24 Instanzen mit PyTorch 1.6: Von Intel am 22. Mai 2020 getestet. Intel Xeon® Gold 6252 Prozessor der 2. Generation mit 2 Sockeln, 24 Kerne, HT Ein, Turbo AUS, Gesamtspeicher 192 GB (12 Steckplätze/16 GB/2666 MHz), BIOS: SSE5C620.86B.02.01.0008.031920191559 (ucode: 0x500002c), Ubuntu 18.04.4 LTS, Kernel 5.3.0-51-generic, mitigated. BASISMODELL: (Einzelinstanz mit PyTorch 1.4): Von Intel am 22. Mai 2020 getestet. Intel Xeon® Gold 6252 Prozessor der 2. Generation mit 2 Sockeln, 24 Kerne, HT Ein, Turbo AUS, Gesamtspeicher 192 GB (12 Steckplätze/16 GB/2666 MHz), BIOS: SSE5C620.86B.02.01.0008.031920191559 (ucode: 0x500002c), Ubuntu 18.04.4 LTS, Kernel 5.3.0-51-generic, mitigated.
3Für weitere Informationen zu den jüngsten Performance-Beschleunigungen siehe den Artikel „Intel and Facebook collaborate to Boost PyTorch CPU Performance“.
4Von Shanghai Public Health Clinical Center und KFBIO getestet. Intel hat keinen Einfluss auf und keine Aufsicht über die Daten Dritter. Sie sollten andere Quellen heranziehen, um die Genauigkeit zu beurteilen.
5KFBIO M. tuberculosis-Screening Detectron2 Modell Durchsatzleistung auf dem Intel® Xeon® Gold 6252 Prozessor der 2. Generation: NEU: Test 1 (Einzelinstanz mit PyTorch 1.6: Von Intel am 22. Mai 2020 getestet. Intel® Xeon® Gold 6252 Prozessor der 2. Generation mit 2 Sockeln, 24 Kerne, HT Ein, Turbo AUS, Gesamtspeicher 192 GB (12 Steckplätze/16 GB/2666 MHz), BIOS: SSE5C620.86B.02.01.0008.031920191559 (ucode: 0x500002c), Ubuntu 18.04.4 LTS, Kernel 5.3.0-51-generic, mitigated. Test 2 (24 Instanzen mit PyTorch 1.6: Von Intel am 22. Mai 2020 getestet. Intel Xeon® Gold 6252 Prozessor der 2. Generation mit 2 Sockeln, 24 Kerne, HT Ein, Turbo AUS, Gesamtspeicher 192 GB (12 Steckplätze/16 GB/2666 MHz), BIOS: SSE5C620.86B.02.01.0008.031920191559 (ucode: 0x500002c), Ubuntu 18.04.4 LTS, Kernel 5.3.0-51-generic, mitigated. BASISMODELL: (Einzelinstanz mit PyTorch 1.4): Von Intel am 22. Mai 2020 getestet. Intel Xeon® Gold 6252 Prozessor der 2. Generation mit 2 Sockeln, 24 Kerne, HT Ein, Turbo AUS, Gesamtspeicher 192 GB (12 Steckplätze/16 GB/2666 MHz), BIOS: SSE5C620.86B.02.01.0008.031920191559 (ucode: 0x500002c), Ubuntu 18.04.4 LTS, Kernel 5.3.0-51-generic, mitigated.