Tencent Cloud: Bereitstellung effizienter Cloud-Dienste

Intel® Technik trägt dazu bei, umfassendere und ausgewogenere IT-Infrastrukturkapazitäten zu schaffen.

Auf einen Blick:

  • Tencent Cloud, ein führendes Unternehmen in Chinas Cloud-Service-Industrie, sieht Innovation als seine Mission an und hat sich verpflichtet, den Benutzern dieser Cloud-Dienste mehr Flexibilität, Effizienz, Zuverlässigkeit und Vielfalt zu bieten.

  • Intel hat hochmoderne Hardware-Produkte und -Techniken für Rechenleistung, Speicherung und Netzwerk zur Verfügung gestellt, um das Ziel von Tencent Cloud zu unterstützen, seine Anwendungs- und Technik-Frameworks durch Aktualisierung, Erweiterung und Optimierung seiner Cloud-Dienste weiter zu optimieren.

author-image

Nach mehr als 10 Jahren rasanter Entwicklung sind Cloud-Dienste für viele Organisationen zum Eckpfeiler ihrer Arbeit mit Daten und bei der Unterstützung der Geschäftsentwicklung geworden. Gleichzeitig sind auch die Arten von Dienstleistungen, die sie abdecken, und die Verbesserung ihrer Dienstleistungsfähigkeiten umfassender und tiefgreifender geworden. Vor allem wenn innovative Anwendungen wie Cloud-basierte künstliche Intelligenz (KI) und die Analyse großer Datenmengen immer ausgereifter werden, ist eine neue Generation von verschiedenen Cloud-Diensten, repräsentiert durch Database as a Service (DBaaS) oder Data Analysis as a Service (DaaS) und Artificial Intelligence as a Service (AIaaS), für Unternehmen zu einem Wegbereiter für die Umsetzung der digitalen Transformation geworden. Tencent Cloud, ein führendes Unternehmen in Chinas Cloud-Service-Industrie, sieht Innovation als seine Mission an und hat sich verpflichtet, den Benutzern dieser Cloud-Dienste mehr Flexibilität, Effizienz, Zuverlässigkeit und Vielfalt zu bieten.

Solche hocheffektiven Cloud-Dienste sind untrennbar mit einer starken IT-Infrastruktur verbunden. Als langjähriger Innovationspartner von Tencent Cloud hat Intel modernste Hardwareprodukte und Techniken für Berechnungen, Speicherung und Netzwerk bereitgestellt, in der Hoffnung, dass die Bereitstellung umfassenderer Datenberechnungen, stärkerer Datenspeicherung und schnellerer Datenübertragung Tencent Cloud dabei helfen kann, seine Rahmenbedingungen in puncto Anwendung und Technik weiter zu optimieren und seine Cloud-Dienste aufzurüsten, zu erweitern und zu optimieren.

Tencent Cloud hat es sich zur Aufgabe gemacht, den Benutzern seiner branchenführenden Hardware-Architektur eine bessere Service-Erfahrung zu bieten. Durch die intensive Zusammenarbeit mit Intel, insbesondere seit der Einführung der skalierbaren Intel® Xeon® Prozessoren der 2. Generation und des persistenten Intel® Optane™ Speichers, ist Tencent Cloud in der Lage, bei Innovationen wie KI-basierten Cloud-Diensten und Datenbank-Cloud-Diensten kontinuierlich die Vorreiterrolle zu übernehmen und den Benutzern vielfältigere, differenziertere und effizientere Cloud-Dienste anzubieten.“

– Ying Liu, Vice President, Tencent Cloud

Mit dieser Partnerschaft stellte Tencent Cloud zum ersten Mal die Kernprodukte und -techniken auf der skalierbaren Intel® Xeon® Plattform der nächsten Generation vor, darunter die von Tencent angepassten skalierbaren Intel® Xeon® Prozessoren der 2. Generation mit Intel® Deep Learning Boost (Intel® DL Boost) und persistentem Intel® Optane™ Speicher. Die Kombination dieser Techniken ermöglicht es Tencent Clouds innovativen Cloud-Diensten, wie z. B. der KI-basierten intelligenten Videoanalyse, nicht nur, signifikante Effizienzsteigerungen zu erzielen, sondern auch den Benutzern kostengünstigere Cloud-Datenbankdienste für Redis zur Verfügung zu stellen.

Als einer der größten Anbieter von Cloud-Diensten in China ist Tencent Cloud mit seinem fundierten Fachwissen, seiner reichen Branchenerfahrung und seinen großartigen Infrastrukturfähigkeiten Innovationsführer und bietet den Benutzern agile, effiziente, zuverlässige und vielfältige Cloud-Dienste.

So wie das Sprichwort „Man kann keine Ziegelsteine ohne Stroh herstellen“ besagt, sind effiziente und zuverlässige Cloud-Dienste untrennbar mit einer leistungsfähigen IT-Infrastruktur verbunden. Um Tencent Cloud bei der weiteren Aufrüstung, Verbesserung oder Revolutionierung der Leistung und Erfahrung seiner Cloud-Dienste zu unterstützen, hat Intel Tencent Cloud mit einer neuen skalierbaren Intel Xeon Plattform ausgestattet. Die Plattform basiert auf dem skalierbaren Intel Xeon Prozessor der 2. Generation. Mit dem im Prozessor integrierten Intel Deep Learning Boost (Intel DL Boost) und der umfangreichen Unterstützung des Prozessors für den persistenten Intel Optane Speicher haben die verschiedenen innovativen Cloud-Dienste von Tencent Cloud, wie TencentDB for Redis, die sich auf In-Memory-Datenbanktechnologie und KI-basierte intelligente Videoanalyse stützen, eine bessere Leistung und Verfügbarkeit erreicht.

Erschwinglichere Cloud-Datenbankdienste für Redis

Die Cloud-Datenbank für Redis, die auf In-Memory-Datenbanktechnologie basiert, ist bei den Benutzern wegen ihrer hohen Leistung, hohen Flexibilität, niedrigen Latenzzeit und reichhaltigen Datenstrukturtypen beliebt. Sie spielt eine Schlüsselrolle in Anwendungsszenarien wie Transaktions-Cache, Sitzungsspeicherung, Nachrichtenwarteschlangen, Informationsveröffentlichung usw. Als eines der Kerngeschäfte von Tencent Cloud kann die TencentDB for Redis Benutzern effektiv dabei helfen, ihre Geschäftsprozesse zu optimieren und die Betriebseffizienz zu verbessern, wenn sie zusammen mit anderen Cloud-Dienstfunktionen verwendet wird.

Abbildung 1: Anwendung von TencentDB for Redis in E-Commerce-Szenarien.

Am Beispiel der E-Commerce-Branche können die latenzabhängigen Schlüsseldaten, wie z. B. die Produktdarstellungen und Einkaufsempfehlungen der Online-Verkäufer, in dem von TencentDB for Redis erstellten Cache gespeichert werden, um einen schnelleren Zugriff zu erreichen (siehe Abbildung 1). Derzeit ist TencentDB für Redis bereits in der Lage, 100.000 Abfragen pro Sekunde (QPS) bereitzustellen, was bei großen Verkaufsaktionen und Flash-Verkäufen einen hohen gleichzeitigen Zugriff ermöglicht.1

Allerdings erhöht das teure Dynamic Random Access Memory (DRAM) die Kosten von TencentDB for Redis erheblich, was wiederum seine Anwendung einschränkt. Um Benutzern den Zugriff auf mehr hochverfügbare Cloud-Datenbanken für Redis zu erleichtern, arbeitete Tencent Cloud mit Intel zusammen, um den skalierbaren Intel Xeon Prozessor der 2. Generation mit persistentem Intel Optane Speicher einzuführen und TencentDB for Redis mit einer erschwinglicheren Speichererweiterungslösung auszustatten.

Der persistente Intel Optane Speicher, der auf der Intel® 3D XPoint™ Technologie basiert, bietet Benutzern eine neue Speicheranwendungserfahrung mit größerer Kapazität und Datenpersistenz. Einerseits bietet er bis zu 512 GB Speicherkapazität, andererseits sorgt die Datenpersistenz dafür, dass die Daten bei einem Stromausfall intakt bleiben, was die Datensicherheit verbessert.

Zusätzlich zu der großen Kapazität und dem persistenten Speicher sorgt der persistente Intel Optane Speicher bei TencentDB for Redis für eine höhere Erschwinglichkeit. Die Daten des Vergleichstests von Tencent Cloud zeigen, dass unter derselben Service-Level-Vereinbarung (SLA) die Einzelinstanz-Speicherkapazität auf der Plattform mit persistentem Intel Optane Speicher auf das 1,34-Fache im Vergleich zu der auf der Plattform mit reinem DRAM-Speicher erhöht werden kann.1 Dies ermöglicht es Endbenutzern, bessere Cloud-Datenbanken für Redis bei gleichen Kosten zu erhalten.

In diesem Vergleichstest verwendete Tencent zwei Plattformen, die beide auf dem Intel® Xeon® Platinum 8260 Prozessor mit zwei Sockeln basieren. Dieser Prozessor hat 24 Kerne/48 Threads und wird mit 2,4 GHz getaktet. Bei ähnlichen Gesamtbetriebskosten (TCO) wurde jeder CPU-Sockel nur mit 384 GB DRAM (32 GB x 12) für die Kontrollgruppe konfiguriert, aber 96 GB DRAM + 512 GB persistenter Intel Optane Speicher wurden für die Versuchsgruppe eingesetzt, die eine Mischkonfiguration aus DRAM und persistentem Intel Optane Speicher im Verhältnis 1:5,3 verwendete. Bei dem Test wurden 88 Instanzen auf beiden Plattformen in Betrieb genommen.

Die Testergebnisse sind in Tabelle 1 aufgeführt. Die beiden mit DRAM und persistentem Intel Optane Speicher konfigurierten Plattformen haben eine ähnliche Leistung in Bezug auf den maximalen Lese- und Schreibdurchsatz und die P99-Latenzzeit bei 1K. Bei ähnlicher TCO ist die Plattform mit einer gemischten Konfiguration aus DRAM und persistentem Intel Optane Speicher in Bezug auf die Kapazität des Einzelinstanz-Speichers deutlich besser als die Plattform mit nur DRAM. Die Einzelinstanz-Speicherkapazität der ersteren beträgt das 1,34-Fache der letzteren; und für Einzelinstanz-Speicherkapazität/TCO beträgt die erstere das 1,36-Fache der letzteren2.

Tabelle 1: Die Ergebnisse des vergleichenden Tests von Tencent Cloud zur Konfiguration nur mit physischem DRAM-Speicher im Vergleich zur Konfiguration von DRAM-Speicher + persistentem Intel® Optane™ Speicher.

Leistungsstärkere intelligente Videoanalyse

Traditionell wird die KI-Inferenz hauptsächlich auf der Grundlage von 32-Bit-Gleitkommaberechnungen durchgeführt, was zwar die Genauigkeit der Inferenz gewährleistet, jedoch eine enorme Rechen- und Einsatzkomplexität mit sich bringt. Außerdem sind in Anwendungsszenarien wie der Bilderkennung und Bildkategorisierung INT8- und andere Festkommaberechnungen mit geringer Präzision hinsichtlich der Inferenzgenauigkeit völlig vergleichbar mit der 32-Bit-Gleitkommaberechnung. Zugleich kann sie aber auch die Inferenz erheblich beschleunigen. Der Tencent-angepasste, skalierbare Intel Xeon Prozessor der 2. Generation bietet nicht nur leistungsfähigere Berechnungen für Tencent Cloud mit einer besseren Mikroarchitektur, mehr Kernen sowie einer schnelleren und größeren Speicherunterstützung, sondern seine neue integrierte Intel DL Boost-Technik beschleunigt darüber hinaus auch die Inferenz von INT8-basierten Modellen für Deep Learning erheblich. Bei Verwendung mit der Intel® Math Kernel Library for Deep Neural Networks (Intel® MKL-DNN) verbessert er die Inferenzgeschwindigkeit von Modellen für Deep Learning erheblich, ohne die Genauigkeit der Inferenz zu beeinträchtigen.

Die Wirksamkeit von Intel DL Boost ergibt sich aus seinen VNNI-Befehlssätzen, die mehrere neue umfassend fusionierte Multiply-Add (FMA)-Kernbefehle für Deep-Learning-Modelle bereitstellen und zum Vervielfachen von 8-Bit- oder 16-Bit-Werten mit niedriger Präzision verwendet werden können. Dies ist besonders wichtig für Inferenzprozesse, die eine große Anzahl von Matrixmultiplikationen erfordern. Die Einführung dieser Technik ermöglicht es dem Deep-Learning-System, seinen Speicherbedarf um bis zu 75 % zu reduzieren, wenn es die INT8-Inferenz ausführt.3 Durch die Reduzierung des Speicher- und Bandbreitenbedarfs können die Operationen mit geringerer numerischer Präzision erheblich beschleunigt werden.

In den KI-basierten Cloud-Diensten, die von Tencent Cloud angeboten werden, findet Intel DL Boost schnell seinen Platz. Beispielsweise ermöglicht es die neu hinzugefügte intelligente Videoanalyse in den Audio- und Videolösungen von Tencent Cloud den Benutzern, Bilder in 25 Szenarien zu kategorisieren, zu taggen und Highlights der Bilder zu extrahieren, darunter Live-Streaming von Online-Spielen, Verschönerung und Make-up sowie Fußballspiele. Dies erleichtert den Benutzern die Entwicklung einer Vielzahl von Anwendungen und Diensten auf der Grundlage des Videoinhalts.

Die intelligenten Videoanalysefähigkeiten von Tencent Cloud basieren auf der Methode des Deep Learning (Inception-v3-Modell, teilweise modifiziert mit Intel® Optimierungen für Caffe*). Daher wurde mit der Einführung des skalierbaren Intel Xeon Prozessors der 2. Generation und der Verwendung seines integrierten Intel DL Boost die Gesamteffizienz der intelligenten Videoanalyse erheblich verbessert, da Intel DL Boost die Inferenzeffizienz auf der Grundlage der INT8-Festkommaberechnung beschleunigt.

Um die Wirksamkeit der Intel Technik für die intelligente Videoanalyse zu verifizieren, testete Tencent Cloud auf der skalierbaren Intel Xeon Prozessorplattform der 2. Generation, die für Tencent angepasst wurde. Der Prozessor hat 24 Kerne/48 Threads und wird mit 2,5 GHz getaktet. Die Plattform ist mit 192 GB Speicher ausgestattet und verwendet Intel MKL-DNN mit Intel Optimierungen für Caffe v1.1.3.

Abbildung 2: Vergleich der Inferenzgenauigkeit und -geschwindigkeit des Deep-Learning-Modells für die intelligente Videoanalyse von Tencent Cloud bei unterschiedlicher Rechengenauigkeit.

Dieser Test vergleicht die Inferenzgenauigkeit und -geschwindigkeit des Deep-Learning-Modells für die intelligente Videoanalyse von Tencents Private Tag-Musterdatensätzen (etwa 40.000 Bilder) unter Verwendung von 32-Bit-Gleitkommaberechnung bzw. INT8-Festkommaberechnung auf der Basis von Intel® Deep Learning Boost mit der Konfiguration eines Einkernprozessors und Minibatch=1. Die Testergebnisse sind in Abbildung 2 dargestellt. Die Inferenzgenauigkeit bei der Verwendung von INT8 auf der Basis von Intel DL Boost ist nur 0,26 % niedriger als bei Verwendung der 32-Bit-Gleitkommaberechnung, was bedeutet, dass die Genauigkeit der beiden Verfahren im Wesentlichen gleich ist. Wenn INT8 für die Inferenz verwendet wird, beträgt die Einzelbild-Inferenz-Latenzzeit 32,3 ms, was nur 30,7 % der Inferenz-Latenzzeit bei Verwendung der 32-Bit-Gleitkommaberechnung (105,3 ms) entspricht. Es zeigt sich, dass bei gleicher Hardware und gleichem Algorithmus die Einführung der neuen Intel DL Boost-Lösung die Effizienz der intelligenten Videoanalyse von Tencent Cloud um das 3,26-Fache verbessert hat4.

Ein Blick in die Zukunft

Die oben genannten Tests, die auf der tatsächlichen Cloud-Service-Umgebung basieren, zeigen, dass die Einführung mehrerer Kernprodukte und/oder Techniken auf der skalierbaren Intel Xeon Plattform der nächsten Generation, darunter skalierbare Intel Xeon Prozessoren der 2. Generation, Intel Deep Learning Boost und persistenter Intel Optane Speicher, Tencent Cloud eine umfassendere, bessere und ausgewogenere IT-Infrastrukturkapazität gebracht hat. Auf dieser Grundlage wird Tencent Cloud auch in Zukunft mit Intel zusammenarbeiten, um die Leistungsfähigkeit seiner bestehenden Plattformen zu optimieren und eine umfassendere und intensivere Zusammenarbeit rund um hochwertige Cloud-Dienste auf Hochleistungsinfrastrukturen zu entwickeln.

Die Vorteile der neuen Cloud-Dienste von Tencent Cloud:

  • Der skalierbare Intel Xeon Prozessor der 2. Generation unterstützt den persistenten Intel Optane Speicher, wodurch Tencent Cloud in der Lage ist, die Einzelinstanz-Speicherkapazität von Cloud-Datenbankdiensten für Redis um das bis zu 1,34-Fache unter derselben SLA und den entsprechenden Kosten zu erhöhen2.
  • Der im Tencent-angepassten skalierbaren Intel Xeon Prozessor der 2. Generation integrierte Intel® DL Boost bringt ausgezeichnete Beschleunigungsfähigkeiten in das Deep-Learning-Modell für die intelligente Videoanalyse von Tencent Cloud. Mit der gleichen Hardware und den gleichen Algorithmen sowie einer ähnlichen Genauigkeit trägt er dazu bei, die Effizienz der Videoanalyse um das 3,26-Fache zu steigern4.

PDF herunterladen ›

Informationen über zugehörige Produkte und Lösungen

Produkt- und Leistungsinformationen

1Daten zitiert von der offiziellen Website von Tencent Cloud:https://cloud.tencent.com/
2Die Daten stammen aus dem Redis-Cloud-Service-Test von Tencent Cloud, der auf skalierbaren Intel® Xeon® Prozessoren der 2. Generation basiert. Testkonfiguration: Intel® Xeon® Platinum 8260 Prozessor mit 2 Sockeln, 24 Kerne/48 Threads, HT/Turbo aktiviert, BIOS 1.018, 96 GB DRAM und 512 GB persistenter Intel® Optane™ Speicher pro Sockel, einzelner 25-GbE-Netzwerkadapter, Linux*-Kernel 4.14.68-1-tlinux3-nvdimm-0005, Redis 4.10, Rohdatenvolumen 11.27 GB, insgesamt 88 VM-Instanzen im Vergleich mit Intel® Xeon® Platinum 8260 Prozessor mit 2 Sockeln, 24 Kernen/48 Threads, HT/Turbo aktiviert, BIOS 1.018, 384 GB physischem DRAM-Speicher pro Sockel, einzelnem 25-GbE-Netzwerkadapter, Linux-Kernel 4.14.68-1-tlinux3-nvdimm-0005, Redis 4.10, Rohdatenvolumen 8.36 GB, insgesamt 88 gestarteten VM-Instanzen.
4Die Daten stammen aus dem Cloud-Service-Test von Tencent Cloud für die intelligente Videoanalyse auf der Basis von skalierbaren Intel® Xeon® Prozessoren der 2. Generation. Testkonfiguration: Tencent-angepasster skalierbarer Intel® Xeon® Prozessor der 2. Generation mit 2,5 GHz, 24 Kernen/48 Threads, HT/Turbo aktiviert, 192 GB Speicher, Betriebssystem: CentOS 7.6 mit Kernel 3.10.0-957.el7.x86_64, Compiler: GCC4.8.5. Die Workload im Test wurde auf der Grundlage der Videoanalyse von Tencent Cloud unter Verwendung des Intel® MKL-DNN mit Intel® Optimierungen für Caffe V1.1.3 durchgeführt. Die Vergleichstests von FP32- und INT8-Daten wurden mit der Konfiguration eines Einkernprozessors und Minibatch=1 durchgeführt.