Intel Gaudi Logo

Erstellen, migrieren und optimieren Sie Ihre KI-Modelle mit

Intel® Gaudi® Software

Greifen Sie auf Intel® Gaudi® Beschleuniger sowie Modellreferenzen, Bibliotheken, Container und Tools für das Trainieren und Bereitstellen von GenAI und LLM zu.

Modelle

Sie können Ihr Modell optimieren, fein abstimmen, Fehler beseitigen und profilieren, um alle Leistungsziele zu erreichen.

Dokumentation

Greifen Sie in GitHub* auf die neueste Dokumentation oder Repositorys zu.

Leistungdaten

Überprüfen Sie Modell-Leistungsdaten zum Trainieren und Inferenzieren bezüglich des Intel Gaudi KI-Beschleunigers.

Support

Stellen Sie Fragen in unserem Forum oder durchsuchen Sie unseren GitHub.

Neuigkeiten zu Intel Gaudi Software

Blog anzeigen

{"limitDisplayedContent":"showAll","collectionRelationTags":{"relations":{"OR":["etm-96a2a467cd514dff85b6c153b364b0fa","etm-8ad69a00500f46bcbfde5ad9f3f1422f","etm-a9b846f3b3e24e3a88a53659a892cd29"],"AND":["etm-b21347d4d9474d5081968efe45da1418","etm-D68A7C5C-B64D-4332-8263-EF62D1A680E7"]},"featuredIds":[]},"collectionId":"833854","resultPerPage":4.0,"filters":[],"coveoRequestHardLimit":"1000","accessDetailsPagePath":"/content/www/us/en/secure/design/internal/access-details.html","collectionGuids":["etm-D68A7C5C-B64D-4332-8263-EF62D1A680E7","etm-b21347d4d9474d5081968efe45da1418"],"cardView":true,"sorting":"Newest","defaultImagesPath":"/content/dam/www/public/us/en/images/uatable/default-icons","coveoMaxResults":5000,"coveoSplitSize":8,"fpgaFacetRootPaths":"{\"fpgadevicefamily\":[\"Primary Content Tagging\",\"Intel® FPGAs\",\"Intel® Programmable Devices\"],\"quartusedition\":[\"Primary Content Tagging\",\"Intel® FPGAs\",\"Intel® Quartus Software\"],\"quartusaddon\":[\"Primary Content Tagging\",\"Intel® FPGAs\",\"Intel® Quartus Software - Add-ons\"],\"fpgaplatform\":[\"Primary Content Tagging\",\"Intel® FPGAs\",\"Intel® FPGA Platforms\"]}","newWrapperPageEnabled":true,"descendingSortingForNumericalFacetsName":"[\"Intel® Quartus® Prime Pro Edition\",\"Intel® Quartus® Prime Lite Edition\",\"Intel® Quartus® Prime Standard Edition\",\"Quartus® II Subscription Edition\",\"Quartus® II Web Edition\"]","columnsConfiguration":{"idColumn":false,"dateColumn":false,"versionColumn":false,"contentTypeColumn":false,"columnsMaxSize":0},"dynamicColumnsConfiguration":[{"name":"DynamicColumn_version","type":"version","gtv":"Version","width":135,"selected":true}],"updateCollateralMetadataEnabled":true,"relatedAssetsEnable":true,"disableExpandCollapseAll":true,"enableRelatedAssetsOnExpandAll":false,"disableBlueBanner":true,"isICS":false,"isUPE":false}

FAQs

Häufig gestellte Fragen

Besuchen Sie die Intel® Tiber™ KI-Cloud, um einen Knoten mit acht Intel Gaudi 2 Beschleunigern aufzurufen. Zugriff wird auf stündlicher Basis für eine angemessene Gebühr gewährt. Details finden Sie unter Zugriff anfordern.

Verwenden Sie das GPU Migration Toolkit, das in der Intel Gaudi Software vorinstalliert ist. Das Toolkit wandelt Python*-Code mit CUDA* und anderen GPU-spezifischen Befehlen in Code um, den Intel Gaudi Beschleuniger verstehen können. Das Toolkit wird in Echtzeit ausgeführt und verändert nicht den ursprünglichen Code. Sie müssen die GPU_migration-Bibliothek dem Modellskript hinzufügen. Das GPU Migration Toolkit Benutzerhandbuchliefert Details dazu, wie Sie sicherstellen können, dass das Modell zusammen mit Intel Gaudi Beschleunigern funktioniert.

In den folgenden GitHub*-Repositorys finden Sie umfassend dokumentierte und optimierte Modelle: Model References (Modellreferenzen) und Optimum for Intel Gaudi accelerators (Optimum für Intel Gaudi Beschleuniger) von Hugging Face*. Diese Repositorys beinhalten Anweisungen zum Herunterladen der Datenmenge und Ausführen der Modelle.

Einrichtung liefert Informationen dazu, wie sich Modelle zum Intel Gaudi Prozessor migrieren lassen. Zudem finden Sie Videos und direkte Links zu ausführlichen Dokumentationen. Wenn Sie Intel Gaudi Prozessoren zum ersten Mal nutzen, konsultieren Sie die Intel Tiber KI-Cloud Kurzanleitung.

Starten Sie mit der Bibliothek „Optimum for Intel Gaudi accelerators“ (Optimum für Intel Gaudi Beschleuniger). Das ist eine spezielle Bibliothek, die es erlaubt, sämtliche Hugging Face Transformer- und Diffusion-basierten Modelle auf Intel Gaudi Beschleunigern auszuführen. Konsultieren Sie für die ersten Schritte Verwendung von Hugging Face.

Wir empfehlen den meisten Benutzern, das Docker*-Image für PyTorch* von Intel auszuführen, da es alle Intel Gaudi Softwareprogramme, Treiber und Bibliotheken beinhaltet, die für eine erfolgreiche Ausführung benötigt werden. Um zu erfahren, wie Sie Docker-Images für Intel Gaudi Beschleuniger abrufen und ausführen können, konsultieren Sie die Docker-Installationsanleitung.

Leistungszahlen für Training und Inferenz, einschließlich der neuesten MLPerf*-Leistungszahlen, finden Sie unter „Model Performance Data“ (Modell-Performancedaten).

Besuchen Sie das Intel Gaudi KI-Beschleuniger Entwicklerforum, um Fragen zu stellen und Antworten von Intel Teammitgliedern und der breiteren Community zu erhalten.

Zur Ermittlung der aktuellsten Softwareversion konsultieren Sie bitte die Versionshinweise. Um die aktuelle Version der Intel Gaudi Software in Ihrer Plattform zu ermitteln, konsultieren Sie den Abschnitt Verifizierung des Software-Stacks in der Intel Gaudi Software-Dokumentation.

Ja. Verwenden Sie das Tensor Processor Core (TPC*) Software Development Kit für Intel Gaudi Beschleuniger, um Kernel zu schreiben. Das ist eine TPC-C-basierte Kernel-Bibliothek. Darum müssen CUDA-Kernel in TPC-Kernel für Intel Gaudi Beschleuniger verwandelt werden. Weitere Informationen finden Sie unter TPC-Programmierung.

Wenn Sie Fragen haben, die hier nicht beantwortet wurden, posten Sie sie im Intel Gaudi KI-Beschleuniger Entwicklerforum. Spezifische Fragen zum Einsatz von PyTorch*-Modellen in GitHub* stellen Sie bitte auf der Registerkarte Issues (Probleme) des GitHub-Repository Model-References (Modellreferenzen).