Intel® Distribution des OpenVINO™-Toolkits

Was gibt es Neues?

• Mehr Gen KI-Abdeckung und Framework-Integrationen zur Minimierung von Codeänderungen

• Neue Modelle, die auf CPUs und GPUs unterstützt werden: Qwen3 VL
• Neue Modelle, die auf CPUs unterstützt werden: GPT-OSS 120B
• Vorschau: Vorstellung des OpenVINO Backends für llama.cpp, das eine optimierte Inferenz auf Intel CPUs, GPUs und NPUs ermöglicht. Validiert auf GGUF-Modellen wie Llama-3.2-1B-Instruct-GGUF, Phi-3-mini-4k-instruct-gguf, Qwen2.5-1.5B-Instruct-GKUF und Mistral-7B-Instruct-v0.3.
• Neues Notebook: Einheitlicher VLM-Chatbot mit Videodatei-Support und interaktiver Modellumschaltung über Qwen3-VL, Qwen2.5-VL und LLaVa-NeXT-Video.
• Breitere LLM-Modellunterstützung und mehr Modellkomprimierungstechniken
• 
  
  • OpenVINO™ GenAI fügt TaylorSeer Lite Caching für die Bild- und Videoerzeugung hinzu und beschleunigt so die Diffusionstransformator-Inferenz über Flux-, SD3- und LTX-Video-Pipelines, abgestimmt auf Hugging Face Diffuser.
  • LTX-Video Generation auf GPU erreicht eine End-to-End-Beschleunigung durch die Fusion von RMSNorm und RoPE Operatoren, wodurch die Videoerzeugungsleistung deutlich verbessert wird.
  • OpenVINO™ GenAI fügt dynamische LoRA-Unterstützung für Qwen3-VL- und VL-Modelle mit LLM hinzu, sodass Entwickler die Adapter zur Laufzeit austauschen können, um mehrere Modellvarianten in der Produktion effizient zu bedienen, ohne das Basismodell neu laden zu müssen.
  • Vorschau: Die Release-weights-API für ov::Model ermöglicht die Speicherrückgewinnung während der Modellkompilierung auf NPUs und liefert so einen drastisch niedrigeren Spitzenspeicherverbrauch für Edge- und Client-Bereitstellungen. Benutzer müssen diese Eigenschaft in ov::Model festlegen, und sie wird während der Kompilierung angewendet.
• Mehr Portabilität und Leistung, um KI am Netzwerkrand, in der Cloud oder lokal auszuführen

• Einführung der Unterstützung für Prozessoren der Intel® Core™-Serie 3 (früherer Codename Wildcat Lake) und Intel® Arc™ Pro B70-Grafik mit 32 GB Speicher für Single-GPU-Inferenz auf 20-30B-Parameter-LLMs
• Die Prompt Lookup-Decodierung wurde auf Vision-Language-Pipelines ausgeweitet und bietet eine deutlich schnellere Token-Generierung für multimodale Workloads auf Intel CPUs und GPUs.
• OpenVINO™ GenAI hat jetzt einen kleineren Laufzeitplatz, nachdem die ICU-DLL-Abhängigkeiten von der Tokenisierung eliminiert wurden, was zu einer reduzierten Speichernutzung, einem schnelleren Start und einer einfacheren Bereitstellung führt.
• OpenVINO GenAI stellt über sein NPM-Paket WhisperPipeline for Node.js vor und liefert produktionsfähige Spracherkennung mit Audio-zu-Text-Transkription auf Wortebene.
• OpenVINO™ Model Server erweitert die Unterstützung für Qwen3-MOE- und GPT-OSS-20b-Modelle und bietet verbesserte Leistung, Genauigkeit und robuste gleichzeitige Anforderungsbehandlung mit kontinuierlichem Batching. Diese voroptimierten Modelle sind auf Hugging Face für eine einfache Bereitstellung verfügbar. Darüber hinaus führt der Modellserver Funktionen zum In- und Outpainting von Bildern über den Endpunkt /image für die KI-Bildbearbeitung ein.

Holen Sie sich alle Details. Siehe Versionshinweise zu 2026.1.

Installationsanleitungen

Sie können je nach Betriebssystem wählen, wie Sie OpenVINO™ Runtime aus Archive* installieren möchten:

• Installation OpenVINO Runtime unter Linux*
• Installation OpenVINO Runtime unter Windows*
• Installation von OpenVINO Runtime unter macOS*

Inhalt des Download-Pakets (Archivdatei)

• Bietet sowohl C/C++- als auch Python-APIs
• Enthält zusätzlich Codebeispiele

Hilfreiche Links

HINWEIS: Links werden in einem neuen Fenster geöffnet.

• Startseite
• Herunterladen
• Alle Dokumente, Leitfäden und Ressourcen
• OpenVINO Notebooks
• Versionshinweise
• Community-Forum
• Problem auf GitHub melden*