Die Core-Ultra-CPUs von Intel haben durch ihre NPU enorme KI-Fähigkeiten mitgebracht, wie sie es schaffen Führen Sie über 500 KI-Modelle aus auf einer einzelnen Maschine.
Intel demonstriert die Fähigkeiten der dedizierten NPUs von Core Ultra und schafft es, Hunderte von KI-Modellen zu betreiben
[Press Release]: Heute gab Intel bekannt, dass es die Marke von 500 KI-Modellen überschritten hat, die optimiert auf neuen Intel Core Ultra-Prozessoren laufen – dem branchenweit führenden KI-PC-Prozessor, der heute auf dem Markt erhältlich ist und neue KI-Erlebnisse, immersive Grafik und optimale Akkulaufzeit bietet. Dieser bedeutende Meilenstein ist das Ergebnis der Investitionen von Intel in Client-KI, die KI-PC-Transformation, Framework-Optimierungen und KI-Tools, einschließlich des OpenVINO-Toolkits.
Die 500 Modelle, die auf der Zentraleinheit (CPU), der Grafikverarbeitungseinheit (GPU) und der Neural Processing Unit (NPU) eingesetzt werden können, sind über gängige Branchenquellen verfügbar, darunter OpenVINO Modell Zoo, Umarmendes Gesicht, ONNX-Modellzoo Und PyTorch. Die Modelle basieren auf Kategorien lokaler KI-Inferenz, darunter große Sprache, Diffusion, Superauflösung, Objekterkennung, Bildklassifizierung/-segmentierung, Computer Vision und andere.
Warum es wichtig ist: Die Marke von über 500 KI-Modellen ist ein Meilenstein für Intels Bemühungen, die KI-PC-Transformation voranzutreiben und zu unterstützen. Der Intel Core Ultra-Prozessor ist nicht nur der bislang am schnellsten wachsende KI-PC-Prozessor – er verkauft in einem einzigen Quartal mehr Einheiten als konkurrierende Prozessoren im gesamten Jahr 2023 – er ist auch die robusteste Plattform für die KI-PC-Entwicklung mit mehr KI-Modellen. Frameworks und Laufzeiten ermöglicht als jeder andere Prozessoranbieter.
Modelle bilden das Rückgrat KI-gestützter Softwarefunktionen wie Objektentfernung, Bild-Superauflösung oder Textzusammenfassung. Es besteht ein direkter Zusammenhang zwischen der Anzahl der aktivierten/optimierten Modelle und der Breite der benutzerorientierten KI-Funktionen, die auf den Markt gebracht werden können. Ohne ein Modell kann das Feature nicht entworfen werden. Ohne Laufzeitoptimierung kann die Funktion ihre beste Leistung nicht erreichen.
So funktionieren KI-Modelle: KI-Modelle sind eine von vielen kritischen Schichten im Software-Stack, die die ultimative Leistung, Stabilität und Fähigkeiten einer KI-gesteuerten Anwendung bestimmen. KI-Modelle werden darauf trainiert, große Datenmengen zu analysieren, Schlussfolgerungen zu ziehen und auf der Grundlage dieser Schlussfolgerungen Maßnahmen zu ergreifen. Entwickler, die neue KI-PC-Funktionen entwickeln, können diese Modelle nutzen und darauf aufbauen. Je mehr KI-Modelle vorhanden sind, desto mehr KI-PC-Funktionen werden aktiviert.
KI-Modelle können auf Text, Sprache, Audio, Bilder und andere audiovisuelle Quellen reagieren, die für das PC-Erlebnis üblich sind. KI-Modelle bilden die Grundlage für KI-erweiterte Funktionen, die für Benutzer entwickelt wurden, wie etwa die automatische Textzusammenfassung, die Reduzierung des Energieverbrauchs bei Telefonkonferenzen oder das Entfernen unerwünschter Objekte aus einem Bild. OpenVINO Optimiert für Intel Core Ultra durch Lastausgleich über alle Recheneinheiten, Komprimierung der Modelle für eine effiziente Ausführung auf einem KI-PC und Optimierung der Laufzeit, um die Speicherbandbreite und die Kernarchitektur innerhalb von Intel Core Ultra zu nutzen.
Kontinuierliche Bemühungen, eine beispiellose Reihe von Hochleistungsmodellen auf Intel Core Ultra zu ermöglichen, bieten Softwareentwicklern ein breites Innovationsfeld und vereinfachen die Bereitstellung von KI-PC-Anwendungen und -Funktionen für Benutzer.
Über zusätzliche Funktionen und Vorteile: Merkmale und Vorteile der über 500 optimierten KI-Modelle:
- Erleichtert die Entwicklung und Bereitstellung.
- Umfasst mehr als 20 KI-Kategorien, darunter große Sprache, Diffusion, Superauflösung, Objekterkennung und Computer Vision.
- Enthält Phi-2, Mistral, Llama, Bert, Whisper und Stable Diffusion 1.5.
- Verbessert die Systemstabilität, Zuverlässigkeit und Leistung.