Normalerweise greifen wir über leistungsstarke Rechenzentren, die an das Internet angeschlossen sind, auf KI-Programme wie Chatbots und Bildgeneratoren zu. Aber Nvidia arbeitet jetzt mit Microsoft zusammen, um Verbrauchern die Ausführung derselben Programme auf Windows-PCs mit RTX-Grafik zu ermöglichen.
Die heute angekündigten Fortschritte richten sich an Softwareentwickler, die KI-Programme für Windows-PCs erstellen und veröffentlichen möchten. Aber wenn alles gut geht, könnten Verbraucher eines Tages einen KI-Bildgenerator auf einem Laptop ausführen, ohne eine Verbindung zum Internet herzustellen, sagt Manuvir Das, Nvidias Vizepräsident für Unternehmen. „Dies ist ein paradigmenwechselndes Modell. Das ist so, als würde man Grafiken auf den PC bringen“, fügt er hinzu.
(Quelle: Nvidia)
Nvidia und Microsoft nutzen die Fähigkeit von Windows, das Linux-Betriebssystem auszuführen. Früher war die Installation des sogenannten Windows-Subsystems für Linux (WSL) mühsam, aber Microsoft hat den Prozess optimiert.
Nvidia sagt nun, dass man daran arbeite, „GPU-Beschleunigung und -Unterstützung“ für den gesamten KI-Software-Stack des Unternehmens innerhalb der WSL bereitzustellen. Dadurch können Entwickler aufhören, eine reine Linux-Maschine, die bevorzugte Entwicklungsplattform für Programme für künstliche Intelligenz, zu verwenden und sich stattdessen für die lokale KI-Softwareentwicklung auf ihren eigenen Windows-PC verlassen – solange dieselbe Maschine mit einer leistungsstarken Grafikkarte ausgestattet ist.
Die andere Art und Weise, wie die Unternehmen KI-Softwareentwicklern helfen, ist die „Microsoft Olive Toolchain“, die bei der Integration von KI-Modellen in Windows-Anwendungen helfen kann, indem sie Pytorch-Deep-Learning-Modelle optimiert und in das ONNX-Format exportiert.
Nvidia fügte hinzu: „Am 24. Mai werden wir unsere neuesten Optimierungen in den Treibern der Version 532.03 veröffentlichen, die in Kombination mit für Olive optimierten Modellen für große Steigerungen der KI-Leistung sorgen.“
(Quelle: Nvidia)
Als Beispiel zeigte Nvidia einen Benchmark der neuen Treiber mit dem KI-Bildgenerator Stable Diffusion, der bereits auf einem Windows-PC lauffähig ist. Die neuen Treiber können die Leistung um mehr als das Doppelte steigern.
Von unseren Redakteuren empfohlen
Darüber hinaus bereitet Nvidia eine Softwareoptimierung vor, die dazu beitragen soll, dass KI-Programme besser auf Laptops laufen. „In Kürze wird Nvidia die neue Max-Q-Inferenz mit geringem Stromverbrauch für reine KI-Workloads auf RTX-GPUs einführen“, sagte das Unternehmen. Es optimiert die Tensor-Core-Leistung und hält gleichzeitig den Stromverbrauch der GPU so gering wie möglich, verlängert die Akkulaufzeit und sorgt für ein kühles, leises System. Die GPU kann dann dynamisch hochskaliert werden, um maximale KI-Leistung zu erzielen, wenn die Arbeitslast dies erfordert.“
Die Zeit wird zeigen, ob die Softwareverbesserungen eine solide Grundlage schaffen können, um Entwicklern beim Erstellen von KI-Programmen für Windows-PCs zu helfen. Die Einschränkungen von Nvidia RTX-GPUs, die diese KI-Programme auf einem PC ausführen, sind ebenfalls unklar. Dennoch ist Nvidia hinsichtlich der Möglichkeiten optimistisch.
„Unser Ziel bei Nvidia ist es, beschleunigtes Computing für alles und überall bereitzustellen, damit jeder davon profitieren kann“, fügte Das hinzu.
Holen Sie sich unsere besten Geschichten!
Melden Sie sich an für Was ist jetzt neu? um jeden Morgen unsere Top-Storys in Ihren Posteingang zu bekommen.
Dieser Newsletter kann Werbung, Angebote oder Affiliate-Links enthalten. Wenn Sie einen Newsletter abonnieren, erklären Sie sich damit einverstanden Nutzungsbedingungen Und Datenschutz-Bestimmungen. Sie können den Newsletter jederzeit abbestellen.