Der Nvidia GeForce-Treiber verspricht eine doppelt so stabile Diffusionsleistung

Nvidia hat heute ein neues GeForce Game Ready-Treiber-Update angekündigt, das jedem, der sich mit lokalen Stable Diffusion-Installationen beschäftigt, den Kopf verdrehen wird. Das Neueste GeForce Game Ready-Treiberversion 532.03das später heute veröffentlicht wird, enthält Erkenntnisse aus Die Olive-Toolchain von Microsoftein hardwarebewusstes Modelloptimierungstool, das darauf abzielt, die Verarbeitung Ihres Diffusionsmodells perfekt an die Fähigkeiten Ihrer Grafikkarten anzupassen.

Laut Microsoft hat Olive die Möglichkeit, das Basismodell entsprechend den verfügbaren Hardwarefunktionen zu modifizieren – sei es in lokalen Installationen, in der Cloud oder am Edge. Olive ist eine Möglichkeit, die verschiedenen Beschleunigungstoolketten für maschinelles Lernen (ML) zu abstrahieren, die von den verschiedenen Marktteilnehmern vertrieben werden. Ein Teil seiner Mission besteht also darin, die Marktfragmentierung rund um ML-Beschleunigungstechniken zu verringern.

Laut Nvidia wird die neue Olive-Integration in GeForce Leistungsverbesserungen bei KI-Operationen ermöglichen, die die in Nvidia-GPUs vorhandenen RTX-Tensor-Kerne mit fester Funktion nutzen. Durch die Verwendung einer für Olive optimierten Version des Text-zu-Bild-Generators Stable Diffusion (gepaart mit der beliebten Distribution Automatic1111) wird die Leistung um mehr als das Doppelte verbessert.

„KI wird in den kommenden Jahren der größte Innovationstreiber für Windows-Kunden sein“, sagte Pavan Davuluri, Corporate Vice President für Windows-Silizium und Systemintegration bei Microsoft. „Durch die Zusammenarbeit mit Nvidia bei Hardware- und Softwareoptimierungen bieten wir Entwicklern ein transformatives, leistungsstarkes und einfach bereitzustellendes Erlebnis.“

Es sollte keinen Grund dafür geben, dass AMD das Olive-Toolset von Microsoft nicht in seinen eigenen Grafiktreibern implementieren kann, obwohl derzeit unklar ist, inwieweit diese Optimierungen tatsächlich von der Tensor-Leistung abhängen (denken Sie daran, dass AMD über keine gleichwertige Hardwarelösung verfügt). an Bord seiner RX 7000 GPU-Familie). Derzeit scheint es, dass insbesondere Nvidia-Benutzer auf eine noch bessere Leistung als die der AMD-GPUs hoffen.

Interessanterweise macht Nvidia zwar klar, dass die Tensor-Kerne der RTX-Architektur hauptsächlich für die Leistung der Karten bei der ML-Beschleunigung verantwortlich sind, die für die Unterstützung mit Version 532.03 aufgeführten Grafikkarten umfassen jedoch auch Karten ab der GTX 700-Familie. Verzeichnen einige dieser Karten mit älterer Architektur, die über keine Tensor-Kerne verfügen, eine ähnliche zweifache Verbesserung der ML-Beschleunigung? Okay, vielleicht keine GTX 700, aber wie wäre es mit Teilen der GTX 10-Serie und 16-Serie? Wenn Sie eines davon haben und es testen, lassen Sie es uns in den Kommentaren wissen.