Ein Großteil der Aufregung um KI hat sich auf Chatbots verlagert, aber die Bilderzeugung mit Tools wie Stable Diffusion bleibt beliebt. Es wurde nun gezeigt, dass Stable Diffusion auf einem Android-Telefon läuft, ohne dass externe Server erforderlich sind.
Qualcomm hat einige Bilder gezeigt, die von Stable Diffusion lokal auf einem Android-Telefon generiert wurden. Während Sie ein Bilderzeugungstool suchen, eine Eingabeaufforderung eingeben und in der Cloud generieren konnten, werden diese vollständig lokal mithilfe des AI-Stacks von Qualcomm und natürlich der Hardware in Ihrem Smartphone generiert.
Es kann leicht vergessen werden, da wir seine Verwendung nicht wirklich bemerken, aber viele Smartphones sind heutzutage mit dedizierter KI-Beschleunigungshardware ausgestattet. Qualcomm sagt, dass es die AI Engine verwendet, die mit dem Snapdragon 8 Gen 2 SoC geliefert wird, um diese Ergebnisse zu erzielen. Geben Sie einfach eine Eingabeaufforderung ein, und Stable Diffusion generiert ein Bild für Sie, das versucht, dieser Eingabe möglichst genau zu entsprechen.
Qualcomm sagte in einem Blogbeitrag: „Wir haben das Qualcomm AI Engine Direct Framework verwendet, um das neuronale Netzwerk in ein Programm abzubilden, das effizient auf unserer Zielhardware läuft. […] Das Ergebnis dieser Full-Stack-Optimierung ist die Ausführung von Stable Diffusion auf einem Smartphone in weniger als 15 Sekunden für 20 Inferenzschritte, um ein Bild mit 512 × 512 Pixeln zu generieren – dies ist die schnellste Inferenz auf einem Smartphone und vergleichbar mit Cloud-Latenz.“
Sie können Stable Diffusion noch nicht lokal auf Ihrem Android-Telefon verwenden – dies ist nur eine technische Demonstration. Es könnte schließlich zu einer öffentlich verfügbaren App werden, aber Qualcomm verspricht noch nichts.
Quelle: Qualcomm