Forscher der University of Chicago haben ein Tool entwickelt, das Künstlern die Möglichkeit gibt, ihre digitale Kunst zu „vergiften“, um Entwickler davon abzuhalten, Systeme der künstlichen Intelligenz (KI) für ihre Arbeit zu trainieren.
Das nach der Pflanzenfamilie „Nachtschatten“ benannte Tool, von denen einige für ihre giftigen Beeren bekannt sind, verändert Bilder so, dass ihre Einbeziehung die zum Training der KI verwendeten Datensätze mit falschen Informationen verunreinigt.
Laut einem Bericht von MITs Technology Review, Nightshade Änderungen Die Pixel eines digitalen Bildes, um ein KI-System dazu zu bringen, es falsch zu interpretieren. Als Beispiele nennt Tech Review die Überzeugung der KI, dass das Bild einer Katze ein Hund ist und umgekehrt.
Dadurch würde theoretisch die Fähigkeit der KI, genaue und sinnvolle Ausgaben zu generieren, beeinträchtigt. Wenn ein Benutzer im obigen Beispiel von der infizierten KI ein Bild einer „Katze“ anfordert, erhält er möglicherweise stattdessen einen Hund, der als Katze gekennzeichnet ist, oder eine Verschmelzung aller „Katzen“ im Trainingssatz der KI, einschließlich derjenigen, die es sind eigentlich Bilder von Hunden, die mit dem Nightshade-Tool verändert wurden.
Verwandt: Die Universal Music Group geht eine Partnerschaft ein, um die Rechte von Künstlern vor KI-Verstößen zu schützen
Ein Experte, der sich die Arbeit ansah, Vitaly Shmatikov, Professor an der Cornell University, meinte, dass Forscher „noch keine robusten Abwehrmaßnahmen gegen diese Angriffe kennen“. Dies bedeutet, dass selbst robuste Modelle wie ChatGPT von OpenAI gefährdet sein könnten.
Das Forschungsteam hinter Nightshade wird von Professor Ben Zhao von der University of Chicago geleitet. Das neue Tool ist eigentlich eine Erweiterung ihrer bestehenden Künstlerschutzsoftware angerufen Glasur. In ihrer früheren Arbeit entwickelten sie eine Methode, mit der ein Künstler den Stil seiner Kunstwerke verschleiern oder „verglasen“ konnte.
Ein Künstler, der beispielsweise ein Kohleporträt erstellt hat, könnte so verglast werden, dass es für ein KI-System als moderne Kunst erscheint.
Laut Technology Review wird Nightshade letztendlich in Glaze implementiert, was derzeit der Fall ist verfügbar kostenlos zur Nutzung im Internet oder zum Herunterladen auf der Website der University of Chicago.