Viele Unternehmen und Plattformen ringen mit der Frage, wie sie mit zunehmender Verbreitung von KI-generierten Inhalten umgehen sollen. Für viele ist es ein zentrales Anliegen, deutlich zu machen, dass ein KI-Modell ein Foto, Video oder Audiostück erstellt hat. Zu diesem Zweck hat zur Kennzeichnung von Videos, die mit künstlicher Intelligenz erstellt wurden.
Ab heute verlangt die Plattform aus Gründen der Transparenz von jedem, der ein realistisch aussehendes Video hochlädt, das „mit veränderten oder synthetischen Medien erstellt wurde, einschließlich“ eine Kennzeichnung. YouTube definiert realistische Inhalte als alles, was ein Zuschauer „leicht mit einer tatsächlichen Person, einem Ereignis oder einem Ort verwechseln“ könnte.
Wenn ein Ersteller eine synthetische Version der Stimme einer echten Person verwendet, um ein Video zu kommentieren, oder das Gesicht einer Person durch das einer anderen Person ersetzt, muss er eine Bezeichnung hinzufügen. Sie müssen die Offenlegung auch dann einschließen, wenn sie Aufnahmen eines realen Ereignisses oder Ortes verändern (z. B. indem sie ein bestehendes Stadtbild verändern oder den Eindruck erwecken, als stünde ein echtes Gebäude in Flammen).
YouTube gibt an, dass ein Video möglicherweise mit einem dieser Labels versehen wird, wenn der Ersteller dies nicht getan hat, „insbesondere wenn der veränderte oder synthetische Inhalt das Potenzial hat, Menschen zu verwirren oder in die Irre zu führen“. Das Team weist darauf hin, dass YouTube den YouTubern zwar etwas Zeit geben möchte, sich an die neuen Regeln zu gewöhnen, YouTube aber wahrscheinlich diejenigen bestrafen wird, die die Richtlinie dauerhaft missachten, indem es kein Label einfügt, obwohl dies eigentlich der Fall sein sollte.
Diese Labels werden in den kommenden Wochen auf YouTube erscheinen, zunächst in der mobilen App und dann auf Desktops und Fernsehern. Sie erscheinen meist in der erweiterten Beschreibung und weisen darauf hin, dass das Video „veränderte oder synthetische Inhalte“ enthält, und fügen hinzu, dass „Ton oder Bilder erheblich bearbeitet oder digital generiert wurden“.
Bei sensibleren Themen (z. B. Nachrichten, Wahlen, Finanzen und Gesundheit) platziert YouTube jedoch direkt auf dem Videoplayer ein Label, um es stärker hervorzuheben.
Ersteller müssen das Label nicht angeben, wenn sie generative KI nur zur Unterstützung bei Dingen wie der Skripterstellung, der Ideenfindung für Videos oder der automatischen Generierung von Untertiteln verwenden. Bei „eindeutig unrealistischen Inhalten“ oder wenn Änderungen keine Auswirkungen haben, sind keine Labels erforderlich. Das Anpassen von Farben oder die Verwendung von Spezialeffekten wie dem Hinzufügen von Hintergrundunschärfe allein erfordert nicht, dass Ersteller die geänderte Inhaltsbezeichnung verwenden. Auch die Anwendung von Beleuchtungsfiltern, Schönheitsfiltern oder anderen Verbesserungen ist nicht möglich.
Darüber hinaus arbeitet YouTube nach eigenen Angaben noch an einem überarbeiteten Deaktivierungsantragsverfahren für synthetische oder veränderte Inhalte, die das Gesicht oder die Stimme einer echten, identifizierbaren Person darstellen. Es ist geplant, in Kürze weitere Einzelheiten zu diesem aktualisierten Verfahren bekannt zu geben.