YouTube hat sein Regelwerk für die Ära der Deepfakes aktualisiert. Ab heute muss jeder, der Videos auf die Plattform hochlädt, bestimmte Verwendungen synthetischer Medien, einschließlich generativer KI, offenlegen, damit die Zuschauer wissen, dass das, was sie sehen, nicht real ist. Laut YouTube gilt dies für „realistisch“ veränderte Medien, etwa „den Eindruck zu erwecken, als ob ein echtes Gebäude Feuer gefangen hätte“ oder „das Gesicht einer Person mit dem einer anderen auszutauschen“.
Der neue Richtlinien zeigt, dass YouTube Schritte unternimmt, die dazu beitragen könnten, die Verbreitung von KI-generierten Fehlinformationen einzudämmen, während die US-Präsidentschaftswahlen näher rückten. Es fällt auch auf, was es erlaubt: KI-generierte Animationen, die sich an Kinder richten, unterliegen nicht den neuen Offenlegungsregeln für synthetische Inhalte.
YouTubes neue Richtlinien Animierte Inhalte gänzlich von der Offenlegungspflicht ausschließen. Das bedeutet, dass die aufstrebende Szene der schnell reich werdenden, KI-generierten Content-Hitler weiterhin Videos produzieren kann, die sich an Kinder richten, ohne ihre Methoden offenlegen zu müssen. Eltern, die über die Qualität hastig erstellter Kinderreimvideos besorgt sind, müssen KI-generierte Zeichentrickfilme selbst identifizieren.
Die neue Richtlinie von YouTube besagt außerdem, dass YouTuber den Einsatz von KI für „kleinere“ Bearbeitungen, die „in erster Linie ästhetischer Natur“ sind, wie Schönheitsfilter oder die Bereinigung von Video und Audio, nicht kennzeichnen müssen. Der Einsatz von KI zum „Generieren oder Verbessern“ eines Skripts oder von Bildunterschriften ist ebenfalls ohne Offenlegung gestattet.
Es gibt keinen Mangel an minderwertigen Inhalten auf YouTube, die ohne KI erstellt wurden, aber generative KI-Tools senken die Hürde für die Videoproduktion auf eine Weise, die ihre Produktion beschleunigt. Die Muttergesellschaft von YouTube, Google, gab kürzlich bekannt, dass sie ihre Suchalgorithmen optimieren würde, um die jüngste Flut von KI-generierten Clickbaits einzudämmen, die durch Tools wie ChatGPT ermöglicht wurden. Die Technologie zur Videoerzeugung ist weniger ausgereift, verbessert sich jedoch schnell.
Festgestelltes Problem
YouTube ist ein Riesenunterhaltungsriese für Kinder und stellt Konkurrenten wie Netflix und Disney in den Schatten. Die Plattform hatte in der Vergangenheit Schwierigkeiten, die große Menge an Inhalten für Kinder zu moderieren. Es ist in die Kritik geraten, weil es Inhalte hostet, die oberflächlich für Kinder geeignet oder verlockend aussehen, bei näherer Betrachtung jedoch unappetitliche Themen enthalten.
WIRED berichtete kürzlich über die Zunahme von YouTube-Kanälen, die sich an Kinder richten und offenbar KI-Tools zur Videogenerierung verwenden, um minderwertige Videos mit generischen 3D-Animationen und ungewöhnlichen Iterationen beliebter Kinderreime zu produzieren.
Die Ausnahme für Animationen in der neuen YouTube-Richtlinie könnte dazu führen, dass Eltern solche Videos nicht einfach aus den Suchergebnissen herausfiltern oder verhindern können, dass der Empfehlungsalgorithmus von YouTube automatisch KI-generierte Zeichentrickfilme abspielt, nachdem sie ihr Kind darauf eingestellt haben, beliebte und sorgfältig geprüfte Kanäle wie PBS Kids oder Ms. Rachel.
Einige problematische KI-generierte Inhalte, die sich an Kinder richten, müssen gemäß den neuen Regeln gemeldet werden. Im Jahr 2023 wird die BBC untersucht eine Welle von Videos, die sich an ältere Kinder richteten und KI-Tools nutzten, um Pseudowissenschaft und Verschwörungstheorien, einschließlich der Leugnung des Klimawandels, voranzutreiben. Diese Videos imitierten herkömmliche Live-Action-Lehrvideos – sie zeigten beispielsweise die echten Pyramiden von Gizeh –, sodass ahnungslose Zuschauer sie möglicherweise für sachlich zutreffende Lehrinhalte halten könnten. (Die Pyramidenvideos suggerierten dann weiter, dass die Strukturen Strom erzeugen könnten.) Diese neue Richtlinie würde gegen diese Art von Videos vorgehen.
„Wir verlangen von den Erstellern von Kinderinhalten, dass sie Inhalte offenlegen, die sinnvoll verändert oder synthetisch generiert wurden, wenn sie realistisch erscheinen“, sagt YouTube-Sprecherin Elena Hernandez. „Wir fordern keine Offenlegung von Inhalten, die eindeutig unrealistisch sind und den Betrachter nicht zu der Annahme verleiten, dass sie real sind.“
Die spezielle Kinder-App YouTube Kids wird mithilfe einer Kombination aus automatisierten Filtern, menschlicher Überprüfung und Nutzerfeedback kuratiert, um gut gemachte Kinderinhalte zu finden. Viele Eltern verwenden jedoch einfach die Haupt-YouTube-App, um Inhalte für ihre Kinder abzurufen, und verlassen sich dabei auf Videotitel, Auflistungen und Miniaturbilder, um zu beurteilen, was geeignet ist.
Bisher sind die meisten scheinbar KI-generierten Kinderinhalte, die WIRED auf YouTube zu finden ist, auf ähnliche Weise schlecht gemacht wie konventionellere Kinderanimationen mit geringem Aufwand. Sie haben eine hässliche Grafik, inkohärente Handlungen und keinen pädagogischen Wert – sind es aber nicht einzigartig hässlich, inkohärent oder pädagogisch wertlos.
KI-Tools machen es einfacher, solche Inhalte und in größerem Umfang zu produzieren. Einige der Kanäle, die WIRED gefunden hat, laden lange Videos hoch, einige sind weit über eine Stunde lang. Die Verpflichtung zur Kennzeichnung von KI-generierten Kinderinhalten könnte Eltern dabei helfen, Zeichentrickfilme herauszufiltern, die möglicherweise mit minimaler – oder ganz ohne – menschlicher Überprüfung veröffentlicht wurden.