Weder Ja! Neo und Super Crazy Kids antworteten auf die Bitte von WIRED um einen Kommentar.
Wenige Grenzen
Ja! Neo, Super Crazy Kids und andere ähnliche Kanäle haben ein gemeinsames Erscheinungsbild: Sie bieten 3D-Animationen in einem ähnlichen Stil wie Cocomelon, YouTubes beliebtester Kinderkanal in den USA. (Dana Steiner, eine Sprecherin von Cocomelons Muttergesellschaft Moonbug, sagt, dass derzeit keine ihrer Shows KI verwendet, „aber unser talentiertes Kreativteam erforscht ständig neue Tools und Technologien.“)
Diese vertraute Ästhetik bedeutet, dass ein vielbeschäftigter Elternteil, der schnell auf einen Bildschirm blickt, den KI-Inhalt möglicherweise für ein Programm verwechselt, das er überprüft hat. Und obwohl es nicht besonders gut gemacht ist, ist der Inhalt der von diesen Kanälen veröffentlichten Videos tendenziell minderwertig, genauso wie so viel der heutigen, von Menschenhand geschaffenen Kinderunterhaltung minderwertig ist – frenetisch, laut, unoriginell.
YouTube ist dabei, neue Richtlinien für KI-generierte Inhalte einzuführen, obwohl das Unternehmen nicht beabsichtigt, diese wesentlich einzuschränken. „YouTube wird in Kürze Inhaltskennzeichnungen und Offenlegungspflichten für Ersteller einführen, die Inhalte hochladen, die realistisch verändertes oder synthetisches Material enthalten, einschließlich Inhalten, die sich an Kinder und Familien richten“, sagt YouTube-Sprecherin Elena Hernandez.
Als WIRED sich erkundigte, ob YouTube proaktiv nach KI-generierten Inhalten suchen und diese als solche kennzeichnen werde, sagte Hernandez, dass weitere Details später bekannt gegeben würden, dass man sich jedoch in erster Linie auf freiwillige Offenlegung stützen wolle. „Unser Hauptansatz wird darin bestehen, von den Urhebern selbst zu verlangen, offenzulegen, wenn sie veränderte oder synthetische Inhalte erstellt haben, die realistisch sind.“ Das Unternehmen sagt, dass es eine Kombination aus automatisierten Filtern, menschlicher Überprüfung und Benutzerfeedback verwendet, um zu bestimmen, welche Inhalte im Internet zugänglich sind stärker eingeschränkt YouTube Kids-Dienst.
Einige befürchten, dass YouTube und Eltern auf der ganzen Welt nicht ausreichend auf die kommende Welle von KI-generierten Kinderinhalten vorbereitet sind. Der Neurowissenschaftler Erik Hoel hat sich kürzlich einige der Tutorials zum Erstellen von Inhalten für Kinder mit KI sowie einige Videos angesehen, von denen er vermutete, dass sie mithilfe der Technologie erstellt wurden. Hoel war von dem, was er sah, so verunsichert, dass er sich gegen das Konzept seines Substacks aussprach, unter anderem indem er „Super Crazy Kids“ hervorhob. „Überall im Land werden Kleinkinder vor iPads geworfen, synthetischen Abwässern ausgesetzt und selbst bei den Medien, die sie konsumieren, ohne menschlichen Kontakt“, sagt er schrieb. „Es gibt kein anderes Wort als dystopisch.“
Hoels Warnung erinnert an den letzten großen Skandal um Kinder-YouTube mit dem Spitznamen „Elsagate“. Es begann im Jahr 2017, als die Leute begannen, es zu bemerken surreale und verstörende Videos richtet sich an Kinder auf der Plattform und zeigt oft beliebte Charaktere wie Elsa aus Disney GefrorenSpiderman und der titelgebende Schweineheld aus Peppa Pig. Während KI-generierte Inhalte noch keinen ähnlichen Tiefpunkt erreicht haben, scheinen ihre Ersteller ein ähnliches Ziel zu verfolgen, nämlich die Aufmerksamkeit auf die automatisierten Empfehlungen von YouTube zu lenken.
Kreativer Baby Padre
Einige unbekanntere KI-Videokanäle betreten bereits seltsames Terrain. Der Sender Brain Nursey Egg TV beispielsweise gibt seinen verstörenden Videos Namen wie „Cars for Kids“. Trailer zum Slide mit Texten.“ Die Beschreibung des Videos besteht aus einer gigantischen Reihe von Schlüsselwörtern, darunter „Disney Junior elimi birakma 24 chima sorozat BeamNG-Destruction ali babanın çiftliği şarkısı la brujita creative baby padre finger.“
Das handlungslose Video ist eine Mischung aus fehlerhaften Bildern wie schwebenden Augäpfeln und schmelzenden Farbblöcken. Der Soundtrack zeigt applaudierende Kinder, eine zählende Roboterstimme, einzelne lachende Babys und verschiedene Roboterstimmen, die in scheinbar zufälligen Abständen das Wort „YouTube“ intonieren. „Dies hat durchweg Stimmen erzeugt und basiert entweder auf einem KI-generierten Skript oder ist möglicherweise eines der größten und am meisten unterschätzten Werke surrealistischer Videokunst der letzten Zeit“, sagt Colman von Reality Defender. Wie auch immer, diese Art von Inhalten hat noch nicht viel Anklang gefunden – einige Videos des Kanals haben nur eine Handvoll Aufrufe. Brain Nursery Egg TV bietet keine E-Mail-Adresse oder andere Möglichkeiten zur Kontaktaufnahme mit den Betreibern des Kanals.