Meta gibt an, dass sein derzeitiger Ansatz zur Kennzeichnung von KI-generierten Inhalten zu eng ist und dass das Unternehmen bald das Abzeichen „Made with AI“ für eine breitere Palette von Videos, Audiodateien und Bildern anbringen wird. Ab Mai wird das Label an Medien angebracht, wenn branchenübliche KI-Bildindikatoren erkannt werden oder wenn Benutzer bestätigen, dass sie KI-generierte Inhalte hochladen. Das Unternehmen kann die Kennzeichnung auch auf Posts anwenden, die von Faktenprüfern markiert werden, allerdings wird es Inhalte, die als falsch oder verändert identifiziert wurden, wahrscheinlich herabstufen.
Das Unternehmen kündigte die Maßnahme im Anschluss an eine Entscheidung des Aufsichtsgremiums zu einem Video an, das böswillig bearbeitet wurde, um zu zeigen, wie Präsident Joe Biden seine Enkelin unangemessen berührt. Das Aufsichtsgremium stimmte der Entscheidung von Meta zu, das Video nicht von Facebook zu entfernen, da es nicht gegen die Regeln des Unternehmens bezüglich manipulierter Medien verstößt. Der Vorstand schlug jedoch vor, dass Meta „diese Politik angesichts der Zahl der Wahlen im Jahr 2024 schnell überdenken sollte“.
Meta sagt, es stimme mit der Empfehlung des Gremiums überein, „dass die Bereitstellung von Transparenz und zusätzlichem Kontext jetzt der bessere Weg ist, manipulierte Medien anzugehen und das Risiko einer unnötigen Einschränkung der Meinungsfreiheit zu vermeiden, daher behalten wir diese Inhalte auf unseren Plattformen, damit wir sie mit Labels versehen können.“ und Kontext.“ Das Unternehmen fügte hinzu, dass es im Juli damit aufhören werde, Inhalte zu entfernen, die ausschließlich auf Verstößen gegen seine Richtlinie zu manipulierten Videos beruhen. „Dieser Zeitplan gibt den Menschen Zeit, den Selbstoffenlegungsprozess zu verstehen, bevor wir aufhören, die kleinere Teilmenge manipulierter Medien zu entfernen“, sagte Monika Bickert, Vizepräsidentin für Inhaltspolitik bei Meta schrieb in einem Blogbeitrag.
Meta hatte fotorealistische Bilder, die Benutzer mit dem Meta AI-Tool erstellen, mit der Bezeichnung „Imagined with AI“ versehen. Die aktualisierte Richtlinie gehe über die Kennzeichnungsempfehlungen des Oversight Board hinaus, sagt Meta. „Wenn wir feststellen, dass digital erstellte oder veränderte Bilder, Videos oder Audiodaten ein besonders hohes Risiko darstellen, die Öffentlichkeit in einer wichtigen Angelegenheit materiell zu täuschen, fügen wir möglicherweise eine auffälligere Kennzeichnung hinzu, damit die Menschen mehr Informationen und Kontext haben“, schrieb Bickert.
Obwohl das Unternehmen generell davon überzeugt ist, dass Transparenz und die Möglichkeit, dass entsprechend gekennzeichnete KI-generierte Fotos, Bilder und Audiodaten auf seinen Plattformen verbleiben, der beste Weg in die Zukunft ist, wird es dennoch Material löschen, das gegen die Regeln verstößt. „Wir werden Inhalte entfernen, unabhängig davon, ob sie von KI oder einer Person erstellt wurden, wenn sie gegen unsere Richtlinien gegen Wählereinmischung, Mobbing und Belästigung, Gewalt und Hetze oder gegen andere Richtlinien unserer Gemeinschaftsstandards verstoßen“, bemerkte Bickert.
Das Oversight Board teilte Engadget in einer Erklärung mit, dass es erfreut sei, dass Meta seine Entscheidung getroffen habe an Bord. Es fügte hinzu, dass es die Umsetzung dieser Maßnahmen durch das Unternehmen später in einem Transparenzbericht überprüfen werde.
„Während es immer wichtig ist, Wege zu finden, die Meinungsfreiheit zu wahren und gleichzeitig vor nachweisbarem Offline-Schaden zu schützen, ist dies im Kontext eines so wichtigen Wahljahres besonders wichtig“, sagte der Vorstand. „Daher freuen wir uns, dass Meta damit beginnen wird, ein breiteres Spektrum an Video-, Audio- und Bildinhalten als „Mit KI erstellt“ zu kennzeichnen, wenn sie KI-Bildindikatoren erkennen oder wenn Menschen angeben, dass sie KI-Inhalte hochgeladen haben. Dies wird den Menschen mehr bieten.“ Kontext und Transparenz für weitere Arten manipulierter Medien zu schaffen und gleichzeitig Beiträge zu entfernen, die auf andere Weise gegen die Meta-Regeln verstoßen.
Update 05.04. 12:55 Uhr ET: Kommentar vom Oversight Board hinzugefügt.