Das Oversight Board von Meta übernimmt erneut die Regeln des sozialen Netzwerks für KI-generierte Inhalte. Das Gremium hat zwei Fälle angenommen, in denen es um von KI erstellte explizite Bilder von Persönlichkeiten des öffentlichen Lebens geht.
Während die Regeln von Meta bereits Nacktheit auf Facebook und Instagram verbieten, sagte der Vorstand in einer Erklärung, dass er sich mit der Frage befassen wolle, ob „die Richtlinien und Durchsetzungspraktiken von Meta wirksam gegen explizite, von KI generierte Bilder vorgehen.“ Manchmal auch als „Deepfake-Porno“ bezeichnet, sind KI-generierte Bilder von weiblichen Prominenten, Politikern und anderen Persönlichkeiten des öffentlichen Lebens zu einer immer prominenteren Form der Online-Belästigung geworden und haben eine Welle von . Mit den beiden Fällen könnte das Oversight Board Meta dazu drängen, neue Regeln zu verabschieden, um solche Belästigungen auf seiner Plattform zu bekämpfen.
Das Aufsichtsgremium gab an, dass es die beiden Persönlichkeiten des öffentlichen Lebens, die im Mittelpunkt jedes Falles stehen, nicht namentlich nennt, um weitere Belästigungen zu vermeiden, beschrieb jedoch die Umstände zu jedem Beitrag.
In einem Fall handelt es sich um einen Instagram-Beitrag, der ein KI-generiertes Bild einer nackten Inderin zeigt und von einem Konto gepostet wurde, das „nur KI-generierte Bilder von Inderinnen teilt“. Der Beitrag wurde Meta gemeldet, aber der Bericht wurde nach 48 Stunden geschlossen, da er nicht überprüft wurde. Derselbe Benutzer legte gegen diese Entscheidung Berufung ein, aber die Berufung wurde ebenfalls geschlossen und nie geprüft. Meta entfernte den Beitrag schließlich, nachdem der Benutzer beim Oversight Board Berufung eingelegt hatte und das Board zugestimmt hatte, den Fall anzunehmen.
Im zweiten Fall ging es um einen Facebook-Beitrag in einer Gruppe, die sich der KI-Kunst widmete. Der fragliche Beitrag zeigte „ein KI-generiertes Bild einer nackten Frau, während ein Mann ihre Brust begrapscht.“ Die Frau sollte „einer amerikanischen Persönlichkeit des öffentlichen Lebens“ ähneln, deren Name auch in der Überschrift des Beitrags stand. Der Beitrag wurde automatisch entfernt, da er zuvor gemeldet wurde und die internen Systeme von Meta ihn dem vorherigen Beitrag zuordnen konnten. Der Benutzer legte gegen die Entscheidung, es zu entfernen, Berufung ein, die Berufung wurde jedoch „automatisch geschlossen“. Der Benutzer legte daraufhin Berufung beim Oversight Board ein, das sich bereit erklärte, den Fall zu prüfen.
In einer Erklärung sagte Helle Thorning-Schmidt, Co-Vorsitzende des Aufsichtsgremiums, dass das Gremium die beiden Fälle aus verschiedenen Ländern aufgegriffen habe, um mögliche Unterschiede bei der Durchsetzung der Meta-Richtlinien zu bewerten. „Wir wissen, dass Meta Inhalte in einigen Märkten und Sprachen schneller und effektiver moderieren kann als in anderen“, sagte Thorning-Schmidt. „Anhand eines Falles aus den USA und eines aus Indien wollen wir prüfen, ob Meta alle Frauen weltweit auf faire Weise schützt.“
Das Aufsichtsgremium bittet in den nächsten zwei Wochen um öffentliche Stellungnahmen und wird seine Entscheidung irgendwann in den nächsten Wochen zusammen mit politischen Empfehlungen für Meta veröffentlichen. Ein ähnlicher Prozess mit einem irreführend bearbeiteten Video führte kürzlich dazu, dass Meta mehr KI-generierte Inhalte auf seiner Plattform bereitstellte.