Viele der Websites machen deutlich, dass sie Deepfake-Pornovideos hosten oder verbreiten – oft mit dem Wort Deepfakes oder Derivate davon in ihrem Namen. Die beiden führenden Websites enthalten jeweils 44.000 Videos, während fünf weitere mehr als 10.000 Deepfake-Videos hosten. Die meisten von ihnen haben mehrere tausend Videos, während einige nur ein paar Hundert auflisten. Einige der vom Forscher analysierten Videos wurden millionenfach angeschaut.
Die Untersuchung identifizierte außerdem weitere 300 allgemeine Pornografie-Websites, die in irgendeiner Weise nicht einvernehmliche Deepfake-Pornografie beinhalten. Der Forscher sagt, dass „Leak“-Websites und Websites, die dazu dienen, Bilder von Personen in sozialen Medien weiterzuveröffentlichen, auch Deepfake-Bilder enthalten. Eine Website, die sich mit Fotos beschäftigt, behauptet, sie habe auf 350.000 Fotos Menschen „entkleidet“.
Es ist unglaublich schwierig, das volle Ausmaß von Deepfake-Videos und -Bildern online zu messen. Es ist schwierig zu verfolgen, wo die Inhalte in den sozialen Medien geteilt werden. Beleidigende Inhalte werden auch in privaten Nachrichtengruppen oder geschlossenen Kanälen geteilt, oft von Personen, die den Opfern bekannt sind. Im September meldeten sich in der spanischen Stadt Almendralejo mehr als 20 Mädchen im Alter von 11 bis 17 Jahren, nachdem mithilfe von KI-Tools Nacktfotos von ihnen erstellt worden waren ohne ihr Wissen.
„Die Verfügbarkeit von KI-Tools zur Erstellung von Deepfake-nichteinvernehmlichen pornografischen Bildern hat erheblich zugenommen und die Nachfrage nach dieser Art von Inhalten auf Pornografieplattformen und illegalen Online-Netzwerken ist gestiegen“, sagt Asher Flynn, außerordentlicher Professor an der Monash University in Australien , der sich auf KI und technologiegestützten Missbrauch konzentriert. Dies dürfte mit neuen generativen KI-Tools nur noch zunehmen.
Der Zugang zu vielen Websites und Tools zum Erstellen von Deepfake-Videos oder -Bildern erfolgt über die Suche. Millionen von Menschen werden auf die vom Forscher analysierten Websites weitergeleitet, wobei 50 bis 80 Prozent der Menschen über die Suche den Weg zu den Websites finden. Das Auffinden von Deepfake-Videos über die Suche ist trivial und erfordert keine besonderen Kenntnisse darüber, wonach gesucht werden soll.
Das Problem ist global. Mithilfe eines VPN testete der Forscher Google-Suchen in Kanada, Deutschland, Japan, den USA, Brasilien, Südafrika und Australien. In allen Tests wurden Deepfake-Websites prominent in den Suchergebnissen angezeigt. In den Videos werden häufig Prominente, Streamer und Content-Ersteller angesprochen. Maddocks sagt, die Verbreitung von Deepfakes sei „endemisch“ geworden und sei das, was viele Forscher zuerst befürchteten, als die ersten Deepfake-Videos auftauchten Bekanntheit im Dezember 2017.