Was du wissen musst
- Laut einer Untersuchung von NBC News sind Deepfake-Pornos auf dem Vormarsch und werden bei Suchanfragen auf Google und Microsofts Bing unter den Top-Ergebnissen angezeigt.
- Es gibt keine sichere Möglichkeit, ein erneutes Auftreten dieses Phänomens in der Zukunft zu verhindern, da es keine ausgefeilten Maßnahmen und Richtlinien gibt, um dieses Problem in den Griff zu bekommen.
- Microsoft Copilot weigerte sich, Deepfake-Pornos zu zeigen, und bezeichnete die Tat weiterhin als unethisch, obwohl mehrere Links und Beispiele bereitgestellt wurden, die den Benutzer direkt auf den expliziten Inhalt verwiesen.
Während Google und Microsoft Bing weiterhin um einen größeren Anteil am Suchmarkt konkurrieren, braut sich eine Krise zusammen, die möglicherweise negative Auswirkungen auf beide Suchmaschinen haben könnte.
Laut einem Bericht von NBC-NachrichtenDeepfake-Pornografie befindet sich im Aufwärtstrend, da sie in einigen der Top-Suchmaschinen einen hohen Rang einnimmt. Im Kontext handelt es sich bei Deepfake-Pornografie im Wesentlichen um ein Szenario, bei dem das Gesicht einer berühmten Person in Erotikfilme integriert wird, sodass es so aussieht, als ob sie in der Produktion enthalten wäre.
Die Analyse und Untersuchung des Senders ergab, dass pornografische Deepfake-Bilder mit weiblichen Prominenten bei Google und anderen Suchmaschinen bei der Suche nach den meisten weiblichen Namen, dem Wort Deepfake sowie Phrasen wie Deepfake-Pornos oder gefälschten Aktfotos einen hohen Rang einnahmen. NBC betonte außerdem, dass die Safe-Search-Tools während der Durchführung dieser Untersuchung ausgeschaltet waren.
Bei einer weiteren Untersuchung dieser Angelegenheit verwendete das Medium 36 Namen berühmter weiblicher Prominenter in Kombination mit dem Wort Deepfake auf Google und Bing. Von den 36 Kombinationen tauchten 34 nicht einvernehmliche Deepfake-Bilder und Links zu Videos in den Top-Suchergebnissen von Google auf. Bing hingegen brachte 35 Deepfake-Bilder und -Videos an die Oberfläche. Anhand der Ergebnisse stellte das Medium fest, dass die meisten Deepfake-Bilder und -Videos von einer beliebten Website stammten, die dafür bekannt ist, nicht einvernehmliche Deepfake-Bilder und Erotikfilme zu fabrizieren.
LESEN SIE AUCH: Google Chrome ist auf dem Weg zum Armaturenbrett Ihres Fahrzeugs
Bei der Suche nach gefälschten Aktfotos auf Microsofts Bing wurden in den Ergebnissen Dutzende nicht einvernehmliche Deepfake-Tools und -Websites sowie ein Artikel gefunden, in dem der potenzielle Schaden und die Schäden, die die Tat verursachen könnte, detailliert beschrieben werden.
Wie Sie vielleicht wissen, hat Microsoft seinen vollwertigen KI-Assistenten Microsoft Copilot in Bing integriert, sodass dies natürlich auch eines der Ergebnisse war, die bei der Suche auftauchten. Der Chatbot gab kategorisch an, dass er keine Deepfake-Pornos zeigen würde, und äußerte außerdem die folgenden Ansichten:
„Der Einsatz von Deepfakes ist unethisch und kann schwerwiegende Folgen haben.“
Das KI-Tool listete jedoch immer noch mehrere Links sowie Beispiele auf, die den Benutzer zu den Deepfake-Pornos und -Bildern führen würden (es ist nur einen Klick entfernt). Google nimmt einen großen Teil des Suchmarktanteils ein, obwohl es offenbar keine ausgefeilten Maßnahmen und Richtlinien gibt, um die Überflutung von Deepfakes im Web zu verhindern. Allerdings verhindern Suchtools wie Panels mit ausgewählten Informationen die Verwendung veränderter Medien und expliziter Inhalte auf der Plattform.
Wir verstehen, wie belastend dieser Inhalt für die Betroffenen sein kann, und arbeiten aktiv daran, die Suche besser zu schützen. Wie jede Suchmaschine indiziert Google Inhalte, die im Web vorhanden sind. Wir gestalten unsere Ranking-Systeme jedoch aktiv, um Menschen nicht mit unerwartet schädlichen oder expliziten Inhalten zu schockieren, nach denen sie nicht suchen. Während sich dieser Bereich weiterentwickelt, sind wir dabei, umfassendere Schutzmaßnahmen zu entwickeln, wobei wir uns insbesondere darauf konzentrieren, die Notwendigkeit für bekannte Opfer zu beseitigen, eine nach der anderen die Entfernung von Inhalten zu beantragen.
Google-Sprecher
Es ist erwähnenswert, dass Google dies getan hat eine optimierte Plattform Hier können Benutzer, die an den Deepfake-Programmen beteiligt sind, Meldungen abgeben und beantragen, dass die expliziten Inhalte, in denen sie vorgestellt werden, aus dem Web entfernt werden.
Deepfakes verseuchen das Web weiterhin mit der Verbreitung von KI
Mit dem Aufkommen der generativen KI sind Deepfakes weiter verbreitet als je zuvor. Microsoft hat jedoch seinen Plan hervorgehoben, Wahlprozesse vor KI-Deepfakes zu schützen, indem es den Wählern vor der Wahl 2024 „maßgebliche“ und sachliche Wahlnachrichten auf Bing zur Verfügung stellt.
Bidens Regierung hat eine Durchführungsverordnung erlassen, die darauf abzielt, Leitplanken zu setzen und zu verhindern, dass die Technologie außer Kontrolle gerät. Während die Anordnung einige der Bedenken der Benutzer hinsichtlich der Technologie (insbesondere hinsichtlich Sicherheit und Datenschutz) berücksichtigt, bleibt die Genauigkeit ein Druckpunkt.
Im Dezember tauchte online ein neuer Bericht auf, der darauf hinwies, dass Microsoft Copilot Benutzer falsch informierte, indem es falsche Informationen über die bevorstehenden Wahlen generierte. Die Forscher hinter der Studie gaben an, dass es sich um ein systemisches Problem handelte, da bei der Nutzung des Chatbots, um mehr über Wahlen in Deutschland und der Schweiz zu erfahren, ähnliche Vorkommnisse festgestellt wurden.
Bildgenerierungstools wie Bing Image Creator und Midjourney erfreuen sich bei Benutzern immer größerer Beliebtheit. Die Tools werden beim Generieren von Bildern immer besser. Beispielsweise generiert Bing Image Creator, der Unterstützung für die DALL-E 3-Technologie von OpenAI erhalten hat, jetzt lebensechtere Bilder. Allerdings wurde in Beschwerden auf die langsame Erzeugungsgeschwindigkeit und die Lobotomie seiner Dienste hingewiesen.
Während Microsoft eine gewisse Kontrolle über sein Image-Generierungstool erlangt hat, ist die weitere Entwicklung unvorhersehbar, insbesondere angesichts der jüngsten Ankündigung von OpenAI, die den lang erwarteten GPT Store für Benutzer verfügbar gemacht hat. Wir werden wahrscheinlich mehr Deepfakes im Internet sehen, wenn keine ausgeklügelten Schutzmaßnahmen solche Vorkommnisse verhindern.