Porno-Bots sind mehr oder weniger tief in den sozialen Medien verankert, obwohl die Plattformen sich nach besten Kräften bemühen, sie auszumerzen. Wir haben uns daran gewöhnt, dass sie die Kommentarbereiche von Memes und Beiträgen von Prominenten überschwemmen, und wenn Sie ein öffentliches Konto haben, ist Ihnen wahrscheinlich aufgefallen, dass sie Ihre Geschichten ansehen und mögen. Aber ihr Verhalten ändert sich ständig ein wenig, um automatisierten Filtern immer einen Schritt voraus zu sein, und jetzt wird es langsam merkwürdig.
Während Porno-Bots einst meist versuchten, Menschen mit anzüglichen oder sogar offen schlüpfrigen Hooklines anzulocken (wie dem allseits beliebten „SCHAU NICHT AUF MEINE GESCHICHTE, wenn du nicht MASTURBIEREN willst!“), ist der Ansatz Heutzutage ist es etwas abstrakter. Es ist mittlerweile üblich, dass Bot-Konten ein einzelnes, harmloses, für das Thema völlig irrelevantes Wort posten, manchmal begleitet von einem oder zwei Emojis. In einem Beitrag, über den ich kürzlich gestolpert bin, haben fünf verschiedene Spam-Konten, die alle dasselbe Profilbild verwenden – eine Nahaufnahme einer Person in einem roten Tanga, die ihre Arschbacken spreizt – kommentiert: „Makellos 🌿“, „Musik 🎶“, „Saphir 💙“, „ Gelassenheit 😌“ und „Glaube 🙏.“
Ein anderer Bot – sein Profilbild ist eine kopflose Frontalaufnahme des in Unterwäsche gekleideten Körpers einer anderen Person – kommentierte denselben Meme-Beitrag mit „Michigan 🌟.“ Sobald Sie sie bemerkt haben, ist es schwierig, nicht damit anzufangen, ein mentales Protokoll der lächerlichsten Vorfälle zu führen. „🦄Landwirtschaft“, schrieb ein Bot. In einem anderen Beitrag: „Terror 🌟“ und „😍🙈Insekt.“ Die bizarren Ein-Wort-Kommentare sind überall; Die Porno-Bots scheinen völlig den Überblick verloren zu haben.
Tatsächlich sehen wir das Aufkommen eines weiteren Ausweichmanövers, das Betrüger nutzen, um ihren Bots zu helfen, an der Erkennungstechnologie von Meta vorbeizukommen. Das, und sie könnten etwas faul werden.
„Sie wollen einfach nur in das Gespräch einsteigen, daher macht es für sie wahrscheinlich keinen Sinn, einen zusammenhängenden Satz formulieren zu müssen“, sagte Satnam Narang, ein Forschungsingenieur beim Cybersicherheitsunternehmen Tenable, gegenüber Engadget. Sobald Betrüger ihre Bots ins Spiel bringen, können sie andere Bots dazu veranlassen, diese Kommentare mit „Gefällt mir“-Angaben zu markieren, um sie weiter zu steigern, erklärt Narang, der seit den MySpace-Tagen Social-Media-Betrügereien untersucht.
Die Verwendung zufälliger Wörter hilft Betrügern, dem Radar von Moderatoren zu entgehen, die möglicherweise nach bestimmten Schlüsselwörtern suchen. In der Vergangenheit haben sie Methoden wie das Einfügen von Leerzeichen oder Sonderzeichen zwischen jedem Buchstaben von Wörtern ausprobiert, die vom System möglicherweise markiert wurden. „Man kann ein Konto nicht unbedingt sperren oder schließen, wenn nur das Wort ‚Insekt‘ oder ‚Terror‘ kommentiert wird, denn das ist sehr harmlos“, sagte Narang. „Aber wenn sie sagen: ‚Überprüfen Sie meine Geschichte‘ oder so … könnte das ihre Systeme lahm legen. Es handelt sich um eine Umgehungstechnik, die offensichtlich funktioniert, wenn Sie sie auf den Konten großer Namen sehen. Es ist einfach ein Teil dieses Tanzes.“
Dieser Tanz ist ein Tanz, den Social-Media-Plattformen und Bots schon seit Jahren treiben, scheinbar ohne Ende. Meta hat erklärt, dass es verhindert, dass täglich Millionen gefälschter Konten in seiner App-Suite erstellt werden, und „Millionen weitere, oft innerhalb von Minuten nach der Erstellung“ abfängt. Dennoch sind Spam-Konten immer noch so weit verbreitet, dass sie in Scharen in stark frequentierten Posts auftauchen und sogar in die Story-Aufrufe von Benutzern mit wenigen Followern gelangen.
Das Neueste des Unternehmens Transparenzbericht, das Statistiken zu den von ihm entfernten gefälschten Konten enthält, zeigt, dass Facebook allein im letzten Jahr über eine Milliarde gefälschte Konten gelöscht hat, bietet jedoch derzeit keine Daten für Instagram an. „Spammer nutzen jede ihnen zur Verfügung stehende Plattform, um Menschen im Internet zu täuschen und zu manipulieren und passen ihre Taktiken ständig an, um der Durchsetzung zu entgehen“, sagte ein Meta-Sprecher. „Deshalb investieren wir stark in unsere Durchsetzungs- und Überprüfungsteams und verfügen über spezielle Erkennungstools zur Identifizierung von Spam.“
Im vergangenen Dezember führte Instagram eine Reihe von Tools ein, die den Nutzern mehr Einblick in den Umgang mit Spam-Bots geben und den Erstellern von Inhalten mehr Kontrolle über ihre Interaktionen mit diesen Profilen geben sollen. Kontoinhaber können jetzt beispielsweise Follow-Anfragen aus Profilen, die als potenzieller Spam gekennzeichnet sind, in großen Mengen löschen. Instagram-Nutzern ist möglicherweise auch aufgefallen, dass am Ende einiger Beiträge häufiger der Abschnitt „Versteckte Kommentare“ erscheint, in dem als anstößig oder Spam gekennzeichnete Kommentare ausgeschlossen werden können, um Begegnungen mit ihnen zu minimieren.
„Es ist ein Schlagabtausch“, sagte Narang, und die Betrüger gewinnen. „Du denkst, du hast es, aber dann taucht es einfach woanders auf.“ Er sagt, Betrüger seien sehr geschickt darin, herauszufinden, warum sie gesperrt wurden, und neue Wege zu finden, um die Entdeckung entsprechend zu umgehen.
Man könnte annehmen, dass Social-Media-Nutzer heutzutage zu schlau wären, um auf offensichtlich von Bots geschriebene Kommentare wie „Michigan 🌟“ hereinzufallen, aber laut Narang hängt der Erfolg von Betrügern nicht unbedingt davon ab, dass sie unglückliche Opfer dazu verleiten, ihr Geld herauszugeben. Sie nehmen oft an Partnerprogrammen teil, und alles, was sie brauchen, ist, die Leute dazu zu bringen, eine Website zu besuchen – meist mit der Marke „Erwachsenen-Dating-Dienst“ oder ähnliches – und sich kostenlos anzumelden. Der „Link in Bio“ der Bots führt normalerweise zu einer Zwischenseite, die eine Handvoll URLs hostet, die möglicherweise XXX-Chats oder Fotos versprechen und zu dem betreffenden Dienst führen.
Betrüger können für jeden echten Benutzer, der ein Konto erstellt, einen kleinen Geldbetrag, beispielsweise einen Dollar oder so, erhalten. Für den Fall, dass sich jemand mit einer Kreditkarte anmeldet, wäre der Kickback viel höher. „Selbst wenn ein Prozent davon [the target demographic] Wenn du dich anmeldest, verdienst du etwas Geld“, sagte Narang. „Und wenn Sie mehrere, unterschiedliche Konten betreiben und unterschiedliche Profile haben, die diese Links verbreiten, nehmen Sie wahrscheinlich einen ordentlichen Teil der Veränderung vor.“ Laut Narang haben Instagram-Betrüger wahrscheinlich auch Spam-Bots auf TikTok, X und anderen Websites. “Das alles summiert sich.”
Der Schaden durch Spam-Bots geht über die Kopfschmerzen hinaus, die sie den wenigen, die dazu verleitet wurden, sich für einen fragwürdigen Dienst anzumelden, letztendlich bereiten können. Porno-Bots verwenden in erster Linie Fotos von echten Personen, die sie aus öffentlichen Profilen gestohlen haben, was peinlich sein kann, wenn das Spam-Konto erst einmal einen Freund erstellt und alle Personen anfragt, die die abgebildete Person kennt (ich spreche hier aus persönlicher Erfahrung). Der Prozess, Meta dazu zu bringen, diese geklonten Konten zu entfernen, kann ein kräftezehrender Aufwand sein.
Ihre Präsenz trägt auch zu den Herausforderungen bei, denen echte Content-Ersteller in der Sex- und sexbezogenen Industrie in den sozialen Medien gegenüberstehen, die viele als Möglichkeit nutzen, mit einem breiteren Publikum in Kontakt zu treten, mit denen sie jedoch ständig kämpfen müssen, um nicht von der Plattform verdrängt zu werden. Betrügerische Instagram-Konten können Tausende von Followern anlocken, potenzielle Besucher von den echten Konten ablenken und Zweifel an ihrer Legitimität aufkommen lassen. Und echte Konten werden bei Metas Jagd nach Bots manchmal als Spam gekennzeichnet, wodurch diejenigen mit anstößigen Inhalten noch stärker dem Risiko einer Kontosperrung und Sperrung ausgesetzt sind.
Leider gibt es für das Bot-Problem keine einfache Lösung. „Sie finden einfach ständig neue Wege [moderation]„Wir entwickeln neue Pläne“, sagte Narang. Betrüger werden immer dem Geld und damit auch der Menge auf der Spur sein. Während sich Porno-Bots auf Instagram so weit entwickelt haben, Unsinn zu posten, um Moderatoren auszuweichen, posten anspruchsvollere Bots, die auf TikTok eine jüngere Bevölkerungsgruppe verfolgen, einigermaßen glaubwürdige Kommentare zu Taylor-Swift-Videos, sagt Narang.
Das nächste große Ding in den sozialen Medien wird früher oder später unweigerlich auftauchen, und sie werden auch dorthin gehen. „Solange Geld zu verdienen ist“, sagte Narang, „wird es Anreize für diese Betrüger geben.“