Dieser Chatbot gibt Telefonbetrügern einen Vorgeschmack auf ihre eigene Medizin

Eine Gruppe von Cybersicherheitsexperten in Australien entwickelt einen Chatbot, der sich als Mensch ausgeben und einem betrügerischen Telefonanruf beiwohnen kann, um die Zeit eines Betrügers zu verschwenden.

Forscher der Macquarie University in Sydney entwickeln das Chatbot-System als „Honeypot“, der Betrüger zu 40-minütigen Gesprächen verlockt, die zu nichts führen.

„Unser Modell fesselt sie, verschwendet ihre Zeit und reduziert die Zahl erfolgreicher Betrügereien.“ sagt(Öffnet in einem neuen Fenster) Dali Kaafar, Professor an der Macquarie-Universität. „Wir können ihr Geschäftsmodell stören und es ihnen deutlich schwerer machen, Geld zu verdienen.“

Das Projekt begann, nachdem Kaafar einen Spam-Anruf erhielt und den Betrüger 40 Minuten lang am Telefon hielt, während er seine Kinder beim Mittagessen unterhielt. Andere haben das Gleiche getan, was Folgendes umfassen kann: Streiche(Öffnet in einem neuen Fenster) der Anrufer. Aber auch wenn es Spaß machen oder befriedigend sein kann, einem Betrüger den Spieß umzudrehen, braucht es Zeit.

„Dann begann ich darüber nachzudenken, wie wir den gesamten Prozess automatisieren und die Verarbeitung natürlicher Sprache nutzen könnten, um einen computergestützten Chatbot zu entwickeln, der eine glaubwürdige Konversation mit dem Betrüger führen könnte“, sagt Kaafar.

Das Ergebnis ist Apate(Öffnet in einem neuen Fenster), ein Chatbot, benannt nach der griechischen Göttin der Täuschung. Es nutzt im Wesentlichen Technologie im ChatGPT-Stil und kombiniert sie mit Stimmenklonen, um einen Dummy-Menschen zu schaffen, der lange und überzeugende Gespräche mit einem Betrüger führen kann. Das Team von Kaafar hat Apate anhand von Transkripten realer Betrugsgespräche geschult, darunter Telefonanrufe, E-Mails und Social-Media-Nachrichten, damit der Bot menschenähnliche Antworten generieren kann, wenn er einen Betrugsanruf entgegennimmt.

(Quelle: Apate)

Nach Angaben der Universität hat das Team Apate anhand eines Prototyps an echten Betrugsanrufen getestet, der eine breite Palette von Persönlichkeiten annehmen kann. Um Anrufe zu provozieren, „haben wir diese ‚schmutzigen‘ Nummern überall im Internet verteilt, sie in einige Spam-Apps eingeschleust oder auf Webseiten usw. veröffentlicht, um die Wahrscheinlichkeit zu erhöhen, dass sie betrügerische Anrufe erhalten“, sagt Kaafar.

Ziel ist es, den Bot intelligent genug zu machen, um einen Betrüger zu einem 40-minütigen Gespräch zu verleiten. Derzeit beträgt die durchschnittliche Laufzeit von Apate nur 5 Minuten. Aber Kaafar bemerkt: „Wir haben festgestellt, dass die Bots ziemlich gut auf einige knifflige Situationen reagieren, mit denen wir nicht gerechnet hatten, mit denen Betrüger nach Informationen fragen, für die wir die Bots nicht trainiert haben – aber die Bots passen sich an und kommen auf uns zu.“ mit sehr glaubwürdigen Antworten.“

Die Entwicklung von Apate findet auch statt, da Betrüger bereits KI-Technologien wie Voice-Cloning und Deepfakes nutzen, um ihre eigenen Machenschaften voranzutreiben. In gewisser Weise untersucht Kaafar, ob dieselben Technologien zur Gegenwehr eingesetzt werden könnten.

„Ich schlage vor, dass das ultimative Meta-Szenario darin bestehen könnte, dass Betrüger selbst KI übernehmen und ihre eigenen Betrugs-Chatbots trainieren – die dann dazu umgeleitet werden, mit Chatbots zu sprechen, die den Telekommunikationsanbietern gehören“, sagt er und weist darauf hin, dass sein Team bereits mit einer Reihe von Gesprächen verhandelt Telekommunikationsanbieter über Apate.