Chatbot treibt Telefonbetrüger zur Verzweiflung

Dali Kaafar findet es lustig, Scammer zu scammen. Weil es aber deutlich mehr Scammer als Leute wie ihn gibt, die Telefonbetrüger zur Verzweiflung treiben, hatte er die Idee für Apate.

Apate ist nach der gleichnamigen griechischen Götting der Täuschung benannt. Sie ist ein mehrsprachiger Audio-Chatbot und darauf trainiert, Scammern die Zeit zu stehlen.

Scammer 40 Minuten hingehalten – zur Belustigung der Kinder

Die Idee für Apate hatte Kaafar, als er mit seiner Familie beim Essen saß. Ein Telefonbetrüger rief an. Er verstellte sich in dem Gespräch, wodurch seine Kinder aus dem Lachen gar nicht mehr herauskamen. Nach 40 Minuten gab der Scammer schließlich auf. „Danach merkte ich: Ich habe etwas Gutes getan, weil in diesen 40 Minuten der Scammer niemand reinlegen konnte. Allerdings waren es auch 40 Minuten meiner Zeit, die ich nicht wiederbekomme“, sagt Kaafar gegenüber techxplore.com. „Also begann ich zu überlegen, wie man das automatisieren könnte.“

Da Kaafar Professor der Abteilung für Cybersicherheit an der Universität Macquarie in Australien ist, machte er sich zusammen mit seinem Team an die Arbeit. So entstand der Chatbot Apate, der mehrere Sprachen spricht und laut Kaafar glaubhafte Gespräche mit Scammern führen kann. Sein Team habe die neu entwickelte Technologie bereits patentierten lassen, die diese natürlich klingenden Gespräche ermöglicht.

➤ Mehr lesen: Ich habe 18 KI-Textgeneratoren getestet, damit ihr es nicht tun müsst

Großer Schaden durch Telefon-Betrug

Telefon-Scam nimmt weltweit zu. Zwar versuchen Provider die Nummern der Kriminellen zu blocken, durch Voice-Over-IP ist es für die aber sehr leicht Nummern zu wechseln und ihren Standort im Ausland zu verbergen. So wurden in Australien etwa seit 2020 über eine halbe Milliarde Spam-Anrufe geblockt. Trotzdem haben Australier*innen alleine 2022 über 3,1 Milliarden australische Dollar (1,87 Milliarden Euro) an die Betrüger verloren.

Das Business-Modell würde funktionieren, weil es für die Scammer niedrige Betriebskosten mit großen Einnahmen sind. Selbst wenn nur ein kleiner Prozentsatz der tausenden Anrufe pro Woche erfolgreich ist, zahlt sich das für die Kriminellen aus. Wenn sie aber so viel Zeit mit Chatbots verschwenden, dass sie weniger echte Menschen erreichen können und damit weniger Geld einnehmen, könnte das für die Scammer ein Verlustgeschäft werden – und damit das Geschäftsmodell zusammenbrechen.

➤ Mehr lesen: Behörde warnt vor “Austrian Police Department”-Anrufen

Maschen der Betrüger wurden analysiert

Apate wurde am Anfang trainiert, indem Scam-Anrufe analysiert wurden. Es wurden die klassischen Maschen und die Social-Engineering-Techniken der Betrüger identifiziert. Durch Spracherkennung und Machine Learning wurden dann die typischen „Drehbücher“ klassifiziert – also die Schemen, die die Scammer meistens anwenden.

Dann wurde der Chatbot mit Aufzeichnungen von echten Scam-Anrufen trainiert, sowie mit E-Mail-Verläufen zwischen Betrügern und ihren Opfern und Chats auf Social-Media-Plattformen. Schließlich wurde ihm mittels Natural Language Processing (NLP) und KI-Klonung von menschlichen Stimmen das Reden beigebracht. Apate kann so nicht nur flüssig sprechen, sondern auch verschiedene Persönlichkeiten annehmen. In einem Gespräch wird jeweils die eine Persona beibehalten.

Testphase mit echten Scammern

Derzeit wird Apate mit echten Scam-Anrufen trainiert. Dazu wurde ein „Honeypot“ aufgestellt: „Wir haben mehrere Telefonnummern absichtlich im Internet verteilt, zum Beispiel in Spam-Apps eingefügt und auf Websites gestellt, damit sie mehr Scam-Anrufe bekommen“, sagt Kaafar.

Bei der Auswertung der ersten Live-Tests war Kaafar positiv überrascht: „Der Chatbot hat auf schwierige Situationen gut reagiert, die wir nicht vorgesehen haben – etwa, wenn die Scammer Informationen haben wollten, auf die wir den Bot nicht trainiert hatten. Der Bot hat sich angepasst und glaubhafte Antworten geliefert.“

Je mehr Gespräche der Bot mit Scammern führt, desto besser würde er darin werden, die Mission zu erfüllen: Das Gespräch so lange wie möglich am Laufen zu halten. Derzeit schafft der Bot durchschnittlich 5 Minuten. Kaafar will, dass Apate es schafft die Betrüger 40 Minuten hinzuhalten – also zumindest seinen Rekord zu erreichen und im Idealfall zu übertreffen.

➤ Mehr lesen: Der "Microsoft-Trick": Was tun, wenn die Telefonbetrüger anrufen

Bot versus Bot

Als positiver Nebeneffekt werden Daten über die Scammer und deren vermeintliche Ziele gesammelt. So soll es später einfacher werden Betrugswellen schon früh zu erkennen und Provider zu warnen, sowie Unternehmen, die von den Scammern imitiert werden, wie etwa Banken. Diese Unternehmen können dann ihre Kund*innen warnen – hoffentlich noch bevor ein echter Mensch in die Falle der Scammer tappt.

Kaafar hofft, dass sein Chatbot zukünftig weltweit von Providern eingesetzt wird. Anstatt bekannte Scammer zu blockieren, sollte man diese zu Apate weiterleiten. Die Gespräche kosten den Betrügern dann viel Zeit und bringen keinen Gewinn, wodurch das Geschäftsmodell hinfällig ist.

Er ist sich bewusst, dass die Kriminellen auch technologisch aufrüsten: „Ich vermute, dass die Scammer mit KI ihre eigenen Chatbots trainieren werden. Irgendwann werden sich dann ihre Chatbots mit Apate-Chatbots unterhalten. Selbst wenn das passiert: Solange die Scam-Chatbots mit den Anti-Scam-Chatbots reden, statt Geld von echten Menschen zu stehlen, sehe ich das als großen Sieg.“