Enkeltrick und Schockanrufe treffen auf KI

• Mithilfe des Einsatzes von KI werden Betrugsmaschen wie der Enkeltrick oder die sogenannten Schockanrufe noch perfider.
• Die Betrüger nutzen KI, um uns bekannte Stimmen nachzuahmen und damit die Anrufe noch glaubwürdiger wirken zu lassen.
• Rund 8.000 Telefonnummern hat die Bundesnetzagentur 2023 wegen betrügerischer Verwendung schon abgeschaltet, 6.000 allein wegen der Nutzung für den Enkeltrick.

„Ziel dieser Anrufe ist immer ihr Geld. Niemals hohe Bargeldsummen oder Wertgegenstände an Fremde oder Unbekannte geben. Wenn Sie dies tun, sind Schmuck und/oder Geld weg.“

Infoblatt „Achtung Schockanrufe“ der Polizei Hamburg

Bekannte Tricks – neue Qualität

„Auch nach 20 Jahren hat die Bekämpfung von Rufnummernmissbrauch nichts von ihrer Bedeutung verloren. Immer wieder tauchen neue Szenarien auf und wir gehen konsequent dagegen vor,“ sagte der Präsident der Bundesnetzagentur Klaus Müller im Umfeld der Bekanntgabe der abgeschalteten Telefonnummern Anfang September. Ein solches „neues Szenario“ entsteht gerade durch die Nutzung von Künstlicher Intelligenz kurz KI. Verbrecher nutzen die KI immer stärker, um Stimmen von Personen zu klonen, die den Opfern bekannt sind. "Damit werden die Schockanrufe noch heimtückischer und es entwickelt sich eine neue Kriminalitätsform,“ erklärte der stellvertretende Bundesvorsitzende der Polizeigewerkschaft Ralf Kusterer.

Wie funktioniert Voice-Clooning?

Im Internet können Nutzerinnen oder Nutzer aber auch Betrügerinnen und Betrüger auf unterschiedliche Formen künstlicher Stimmen zugreifen. Zum einen werden „fertige Stimmen“ angeboten, die dann individuell formulierte Texte sprechen können. Zum anderen können Stimmen nachgebildet werden. Dafür braucht die KI nur einige Sprachaufnahmen der Person, deren Stimme nachgebildet werden soll. Per maschinellem Lernen trainiert der Computer die Stimme und bietet einen ähnlich klingenden Klon an. Bei Bedarf kann die Stimme später individuell in Bezug auf Stimmkomponenten wie Sprechpausen, Stimmhöhe etc. auch weiter angepasst werden. Die Polizei Duisburg warnt dazu, dass die „KI-gesteuerte Stimmenimitation es den Betrügern ermöglicht, die typischen Nuancen und Merkmale einer Stimme genau nachzuahmen und Emotionen wie Verzweiflung, Angst oder Wut authentisch zu übermitteln.“

Der Enkeltrick

„Ja hallo, ich bin's, deine Enkelin. Ich hatte einen Unfall, bin verletzt, aber es geht mir gut. Ich war auch nicht Schuld. Aber die andere Frau, die muss operiert werden. Wir wollen das ohne viel Tamtam regeln. Und das kostet Geld...,“ so oder ähnlich steigen die Betrüger telefonisch in den Enkeltrick ein. Die Polizei NRW hat auf einer Extra-Website mögliche Einstiegsszenarien dieses Betrugs aufgeführt. Zielgruppe des Betrugs sind meist ältere Menschen. Ihnen wird vorgespielt, Ihre Enkelin bzw. ihr Enkel würden sich in einer Notsituation befinden. Diese Betrugsform bekommt mit KI eine ganz neue Dimension, wie Ralf Kusterer von der Polizeigewerkschaft gegenüber dem mdr erläutert: „Stellen Sie sich vor, eine ihnen bestens bekannte Stimme ruft sie an (…). Eine Stimme, die sie nicht von der 'echten Person' unterscheiden können.“

Schockanrufe

Die gleiche Gefahr durch Voice-Clooning, also durch authentisch klingende aber künstliche produzierte Stimmen besteht auch bei Schockanrufen. Dabei werden die Opfer von vermeintlichen Polizisten, Behördenmitgliedern oder Angehörigen angerufen. Die Fake-Personen gaukeln eine Notsituation vor, z.B. dass ein Angehöriger oder Bekannter in einen Unfall verwickelt worden sei oder in Schwierigkeiten stecke. Dabei haben die Betrüger häufig schon Hintergrund-Informationen wie beispielsweise Namen, Verwandtschaftsverhältnisse oder besondere Kennzeichen recherchiert, um den Anruf möglichst echt klingen zu lassen. Ziel dieser Anrufe ist es, „die Opfer so aus der Reserve zu locken, dass diese ohne Nachdenken handeln und schnell finanzielle Forderungen erfüllen, um die vermeintliche Notlage zu beheben.“ Mit einer gefakten Stimme wirken auch diese Betrugs-Anrufe zukünftig viel glaubwürdiger. Die Polizei Duisburg schreibt: „Der Schockanruf ist eine hinterhältige Form des Telefonbetrugs, der mithilfe von künstlicher Intelligenz noch gefährlicher ist. Die fortschreitende Technologie erfordert von uns allen ein höheres Maß an Wachsamkeit und Vorsicht.“

Was können wir tun?

Ein gut gemachtes Audio-Deepfake mit einer geklonten Stimme ist nur schwer erkennbar. Erschwerend kommt hinzu, dass die Betrüger geschult sind, am Telefon schnell Druck aufzubauen und die Opfer in einer Art permanenter Panik zu belassen. Die vorrangigste Empfehlung lautet deswegen, sich erst gar nicht auf ein solches Telefonat einzulassen. Sobald wir Zweifel hätten, sollten wir auflegen und das vermeintliche Opfer aus unserem Verwandten- bzw. Bekanntenkreis anzurufen, so der Rat der Polizei. Als vorsorgliche Maßnahme wird  zudem empfohlen, einen Verifikationscode zu vereinbaren. Das kann beispielsweise ein Kennwort oder eine Zahlen-Buchstaben-Kombination sein, die nur im Verwandten- und/oder Freundeskreis bekannt ist: „Wenn Ihr "Bauchgefühl" während des Telefonats Sie vermuten lässt, dass etwas nicht stimmt, fordern Sie den Verifikationscode ein. Kann der Anrufer das vereinbarte Wort nicht nennen, legen Sie auf,“ so die Polizei Duisburg. Zudem sollten wir unbedingt die Polizei informieren, wenn wir einen verdächtigen Anruf erhalten haben bzw. wenn wir sogar zum Opfer geworden sind, auch Anzeige erstatten.