Stop-Knopf

Die dunkle Seite von künstlicher Intelligenz (KI) – Schock­­anrufe mit “Original­­­stimme” als Betrugs­masche

Schön, dass uns die Nachricht erreicht, dass zwei Telefonbetrüger in unserer Region festgenommen wurden (vgl. WDR, vom 20.9.2023 , https://www1.wdr.de/nachrichten/rheinland/betrug-durch-schockanrufe-koeln-sankt-augustin-festnahmen-100.html), die mit Schockanrufen Geld erbeuten. Das “Geschäftsmodell” scheint sich weiterhin zu lohnen und leider wird es mit Hilfe von KI zurzeit ausgeweitet. Auch hier in Bonn.

Schockanrufe sind seit einigen Jahren ein Thema – ob als “Enkeltrick” oder auch bezogen auf Kinder, die plötzlich “Geld brauchen, weil Schreckliches passiert ist”. Das Modell, dass sich Betrüger als angebliche Polizisten ausgeben, die Wertgegenstände in Sicherheit bringen wollen oder der “Enkeltrick 2.0” bei dem man über einen Messenger die Nachricht bekommt, der Enkel/das Kind hätte sein Smartphone verloren und deshalb eine neue Telefonnummer und bräuchte unbedingt Geld, haben sich schon herumgesprochen. Das wurde auch schon auf Anrufe von vermeintlichen Banken oder der BaFin ausgeweitet, dass man Geld “bekommen” könnte, wenn man eine Gebühr überweist. Es sind nicht immer nur große Beträge im Spiel. Auch “Kleinvieh macht Mist”.

Wie läuft ein Schockanruf ab?

Die Telefonbetrüger geben sich z.B. als Polizisten aus und beschreiben am Telefon eine Notfallsituation, dass eine nahestehende Person (ein Kind, ein Enkel, …) einen Unfall verursacht hätte, bei dem jemand getötet worden wäre, und nun eine Kaution gefordert würde, damit sie wieder frei kommt. Eigentlich sollte jeder Wissen, dass die Polizei sich in Deutschland niemals so verhält!. Daher meinen die meisten Menschen, sie selbst würden darauf nie hereinfallen, aber …

… durch die modernen Formen von Künstlicher Intelligenz (KI), ist diese Art des Betrugs mittlerweile “weiterentwickelt” worden. Die neueste Variante: Eltern erhalten einen Anruf “vom eigenen Kind” (natürlich ist die Stimme gefälscht, aber sie klingt täuschend echt und voller Verzweiflung!), dass es den Unfall hatte und nun eine Kaution … Sie erkennen das Muster. Danach übernehmen die Betrüger und fordern Geld. Und schnell muss es gehen…

Gefälschte Stimmen für diesen Betrug zu verwenden, ist besonders schockierend – denn so zieht man den Anruf als solchen weniger leicht in Zweifel und reagiert vielleicht ohne die notwendige Umsicht. Gefälschte Tonaufnahmen zu erzeugen wird immer einfacher. Viele Menschen, vor allem junge Menschen, verschicken lieber Tonaufnahmen (“Sprachnachrichten”), als ein paar Buchstaben zu tippen. Das vereinfacht die Methode. Im Zweifel genügt aber ein längerer Anruf (oder mehrere), bei dem man in ein Gespräch verwickelt wird. Mittlerweile werden die Opfer und ihre Lebenssituation regelrecht ausspioniert, bevor man solche Anrufe erhält.

Was den Betrug mittels gefälschter KI-Stimmen in Schockanrufen angeht, so findet man mehr und mehr Berichte dazu seit Anfang des Jahres. Geben Sie einfach mal “polizei bonn warnt vor schockanrufen” in Ihre Suchmaschine ein und wundern Sie sich.

Offenbar sind nun auch die ersten Bonner Schülerinnen und Schüler und ihre Eltern davon betroffen, wie uns Hinweise aus einer Schulpflegschaft und der Schulgruppe Gymnasien zeigen.

Entsprechend einer psychologischen Erklärung, warum und wie solche Schockanrufe funktionieren (nachzulesen bspw. unter https://www.mdr.de/wissen/anruf-schock-fakeanruf-enkel-trick-psychologie-100.html ) und bezogen auf den Satz “Aufklärung fährt den Tätern in die Parade” möchten wir mit diesem Artikel auf die aktuellen Formen hinweisen und damit gegen die (von Betrügern gewünschten) Ängste arbeiten.

Wie helfe ich mir? Wie schütze ich mich und meine Kinder?

Berichte und Tipps der Polizei, wie man mit solchen Anrufen umgeht finden Sie z.B. unter

Sie lauten (aus beiden Veröffentlichungen zusammengesetzt)

  • Folgen Sie nicht den Aufforderungen der Anrufer. Lassen Sie sich nicht in ein Gespräch verwickeln oder unter Druck setzen. Legen Sie einfach auf.
    • Bewahren Sie trotz aller ersten Aufregung Ruhe. Tun Sie erst einmal nichts, auch wenn es schwerfällt! – Verschaffen Sie sich dann Gewissheit!
  • Geben Sie am Telefon keine Details zu persönlichen oder finanziellen Verhältnissen preis.
  • Rufen Sie Ihre tatsächlichen Angehörigen unter der Ihnen bekannten Nummer an.
  • Denken Sie daran: Die Polizei oder vergleichbare Amtspersonen werden Sie niemals telefonisch um die Aushändigung von Bargeldbeträgen oder Wertsachen bitten.
  • Übergeben Sie niemals Geld oder Wertgegenstände an Personen, die Sie nicht kennen.
    • Auch Polizeibeamte sind für Sie grundsätzlich Fremde.
  • Lassen Sie grundsätzlich keine Unbekannten in ihre Wohnung oder Ihr Haus.
  • Falls Sie einen solchen Anruf erhalten haben, wenden Sie sich bitte umgehend an Ihre örtlich zuständige Polizeidienststelle, um den Vorfall zur Anzeige zu bringen.
  • Auch wenn Sie bisher einen solchen Anruf noch nicht erhalten haben: Bereiten Sie sich gedanklich schon heute auf solche Anrufe vor – spielen Sie sie für sich durch.

Und man kann noch ergänzen:

  • Vereinbaren Sie mit Ihrer Familie/Ihren Kindern ein Codewort, an dem Sie erkennen können, dass Sie wirklich im Notfall mit Ihren Lieben sprechen.

Im o.a. Link der Bonner Polizei finden Sie auch Ansprechpartner:

Und Sie glauben uns jetzt bestimmt nicht, dass die diese Telefonnummern echt sind, richtig? Recherchieren Sie selbst! Das schützt Sie.

Ihre Stadtschulpflegschaft Bonn

PS: Zum Hintergrund

Fälschungen gelten übrigens nicht nur für Tonaufnahmen, sondern für alle Arten von künstlich erzeugten Ton-, Bild- und Video”dokumenten”. Sehen Sie einfach mal bei Youtube, wie “die Queen” eine (gefälschte) Weihnachtsansprache hält. Der Anfang sieht noch unauffällig aus, aber irgendwann fällt es jedem auf, dass da was nicht stimmt – bis hin zur Auflösung am Ende. (https://www.youtube.com/watch?v=IvY-Abd2FfM – nicht perfekt, aber unterhaltsam und die Augen öffnend). Es gehört sicher zur Medienkompetenz, dass man Ton- und Videoaufnahmen heute nicht mehr trauen darf… Selbst, wenn sie von “anerkannten Medien” verbreitet werden. In der Propaganda und Manipulation wird heute – auf ALLEN Seiten – viel in solche Fake-Videos investiert. Viele davon sind schwer bis überhaupt nicht als solche zu erkennen.

Deepfake-Videos gibt es schon länger, die Fälschung von Ton”aufnahmen” ist vor Jahren dazugekommen. Eine Vorstellung der Möglichkeiten findet sich z.B. in einer Projekt-Ankündigung eines großen Softwareherstellers aus dem Jahr 2016 unter https://www.youtube.com/watch?v=I3l4XLZ59iw (ca. 8 Minuten auf Englisch). Eine kostenlose, freie Software ist seit mindestens 2019 auf dem Markt. Nichts ganz Neues also… Damals brauchte man noch 20 Minuten Tonaufnahmen der Originalstimme – aber das dürfte heute schon mit weniger gehen.