Zum Hauptinhalt wechseln

Cybersicherheit

28. Oktober 2024

 

Warum Gen AI ein zweischneidiges Schwert in der Cybersicherheit ist

Die Technologie macht es Kriminellen günstig und einfach, aufwendige Betrügereien durchzuführen – und hilft Unternehmen, sie ebenso schnell zu erkennen.

Ein abstraktes Bild, das einen Fingerabdruck zeigt, umgeben von Ziffern.

Foto von Adobe Stock, erstellt mit generativer KI.

Rohit Chauhan

Executive Vice President,

AI Fraud Solutions, Mastercard

Meine Tochter ruft mich aus heiterem Himmel an und sagt, sie brauche Geld, während sie auf einer Auslandsreise ist. Sie fügt hinzu, dass sie mich später über die Details informieren wird. Als Elternteil reagiere ich einfach nach.

In diesem hypothetischen Szenario wurde mein Geld nun von einem Betrüger gestohlen, der sich als mein Kind ausgibt und einen digitalen Sprachklon verwendet, der mit generativer KI erstellt wurde. Du denkst vielleicht: "Das wird mich nicht täuschen. Ich weiß, wie mein eigenes Kind klingt." Aber ich versichere Ihnen, dass Sie, wenn Sie mit einem dieser digitalen Zwillinge telefonieren, den Unterschied nicht erkennen können. So ausgefeilt ist diese Spoofing-Technologie geworden.

Dies ist nur ein Beispiel für die Herausforderungen, denen Verbraucher, Unternehmen und Regierungen nun gegenüberstehen, da Generation KI schnell zum Mainstream geworden ist. Es schaffen neue Bedrohungen im Cybersicherheitsbereich, aber auch Chancen. Einerseits hat die Gen-KI die Erstellung und Durchführung komplexer Betrugsformen deutlich günstiger und zugänglicher gemacht. Andererseits nutzen Unternehmen, darunter Mastercard, Gen-KI, um unseren Cybersecurity-Tools mehr kontextuelles Verständnis zu verleihen, sie intelligenter zu machen, das Erlebnis für Verbraucher zu verbessern und Betrug schneller als zuvor zu bekämpfen.

Wie man einen digitalen Zwilling abwehrt

Ein digitaler Zwilling kann eine Kopie Ihrer Stimme oder eine Kombination aus Ihrer Stimme und einem Video von Ihnen sein. In beiden Fällen können Betrüger diesem Zwilling beibringen, alles zu sagen, was er will.

Die Herstellung dieser digitalen Klone war früher sehr teuer. Heute kann man sich online für eine beliebige KI-gestützte Generation anmelden, eine Reihe von Sprachaufnahmen oder Videos hochladen und virtuell kostenlos einen digitalen Zwilling erstellen.

In anderen Fällen kann ein Betrüger die Textgenerierungsfähigkeiten der Generation AI nutzen, um hochgradig gezielte und personalisierte Nachrichten in großem Maßstab zu erstellen, um potenziell viele Opfer über eine Messaging-App zu erreichen.

In diesen Beispielen sind Betrüger nun mit mächtigen Werkzeugen und nahezu ohne Kosten ausgestattet. Diese Betrügereien passieren ebenfalls bereits. Bei einem größeren Vorfall im Februar wurde ein Finanzmitarbeiter in Hongkong dazu verleitet, Betrügern 25 Millionen Dollar zu schicken, nachdem er in einer Videokonferenz mit digitalen Zwillingen mehrerer Kollegen, darunter dem Finanzchef des Unternehmens, gesprochen hatte.

Die ernste Implikation ist, dass dies ein unfairer Kampf für uns Menschen ist. Wir können nicht so schnell lernen oder uns anpassen wie eine KI, egal wie sehr wir uns bemühen.

Zurück zu diesem Szenario mit meiner Tochter: Es gibt einen einfachen Weg, diese Täuschung anzugehen. Wir haben ein Familienpasswort, das wir für solche Situationen verwenden können. Ein digitaler Zwilling würde diese Information nicht wissen. Selbst ohne ein gemeinsames Passwort könntest du einen potenziellen digitalen Zwilling bitten, Informationen zu bestätigen, die er ebenfalls nicht kennt – wie ein Restaurant, in dem du kürzlich mit der Person warst, mit der du sprichst.

Plötzlich beginnt die gesamte Fassade eines digitalen Zwillings zu bröckeln, egal wie clever sie ist oder wie schnell sie ihre Praktiken weiterentwickeln kann. So können wir vermeiden, dasselbe Rennen wie eine KI zu versuchen. Stattdessen sollten wir uns darauf konzentrieren, menschlicher zu sein.

Manchmal funktioniert eine nicht-Hightech-Lösung durchaus gut, um solchen Betrug zu bekämpfen.

Wie wir Gen-KI nutzen, um die Cybersicherheit zu stärken

Gen-KI wird natürlich nicht nur von Betrügern genutzt. Und Low-Tech-Lösungen sind nicht immer die Antwort. Die Teams von Mastercard nutzen heute Gen-KI und KI-Tools, um die Sicherheit der digitalen Welt zu verbessern.

Ein weiteres Beispiel ist, dass wir mit Hilfe von KI ausgefeiltere Betrugsmodelle entwickeln können. Heutzutage werden viele Betrugsmodelle basierend auf Ihren Kaufgewohnheiten und Ihren Handlungen aufgebaut. Das bedeutet, dass ein Betrugsmodell auffallen kann, wenn Sie in Philadelphia typischerweise 100 Dollar am Tag ausgeben, wenn Sie plötzlich versuchen, einen Artikel für 2.000 Dollar auf den Philippinen zu kaufen.

Wir können KI-Modelle nutzen, um Ausgabengewohnheiten allgemein zu verstehen – nicht nur auf individueller Ebene.  Angenommen, Sie spielen nie, aber eine Glücksspielausgabe wird vom Betrugssystem Ihrer Bank markiert. Ein breiteres Datenspektrum betrachtet, ein KI-System kann uns helfen zu erkennen, dass viele Menschen, die in einem bestimmten Casino-Resort übernachten, tatsächlich spielen – und da Ihre Transaktionen zeigen, dass Sie sich dort befinden, wird diese Glücksspielausgabe nicht mehr als verdächtig angesehen, sodass keine Warnung gesendet oder Ihre Karte gesperrt werden muss. Das schafft ein besseres Erlebnis für dich.

In nur wenigen Jahren hat die Generation KI verändert, wie wir mit Technologie interagieren, Code schreiben, und sie hat uns sogar dazu gebracht, zu hinterfragen, ob das, was wir hören oder sehen, wirklich real ist – selbst ein Anruf meiner eigenen Tochter.

Die Geschichte über die Generationen-KI ist komplex – und die Risiken sind klar. Aber ich weiß, dass wir sie in die richtige Richtung lenken können, damit Menschen und Unternehmen von der neuen Innovationswelle profitieren können, die sie hervorbringt.

Blog

Wie man Cyberkriminalität mit etwas militärischer Vorbereitung bekämpft

Wir haben weltweit einen Mangel an fast 4 Millionen Cybersicherheitsfachkräften. Die Zeit, dieses klaffende Loch zu füllen, ist jetzt, sagt Ron Green von Mastercard.

Lesen Sie mehr

Verwandte Geschichten