Zum Hauptinhalt wechseln

Cybersicherheit

28. Oktober 2024

 

Warum die Gen-KI ein zweischneidiges Schwert in der Cybersicherheit ist

Die Technologie hat es Kriminellen billig und einfach gemacht, aufwendige Betrügereien durchzuführen – und hilft Unternehmen dabei, diese genauso schnell zu erkennen.

Eine abstrakte Abbildung, die einen von Fingern umgebenen Fingerabdruck zeigt.

Foto von Adobe Stock, erstellt mit generativer KI.

Rohit Chauhan

Executive Vice President,

AI Fraud Solutions, Mastercard

Meine Tochter ruft mich völlig unerwartet an und sagt, sie brauche Geld, während sie auf einer Auslandsreise sei. Sie fügt hinzu, dass sie mir die Einzelheiten später mitteilen wird. Als Elternteil reagiere ich einfach so, gebe ich nach.

In diesem hypothetischen Szenario wurde mein Geld nun von einem Betrüger gestohlen, der sich als mein Kind ausgibt und dafür eine digitale Stimme benutzt, die mit generativer KI erstellt wurde. Sie denken vielleicht: „Das lässt mich nicht täuschen.“ Ich weiß, wie mein eigenes Kind klingt.“ Ich versichere Ihnen jedoch, dass Sie, wenn Sie mit einem dieser digitalen Zwillinge telefonieren, keinen Unterschied feststellen können. So ausgefeilt ist diese Spoofing-Technologie mittlerweile.

Dies ist nur ein Beispiel für die Herausforderungen, denen sich Verbraucher, Unternehmen und Regierungen heute gegenübersehen, da KI der ersten Generation schnell zum Mainstream geworden ist. Dadurch entstehen neue Bedrohungen im Bereich der Cybersicherheit, aber auch neue Chancen. Einerseits hat die KI der ersten Generation die Entwicklung und Ausführung komplexer Betrugsformen deutlich billiger und zugänglicher gemacht. Auf der anderen Seite nutzen Unternehmen wie Mastercard KI der ersten Generation , um unseren Cybersicherheitstools ein besseres Kontextverständnis zu verleihen. Dadurch werden sie intelligenter, das Kundenerlebnis verbessert sich und Betrug kann schneller als je zuvor bekämpft werden.

Wie man einen digitalen Zwilling abwehrt

Ein digitaler Zwilling kann eine Kopie Ihrer Stimme oder eine Kombination aus Ihrer Stimme und einem Video von Ihnen sein. In beiden Fällen können Betrüger diesen Zwilling darauf trainieren, alles Mögliche zu sagen.

Die Herstellung dieser digitalen Klone war früher sehr teuer. Heute kann sich jeder online bei einer beliebigen Anzahl von KI-gestützten Diensten anmelden, eine Reihe von Sprachaufnahmen oder Videos hochladen und praktisch kostenlos einen digitalen Zwilling erstellen.

In anderen Fällen kann ein Betrüger die Textgenerierungsfunktionen von gen AI nutzen, um hochgradig zielgerichtete und personalisierte Nachrichten in großem Umfang zu erstellen und so potenziell viele Opfer über eine Messaging-App zu erreichen.

In diesen Beispielen verfügen Betrüger nun über leistungsstarke Werkzeuge, und das nahezu kostenlos. Diese Betrügereien finden bereits statt. Bei einem schwerwiegenden Vorfall im Februar wurde ein Finanzangestellter in Hongkong von Betrügern um 25 Millionen Dollar gebracht, nachdem er in einer Videokonferenz mit digitalen Zwillingen mehrerer Kollegen, darunter des Finanzchefs des Unternehmens, gesprochen hatte.

Die schwerwiegende Schlussfolgerung daraus ist, dass dies ein ungleicher Kampf für uns Menschen ist. Wir können nicht so schnell lernen oder uns anpassen wie eine KI, egal wie sehr wir uns auch bemühen.

Um auf das Beispiel mit meiner Tochter zurückzukommen: Es gibt einen einfachen Weg, diese Täuschung anzusprechen. Wir haben ein Familienpasswort, das wir für solche Situationen verwenden können. Ein digitaler Zwilling wüsste diese Information nicht. Auch ohne ein gemeinsames Passwort könnten Sie einen potenziellen digitalen Zwilling bitten, Informationen zu bestätigen, die er ebenfalls nicht kennen kann – zum Beispiel ein Restaurant, das Sie kürzlich mit der Person besucht haben, mit der Sie sprechen.

Plötzlich beginnt die gesamte Fassade eines digitalen Zwillings zu bröckeln, egal wie ausgeklügelt er ist oder wie schnell er seine Praktiken weiterentwickeln kann. So können wir vermeiden, im selben Rennen wie eine KI zu laufen. Lasst uns stattdessen menschlicher werden.

Manchmal reicht eine einfache, nicht-technische Lösung völlig aus, um solchen Betrug zu bekämpfen.

Wie wir KI der Generation Z zur Stärkung der Cybersicherheit einsetzen

Gen AI wird natürlich nicht nur von Betrügern eingesetzt. Und einfache Lösungen sind nicht immer die Antwort. Die Teams von Mastercard nutzen heute KI der Generation KI und KI-Tools, um die Sicherheit der digitalen Welt zu verbessern.

In einem anderen Beispiel können wir mithilfe von KI auch ausgefeiltere Betrugsmodelle entwickeln. Heutzutage basieren viele Betrugsmodelle auf Ihren Kaufgewohnheiten und Ihrem Verhalten. Das bedeutet, dass, wenn Sie normalerweise 100 Dollar pro Tag in der Gegend um Philadelphia ausgeben, ein Betrugserkennungssystem Alarm schlagen könnte, wenn Sie plötzlich versuchen, einen Artikel im Wert von 2.000 Dollar auf den Philippinen zu kaufen.

Wir können KI-Modelle nutzen, um Ausgabengewohnheiten umfassender zu verstehen – nicht nur auf individueller Ebene.  Angenommen, Sie spielen nie um Geld, aber eine Ausgabe im Zusammenhang mit Glücksspiel wird vom Betrugserkennungssystem Ihrer Bank als verdächtig eingestuft. Durch die Analyse eines breiteren Datenspektrums kann ein KI-System uns dabei helfen festzustellen, dass viele Gäste eines bestimmten Casino-Resorts auch spielen – und da Ihre Transaktionen belegen, dass Sie sich in diesem Resort aufhalten, werden diese Glücksspielausgaben nicht mehr als verdächtig angesehen, sodass keine Benachrichtigung versendet oder Ihre Karte gesperrt werden muss. Das sorgt für ein besseres Erlebnis für Sie.

In nur wenigen Jahren hat die KI der ersten Generation die Art und Weise verändert, wie wir mit Technologie interagieren, wie wir Code schreiben, und sie hat uns sogar dazu gebracht, zu hinterfragen, ob das, was wir hören oder sehen, tatsächlich real ist – selbst ein Anruf von meiner eigenen Tochter.

Die Geschichte der gentechnisch veränderten KI ist komplex – und die Risiken sind klar. Aber ich weiß, dass wir sie in die richtigen Bahnen lenken können, sodass Menschen und Unternehmen von der neuen Innovationswelle profitieren können, die sie auslöst.

Blog

Wie man Cyberkriminalität mit einer gewissen militärischen Vorbereitung bekämpfen kann

Weltweit fehlen fast 4 Millionen Fachkräfte im Bereich Cybersicherheit. „Es ist an der Zeit, diese klaffende Lücke zu schließen“, sagt Ron Green von Mastercard.

Mehr erfahren