Im Kampf gegen Cyberkriminalität brauchen Menschen KI – und KI braucht Menschen.

Vor einigen Jahren hob ein Tourist in Mexiko mit seiner Kreditkarte Bargeld an einem Geldautomaten ab. Als er nach Hause kam und seinen Kontoauszug ansah, stellte er fest, dass die Karte auch zum Kauf mehrerer Schmuckstücke benutzt worden war. Das war seltsam: Er hatte im Urlaub nicht nur nichts mit der Karte gekauft, die Transaktion war auch noch fünf Minuten nach der Geldabhebung am Geldautomaten in einem Geschäft auf der anderen Seite des Landes erfolgt.

Glücklicherweise kam ein Team seiner Bank nach Prüfung seines Falls zu dem Schluss, dass es – obwohl ihre KI-gestützten Betrugserkennungstools den Kauf nicht als verdächtig eingestuft hatten – höchst unwahrscheinlich war, dass er den Schmuck selbst gekauft hatte, und erstattete ihm daher den Kaufpreis. Bei ihren weiteren Nachforschungen stellte das Team fest, dass Betrüger wahrscheinlich seine Kreditkarteninformationen von einem im Geldautomaten versteckten Lesegerät gestohlen und an einen Komplizen an der gegenüberliegenden Küste geschickt hatten.

Die Einfachheit, Schnelligkeit und Anonymität moderner Zahlungen haben Betrugsmaschen wie diese in einem Ausmaß hervorgebracht, mit dem Menschen unmöglich Schritt halten können. Zum Glück ist das nicht mehr nötig, da KI-Anwendungen mittlerweile jede Transaktion überwachen und das gesamte Kartennetzwerk auf Angriffe im Auge behalten. Diese KI-Modelle durchsuchen Daten effizienter als jeder Mensch es könnte.

Mastercard nutzt KI seit Jahren zur Betrugserkennung und nutzt sie derzeit, um jährlich mehr als 159 Milliarden Transaktionen abzusichern und Betrugsverluste in Milliardenhöhe zu verhindern. Letztes Jahr erwarb Mastercard Recorded Future, das mithilfe von KI täglich Millionen von Datenpunkten analysiert und Muster und Anomalien identifiziert, die auf potenzielle Bedrohungen hinweisen.

Aber so sehr die Menschen die KI brauchen, so sehr braucht auch die KI die Menschen. Während automatisierte Tools die Hauptarbeit erledigen, müssen die Entwickler, damit die Ergebnisse nützlich sind, ständig realen Kontext liefern – indem sie neue Betrugsarten identifizieren, herausfinden, wie man sie verhindern kann, ohne das größere Netzwerk zu stören, und die neuen Regeln in den Algorithmus programmieren. Dieser menschliche Input ist es, der die reine KI-Leistung in relevante und praktische Intelligenz verwandelt.

„Da KI- und Machine-Learning-Modelle immer leistungsfähiger werden, liegt die Verlockung nahe zu glauben, dass die Technologie allein die heutigen Cyberkriminellen überflügeln kann“, sagt Johan Gerber, globaler Leiter der Abteilung Security Solutions bei Mastercard. „Doch hinter jeder Warnung, Anomalie oder markierten Transaktion verbirgt sich eine entscheidende, inkrementelle Ebene, die Algorithmen nicht nachbilden können: das menschliche Urteilsvermögen.“ Die Kombination von menschlichem Urteilsvermögen und KI macht sie erst wirklich effektiv und gewährleistet ihre verantwortungsvolle Arbeitsweise.“

Künstliche Intelligenz ist zwar darauf ausgelegt, subtile Muster in riesigen Datenmengen zu erkennen, aber sie ist nicht immer in der Lage, mit Ausreißern umzugehen. Ohne menschliche Aufsicht könnten unerwartete Ereignisse zu übersehenen Bedrohungen, Fehlalarmen und anderen Verzerrungen führen.

„Selbst mit diesen leistungsstarken Werkzeugen braucht man immer noch Menschen“, sagt Vince Haulotte, Direktor für Markteinführung im Bereich Betrugs- und Risikoentscheidungen bei Mastercard. „Man muss das Ganze mit Vorsicht genießen und den Kontext berücksichtigen, um sicherzustellen, dass die Reaktion der KI effektiv ist.“

Beispielsweise überwachten KI-Systeme die Kreditkartennutzung des Reisenden während seines Mexiko-Urlaubs. Aber die KI brauchte einen Menschen, der ihr sagte, dass etwas nicht stimmte, dass zwei Transaktionen in schneller Folge an entgegengesetzten Enden des Landes stattfanden, und sie brauchte einen Menschen, der ihr zeigte, wie sie in Zukunft nach ähnlichen Vorfällen Ausschau halten konnte.

Um zu verhindern, dass dieser spezielle Betrug auch andere Kunden betrifft, entwickelte Haulotte, damals Programmierer bei der KI-Plattform Brighterion , eine neue Regel, die geografisch unmögliche Transaktionen kennzeichnen sollte. Brighterion überwacht Kreditkartentransaktionen in Echtzeit, rund um die Uhr, und bewertet sie nach ihrem Risikograd; wenn eine Transaktion als potenziell betrügerisch eingestuft wird, benachrichtigt das System umgehend die Bank des Karteninhabers. (Jede Bank kann den Schwellenwert für die Ergreifung von Maßnahmen, wie z. B. das Versenden einer Benachrichtigung oder sogar die Ablehnung der Transaktion, individuell festlegen.) 

Safety Net, ein weiteres Mastercard-Produkt, nutzt KI, um das gesamte Kartennetzwerk auf Anzeichen von Angriffen zu überwachen. Wenn beispielsweise eine Website innerhalb kurzer Zeit mit Tausenden neuer Konten überflutet wird, könnte dies daran liegen, dass Betrüger die Website mit Spam überfluten, um durch Brute-Force-Angriffe gültige Kartennummern zu erraten .

Natürlich weiß ein KI-Modell das nicht; es kann die feineren Details des menschlichen Verhaltens nicht unbedingt verstehen. Als Folge davon könnte es auch ein Warnsignal sein, wenn eine erfolgreiche Werbeaktion – oder beispielsweise der Cyber Monday – zu einem sprunghaften Anstieg des Website-Traffics führt. Die Unterscheidung zu erkennen, ist der Punkt, an dem der Mensch ins Spiel kommt.

„Bei einem Anstieg solcher echter Transaktionen werde ich mit einem Account Manager zusammenarbeiten, um zu verstehen, was vor sich geht, und Vorkehrungen treffen, um Fehlalarme zu vermeiden“, sagt Brett Thomson, Leiter der Produktentwicklung bei Safety Net. „Man muss der KI eine gewisse Richtung vorgeben.“

Da sich kriminelle Strategien ständig weiterentwickeln, ist menschliches Fachwissen auch unerlässlich, um neue Bedrohungen zu erkennen und Strategien zu entwickeln, um diese zu stoppen. Sobald Betrüger merken, dass ihre Strategien nicht mehr funktionieren, entwickeln sie neue Maschen. Da KI jedoch mit Daten aus der Vergangenheit trainiert wird, erkennen Überwachungstools diese neuen Muster nicht immer sofort. Es liegt also an den menschlichen Entwicklern, die Algorithmen in einem fortwährenden Katz-und-Maus-Spiel zu aktualisieren und zu trainieren.

„Nachdem wir eine Gegenmaßnahme eingeführt haben, werden sie ihre Strategie ändern.“ Dann werden wir diese Strategie bemerken und eine neue Abhilfemaßnahme hinzufügen“, sagt Thomson. „Es ist ein ständiges Hin und Her, jeder von uns beobachtet, wie der andere auf die nächste Entwicklung reagiert.“

Diese unerbittliche Dynamik sorgt dafür, dass Thomson, Haulotte und ihre Kollegen in der gesamten Branche weiterhin wichtige Akteure im Kampf gegen Betrug bleiben.

„Ich bin immer wieder überrascht von der Dreistigkeit und Fantasie der Betrüger“, sagt Haulotte. „Es gibt immer neue Betrugstrends, deshalb müssen wir ständig neue Lösungen entwickeln, um ihnen einen Schritt voraus zu sein.“ Unsere Arbeit hört nie auf.“