Der Cybersecurity Awareness Month hat vielleicht nicht den gleichen Reiz wie andere Meilensteine des Oktobers – das Betrachten von poliertem Laub oder das Fressen von Halloween-Süßigkeiten –, aber er kann Unternehmenslenker und Verbraucher gleichermaßen dazu veranlassen, sich an einem wichtigen Ritual zu beteiligen: ihren Ansatz zur Cybersicherheit neu zu bewerten.

Und es gibt viel zu reflektieren im vergangenen Jahr. Vor allem Unternehmen sollten sich in diesem Monat (und jeden Monat) die Frage stellen: Wie hat sich die Online-Bedrohungslandschaft verändert? Und reichen die Sicherheitspraktiken Ihres Unternehmens aus, um mit diesen Veränderungen Schritt zu halten?

Künstliche Intelligenz war unbestreitbar der größte Game Changer in diesem Jahr. KI-Tools, einschließlich großer Sprachmodelle (LLMs) wie ChatGPT, haben die Fähigkeiten von Angreifern verbessert. In der Zwischenzeit integrieren immer mehr Unternehmen KI in ihr Tagesgeschäft und drängen Cybersicherheitsexperten dazu, neue Grenzen zu überschreiten, ohne dass es dafür einen Präzedenzfall gibt. Die Verbraucher sind unterdessen mitten in dieser sich schnell verändernden KI-Umgebung gefangen.

Genau diese Dynamik hatten viele der 20.000 Teilnehmer der diesjährigen Black Hat Conference in Las Vegas im Kopf. Von den spritzigen Ständen in der Business-Halle über die neuesten Forschungsergebnisse, die in Vorträgen vorgestellt wurden, bis hin zu den leisen Gesprächen dazwischen dominierte die KI das Gespräch.

Bei der Eröffnungsrede der Veranstaltung bezeichnete der langjährige Cybersicherheitsforscher Mikko Hyppönen KI als die "größte technische Revolution", die er in seinem Leben erlebt habe, und wies darauf hin, dass Forscher, die LLMs verwenden, bereits ein paar Dutzend Zero-Days entdeckt haben – ein Branchenbegriff für unentdeckte Schwachstellen in Software oder Code.

"Wenn Forscher Sicherheitslücken mit KI finden, ist das großartig, weil wir sie beheben können", sagte Hyppönen. "Wenn Angreifer das Gleiche tun, ist das schrecklich. Das wird auch passieren."

Online-Betrüger nutzen LLMs bereits, um überzeugendere und gezieltere Phishing-E-Mails zu verfassen, und zwar in einem viel größeren Umfang, als sie es ohne KI-Tools jemals hätten tun können.

Vorbei sind die Zeiten schlecht geschriebener generischer E-Mails, die selbst die am wenigsten technisch versierte Person als Betrug erkennen könnte. Betrüger, die keine englische Muttersprache sprechen, sind jetzt Profis darin, ihre Nachrichten mit LLMs aufzupolieren.

Und selbst diese Betrüger, die sich als einsame Soldaten ausgeben, die im Ausland stationiert sind, und eine Geschäftsmöglichkeit anpreisen, die zu gut aussieht, um wahr zu sein (denn das ist sie tatsächlich), streuen persönliche Details ein, die von der KI ausgewertet wurden, um diese Nachrichten viel glaubwürdiger zu machen.

Sie sind auch über E-Mails hinausgegangen und liefern ihre inzwischen gut gestaltete Kommunikation in sozialen Medien, SMS und sogar Telefonanrufen.

Gleichzeitig gibt es einen Anstieg von Betrugsnachrichten, die Audio- oder Video-Deepfakes enthalten. Letztes Jahr wurde ein Arbeiter in Hongkong dazu verleitet, 25 Millionen Dollar an Betrüger auszuzahlen , nachdem er sich an einem Videoanruf mit Beamten seines multinationalen Unternehmens angemeldet hatte, einschließlich des Finanzchefs. Es stellte sich jedoch heraus, dass es sich bei den anderen Teilnehmern des Anrufs um Live-Video-Deepfake-Nachbildungen dieser Personen handelte.

Verbraucher wurden auch Ziel von Audio-Deepfake-Betrügereien. Hier nutzen Cyberkriminelle KI, um die Stimmen von Menschen, die in der Regel jünger sind, zu fälschen und dann die nachgeahmte Stimme zu nutzen, um Familienmitglieder anzurufen und ihnen mitzuteilen, dass sie entführt wurden oder im Gefängnis sitzen, um Geld von ihnen zu erpressen.

All das hat Unternehmen und Verbraucher verständlicherweise verängstigt. Eine kürzlich für Mastercard durchgeführte Studie befragte etwa 13.000 Verbraucher auf der ganzen Welt, darunter etwa 1.000 in den USA, und ergab, dass KI-generierte gefälschte Inhalte die größte zukünftige Sorge der Verbraucher im Zusammenhang mit Betrug sind. Aber nur 13 % der Befragten gaben an, dass sie sehr zuversichtlich sind, dass sie KI-generierte Bedrohungen oder Betrügereien erkennen können, wenn sie von ihnen ins Visier genommen werden.

Die überwiegende Mehrheit der Befragten äußerte insbesondere die Befürchtung, dass ausgefeiltere Angriffe von KI-Systemen gehackt und in bösartige Zwecke umgewandelt werden, automatisierte groß angelegte Cyberangriffe und überzeugendere Phishing-E-Mails, die von KI erstellt werden.

Und besorgte Verbraucher können für die Unternehmen, die sie bedienen, große Probleme bedeuten. Wenn Verbraucher nicht darauf vertrauen können, dass sie es mit einem seriösen Unternehmen zu tun haben oder dass ihre persönlichen Daten sicher sind, könnten sie sich dafür entscheiden, ihr Geschäft woanders zu tätigen.  

Zumindest im Moment scheint es, dass die Verteidiger im Vorteil sind. Neben der Sicherung der neuen KI-Elemente in den Systemen ihrer Geschäftskunden integrieren Cybersicherheitsunternehmen KI in ihre eigenen Produkte, mit dem Ziel, Online-Bedrohungen schneller und effizienter zu stoppen.

In der Zwischenzeit haben Betrüger und andere Cyberkriminelle noch nicht genügend Anreize, auf die gleiche Weise innovativ zu sein. Während sie KI-Tools verwenden, um schneller zu arbeiten und größer zu werden, sagen Experten, dass sie weitgehend an verbesserten Versionen der gleichen alten Betrügereien festhalten.

Nicole Perlroth, eine ehemalige Cybersicherheitsjournalistin, die jetzt als Venture-Partnerin bei Ballistic Ventures tätig ist und ihren eigenen Cyber-Missionsfonds, Silver Buckshot, leitet, sagte in ihrer Black Hat-Keynote, dass sie von den neuen und aufkommenden Technologien, die sie im Bereich der Cybersicherheit sieht, ermutigt wird.

Sie verwies auf neue KI-gestützte Deepfake-Erkennungstechnologien, die auf den Markt kommen, und merkte an, dass KI dazu beigetragen hat, Cybersicherheitsprodukte und -dienstleistungen zu "demokratisieren" und sie für kleinere Unternehmen zugänglicher zu machen, die sie sich in der Vergangenheit nicht leisten konnten.

Hyppönen merkte an, dass Deepfake-Betrügereien derzeit sehr selten sind, fügte aber hinzu, dass er erwartet, dass alle Arten von Online-Betrügereien zusammen mit Ransomware nur noch schlimmer werden, wenn KI-Technologien besser und billiger werden.

Die gute Nachricht ist, dass die Verteidiger einen Vorsprung haben, wenn es um KI geht.

"Angreifer nutzen auch KI, aber sie fangen erst an", sagte er. "Wir haben bisher nur relativ einfache Angriffe mit KI gesehen. Das wird sich ändern, aber im Moment würde ich sagen, dass wir vorbereitet sind."