Bevor die Musik aufhört: OpenClaw und der wachsende Bedarf an KI-Sicherheitsstandards

Sie sind schon spät dran für den Klavierauftritt Ihres Sohnes, als Ihr Chef Ihnen eine E-Mail schickt, in der er Ihnen mitteilt, dass Sie in wenigen Tagen zu einem Arbeitstreffen nach Boston reisen müssen. Ihr KI-Agent liest die E-Mail und beginnt mit der Reiseplanung, während Sie aus der Tür sprinten. Die Reise ist gebucht. Und Sie erreichen die Schule gerade rechtzeitig, um eine schwungvolle Darbietung von „Mary Had a Little Lamb“ zu genießen.

Doch das ist noch nicht alles, was passiert. Während der KI-Agent auf der Suche nach dem besten Preis für ein Hotel in Boston Reise-Websites durchforstet, stößt er auf eine Anomalie – eine manipulierte Webseite mit versteckten Anweisungen, die ihn anweisen, einen erheblichen Geldbetrag an eine unbekannte digitale Geldbörse zu überweisen. Und dann hört die Musik auf.

KI-Agenten bergen ein enormes Potenzial für die Zukunft unserer Arbeit, unseres Lebens und unserer Geschäftstätigkeit. Bei der Implementierung der richtigen Schutzmechanismen bietet diese Technologie Möglichkeiten, die Effizienz zu steigern, Betrug und Sicherheitsbedrohungen besser zu verstehen und zu bekämpfen sowie unser E-Commerce-Erlebnis individuell anzupassen. Die kürzliche Einführung eines neuen Open-Source-Agenten namens OpenClaw hat die bestehenden Bedenken hinsichtlich der Sicherheit von KI-Agenten jedoch noch verstärkt.

OpenClaw ist ein vollständig autonomer, stets verfügbarer KI-Agent, der Ihnen bei der Erledigung alltäglicher Aufgaben helfen kann – von der Reisebuchung bis zum Lebensmitteleinkauf. OpenClaw – das auf Ihrem Computer oder Server läuft – kann so konfiguriert werden, dass es Ihre E-Mails oder Nachrichten scannt, die zu erledigenden Aufgaben ermittelt und diese systematisch ausführt, und das alles mit minimalem bis gar keinem menschlichen Eingriff.

Die technische Raffinesse von OpenClaw entwickelte sich innerhalb weniger Monate nach seiner Einführung Ende 2025 rasant weiter, was auf seinen Open-Source-Charakter zurückzuführen ist und widerspiegelt, wie schnell sich diese Technologie weiterentwickelt. OpenClaw ist ein Beispiel für einen KI-gestützten Assistenten, der erhebliche Effizienzsteigerungen ermöglichen, Zeit sparen und Kosten senken könnte. OpenClaw und ähnliche Technologien bergen jedoch gut dokumentierte Sicherheitsrisiken.

Damit OpenClaw seine Funktionen erfüllen kann, benötigt es Ihre Erlaubnis zum Zugriff auf Daten, einschließlich E-Mails und anderer Dokumente, die sensible Informationen enthalten könnten, sowie die Befugnis, wichtige Entscheidungen zu treffen, wie z. B. Geld auszugeben. Diese Handlungsfähigkeit in Verbindung mit der dokumentierten Anfälligkeit für Bedrohungen wie „Prompt Injection“ – bösartige Eingaben, die KI-Agenten manipulieren können – hat einige dazu veranlasst, OpenClaw als „standardmäßig unsicher“ zu bezeichnen. Während KI-Agenten wie OpenClaw mit einer Reihe potenzieller Sicherheitsherausforderungen zu kämpfen haben, stellt die sofortige Einschleusung eine besonders problematische und zunehmend häufige Bedrohung für die KI-Sicherheit dar.

Eine sogenannte Prompt-Injection liegt vor, wenn ein Angreifer Anweisungen in einem Text versteckt, den Ihr KI-Agent lesen soll – sei es auf einer Webseite, in einer Nachricht, in einem PDF oder in einer anderen Datei. Ohne die richtigen Sicherheitsmaßnahmen können diese bösartigen Anweisungen Ihren Agenten dazu verleiten, die ursprünglich programmierten Anweisungen zu ignorieren und stattdessen das zu tun, was der Angreifer will. Dies stellt ein erhebliches Risiko dar, da die Fähigkeit, den Einsatz von Agenten effektiv für verschiedene Anwendungsfälle zu skalieren – von der Verbesserung der Betrugsbekämpfung bis hin zum Kauf eines neuen Paars Schuhe – davon abhängt, dass diese Agenten schnell mit öffentlich verfügbaren Daten interagieren und Entscheidungen darüber treffen können.

Die sofortige Einspeisung hat weitreichende Konsequenzen – nicht nur für den Einsatz von KI-Agenten im Allgemeinen, sondern insbesondere für den agentenbasierten Handel . Die Gefahr, dass halb- oder vollautonome KI-Agenten von böswilligen Akteuren missbraucht werden und dadurch erhebliche Geldsummen umleiten und stehlen können, ist eine reale Bedrohung. Wenn die Nutzer einem Agenten nicht vertrauen können, dass er ihre Absichten vollständig versteht, ihre Einschränkungen respektiert und sicher arbeitet, werden die Menschen ihn nicht nutzen. Aus diesem Grund hat Mastercard an der Entwicklung eines Rahmens für agentenbasierten Handel gearbeitet, der dazu beitragen soll, dass dieses neue Ökosystem auf sichere Weise angenommen werden kann.

Die Bedrohungen sind zwar real, aber wir wissen auch, wie wir sie abwehren können. Es gibt Techniken, die helfen können, die sofortige Einschleusung und andere KI-Sicherheitsbedrohungen zu bekämpfen, darunter die Überprüfung und Entfernung bösartiger Eingaben, bevor ein Agent sie liest und darauf reagiert, die Beschränkung der Systeme und Daten, auf die ein Agent zugreifen kann, und die nachträgliche Überprüfung der Aktivitäten von Agenten, um anomales Verhalten zu analysieren und zu identifizieren. 

Mastercard ist seit jeher führend in der Entwicklung und dem verantwortungsvollen und sicheren Einsatz von KI und verfügt über starke Daten- und Technologieprinzipien sowie eine weltweit führende KI-Governance-Funktion. Es reicht jedoch nicht aus, dass einzelne Unternehmen KI-Sicherheitsmaßnahmen einsetzen. Egal wie robust, ein Flickenteppich an Sicherheitsmaßnahmen, der ungleichmäßig über unser digitales Ökosystem verteilt ist, wird dieses Problem nicht lösen.

Der Aufbau echter Resilienz und Vertrauen im agentenbasierten Ökosystem hängt von der breiten Anwendung gängiger Sicherheitstechniken und bewährter Verfahren ab. Dafür müssen wir allgemein anerkannte und global harmonisierte KI-Sicherheitsstandards entwickeln und unterstützen. Diese Standards können dazu beitragen, eine gemeinsame Sicherheitsarchitektur zu definieren und so eine stabile und widerstandsfähige Grundlage zu schaffen, auf der KI-Agenten sicher alles erledigen können, vom Einkaufen bis zur Überwachung von Sicherheitsbedrohungen für kritische Infrastrukturen.

Einflussreiche Organisationen auf der ganzen Welt wetteifern darum, diese Standards zu entwickeln. In den Vereinigten Staaten hat das Nationale Institut für Standards und Technologie (NIST) unter dem Handelsministerium damit begonnen, umfassende Beiträge zu Sicherheitsstandards für KI-Agenten zu sammeln.  In Singapur hat die Infocomm Media Development Authority bereits einen Modell-Governance-Rahmen für agentenbasierte KI vorgeschlagen, der einen praxisorientierten Ansatz sowie bewährte Verfahren für die Sicherheit von KI-Agenten umfasst.

Obwohl die Nutzung dieser Technologie Risiken birgt, sind wir der Ansicht, dass die folgenden drei Empfehlungen von zentraler Bedeutung sind, wenn wir die nächsten Schritte zum Aufbau eines sicheren agentenbasierten Ökosystems unternehmen.

Erstens müssen Organisationen der Übernahme und Umsetzung bewährter Verfahren Priorität einräumen, um den Einsatz von KI-Agenten frühzeitig im Lebenszyklus der Produktentwicklung und -einführung zu sichern.

Darüber hinaus müssen Organisationen diese Agenten kontinuierlich überwachen, um sicherzustellen, dass sie jede ungewöhnliche Handlung oder Aktivität erkennen und korrigieren können.

Schließlich muss das gesamte Ökosystem die Entwicklung und Anwendung globaler Standards für KI-Sicherheit unterstützen, um sicherzustellen, dass sich alle auf gemeinsame Standards beim Aufbau einer gemeinsamen Sicherheitsarchitektur für eine sichere agentenbasierte Zukunft verlassen können.

Durch die erfolgreiche Implementierung dieser Leitplanken und die Unterstützung der Entwicklung globaler Standards kann sichergestellt werden, dass Millionen von Menschen und Unternehmen von neuen agentenbasierten Technologien profitieren und gleichzeitig potenzielle Sicherheitsrisiken vermeiden können.