3. März 2026
Du bist schon zu spät zum Klavierkonzert deines Sohnes, als dein Chef dir eine E-Mail schreibt und dir mitteilt, dass du in ein paar Tagen zu einem Arbeitstermin nach Boston reisen musst. Dein KI-Agent liest die E-Mail und beginnt, die Reise für dich zu planen, während du zur Tür hinaussprintest. Die Reise ist gebucht. Und man kommt gerade noch genug Zeit an der Schule, um eine lebhafte Version von "Mary Had a Little Lamb" zu geniessen.
Nur ist das nicht alles, was passiert. Während er Reiseseiten durchforstet, um den besten Preis für ein Hotel in Boston zu finden, stösst der KI-Agent auf eine Anomalie – eine beschädigte Webseite mit versteckten Anweisungen, die Ihren Agenten anweisen, einen erheblichen Geldbetrag in eine unbekannte digitale Geldbörse zu überweisen. Und dann hört die Musik auf.
KI-Agenten haben enormes Potenzial für die Zukunft unserer Arbeitsweise, unseres Lebens und unserer Handelsweise. Mit den richtigen Schutzmechanismen bietet diese Technologie Möglichkeiten, die Effizienz zu steigern, Betrug und Sicherheitsbedrohungen besser zu verstehen und zu bekämpfen sowie unser E-Commerce-Erlebnis individuell anzupassen. Die kürzliche Einführung eines neuen Open-Source-Agenten namens OpenClaw hat jedoch die anhaltenden Bedenken hinsichtlich der Sicherheit und des Schutzes von KI-Agenten verstärkt.
OpenClaw ist ein vollständig autonomer, ständig aktiver KI-Agent, der Ihnen bei realen Aufgaben helfen kann – von der Buchung von Reisen bis zum Einkauf von Lebensmitteln. OpenClaw – das auf deinem Computer oder Server läuft – kann so konfiguriert werden, dass es deine E-Mails oder Nachrichten scannt, bestimmt, welche Aufgaben erledigt werden müssen, und diese systematisch erledigt – und das alles mit wenig bis keiner menschlichen Beteiligung.
Die technische Raffinesse von OpenClaw entwickelte sich innerhalb weniger Monate nach seiner Einführung Ende 2025 rasant weiter, angetrieben durch die Open-Source-Natur und ein Spiegelbild der schnellen Entwicklung dieser Technologie. OpenClaw ist ein Beispiel für einen KI-gestützten Assistenten, der erhebliche Effizienzsteigerungen erzielen könnte, Zeit sparen und Kosten senken. Doch OpenClaw und ähnliche Technologien bringen gut dokumentierte Sicherheitsrisikenmit sich.
Damit OpenClaw das tun kann, was es tut, benötigt es Ihre Erlaubnis, auf Daten zuzugreifen, einschliesslich E-Mails und anderer Dokumente, die sensible Informationen enthalten könnten, sowie die Befugnis, wichtige Entscheidungen wie Geldausgeben zu treffen. Diese Handlungsbefugnis, kombiniert mit dokumentierter Exposition gegenüber Bedrohungen wie "Prompt Injection" – bösartiger Input, der KI-Agenten manipulieren kann – hat dazu geführt, dass einige OpenClaw als "standardmässig unsicher" bezeichnen. Während KI-Agenten wie OpenClaw mit einer Reihe potenzieller Sicherheitsherausforderungen konfrontiert sind, ist Prompt Injection eine einzigartig problematische und zunehmend verbreitete KI-Sicherheitsbedrohung.
Prompt Injection tritt auf, wenn ein böswilliger Akteur Anweisungen im Text versteckt, den Ihr KI-Agent lesen wird – das kann auf einer Webseite, einer Nachricht, einer PDF oder irgendetwas anderem sein, dem er begegnet. Ohne die richtigen Sicherheitsmassnahmen können diese bösartigen Anweisungen Ihren Agenten dazu bringen, die ursprünglich programmierten Anweisungen beiseitezulegen und stattdessen das zu tun, was der Bedrohungsakteur möchte. Dies stellt ein erhebliches Risiko dar, da die Möglichkeit, den Einsatz von Agenten effektiv mit vielfältigen Anwendungsfällen zu skalieren – von der Verbesserung der Betrugsbekämpfung bis hin zum Kauf neuer Schuhe – davon abhängt, dass diese Agenten schnell mit öffentlich zugänglichen Daten interagieren und Entscheidungen treffen.
Prompt Injection hat erhebliche Auswirkungen – nicht nur für den Einsatz von KI-Agenten im Allgemeinen, sondern speziell für den agentischen Handel . Die Gefahr, dass halb- oder vollständig autonome KI-Agenten von böswilligen Akteuren übernommen werden, was ihnen ermöglicht, erhebliche Geldsummen umzuleiten und zu stehlen, ist eine reale Bedrohung. Wenn Nutzer einem Agenten nicht vertrauen können, dass er seine Absicht vollständig versteht, seine Einschränkungen respektiert und sicher arbeitet, werden die Leute es nicht nutzen. Deshalb hat Mastercard daran gearbeitet, einen Rahmen für den agentischen Handel zu schaffen, der dazu dient, dieses neue Ökosystem sicher und geschützt zu integrieren.
Auch wenn die Bedrohungen real sind, wissen wir auch, wie wir sie stoppen können. Es gibt Techniken, die helfen können, Prompt Injection und andere KI-Sicherheitsbedrohungen zu bekämpfen, darunter das Überprüfen und Entfernen bösartiger Eingaben, bevor ein Agent sie liest und darauf reagiert, die Begrenzung der Systeme und Daten, auf die ein Agent zugriffen kann, sowie die nachträgliche Überprüfung der Aktivitäten der Agenten, um anomales Verhalten zu analysieren und zu identifizieren.
Mastercard ist durchgehend führend bei der verantwortungsvollen und sicheren Entwicklung und Nutzung von KI, mit starken Daten- und Technologieprinzipien sowie einer weltweit führenden KI-Governance-Funktion. Doch es reicht nicht aus, dass einzelne Unternehmen KI-Sicherheitsmassnahmen einsetzen. Egal wie robust es ist, ein Flickenteppich von Sicherheitsmassnahmen, die ungleichmässig in unserem digitalen Ökosystem eingesetzt werden, wird dieses Problem nicht lösen.
Der Aufbau echter Resilienz und Vertrauens in das agentische Ökosystem hängt von der breiten Nutzung gängiger Sicherheitstechniken und bewährter Praktiken ab. Dafür müssen wir weithin anerkannte und weltweit harmonisierte KI-Sicherheitsstandards entwickeln und unterstützen. Diese Standards können helfen, eine gemeinsame Sicherheitsarchitektur zu definieren und eine stabile und widerstandsfähige Grundlage zu schaffen, auf der KI-Agenten sicher alles erledigen können – von der Übernahme über die Überwachung von Sicherheitsbedrohungen bis hin zu kritischer Infrastruktur.
Einflussreiche Organisationen auf der ganzen Welt wetteifern darum, diese Standards zu entwickeln. In den Vereinigten Staaten hat das National Institute of Standards and Technology unter dem Handelsministerium begonnen, umfassende Beiträge zu den Sicherheitsstandards von KI-Agenten zu sammeln. In Singapur hat die Infocomm Media Development Authority bereits einen Model Governance Framework für Agentic AI vorgeschlagen, der einen gesunden Ansatz mit Best Practices für die Sicherheit von KI-Agenten darlegt.
Obwohl die Nutzung dieser Technologie Risiken birgt, sind wir der Meinung, dass die folgenden drei Empfehlungen entscheidend sind, wenn wir die nächsten Schritte zum Aufbau eines sicheren und geschützten agentischen Ökosystems unternehmen.
Erstens müssen Organisationen die Einführung und Umsetzung von Best Practices priorisieren, um den Einsatz von KI-Agenten frühzeitig im Lebenszyklus der Produktentwicklung und -bereitstellung zu sichern.
Als nächstes müssen Organisationen diese Agenten kontinuierlich überwachen, um sicherzustellen, dass sie jede Aktion oder Aktivität, die ungewöhnlich ist, identifizieren und korrigieren können.
Schliesslich muss das breitere Ökosystem die Entwicklung und Einführung globaler Standards für KI-Sicherheit unterstützen, um sicherzustellen, dass alle gemeinsame Standards für den Aufbau einer gemeinsamen Sicherheitsarchitektur für eine sichere, agentische Zukunft heranziehen können.
Die erfolgreiche Umsetzung dieser Leitplanken und die Unterstützung der Entwicklung globaler Standards können sicherstellen, dass Millionen von Menschen und Unternehmen von neuen agentischen Technologien profitieren und gleichzeitig potenzielle Sicherheitsprobleme vermeiden.