3 marca 2026 r.
Jesteś już spóźniony na recital fortepianowy swojego syna, kiedy twój szef wysyła ci e-mail z informacją, że za kilka dni musisz udać się do Bostonu na spotkanie służbowe. Twój agent AI odczytuje wiadomość e-mail i zaczyna planować podróż za Ciebie, podczas gdy Ty wybiegasz sprintem za drzwi. Podróż jest zarezerwowana. Do szkoły dotarłeś z wystarczającą ilością czasu, aby cieszyć się porywającym wykonaniem "Mary Had a Little Lamb".
Ale to nie wszystko, co się dzieje. Podczas przeszukiwania witryn turystycznych w celu znalezienia najlepszej ceny hotelu w Bostonie, agent AI napotyka anomalię - uszkodzoną stronę internetową z ukrytymi instrukcjami, które kierują agenta do przelania znacznej kwoty pieniędzy do nieznanego portfela cyfrowego. I wtedy muzyka się zatrzymuje.
Agenci AI niosą ze sobą ogromne nadzieje na przyszłość sposobu, w jaki pracujemy, żyjemy i angażujemy się w handel. Po wdrożeniu odpowiednich zabezpieczeń technologia ta stwarza możliwości zwiększenia wydajności, lepszego zrozumienia i zwalczania oszustw i zagrożeń bezpieczeństwa, a także dostosowania naszego doświadczenia w handlu elektronicznym. Jednak niedawne wprowadzenie nowego agenta open source znanego jako OpenClaw zwiększyło obawy związane z bezpieczeństwem agentów AI.
OpenClaw to w pełni autonomiczny, zawsze aktywny agent AI, który może pomóc w wykonywaniu rzeczywistych zadań - od rezerwacji podróży po zakupy spożywcze. OpenClaw - który działa na komputerze lub serwerze - można skonfigurować tak, aby skanował wiadomości e-mail lub wiadomości, określał, jakie zadania należy wykonać, i systematycznie je wykonywał, a wszystko to przy niewielkim lub zerowym zaangażowaniu człowieka.
Zaawansowanie techniczne OpenClaw gwałtownie wzrosło w ciągu zaledwie kilku miesięcy od jego wprowadzenia pod koniec 2025 r., co wynikało z jego otwartego charakteru i odzwierciedlało szybkość ewolucji tej technologii. OpenClaw to przykład asystenta opartego na sztucznej inteligencji, który może zwiększyć wydajność, oszczędzając czas i obniżając koszty. Jednak OpenClaw i podobne technologie niosą ze sobą dobrze udokumentowane zagrożenia bezpieczeństwa.
Aby OpenClaw mógł robić to, co robi, potrzebuje zgody użytkownika na dostęp do danych, w tym wiadomości e-mail i innych dokumentów, które mogą zawierać poufne informacje, a także uprawnień do podejmowania ważnych decyzji, takich jak wydawanie pieniędzy. To uprawnienie do działania w połączeniu z udokumentowaną ekspozycją na zagrożenia, takie jak "prompt injection" - złośliwe dane wejściowe, które mogą manipulować agentami AI - spowodowało, że niektórzy określają OpenClaw jako"domyślnie niezabezpieczony ". Podczas gdy agenci AI, tacy jak OpenClaw, muszą zmagać się z wieloma potencjalnymi wyzwaniami związanymi z bezpieczeństwem, szybkie wstrzykiwanie jest wyjątkowo problematycznym i coraz bardziej powszechnym zagrożeniem dla bezpieczeństwa AI.
Wstrzyknięcie zachęty ma miejsce, gdy złośliwy aktor ukrywa instrukcje w tekście, który agent AI ma zamiar przeczytać - może to być strona internetowa, wiadomość, plik PDF lub cokolwiek innego, co napotka. Bez odpowiednich środków bezpieczeństwa te złośliwe dyrektywy mogą oszukać agenta, aby odłożył na bok pierwotnie zaprogramowane instrukcje i zamiast tego wykonał to, czego chce aktor zagrożenia. Jest to znaczące ryzyko, ponieważ zdolność do skutecznego skalowania wdrażania agentów z różnymi przypadkami użycia - do wszystkiego, od poprawy sposobu walki z oszustwami po zakup nowej pary butów - zależy od tych agentów szybko wchodzących w interakcje i podejmujących decyzje dotyczące publicznie dostępnych danych.
Szybka iniekcja ma znaczące implikacje - nie tylko dla korzystania z agentów AI w ogóle, ale w szczególności dla handlu agentowego. Niebezpieczeństwo, że częściowo lub w pełni autonomiczni agenci AI zostaną przejęci przez złośliwe podmioty, umożliwiając im przekierowanie i kradzież znacznych sum pieniędzy, stanowi realne zagrożenie. Jeśli użytkownicy nie mogą ufać, że agent w pełni rozumie ich intencje, przestrzega ich ograniczeń i działa bezpiecznie, ludzie nie będą z niego korzystać. Właśnie dlatego Mastercard pracował nad stworzeniem ram dla handlu agentowego, które mają pomóc w zapewnieniu, że ten nowy ekosystem może zostać przyjęty w bezpieczny sposób.
Zagrożenia są realne, ale wiemy też, jak je powstrzymać. Istnieją techniki, które mogą pomóc w zwalczaniu szybkiego wstrzykiwania i innych zagrożeń bezpieczeństwa AI, w tym przeglądanie i usuwanie złośliwych danych wejściowych, zanim agent je odczyta i podejmie działania, ograniczanie systemów i danych, do których agent może uzyskać dostęp, oraz audytowanie działań agentów po fakcie w celu analizy i identyfikacji anomalnych zachowań.
Mastercard konsekwentnie jest liderem w odpowiedzialnym i bezpiecznym rozwijaniu i wykorzystywaniu sztucznej inteligencji, z silnymi zasadami dotyczącymi danych i technologii, a także wiodącą na świecie funkcją zarządzania sztuczną inteligencją. Jednak nie wystarczy, że poszczególne firmy wdrożą środki bezpieczeństwa AI. Bez względu na to, jak solidne, mozaika środków bezpieczeństwa wdrożonych nierównomiernie w naszym cyfrowym ekosystemie nie rozwiąże tego problemu.
Budowanie prawdziwej odporności i zaufania do ekosystemu agentowego zależy od powszechnego przyjęcia wspólnych technik bezpieczeństwa i najlepszych praktyk. Aby to zrobić, musimy opracować i wspierać powszechnie uznawane i globalnie zharmonizowane standardy bezpieczeństwa AI. Standardy te mogą pomóc w zdefiniowaniu wspólnej architektury bezpieczeństwa, tworząc stabilną i odporną podstawę, na której agenci AI mogą bezpiecznie robić wszystko, od dokonywania zakupów po monitorowanie zagrożeń bezpieczeństwa infrastruktury krytycznej.
Wpływowe organizacje na całym świecie prześcigają się w opracowywaniu tych standardów. W Stanach Zjednoczonych Narodowy Instytut Standardów i Technologii (National Institute of Standards and Technology ), podlegający Departamentowi Handlu, rozpoczął starania mające na celu zebranie szeroko zakrojonych informacji na temat standardów bezpieczeństwa agentów AI. W Singapurze, Infocomm Media Development Authority zaproponował już Model Governance Framework for Agentic AI, nakreślając zdroworozsądkowe podejście, w tym najlepsze praktyki w zakresie bezpieczeństwa agentów AI.
Chociaż korzystanie z tej technologii wiąże się z ryzykiem, uważamy, że poniższe trzy zalecenia są kluczowe przy podejmowaniu kolejnych kroków w budowaniu bezpiecznego ekosystemu agentowego.
Po pierwsze, organizacje muszą nadać priorytet przyjęciu i wdrożeniu najlepszych praktyk, aby zabezpieczyć wykorzystanie agentów AI na wczesnym etapie cyklu rozwoju i wdrażania produktu.
Następnie organizacje muszą stale monitorować tych agentów, aby upewnić się, że mogą zidentyfikować i skorygować wszelkie działania lub czynności, które odbiegają od normy.
Wreszcie, szerszy ekosystem musi wspierać rozwój i przyjmowanie globalnych standardów bezpieczeństwa sztucznej inteligencji, aby zapewnić, że wszyscy będą mogli korzystać ze wspólnych standardów w budowaniu wspólnej architektury bezpieczeństwa dla bezpiecznej agentowej przyszłości.
Pomyślne wdrożenie tych zabezpieczeń i wspieranie rozwoju globalnych standardów może zapewnić milionom ludzi i firm możliwość czerpania korzyści z nowych technologii agentowych przy jednoczesnym uniknięciu potencjalnych pułapek bezpieczeństwa.