Skip to main content

Sztuczna inteligencja

3 marca 2026 r.

 

Zanim ucichnie muzyka: OpenClaw i rosnące zapotrzebowanie na standardy bezpieczeństwa AI

W miarę jak autonomiczni agenci AI zyskują uprawnienia do działania - i zawierania transakcji - zaufanie będzie zależeć od wspólnych barier bezpieczeństwa, a nie od indywidualnych poprawek.

logo google

Christian Ohanian

Vice President, Government Affairs and Policy, Mastercard

   

Scott Fanning

Executive Vice President, Cybersecurity Solutions, Mastercard

Jesteś już spóźniony na recital fortepianowy swojego syna, kiedy twój szef wysyła ci e-mail z informacją, że za kilka dni musisz udać się do Bostonu na spotkanie służbowe. Twój agent AI odczytuje wiadomość e-mail i zaczyna planować podróż za Ciebie, podczas gdy Ty wybiegasz sprintem za drzwi. Podróż jest zarezerwowana. Do szkoły dotarłeś z wystarczającą ilością czasu, aby cieszyć się porywającym wykonaniem "Mary Had a Little Lamb".

Ale to nie wszystko, co się dzieje. Podczas przeszukiwania witryn turystycznych w celu znalezienia najlepszej ceny hotelu w Bostonie, agent AI napotyka anomalię - uszkodzoną stronę internetową z ukrytymi instrukcjami, które kierują agenta do przelania znacznej kwoty pieniędzy do nieznanego portfela cyfrowego. I wtedy muzyka się zatrzymuje.

Agenci AI niosą ze sobą ogromne nadzieje na przyszłość sposobu, w jaki pracujemy, żyjemy i angażujemy się w handel. Po wdrożeniu odpowiednich zabezpieczeń technologia ta stwarza możliwości zwiększenia wydajności, lepszego zrozumienia i zwalczania oszustw i zagrożeń bezpieczeństwa, a także dostosowania naszego doświadczenia w handlu elektronicznym. Jednak niedawne wprowadzenie nowego agenta open source znanego jako OpenClaw zwiększyło obawy związane z bezpieczeństwem agentów AI.

OpenClaw to w pełni autonomiczny, zawsze aktywny agent AI, który może pomóc w wykonywaniu rzeczywistych zadań - od rezerwacji podróży po zakupy spożywcze. OpenClaw - który działa na komputerze lub serwerze - można skonfigurować tak, aby skanował wiadomości e-mail lub wiadomości, określał, jakie zadania należy wykonać, i systematycznie je wykonywał, a wszystko to przy niewielkim lub zerowym zaangażowaniu człowieka.

Zaawansowanie techniczne OpenClaw gwałtownie wzrosło w ciągu zaledwie kilku miesięcy od jego wprowadzenia pod koniec 2025 r., co wynikało z jego otwartego charakteru i odzwierciedlało szybkość ewolucji tej technologii. OpenClaw to przykład asystenta opartego na sztucznej inteligencji, który może zwiększyć wydajność, oszczędzając czas i obniżając koszty. Jednak OpenClaw i podobne technologie niosą ze sobą dobrze udokumentowane zagrożenia bezpieczeństwa.

 

W czym problem?

Aby OpenClaw mógł robić to, co robi, potrzebuje zgody użytkownika na dostęp do danych, w tym wiadomości e-mail i innych dokumentów, które mogą zawierać poufne informacje, a także uprawnień do podejmowania ważnych decyzji, takich jak wydawanie pieniędzy. To uprawnienie do działania w połączeniu z udokumentowaną ekspozycją na zagrożenia, takie jak "prompt injection" - złośliwe dane wejściowe, które mogą manipulować agentami AI - spowodowało, że niektórzy określają OpenClaw jako"domyślnie niezabezpieczony ". Podczas gdy agenci AI, tacy jak OpenClaw, muszą zmagać się z wieloma potencjalnymi wyzwaniami związanymi z bezpieczeństwem, szybkie wstrzykiwanie jest wyjątkowo problematycznym i coraz bardziej powszechnym zagrożeniem dla bezpieczeństwa AI.

Wstrzyknięcie zachęty ma miejsce, gdy złośliwy aktor ukrywa instrukcje w tekście, który agent AI ma zamiar przeczytać - może to być strona internetowa, wiadomość, plik PDF lub cokolwiek innego, co napotka. Bez odpowiednich środków bezpieczeństwa te złośliwe dyrektywy mogą oszukać agenta, aby odłożył na bok pierwotnie zaprogramowane instrukcje i zamiast tego wykonał to, czego chce aktor zagrożenia. Jest to znaczące ryzyko, ponieważ zdolność do skutecznego skalowania wdrażania agentów z różnymi przypadkami użycia - do wszystkiego, od poprawy sposobu walki z oszustwami po zakup nowej pary butów - zależy od tych agentów szybko wchodzących w interakcje i podejmujących decyzje dotyczące publicznie dostępnych danych.

Szybka iniekcja ma znaczące implikacje - nie tylko dla korzystania z agentów AI w ogóle, ale w szczególności dla handlu agentowego. Niebezpieczeństwo, że częściowo lub w pełni autonomiczni agenci AI zostaną przejęci przez złośliwe podmioty, umożliwiając im przekierowanie i kradzież znacznych sum pieniędzy, stanowi realne zagrożenie. Jeśli użytkownicy nie mogą ufać, że agent w pełni rozumie ich intencje, przestrzega ich ograniczeń i działa bezpiecznie, ludzie nie będą z niego korzystać. Właśnie dlatego Mastercard pracował nad stworzeniem ram dla handlu agentowego, które mają pomóc w zapewnieniu, że ten nowy ekosystem może zostać przyjęty w bezpieczny sposób.

Zagrożenia są realne, ale wiemy też, jak je powstrzymać. Istnieją techniki, które mogą pomóc w zwalczaniu szybkiego wstrzykiwania i innych zagrożeń bezpieczeństwa AI, w tym przeglądanie i usuwanie złośliwych danych wejściowych, zanim agent je odczyta i podejmie działania, ograniczanie systemów i danych, do których agent może uzyskać dostęp, oraz audytowanie działań agentów po fakcie w celu analizy i identyfikacji anomalnych zachowań. 

 

Bezpieczeństwo agentowe musi być wspólnym celem

Mastercard konsekwentnie jest liderem w odpowiedzialnym i bezpiecznym rozwijaniu i wykorzystywaniu sztucznej inteligencji, z silnymi zasadami dotyczącymi danych i technologii, a także wiodącą na świecie funkcją zarządzania sztuczną inteligencją. Jednak nie wystarczy, że poszczególne firmy wdrożą środki bezpieczeństwa AI. Bez względu na to, jak solidne, mozaika środków bezpieczeństwa wdrożonych nierównomiernie w naszym cyfrowym ekosystemie nie rozwiąże tego problemu.

Budowanie prawdziwej odporności i zaufania do ekosystemu agentowego zależy od powszechnego przyjęcia wspólnych technik bezpieczeństwa i najlepszych praktyk. Aby to zrobić, musimy opracować i wspierać powszechnie uznawane i globalnie zharmonizowane standardy bezpieczeństwa AI. Standardy te mogą pomóc w zdefiniowaniu wspólnej architektury bezpieczeństwa, tworząc stabilną i odporną podstawę, na której agenci AI mogą bezpiecznie robić wszystko, od dokonywania zakupów po monitorowanie zagrożeń bezpieczeństwa infrastruktury krytycznej.

Wpływowe organizacje na całym świecie prześcigają się w opracowywaniu tych standardów. W Stanach Zjednoczonych Narodowy Instytut Standardów i Technologii (National Institute of Standards and Technology ), podlegający Departamentowi Handlu, rozpoczął starania mające na celu zebranie szeroko zakrojonych informacji na temat standardów bezpieczeństwa agentów AI.  W Singapurze, Infocomm Media Development Authority zaproponował już Model Governance Framework for Agentic AI, nakreślając zdroworozsądkowe podejście, w tym najlepsze praktyki w zakresie bezpieczeństwa agentów AI.

 

Zalecenia dotyczące budowania zaufania

Chociaż korzystanie z tej technologii wiąże się z ryzykiem, uważamy, że poniższe trzy zalecenia są kluczowe przy podejmowaniu kolejnych kroków w budowaniu bezpiecznego ekosystemu agentowego.

Po pierwsze, organizacje muszą nadać priorytet przyjęciu i wdrożeniu najlepszych praktyk, aby zabezpieczyć wykorzystanie agentów AI na wczesnym etapie cyklu rozwoju i wdrażania produktu.

Następnie organizacje muszą stale monitorować tych agentów, aby upewnić się, że mogą zidentyfikować i skorygować wszelkie działania lub czynności, które odbiegają od normy.

Wreszcie, szerszy ekosystem musi wspierać rozwój i przyjmowanie globalnych standardów bezpieczeństwa sztucznej inteligencji, aby zapewnić, że wszyscy będą mogli korzystać ze wspólnych standardów w budowaniu wspólnej architektury bezpieczeństwa dla bezpiecznej agentowej przyszłości.

Pomyślne wdrożenie tych zabezpieczeń i wspieranie rozwoju globalnych standardów może zapewnić milionom ludzi i firm możliwość czerpania korzyści z nowych technologii agentowych przy jednoczesnym uniknięciu potencjalnych pułapek bezpieczeństwa.

Nowe zasady ruchu drogowego dla handlu agentowego

Dowiedz się więcej o standardach i narzędziach, które pomogą skalować handel oparty na sztucznej inteligencji w celu zapewnienia płynnych, spersonalizowanych zakupów i rozwoju.

A smartphone with projections of a shopping card and women's clothes on top of it.