3. března 2026
Už se opozdíte na synovo klavírní vystoupení, když vám šéf napíše e-mail, že musíte za pár dní odcestovat do Bostonu na pracovní schůzku. Váš agent s umělou inteligencí si přečte e-mail a začne za vás plánovat cestu, zatímco vy vybíháte ze dveří. Cesta je rezervována. A do školy dorazíte právě včas, abyste si mohli vychutnat temperamentní provedení písně "Mary Had a Little Lamb".
Jenže to není vše, co se děje. Při procházení cestovních webových stránek s cílem najít nejlepší cenu hotelu v Bostonu narazí agent s umělou inteligencí na anomálii - poškozenou webovou stránku se skrytými pokyny, které agenta navedou k převodu značné částky peněz do neznámé digitální peněženky. A v tu chvíli hudba přestane hrát.
Agenti s umělou inteligencí jsou obrovským příslibem pro budoucnost způsobu, jakým pracujeme, žijeme a obchodujeme. Se správnými ochrannými prvky představuje tato technologie příležitosti ke zvýšení efektivity, lepšímu pochopení a boji proti podvodům a bezpečnostním hrozbám a také k přizpůsobení našich zkušeností s elektronickým obchodováním. Nedávné uvedení nového agenta s otevřeným zdrojovým kódem známého jako OpenClaw však posílilo přetrvávající obavy týkající se bezpečnosti a zabezpečení agentů umělé inteligence.
OpenClaw je plně autonomní, neustále zapnutý agent s umělou inteligencí, který vám pomůže plnit úkoly v reálném světě - od rezervace cestování až po nákup potravin. Aplikaci OpenClaw, která běží na vašem počítači nebo serveru, lze nakonfigurovat tak, aby prohledávala e-maily nebo zprávy, určovala, jaké úkoly je třeba provést, a systematicky je plnila, a to vše bez téměř žádného zapojení člověka.
Technická vyspělost systému OpenClaw se během pouhých několika měsíců od jeho uvedení na trh koncem roku 2025 rapidně zvýšila, což je dáno jeho open-source povahou a odráží to, jak rychle se tato technologie vyvíjí. OpenClaw je příkladem asistenta poháněného umělou inteligencí, který by mohl výrazně zvýšit efektivitu, ušetřit čas a snížit náklady. OpenClaw a podobné technologie však s sebou přinášejí dobře zdokumentovaná bezpečnostní rizika.
Aby mohl OpenClaw dělat to, co dělá, potřebuje vaše svolení k přístupu k datům, včetně e-mailů a dalších dokumentů, které mohou obsahovat citlivé informace, a také oprávnění činit důležitá rozhodnutí, například utrácet peníze. Tato pravomoc jednat v kombinaci s dokumentovaným vystavením hrozbám, jako je "prompt injection" - škodlivý vstup, který může manipulovat s agenty AI - způsobila, že někteří označují OpenClaw za "standardně nezabezpečený". Ačkoli se agenti umělé inteligence, jako je OpenClaw, musí potýkat s řadou potenciálních bezpečnostních výzev, je prompt injection jedinečně problematickou a stále častější bezpečnostní hrozbou umělé inteligence.
Injekce výzvy nastane, když škodlivý aktér ukryje instrukce do textu, který bude váš agent AI číst - může to být na webové stránce, ve zprávě, PDF nebo v čemkoli jiném, s čím se setká. Bez správných bezpečnostních opatření mohou tyto škodlivé pokyny přimět vašeho agenta, aby odložil původně naprogramované pokyny a místo toho udělal to, co chce původce hrozby. To představuje významné riziko, protože schopnost efektivně rozšiřovat nasazení agentů s různými případy použití - od zlepšení způsobu boje proti podvodům až po nákup nového páru bot - závisí na rychlé interakci těchto agentů s veřejně dostupnými daty a rozhodování o nich.
Promptní vstřikování má významné důsledky - nejen pro používání agentů umělé inteligence obecně, ale konkrétně pro agentní obchodování. Nebezpečí, že se částečně nebo zcela autonomních agentů s umělou inteligencí zmocní záškodníci a umožní jim přesměrovat a ukrást značné částky peněz, je skutečnou hrozbou. Pokud uživatelé nemohou důvěřovat agentovi, že plně chápe jejich záměry, respektuje jejich omezení a pracuje bezpečně, nebudou ho používat. Proto společnost Mastercard pracovala na vytvoření rámce pro agenturní obchodování, který má pomoci zajistit, aby tento nový ekosystém mohl být přijat bezpečným a zabezpečeným způsobem.
Hrozby jsou sice reálné, ale zároveň víme, jak jim zabránit. Existují techniky, které mohou pomoci v boji proti prompt injection a dalším bezpečnostním hrozbám umělé inteligence, včetně kontroly a odstranění škodlivých vstupů předtím, než je agent přečte a začne jednat, omezení systémů a dat, ke kterým má agent přístup, a následného auditu činností agentů za účelem analýzy a identifikace anomálního chování.
Společnost Mastercard je trvale lídrem v oblasti odpovědného a bezpečného vývoje a využívání umělé inteligence, a to díky silným datovým a technologickým zásadám a přední světové funkci správy umělé inteligence. Přesto nestačí, aby jednotlivé společnosti nasadily bezpečnostní opatření v oblasti umělé inteligence. Tento problém nevyřeší mozaika bezpečnostních opatření nerovnoměrně rozmístěných napříč naším digitálním ekosystémem, ať už je jakkoli robustní.
Budování skutečné odolnosti a důvěryhodnosti agentového ekosystému závisí na širokém přijetí společných bezpečnostních technik a osvědčených postupů. K tomu je třeba vyvinout a podporovat široce uznávané a celosvětově harmonizované bezpečnostní standardy pro umělou inteligenci. Tyto standardy mohou pomoci definovat společnou bezpečnostní architekturu a vytvořit stabilní a odolný základ, na kterém mohou agenti AI bezpečně provádět všechny činnosti od nákupů až po monitorování bezpečnostních hrozeb pro kritickou infrastrukturu.
Vlivné organizace po celém světě se předhánějí ve vývoji těchto norem. Ve Spojených státech zahájil Národní institut pro standardy a technologie spadající pod ministerstvo obchodu úsilí o shromáždění rozsáhlých podnětů týkajících se bezpečnostních standardů pro agenty umělé inteligence. Singapurský úřad pro rozvoj infokomunikačních médií již navrhl modelový rámec správy pro agentní umělou inteligenci, který popisuje zdravý přístup včetně osvědčených postupů pro bezpečnost agentů umělé inteligence.
Přestože používání této technologie s sebou nese určitá rizika, považujeme následující tři doporučení za klíčová pro další kroky při budování bezpečného a zabezpečeného agentového ekosystému.
Zaprvé, organizace musí upřednostnit přijetí a zavedení osvědčených postupů, aby zajistily používání agentů AI již v rané fázi životního cyklu vývoje a nasazení produktu.
Dále musí organizace tyto agenty průběžně monitorovat, aby mohly identifikovat a opravit jakoukoli akci nebo aktivitu, která se vymyká běžným zvyklostem.
A konečně, širší ekosystém musí podporovat vývoj a přijetí globálních standardů pro bezpečnost umělé inteligence, aby všichni mohli při budování společné bezpečnostní architektury pro bezpečnou agentní budoucnost vycházet ze společných standardů.
Úspěšná implementace těchto zábran a podpora vývoje globálních standardů může zajistit, že miliony lidí a podniků budou moci využívat nové agentové technologie a zároveň se vyhnout možným bezpečnostním nástrahám.