Skip to main content

AI

3. mart 2026.

 

Pre nego što muzika prestane: OpenClaw i rastuća potreba za bezbednosnim standardima veštačke inteligencije

Kako autonomni AI agenti dobijaju moć da deluju — i obavljaju transakcije — poverenje će zavisiti od zajedničkih bezbednosnih mehanizama, a ne od individualnih rešenja.

logotip korporacije google

Christian Ohanian

Vice President, Government Affairs and Policy, Mastercard

   

Scott Fanning

Executive Vice President, Cybersecurity Solutions, Mastercard

Već kasnite na klavirski recital svog sina, kada vam šef pošalje e-poštu, govoreći vam da morate otputovati u Boston za nekoliko dana na poslovni sastanak. Vaš AI agent čita e-poštu i počinje da planira putovanje za vas dok vi žurite napolje. Putovanje je rezervisano. I stižete u školu sa taman dovoljno vremena da uživate u živahnoj izvedbi pesme „Mary Had a Little Lamb“.

Osim što se to ne dešava samo. Dok pretražuje turističke veb-sajtove kako bi pronašao najbolju cenu za hotel u Bostonu, AI agent nailazi na anomaliju — oštećenu veb-stranicu sa skrivenim uputstvima koja vašem agentu nalažu da prebaci značajnu sumu novca na nepoznati digitalni novčanik. I to je kada muzika prestaje.

AI agenti imaju ogroman potencijal za budućnost načina na koji radimo, živimo i poslujemo. Uz primenu odgovarajućih zaštitnih mehanizama, ova tehnologija pruža mogućnosti za povećanje efikasnosti, bolje razumevanje i borbu protiv prevara i bezbednosnih pretnji, kao i za prilagođavanje našeg iskustva e-trgovine. Međutim, nedavno predstavljanje novog agenta otvorenog koda poznatog kao OpenClaw pojačalo je tekuću zabrinutost u vezi sa bezbednošću i sigurnošću AI agenata.

OpenClaw je potpuno autonomni, uvek aktivni AI agent koji vam može pomoći da obavljate stvarne zadatke — od rezervisanja putovanja do kupovine namirnica. OpenClaw — koji radi na vašem računaru ili serveru — može se konfigurisati da skenira vaše imejlove ili poruke, odredi koje zadatke treba obaviti i sistematski ih izvrši, sve to uz malo ili nimalo ljudskog angažovanja.

Tehnička sofisticiranost OpenClaw-a se brzo razvila u samo nekoliko meseci od njegovog predstavljanja krajem 2025. godine, podstaknuta njegovom prirodom otvorenog koda i odražavajući brzinu kojom se ova tehnologija razvija. OpenClaw je primer asistenta zasnovanog na veštačkoj inteligenciji koji bi mogao da podstakne značajnu efikasnost, štedeći vreme i smanjujući troškove. Međutim, OpenClaw i slična tehnologija donose sa sobom dobro dokumentovane bezbednosne rizike.

 

U čemu je problem?

Da bi OpenClaw radio ono što radi, potrebna mu je vaša dozvola za pristup podacima, uključujući e-mailove i druge dokumente koji mogu sadržati osetljive informacije, kao i ovlašćenje za donošenje važnih odluka, poput trošenja novca. To ovlašćenje za delovanje, u kombinaciji sa dokumentovanom izloženošću pretnjama poput „prompt injection“ — zlonamerni unos koji može manipulisati AI agentima — navelo je neke da OpenClaw nazivaju „nesigurnim podrazumevano.“ Dok se AI agenti poput OpenClaw-a moraju nositi sa brojnim potencijalnim bezbednosnim izazovima, „prompt injection“ je jedinstveno problematična i sve češća pretnja po bezbednost AI sistema.

Ubrizgavanje prompta nastaje kada zlonamerni akter sakrije instrukcije unutar teksta koji će vaš AI agent pročitati — to može biti na veb-stranici, poruci, PDF-u ili bilo čemu drugom na šta naiđe. Bez pravih bezbednosnih mera, ove zlonamerne direktive mogu prevariti vašeg agenta da ostavi po strani sva uputstva koja ste prvobitno programirali i, umesto toga, uradi ono što akter pretnje želi. Ovo je značajan rizik jer sposobnost efikasnog skaliranja primene agenata sa različitim slučajevima upotrebe — za sve, od poboljšanja načina borbe protiv prevara do kupovine novog para cipela — zavisi od toga da ti agenti brzo komuniciraju sa javno dostupnim podacima i donose odluke u vezi sa njima.

Ubrizgavanje promptova ima značajne implikacije — ne samo za upotrebu AI agenata generalno, već i posebno za trgovinu posredstvom agenata. Opasnost da poluautonomne ili potpuno autonomne AI agente preuzmu zlonamerni akteri, omogućavajući im da preusmere i ukradu značajne sume novca, predstavlja stvarnu pretnju. Ako korisnici ne mogu da veruju agentu da će u potpunosti razumeti njihovu nameru, poštovati njihova ograničenja i bezbedno raditi, ljudi ga neće koristiti. Zato je Mastercard radio na izgradnji okvira za trgovinu zasnovanu na agentima, koji je osmišljen da pomogne u obezbeđivanju da ovaj novi ekosistem može biti prihvaćen na siguran i bezbedan način.

Iako su pretnje stvarne, znamo i kako da im stanemo na put. Postoje tehnike koje mogu pomoći u borbi protiv prompt injekcije i drugih bezbednosnih pretnji veštačke inteligencije, uključujući pregledanje i uklanjanje zlonamernih unosa pre nego što ih agent pročita i reaguje na njih, ograničavanje sistema i podataka kojima agent može da pristupi, kao i reviziju aktivnosti agenata nakon izvršenja radi analize i identifikacije anomalnog ponašanja. 

 

Agentna bezbednost mora biti zajednički cilj.

Mastercard je dosledno bio lider u odgovornom i bezbednom razvoju i korišćenju veštačke inteligencije, sa jakim principima o podacima i tehnologiji, kao i sa vodećom funkcijom upravljanja veštačkom inteligencijom na svetu. Ipak, nije dovoljno da pojedinačne kompanije primenjuju mere bezbednosti veštačke inteligencije. Bez obzira na to koliko su robusne, mnoštvo bezbednosnih mera neujednačeno primenjenih širom našeg digitalnog ekosistema neće rešiti ovaj problem.

Izgradnja stvarne otpornosti i poverenja u agentski ekosistem zavisi od široke primene uobičajenih bezbednosnih tehnika i najboljih praksi. Da bismo to postigli, moramo da razvijemo i podržimo široko priznate i globalno usklađene bezbednosne standarde veštačke inteligencije. Ovi standardi mogu pomoći u definisanju zajedničke bezbednosne arhitekture, stvarajući stabilan i otporan temelj gde AI agenti mogu bezbedno da rade sve, od obavljanja kupovina do nadgledanja bezbednosnih pretnji kritičnoj infrastrukturi.

Uticajne organizacije širom sveta žure da razviju te standarde. U Sjedinjenim Državama, Nacionalni institut za standarde i tehnologiju pod Ministarstvom trgovine je započeo napore da prikupi širok spektar inputa u vezi sa sigurnosnim standardima AI agenata.  U Singapuru, Agencija za razvoj infokomunikacionih medija je već predložila Model okvira upravljanja za agentnu veštačku inteligenciju, izlažući pristup zdravog razuma, uključujući najbolje prakse za bezbednost AI agenata.

 

Preporuke za izgradnju poverenja

Iako postoje rizici u korišćenju ove tehnologije, verujemo da su sledeće tri preporuke ključne dok preduzimamo sledeće korake u izgradnji sigurnog i bezbednog agentičkog ekosistema.

Prvo, organizacije treba da prioritetizuju usvajanje i primenu najboljih praksi kako bi obezbedile korišćenje AI agenata rano u životnom ciklusu razvoja i primene proizvoda.

Zatim, organizacije moraju kontinuirano da nadgledaju te agente kako bi osigurale da mogu da identifikuju i isprave svaku radnju ili aktivnost koja je neobična.

Na kraju, širi ekosistem mora da podrži razvoj i usvajanje globalnih standarda za AI bezbednost kako bi se osiguralo da se svi mogu osloniti na zajedničke standarde u izgradnji zajedničke bezbednosne arhitekture za sigurnu agentnu budućnost.

Uspešna primena ovih zaštitnih mera i podrška razvoju globalnih standarda može osigurati da milioni ljudi i preduzeća imaju koristi od novih agensnih tehnologija, istovremeno izbegavajući potencijalne bezbednosne zamke.

Nova pravila puta za agencijsku trgovinu

Saznajte više o standardima i alatima koji će pomoći u širenju e-trgovine zasnovane na veštačkoj inteligenciji za besprekornu, personalizovanu kupovinu i rast.

A smartphone with projections of a shopping card and women's clothes on top of it.