3. mars 2026
Du er allerede forsinket til sønnens pianokonsert når sjefen din sender deg en e-post og forteller deg at du må reise til Boston om noen dager for et jobbmøte. AI-agenten din leser e-posten og begynner å planlegge turen for deg mens du spurter ut døren. Turen er bestilt. Og du ankommer skolen akkurat nok tid til å nyte en livlig gjengivelse av «Mary Had a Little Lamb».
Bortsett fra at det ikke er alt som skjer. Mens AI-agenten gjennomsøker reisesider for å finne den beste prisen på et hotell i Boston, støter han på et uregelmessighet – en ødelagt nettside med skjulte instruksjoner som ber agenten overføre et betydelig beløp til en ukjent digital lommebok. Og det er da musikken stopper.
AI-agenter har enorme løfter for fremtiden til måten vi jobber, lever og driver handel på. Med de riktige sikkerhetsrekkverkene implementert, gir denne teknologien muligheter til å øke effektiviteten, bedre forstå og bekjempe svindel og sikkerhetstrusler, samt tilpasse e-handelsopplevelsen vår. Den nylige introduksjonen av en ny åpen kildekode-agent kjent som OpenClaw har imidlertid forsterket de pågående bekymringene rundt sikkerheten til AI-agenter.
OpenClaw er en fullstendig autonom, alltid pågående AI-agent som kan hjelpe deg med å utføre virkelige oppgaver – fra å bestille reiser til å kjøpe dagligvarer. OpenClaw – som kjører på datamaskinen eller serveren din – kan konfigureres til å skanne e-post eller meldinger, bestemme hvilke oppgaver som må gjøres, og systematisk utføre dem, alt med liten eller ingen menneskelig involvering.
OpenClaws tekniske raffinement utviklet seg raskt i løpet av bare måneder etter introduksjonen sent i 2025, drevet av dens åpen kildekode-natur og som gjenspeiler hvor raskt denne teknologien utvikler seg. OpenClaw er et eksempel på en AI-drevet assistent som kan drive betydelig effektivitet, spare tid og kutte kostnader. Men OpenClaw og lignende teknologi medfører veldokumenterte sikkerhetsrisikoer.
For at OpenClaw skal kunne gjøre det den gjør, trenger den din tillatelse til å få tilgang til data, inkludert e-poster og andre dokumenter som kan inneholde sensitiv informasjon, samt myndighet til å ta viktige avgjørelser, som å bruke penger. Denne handlemyndigheten kombinert med dokumentert eksponering for trusler som «rask injeksjon» – ondsinnet inndata som kan manipulere AI-agenter – har fått noen til å omtale OpenClaw som «usikker som standard». Selv om AI-agenter som OpenClaw må håndtere en rekke potensielle sikkerhetsutfordringer, er rask injeksjon en unik problematisk og stadig mer vanlig AI-sikkerhetstrussel.
Rask injeksjon skjer når en ondsinnet aktør skjuler instruksjoner i tekst som AI-agenten din skal lese – det kan være på en nettside, melding, PDF eller noe annet den møter. Uten de riktige sikkerhetstiltakene kan disse ondsinnede direktivene lure agenten din til å sette til side instruksjonene du opprinnelig programmerte, og i stedet gjøre det trusselaktøren ønsker. Dette er en betydelig risiko ettersom evnen til å skalere utplasseringen av agenter effektivt med ulike bruksområder – alt fra å forbedre måten vi bekjemper svindel på til å kjøpe et nytt par sko – avhenger av at disse agentene raskt samhandler med og tar beslutninger angående offentlig tilgjengelige data.
Rask injeksjon har betydelige implikasjoner – ikke bare for bruken av AI-agenter generelt, men for agenthandel spesielt. Faren for at semi- eller helt autonome AI-agenter blir kommandert av ondsinnede aktører, slik at de kan omdirigere og stjele betydelige pengesummer, er en reell trussel. Hvis brukere ikke kan stole på at en agent fullt ut forstår deres intensjon, respekterer deres begrensninger og opererer trygt, vil folk ikke bruke den. Derfor har Mastercard jobbet med å bygge et rammeverk for agenthandel som er utformet for å sikre at dette nye økosystemet kan omfavnes på en trygg og sikker måte.
Selv om truslene er reelle, vet vi også hvordan vi kan stoppe dem. Det finnes teknikker som kan bidra til å bekjempe umiddelbar injeksjon og andre AI-sikkerhetstrusler, inkludert å gjennomgå og fjerne ondsinnede inndata før en agent leser og handler på dem, begrense systemene og dataene en agent har tilgang til, og revidere agentenes aktiviteter i etterkant for å analysere og identifisere avvikende atferd.
Mastercard har konsekvent vært en leder innen utvikling og bruk av AI på en ansvarlig og sikker måte, med sterke data- og teknologiprinsipper samt en verdensledende AI-styringsfunksjon. Likevel er det ikke nok for enkeltbedrifter å iverksette AI-sikkerhetstiltak. Uansett hvor robuste de er, vil ikke et lappeteppe av sikkerhetstiltak som er ujevnt distribuert i vårt digitale økosystem løse dette problemet.
Å bygge reell motstandskraft og tillit i agentøkosystemet avhenger av utbredt bruk av felles sikkerhetsteknikker og beste praksis. For å gjøre det, må vi utvikle og støtte allment anerkjente og globalt harmoniserte sikkerhetsstandarder for AI. Disse standardene kan bidra til å definere en felles sikkerhetsarkitektur, og skape et stabilt og robust fundament der AI-agenter trygt kan gjøre alt fra å foreta kjøp til å overvåke sikkerhetstrusler mot kritisk infrastruktur.
Innflytelsesrike organisasjoner over hele verden kjemper om å utvikle disse standardene. I USA har National Institute of Standards and Technology under handelsdepartementet startet arbeidet med å samle inn omfattende innspill angående sikkerhetsstandarder for AI-agenter. I Singapore har Infocomm Media Development Authority allerede foreslått et modellstyringsrammeverk for agentisk AI, som skisserer en sunn fornuft-tilnærming, inkludert beste praksis for sikkerhet for AI-agenter.
Selv om det er risikoer ved å bruke denne teknologien, mener vi at de følgende tre anbefalingene er viktige når vi tar de neste stegene i å bygge et trygt og sikkert agentøkosystem.
For det første må organisasjoner prioritere adopsjon og implementering av beste praksis for å sikre bruken av AI-agenter tidlig i produktutviklingens og -distribusjonens livssyklus.
Deretter må organisasjoner kontinuerlig overvåke disse agentene for å sikre at de kan identifisere og korrigere eventuelle handlinger eller aktiviteter som er utenom det vanlige.
Til slutt må det bredere økosystemet støtte utviklingen og adopsjonen av globale standarder for AI-sikkerhet for å sikre at alle kan se til felles standarder for å bygge en delt sikkerhetsarkitektur for en trygg fremtid for agenter.
Ved å lykkes med å implementere disse rekkverket og støtte utviklingen av globale standarder kan millioner av mennesker og bedrifter dra nytte av nye agentteknologier, samtidig som de potensielle sikkerhetsfellene unngås.