For noen år siden brukte en turist i Mexico kredittkortet sitt til å ta ut kontanter fra en minibank. Da han kom hjem og så på kortutskriften sin, så han at kortet også hadde blitt brukt til å kjøpe flere smykker. Dette var merkelig: Ikke bare hadde han ikke kjøpt noe med kortet på ferien, transaksjonen hadde skjedd fem minutter etter minibankuttaket – i en butikk på den andre siden av landet.

Heldigvis, etter å ha gjennomgått saken hans, ble et team i banken hans enige om at – selv om deres AI-svindeldeteksjonsverktøy ikke hadde flagget kjøpet som mistenkelig – var det høyst usannsynlig at han hadde kjøpt smykkene selv, så de refunderte kjøpet. Etter hvert som de gravde videre, slo teamet fast at svindlere sannsynligvis hadde stjålet kredittkortinformasjonen hans fra en kortleser gjemt i minibanken og sendt den til en medskyldig på den andre kysten.

Den enkle, raske og anonyme måten moderne betalinger fungerer på har gitt opphav til svindelordninger som dette i et omfang som er umulig for mennesker å holde tritt med. Heldigvis trenger de ikke det, siden AI-applikasjoner nå overvåker hver transaksjon og holder øye med hele kortnettverket for angrep. Disse AI-modellene sorterer data mer effektivt enn noe menneske kunne.

Mastercard har i årevis brukt kunstig intelligens til å oppdage svindel, og bruker den for tiden til å sikre mer enn 159 milliarder transaksjoner årlig, noe som forhindrer tap på milliarder av dollar knyttet til svindel. I fjor kjøpte Mastercard opp Recorded Future, som bruker AI til å analysere millioner av datapunkter daglig, og identifisere mønstre og avvik som signaliserer potensielle trusler.

Men selv om mennesker trenger kunstig intelligens, trenger også kunstig intelligens mennesker. Selv om automatiserte verktøy gjør den viktigste jobben, må utviklere kontinuerlig levere kontekst fra den virkelige verden for at resultatene skal være nyttige – ved å identifisere nye typer svindel, bestemme hvordan man kan forhindre det uten å forstyrre det større nettverket og programmere de nye reglene inn i algoritmen. Det er denne menneskelige innsatsen som forvandler rå AI-kraft til relevant og praktisk intelligens.

Etter hvert som AI- og maskinlæringsmodeller blir kraftigere, er det fristende å tro at teknologi alene kan overgå dagens nettkriminelle, sier Mastercards Johan Gerber, global leder for sikkerhetsløsninger. «Men bak hvert varsel, hvert avvik eller hver flagget transaksjon ligger det et avgjørende, inkrementelt lag som algoritmer ikke kan replikere: menneskelig dømmekraft.» Når menneskelig vurderingsevne kombineres med AI, er det det som gjør det virkelig effektivt og sikrer at det forblir ansvarlig.»

Selv om AI er designet for å oppdage subtile mønstre i datamengder, er den ikke alltid utstyrt for å håndtere avvik. Uten menneskelig tilsyn kan uventede hendelser utløse ubemerkede trusler, falske alarmer og andre forvrengninger.

«Selv med disse kraftige verktøyene trenger du fortsatt folk», sier Vince Haulotte, direktør for markedslevering i Mastercards virksomhet innen svindel og risikobeslutninger. «Man må bruke en klype salt og ta hensyn til kontekst for å sørge for at AI-ens respons er effektiv.»

For eksempel overvåket AI-systemer den reisendes kredittkortbruk under ferien i Mexico. Men AI-en trengte et menneske for å fortelle den at det var noe morsomt med to transaksjoner i rask rekkefølge på motsatte sider av landet, og den trengte et menneske for å vise den hvordan den skulle se opp for lignende hendelser i fremtiden.

For å forhindre at denne svindelen rammer andre kunder, opprettet Haulotte, den gang en programmerer som jobbet på Brighterion AI-plattformen, en ny regel som ville flagge geografisk umulige transaksjoner. Brighterion overvåker kredittkorttransaksjoner i sanntid, døgnet rundt, og scorer dem basert på hvor risikable de virker. Når en transaksjon flagges som potensielt svindel, varsler systemet umiddelbart kortbrukerens bank. (Hver bank kan tilpasse poengsummen for å iverksette tiltak, for eksempel å sende et varsel eller til og med avvise transaksjonen.) 

Safety Net, et annet Mastercard-produkt, bruker AI til å overvåke hele kortnettverket for tegn på angrep. Hvis for eksempel et nettsted oversvømmes med tusenvis av nye kontoer i løpet av kort tid, kan det skyldes at svindlere spammer nettstedet for å gjette gyldige kortnumre ved hjelp av rå makt.

Selvfølgelig vet ikke en AI-modell det; den kan ikke nødvendigvis forstå de finere detaljene i menneskelig atferd. Som et resultat kan det også utløse et rødt flagg når en vellykket kampanje – eller for eksempel Cyber Monday – fører til at trafikken til et nettsted øker kraftig. Det er å erkjenne forskjellen som er der menneskene kommer inn i bildet.

«Med en bølge av ekte transaksjoner som dette, vil jeg samarbeide med en kundeansvarlig for å forstå hva som skjer og iverksette forholdsregler for å forhindre falske alarmer», sier Brett Thomson, direktør for produktutvikling hos Safety Net. «Du må gi AI-en litt retning.»

Fordi kriminelle strategier er i stadig utvikling, er menneskelig ekspertise også viktig for å identifisere nye trusler og bestemme hvordan de skal stoppes. Så snart svindlere innser at strategiene deres ikke lenger fungerer, legger de ut nye planer. Men fordi AI er trent på tidligere data, oppdager ikke overvåkingsverktøy alltid disse nye mønstrene umiddelbart. Så det er opp til menneskelige utviklere å oppdatere og trene algoritmene i et pågående katt-og-mus-spill.

«Etter at vi har iverksatt en avbøtende tiltak, vil de endre strategien sin.» Så legger vi merke til den strategien og legger til en ny avbøtende tiltak, sier Thomson. «Det er en konstant frem og tilbake, der hver av oss ser på hvordan den andre reagerer på den neste utviklingen.»

Denne ustanselige dynamikken sikrer at Thomson, Haulotte og deres kolleger i bransjen forblir sentrale aktører i kampen mot svindel.

«Jeg blir stadig overrasket over svindlernes dristighet og fantasi», sier Haulotte. «Det er alltid nye svindeltrender, så vi må fortsette å utvikle nye løsninger for å ligge i forkant av dem.» Arbeidet vårt stopper aldri.»