Pred nekaj leti je turist v Mehiki s kreditno kartico dvignil gotovino na bankomatu. Ko je prišel domov in pogledal izpisek kartice, je videl, da je bila kartica uporabljena tudi za nakup več kosov nakita. To je bilo nenavadno: ne le, da na počitnicah ni ničesar kupil s kartico, transakcija se je zgodila pet minut po dvigu na bankomatu – v trgovini na drugi strani države.

Na srečo se je ekipa v njegovi banki po pregledu njegovega primera strinjala, da je – čeprav njihova orodja za odkrivanje goljufij z umetno inteligenco niso označila nakupa kot sumljivega – zelo malo verjetno, da je nakit kupil sam, zato so mu povrnili kupnino. Med nadaljnjim iskanjem je ekipa ugotovila, da so prevaranti verjetno ukradli podatke o njegovi kreditni kartici iz bralnika, skritega v bankomatu, in jih poslali sostorilcu na nasprotni obali.

Enostavnost, hitrost in anonimnost sodobnih plačil so privedle do takšnih goljufij v obsegu, ki mu ljudje ne morejo slediti. Na srečo jim ni treba, saj aplikacije umetne inteligence zdaj spremljajo vsako transakcijo in bdijo nad celotnim omrežjem kartic zaradi morebitnih napadov. Ti modeli umetne inteligence razvrščajo podatke učinkoviteje kot kateri koli človek.

Mastercard že leta uporablja umetno inteligenco za odkrivanje goljufij in jo trenutno uporablja za zavarovanje več kot 159 milijard transakcij letno, s čimer preprečuje milijarde dolarjev izgub zaradi goljufij. Lani je Mastercard prevzel podjetje Recorded Future, ki z umetno inteligenco dnevno analizira milijone podatkovnih točk in prepoznava vzorce in anomalije, ki signalizirajo potencialne grožnje.

Toda toliko kot ljudje potrebujejo umetno inteligenco, tudi umetna inteligenca potrebuje ljudi. Čeprav avtomatizirana orodja opravljajo najtežje delo, morajo razvijalci, da bi bili rezultati uporabni, nenehno zagotavljati kontekst iz resničnega življenja – z odkrivanjem novih vrst goljufij, določanjem, kako jih preprečiti, ne da bi pri tem motili širše omrežje, in programiranjem novih pravil v algoritem. Ta človeški prispevek je tisto, kar surovo moč umetne inteligence spremeni v ustrezno in praktično inteligenco.

Ker umetna inteligenca in modeli strojnega učenja postajajo vse močnejši, je skušnjava verjeti, da lahko sama tehnologija prehiti današnje kibernetske kriminalce, pravi Johan Gerber pri Mastercardu, globalni vodja varnostnih rešitev. »Toda za vsakim opozorilom, anomalijo ali označeno transakcijo stoji ključna, inkrementalna plast, ki je algoritmi ne morejo ponoviti: človeška presoja.« Ko se človeška presoja združi z umetno inteligenco, je to tisto, zaradi česar je resnično učinkovita in zagotavlja, da ostane odgovorna.«

Čeprav je umetna inteligenca zasnovana tako, da v ogromnih količinah podatkov zaznava subtilne vzorce, ni vedno opremljena za obvladovanje izstopajočih vrednosti. Brez človeškega nadzora lahko nepričakovani dogodki sprožijo spregledane grožnje, lažne alarme in druga izkrivljanja.

»Tudi s temi zmogljivimi orodji še vedno potrebujete ljudi,« pravi Vince Haulotte, direktor tržne dostave v oddelku za goljufije in odločanje o tveganjih pri Mastercardu. »Za zagotovitev učinkovitosti odziva umetne inteligence morate uporabiti zrno soli in upoštevati kontekst.«

Na primer, sistemi umetne inteligence so spremljali uporabo kreditnih kartic popotnika med njegovimi počitnicami v Mehiki. Toda umetna inteligenca je potrebovala človeka, ki bi ji povedal, da je nekaj nenavadnega pri dveh transakcijah, ki sta si hitro zaporedno potekali na nasprotnih koncih države, in človeka, ki bi ji pokazal, kako naj bo v prihodnosti pozorna na podobne incidente.

Da bi preprečil, da bi ta posebna prevara vplivala na druge stranke, je Haulotte, takratni programer, ki je delal na platformi Brighterion AI, ustvaril novo pravilo, ki bi označevalo geografsko nemogoče transakcije. Brighterion spremlja transakcije s kreditnimi karticami v realnem času, 24 ur na dan, 7 dni v tednu, in jih ocenjuje glede na to, kako tvegane se zdijo; ko je transakcija označena kot potencialno goljufiva, sistem takoj obvesti banko uporabnika kartice. (Vsaka banka lahko prilagodi prag ocene za ukrepanje, kot je pošiljanje opozorila ali celo zavrnitev transakcije.) 

Safety Net, še en izdelek Mastercarda, uporablja umetno inteligenco za spremljanje celotnega omrežja kartic in iskanje znakov napadov. Na primer, če spletno mesto v kratkem času preplavijo tisoči novih računov, je to lahko zato, ker goljufi spletno mesto zasipajo z neželeno pošto, da bi z uporabo surove sile uganili veljavne številke kartic .

Seveda model umetne inteligence tega ne ve ; ne more nujno razumeti podrobnosti človeškega vedenja. Posledično lahko sproži tudi rdečo zastavico, ko uspešna promocija – ali recimo kibernetski ponedeljek – povzroči porast prometa na spletnem mestu. Prepoznavanje razlike je tisto, kjer pridejo na vrsto ljudje.

»Ob porastu takšnih pristnih transakcij se bom povezal z upraviteljem računa, da bi razumel, kaj se dogaja, in sprejel previdnostne ukrepe za preprečevanje lažnih alarmov,« pravi Brett Thomson, direktor razvoja izdelkov pri Safety Net. "Umetni inteligenci moraš dati nekaj smeri."

Ker se kriminalne strategije nenehno razvijajo, je za prepoznavanje novih groženj in določanje, kako jih ustaviti, bistveno tudi človeško strokovno znanje. Takoj ko goljufi ugotovijo, da njihove strategije ne delujejo več, si izmislijo nove sheme. Ker pa se umetna inteligenca usposablja na podlagi preteklih podatkov, orodja za spremljanje teh novih vzorcev ne opazijo vedno takoj. Torej je na človeških razvijalcih, da posodabljajo in usposabljajo algoritme v nenehni igri mačke in miši.

"Ko bomo uvedli omilitvene ukrepe, bodo spremenili svojo strategijo." "Potem bomo opazili to strategijo in dodali novo blažitev," pravi Thomson. "Nenehno se prepiramo, vsak od nas opazuje, kako se drugi odzove na naslednji razvoj dogodkov."

Zaradi te neusmiljene dinamike Thomson, Haulotte in njihovi kolegi v panogi ostajajo ključni akterji v boju proti goljufijam.

»Nenehno me presenečata predrznost in domišljija goljufov,« pravi Haulotte. »Vedno se pojavljajo novi trendi goljufij, zato moramo nenehno graditi nove rešitve, da bi jim ostali korak pred drugimi.« Naše delo se nikoli ne ustavi.«