Pred niekoľkými rokmi turista v Mexiku použil svoju kreditnú kartu na výber hotovosti z bankomatu. Keď prišiel domov a pozrel sa na výpis z karty, zistil, že karta bola použitá aj na nákup niekoľkých šperkov. Toto bolo zvláštne: Nielenže si na dovolenke kartou nič nekúpil, transakcia sa uskutočnila päť minút po výbere z bankomatu – v obchode na druhej strane krajiny.

Našťastie, po preskúmaní jeho prípadu sa tím v jeho banke zhodol, že hoci ich nástroje na detekciu podvodov s umelou inteligenciou neoznačili nákup ako podozrivý, je veľmi nepravdepodobné, že by si šperky kúpil sám, a tak mu vrátili peniaze. Pri ďalšom pátraní tím zistil, že podvodníci pravdepodobne ukradli informácie o jeho kreditnej karte z čítačky ukrytej v bankomate a poslali ich komplicovi na opačnom pobreží.

Jednoduchosť, rýchlosť a anonymita moderných platieb viedli k vzniku podvodných schém, ako je táto, v rozsahu, s ktorým ľudia nedokážu držať krok. Našťastie to nemusia robiť, pretože aplikácie umelej inteligencie teraz monitorujú každú transakciu a dohliadajú na celú sieť kariet, či nedošlo k útokom. Tieto modely umelej inteligencie triedia dáta efektívnejšie ako ktorýkoľvek človek.

Spoločnosť Mastercard už roky využíva umelú inteligenciu na odhaľovanie podvodov a v súčasnosti ju používa na zabezpečenie viac ako 159 miliárd transakcií ročne, čím zabraňuje stratám spôsobeným podvodmi v hodnote miliárd dolárov. Minulý rok spoločnosť Mastercard získala spoločnosť Recorded Future, ktorá využíva umelú inteligenciu na analýzu miliónov dátových bodov denne, pričom identifikuje vzory a anomálie signalizujúce potenciálne hrozby.

Ale rovnako ako ľudia potrebujú umelú inteligenciu, aj umelá inteligencia potrebuje ľudí. Zatiaľ čo automatizované nástroje vykonávajú ťažkú prácu, aby boli výsledky užitočné, vývojári musia neustále poskytovať kontext z reálneho života – identifikáciou nových typov podvodov, určením, ako im predchádzať bez narušenia väčšej siete a programovaním nových pravidiel do algoritmu. Tento ľudský vstup premieňa surovú silu umelej inteligencie na relevantnú a praktickú inteligenciu.

S rastúcou silou modelov umelej inteligencie a strojového učenia je lákavé veriť, že samotná technológia dokáže predbehnúť dnešných kybernetických zločincov, hovorí Johan Gerber zo spoločnosti Mastercard, globálny riaditeľ bezpečnostných riešení. „Za každým upozornením, anomáliou alebo označenou transakciou sa však skrýva kľúčová, inkrementálna vrstva, ktorú algoritmy nedokážu replikovať: ľudský úsudok.“ Keď sa ľudský úsudok spojí s umelou inteligenciou, práve to ho robí skutočne efektívnym a zabezpečuje, že zostane zodpovedným.“

Hoci je umelá inteligencia navrhnutá tak, aby rozpoznávala jemné vzory v kopách údajov, nie je vždy vybavená na zvládnutie odchyľujúcich sa hodnôt. Bez ľudského dohľadu by neočakávané udalosti mohli spustiť zmeškané hrozby, falošné poplachy a iné skreslenia.

„Aj s týmito výkonnými nástrojmi stále potrebujete ľudí,“ hovorí Vince Haulotte, riaditeľ pre dodanie na trh v divízii Mastercard pre boj proti podvodom a rozhodovaniu o rizikách. „Aby ste sa uistili, že reakcia umelej inteligencie je účinná, musíte použiť zrnko soli a zohľadniť kontext.“

Napríklad systémy umelej inteligencie monitorovali používanie kreditných kariet cestovateľa počas jeho dovolenky v Mexiku. Ale umelá inteligencia potrebovala človeka, ktorý by jej povedal, že je niečo zvláštne na dvoch transakciách rýchlo za sebou na opačných stranách krajiny, a potrebovala človeka, ktorý by jej ukázal, ako si v budúcnosti dávať pozor na podobné incidenty.

Aby sa zabránilo tomu, aby tento konkrétny podvod ovplyvnil ostatných zákazníkov, Haulotte, vtedy programátor pracujúci na platforme umelej inteligencie Brighterion , vytvoril nové pravidlo, ktoré by označovalo geograficky nemožné transakcie. Brighterion monitoruje transakcie kreditnými kartami v reálnom čase, 24 hodín denne, 7 dní v týždni, a hodnotí ich na základe toho, aké rizikové sa zdajú byť. Keď je transakcia označená ako potenciálne podvodná, systém okamžite upozorní banku používateľa karty. (Každá banka si môže prispôsobiť prahovú hodnotu skóre pre vykonanie akcie, ako je odoslanie upozornenia alebo dokonca odmietnutie transakcie.) 

Safety Net, ďalší produkt Mastercard, využíva umelú inteligenciu na monitorovanie celej siete kariet a vyhľadávanie známok útokov. Napríklad, ak je webová stránka zaplavená tisíckami nových účtov v krátkom čase, môže to byť preto, že podvodníci spamujú stránku, aby uhádli platné čísla kariet hrubou silou.

Model umelej inteligencie to samozrejme nevie ; nemôže nevyhnutne rozumieť jemnejším detailom ľudského správania. V dôsledku toho môže tiež dôjsť k varovnému signálu, keď úspešná propagácia – alebo napríklad Cyber Monday – spôsobí prudký nárast návštevnosti stránky. V uvedomení si rozdielu prichádzajú na rad ľudia.

„Pri takomto náraste skutočných transakcií spolupracujem so správcom účtu, aby som pochopil, čo sa deje, a zaviedol opatrenia na predchádzanie falošným poplachom,“ hovorí Brett Thomson, riaditeľ vývoja produktov v spoločnosti Safety Net. „Musíš dať umelej inteligencii nejaký smer.“

Keďže sa stratégie trestnej činnosti neustále vyvíjajú, ľudské znalosti sú tiež nevyhnutné na identifikáciu nových hrozieb a určenie spôsobov, ako ich zastaviť. Hneď ako si podvodníci uvedomia, že ich stratégie už nefungujú, vymyslia nové schémy. Keďže je však umelá inteligencia trénovaná na minulých údajoch, monitorovacie nástroje nie vždy okamžite rozpoznajú tieto nové vzorce. Je teda na ľudských vývojároch, aby aktualizovali a trénovali algoritmy v prebiehajúcej hre na mačku a myš.

„Keď zavedieme zmierňujúce opatrenia, zmenia svoju stratégiu.“ Potom si túto stratégiu všimneme a pridáme nové zmierňujúce opatrenia,“ hovorí Thomson. „Je to neustále prehadzovanie sa tam a späť, každý z nás sleduje, ako ten druhý reaguje na ďalší vývoj.“

Táto neúnavná dynamika zabezpečuje, že spoločnosti Thomson, Haulotte a ich kolegovia z celého odvetvia zostávajú kľúčovými hráčmi v boji proti podvodom.

„Neustále ma prekvapuje odvaha a predstavivosť podvodníkov,“ hovorí Haulotte. „V oblasti podvodov sa neustále objavujú nové trendy, takže musíme neustále vyvíjať nové riešenia, aby sme im udržali náskok.“ Naša práca nikdy nekončí.“