Преди няколко години един турист в Мексико използва кредитната си карта, за да изтегли пари в брой от банкомат. Когато се прибрал вкъщи и погледнал извлечението от картата си, видял, че с нея са закупени и няколко бижута. Това беше странно: Не само че не е купувал нищо с картата по време на ваканцията, но и транзакцията е извършена пет минути след тегленето от банкомата - в магазин в другия край на страната.

За щастие, след като прегледали неговия случай, екипът на банката се съгласил, че въпреки че инструментите им за откриване на измами с изкуствен интелект не са отбелязали покупката като подозрителна, е много малко вероятно той сам да е купил бижутата, така че те възстановили сумата за покупката. След като се разровили по-дълбоко, екипът установил, че измамниците вероятно са откраднали информацията за кредитната му карта от четец, скрит в банкомата, и са я изпратили на съучастник на отсрещния бряг.

Лекотата, бързината и анонимността на съвременните разплащания доведоха до подобни измамни схеми в мащаби, с които хората не могат да се справят. За щастие това не е необходимо, тъй като приложенията с изкуствен интелект вече следят всяка трансакция и наблюдават цялата картова мрежа за атаки. Тези модели с изкуствен интелект сортират данните по-ефективно, отколкото би могъл да направи всеки човек.

Mastercard от години използва изкуствен интелект за откриване на измами и понастоящем го използва за защита на повече от 159 милиарда трансакции годишно, предотвратявайки загуби от измами в размер на милиарди долари. Миналата година Mastercard придоби компанията Recorded Future, която използва изкуствен интелект, за да анализира милиони точки данни ежедневно, като идентифицира модели и аномалии, които сигнализират за потенциални заплахи.

Но колкото хората се нуждаят от ИИ, толкова и ИИ се нуждае от хора. Макар че автоматизираните инструменти вършат основната работа, за да бъдат резултатите полезни, разработчиците трябва непрекъснато да осигуряват контекст от реалния живот - като идентифицират нови видове измами, определят как да ги предотвратят, без да нарушават работата на по-голямата мрежа, и програмират новите правила в алгоритъма. Този човешки принос превръща суровата мощ на ИИ в релевантна и практична интелигентност.

Тъй като моделите на изкуствен интелект и машинно обучение стават все по-мощни, изкушаващо е да се вярва, че само технологията може да изпревари съвременните киберпрестъпници, казва Йохан Гербер, глобален ръководител на отдела за решения за сигурност в Mastercard. "Но зад всеки сигнал, аномалия или маркирана транзакция стои важен, допълнителен слой, който алгоритмите не могат да възпроизведат: човешката преценка. Когато човешката преценка се комбинира с ИИ, това го прави наистина ефективен и гарантира, че ще остане отговорен."

Макар че изкуственият интелект е проектиран да разпознава фини модели в масиви от данни, той невинаги е подготвен да се справя с отклоненията. Без човешки надзор неочаквани събития могат да предизвикат пропуснати заплахи, фалшиви аларми и други изкривявания.

"Дори и с тези мощни инструменти, все още имате нужда от хора", казва Винс Халот, директор на отдел "Пазарни доставки" в отдел "Измами и вземане на решения за риска" на Mastercard. "Трябва да използвате сол и да вземете предвид контекста, за да сте сигурни, че отговорът на изкуствения интелект е ефективен."

Например системите с изкуствен интелект са следили използването на кредитната карта на пътника по време на почивката му в Мексико. Но изкуственият интелект се нуждаеше от човек, който да му каже, че има нещо странно в две транзакции в бърза последователност в противоположни краища на страната, и от човек, който да му покаже как да следи за подобни инциденти в бъдеще.

За да предотврати тази конкретна измама да засегне други клиенти, Хаулота, тогава програмист, работещ в платформата на Brighterion AI, създава ново правило, което да отбелязва географски невъзможни трансакции. Brighterion следи транзакциите с кредитни карти в реално време, 24 часа в денонощието, 7 дни в седмицата, и ги оценява според това колко рискови изглеждат; когато дадена транзакция бъде отбелязана като потенциално измамна, системата незабавно уведомява банката на потребителя на картата. (Всяка банка може да персонализира прага на резултата за предприемане на действия, като например изпращане на предупреждение или дори отхвърляне на транзакцията.) 

Safety Net, друг продукт на Mastercard, използва изкуствен интелект, за да наблюдава цялата картова мрежа за признаци на атаки. Например, ако даден уебсайт е залят от хиляди нови акаунти в рамките на кратък период от време, това може да се дължи на спам от страна на измамници, които се опитват да отгатнат валидни номера на карти чрез груба сила.

Разбира се, моделът на изкуствен интелект не знае това; той не може непременно да разбере най-фините детайли на човешкото поведение. В резултат на това тя може да подаде сигнал, когато успешна промоция - или, да речем, кибер понеделник - доведе до увеличаване на трафика на сайта. Разпознаването на разликата е задачата на хората.

"При подобна вълна от истински транзакции ще си сътруднича с мениджър на акаунт, за да разбера какво се случва и да въведа предпазни мерки за предотвратяване на фалшиви аларми", казва Брет Томсън, директор на отдела за разработване на продукти в Safety Net. "Трябва да дадете на изкуствения интелект някаква насока."

Тъй като престъпните стратегии непрекъснато се развиват, човешкият опит също е от съществено значение за идентифицирането на новите заплахи и определянето на начините за тяхното спиране. Щом измамниците разберат, че стратегиите им вече не работят, те разработват нови схеми. Но тъй като изкуственият интелект се обучава на базата на минали данни, инструментите за наблюдение невинаги забелязват тези нови модели веднага. Така че от разработчиците зависи да актуализират и обучават алгоритмите в една непрекъсната игра на котка и мишка.

"След като въведем смекчаване, те ще променят стратегията си. След това ще забележим тази стратегия и ще добавим ново смекчаване", казва Томсън. "Непрекъснато се връщаме назад, като всеки от нас наблюдава как другият реагира на следващото развитие."

Тази безмилостна динамика гарантира, че Thomson, Haulotte и техните колеги от целия бранш остават ключови участници в борбата с измамите.

"Непрекъснато се изненадвам от смелостта и въображението на измамниците", казва Хаулота. "Винаги има нови тенденции в областта на измамите, така че трябва да създаваме нови решения, за да ги изпреварваме. Работата ни никога не спира."