У боротьбі з кіберзлочинністю людям потрібен штучний інтелект, а штучному інтелекту потрібні люди

Кілька років тому турист у Мексиці використав свою кредитну картку, щоб зняти готівку в банкоматі. Коли він повернувся додому та переглянув виписку зі своєї картки, то побачив, що картка також була використана для придбання кількох ювелірних виробів. Це було дивно: він не лише нічого не купив цією карткою у відпустці, а й транзакція відбулася через п’ять хвилин після зняття готівки в банкоматі — у магазині на іншому кінці країни.

На щастя, після розгляду його справи команда його банку погодилася, що хоча їхні інструменти виявлення шахрайства на основі штучного інтелекту не позначили покупку як підозрілу, дуже малоймовірно, що він сам купив ці ювелірні вироби, тому вони повернули кошти за покупку. Під час подальшого розслідування команда з'ясувала, що шахраї, ймовірно, вкрали дані його кредитної картки зі зчитувача, захованого в банкоматі, та надіслали їх спільнику на протилежному узбережжі.

Легкість, швидкість та анонімність сучасних платежів призвели до появи подібних шахрайських схем у масштабах, за якими люди не можуть встигнути. На щастя, їм не потрібно цього робити, оскільки програми штучного інтелекту тепер відстежують кожну транзакцію та стежать за всією мережею карток на предмет атак. Ці моделі штучного інтелекту сортують дані ефективніше, ніж будь-яка людина.

Mastercard вже багато років використовує штучний інтелект для виявлення шахрайства і наразі застосовує його для захисту понад 159 мільярдів транзакцій щорічно, запобігаючи збиткам від шахрайства на мільярди доларів. Минулого року Mastercard придбала Recorded Future, яка використовує штучний інтелект для щоденного аналізу мільйонів точок даних, виявляючи закономірності та аномалії, що сигналізують про потенційні загрози.

Але так само, як людям потрібен штучний інтелект, штучному інтелекту також потрібні люди. Хоча автоматизовані інструменти виконують важку роботу, щоб результати були корисними, розробники повинні постійно надавати реальний контекст — виявляючи нові типи шахрайства, визначаючи, як йому запобігти, не порушуючи роботу більшої мережі, та програмуючи нові правила в алгоритмі. Саме цей людський внесок перетворює чисту потужність штучного інтелекту на релевантний та практичний інтелект.

Зі зростанням потужності моделей штучного інтелекту та машинного навчання виникає спокуса повірити, що самі лише технології можуть випередити сучасних кіберзлочинців, каже Йохан Гербер, глобальний керівник відділу рішень безпеки Mastercard. «Але за кожним сповіщенням, аномалією чи позначеною транзакцією стоїть вирішальний, додатковий рівень, який алгоритми не можуть відтворити: людське судження». Коли людське судження поєднується зі штучним інтелектом, саме це робить його справді ефективним і гарантує, що він залишається відповідальним».

Хоча штучний інтелект розроблений для розпізнавання ледь помітних закономірностей у великих обсягах даних, він не завжди готовий обробляти виняткові значення. Без людського нагляду неочікувані події можуть призвести до пропущених загроз, хибних тривог та інших спотворень.

«Навіть з цими потужними інструментами вам все одно потрібні люди», — каже Вінс Холотт, директор з питань ринкової реалізації в бізнесі Mastercard з питань шахрайства та прийняття рішень щодо ризиків. «Потрібно ставитися до цього з певною обережністю та враховувати контекст, щоб переконатися, що реакція штучного інтелекту буде ефективною».

Наприклад, системи штучного інтелекту відстежували використання кредитних карток мандрівником під час його відпустки в Мексиці. Але штучному інтелекту потрібна була людина, яка б пояснила йому, що є щось дивне у двох транзакціях, що відбуваються швидко поспіль на протилежних кінцях країни, і йому потрібна була людина, яка б показала йому, як слід стежити за подібними інцидентами в майбутньому.

Щоб запобігти впливу цієї конкретної афери на інших клієнтів, Хаулотт, який на той час працював програмістом над платформою штучного інтелекту Brighterion , створив нове правило, яке позначало б географічно неможливі транзакції. Brighterion цілодобово відстежує транзакції за кредитними картками та оцінює їх за ступенем ризикованості; коли транзакція позначається як потенційно шахрайська, система негайно повідомляє банк користувача картки. (Кожен банк може налаштувати поріг оцінки для вжиття заходів, таких як надсилання сповіщення або навіть відхилення транзакції.) 

Safety Net, ще один продукт Mastercard, використовує штучний інтелект для моніторингу всієї мережі карток на наявність ознак атак. Наприклад, якщо вебсайт за короткий проміжок часу переповнений тисячами нових облікових записів, це може бути пов'язано з тим, що шахраї спамлять сайт, щоб вгадати дійсні номери карток методом грубої сили.

Звичайно, модель штучного інтелекту цього не знає ; вона не обов'язково може розуміти найтонші деталі людської поведінки. Як наслідок, це також може стати тривожним сигналом, коли успішна рекламна акція — або, скажімо, Кіберпонеділок — призводить до різкого зростання трафіку сайту. Визнання різниці — це те, де входять люди.

«Зі сплеском таких справжніх транзакцій я співпрацюватиму з менеджером облікового запису, щоб зрозуміти, що відбувається, і вжити запобіжних заходів для запобігання хибним тривогам», — каже Бретт Томсон, директор з розробки продуктів у Safety Net. «Тобі потрібно дати штучному інтелекту певний напрямок».

Оскільки злочинні стратегії постійно розвиваються, людський досвід також є важливим для виявлення нових загроз та визначення способів їх зупинки. Щойно шахраї усвідомлюють, що їхні стратегії більше не працюють, вони винаходять нові схеми. Але оскільки ШІ навчається на даних минулого періоду, інструменти моніторингу не завжди одразу виявляють ці нові закономірності. Тож розробникам-людям доводиться оновлювати та навчати алгоритми в постійній грі в кішки-мишки.

«Після того, як ми запровадимо пом’якшувальні заходи, вони змінять свою стратегію.» Тоді ми звернемо увагу на цю стратегію та додамо новий засіб пом’якшення наслідків», – каже Томсон. «Це постійна дискусія, кожен з нас спостерігає, як інший реагує на наступний розвиток подій».

Така невпинна динаміка гарантує, що Thomson, Haulotte та їхні колеги по всій галузі залишаються ключовими гравцями у боротьбі з шахрайством.

«Мене постійно дивує зухвалість та уява шахраїв», — каже Халотт. «Завжди з’являються нові тенденції шахрайства, тому ми повинні постійно розробляти нові рішення, щоб залишатися попереду них». Наша робота ніколи не припиняється.