В борьбе с киберпреступностью людям нужен ИИ — а ИИ — люди

Несколько лет назад турист в Мексике использовал свою кредитную карту для снятия наличных в банкомате. Вернувшись домой и посмотрев выписку по карте, он увидел, что с карты также было приобретено несколько ювелирных изделий. Это было странно: он не только ничего не покупал с этой картой во время отпуска, но и транзакция произошла через пять минут после снятия наличных в банкомате — в магазине на другом конце страны.

К счастью, после рассмотрения его дела команда в его банке согласилась с тем, что, хотя их инструменты обнаружения мошенничества на основе ИИ не сочли покупку подозрительной, крайне маловероятно, что он сам приобрел эти ювелирные изделия, поэтому они вернули ему деньги. В ходе дальнейшего расследования команда установила, что мошенники, вероятно, украли данные его кредитной карты из считывающего устройства, спрятанного в банкомате, и отправили их сообщнику на противоположном побережье.

Простота, скорость и анонимность современных платежей привели к появлению таких схем мошенничества в масштабах, с которыми невозможно угнаться человеку. К счастью, им это не обязательно, так как приложения искусственного интеллекта теперь отслеживают каждую транзакцию и следят за всей сетью карт на предмет атак. Эти модели ИИ сортируют данные эффективнее, чем любой человек.

Mastercard уже много лет использует искусственный интеллект для выявления мошенничества и в настоящее время обеспечивает безопасность более 159 миллиардов транзакций ежегодно, предотвращая миллиарды долларов потерь от мошенничества. В прошлом году Mastercard приобрела Recorded Future, которая использует ИИ для ежедневного анализа миллионов точек данных, выявляя закономерности и аномалии, сигнализирующие о потенциальных угрозах.

Но искусственный интеллект нуждается в людях, а искусственный интеллект — в людях. Хотя автоматизированные инструменты выполняют основную работу, для того чтобы результаты были полезными, разработчики должны постоянно предоставлять контекст из реальной жизни — выявлять новые виды мошенничества, определять способы его предотвращения без нарушения работы всей сети и программировать новые правила в алгоритм. Именно участие человека превращает мощь искусственного интеллекта в актуальную и практичную информацию.

По мере того как модели искусственного интеллекта и машинного обучения становятся всё более мощными, возникает соблазн верить, что одних только технологий могут обойти современных киберпреступников, говорит Йохан Гербер, глобальный руководитель Security Solutions из Mastercard. «Но за каждым оповещением, аномалией или отмеченной транзакцией стоит важный, постепенный слой, который алгоритмы не могут воспроизвести: человеческое суждение. Когда человеческое суждение сочетается с ИИ, именно это делает его по-настоящему эффективным и гарантирует его ответственность.»

Хотя ИИ создан для выявления тонких закономерностей в массах данных, он не всегда способен справляться с исключениями. Без человеческого контроля неожиданные события могут привести к пропущенным угрозам, ложным тревогам и другим искажениям.

«Даже при наличии этих мощных инструментов вам все равно нужны люди», — говорит Винс Хаулотт, директор по рыночным решениям в подразделении Mastercard, занимающемся принятием решений по борьбе с мошенничеством и рисками. «Чтобы убедиться в эффективности ответа ИИ, необходимо проявлять осторожность и учитывать контекст».

Например, системы искусственного интеллекта отслеживали использование кредитных карт путешественника во время его отпуска в Мексике. Но ИИ нужен был человек, чтобы сказать ему, что в двух транзакциях, быстро сменяющихся подряд, на разных концах страны, есть что-то странное, и нужен был человек, чтобы показать, как следить за подобными инцидентами в будущем.

Чтобы предотвратить влияние этого конкретного мошенничества на других клиентов, Холотт, тогда программист, работавший над платформой Brighterion AI, создал новое правило, которое отмечало географически невозможные транзакции. Brighterion отслеживает транзакции по кредитным картам в режиме реального времени, круглосуточно, и оценивает их на основе того, насколько рискованными они кажутся; Когда транзакция отмечена как потенциально мошеннический, система немедленно уведомляет банк пользователя карты. (Каждый банк может настраивать порог балла для действий, например, отправить уведомление или даже отклонить транзакцию.) 

Safety Net, ещё один продукт Mastercard, использует искусственный интеллект для мониторинга всей сети карт на предмет признаков атак. Например, если на сайте за короткое время открывается тысячи новых аккаунтов, это может быть связано с тем, что мошенники спамят сайт, чтобы угадать действительные номера карт методом перебора.

Конечно, модель искусственного интеллекта этого не знает ; она не обязательно может понять тонкости человеческого поведения. В результате, это также может вызвать подозрения, когда успешная рекламная акция — или, скажем, Киберпонедельник — приводит к резкому увеличению трафика на сайте. Именно в умении распознавать эти различия и вступает в дело человек.

«При таком всплеске реальных транзакций я буду сотрудничать с менеджером по работе с клиентами, чтобы понять, что происходит, и принять меры предосторожности для предотвращения ложных тревог», — говорит Бретт Томсон, директор по разработке продуктов в Safety Net. «Ты должен дать ИИ направление.»

Поскольку преступные стратегии постоянно развиваются, человеческая экспертиза также необходима для выявления новых угроз и определения способов их предотвращения. Как только мошенники понимают, что их стратегии больше не работают, они разрабатывают новые схемы. Но поскольку ИИ обучен на прошлых данных, инструменты мониторинга не всегда сразу обнаруживают новые закономерности. Поэтому именно разработчики должны обновлять и обучать алгоритмы в продолжающейся игре в кошки-мышки.

«После того, как мы внедрим меры по снижению последствий, они изменят стратегию. Тогда мы заметим эту стратегию и добавим новую меру смягчения», — говорит Томсон. «Это постоянная перепалка, каждый из нас наблюдает, как другой реагирует на следующее событие.»

Эта неустанная динамика гарантирует, что Thomson, Haulotte и их коллеги по всей отрасли остаются ключевыми игроками в борьбе с мошенничеством.

«Меня постоянно удивляет наглость и изобретательность мошенников», — говорит Олотт. «Постоянно появляются новые тенденции в сфере мошенничества, поэтому нам необходимо постоянно разрабатывать новые решения, чтобы опережать их». Наша работа никогда не прекращается.