Встреча с новой эрой цифровых рисков и ответственности в Давосе

Если главной темой ежегодной встречи Всемирного экономического форума в Давосе в этом году стала геополитическая фрагментация, то сквозными темами стали стремительное развитие искусственного интеллекта — сопряженное как с перспективами, так и с рисками — и растущая уязвимость киберпространства.

Разговоры между генеральными директорами, экономистами, технологами и политиками показали, что системные киберриски и всё ещё развивающееся управление ИИ всё больше тесно связаны с более конкурентным мировым порядком.

Особенно кибератаки наносят огромный финансовый ущерб как пострадавшему бизнесу, так и национальным экономикам, согласно новому опросу ВЭФ по кибербезопасности, опубликованному перед Давосом. Масштабируя средние убытки от кибератак для отдельных компаний в Великобритании, киберпреступность стоила экономике почти 20 миллиардов долларов, отмечается в отчете. Сокращение числа крупных киберинцидентов может увеличить ВВП на душу населения на 1,5 % в течение десяти лет, согласно данным Всемирного банка. 

Киберпреступники не признают границы, поэтому для укрепления киберустойчивости необходима большая координация и обмен разведданными между странами, а также между правительствами и сектором защиты конфиденциальности, отметили эксперты панели в Давосе «Суровые реалии киберугроз».

«Традиционная деятельность правоохранительных органов больше не приемлема», — сказала Кэтрин Де Болле, исполнительный директор Европоло. «Этого недостаточно для будущего ... Нам нужно уважать границы различных агентств, но если мы не объединим информацию и разведданные для борьбы с этим, мы никогда не выиграем битву.»

Скорость также является критической проблемой, поскольку ИИ значительно усиливает атаки. «Проблема в том, что если участник подвергается нападкам, а затем делится информацией, то это уже происходит», — заявил генеральный директор Mastercard Майкл Мибах в ходе той же дискуссии. «Нам нужно начать заниматься прогнозированием… Даже если это будет наилучшая реакция, уже будет слишком поздно». Что же я могу сделать, чтобы улавливать сигналы раньше? 

В 2024 году Mastercard приобрела крупнейшую в мире компанию по анализу угроз, Recorded Future, чтобы помочь своим клиентам действовать на опережение, а не реагировать на уже произошедшие события. «Никто не сможет решить эту проблему с большими затратами». От всего защититься невозможно. Если это не будет основано на разведывательных данных, вы проиграете.

В ходе опроса Всемирного экономического форума 87% генеральных директоров назвали уязвимости, связанные с ИИ, самым быстрорастущим киберриском за последний год, но также назвали ИИ незаменимым средством защиты, обеспечивающим более эффективное обнаружение угроз и мониторинг аномалий.

Поддержка будущего ИИ была очень разнообразной: от прогноза генерального директора Tesla Илона Маска о том, что ИИ (и роботы) создаст «путь к изобилию для всех», до предупреждения историка Юваля Ноа Харари, что нам следует быть скромнее в вопросах автономии ИИ. «Мы думаем, что знаем, как его строить», — сказал он. «Как построить механизм самокоррекции, чтобы если мы сделаем неправильную ставку, это не конец?»

Появление агентов искусственного интеллекта, способных принимать решения и выполнять задачи с управлением или без него, также вызвало опасения по поводу киберустойчивости в ближайшие годы.

«Мы знаем, как защищать людей и инфраструктуру, и, думаю, мы создаём инструменты для защиты не-людей. Проблема заключается в совместимости», — сказал Надав Зафрир, генеральный директор Check Point Software Technologies, в панели «Киберзащитники в эпоху ИИ». «Следующие несколько лет будут хаотичными из-за совместимости ... Мы внедряем новые возможности гораздо быстрее, чем понимаем, на что они способны и куда идут.»

По мере того как системы ИИ всё более полно занимают и взаимодействуют с реальным миром, необходимы новые модели нулевого доверия, мониторинга в реальном времени и более активной защиты как людей, так и машин, чтобы преимущества ИИ не превзошёл его ограничения, многие участники панели согласились.

«В рамках экосистемы всем участникам необходимо объединиться», — заявил Линг Хай, президент Mastercard по Азиатско-Тихоокеанскому региону, Европе, Ближнему Востоку и Африке, в интервью MoneyControl, индийской финансовой новостной платформе. «Нам нужно опережать события и использовать ИИ для эффективного противодействия подобным случаям, которые могут нанести огромный вред потребителям». Если говорить о платежах, то доверие имеет огромное значение. На построение такого доверия уходят десятилетия. «Как только вы потеряете доверие, люди перестанут пользоваться вашими услугами».