Встреча с новой эрой цифровых рисков и ответственности в Давосе

Если геополитическая фрагментация была главным заголовком ежегодной встречи Всемирного экономического форума в Давосе в этом году, то стремительное ускорение развития ИИ — с перспективой и риском — и рост киберуязвимостей стали ключевыми линиями.

Разговоры между генеральными директорами, экономистами, технологами и политиками показали, что системные киберриски и всё ещё развивающееся управление ИИ всё больше тесно связаны с более конкурентным мировым порядком.

Согласно новому исследованию Всемирного экономического форума по кибербезопасности, опубликованному накануне Давосского форума, кибератаки, в частности, наносят огромный финансовый ущерб как пострадавшим предприятиям, так и национальным экономикам. В отчете отмечается, что, если рассматривать средний ущерб от кибератак для отдельных предприятий в Великобритании, киберпреступность обошлась экономике почти в 20 миллиардов долларов. По данным Всемирного банка, сокращение числа крупных кибер-инцидентов может увеличить ВВП на душу населения на 1,5% в течение десяти лет. 

Киберпреступники не признают границы, поэтому для укрепления киберустойчивости необходима большая координация и обмен разведданными между странами, а также между правительствами и сектором защиты конфиденциальности, отметили эксперты панели в Давосе «Суровые реалии киберугроз».

«Традиционные методы правоохранительной деятельности больше неприемлемы», — заявила Катрин Де Болле, исполнительный директор Европола. «Этого недостаточно для будущего… Нам необходимо уважать границы полномочий различных ведомств, но если мы не объединим информацию и разведданные для решения этой проблемы, мы никогда не выиграем битву».

Скорость также является критической проблемой, так как ИИ усиливает атаки. «Проблема в том, что если участник подвергается атаке, а затем распространяется, это уже происходит», — сказал генеральный директор Mastercard Майкл Мибах в той же беседе. «Нам нужно заняться предсказанием... Даже если это лучшая реакция, уже слишком поздно. Так что же я могу сделать, чтобы уловить сигналы раньше?" 

В 2024 году Mastercard приобрела крупнейшую в мире компанию по анализу угроз, Recorded Future, чтобы помочь своим клиентам действовать на опережение, а не реагировать на уже произошедшие события. «Никто не сможет решить эту проблему с большими затратами». От всего защититься невозможно. Если это не будет основано на разведывательных данных, вы проиграете.

В опросе WEF 87% генеральных директоров определили уязвимости, связанные с ИИ, как самый быстрорастущий киберриск за последний год, но также назвали ИИ незаменимым как щит, обеспечивая более точные возможности обнаружения угроз и мониторинга аномалий.

Поддержка будущего ИИ была очень разнообразной: от прогноза генерального директора Tesla Илона Маска о том, что ИИ (и роботы) создаст «путь к изобилию для всех», до предупреждения историка Юваля Ноа Харари, что нам следует быть скромнее в вопросах автономии ИИ. «Мы думаем, что знаем, как его строить», — сказал он. «Как построить механизм самокоррекции, чтобы если мы сделаем неправильную ставку, это не конец?»

Появление агентов искусственного интеллекта, способных принимать решения и выполнять задачи с управлением или без него, также вызвало опасения по поводу киберустойчивости в ближайшие годы.

«Мы знаем, как обеспечить безопасность людей и инфраструктуры, и я думаю, что мы создаём инструменты для обеспечения безопасности нечеловеческих существ». «Проблема заключается в совместимости», — заявил Надав Зафрир, генеральный директор Check Point Software Technologies, на панельной дискуссии «Киберзащитники в эпоху ИИ». «Следующие несколько лет будут хаотичными из-за проблем с совместимостью… Мы внедряем новые возможности гораздо быстрее, чем понимаем, на что они способны и куда они ведут».

По мере того как системы ИИ всё более полно занимают и взаимодействуют с реальным миром, необходимы новые модели нулевого доверия, мониторинга в реальном времени и более активной защиты как людей, так и машин, чтобы преимущества ИИ не превзошёл его ограничения, многие участники панели согласились.

«Как экосистема, все участники должны объединиться», — сказал Линг Хай, президент Mastercard для Азиатско-Тихоокеанского региона, Европы, Ближнего Востока и Африки, в интервью MoneyControl, индийской финансовой новостной платформе. «Нам нужно опережать ситуацию и использовать ИИ, чтобы действительно противостоять этим случаям, которые нанесут огромный вред потребителям. Если думать о платежах, доверие очень важно. На построение этого доверия уходят десятилетия. Как только ты теряешь доверие, люди больше не будут пользоваться твоими услугами.»