Зіткнувшись з новою ерою цифрових ризиків та відповідальності в Давосі

Якщо геополітична фрагментація була головною темою щорічної зустрічі Всесвітнього економічного форуму в Давосі цього року, то швидке прискорення розвитку штучного інтелекту – який є водночас перспективним і ризикованим – та зростання кібервразливостей стали головними темами.

Розмови між генеральними директорами, економістами, технологами та політиками показали, що системні кіберризики та управління штучним інтелектом, що все ще розвивається, дедалі більше переплітаються з більш конкурентним світовим порядком.

Згідно з новим опитуванням ВЕФ щодо кібербезпеки, опублікованим напередодні Давосу, кібератаки завдають величезної фінансової шкоди як постраждалим підприємствам, так і національним економікам. У звіті зазначається, що кіберзлочинність коштувала економіці майже 20 мільярдів доларів, якщо масштабувати середні втрати від кібератак для окремих підприємств у Великій Британії. За даними Світового банку, зменшення кількості серйозних кіберінцидентів може збільшити ВВП на душу населення на 1,5% протягом десятиліття. 

Кіберзлочинці не визнають кордонів, тому для посилення кіберстійкості потрібна більша координація та обмін розвідувальними даними між країнами, а також між урядами та сектором конфіденційності, заявили експерти на Давоській панелі «Суворі реалії кіберзагроз».

«Традиційна діяльність правоохоронних органів більше неприйнятна», – сказала Катрін де Болль, виконавчий директор Європолу. «Цього недостатньо для майбутнього… Нам потрібно поважати межі різних відомств, але якщо ми не об’єднаємо інформацію та розвідувальні дані для вирішення цієї проблеми, ми ніколи не виграємо битву».

Швидкість також є критичною проблемою, оскільки ШІ прискорює атаки. «Проблема полягає в тому, що якщо учасника атакують, а він потім поширює інформацію, це вже відбувається», – сказав генеральний директор Mastercard Майкл Мібах у тій самій дискусії. «Нам потрібно зайнятися прогнозуванням… Навіть якщо це найкраща реакція, вже надто пізно». То що я можу зробити, щоб раніше вловити сигнали? 

У 2024 році Mastercard придбала найбільшу у світі компанію з розвідки загроз Recorded Future, щоб допомогти своїм клієнтам стати проактивними, а не реактивними. «Ніхто не може вирішити цю проблему з перевитратами.» Ви не можете захиститися від усього. Якщо це не буде ґрунтуватися на розвідувальних даних, ви програєте.

В опитуванні ВЕФ 87% генеральних директорів визначили вразливості, пов'язані зі штучним інтелектом, як найшвидше зростаючий кіберризик минулого року, але також назвали ШІ незамінним щитом, що забезпечує чіткіше виявлення загроз та можливості моніторингу аномалій.

Підтримка майбутнього штучного інтелекту коливалася дуже різною: від прогнозу генерального директора Tesla Ілона Маска про те, що штучний інтелект (і роботи) створять «шлях до достатку для всіх», до попередження історика Юваля Ноя Харарі про те, що нам слід бути скромнішими щодо автономії штучного інтелекту. «Ми вважаємо, що знаємо, як це побудувати», – сказав він. «Як нам створити механізм самокорекції, щоб навіть якщо ми зробимо неправильну ставку, це не був кінець?»

Зростання кількості агентів штучного інтелекту, які можуть приймати рішення та виконувати завдання, з контролем або без нього, також викликало занепокоєння щодо кіберстійкості в найближчі роки.

«Ми знаємо, як захистити людей та інфраструктуру, і я думаю, що ми створюємо інструменти для захисту нелюдей». «Проблема полягає в сумісності», – сказав Надав Зафрір, генеральний директор Check Point Software Technologies, на панелі «Кіберзахисники в епоху штучного інтелекту». «Наступні кілька років будуть хаотичними через сумісність… Ми впроваджуємо нові можливості набагато швидше, ніж розуміємо, що вони можуть робити і куди вони прямують».

Оскільки системи штучного інтелекту все більше захоплюють реальний світ та взаємодіють з ним, необхідні нові моделі нульової довіри, моніторингу в режимі реального часу та більш проактивного захисту як для людей, так і для машин, щоб переваги штучного інтелекту не перевершували його захисні бар'єри, погодилися багато учасників дискусії.

«Як екосистема, всі гравці повинні об’єднатися», – сказав Лінг Хай, президент Mastercard в Азіатсько-Тихоокеанському регіоні, Європі, Близькому Сході та Африці, в інтерв’ю MoneyControl, індійській платформі фінансових новин. «Нам потрібно випереджати це, і нам потрібно використовувати штучний інтелект, щоб реально протидіяти цим випадкам, які завдадуть величезної шкоди споживачам». Якщо ви думаєте про платежі, довіра дуже важлива. Потрібні десятиліття, щоб побудувати таку довіру. Як тільки ви втратите довіру, люди більше не користуватимуться вашими послугами.