Безпека в епоху агентного

Минулого місяця, коли Anthropic вперше анонсувала Claude Mythos, свою нову генеративну модель ШІ для кібербезпеки, це викликало багато занепокоєння та обговорень у кіберспільноті. Як повідомляється, Mythos виявив нові вразливості в кожній основній операційній системі та веббраузері. Було визнано надто небезпечним для публічного оприлюднення.

Якби експерти з безпеки ще не звертали уваги, то перед ними постав яскравий приклад нової ери безпеки.

На тлі буму ШІ останніми роками цикли розробки технологій рухаються набагато швидше, а ставки значно зросли. Фінансові системи, ланцюги постачання та інфраструктура кібербезпеки тепер більш пов'язані. Ще мільярди пристроїв онлайн. Уся ця динаміка створює ширше та складніше поле протистояння у сфері кібербезпеки і спричиняє перехід від окремих інцидентів до системного тиску.

Як ніколи раніше, атаки рухаються зі машинною швидкістю. Тепер засоби захисту мають бути такими ж швидкими. Організації мають розвиватися, щоб відповідати цьому моменту, зосереджуючись на кількох ключових сферах.

Компанії, уряди та некомерційні організації усіх розмірів є частиною глобальної цифрової екосистеми. Це означає, що ми повинні нести відповідальність одне перед одним і захищати одне одного. Це не тільки правильний вчинок, це абсолютно необхідно для запобігання поширенню атаки. Щойно кіберзлочинці проникають до систем будь-якої організації, вони можуть використовувати викрадені конфіденційні та персональні дані для розширення своїх атак.

Великі компанії мають легкий Access до сучасних інструментів і великих кіберкоманд, щоб вони могли реагувати на нові розробки ШІ. Менші організації цього не роблять, залишаючи їх набагато вразливішими до атак на базі ШІ. Для тих, хто не має Access до передових інструментів або не може дозволити собі власний захист, більші гравці зобов'язані виступити та підтримати їх. Такий спільний підхід зараз потрібен як ніколи раніше.

Захист наших систем від ботів раніше був очевидною частиною будь-якого апарату безпеки. Тепер це не так просто.

З появою агентів ШІ в нашому житті люди даватимуть згоду на те, щоб різні види агентів працювали від їхнього імені, наприклад, програмні агенти виконуватимуть бізнес-завдання, а комерційні агенти здійснюватимуть покупки. Цей розвиток автономних комерційних агентів є, можливо, однією з найглибших змін у платежах в історії. Команди з кібербезпеки повинні будуть вміти розрізняти добрих агентів ШІ та шкідливих. Це можливо завдяки новим стандартам і засобам контролю, як-от «Знай свого агента» (KYA) для каталогізації та відстеження ботів, «Знай свого продавця» (KYM) для класифікації легітимних вебсайтів та виявлення шахрайських, і навіть те, що я називаю «Знай свого шахрая» (KYF) — відстеження потенційних супротивників, аналіз сигналів шахрайства та даних аналітики загроз, і реагування, поки не стало надто пізно.

Керування бот-трафіком є критично важливим новим елементом подальшої роботи із забезпечення безпеки, але далеко не єдиним. Команди з кібербезпеки також повинні тісніше співпрацювати у своїх організаціях, щоб посилити концепцію «безпеки за задумом». Це означає, що ми запобігаємо витокам, виявляючи вразливості програмного та апаратного забезпечення під час кодування та розробки, а також до запуску продуктів. Зрештою, хакер не може використати вразливість, якої не існує.

Занадто багато організацій досі виправляють своє програмне забезпечення вручну. Тим часом кількість достовірних загроз зростає, оскільки моделі ШІ тепер можуть швидко знаходити більше вразливостей.

Організаціям необхідно більше автоматизувати свої системи виправлення, щоб прискорити цей процес та ефективніше визначати, які достовірні загрози слід пріоритизувати для виправлення. Через ШІ час до експлуатації скоротився з днів до годин, що робить необхідність цієї зміни критичною.

Окрім автоматизації виправлень, організаціям потрібно буде активно використовувати прогнозну аналітику на основі ШІ та безперервний моніторинг, щоб швидше реагувати на загрози.

Витоки даних найчастіше спричинені тими ж трьома проблемами — викраденими обліковими даними, невідновленими вразливостями та винятками — і так було протягом десятиліть.

Хоча багато чого змінюється через ШІ, багато з тих самих базових процесів кібербезпеки все ще потрібні. Вони включають надійні плани захисту та зберігання даних, перевірки застарілих систем та зменшення технічного боргу. Це невдячна праця — ізо дня в день — що необхідна для захисту цифрових екосистем.

Mythos стала для індустрії кібербезпеки важливим нагадуванням про те, що динаміка кардинально змінилася. У цю нову епоху агентного ШІ галузь має перейти від реактивного до прогнозного підходу — використовуючи співпрацю, ранні попередження та швидшу координацію — щоб залишатися на крок попереду.