Безопасность в эпоху агентского ИИ

В прошлом месяце, когда Anthropic впервые анонсировала Claude Mythos, свою новую генеративную модель ИИ для кибербезопасности, это вызвало много беспокойства и дискуссий в сообществе кибербезопасности. По сообщениям, Mythos выявил новые уязвимости в каждой основной операционной системе и веб-браузере. Это было сочтено слишком опасным для публичного выпуска.

Если эксперты по безопасности еще не обращали внимания, то перед ними был наглядный пример новой эры безопасности.

На фоне бума ИИ в последние годы циклы разработки технологий теперь движутся гораздо быстрее, а ставки стали намного выше. Финансовые системы, цепочки поставок и инфраструктура кибербезопасности стали теперь более взаимосвязанными. Миллиарды других устройств находятся в сети. Вся эта динамика создает более широкое и сложное поле боя в области кибербезопасности и вызывает сдвиг от изолированных инцидентов к системному давлению.

Как никогда, атаки происходят с машинной скоростью. Защитные механизмы теперь должны действовать так же быстро. Организации должны развиваться, чтобы соответствовать текущим реалиям, сосредоточив внимание на нескольких ключевых областях.

Предприятия, правительства и некоммерческие организации любого размера являются частью глобальной цифровой экосистемы. Это значит, что мы должны нести ответственность друг перед другом и защищать друг друга. Это не только правильно, но и крайне необходимо для предотвращения распространения атаки. Как только киберпреступники взламывают системы какой-либо организации, они могут использовать украденные конфиденциальные и персональные данные для расширения своей атаки.

Крупные компании имеют легкий Access к сложным инструментам и крупным киберкомандам, чтобы они могли реагировать на новые инновации в области ИИ. Небольшие организации этого не делают, что делает их гораздо более уязвимыми для атак на базе ИИ. Для тех, у кого нет Access к передовым инструментам или кто не может позволить себе собственную защиту, крупные игроки обязаны активизироваться и поддержать их. Такой совместный подход сейчас нужен как никогда ранее.

Недопущение ботов в наши системы являлось очевидной частью любой системы безопасности. Теперь это не так просто.

По мере того как ИИ-агенты входят в нашу жизнь, люди согласятся на то, чтобы различные виды агентов действовали от их имени, такие как программные агенты, выполняющие бизнес-задачи, и коммерческие агенты, совершающие покупки. Это развитие автономных коммерческих агентов — пожалуй, одно из самых глубоких изменений в истории платежей. Командам кибербезопасности необходимо будет уметь отличать хороших ИИ-агентов от вредоносных. Это возможно благодаря новым стандартам и средствам контроля, таким как «Знай своего агента» (KYA) для каталогизации и отслеживания ботов, «Знай своего продавца» (KYM) для классификации законных веб-сайтов от мошеннических, и даже то, что я люблю называть «Знай своего мошенника» (KYF) — отслеживание потенциальных противников, анализ сигналов мошенничества и данных об угрозах, а также реагирование до того, как станет слишком поздно.

Управление трафиком ботов — это критически важный новый элемент в обеспечении безопасности в будущем, но далеко не единственный. Командам кибербезопасности также необходимо более тесно сотрудничать в рамках своих организаций, чтобы укрепить концепцию «безопасность по умолчанию». Это означает, что мы предотвращаем нарушения безопасности, выявляя уязвимости программного и аппаратного обеспечения на этапе кодирования и разработки и до запуска продуктов. Ведь хакер не может использовать уязвимость, которой не существует.

Слишком многие организации все еще обновляют свое программное обеспечение вручную. Между тем, число реальных угроз растет, поскольку модели ИИ могут быстро обнаруживать больше уязвимостей.

Организациям необходимо в большей степени автоматизировать свои системы патчинга, чтобы ускорить этот процесс и более эффективно определять, какие реальные угрозы им следует приоритизировать для патчинга. Благодаря ИИ время до эксплуатации сократилось с дней до часов, что делает необходимость этого изменения критически важной.

Помимо автоматизации исправления уязвимостей, организациям потребуется активно использовать прогнозный анализ на основе ИИ и непрерывный мониторинг для более быстрой реакции на угрозы.

Утечки чаще всего происходят по трем одним и тем же причинам — украденные учетные данные, неустраненные уязвимости и исключения — и так было на протяжении десятилетий.

Хотя многое меняется из-за ИИ, многие из тех же базовых процессов кибербезопасности по-прежнему необходимы. К ним относятся надежная защита и планы хранения данных, анализ устаревших систем и сокращение технического долга. Это неблагодарная работа, которую изо дня в день приходится выполнять для защиты цифровых экосистем.

Mythos послужил индустрии кибербезопасности важным напоминанием о том, что динамика кардинально изменилась. В новую эпоху агентных услуг отрасль должна перейти от реактивного подхода к прогностическому, используя сотрудничество, ранние предупреждения и более быструю координацию, чтобы оставаться на шаг впереди.