Безопасность в эпоху агентской

В прошлом месяце, когда Anthropic впервые анонсировала Claude Mythos, свою новую генеративную модель ИИ для кибербезопасности, это вызвало много беспокойства и обсуждений в сообществе кибербезопасности. Сообщалось, что Mythos выявил новые уязвимости в каждой крупной операционной системе и веб-браузере. Было сочтено слишком опасным для публичного обнародования.

Если эксперты по безопасности еще не обращали внимания, перед ними был яркий пример новой эры безопасности, который смотрел им прямо в глаза.

На фоне бурного развития ИИ в последние годы циклы разработки технологий заметно ускорились, при этом риски значительно возросли. Финансовые системы, цепочки поставок и инфраструктура кибербезопасности теперь все более взаимосвязаны. Миллиарды новых устройств в сети. Вся эта динамика создает более широкое и сложное поле битвы в сфере кибербезопасности и вызывает сдвиг от единичных инцидентов к системному давлению.

Как никогда прежде, атаки движутся с машинной скоростью. Средства защиты сейчас должны действовать так же быстро. Организации должны развиваться, чтобы соответствовать этому моменту, сосредоточив внимание на нескольких ключевых областях.

Предприятия, правительства и некоммерческие организации всех размеров являются частью глобальной цифровой экосистемы. Это означает, что мы должны нести ответственность друг перед другом и защищать друг друга. Это не только правильно, но и крайне необходимо, чтобы предотвратить распространение атаки. Как только киберпреступники взламывают системы любой организации, они могут использовать похищенные конфиденциальные и персональные данные, чтобы расширить свою атаку.

Крупные компании имеют легкий Access к сложным инструментам и крупным киберкомандам, поэтому они могут реагировать на новые ИИ-инновации. У небольших организаций этого нет, что делает их гораздо более уязвимыми перед атаками на базе ИИ. Для тех, у кого нет Access к передовым инструментам или кто не может позволить себе собственную защиту, крупным игрокам надлежит активизироваться и поддержать их. Такой совместный подход сейчас нужен как никогда раньше.

Защита наших систем от ботов раньше считалась само собой разумеющейся частью любой системы безопасности. Теперь это не так просто.

По мере того как ИИ-агенты войдут в нашу жизнь, люди будут давать согласие на использование различных видов агентов, действующих от их имени, таких как программные агенты, выполняющие бизнес-задачи, и коммерческие агенты, совершающие покупки. Это развитие агентов автономной коммерции, возможно, является одним из самых глубоких изменений в истории платежей. Команды кибербезопасности должны будут уметь определять разницу между хорошими агентами ИИ и вредоносными. Это возможно благодаря новым стандартам и средствам контроля, таким как «Знай своего агента» (KYA) для каталогизации и отслеживания ботов, «Знай своего продавца» (KYM) для классификации легитимных веб-сайтов и мошеннических, и даже то, что я называю «Знай своего мошенника» (KYF) — отслеживание потенциальных противников, анализ сигналов мошенничества и данных угроз, а также реагирование до того, как станет слишком поздно.

Управление бот-трафиком — это критически важный новый элемент работы по обеспечению безопасности в дальнейшем, но далеко не единственный. Команды по кибербезопасности также должны более тесно взаимодействовать внутри своих организаций, чтобы усилить концепцию «безопасности по умолчанию». Это означает, что мы предотвращаем утечки данных, выявляя уязвимости программного и аппаратного обеспечения в процессе кодирования и разработки, а также до запуска продуктов. Ведь хакер не может воспользоваться уязвимостью, которой не существует.

Слишком много организаций по-прежнему вручную устанавливают патчи для своего программного обеспечения. Тем временем, растет число реальных угроз, поскольку модели ИИ теперь могут быстро находить больше уязвимостей.

Организациям необходимо автоматизировать больше своих систем установки патчей, чтобы ускорить этот процесс и более эффективно определять, какие достоверные угрозы следует приоритезировать для применения патчей. Благодаря ИИ время для использования сократилось с дней до часов, что делает необходимость этого изменения критически важной.

Помимо автоматизации исправлений, организациям потребуется активно использовать предиктивную аналитику на базе ИИ и непрерывный мониторинг для более быстрого реагирования на угрозы.

Утечки чаще всего происходят из-за одних и тех же трех проблем — украденных учетных данных, неустраненных уязвимостей и исключений, — и так было на протяжении десятилетий.

Хотя многое меняется из-за ИИ, многие из тех же базовых процессов кибербезопасности по-прежнему необходимы. Они включают надежные планы защиты и хранения данных, проверку устаревших систем и сокращение технического долга. Это незаметная работа — изо дня в день — необходимая для защиты цифровых экосистем.

Mythos предоставил индустрии кибербезопасности важное напоминание о том, что динамика кардинально изменилась. В эту новую агентную эпоху отрасль должна перейти от реагирования к прогнозированию, используя сотрудничество, ранние предупреждения и более быструю координацию, чтобы оставаться на шаг впереди.