Сигурност в епохата на агентичността

Миналия месец, когато Anthropic за пръв път обяви Claude Mythos, новия си генеративен AI модел за киберсигурност, това предизвика много притеснения и разговори в общността на киберсигурността. Съобщено е, че Mythos е идентифицирал нови уязвимости във всяка основна операционна система и уеб браузър. Счетено е за твърде опасно за публично разпространение.

Ако експертите по сигурност вече не обръщаха внимание, тук беше ясен пример за новата ера на сигурността, която ги гледаше право в очите.

На фона на бума на изкуствения интелект през последните години, циклите на технологично развитие вече се движат много по-бързо, докато залозите са станали много по-високи. Финансовите системи, веригите за доставки и инфраструктурата за киберсигурност вече са по-свързани. Милиарди повече устройства са онлайн. Всички тези динамики създават по-широко и по-сложно бойно поле за киберсигурност и причиняват преминаване от изолирани инциденти към системни напрежения.

Повече от всякога атаките се движат с машинна скорост. Сега защитите също трябва да са толкова бързи. Организациите трябва да се развиват, за да посрещнат този момент, като се фокусират върху няколко ключови области.

Бизнесите, правителствата и неправителствените организации от всякакъв размер са част от глобалната цифрова екосистема. Това означава, че трябва да бъдем отговорни един към друг и да се защитаваме взаимно. Това не само е правилното нещо, но е и абсолютно необходимо за предотвратяване на разпространението на атака. След като киберпрестъпниците пробият системите на дадена организация, те могат да използват откраднатите поверителни и лични данни, за да разширят атаката си.

По-големите компании имат лесен достъп до сложни инструменти и големи кибер екипи, така че да могат да реагират на новите иновации в областта на изкуствения интелект. По-малките организации нямат такава възможност, което ги прави много по-уязвими към атаки, задвижвани от изкуствен интелект. За онези, които нямат достъп до най-съвременни инструменти или не могат да си позволят собствена защита, е задължение на по-големите играчи да се намесят и да ги подкрепят. Подобен подход на сътрудничество е необходим повече от всякога.

Да държим ботовете извън нашите системи беше очевидна част от всеки апарат за сигурност. Сега не е толкова просто.

С навлизането на AI агентите в живота ни, хората ще дават съгласие за различни видове агенти, които да оперират от тяхно име, като например софтуерни агенти, изпълняващи бизнес задачи, и търговски агенти, извършващи покупки. Това развитие на автономни търговски агенти е може би една от най-дълбоките промени в плащанията в историята. Екипите по киберсигурност ще трябва да могат да различават добрите AI агенти от вредните. Това е възможно чрез нови стандарти и контроли, като например „Познавай своя агент“ (KYA) за каталогизиране и проследяване на ботове, „Познавай своя търговец“ (KYM) за класифициране на легитимни уебсайтове от измамни, и дори това, което обичам да наричам „Познавай своя измамник“ (KYF) – следене на потенциални противници, анализиране на сигнали за измами и данни за разузнаване на заплахи, и реагиране, преди да е станало твърде късно.

Управлението на трафика от ботове е критично нов елемент в работата по сигурността занапред, но далеч не е единственият. Екипите по киберсигурност също така трябва да работят по-тясно в рамките на своите организации, за да затвърдят концепцията за „сигурност по дизайн“. Това означава, че предотвратяваме пробиви, като идентифицираме софтуерни и хардуерни уязвимости по време на процеса на кодиране и разработка и преди пускането на продуктите. В крайна сметка хакер не може да експлоатира уязвимост, която не съществува.

Твърде много организации все още закърпват софтуера си ръчно. Междувременно броят на достоверните заплахи нараства, тъй като моделите с ИИ могат бързо да намират повече уязвимости.

Организациите трябва да автоматизират повече от своите системи за кръпки, за да ускорят този процес и по-ефективно да определят кои достоверни заплахи трябва да приоритизират за закърпване. Благодарение на изкуствения интелект, времето за експлоатация спадна от дни на часове, което прави нуждата от тази промяна критична.

Отвъд автоматизирането на кръпките, организациите ще трябва да се насочат към използването на управлявани от ИИ предсказващи разузнавателни данни и непрекъснат мониторинг, за да реагират по-бързо на заплахите.

Най-честите причини за пробиви са едни и същи три проблема: откраднати идентификационни данни, неотстранени уязвимости и изключения, и това е така от десетилетия.

Докато много неща се променят заради AI, много от същите основни процеси за киберсигурност са необходими. Те включват надеждни планове за защита и съхранение на данни, прегледи на наследени системи и намаляване на техническия дълг. Това е неблагодарната работа ден след ден, която е необходима за защита на дигиталните екосистеми.

Mythos осигури на индустрията за киберсигурност жизненоважно напомняне, че динамиката се е променила драстично. В тази нова ера на агентичност индустрията трябва да премине от реактивна към предсказуема – използвайки сътрудничество, ранни предупреждения и по-бърза координация – за да остане една крачка напред.