Месецът за повишаване на осведомеността за киберсигурността може и да не е толкова привлекателен, колкото други отличителни белези на октомври - гледането на изпепелена зеленина или похапването на бонбони за Хелоуин - но той може да подтикне както корпоративните лидери, така и потребителите да се включат в един важен ритуал: преоценка на подхода им към киберсигурността.

И има много неща, които да осмислим през изминалата година. Особено компаниите трябва да си зададат въпроса този месец (и всеки месец): Как се е променил пейзажът на онлайн заплахите? И дали практиките за сигурност на вашата фирма са достатъчни, за да бъдат в крак с тези промени?

Изкуственият интелект безспорно е най-големият фактор за промяна на играта през тази година. Инструментите за изкуствен интелект, включително големите езикови модели (LLM) като ChatGPT, увеличиха възможностите на нападателите. Същевременно все повече компании включват изкуствения интелект в ежедневната си дейност, което принуждава специалистите по киберсигурност да пазят нови граници без много прецеденти за това как да го правят. Междувременно потребителите се намират в средата на тази бързо променяща се среда на ИИ.

Точно тази динамика беше в съзнанието на много от 20 000-те участници в тазгодишната конференция Black Hat в Лас Вегас. ИИ доминираше в разговорите - от бляскавите щандове в бизнес залата, през авангардните изследвания, представени в разговорите, до тихите разговори между тях.

По време на откриването на събитието дългогодишният изследовател в областта на киберсигурността Микко Хиппонен нарече изкуствения интелект "най-голямата техническа революция", която е виждал през живота си, и отбеляза, че изследователите, използващи LLM, вече са открили няколко десетки нулеви дни - индустриален термин за неоткрита слабост в софтуера или кода.

"Когато изследователите открият уязвимости в сигурността с помощта на изкуствен интелект, това е чудесно, защото можем да ги отстраним", казва Хиппонен. "Когато нападателите правят същото, това е ужасно. Това също ще се случи."

Онлайн измамниците вече използват LLM, за да пишат по-убедителни и целенасочени фишинг имейли, и го правят в много по-голям мащаб, отколкото биха могли без инструменти с изкуствен интелект.

Отминаха дните на лошо написаните общи имейли, които дори и най-незапознатият с технологиите човек можеше да разпознае като измама. Измамниците, за които английският език не е майчин, вече са професионалисти в усъвършенстването на съобщенията си с LLM.

И дори онези измамници, които се представят за самотни войници, разположени в чужбина, и предлагат бизнес възможност, която изглежда твърде добра, за да е истина (защото всъщност е), добавят лични данни, извлечени от изкуствения интелект, за да направят тези съобщения много по-достоверни.

Те също така излязоха извън рамките на електронната поща, като сега предоставят добре подготвените си комуникации в социалните медии, текстови съобщения и дори телефонни обаждания.

В същото време се наблюдава ръст на измамните съобщения, съдържащи аудио- или видеофалшификати. Миналата година работник в Хонконг беше измамен да плати 25 млн. долара на измамници, след като се включил в нещо, което смятал за видеоразговор с длъжностни лица от своята мултинационална компания, включително с главния финансов директор. Оказа се обаче, че останалите участници в разговора са били дълбоко фалшиви възстановки на тези хора, заснети на живо.

Потребителите също са били обект на измами с аудиофалшификати. Киберпрестъпниците използват изкуствен интелект, за да фалшифицират гласовете на хора, обикновено по-млади, след което използват имитирания глас, за да се обадят на членове на семейството си и да кажат, че са отвлечени или са в затвора, за да изнудят пари от тях.

Всичко това разбираемо кара компаниите и потребителите да се страхуват. Неотдавнашно проучване, проведено по поръчка на Mastercard, обхвана около 13 000 потребители от цял свят, включително около 1000 в САЩ, и установи, че генерираното от изкуствен интелект фалшиво съдържание е номер 1 сред бъдещите опасения на потребителите, свързани с измами. Но само 13% от анкетираните са заявили, че са много уверени в способността си да идентифицират заплахите или измамите, генерирани от изкуствен интелект, ако станат тяхна мишена.

По-голямата част от анкетираните изрично посочват опасенията си за по-сложни атаки от системи с изкуствен интелект, които са хакнати и превърнати в злонамерени, автоматизирани широкомащабни кибератаки и по-убедителни фишинг имейли, създадени от изкуствен интелект.

А разтревожените потребители могат да означават големи проблеми за компаниите, които ги обслужват. Ако потребителите не могат да се доверят, че работят с легитимна компания или че личната им информация е в безопасност, те могат да изберат да се обърнат към друга компания.  

Поне засега изглежда, че защитниците имат предимство. В допълнение към защитата на новите елементи на изкуствения интелект в системите на своите бизнес клиенти, компаниите за киберсигурност включват изкуствения интелект в собствените си продукти с цел по-бързо и по-ефективно спиране на онлайн заплахите.

В същото време измамниците и другите киберпрестъпници все още нямат достатъчно стимули да въвеждат иновации по същия начин. Макар че използват инструменти с изкуствен интелект, за да работят по-бързо и да се разрастват, експертите твърдят, че те до голяма степен се придържат към подобрени версии на същите стари измами.

Никол Пърлрот, бивш журналист по киберсигурност, която сега е партньор в Ballistic Ventures и ръководи свой собствен фонд за кибермисии Silver Buckshot, заяви в програмната си реч на Black Hat, че е окуражена от новите и нововъзникващите технологии, които вижда в областта на киберсигурността.

Тя посочи новите технологии за откриване на фалшификати, които се предлагат на пазара, и отбеляза, че изкуственият интелект е помогнал на "да демократизира продуктите и услугите за киберсигурност на", като ги е направил по-достъпни за по-малките компании, които в миналото не са могли да си ги позволят.

Хипонен отбеляза, че измамите с дълбоки фалшификати понастоящем са много редки, но добави, че очаква всички видове онлайн измами, както и софтуерът за откуп, да се влошават с усъвършенстването и поевтиняването на технологиите за изкуствен интелект.

Добрата новина е, че защитниците имат преднина по отношение на изкуствения интелект.

"Атакуващите използват и изкуствен интелект, но те едва сега започват", казва той. "Досега сме виждали само доста прости атаки с изкуствен интелект. Това ще се промени, но в момента бих казал, че сме подготвени."