В Давос се изправяме срещу новата ера на цифровия риск и отговорност

Ако геополитическата фрагментация беше водещото заглавие на годишната среща на Световния икономически форум в Давос тази година, то бързото ускоряване на изкуствения интелект, който носи както обещания, така и рискове, и нарастващата кибернетична уязвимост се очертаха като основни линии.

Разговорите между изпълнителни директори, икономисти, технолози и политици показаха, че системният киберриск и все още развиващото се управление на изкуствения интелект са все по-преплетени с по-конкурентния световен ред.

Според ново проучване на WEF за киберсигурността, публикувано преди началото на Давос, атаките срещу киберсигурността нанасят огромни финансови щети както на потърпевшите предприятия, така и на националните икономики. В доклада се отбелязва, че ако се съобразят средните загуби от кибератаки с отделните предприятия в Обединеното кралство, киберпрестъпленията струват на икономиката близо 20 млрд. долара. Според Световната банка намаляването на големите киберинциденти може да увеличи БВП на глава от населението с 1,5% в рамките на десетилетие. 

Киберпрестъпниците не признават граници, така че за укрепване на киберустойчивостта е необходима по-добра координация и споделена разузнавателна информация между държавите, както и между правителствата и сектора на неприкосновеността на личния живот, заявиха експертите по време на панела "Твърдата реалност на киберзаплахите" в Давос.

"Традиционните правоприлагащи дейности вече не са приемливи", казва Катрин де Бол, изпълнителен директор на Европол. "Това не е достатъчно за бъдещето... Трябва да уважаваме границите на различните агенции, но ако не обединим информацията и разузнавателните данни, за да се справим с това, никога няма да спечелим битката."

Бързината също е критичен проблем, тъй като ИИ увеличава атаките. "Проблемът е, че ако участникът бъде атакуван и след това сподели, това вече се случва", заяви главният изпълнителен директор на Mastercard Майкъл Мибах в същата дискусия. "Трябва да се заемем с прогнозирането... Дори да е най-добрата реакция, вече е твърде късно. Какво мога да направя, за да приема сигналите по-рано?" 

През 2024 г. Mastercard придоби най-голямата в света компания за разузнаване на заплахи - Recorded Future, за да помогне на клиентите си да станат проактивни, а не реактивни. "Никой не може да се справи с този проблем. Не можете да се защитите от всичко. Ако не се ръководи от интелигентност, ще загубите."

В проучването на WEF 87% от главните изпълнителни директори определиха уязвимостите, свързани с ИИ, като най-бързо растящия киберриск през изминалата година, но също така нарекоха ИИ незаменим щит, който осигурява по-ясно откриване на заплахи и възможности за наблюдение на аномалии.

Популяризирането на бъдещето на ИИ варираше в широки граници - от прогнозата на главния изпълнителен директор на Tesla Елон Мъск, че ИИ (и роботите) ще създадат "път към изобилието за всички", до предупреждението на историка Ювал Ноа Харари, че трябва да сме по-смирени по отношение на автономността на ИИ. "Смятаме, че знаем как да го изградим", казва той. "Как да изградим механизъм за самокоригиране, така че ако направим грешен залог, това да не е краят?"

Възходът на агентите с изкуствен интелект, които могат да вземат решения и да изпълняват задачи със или без контрол, също породи опасения за кибернетичната устойчивост през следващите години.

"Знаем как да защитим хората и инфраструктурата и мисля, че създаваме инструменти за защита на нечовешки обекти. Проблемът е в оперативната съвместимост", каза Надав Зафрир, главен изпълнителен директор на Check Point Software Technologies, в панела "Киберзащитници в ерата на изкуствения интелект". "Следващите няколко години ще бъдат хаотични заради оперативната съвместимост... Въвеждаме нови възможности много по-бързо, отколкото разбираме какво могат да правят и накъде отиват."

Тъй като системите с изкуствен интелект все по-пълноценно заемат реалния свят и взаимодействат с него, са необходими нови модели на нулево доверие, наблюдение в реално време и по-активна защита както за хората, така и за машините, за да не надхвърлят ползите от изкуствения интелект неговите предпазни огради - съгласиха се много от участниците в дискусията.

"Като екосистема всички играчи трябва да се обединят", казва Линг Хай, президент на Mastercard за Азиатско-тихоокеанския регион, Европа, Близкия изток & Африка, в интервю за MoneyControl, индийска платформа за финансови новини. "Трябва да изпреварим това и да използваме изкуствен интелект, за да се противопоставим на тези случаи, които ще причинят огромна вреда на потребителите. Ако се замислите за плащанията, доверието е толкова важно. Изграждането на такова доверие отнема десетилетия. Когато загубите доверието си, хората повече няма да използват услугите ви."