Čelíme novej ére digitálneho rizika a zodpovednosti v Davose

Ak bola geopolitická fragmentácia hlavným bodom výročného zasadnutia Svetového ekonomického fóra v Davose tento rok, rýchle zrýchlenie umelej inteligencie – ktorá so sebou nesie sľub aj riziko – a rastúce kybernetické zraniteľnosti sa ukázali ako hlavné témy.

Rozhovory medzi generálnymi riaditeľmi, ekonómami, technológmi a tvorcami politík odhalili, že systémové kybernetické riziká a stále sa rozvíjajúca správa umelej inteligencie sú čoraz viac prepojené s konkurencieschopnejším svetovým poriadkom.

Podľa nového prieskumu WEF o kybernetickej bezpečnosti, ktorý bol zverejnený pred Davosom, spôsobujú kybernetické útoky obrovské finančné škody tak podnikom, ktoré sú obeťami, ako aj národným ekonomikám. V správe sa uvádza, že ak sa priemerné straty spôsobené kybernetickými útokmi pre jednotlivé podniky v Spojenom kráľovstve zvýšia, kyberkriminalita stála ekonomiku takmer 20 miliárd dolárov. Podľa Svetovej banky by zníženie počtu závažných kybernetických incidentov mohlo zvýšiť HDP na obyvateľa o 1,5 % v priebehu desiatich rokov. 

Kyberzločinci nepoznajú hranice, takže na posilnenie kybernetickej odolnosti je potrebná väčšia koordinácia a zdieľanie spravodajských informácií medzi krajinami a medzi vládami a sektorom ochrany súkromia, uviedli experti na paneli v Davose s názvom „Tvrdá realita kybernetických hrozieb“.

„Tradičné činnosti v oblasti presadzovania práva už nie sú prijateľné,“ povedala Catherine De Bolle, výkonná riaditeľka Europolu. „To nestačí pre budúcnosť... Musíme rešpektovať hranice rôznych agentúr, ale ak nespájame informácie a spravodajské informácie, aby sme to vyriešili, nikdy túto bitku nevyhráme.“

Rýchlosť je tiež kritickým problémom, pretože umelá inteligencia zrýchľuje útoky. „Problém je, že ak je účastník napadnutý a potom zdieľa, už sa to deje,“ povedal generálny riaditeľ spoločnosti Mastercard Michael Miebach v tej istej diskusii. „Musíme sa pustiť do predpovedania... Aj keď je to najlepšia reakcia, je už neskoro.“ Čo teda môžem urobiť, aby som signály zachytil skôr?“ 

V roku 2024 spoločnosť Mastercard získala najväčšiu svetovú spoločnosť zaoberajúcu sa spravodajstvom o hrozbách, Recorded Future, aby pomohla svojim zákazníkom stať sa proaktívnymi, nie reaktívnymi. „Nikto nedokáže tento problém prekonať.“ Nedá sa brániť všetkému. Ak to nie je založené na spravodajských informáciách, prehráte.“

V prieskume WEF 87 % generálnych riaditeľov označilo zraniteľnosti súvisiace s umelou inteligenciou za najrýchlejšie rastúce kybernetické riziko minulého roka, ale zároveň označilo umelú inteligenciu za nevyhnutnú ako štít, ktorý poskytuje presnejšie detekcie hrozieb a monitorovanie anomálií.

Podpora budúcnosti umelej inteligencie sa značne líšila, od predpovede generálneho riaditeľa Tesly Elona Muska, že umelá inteligencia (a roboty) vytvoria „cestu k hojnosti pre všetkých“, až po varovanie historika Yuvala Noaha Harariho, že by sme mali byť pokornejší, pokiaľ ide o autonómiu umelej inteligencie. „Myslíme si, že vieme, ako to postaviť,“ povedal. „Ako vybudujeme samoopravný mechanizmus, aby to nebol koniec, ak vsadíme nesprávne?“

Vzostup agentov umelej inteligencie, ktorí dokážu robiť rozhodnutia a vykonávať úlohy, s kontrolou alebo bez nej, tiež vyvolal obavy o kybernetickú odolnosť v nasledujúcich rokoch.

„Vieme, ako zabezpečiť ľudí a infraštruktúru, a myslím si, že vyvíjame nástroje na zabezpečenie neľudských bytostí.“ „Problémom je interoperabilita,“ povedal Nadav Zafrir, generálny riaditeľ spoločnosti Check Point Software Technologies, v paneli „Kybernetickí obrancovia vo veku umelej inteligencie“. „Najbližších pár rokov bude kvôli interoperabilite chaotických... Nové možnosti zavádzame oveľa rýchlejšie, ako chápeme, čo dokážu a kam idú.“

Mnohí účastníci panelovej diskusie sa zhodli, že keďže systémy umelej inteligencie čoraz viac využívajú reálny svet a interagujú s ním, sú potrebné nové modely nulovej dôvery, monitorovania v reálnom čase a proaktívnejšej obrany na úrovni ľudí aj strojov, aby výhody umelej inteligencie nepresiahli jej obmedzenia.

„Ako ekosystém sa musia všetci hráči spojiť,“ povedal Ling Hai, prezident spoločnosti Mastercard pre Áziu a Tichomorie, Európu, Blízky východ a Afriku, v rozhovore pre MoneyControl, indickú platformu finančných správ. „Musíme byť v tomto okamihu a musíme využiť umelú inteligenciu, aby sme skutočne čelili týmto prípadom, ktoré spôsobia spotrebiteľom obrovské škody.“ Ak premýšľate o platbách, dôvera je veľmi dôležitá. Vybudovanie takejto dôvery trvá desaťročia. Keď stratíte dôveru, ľudia už vaše služby nebudú využívať.“