Mjesec podizanja svijesti o kibernetičkoj sigurnosti možda nema istu privlačnost kao drugi obilježja listopada - gledanje u uglačano lišće ili prejedanje slatkišima za Noć vještica - ali može potaknuti korporativne čelnike i potrošače da se uključe u važan ritual: preispitaju svoj pristup kibernetičkoj sigurnosti.

I ima puno toga o čemu se može razmisliti tijekom protekle godine. Tvrtke bi se posebno trebale zapitati ovog mjeseca (i svakog mjeseca): Kako se promijenio krajolik online prijetnji? I čine li sigurnosne prakse vašeg poslovanja dovoljno kako bi pratile te promjene?

Umjetna inteligencija je nesumnjivo bila najveća promjena igre ove godine. Alati umjetne inteligencije, uključujući modele velikih jezika (LLM) poput ChatGPT-a, dodatno su unaprijedili sposobnosti napadača. U međuvremenu, sve veći broj tvrtki uključuje umjetnu inteligenciju u svoje svakodnevno poslovanje, potičući stručnjake za kibernetičku sigurnost da čuvaju nove granice bez puno presedana o tome kako to učiniti. U međuvremenu, potrošači su uhvaćeni usred ovog brzo promjenjivog okruženja umjetne inteligencije.

Upravo ta dinamika bila je na umu mnogih od 20 000 sudionika ovogodišnje konferencije Black Hat u Las Vegasu. Od blještavih štandova na podu poslovne dvorane do najsuvremenijih istraživanja predstavljenih u predavanjima i tihih razgovora između, umjetna inteligencija dominirala je razgovorom.

Na uvodnom govoru događaja, dugogodišnji istraživač kibernetičke sigurnosti Mikko Hyppönen nazvao je umjetnu inteligenciju „najvećom tehničkom revolucijom“ koju je vidio u svom životu, napominjući da su istraživači koji koriste LLM već otkrili nekoliko desetaka zero-dayova - industrijski izraz za neotkrivenu slabost u softveru ili kodu.

„Kada istraživači pronađu sigurnosne ranjivosti umjetne inteligencije, to je sjajno jer ih možemo popraviti“, rekao je Hyppönen. „Kad napadači rade isto, to je užasno.“ I to će se dogoditi.”

Online prevaranti već koriste LLM-ove za pisanje uvjerljivijih i ciljanih phishing e-poruka i to u puno većem opsegu nego što bi ikada mogli bez AI alata.

Prošla su vremena loše napisanih generičkih e-poruka koje bi čak i najmanje tehnološki potkovana osoba mogla prepoznati kao prijevare. Prevaranti kojima engleski nije materinji jezik sada su profesionalci u poliranju svojih poruka pomoću LLM-a.

Čak i oni prevaranti koji se predstavljaju kao usamljeni vojnici stacionirani u inozemstvu, promovirajući poslovnu priliku koja izgleda predobro da bi bila istinita (jer zapravo jest), ubacuju osobne podatke koje je iskopala umjetna inteligencija kako bi te poruke učinili mnogo uvjerljivijima.

Također su otišli dalje od e-pošte, dostavljajući svoje sada već dobro osmišljene komunikacije putem društvenih mreža, tekstualnih poruka, pa čak i telefonskih poziva.

Istovremeno, došlo je do porasta lažnih poruka koje sadrže audio ili video deepfakeove. Prošle godine, radnik u Hong Kongu prevaren je da isplati 25 milijuna dolara prevarantima nakon što se prijavio na ono što je mislio da je videopoziv s dužnosnicima svoje multinacionalne tvrtke, uključujući i glavnog financijskog direktora. Ali ispostavilo se da su ostali na pozivu bile reprodukcije tih ljudi snimljene uživo putem deepfake videa.

Potrošači su također bili meta prevara s audio deepfakeom. Tu kibernetički kriminalci koriste umjetnu inteligenciju za krivotvorenje glasova ljudi, obično mlađih, a zatim oponašanim glasom nazivaju članove obitelji i govore im da su oteti ili da su u zatvoru, kako bi od njih iznudili novac.

Sve to razumljivo plaši tvrtke i potrošače. Nedavna studija provedena za Mastercard anketirala je oko 13 000 potrošača diljem svijeta, uključujući oko 1000 u SAD-u, i otkrila da je lažni sadržaj generiran umjetnom inteligencijom najveća buduća briga potrošača povezana s prijevarama. No samo 13% ispitanika reklo je da su vrlo sigurni u svoju sposobnost prepoznavanja prijetnji ili prijevara generiranih umjetnom inteligencijom ako postanu njihove mete.

Velika većina ispitanika posebno je navela zabrinutost zbog sofisticiranijih napada s AI sustava koji se hakiraju i postaju zlonamjerni, automatiziranih kibernetičkih napada velikih razmjera i uvjerljivijih phishing e-poruka koje stvara AI.

A zabrinuti potrošači mogu značiti velike probleme za tvrtke koje im pružaju usluge. Ako potrošači ne mogu vjerovati da posluju s legitimnom tvrtkom ili da su njihovi osobni podaci sigurni, mogli bi odlučiti preusmjeriti svoje poslovanje negdje drugdje.  

Zasad se, barem, čini da braniči imaju prednost. Osim što osiguravaju nove elemente umjetne inteligencije u sustavima svojih poslovnih klijenata, tvrtke za kibernetičku sigurnost uključuju umjetnu inteligenciju u vlastite proizvode s ciljem bržeg i učinkovitijeg zaustavljanja online prijetnji.

U međuvremenu, prevaranti i drugi kibernetički kriminalci još nemaju dovoljno poticaja za inovacije na isti način. Iako koriste AI alate za brži rad i veće rezultate, stručnjaci kažu da se uglavnom drže poboljšanih verzija istih starih prijevara.

Nicole Perlroth, bivša novinarka specijalizirana za kibernetičku sigurnost koja sada radi kao partnerica u poduzetničkom fondu Ballistic Ventures i vodi vlastiti fond za kibernetičku misiju, Silver Buckshot, rekla je u svom glavnom govoru na Black Hatu da je ohrabrena novim i nadolazećim tehnologijama koje vidi u kibernetičkoj sigurnosti.

Istaknula je nove tehnologije za otkrivanje lažnih informacija temeljene na umjetnoj inteligenciji koje dolaze na tržište te napomenula da je umjetna inteligencija pomogla u "demokratizaciji" proizvoda i usluga kibernetičke sigurnosti, čineći ih dostupnijima manjim tvrtkama koje si ih u prošlosti nisu mogle priuštiti.

Hyppönen je napomenuo da su deepfake prevare trenutno vrlo rijetke, ali je dodao da očekuje da će se sve vrste online prevara, zajedno s ransomwareom, samo pogoršavati kako tehnologije umjetne inteligencije postaju sve bolje i jeftinije.

Dobra vijest je da branitelji imaju prednost kada je u pitanju umjetna inteligencija.

„Napadači također koriste umjetnu inteligenciju, ali tek počinju“, rekao je. „Do sada smo vidjeli samo prilično jednostavne napade s umjetnom inteligencijom.“ Promijenit će se, ali trenutno bih rekao da smo spremni.”