Mesec svesti o sajber bezbednosti možda neće imati istu privlačnost kao druga obeležja oktobra - gledanje u uglačano lišće ili prejedanje slatkiša za Noć veštica - ali može podstaći korporativne lidere i potrošače da se uključe u važan ritual: preispitivanje njihovog pristupa sajber bezbednosti.

I ima mnogo toga za razmišljanje tokom protekle godine. Kompanije bi se posebno trebalo pitati ovog meseca (i svakog meseca): Kako se promenio pejzaž pretnji na mreži? I da li bezbednosne prakse vašeg preduzeća rade dovoljno da idu u korak sa tim promenama?

Veštačka inteligencija je nesumnjivo bila najveći ovogodišnji menjač igre. AI alati, uključujući velike jezičke modele (LLM) kao što je ChatGPT, pojačali su sposobnosti napadača. U međuvremenu, sve veći broj kompanija uključuje AI u svoje svakodnevno poslovanje, gurajući profesionalce za sajber bezbednost da čuvaju nove granice bez mnogo presedana o tome kako to učiniti. U međuvremenu, potrošači su uhvaćeni usred ovog AI okruženja koje se brzo menja.

Ova tačna dinamika bila je na umu mnogih od 20.000 učesnika ovogodišnje konferencije Black Hat u Las Vegasu. Od prskavih kabina na podu poslovne hale do vrhunskih istraživanja predstavljenih u razgovorima do tihih razgovora između, AI je dominirao razgovorom.

Na otvaranju događaja, dugogodišnji istraživač sajber bezbednosti Mikko Hipponen nazvao je AI "najvećom tehničkom revolucijom" koju je video u svom životu, napominjući da su istraživači koji koriste LLM već otkrili nekoliko desetina nultih dana - industrijski termin za neotkrivenu slabost u softveru ili kodu.

"Kada istraživači pronađu bezbednosne propuste sa AI, to je sjajno jer možemo da ih popravimo", rekao je Hipponen. „Kada napadači rade isto, to je užasno. To će se takođe dogoditi.“

Prevaranti na mreži već koriste LLM-ove za pisanje ubedljivijih i ciljanih lažnih poruka e-pošte i rade to u mnogo većem obimu nego što bi ikada mogli bez AI alata.

Prošli su dani loše napisanih generičkih e-poruka koje bi čak i najmanje tehnički pametna osoba mogla da uoči kao prevare. Prevaranti koji nisu izvorni engleski jezik sada su profesionalci u poliranju svojih poruka LLM-ovima.

Pa čak i oni prevaranti koji se predstavljaju kao usamljeni vojnici stacionirani u inostranstvu, gurajući poslovnu priliku koja izgleda previše dobro da bi bila istinita (jer zapravo jeste), posipaju ličnim detaljima koje je iskopala AI kako bi te poruke učinili mnogo uverljivijim.

Takođe su prešli dalje od e-pošte, isporučujući svoju sada dobro izrađenu komunikaciju na društvene medije, tekstove, pa čak i telefonske pozive.

Istovremeno, došlo je do porasta prevarantskih poruka koje sadrže audio ili video deepfakes. Prošle godine, radnik u Hong Kongu je prevaren da isplati 25 miliona dolara prevarantima nakon što je potpisao na ono što je mislio da je video poziv sa zvaničnicima u svojoj multinacionalnoj kompaniji, uključujući i glavnog finansijskog direktora. Ali ispostavilo se da su ostali na pozivu bili uživo-video deepfake rekreacije tih ljudi.

Potrošači su takođe bili meta audio deepfake prevara. Tu sajber kriminalci koriste veštačku inteligenciju da bi duboko lažirali glasove ljudi, obično mlađih, a zatim koriste oponašani glas da pozovu članove porodice, rekavši da su kidnapovani ili da su u zatvoru, kako bi iznudili novac od njih.

Sve to ima kompanije i potrošače razumljivo uplašen. Nedavna studija sprovedena za Mastercard anketovala je oko 13.000 potrošača širom sveta, uključujući oko 1.000 u SAD, i otkrila da je lažni sadržaj generisan veštačkom inteligencijom broj 1 buduća briga potrošača vezana za prevaru. Ali samo 13% anketiranih reklo je da su veoma sigurni u svoju sposobnost da identifikuju pretnje ili prevare generisane veštačkom inteligencijom ako su na njih meta.

Velika većina anketiranih posebno je navela zabrinutost zbog hakovanja sofisticiranijih napada iz AI sistema i pretvaranja u zlonamerne, automatizovane sajber napade velikih razmera i ubedljivije krađe identiteta e-pošte koje je stvorio AI.

A zabrinuti potrošači mogu značiti velike probleme kompanijama koje ih opslužuju. Ako potrošači ne mogu da veruju da imaju posla sa legitimnom kompanijom ili da su njihovi lični podaci sigurni, mogli bi odlučiti da svoje poslovanje odvedu negde drugde.  

Za sada, barem, čini se da odbrambeni igrači imaju prednost. Pored obezbeđivanja novih elemenata AI u sistemima svojih poslovnih kupaca, kompanije za sajber bezbednost ugrađuju AI u svoje proizvode, sa ciljem da brže i efikasnije zaustave pretnje na mreži.

U međuvremenu, prevaranti i drugi sajber kriminalci još uvek nemaju dovoljno podsticaja da inoviraju na isti način. Iako koriste AI alate da bi brže radili i postali veći, stručnjaci kažu da se uglavnom drže poboljšanih verzija istih starih prevare.

Nicole Perlroth, bivša novinarka za kibernetičku sigurnost koja sada služi kao partner u Ballistic Ventures i vodi sopstveni fond za sajber misiju, Silver Buckshot, rekla je u svom uvodnom obraćanju Black Hat-u da je ohrabrena novim i novim tehnologijama koje vidi u sajber bezbednosti.

Ukazala je na nove tehnologije otkrivanja dubokih falsifikata koje pokreću AI koje dolaze na tržište i primetila da je AI pomogla " da demokratizuje proizvode i usluge kibernetičke bezbednosti ", čineći ih pristupačnijim manjim kompanijama koje ih nisu mogle priuštiti u prošlosti.

Hipponen je primetio da su prevare sa dubokim falkeom trenutno veoma retke, ali je dodao da očekuje da će se sve vrste prevara na mreži, zajedno sa ransomvare-om, samo pogoršati kako AI tehnologije postaju sve bolje i jeftinije.

Dobra vest je da branioci imaju prednost kada je u pitanju AI.

„Napadači takođe koriste AI, ali tek počinju“, rekao je on. „Do sada smo videli samo prilično jednostavne napade sa AI. To će se promeniti, ali sada bih rekao da smo spremni.“