Mes de la Concienciación sobre la Ciberseguridad puede que no tenga el mismo atractivo que otros distintivos de octubre, como admirar el follaje dorado o atiborrarse de dulces de Halloween, pero puede motivar tanto a los líderes corporativos como a los consumidores a participar en un ritual importante: reevaluar su enfoque de la ciberseguridad.

Ima puno toga za razmišljanje kroz proteklu godinu. Kompanije posebno treba da postavljaju sebi pitanje ovog mjeseca (i svakog mjeseca): Kako se promijenio online pejzaž prijetnji? Da li su prakse sigurnosti vašeg biznisa dovoljne da idu u korak sa tim promjenama?

Vještačka inteligencija je nesumnjivo bila najveća inovacija ove godine. AI alati, uključujući velike jezičke modele (LLMs) kao što je ChatGPT, su dodatno unapredili sposobnosti napadača. U međuvremenu, sve veći broj kompanija ugrađuje AI u svoje svakodnevno poslovanje, gurajući sajber bezbjednost profesionalaca da čuvaju nove granice bez mnogo presedana o tome kako to učiniti. Potrošači su, u međuvremenu, uhvaćeni u centru ove brzo mijenjajuće AI sredine.

Ove precizne dinamike bile su na umu mnogim od 20.000 učesnika na ovogodišnjoj Konferenciji Black Hat u Las Vegasu. Od raskošnih štandova na sajamskom prostoru do vrhunskih istraživanja predstavljenih na prezentacijama do tihih razgovora između, AI je dominirao razgovorom.

En el discurso de apertura del evento, el reconocido investigador de ciberseguridad Mikko Hyppönen llamó a la IA la "mayor revolución técnica" que había visto en su vida, señalando que los investigadores que usan LLM ya han descubierto un par de docenas de "zero days", un término de la industria para debilidades no detectadas en software o código.

„Kada istraživači pronađu sigurnosne ranjivosti kod AI, to je odlično jer ih možemo popraviti“, rekao je Hyppönen. "Kad napadači učine isto, to je užasno." To će se također dogoditi."

Online prevaranti već koriste LLM-ove za pisanje uvjerljivijih i ciljanijih phishing emailova i to na mnogo većoj skali nego što su ikada mogli bez AI alata.

Prošli su dani loše napisanih generičkih emailova koje bi i najmanje tehnički svjesna osoba mogla uočiti kao prevare. Prevaranti koji nisu izvorni govornici engleskog jezika sada su profesionalci u poliranju svojih poruka sa LLM-ovima.

Čak i oni prevaranti koji se predstavljaju kao usamljeni vojnici stacionirani u inostranstvu, promovišući poslovnu priliku koja izgleda previše dobro da bi bila istinita (zato što to zapravo jeste), dodaju lične detalje izvučene pomoću AI-a kako bi te poruke bile mnogo uverljivije.

Oni su se takođe pomerili dalje od e-pošte, dostavljajući svoje sada dobro oblikovane komunikacije na društvene mreže, tekst poruke pa čak i telefonske pozive.

Istovremeno, porastao je broj prevarantskih poruka koje sadrže audio ili video deepfake-ove. Prošle godine, jedan radnik u Hong Kongu je prevaren i isplatio je 25 miliona dolara prevarantima nakon što se uključio u ono što je mislio da je video poziv sa zvaničnicima njegove multinacionalne kompanije, uključujući i glavnog finansijskog direktora. Ali se ispostavilo da su drugi na pozivu bili deepfake reprodukcije uživo tih ljudi.

Potrošači su također bili meta u audio deepfake prevarama. Tu sajber kriminalci koriste vještačku inteligenciju za stvaranje deepfake glasova ljudi, obično mlađih, zatim koriste imitirani glas da pozovu članove porodice, tvrdeći da su oteti ili u zatvoru, da iznude novac od njih.

Sve to čini kompanije i potrošače razumljivo uplašenim. Nedavna studija koju je sproveo Mastercard ispitala je oko 13,000 potrošača širom sveta, uključujući oko 1,000 u SAD. i otkrila da je lažni sadržaj generisan veštačkom inteligencijom broj 1 buduća briga potrošača vezana za prevare. Ali, samo 13% ispitanih reklo je da su veoma sigurni u svoju sposobnost da identifikuju pretnje ili prevare generisane veštačkom inteligencijom, ako postanu njihova meta.

Velika većina anketiranih je posebno izrazila zabrinutost zbog sofisticiranijih napada, poput hakovanja AI sistema i njihove pretvorbe u zlonamjerne, automatizovanih velikih sajber napada i uvjerljivijih pishing emailova koje kreira AI.

Zabrinuti potrošači mogu predstavljati velike probleme za kompanije koje ih opslužuju. Ako potrošači ne mogu vjerovati da komuniciraju s legitimnom kompanijom ili da su njihovi osobni podaci sigurni, mogu odlučiti prenijeti svoje poslovanje negdje drugo.  

Za sada, barem, čini se da branioci imaju prednost. Osim što obezbeđuju nove AI elemente u sistemima svojih poslovnih klijenata, kompanije za sajber bezbjednost u svoje proizvode uključuju AI, sa ciljem da brže i efikasnije zaustave online prijetnje.

U međuvremenu, prevaranti i drugi kibernetički kriminalci još uvek nemaju dovoljno podsticaja da inoviraju na isti način. Dok koriste AI alate za brži rad i veće projekte, stručnjaci kažu da se uglavnom drže poboljšanih verzija istih starih prevara.

Nicole Perlroth, bivša novinarka koja se bavi sajber bezbednošću, a sada radi kao partner u venture fondu Ballistic Ventures i vodi sopstveni fond za sajber misiju, Silver Buckshot, rekla je u svom Black Hat uvodnom obraćanju da je ohrabrena novim i nastajućim tehnologijama koje viđa u sajber bezbednosti.

Ona je ukazala na nove tehnologije za otkrivanje deepfake-a koje su na tržištu i istakla da je veštačka inteligencija pomogla da se „demokratizuju“ proizvodi i usluge sajber sigurnosti, čineći ih dostupnijima manjim firmama koje ih ranije nisu mogle priuštiti.

Hyppönen je primijetio da su deepfake prevare trenutno vrlo rijetke, ali je dodao da očekuje da će sve vrste online prevara, zajedno s ransomware-om, postati sve gore kako AI tehnologije postaju bolje i jeftinije.

Dobra vest je da branioci imaju prednost kada je u pitanju AI.

„Napadači također koriste AI, ali tek počinju,” rekao je. "Do sada smo vidjeli prilično jednostavne napade s AI". To će se promijeniti, ali trenutno bih rekao da smo spremni.