Mesec ozaveščanja o kibernetski varnosti morda ni tako privlačen kot drugi oktobrski zaščitni znaki – občudovanje svetlečega listja ali prenajedanje s sladkarijami za noč čarovnic –, vendar lahko spodbudi tako vodje podjetij kot potrošnike, da se vključijo v pomemben ritual: ponovno ocenijo svoj pristop h kibernetski varnosti.

In v preteklem letu je veliko stvari za razmislek. Še posebej bi se morala podjetja ta mesec (in vsak mesec) vprašati: Kako se je spremenila spletna pokrajina groženj? In ali varnostne prakse vašega podjetja dovolj prispevajo k temu, da sledijo tem spremembam?

Umetna inteligenca je nedvomno letos največja prelomnica. Orodja umetne inteligence, vključno z modeli velikih jezikov (LLM), kot je ChatGPT, so močno povečala sposobnosti napadalcev. Medtem vse več podjetij vključuje umetno inteligenco v svoje vsakodnevno poslovanje, kar strokovnjake za kibernetsko varnost spodbuja k varovanju novih meja, ne da bi pri tem imeli veliko precedensa. Medtem so potrošniki ujeti v tem hitro spreminjajočem se okolju umetne inteligence.

Natančno ta dinamika je bila v mislih mnogih od 20.000 udeležencev letošnje konference Black Hat v Las Vegasu. Od razkošnih stojnic na tleh poslovne dvorane do najsodobnejših raziskav, predstavljenih na predavanjih, in tihih pogovorov med njimi, je v pogovoru prevladovala umetna inteligenca.

Na otvoritvenem govoru dogodka je dolgoletni raziskovalec kibernetske varnosti Mikko Hyppönen umetno inteligenco označil za »največjo tehnično revolucijo«, ki jo je videl v svojem življenju, in opozoril, da so raziskovalci, ki uporabljajo LLM, že odkrili nekaj ducatov ničelnih dni – industrijski izraz za neodkrito šibkost v programski opremi ali kodi.

»Ko raziskovalci odkrijejo varnostne ranljivosti umetne inteligence, je to odlično, ker jih lahko odpravimo,« je dejal Hyppönen. "Ko napadalci storijo enako, je to grozno." Tudi to se bo zgodilo.”

Spletni prevaranti že uporabljajo LLM-je za pisanje prepričljivejših in ciljno usmerjenih phishing e-poštnih sporočil, in to počnejo v veliko večjem obsegu, kot bi ga kdajkoli lahko dosegli brez orodij umetne inteligence.

Minili so časi slabo napisanih generičnih e-poštnih sporočil, ki jih je lahko celo najmanj tehnično podkovana oseba prepoznala kot prevare. Prevaranti, ki jim angleščina ni materni jezik, so zdaj profesionalci pri izpopolnjevanju svojih sporočil z LLM-ji.

In celo tisti prevaranti, ki se predstavljajo kot osamljeni vojaki, nameščeni v tujini, in promovirajo poslovno priložnost, ki je videti predobra, da bi bila resnična (ker v resnici je), vpletajo osebne podatke, ki jih je izkopala umetna inteligenca, da bi bila ta sporočila veliko bolj verodostojna.

Prav tako so presegli e-pošto in svoje zdaj dobro oblikovane komunikacije dostavljajo prek družbenih medijev, besedilnih sporočil in celo telefonskih klicev.

Hkrati se je povečalo število prevarantskih sporočil, ki vsebujejo zvočne ali video ponaredke. Lani je bil delavec v Hongkongu prevaran, da je goljufom izplačal 25 milijonov dolarjev , potem ko se je prijavil na video klic z uradniki svojega multinacionalnega podjetja, vključno s finančnim direktorjem. Vendar se je izkazalo, da so bili drugi udeleženci klica ponarejeni posnetki teh ljudi v živo.

Potrošniki so bili tarča tudi prevar z globokimi ponareditvami v zvočnih sporočilih. Tam kibernetski kriminalci uporabljajo umetno inteligenco za ponarejanje glasov ljudi, običajno mlajših, nato pa s posnemanim glasom pokličejo družinske člane in jim povedo, da so bili ugrabljeni ali da so v zaporu, da bi od njih izsilili denar.

Vse to razumljivo prestraši podjetja in potrošnike. Nedavna študija, izvedena za Mastercard, je anketirala približno 13.000 potrošnikov po vsem svetu, vključno s približno 1.000 v ZDA, in ugotovila, da so lažne vsebine, ki jih ustvarja umetna inteligenca, največja skrb potrošnikov, povezana s prevarami v prihodnosti. Vendar pa je le 13 % anketirancev dejalo, da so zelo prepričani v svojo sposobnost prepoznavanja groženj ali prevar, ki jih ustvarja umetna inteligenca, če so tarča le-teh.

Velika večina anketirancev je posebej navedla zaskrbljenost zaradi bolj sofisticiranih napadov sistemov umetne inteligence, ki bi lahko bili vdori v sisteme in bi postali zlonamerni, avtomatiziranih obsežnih kibernetskih napadov in prepričljivejših lažnih e-poštnih sporočil, ki jih ustvarja umetna inteligenca.

In zaskrbljeni potrošniki lahko pomenijo velike težave za podjetja, ki jim služijo. Če potrošniki ne morejo zaupati, da imajo opravka z legitimnim podjetjem ali da so njihovi osebni podatki varni, se lahko odločijo, da bodo svoje poslovanje preusmerili k drugemu podjetju.  

Zaenkrat se zdi, da imajo branilci prednost. Poleg zavarovanja novih elementov umetne inteligence v sistemih svojih poslovnih strank podjetja za kibernetsko varnost vključujejo umetno inteligenco tudi v svoje izdelke, s ciljem hitrejšega in učinkovitejšega zaustavljanja spletnih groženj.

Medtem prevaranti in drugi kibernetski kriminalci še nimajo dovolj spodbud za inovacije na enak način. Čeprav uporabljajo orodja umetne inteligence za hitrejše delo in večjo rast, strokovnjaki pravijo, da se večinoma držijo izboljšanih različic istih starih prevar.

Nicole Perlroth, nekdanja novinarka za kibernetsko varnost, ki je zdaj partnerica v podjetju Ballistic Ventures in vodi svoj sklad za kibernetsko misijo Silver Buckshot, je v svojem glavnem nagovoru pri Black Hat dejala, da jo nove in nastajajoče tehnologije, ki jih opaža na področju kibernetske varnosti, navdušujejo.

Opozorila je na nove tehnologije za odkrivanje ponaredkov z umetno inteligenco, ki prihajajo na trg, in poudarila, da je umetna inteligenca pomagala "demokratizirati" izdelke in storitve kibernetske varnosti, zaradi česar so postali dostopnejši manjšim podjetjem, ki si jih v preteklosti niso mogla privoščiti.

Hyppönen je opozoril, da so prevare z globokimi ponaredi trenutno zelo redke, vendar je dodal, da pričakuje, da se bodo vse vrste spletnih prevar, skupaj z izsiljevalsko programsko opremo, le še poslabšale, saj bodo tehnologije umetne inteligence postale boljše in cenejše.

Dobra novica je, da imajo branilci prednost, ko gre za umetno inteligenco.

»Tudi napadalci uporabljajo umetno inteligenco, vendar so šele na začetku,« je dejal. »Do sedaj smo videli le dokaj preproste napade z umetno inteligenco.« Spremenilo se bo, ampak trenutno bi rekel, da smo pripravljeni."