Skip to main content

Sajber bezbednost

28. oktobar 2024

 

Zašto je gen AI mač sa dve oštrice u sajber bezbednosti

Tehnologija je učinila kriminalcima jeftino i lako izvršavanje složenih prevara - i pomaže kompanijama da ih otkriju jednako brzo.

Apstraktna slika koja prikazuje otisak prsta okružen ciframa.

Fotografija sa Adobe Stock-a, kreirana pomoću generativne AI.

Rohit Chauhan

Executive Vice President,

AI Fraud Solutions, Mastercard

Moja ćerka me zove nekako i kaže mi da joj treba novac dok je na putovanju u inostranstvo. Dodaje da će mi kasnije popuniti detalje. Reagirajući kao roditelj, samo se prepuštam.

U ovom hipotetičkom scenariju, moj novac je sada ukrao prevarant koji se predstavlja kao moje dete koristeći digitalni glasovni klon kreiran generativnom AI. Možda mislite: „To me neće prevariti. Znam kako zvuči moje dete. " Ali uveravam vas da ako razgovarate telefonom sa jednim od ovih digitalnih blizanaca, nećete moći da razlikujete razliku. To je koliko je sofisticirana ova tehnologija lažiranja postala.

Ovo je samo jedan primer izazova sa kojima se potrošači, preduzeća i vlade sada suočavaju jer je gen AI brzo postao mainstream. To stvara nove pretnje u prostoru sajber bezbednosti, ali i mogućnosti. S jedne strane, gen AI učinio je stvaranje i izvršavanje složenih oblika prevare mnogo jeftinijim i pristupačnijim. S druge strane, kompanije, uključujući Mastercard, koriste gen AI kako bi dodale više kontekstualnog razumevanja našim alatima za sajber bezbednost, čineći ih pametnijim, poboljšavajući iskustvo potrošača i boreći se protiv prevare brže nego ranije.

Kako se odbraniti od digitalnog blizanca

Digitalni blizanac može biti kopija vašeg glasa ili kombinacija vašeg glasa i video snimka. U oba slučaja, prevaranti mogu obučiti ovog blizanca da kaže šta god žele.

Stvaranje ovih digitalnih klonova nekada je bilo veoma skupo. Danas se neko može prijaviti za bilo koji broj generacija usluga koje pokreću AI na mreži, otpremiti seriju glasovnih snimaka ili video zapisa i stvoriti digitalnog blizanca praktično besplatno.

U drugim slučajevima, prevarant može da koristi mogućnosti generisanja teksta gen AI da kreira visoko ciljane i personalizovane poruke u obimu kako bi potencijalno došao do mnogih žrtava putem aplikacije za razmenu poruka.

U ovim primerima, prevaranti su sada naoružani moćnim alatima gotovo bez ikakvih troškova. Ove prevare se takođe već dešavaju. U velikom incidentu u februaru, finansijski radnik u Hong Kongu prevaren je da je prevarantima poslao 25 miliona dolara nakon što je razgovarao na video konferencijskom pozivu sa digitalnim blizancima nekoliko saradnika, uključujući glavnog finansijskog direktora kompanije.

Ozbiljna implikacija ovde je da je ovo nepravedna borba za nas ljude. Ne možemo da učimo ili se prilagodimo tako brzo kao AI, bez obzira koliko se trudili.

Vraćajući se na taj scenario sa mojom ćerkom, postoji jednostavan način da se reši ova obmana. Imamo porodičnu lozinku koju možemo koristiti za ovakve situacije. Digitalni blizanac ne bi znao te informacije. Čak i bez zajedničke lozinke, mogli biste zamoliti potencijalnog digitalnog blizanca da potvrdi informacije koje takođe ne bi znao - poput nedavnog restorana u koji ste otišli sa osobom sa kojom razgovarate.

Odjednom, cela fasada digitalnog blizanca počinje da se raspada, bez obzira koliko je pametna ili koliko brzo može da razvije svoje prakse. Ovako možemo da izbegnemo pokušaj da pokrenemo istu trku kao AI. Umesto toga, naslonimo se na to da budemo ljudskiji.

Ponekad bi rešenje koje nije visoke tehnologije moglo dobro funkcionisati u borbi protiv takve prevare.

Kako koristimo gen AI za jačanje sajber sigurnosti

Gen AI, naravno, ne koriste samo prevaranti. A niskotehnološka rešenja nisu uvek odgovor. Mastercardovi timovi danas koriste generijske AI i AI alate za poboljšanje sigurnosti digitalnog sveta.

U drugom primeru, možemo izgraditi sofisticiranije modele prevare uz pomoć AI, takođe. Danas su mnogi modeli prevare napravljeni koristeći vaše kupovne navike i postupke. To znači da ako obično trošite 100 dolara dnevno oko Filadelfije, model prevare može označiti ako ste iznenada pokušali da kupite artikal od 2.000 dolara na Filipinima.

Možemo koristiti AI modele da bismo šire razumeli navike potrošnje - ne samo na individualnom nivou.  Recimo da se nikada ne kockate, ali trošak kockanja je označen od strane sistema prevare vaše banke. Gledajući širi spektar podataka, AI sistem nam može pomoći da identifikujemo da se mnogi ljudi koji borave u određenom odmaralištu kockaju - a pošto vaše transakcije pokazuju da ste u tom odmaralištu, ovaj trošak kockanja više se ne smatra sumnjivim, izbegavajući potrebu za slanjem upozorenja ili suspenzijom kartice. To stvara bolje iskustvo za vas.

Za samo nekoliko godina, gen AI je promenio način na koji komuniciramo sa tehnologijom, pišemo kod i čak nas je navelo da se zapitamo da li je ono što čujemo ili vidimo zapravo stvarno - čak i poziv moje sopstvene ćerke.

Priča o genu AI je složena - a rizici su jasni. Ali znam da ga možemo usmeriti na prave načine kako bi ljudi i preduzeća mogli imati koristi od novog talasa inovacija koji stvara.

Blog

Kako se boriti protiv sajber kriminala uz malo spremnosti u vojnom stilu

Nedostaje nam skoro 4 miliona radnika u sajber bezbednosti širom sveta. Vreme je da se popuni ova praznuta rupa sada, kaže Ron Green iz Mastercard-a.

Pročitajte više

Povezane priče