Skip to main content

Kybernetická bezpečnosť

28. októbra 2024

 

Prečo je generácia umelej inteligencie dvojsečnou zbraňou v kybernetickej bezpečnosti

Táto technológia umožnila zločincom lacno a jednoducho vykonávať prepracované podvody – a pomáha spoločnostiam ich rovnako rýchlo odhaliť.

Abstraktný obrázok zobrazujúci odtlačok prsta obklopený číslicami.

Fotografia z Adobe Stock, vytvorená pomocou generatívnej umelej inteligencie.

Rohit Chauhan

Výkonný viceprezident, Riešenia podvodov s umelou inteligenciou, Mastercard

Moja dcéra mi z ničoho nič volá a hovorí, že potrebuje peniaze, keď je na ceste v zahraničí. Dodáva, že ma o podrobnostiach informuje neskôr. Ako rodič reagujem tak, že sa jednoducho vzdávam.

V tomto hypotetickom scenári mi peniaze ukradol podvodník, ktorý sa vydáva za moje dieťa a používa digitálny hlasový klon vytvorený generatívnou umelou inteligenciou. Možno si myslíte: „To ma neoklame.“ Viem, ako znie moje vlastné dieťa.“ Ale uisťujem vás, že ak sa telefonicky rozprávate s jedným z týchto digitálnych dvojčiat, nebudete schopní rozoznať rozdiel. Taká sofistikovaná sa stala táto technológia falšovania.

Toto je len jeden príklad výziev, ktorým teraz čelia spotrebitelia, firmy a vlády, keďže sa generácia umelej inteligencie rýchlo stala bežnou. Vytvára to nové hrozby v oblasti kybernetickej bezpečnosti, ale aj príležitosti. Na jednej strane, generácia umelej inteligencie výrazne zlacnila a sprístupnila vytváranie a vykonávanie zložitých foriem podvodov. Na druhej strane spoločnosti vrátane Mastercard využívajú umelú inteligenciu generácie na pridanie kontextového porozumenia do našich nástrojov kybernetickej bezpečnosti, vďaka čomu sú inteligentnejšie, zlepšujú skúsenosti spotrebiteľov a bojujú proti podvodom rýchlejšie ako predtým.

Ako sa brániť digitálnemu dvojčaťu

Digitálne dvojča môže byť kópiou vášho hlasu alebo kombináciou vášho hlasu a vášho videa. V oboch prípadoch môžu podvodníci tohto dvojníka vycvičiť, aby povedal čokoľvek chcú.

Vytváranie týchto digitálnych klonov bývalo veľmi drahé. Dnes sa môže niekto online zaregistrovať do ľubovoľného počtu služieb založených na umelej inteligencii, nahrať sériu hlasových nahrávok alebo videí a vytvoriť si digitálne dvojča prakticky zadarmo.

V iných prípadoch môže podvodník využiť možnosti generovania textu, ktoré poskytuje umelá inteligencia, na vytváranie vysoko cielených a personalizovaných správ vo veľkom rozsahu, aby potenciálne oslovil mnoho obetí prostredníctvom aplikácie na odosielanie správ.

V týchto príkladoch sú podvodníci teraz vyzbrojení silnými nástrojmi takmer zadarmo. Tieto podvody sa tiež už dejú. Pri závažnom incidente vo februári bol finančný pracovník v Hongkongu oklamaný a poslal podvodníkom 25 miliónov dolárov po tom, čo sa prostredníctvom videokonferencie rozprával s digitálnymi dvojčatami niekoľkých kolegov vrátane finančného riaditeľa spoločnosti.

Vážnym dôsledkom je, že ide o nespravodlivý boj pre nás ľudí. Nedokážeme sa učiť ani prispôsobovať tak rýchlo ako umelá inteligencia, bez ohľadu na to, ako veľmi sa snažíme.

Vrátime sa k tej situácii s mojou dcérou, existuje jednoduchý spôsob, ako sa s týmto klamom vysporiadať. Máme rodinné heslo, ktoré môžeme použiť v takýchto situáciách. Digitálne dvojča by túto informáciu nepoznalo. Aj bez zdieľaného hesla môžete potenciálneho digitálneho dvojčaťa požiadať o potvrdenie informácií, ktoré by ani ono nepoznalo – napríklad reštauráciu, ktorú ste nedávno navštívili s osobou, s ktorou sa rozprávate.

Zrazu sa celá fasáda digitálneho dvojčaťa začne rúcať, bez ohľadu na to, aké je šikovné alebo ako rýchlo dokáže vyvíjať svoje postupy. Takto sa môžeme vyhnúť pokusu o beh v rovnakých pretekoch ako umelá inteligencia. Namiesto toho sa snažme byť ľudskejší.

Niekedy môže v boji proti takýmto podvodom fungovať aj riešenie, ktoré nie je zamerané na vyspelú technológiu.

Ako využívame umelú inteligenciu generácie na posilnenie kybernetickej bezpečnosti

Umelú inteligenciu generácie samozrejme nepoužívajú len podvodníci. A riešenia s nízkymi technológiami nie sú vždy odpoveďou. Tímy spoločnosti Mastercard dnes využívajú umelú inteligenciu a nástroje umelej inteligencie na zlepšenie bezpečnosti digitálneho sveta.

V inom príklade môžeme s pomocou umelej inteligencie vytvoriť aj sofistikovanejšie modely podvodov. Dnes sa mnoho podvodných modelov buduje pomocou vašich nákupných návykov a konania. To znamená, že ak zvyčajne miniete 100 dolárov denne vo Philadelphii, môže sa objaviť podvodný model, ak sa zrazu pokúsite kúpiť na Filipínach položku v hodnote 2 000 dolárov.

Modely umelej inteligencie môžeme použiť na širšie pochopenie výdavkových návykov – nielen na individuálnej úrovni.  Povedzme, že nikdy nehráte hazardné hry, ale systém vašej banky na ochranu pred podvodmi zaznamená výdavok na hazardné hry. Pri pohľade na širšiu škálu údajov nám systém umelej inteligencie môže pomôcť identifikovať, že veľa ľudí, ktorí sa zdržiavajú v danom kasíne, hrá hazardné hry – a keďže vaše transakcie ukazujú, že ste v danom rezorte, tento výdavok na hazardné hry sa už nepovažuje za podozrivý, čím sa vyhneme potrebe posielať upozornenie alebo pozastavovať vašu kartu. To pre vás vytvára lepší zážitok.

Len za pár rokov zmenila generácia umelej inteligencie spôsob, akým interagujeme s technológiami, píšeme kód a dokonca nás prinútila spochybniť, či to, čo počujeme alebo vidíme, je skutočne skutočné – dokonca aj telefonát od mojej vlastnej dcéry.

Príbeh o generácii umelej inteligencie je zložitý – a riziká sú jasné. Viem však, že ho môžeme nasmerovať správnym spôsobom, aby ľudia a podniky mohli profitovať z novej vlny inovácií, ktoré vytvára.

Blog

Ako bojovať proti kyberkriminalite s trochou vojenskej pripravenosti

Na celom svete máme nedostatok takmer 4 miliónov pracovníkov v oblasti kybernetickej bezpečnosti. Nastal čas zaplniť túto medzeru, hovorí Ron Green zo spoločnosti Mastercard.

Prečítaj si viac

Súvisiace príbehy