Luna Conștientizării Securității Cibernetice poate să nu aibă aceeași atracție ca alte semne distinctive ale lunii octombrie - contemplarea frunzișului lustruit sau consumul excesiv de dulciuri de Halloween - dar poate determina liderii corporativi și consumatorii deopotrivă să se angajeze într-un ritual important: reevaluarea abordării lor față de securitatea cibernetică.

Și sunt multe lucruri la care să reflectăm în acest an care a trecut. Companiile ar trebui să se întrebe în special luna aceasta (și în fiecare lună): Cum s-a schimbat peisajul amenințărilor online? Și practicile de securitate ale companiei dumneavoastră sunt suficiente pentru a ține pasul cu aceste schimbări?

Inteligența artificială a fost, fără îndoială, cea mai mare schimbare de joc a acestui an. Instrumentele de inteligență artificială, inclusiv modelele lingvistice mari (LLM), cum ar fi ChatGPT, au amplificat abilitățile atacatorilor. Între timp, un număr tot mai mare de companii încorporează inteligența artificială în activitățile lor zilnice, împingând profesioniștii în domeniul securității cibernetice să păzească noi frontiere, fără prea multe precedente în acest sens. Între timp, consumatorii sunt prinși în mijlocul acestui mediu al inteligenței artificiale în rapidă schimbare.

Exact această dinamică a fost în mintea multora dintre cei 20.000 de participanți la Conferința Black Hat din acest an din Las Vegas. De la cabinele strălucitoare de pe podeaua sălii de afaceri, la cercetările de ultimă generație prezentate în cadrul discuțiilor și până la discuțiile discrete dintre acestea, inteligența artificială a dominat conversația.

La discursul de deschidere al evenimentului, Mikko Hyppönen, cercetător în domeniul securității cibernetice de lungă durată, a numit inteligența artificială „cea mai mare revoluție tehnică” pe care a văzut-o în viața sa, menționând că cercetătorii care utilizează masterate în drept au descoperit deja câteva zeci de „zero days” - un termen din industrie pentru slăbiciuni nedetectate în software sau cod.

„Când cercetătorii găsesc vulnerabilități de securitate cu inteligența artificială, este minunat, pentru că le putem remedia”, a spus Hyppönen. „Când atacatorii fac același lucru, este îngrozitor.” „Și asta se va întâmpla.”

Escrocii online folosesc deja LLM-uri pentru a scrie e-mailuri de phishing mai convingătoare și mai direcționate și o fac la o scară mult mai mare decât ar fi putut vreodată fără instrumente de inteligență artificială.

Au apus vremurile e-mailurilor generice prost scrise, pe care chiar și cea mai puțin pricepută persoană din domeniul tehnologiei le putea identifica drept înșelătorii. Escrocii care nu sunt vorbitori nativi de limba engleză sunt acum experți în a-și perfecționa mesajele cu ajutorul LLM-urilor.

Și chiar și acei escroci care se prezintă drept soldați singuratici staționați peste hotare, promovând o oportunitate de afaceri care pare prea frumoasă ca să fie adevărată (pentru că chiar este), presără detalii personale extrase de inteligența artificială pentru a face mesajele mult mai credibile.

De asemenea, au depășit limita e-mailului, transmițându-și comunicările, acum bine elaborate, pe rețelele de socializare, prin mesaje text și chiar prin apeluri telefonice.

În același timp, a existat o creștere a mesajelor frauduloase care conțin deepfake-uri audio sau video. Anul trecut, un angajat din Hong Kong a fost păcălit să plătească 25 de milioane de dolari unor escroci după ce s-a conectat la ceea ce credea a fi un apel video cu oficiali ai companiei sale multinaționale, inclusiv directorul financiar. Dar s-a dovedit că ceilalți participanți la apel erau reproduceri video în direct, deepfake-uri, ale acelor persoane.

Consumatorii au fost, de asemenea, vizați de escrocherii cu conținut audio deepfake. Aici infractorii cibernetici folosesc inteligența artificială pentru a falsifica vocile unor oameni, de obicei mai tineri, apoi folosesc vocea imitată pentru a apela membrii familiei, spunând că au fost răpiți sau sunt în închisoare, pentru a-i extorca de bani.

Toate acestea îi sperie, pe bună dreptate, pe companii și pe consumatori. Un studiu recent realizat pentru Mastercard a chestionat aproximativ 13.000 de consumatori din întreaga lume, inclusiv aproximativ 1.000 din SUA, și a constatat că conținutul fals generat de inteligența artificială este principala preocupare viitoare a consumatorilor în materie de înșelătorii. Însă doar 13% dintre cei chestionați au declarat că sunt foarte încrezători în capacitatea lor de a identifica amenințările sau escrocheriile generate de inteligența artificială dacă sunt vizați de acestea.

Marea majoritate a celor chestionați au menționat în mod specific îngrijorări cu privire la atacuri mai sofisticate din partea sistemelor de inteligență artificială care sunt piratate și transformate în rău intenționate, atacuri cibernetice automate la scară largă și e-mailuri de phishing mai convingătoare create de inteligența artificială.

Iar consumatorii îngrijorați pot însemna probleme mari pentru companiile care le deservesc. Dacă consumatorii nu pot avea încredere că au de-a face cu o companie legitimă sau că informațiile lor personale sunt în siguranță, ar putea alege să își mute afacerea în altă parte.  

Cel puțin deocamdată, se pare că apărătorii au avantajul. Pe lângă securizarea noilor elemente de inteligență artificială în sistemele clienților lor de afaceri, companiile de securitate cibernetică încorporează inteligența artificială în propriile produse, cu scopul de a opri amenințările online mai rapid și mai eficient.

Între timp, escrocii și alți infractori cibernetici nu au încă suficiente stimulente pentru a inova în același mod. Deși folosesc instrumente de inteligență artificială pentru a lucra mai rapid și a deveni mai mari, experții spun că se țin în mare parte de versiuni îmbunătățite ale acelorași vechi escrocherii.

Nicole Perlroth, o fostă jurnalistă specializată în securitate cibernetică, care acum este parteneră de risc la Ballistic Ventures și își conduce propriul fond de misiuni cibernetice, Silver Buckshot, a declarat în discursul său principal de la Black Hat că este încurajată de tehnologiile noi și emergente pe care le observă în domeniul securității cibernetice.

Ea a subliniat noile tehnologii de detectare a deepfake-urilor bazate pe inteligență artificială care apar pe piață și a remarcat că inteligența artificială a contribuit la „democratizarea” produselor și serviciilor de securitate cibernetică, făcându-le mai accesibile companiilor mai mici care nu și le puteau permite în trecut.

Hyppönen a menționat că escrocheriile deepfake sunt în prezent foarte rare, dar a adăugat că se așteaptă ca tot felul de escrocherii online, împreună cu ransomware-ul, să se agraveze pe măsură ce tehnologiile de inteligență artificială devin mai bune și mai ieftine.

Vestea bună este că apărătorii au un avantaj când vine vorba de inteligența artificială.

„Atacatorii folosesc și ei inteligența artificială, dar abia acum încep”, a spus el. „Până acum am văzut doar atacuri destul de simple cu inteligență artificială.” Se va schimba, dar acum aș spune că suntem pregătiți.”