Ingineria confidențialității: De la urmele datelor la încrederea digitală

Deși Mani lucrează cu echipe din întreaga companie — dezvoltatori de produse și software, oameni de știință în domeniul datelor, experți în inteligență artificială și avocați — el abordează confidențialitatea datelor ca inginer, găsind modalități inovatoare de a integra confidențialitatea în mecanismele Mastercard.

Și, așa cum era de așteptat de la un inginer, folosește o metaforă automată pentru a-și explica rolul: „Totul se rezumă la a ajuta echipele care gestionează efectiv datele, a discuta cu ele și a implementa controalele”, spune el. „Imaginați-vă că echipa de produs construiește un vehicul, cu cele mai noi caracteristici tehnologice și ale motorului, iar în calitate de persoană care se ocupă de confidențialitate, le ofer caracteristici de siguranță standard, cum ar fi o centură de siguranță și o oglindă laterală.” Dar uneori este vorba de un airbag și de un sistem de frânare antiblocare — astfel încât toată lumea să fie mai bine protejată.”

După ce a părăsit startup-ul de teste genetice, Mani căuta o nouă provocare. El a fost intrigat de investițiile Mastercard în tehnologiile de confidențialitate, în special de activitatea sa privind anonimizarea datelor prin intermediul Trūata, un „trust de date” cu sediul la Dublin, care a început ca o societate mixtă cu IBM și este acum o parte integrată a resurselor de date Mastercard la nivel de întreprindere. (Nici naveta de 20 de minute de la domiciliul său din comitatul Westchester până la sediul central al Mastercard din Purchase, New York, nu a stricat.)

Datele despre plăți, a aflat rapid Mani, sunt extraordinar de puternice, dar și unice prin structura lor. În 2024, Mastercard a procesat 159 de miliarde de tranzacții, iar aceste informații sunt anonimizate și agregate atunci când sunt utilizate pentru analize de date. Însă Mastercard folosește și tehnici precum tokenizarea - înlocuirea numărului de cont al cardului de credit cu un titlu provizoriu unic - astfel încât datele cardului să nu poată fi urmărite până la persoane fizice în cazul unui atac cibernetic.

Acestea sunt exemple de controale de confidențialitate, care se împart în două mari categorii. Controalele tehnice sunt încorporate în sistemele în sine - cum ar fi anonimizarea datelor înainte de a fi utilizate. Controalele administrative se bazează pe oameni și procese, cum ar fi instruirea angajaților pentru a recunoaște când ceva pare în neregulă. Și, în unele situații, ambele sunt necesare.

Sarcina lui Mani este de a crea și integra aceste controale, astfel încât datele anonimizate să poată fi accesate rapid și gestionate în siguranță și în conformitate cu o serie de reglementări naționale și internaționale.

De exemplu, limitarea scopului — utilizarea datelor doar în scopul pentru care au fost colectate — este dificil de implementat. Uneori este impusă prin antrenament. Totuși, companiile apelează din ce în ce mai mult la controale tehnice care împiedică utilizarea datelor în scopuri neautorizate. „Poți crea date ca produs”, spune Mani, „iar platforma te-ar împiedica să le folosești în alt scop.”

Inginerii Mastercard dezvoltă instrumente software pentru profilarea datelor, scanând seturi masive de date pentru a determina originea, sensibilitatea și caracteristicile acestora, la fel cum un test de sânge dezvăluie ce se întâmplă în interiorul corpului. Compania menține, de asemenea, baze de date separate, identificate și anonimizate, asigurându-se că analiștii nu le pot accesa niciodată pe ambele în același timp, o garanție împotriva reidentificării.

Astăzi, explică Mani, una dintre cele mai mari provocări în materie de confidențialitate globală este localizarea datelor - legi care impun ca datele obținute local să rămână în limitele unei anumite țări. Inginerii de date lucrează la instrumente pentru a eticheta datele cu zeci de atribute care vor permite Mastercard să aplice automat aceste reguli. În viitor, datele pot fi etichetate pentru a reflecta cerințele contractuale și preferințele clienților; permițând, de exemplu, unui titular de cont bancar deschis să acorde, să revoce sau să reînnoiască consimțământul limitat în timp pentru partajarea datelor contului sau tranzacțiilor cu terțe părți. 

„Implementarea controalelor la scară largă”, spune el, „ne permite să utilizăm analizele la scară largă”.

Mastercard explorează constant alte tehnologii de protejare a confidențialității, cum ar fi datele sintetice - seturi de date generate artificial care imită date reale fără nicio legătură cu informațiile subiacente ale clienților. Datele sintetice sunt utile pentru demonstrații, testarea și evaluarea instrumentelor terțe, deși Mani avertizează că modelatorii de inteligență artificială preferă datele de antrenament din lumea reală.

Așa-numitele camere curate permit Mastercard și partenerilor săi să combine temporar datele, să execute analize și apoi să șteargă datele ulterior. Tehnicile de calcul multipartit permit companiilor să obțină informații din aceste seturi de date combinate fără a partaja informațiile subiacente cu alți parteneri.

Dacă intimitatea era deja complexă, inteligența artificială o transformă într-un joc de șah tridimensional. Analizele tradiționale ar putea clasifica titularii de carduri în funcție de cât de des le utilizează. Inteligența artificială poate detecta tipare comportamentale complexe, semnale pe care oamenii nu s-ar gândi niciodată să le caute. Această putere crește riscul reidentificării și ceea ce Mani numește „factorul de înfiorător”.

„Inteligenta artificială ar putea găsi tot felul de semnale complicate despre care nici măcar nu știm”, spune el, citând un caz în care software-ul de analiză a datelor al unui important retailer a reușit să deducă faptul că femeile erau însărcinate și să estimeze datele scadente pe baza unor achiziții aparent inofensive, cum ar fi loțiunile fără parfum.

Echipele de inteligență artificială ale Mastercard analizează fiecare caz de utilizare și aplică controale stricte celor aprobate. Aplicațiile cu risc ridicat sunt oprite înainte de a ajunge în producție. Și în fiecare algoritm sunt încorporate transparența (care arată cum funcționează un sistem de inteligență artificială și ce date utilizează), observabilitatea (monitorizarea modului în care se comportă pentru a găsi și remedia problemele) și instrumente pentru detectarea prejudecăților, astfel încât oamenii să poată avea încredere în rezultatele sale.  

În ciuda complexității implementării unor controale de confidențialitate la scară globală, ceea ce iubește Mani la meseria sa sunt oamenii din jurul său. „În principal, lucrez cu acești oameni străluciți și învăț ceva nou în fiecare zi”, spune el. „Și pot contribui în acel mediu și pot crea idei noi, ajutând totodată la protejarea vieții private.”

În ajunul Zilei Naționale a Datelor, pe 28 ianuarie, sfatul lui Mani pentru oricine este îngrijorat de propria urmă digitală este mult mai simplu decât sistemele pe care le proiectează: „Păstrați un profil discret”, spune el, inclusiv pe rețelele de socializare și motoarele de căutare, ceea ce reduce la minimum indiciile pe care le lăsați online. Dezactivează cookie-urile de care nu ai nevoie; nu transmite informații despre locul în care te afli; redu suprafața pe care lumea o poate afla despre tine.

Este aceeași filozofie care stă la baza abordării Mastercard față de date: încrederea se construiește prin integrarea securității, integrității și responsabilității în mecanismele rețelei sale - o încredere care este creată și, de asemenea, câștigată.