Инженерна поверителност: От следи от данни до цифрово доверие

Мани работи с екипи в целия бизнес - с разработчици на продукти и софтуер, специалисти по данни, експерти по изкуствен интелект и юристи - но подхожда към защитата на личните данни като инженер, като намира нови начини за вграждане на защитата на личните данни в механизмите на Mastercard.

И както може да се очаква от един инженер, той използва метафора за автоматизация, за да обясни ролята си: "Става дума за подпомагане на екипите, които действително управляват данните, за разговори с тях и за прилагане на контрол", казва той. "Представете си, че продуктовият екип конструира автомобил с най-новите двигатели и технологични характеристики, а аз, като лице, занимаващо се с личните данни, им предоставям стандартни функции за безопасност, като например предпазен колан и странично огледало. Но понякога това е въздушна възглавница и антиблокираща спирачка - така че всички да са по-добре защитени."

След като напуска стартъпа за генетични тестове, Мани търси ново предизвикателство. Той е заинтригуван от инвестициите на Mastercard в технологиите за защита на личните данни, особено от работата ѝ по анонимизиране на данни чрез Trūata- базиран в Дъблин "тръст за данни", който започна като съвместно предприятие с IBM и сега е интегрирана част от ресурсите за данни на Mastercard в цялото предприятие. (20-минутното пътуване до централата на Mastercard в Purchase, Ню Йорк, от дома му в окръг Уестчестър също не е било от полза.)

Данните за плащанията - бързо научи Мани - са изключително мощни, но и уникални по своя състав. През 2024 г. Mastercard е обработила 159 милиарда трансакции и тази информация е анонимизирана и обобщена, когато се използва за прозрения на данните. Но Mastercard използва и техники като токенизация - заместване на номера на сметката на кредитната карта с уникален заместител - за да не могат данните от картата да бъдат проследени обратно до отделни лица, ако бъдат хакнати.

Това са примери за контрол на неприкосновеността на личния живот, които се разделят на две големи категории. Техническият контрол е вграден в самите системи - като например премахване на идентичността на данните преди използването им. Административният контрол разчита на хора и процеси, като например обучение на служителите да разпознават, когато нещо не изглежда наред. В някои ситуации са необходими и двете.

Задачата на Мани е да създаде и внедри тези механизми за контрол, за да може достъпът до деидентифицираните данни да бъде бърз, а обработката им - сигурна и в съответствие с множество национални и международни разпоредби.

Например ограничаването на целите - използването на данните само по причината, поради която са събрани - е трудно за прилагане. Понякога това се налага чрез обучение. Все по-често обаче компаниите се обръщат към техническите средства за контрол, които предотвратяват използването на данни за неразрешени цели. "Можете да създадете данни като продукт", казва Мани, "и платформата няма да ви позволи да ги използвате за друга цел."

Инженерите на Mastercard разработват софтуерни инструменти за профилиране на данни - сканиране на огромни масиви от данни, за да се определи техният произход, чувствителност и характеристики, подобно на начина, по който кръвен тест разкрива какво се случва в тялото. Освен това компанията поддържа отделни идентифицирани и деидентифицирани бази данни, което гарантира, че анализаторите никога нямат достъп до двете едновременно, което е предпазна мярка срещу повторна идентификация.

Днес, обяснява Мани, едно от най-големите предизвикателства в областта на защитата на личните данни в световен мащаб е локализирането на данните - закони, които изискват данните, получени на местно ниво, да останат в границите на дадена държава. Инженерите по данни работят по инструменти за маркиране на данните с десетки атрибути, които ще позволят на Mastercard да прилага тези правила автоматично. В бъдеще данните могат да бъдат маркирани, за да отразяват договорните изисквания и предпочитанията на клиентите; това позволява например на титуляря на сметка за отворено банкиране да дава, отменя или подновява ограничени във времето съгласия за споделяне на данни за сметки или трансакции с трети страни. 

"Прилагането на контрола в мащаб", казва той, "ни позволява да използваме анализа в мащаб."

Mastercard непрекъснато проучва други технологии за запазване на поверителността, като например синтетични данни - изкуствено генерирани набори от данни, които имитират реални данни без никаква връзка с основната информация за клиентите. Синтетичните данни са полезни за демонстрации, тестване и оценка на инструменти на трети страни, въпреки че Мани предупреждава, че моделиерите на ИИ предпочитат реални данни за обучение.

Така наречените "чисти стаи" позволяват на Mastercard и нейните партньори временно да комбинират данни, да извършват анализи и след това да изтриват данните. Техниките за изчисляване с участието на няколко страни позволяват на компаниите да извлекат прозрения от тези комбинирани набори от данни, без да споделят основната информация с други партньори.

Ако защитата на личните данни вече е била сложна, изкуственият интелект я превръща в триизмерен шах. Традиционните анализи могат да категоризират картодържателите по това колко често използват картите си. ИИ може да открива сложни поведенчески модели, сигнали, които хората никога не биха се сетили да потърсят. Тази власт повишава риска от повторна идентификация и това, което Мани нарича "фактор на ужасяващото".

"ИИ може да открие всякакви сложни сигнали, за които дори не знаем", казва той и посочва случай, в който софтуерът за анализ на данни на голям търговец на дребно е успял да заключи, че жените са бременни, и да прецени датите на раждането им въз основа на привидно безобидни покупки като лосион без аромат.

Екипите за изкуствен интелект на Mastercard преглеждат всеки случай на употреба и прилагат строг контрол върху одобрените. Високорисковите приложения се спират, преди да достигнат до производство. Във всеки алгоритъм са вградени прозрачност (показване на начина, по който работи системата за изкуствен интелект, и данните, които използва), наблюдаемост (наблюдение на поведението ѝ, за да се открият и отстранят проблеми) и инструменти за откриване на пристрастия, така че хората да могат да се доверят на резултатите ѝ.  

При цялата сложност на изграждането на контрол на неприкосновеността на личния живот в глобален мащаб, това, което Мани обича в работата си, са хората около него. "Най-вече това, че работя с тези брилянтни хора и всеки ден научавам нещо ново", казва той. "И аз мога да допринеса в тази среда, да създавам нови идеи и същевременно да помагам за защитата на личните данни."

В навечерието на Деня за защита на личните данни, 28 януари, Мани съветва всеки, който се притеснява за собствената си цифрова следа, да бъде много по-прост от системите, които проектира: Той казва: "Не се излагайте на показ", включително в социалните медии и търсачките, което намалява до минимум следите, които оставяте онлайн. Изключете бисквитките, от които не се нуждаете; не съобщавайте местонахождението си; намалете площта, на която светът може да научи за вас.

Същата философия е в основата на подхода на Mastercard към данните: Доверието се изгражда чрез вграждане на сигурност, интегритет и отчетност в механиката на нейната мрежа - доверие, което се създава и печели.