Конфіденційність інженерії: від траєкторій даних до цифрової довіри

Хоча Мані працює з командами по всьому бізнесу — з розробниками продуктів та програмного забезпечення, фахівцями з обробки даних, експертами зі штучного інтелекту та юристами — він підходить до конфіденційності даних як інженер, знаходячи нові способи вбудовування конфіденційності в механізми Mastercard.

І, як і слід було очікувати від інженера, він використовує автоматичну метафору, щоб пояснити свою роль: «Все зводиться до того, щоб допомагати командам, які фактично керують даними, спілкуватися з ними та впроваджувати елементи контролю», — каже він. «Уявіть, що команда розробників створює автомобіль з найновішими двигунами та технологічними особливостями, а я, як людина, відповідальна за конфіденційність, надаю їм стандартні функції безпеки, такі як ремінь безпеки та бічне дзеркало». Але іноді це подушка безпеки та антиблокувальна система гальм — щоб усі були краще захищені».

Після того, як Мані залишив стартап з генетичного тестування, він шукав нового виклику. Його зацікавили інвестиції Mastercard у технології конфіденційності, особливо її робота з анонімізації даних через Trūata, дублінський «траст даних», який розпочався як спільне підприємство з IBM, а зараз є невід’ємною частиною корпоративних ресурсів даних Mastercard. (20-хвилинна поїздка до штаб-квартири Mastercard у місті Перчейз, штат Нью-Йорк, з його дому в окрузі Вестчестер також не завадила.)

Мані швидко зрозумів, що дані про платежі надзвичайно потужні, але водночас унікальні за своїм складом. У 2024 році Mastercard обробила 159 мільярдів транзакцій, і ця інформація анонімізується та агрегується під час використання для аналізу даних. Але Mastercard також використовує такі методи, як токенізація — заміна номера рахунку кредитної картки унікальним заповнювачем — щоб дані картки не можна було відстежити до окремих осіб у разі злому.

Це приклади засобів контролю конфіденційності, які поділяються на дві широкі категорії. Технічні засоби контролю вбудовані в самі системи, такі як анонімізація даних перед їх використанням. Адміністративний контроль залежить від людей та процесів, таких як навчання співробітників розпізнавати, коли щось виглядає не так. А в деяких ситуаціях потрібні обидва.

Завдання Мані полягає у створенні та впровадженні цих елементів керування, щоб до анонімних даних можна було швидко отримати доступ, безпечно обробляти їх відповідно до низки національних та міжнародних норм.

Наприклад, обмеження мети — використання даних лише з тієї причини, для якої вони були зібрані — складно реалізувати. Іноді це досягається шляхом навчання. Однак, все частіше компанії звертаються до технічних засобів контролю, які запобігають використанню даних для несанкціонованих цілей. «Ви можете створювати дані як продукт, — каже Мані, — і платформа не дозволить вам використовувати їх для іншої мети».

Інженери Mastercard розробляють програмні інструменти для профілювання даних, скануючи величезні набори даних, щоб визначити їх походження, чутливість та характеристики, подібно до того, як аналіз крові показує, що відбувається всередині організму. Компанія також веде окремі ідентифіковані та анонімні бази даних, гарантуючи, що аналітики ніколи не зможуть отримати доступ до обох одночасно, що є запобіжним заходом проти повторної ідентифікації.

Сьогодні, пояснює Мані, однією з найбільших проблем у сфері глобальної конфіденційності є локалізація даних — закони, які вимагають, щоб дані, отримані локально, залишалися в межах кордонів певної країни. Інженери з обробки даних працюють над інструментами для позначення даних десятками атрибутів, які дозволять Mastercard автоматично застосовувати ці правила. У майбутньому дані можна буде позначати тегами, щоб відображати договірні вимоги та вподобання клієнтів; це дозволить, наприклад, власнику відкритого банківського рахунку надавати, скасовувати або поновлювати обмежені в часі згоди на обмін даними про рахунок або транзакції з третіми сторонами. 

«Впровадження контролю у великих масштабах, — каже він, — дозволяє нам використовувати аналітику у великих масштабах».

Mastercard постійно досліджує інші технології, що забезпечують конфіденційність, такі як синтетичні дані — штучно згенеровані набори даних, що імітують реальні дані без будь-якого зв’язку з базовою інформацією про клієнтів. Синтетичні дані корисні для демонстрацій, тестування та оцінки сторонніх інструментів, хоча Мані застерігає, що розробники моделей ШІ надають перевагу реальним навчальним даним.

Так звані чисті кімнати дозволяють Mastercard та її партнерам тимчасово об’єднувати дані, запускати аналітику, а потім видаляти ці дані. Методи багатосторонніх обчислень дозволяють компаніям отримувати аналітичні дані з цих об'єднаних наборів даних, не ділячись базовою інформацією з іншими партнерами.

Якщо питання конфіденційності вже було складним, то штучний інтелект перетворює його на тривимірні шахи. Традиційна аналітика може класифікувати власників карток за частотою їх використання. Штучний інтелект може виявляти складні поведінкові моделі, сигнали, на які люди ніколи б не подумали звернути увагу. Ця влада підвищує ризик повторної ідентифікації та те, що Мані називає «фактором моторошності».

«Штучний інтелект може знаходити всілякі складні сигнали, про які ми навіть не знаємо», – каже він, наводячи випадок, коли програмне забезпечення для аналізу даних великого роздрібного продавця змогло зробити висновок про вагітність жінок та оцінити термін пологів на основі, здавалося б, нешкідливих покупок, таких як лосьйон без запаху.

Команди зі штучного інтелекту Mastercard перевіряють кожен варіант використання та застосовують суворий контроль до тих, що схвалені. Високоризикові програми зупиняються до того, як вони потраплять у виробництво. А в кожен алгоритм вбудована прозорість (показ того, як працює система штучного інтелекту та які дані вона використовує), спостережуваність (моніторинг її поведінки для пошуку та виправлення проблем) та інструменти для виявлення упередженості, щоб люди могли довіряти її результатам.  

Незважаючи на всю складність побудови контролю конфіденційності в глобальному масштабі, Мані любить у своїй роботі людей, які його оточують. «Переважно те, що я працюю з цими блискучими людьми і щодня навчаюся чогось нового», – каже він. «І я можу зробити свій внесок у це середовище, створити нові ідеї та водночас допомогти захистити конфіденційність».

Напередодні Дня захисту даних , 28 січня, порада Мані для всіх, хто хвилюється за власний цифровий слід, набагато простіша, ніж системи, які він розробляє: «Тримайте низький профіль», – каже він, зокрема в соціальних мережах та пошукових системах, що мінімізує кількість слідів, які ви залишаєте в Інтернеті. Вимкніть файли cookie, які вам не потрібні; не розголошуйте своє місцезнаходження; зменште площу того, що світ може дізнатися про вас.

Це та сама філософія, що лежить в основі підходу Mastercard до даних: довіра будується шляхом вбудовування безпеки, цілісності та підзвітності в механіку її мережі — довіра, яка створюється і заробляється.