Разработка систем обеспечения конфиденциальности: от отслеживания данных до цифрового доверия.

Работая с командами по всей компании — с разработчиками продуктов и программного обеспечения, специалистами по анализу данных, экспертами по искусственному интеллекту и юристами — Мани подходит к вопросам защиты данных как инженер, находя новаторские способы внедрения принципов конфиденциальности в механизмы Mastercard.

И, как и следовало ожидать от инженера, он использует автоматическую метафору, чтобы объяснить свою роль: «Всё дело в том, чтобы помогать командам, которые действительно управляют данными, общаются с ними и внедряют контроли», — говорит он. «Представьте, что команда производит автомобиль с новейшими двигателями и технологиями, а я, как человек по защите конфиденциальности, даю им стандартные системы безопасности, такие как ремень безопасности и боковое зеркало. Но иногда это подушка безопасности и антиблокировочная система торможения — чтобы все были лучше защищены.»

После ухода из стартапа по генетическому тестированию Мани искала новый вызов. Его заинтересовали инвестиции Mastercard в технологии конфиденциальности, особенно её работа по анонимизации данных через Trūata — дублинский «фонд данных», который начинался как совместное предприятие с IBM и теперь является неопреможной частью корпоративных ресурсов Mastercard. (20-минутная дорога до штаб-квартиры Mastercard Purchase, Нью-Йорк, из его дома в округе Уэстчестер, тоже не помешала.)

Данные о платежах, как быстро понял Мани, чрезвычайно мощны, но при этом уникальны по своему составу. В 2024 году Mastercard обработал 159 миллиардов транзакций, и эта информация анонимизируется и агрегируется при использовании для получения данных. Однако Mastercard также использует такие методы, как токенизация — замена номера счета кредитной карты на уникальный временной замена — чтобы данные карты не могли быть отследены до отдельных лиц при взломе.

Это примеры контроля конфиденциальности, которые делятся на две основные категории. Технические механизмы контроля встроены в сами системы — например, деидентификация данных до их использования. Административный контроль зависит от людей и процессов, например, обучения сотрудников распознавать, когда что-то кажется неправильным. И в некоторых случаях требуется и то, и другое.

Задача Мани — создать и внедрить эти меры контроля, чтобы де-идентификационные данные могли быть быстро доступны и обработаны безопасно и в соответствии с множеством национальных и международных нормативов.

Например, ограничение цели — использование данных только по причине их сбора — сложно реализовать. Иногда это поддерживается через обучение. Однако всё чаще компании обращаются к техническим ограничениям, которые предотвращают использование данных в несанкционированных целях. «Вы можете создавать данные как продукт», — говорит Мани, — «и платформа не позволит вам использовать их для других целей.»

Инженеры Mastercard разрабатывают программные инструменты для профилирования данных, сканируя огромные массивы данных, чтобы определить их происхождение, чувствительность и характеристики, подобно тому, как анализ крови выявляет процессы, происходящие внутри организма. Компания также ведет отдельные базы данных с идентифицированными и обезличенными данными, гарантируя, что аналитики никогда не смогут получить доступ к обеим базам данных одновременно, что является защитой от повторной идентификации.

Сегодня, как объясняет Мани, одной из самых больших проблем в области защиты конфиденциальности в глобальном масштабе является локализация данных — законы, требующие, чтобы данные, полученные на местном уровне, оставались в пределах границ конкретной страны. Инженеры по обработке данных работают над инструментами для присвоения данным десятков атрибутов, которые позволят Mastercard автоматически применять эти правила. В будущем данные можно будет помечать тегами, отражающими договорные требования и предпочтения клиентов; это позволит, например, владельцу открытого банковского счета предоставлять, отзывать или продлевать ограниченные по времени согласия на передачу данных о счете или транзакциях третьим сторонам. 

«Внедрение контроля в масштабе, — говорит он, — позволяет нам использовать аналитику в масштабах.»

Mastercard постоянно исследует другие технологии, сохраняющие конфиденциальность, такие как синтетические данные — искусственно сгенерированные наборы данных, имитирующие реальные данные без какой-либо связи с основной информацией клиента. Синтетические данные полезны для демонстраций, тестирования и оценки сторонних инструментов, хотя Мани предупреждает, что моделисты ИИ предпочитают реальные обучающие данные.

Так называемые чистые комнаты позволяют Mastercard и её партнёрам временно объединять данные, запускать аналитику, а затем удалять данные. Многосторонние вычислительные методы позволяют компаниям получать инсайты из этих объединённых наборов данных, не делясь её с другими партнёрами.

Если проблема конфиденциальности и без того сложна, то искусственный интеллект превращает её в трёхмерные шахматы. Традиционные аналитические методы могут классифицировать держателей карт по частоте их использования. Искусственный интеллект способен распознавать сложные поведенческие модели, сигналы, на которые людям никогда бы не пришло в голову обратить внимание. Эта власть повышает риск повторной идентификации и то, что Мани называет «фактором жуткости».

«Искусственный интеллект может обнаруживать всевозможные сложные сигналы, о которых мы даже не знаем», — говорит он, приводя в пример случай, когда программное обеспечение для анализа данных крупной розничной сети смогло определить, что женщины беременны , и оценить предполагаемую дату родов на основе, казалось бы, безобидных покупок, таких как лосьон без запаха.

Команды ИИ Mastercard рассматривают каждый случай использования и применяют строгий контроль к одобренным вариантам. Приложения с высоким риском останавливаются до выхода в производство. И в каждом алгоритме встроена прозрачность (показывающая, как работает система ИИ и какие данные она использует), наблюдаемость (мониторинг поведения при поиске и решении проблем) и инструменты для выявления предвзятости, чтобы люди могли доверять результатам.  

Несмотря на всю сложность создания механизмов защиты конфиденциальности в глобальном масштабе, больше всего в своей работе Мани любит людей, которые его окружают. «Главное, что я работаю с этими блестящими людьми и каждый день узнаю что-то новое», — говорит он. «И я могу внести свой вклад в эту среду, генерировать новые идеи, а также одновременно помогать защищать конфиденциальность».

Накануне Дня защиты данных 28 января совет Мани для тех, кто беспокоится о своём цифровом следе, гораздо проще, чем системы, которые он разрабатывает: «Держитесь в тени», — говорит он, в том числе в социальных сетях и поисковых системах, что минимизирует оставленные следы в интернете. Отключите ненужные файлы cookie; не сообщайте о своем местонахождении; уменьшите площадь, на которой мир может узнать о вас.

Это та же философия, которая лежит в основе подхода Mastercard к данным: доверие строится за счёт внедрения безопасности, целостности и ответственности в механику сети — доверия, которое формируется и заслужено.