Разработка систем обеспечения конфиденциальности: от отслеживания данных до цифрового доверия.

Пока Мани работает с командами по всему бизнесу — с разработчиками продуктов и программного обеспечения, дата-сайентистами, экспертами по искусственному интеллекту и юристами — он подходит к вопросам конфиденциальности данных как инженер, находя новые способы интегрировать конфиденциальность в аппаратуру Mastercard.

И, как и следовало ожидать от инженера, он использует автоматическую метафору, чтобы объяснить свою роль: «Всё дело в том, чтобы помогать командам, которые действительно управляют данными, общаются с ними и внедряют контроли», — говорит он. «Представьте, что команда производит автомобиль с новейшими двигателями и технологиями, а я, как человек по защите конфиденциальности, даю им стандартные системы безопасности, такие как ремень безопасности и боковое зеркало. Но иногда это подушка безопасности и антиблокировочная система торможения — чтобы все были лучше защищены.»

После ухода из стартапа по генетическому тестированию Мани искала новый вызов. Его заинтересовали инвестиции Mastercard в технологии конфиденциальности, особенно её работа по анонимизации данных через Trūata — дублинский «фонд данных», который начинался как совместное предприятие с IBM и теперь является неопреможной частью корпоративных ресурсов Mastercard. (20-минутная дорога до штаб-квартиры Mastercard Purchase, Нью-Йорк, из его дома в округе Уэстчестер, тоже не помешала.)

Мани быстро понял, что данные о платежах обладают невероятной ценностью, но при этом уникальны по своему составу. В 2024 году Mastercard обработала 159 миллиардов транзакций, и эта информация анонимизируется и агрегируется при использовании для анализа данных. Но Mastercard также использует такие методы, как токенизация — замена номера кредитной карты уникальным заполнителем — чтобы данные карты нельзя было отследить до конкретных лиц в случае взлома.

Это примеры контроля конфиденциальности, которые делятся на две основные категории. Технические механизмы контроля встроены в сами системы — например, деидентификация данных до их использования. Административный контроль зависит от людей и процессов, например, обучения сотрудников распознавать, когда что-то кажется неправильным. И в некоторых случаях требуется и то, и другое.

Задача Мани — создать и внедрить эти меры контроля, чтобы де-идентификационные данные могли быть быстро доступны и обработаны безопасно и в соответствии с множеством национальных и международных нормативов.

Например, ограничение цели — использование данных только по причине их сбора — сложно реализовать. Иногда это поддерживается через обучение. Однако всё чаще компании обращаются к техническим ограничениям, которые предотвращают использование данных в несанкционированных целях. «Вы можете создавать данные как продукт», — говорит Мани, — «и платформа не позволит вам использовать их для других целей.»

Инженеры Mastercard разрабатывают программные инструменты для профилирования данных, сканируя огромные массивы данных, чтобы определить их происхождение, чувствительность и характеристики, подобно тому, как анализ крови выявляет процессы, происходящие внутри организма. Компания также ведет отдельные базы данных с идентифицированными и обезличенными данными, гарантируя, что аналитики никогда не смогут получить доступ к обеим базам данных одновременно, что является защитой от повторной идентификации.

Сегодня, объясняет Мани, одной из самых больших проблем глобальной приватности является локализация данных — законы, требующие локального получения данных в пределах конкретной страны. Инженеры по данным работают над инструментами для того, чтобы маркировать данные десятками атрибутов, которые позволят Mastercard автоматически применять эти правила. В будущем данные могут быть маркированы с учетом договорных требований и предпочтений клиентов; позволяя, например, держателю открытого банковского счета выдать, отзывать или продлевать ограниченные по времени согласия на обмен данными счета или транзакций с третьими лицами. 

«Внедрение контроля в масштабе, — говорит он, — позволяет нам использовать аналитику в масштабах.»

Mastercard постоянно исследует другие технологии, сохраняющие конфиденциальность, такие как синтетические данные — искусственно сгенерированные наборы данных, имитирующие реальные данные без какой-либо связи с основной информацией клиента. Синтетические данные полезны для демонстраций, тестирования и оценки сторонних инструментов, хотя Мани предупреждает, что моделисты ИИ предпочитают реальные обучающие данные.

Так называемые «чистые комнаты» позволяют Mastercard и ее партнерам временно объединять данные, проводить аналитику, а затем удалять эти данные. Многосторонние вычислительные методы позволяют компаниям извлекать ценные аналитические данные из этих объединенных наборов данных, не делясь исходной информацией с другими партнерами.

Если проблема конфиденциальности и без того сложна, то искусственный интеллект превращает её в трёхмерные шахматы. Традиционные аналитические методы могут классифицировать держателей карт по частоте их использования. Искусственный интеллект способен распознавать сложные поведенческие модели, сигналы, на которые людям никогда бы не пришло в голову обратить внимание. Эта власть повышает риск повторной идентификации и то, что Мани называет «фактором жуткости».

«Искусственный интеллект может обнаруживать всевозможные сложные сигналы, о которых мы даже не знаем», — говорит он, приводя в пример случай, когда программное обеспечение для анализа данных крупной розничной сети смогло определить, что женщины беременны , и оценить предполагаемую дату родов на основе, казалось бы, безобидных покупок, таких как лосьон без запаха.

Команды ИИ Mastercard рассматривают каждый случай использования и применяют строгий контроль к одобренным вариантам. Приложения с высоким риском останавливаются до выхода в производство. И в каждом алгоритме встроена прозрачность (показывающая, как работает система ИИ и какие данные она использует), наблюдаемость (мониторинг поведения при поиске и решении проблем) и инструменты для выявления предвзятости, чтобы люди могли доверять результатам.  

Несмотря на всю сложность создания механизмов защиты конфиденциальности в глобальном масштабе, больше всего в своей работе Мани любит людей, которые его окружают. «Главное, что я работаю с этими блестящими людьми и каждый день узнаю что-то новое», — говорит он. «И я могу внести свой вклад в эту среду, генерировать новые идеи, а также одновременно помогать защищать конфиденциальность».

В преддверии Дня защиты персональных данных 28 января совет Мани для всех, кто беспокоится о своих цифровых следах, гораздо проще, чем системы, которые он разрабатывает: «Не привлекайте к себе лишнего внимания», — говорит он, в том числе в социальных сетях и поисковых системах, что сводит к минимуму следы, которые вы оставляете в интернете. Отключите ненужные файлы cookie; не сообщайте о своем местонахождении; уменьшите площадь, на которой мир может узнать о вас.

Это та же философия, которая лежит в основе подхода Mastercard к данным: доверие строится за счёт внедрения безопасности, целостности и ответственности в механику сети — доверия, которое формируется и заслужено.