Ingeniería de la privacidad: desde rastros de datos hasta confianza digital

Aunque Mani trabaja con equipos en toda la empresa —con desarrolladores de productos y software, científicos de datos, expertos en IA y abogados—, aborda la privacidad de los datos como un ingeniero, encontrando formas novedosas de integrar la privacidad en la maquinaria de Mastercard.

Y, como cabría esperar de un ingeniero, utiliza una metáfora automotriz para explicar su función: «Se trata de ayudar a los equipos que realmente gestionan los datos, hablar con ellos e implementar los controles», dice. «Imagina que el equipo de producto está construyendo un vehículo, con el motor y las características tecnológicas más recientes, y como responsable de privacidad, les estoy dando características de seguridad estándar, como un cinturón de seguridad y un espejo retrovisor. Pero a veces es una bolsa de aire y frenos antibloqueo, para que todos estén mejor protegidos».

Después de dejar la startup de pruebas genéticas, Mani buscaba un nuevo desafío. Le intrigaba la inversión de Mastercard en tecnologías de privacidad, especialmente su trabajo en la anonimización de datos a través de Trūata, un "fideicomiso de datos" con sede en Dublín que comenzó como una empresa conjunta con IBM y ahora es una parte integrada de los recursos de datos de toda la empresa de Mastercard. (El viaje de 20 minutos a la sede de Mastercard en Purchase, Nueva York, desde su casa en el condado de Westchester tampoco vino mal).

Los datos de pagos, aprendió Mani rápidamente, son extraordinariamente poderosos, pero también únicos en su composición. En 2024, Mastercard procesó 159 000 millones de transacciones, y esa información se anonimiza y agrega cuando se aprovecha para obtener conocimientos de datos. Pero Mastercard también utiliza técnicas como la tokenización —reemplazar el número de cuenta de la tarjeta de crédito con un marcador de posición único— para que los datos de la tarjeta no puedan rastrearse hasta las personas en caso de hackeo.

Estos son ejemplos de controles de privacidad, que se dividen en dos categorías generales. Los controles técnicos están integrados en los propios sistemas —como la desidentificación de datos antes de su uso. Los controles administrativos dependen de personas y procesos, como capacitar a los empleados para reconocer cuando algo parece estar mal. Y en algunas situaciones, ambos son necesarios.

El trabajo de Mani es crear e integrar estos controles para que se pueda acceder a los datos desidentificados rápidamente y manejarlos de forma segura y en cumplimiento con una serie de regulaciones nacionales e internacionales.

Por ejemplo, la limitación de la finalidad —utilizar los datos solo por la razón para la que fueron recopilados— es difícil de implementar. A veces se aplica mediante capacitación. Cada vez más, sin embargo, las empresas están recurriendo a controles técnicos que evitan que los datos se utilicen para fines no autorizados. «Puedes crear datos como un producto», dice Mani, «y la plataforma evitaría que los uses para un propósito diferente».

Los ingenieros de Mastercard están desarrollando herramientas de software para la elaboración de perfiles de datos, escaneando conjuntos de datos masivos para determinar su origen, sensibilidad y características, de forma muy similar a como un análisis de sangre revela lo que sucede dentro del cuerpo. La empresa también mantiene bases de datos identificadas y desidentificadas por separado, asegurando que los analistas nunca puedan acceder a ambas al mismo tiempo, una salvaguarda contra la reidentificación.

Hoy, explica Mani, uno de los mayores desafíos en la privacidad global es la localización de datos: leyes que requieren que los datos derivados localmente permanezcan dentro de las fronteras de un país en particular. Los ingenieros de datos están trabajando en herramientas para etiquetar datos con docenas de atributos que permitirán a Mastercard aplicar esas reglas automáticamente. En el futuro, los datos podrán etiquetarse para reflejar los requisitos contractuales y las preferencias del cliente; lo que permitirá, por ejemplo, que un titular de cuenta de banca abierta otorgue, revoque o renueve consentimientos de tiempo limitado para compartir datos de cuenta o de transacciones con terceros. 

«Implementar los controles a escala», dice, «nos permite utilizar la analítica a escala».

Mastercard explora constantemente otras tecnologías de preservación de la privacidad, como los datos sintéticos: conjuntos de datos generados artificialmente que imitan datos reales sin ninguna conexión con la información subyacente del cliente. Los datos sintéticos son útiles para demostraciones, pruebas y evaluación de herramientas de terceros, aunque Mani advierte que los modeladores de IA prefieren datos de entrenamiento del mundo real.

Las llamadas salas limpias (clean rooms) permiten a Mastercard y a sus socios combinar datos temporalmente, ejecutar análisis y luego eliminar los datos posteriormente. Las técnicas de computación multipartita permiten a las empresas obtener información de estos conjuntos de datos combinados sin compartir la información subyacente con otros socios.

Si la privacidad ya era compleja, la IA la está convirtiendo en un ajedrez tridimensional. Los análisis tradicionales podrían categorizar a los tarjetahabientes según la frecuencia con la que usan sus tarjetas. La IA puede detectar patrones de comportamiento complejos, señales que los humanos nunca pensarían en buscar. Ese poder aumenta el riesgo de reidentificación y lo que Mani llama el “factor de incomodidad”.

«La IA podría encontrar todo tipo de señales complicadas que ni siquiera conocemos», dice, citando un caso en el que el software de análisis de datos de un importante minorista pudo inferir que las mujeres estaban embarazadas y estimar sus fechas de parto basándose en compras aparentemente inocuas como loción sin aroma.

Los equipos de IA de Mastercard revisan cada caso de uso y aplican controles estrictos a los que son aprobados. Las aplicaciones de alto riesgo se detienen antes de llegar a producción. Y en cada algoritmo se integra la transparencia (que muestra cómo funciona un sistema de IA y qué datos utiliza), la observabilidad (que monitorea cómo se comporta para encontrar y solucionar problemas) y herramientas para detectar sesgos, de modo que las personas puedan confiar en sus resultados.  

A pesar de toda la complejidad que implica crear controles de privacidad a escala global, lo que a Mani le encanta de su trabajo es la gente que lo rodea. «Principalmente que trabajo con estas personas brillantes y aprendo algo nuevo cada día», dice. «Y puedo contribuir en ese entorno, crear nuevas ideas y, al mismo tiempo, ayudar a proteger la privacidad».

En vísperas del Día de la Privacidad de los Datos, el 28 de enero, el consejo de Mani para cualquiera que esté preocupado por su propia huella digital es mucho más sencillo que los sistemas que diseña: “Mantén un perfil bajo”, dice, incluso en las redes sociales y los motores de búsqueda, lo que minimiza el rastro que dejas en línea. Desactiva las cookies que no necesites; no difundas tu ubicación; reduce la superficie de lo que el mundo puede saber sobre ti.

Es la misma filosofía que sustenta el enfoque de Mastercard sobre los datos: la confianza se construye integrando la seguridad, la integridad y la responsabilidad en la mecánica de su red; una confianza que se diseña y también se gana.