Rekayasa privasi: Dari jejak data hingga kepercayaan digital

Sementara Mani bekerja dengan tim di seluruh bisnis — dengan pengembang produk dan perangkat lunak, ilmuwan data, pakar AI dan pengacara — ia mendekati privasi data sebagai insinyur, menemukan cara baru untuk menanamkan privasi ke dalam mesin Mastercard.

Dan, seperti yang diharapkan dari seorang insinyur, ia menggunakan metafora otomatis untuk menjelaskan perannya: "Ini semua tentang membantu tim yang benar-benar mengelola data, berbicara dengan mereka dan menerapkan kontrol," katanya. "Bayangkan tim produk sedang membangun sebuah kendaraan, dengan fitur mesin dan teknologi terbaru, dan sebagai orang yang mengutamakan privasi, saya memberikan fitur keselamatan standar, seperti sabuk pengaman dan kaca spion. Tapi terkadang itu adalah kantung udara dan pengereman antilock - sehingga semua orang terlindungi dengan lebih baik."

Setelah meninggalkan perusahaan rintisan pengujian genetik, Mani mencari tantangan baru. Dia tertarik dengan investasi Mastercard dalam teknologi privasi, terutama pekerjaannya pada anonimisasi data melalui Trūata, sebuah “kepercayaan data” berbasis di Dublin yang dimulai sebagai usaha patungan dengan IBM dan sekarang menjadi bagian terintegrasi dari sumber daya data perusahaan Mastercard. (Perjalanan 20 menit ke kantor pusat Mastercard's Purchase, New York, dari rumahnya di Westchester County juga tidak ada salahnya.)

Data pembayaran, Mani dengan cepat belajar, sangat kuat, tetapi juga unik dalam susunannya. Pada tahun 2024, Mastercard memproses 159 miliar transaksi, dan informasi itu dianonimkan dan dikumpulkan ketika dimanfaatkan untuk wawasan data. Tetapi Mastercard juga menggunakan teknik seperti tokenisasi — mengganti nomor rekening kartu kredit dengan placeholder unik — sehingga data kartu tidak dapat ditelusuri kembali ke individu jika diretas.

Ini adalah contoh kontrol privasi, yang terbagi dalam dua kategori besar. Kontrol teknis dibangun ke dalam sistem itu sendiri - seperti menghilangkan identifikasi data sebelum digunakan. Kontrol administratif bergantung pada orang dan proses, seperti melatih karyawan untuk mengenali ketika ada sesuatu yang tidak beres. Dan pada sebagian situasi, keduanya diperlukan.

Tugas Mani adalah membuat dan menyematkan kontrol ini sehingga data yang tidak teridentifikasi dapat di-Access dengan cepat dan ditangani dengan aman dan sesuai dengan sejumlah peraturan nasional dan internasional.

Sebagai contoh, pembatasan tujuan - menggunakan data hanya untuk alasan pengumpulannya - sulit untuk diterapkan. Kadang-kadang hal ini ditegakkan melalui pelatihan. Namun, semakin banyak perusahaan yang beralih ke kontrol teknis yang mencegah data digunakan untuk tujuan yang tidak sah. "Anda bisa membuat data sebagai sebuah produk," kata Mani, "dan platform ini akan mencegah Anda menggunakannya untuk tujuan lain."

Insinyur Mastercard sedang mengembangkan alat perangkat lunak untuk pembuatan profil data, memindai kumpulan data besar-besaran untuk menentukan asal, sensitivitas, dan karakteristiknya, seperti bagaimana tes darah mengungkapkan apa yang terjadi di dalam tubuh. Perusahaan juga memelihara database terpisah yang teridentifikasi dan tidak teridentifikasi, memastikan bahwa analis tidak pernah dapat meng-Access keduanya pada saat yang sama, perlindungan terhadap identifikasi ulang.

Saat ini, Mani menjelaskan, salah satu tantangan terbesar dalam privasi global adalah pelokalan data - hukum yang mengharuskan data yang berasal dari lokal tetap berada di dalam batas negara tertentu. Insinyur data sedang mengerjakan alat untuk menandai data dengan lusinan atribut yang akan memungkinkan Mastercard untuk menegakkan aturan tersebut secara otomatis. Di masa mendatang, data dapat ditandai untuk mencerminkan persyaratan kontrak dan preferensi pelanggan; memungkinkan, misalnya, pemegang rekening perbankan terbuka untuk memberikan, mencabut, atau memperbarui persetujuan terbatas waktu untuk berbagi data rekening atau transaksi dengan pihak ketiga. 

"Menerapkan kontrol dalam skala besar," katanya, "memungkinkan kami untuk menggunakan analitik dalam skala besar."

Mastercard terus mengeksplorasi teknologi perlindungan privasi lainnya, seperti data sintetis — kumpulan data buatan yang meniru data nyata tanpa koneksi ke informasi pelanggan yang mendasarinya. Data sintetis berguna untuk demo, pengujian, dan evaluasi alat pihak ketiga, meskipun Mani memperingatkan bahwa pemodel AI lebih memilih data pelatihan dunia nyata.

Apa yang disebut kamar bersih memungkinkan Mastercard dan mitranya untuk menggabungkan data sementara, menjalankan analitik dan kemudian menghapus data sesudahnya. Teknik komputasi multipihak memungkinkan perusahaan memperoleh wawasan dari kumpulan data gabungan ini tanpa berbagi informasi yang mendasarinya dengan mitra lain.

Jika privasi sudah rumit, AI mengubahnya menjadi catur tiga dimensi. Analisis tradisional mungkin mengkategorikan pemegang kartu berdasarkan seberapa sering mereka menggunakan kartu mereka. AI dapat mendeteksi pola perilaku yang rumit, sinyal yang tidak akan pernah terpikirkan oleh manusia untuk mencarinya. Kekuatan tersebut menimbulkan risiko identifikasi ulang dan apa yang disebut Mani sebagai "faktor menyeramkan".

"AI dapat menemukan semua jenis sinyal rumit yang bahkan tidak kita ketahui," katanya, mengutip sebuah kasus di mana perangkat lunak analisis data peritel besar dapat menyimpulkan bahwa seorang wanita hamil dan memperkirakan tanggal jatuh tempo mereka berdasarkan pembelian yang tampaknya tidak berbahaya seperti losion tanpa pewangi.

Tim AI Mastercard meninjau setiap kasus penggunaan dan menerapkan kontrol ketat terhadap yang disetujui. Aplikasi berisiko tinggi dihentikan sebelum mencapai produksi. Dan di dalam setiap algoritme terdapat transparansi (menunjukkan bagaimana sistem AI bekerja dan data apa yang digunakan), observabilitas (memantau perilakunya untuk menemukan dan memperbaiki masalah), serta alat untuk mendeteksi bias, sehingga orang dapat mempercayai hasilnya.  

Untuk semua kerumitan membangun kontrol privasi dalam skala global, hal yang paling disukai Mani dari pekerjaannya adalah orang-orang di sekelilingnya. "Sebagian besar karena saya bekerja dengan orang-orang yang brilian dan saya belajar sesuatu yang baru setiap hari," katanya. "Dan saya dapat berkontribusi dalam lingkungan tersebut dan menciptakan ide-ide baru serta membantu melindungi privasi pada saat yang bersamaan."

Menjelang Hari Privasi Data 28 Januari, saran Mani untuk siapa pun yang khawatir tentang jejak digital mereka sendiri jauh lebih sederhana daripada sistem yang ia rancang: "Tetaplah rendah hati," katanya, termasuk di media sosial dan mesin pencari, yang meminimalkan remah-remah yang Anda tinggalkan di dunia maya. Matikan cookie yang tidak Anda perlukan; jangan menyiarkan keberadaan Anda; kurangi luas permukaan yang dapat dipelajari dunia tentang Anda.

Ini adalah filosofi yang sama yang mendukung pendekatan Mastercard terhadap data: Kepercayaan dibangun dengan menanamkan keamanan, integritas, dan akuntabilitas ke dalam mekanisme jaringannya — kepercayaan yang direkayasa dan juga diperoleh.