Skip to main content

KEPERCAYAAN

30 Januari 2024
 

Dua optimis teknologi di persimpangan antara privasi data dan AI

   

Caroline Louveaux dari Mastercard dan Christina Montgomery dari IBM tentang lanskap privasi data yang berkembang, regulasi AI, dan kekuatan kepercayaan. 

Maggie Sieger

Contributor

Bukan rahasia lagi bahwa kecerdasan buatan memiliki potensi untuk mengubah ... segalanya. Itulah kabar baiknya. AI siap untuk melipatgandakan apa yang dapat dilakukan oleh industri, mulai dari menemukan obat baru untuk penyakit hingga menghentikan penipuan keuangan sebelum dimulai. Tetapi AI didukung oleh data, menjadikan informasi sebagai mata uang unik yang layak mendapatkan perlindungan yang kuat dan kewaspadaan yang konstan.

Baik Mastercard dan IBM telah berada di garis depan inovasi AI selama bertahun-tahun — Mastercard, misalnya, telah menggunakan AI untuk membuat alat penipuan jauh lebih akurat dan efektif, dan IBM telah menggunakannya untuk mengatasi masalah produktivitas, meningkatkan pengalaman pelanggan dan meningkatkan pendidikan.

Caroline Louveaux, petugas privasi dan tanggung jawab data Mastercard, dan Christina Montgomery, chief privacy and trust officer IBM, duduk bersama Mastercard Newsroom selama Data Privacy Week minggu lalu untuk berbagi perspektif mereka tentang lanskap privasi data yang berkembang, regulasi AI, dan kekuatan kepercayaan.

 

Pemerintah di seluruh dunia telah mencari cara untuk memastikan AI tidak melanggar privasi, membatasi peluang, atau menciptakan bias. Tahun ini, para duta besar negara Uni Eropa diharapkan untuk secara resmi mengadopsi peraturan AI komprehensif pertama di dunia. Bagaimana praktik tata kelola AI Anda sendiri membantu mempersiapkan diri untuk menghadapi regulasi?

Montgomery: Lanskap peraturan dalam ruang privasi telah meledak sejak Eropa memperkenalkan Peraturan Perlindungan Data Umum, atau GDPR, pada tahun 2018. Kami telah mendapatkan kepercayaan dari klien kami selama lebih dari 100 tahun, dan kami ingin mempertahankan kepercayaan tersebut. Kami menetapkan prinsip-prinsip seputar AI, termasuk bahwa AI harus meningkatkan kecerdasan manusia, harus transparan, dapat dijelaskan, dan adil, dan data adalah milik penciptanya.

Louveaux: Sangat menarik untuk melihat bahwa IBM dan Mastercard berada di dua industri yang berbeda tetapi kami sebenarnya memiliki posisi yang sangat mirip, termasuk apa yang menjadi inti dari tanggung jawab data dan prinsip-prinsip teknologi kami sendiri - individu memiliki data mereka sendiri. Kami percaya bahwa mereka harus mengendalikannya, memilikinya, dan mendapatkan manfaat darinya, sementara kami melindunginya.

Selain menetapkan prinsip-prinsip ini untuk memandu bagaimana Mastercard menangani data dan teknologi, kami bergabung dengan IBM sebagai pelopor dalam Data & Trust Alliance. DTA adalah konsorsium nirlaba yang terdiri dari berbagai bisnis dan institusi terkemuka di berbagai industri yang didedikasikan untuk mempelajari, mengembangkan, dan mengadopsi praktik-praktik data dan AI yang bertanggung jawab.

Montgomery: Ini adalah contoh bagaimana perusahaan kami masing-masing sangat terlibat secara eksternal dalam membantu mewujudkan kemajuan dalam bidang data tepercaya, di luar empat dinding perusahaan kami. Kami benar-benar percaya bahwa bagian dari peran kami adalah tidak hanya mengembangkan praktik dan mengadvokasi kebijakan yang konsisten dengan praktik-praktik tersebut dan menjadi penatalayan yang bertanggung jawab, tetapi juga membantu menemukan solusi bagi dunia dan membagikannya secara eksternal. Aliansi Data & Trust tengah membuat standar asal data - menetapkan standar untuk dunia, bukan hanya untuk perusahaan kami. Ini adalah tentang silsilah data dan bagaimana memiliki metodologi dan kerangka kerja yang konsisten tentang bagaimana data ditandai dan dapat melacaknya dari awal hingga akhir secara konsisten di seluruh ekosistem data. Akan menjadi sebuah perubahan besar jika kita dapat menyelaraskan standar data yang sama.

Louveaux: Jika Anda tidak memiliki cara tepercaya untuk mengatur data dan memahaminya secara real time, Anda akan berakhir dengan tambal sulam persyaratan tentang bagaimana data dapat dikumpulkan, digunakan, dan dibagikan, sehingga membuat inovasi menjadi sangat sulit.
 

 

Tolok ukur apa yang digunakan untuk mengukur keberhasilan di bidang ini?


Montgomery: Di sinilah letak tantangannya. Anda dapat melihat hal-hal seperti pelanggaran data atau seberapa cepat Anda merespons permintaan hak-hak subjek data. Di sisi AI, kami melihat kepatuhan terhadap peraturan baru (misalnya, berapa hari untuk mematuhi peraturan?), seberapa cepat kami bergerak melalui proses atau seberapa responsif kami terhadap bisnis. Tetapi banyak hal penting yang tidak dapat diukur. Bagaimana Anda mempertahankan kepercayaan merek yang sangat mapan seperti Mastercard dan IBM? Itu hal yang jauh lebih sulit untuk diukur.
 

 

Apa yang membuat Anda terjaga di malam hari dalam hal regulasi privasi data?


Louveaux: Apa pun - apakah itu benar atau tidak - yang membahayakan reputasi Mastercard membuat saya terjaga di malam hari. Karena, seperti yang kita ketahui, sekali kepercayaan dirusak, sangat sulit untuk mendapatkannya kembali.

Montgomery: Kepercayaan dibangun dalam tetesan dan hilang dalam ember. Sangat mudah untuk kehilangan kepercayaan. Dan sangat menantang untuk menjaga standar dan ekspektasi tetap tinggi dalam lanskap yang berkembang dengan cepat.
 

 

Dengan teknologi dan peraturan yang terus berkembang, Anda tidak dapat mengandalkan apa yang Anda ketahui kemarin - Anda harus menyesuaikan diri setiap hari. Jadi, dalam hal privasi data dan AI, apa yang Anda cari dalam hal talenta?


Montgomery: Menurut saya, keterampilan yang paling penting adalah memiliki pola pikir pertumbuhan. Saya masuk ke pekerjaan ini tanpa mengetahui apa itu etika AI, bukan? Tidak ada yang melakukannya. Hanya ada sekelompok kecil orang yang tahu apa itu pada saat itu. Dan siapa pun bisa mempelajarinya. Kami berada di lantai dasar, tetapi Anda harus ingin mempelajarinya, dan memang membutuhkan banyak waktu untuk terus mengikuti apa yang sedang terjadi dan menjadi bijaksana tentang hal itu.

Louveaux: Kami juga memprioritaskan keragaman dalam segala hal - disiplin ilmu, latar belakang, budaya, geografi, apa saja. Kami memiliki banyak keterlibatan dengan para pemain lokal. Penting untuk terhubung secara lokal, untuk memahami apa arti dari kebijakan AI yang baru ini, bagaimana kebijakan tersebut akan ditafsirkan, dan memiliki konteks lokal sangatlah penting. Saya rasa kita juga bisa belajar dari tim teknologi, bisnis, dan keamanan kami. Kami tidak mencoba membatasi diri pada masalah hukum dan peraturan. Jika Anda ingin menjadi ahli dalam hal ini, Anda harus memahami hal-hal lainnya, bagaimana mereka cocok dengan konteks yang lebih luas.
 

 

Peluang pertumbuhan apa yang Anda lihat di depan mata?


Louveaux: Akan ada banyak sekali tumpang tindih di antara peraturan di bidang AI, keamanan online, moderasi konten, dan ruang digital. Ketika GDPR mulai berlaku, kami menyelenggarakan lokakarya untuk pelanggan kami, karena banyak dari mereka yang mengalami kesulitan untuk memahami apa yang diharapkan. Saat ini, ketika kita menghadapi peraturan AI, akan sangat penting bagi kita untuk memahami apa yang diperlukan untuk menemukan kesamaan di antara peraturan tersebut dan membangun program dan dasar yang akan memungkinkan kita untuk mematuhi peraturan baru saat peraturan tersebut muncul, dan kemudian membantu pelanggan kita melakukan hal yang sama.

Montgomery: Saya sangat setuju dengan hal tersebut. Saya tidak pernah merasa lebih optimis tentang kemampuan kami untuk memainkan peran penting dalam masa depan perusahaan dan pembuatan kebijakan. Semua orang ingin belajar tentang AI. Para pembuat kebijakan perlu belajar tentang AI, karena jika tidak, mereka akan membuat kesalahan dalam hal rekomendasi kebijakan. Ada peluang besar bagi kami untuk memberikan dampak positif.