Saat memerangi kejahatan siber, manusia membutuhkan AI - dan AI membutuhkan manusia

Beberapa tahun yang lalu, seorang turis di Meksiko menggunakan kartu kreditnya untuk menarik uang tunai dari ATM. Ketika dia sampai di rumah dan melihat laporan kartu kreditnya, dia melihat bahwa kartu tersebut juga telah digunakan untuk membeli beberapa perhiasan. Ini aneh: Tidak hanya dia tidak membeli apa pun dengan kartu saat liburan, transaksi itu terjadi lima menit setelah penarikan ATM — di sebuah toko di sisi lain negara itu.

Untungnya, setelah meninjau kasusnya, tim di banknya setuju bahwa - meskipun alat pendeteksi penipuan AI mereka tidak menandai pembelian tersebut sebagai hal yang mencurigakan - sangat kecil kemungkinannya bahwa dia membeli perhiasan itu sendiri, jadi mereka mengembalikan uangnya. Saat mereka menggali lebih jauh, tim menentukan bahwa scammer mungkin telah mencuri informasi kartu kreditnya dari pembaca yang tersembunyi di ATM dan mengirimkannya ke kaki tangan di pantai seberang.

Kemudahan, kecepatan, dan anonimitas pembayaran modern telah memunculkan skema penipuan seperti ini dalam skala yang tidak mungkin diimbangi oleh manusia. Untungnya, mereka tidak perlu melakukannya, karena aplikasi AI sekarang memantau setiap transaksi dan mengawasi seluruh jaringan kartu dari serangan. Model AI ini memilah-milah data dengan lebih efisien daripada yang bisa dilakukan manusia.

Mastercard telah memanfaatkan AI selama bertahun-tahun untuk deteksi penipuan dan saat ini menggunakannya untuk mengamankan lebih dari 159 miliar transaksi setiap tahun, mencegah kerugian penipuan miliaran dolar. Tahun lalu, Mastercard mengakuisisi Recorded Future, yang menggunakan AI untuk menganalisis jutaan titik data setiap hari, mengidentifikasi pola dan anomali yang menandakan potensi ancaman.

Namun, seperti halnya manusia membutuhkan AI, AI juga membutuhkan manusia. Meskipun alat otomatis melakukan pekerjaan kasar, agar hasilnya berguna, pengembang harus terus menyediakan konteks kehidupan nyata - dengan mengidentifikasi jenis penipuan baru, menentukan cara mencegahnya tanpa mengganggu jaringan yang lebih besar, dan memprogram aturan baru ke dalam algoritme. Masukan dari manusia inilah yang mengubah kekuatan AI mentah menjadi kecerdasan yang relevan dan praktis.

Ketika AI dan model pembelajaran mesin tumbuh lebih kuat, tergoda untuk percaya bahwa teknologi saja dapat melampaui penjahat dunia maya saat ini, kata Johan Gerber dari Mastercard, kepala Global Security Solutions. "Namun, di balik setiap peringatan, anomali, atau transaksi yang ditandai, ada lapisan tambahan yang penting yang tidak dapat ditiru oleh algoritme: penilaian manusia. Ketika penilaian manusia digabungkan dengan AI, itulah yang membuatnya benar-benar efektif dan memastikannya tetap bertanggung jawab."

Meskipun AI dirancang untuk melihat pola-pola halus dalam rim data, AI tidak selalu dilengkapi untuk menangani outlier. Tanpa pengawasan manusia, kejadian tak terduga dapat memicu ancaman yang terlewatkan, alarm palsu, dan distorsi lainnya.

“Bahkan dengan alat canggih ini, Anda masih membutuhkan orang,” kata Vince Haulotte, direktur pengiriman pasar dalam bisnis penipuan dan pengambilan keputusan risiko Mastercard. "Anda harus menggunakan garam dan mempertimbangkan konteks untuk memastikan respons AI efektif."

Sebagai contoh, sistem AI memantau penggunaan kartu kredit wisatawan selama liburannya di Meksiko. Namun, AI membutuhkan manusia untuk memberitahunya bahwa ada sesuatu yang lucu tentang dua transaksi yang terjadi secara berurutan di sisi yang berlawanan, dan AI juga membutuhkan manusia untuk menunjukkan kepadanya bagaimana cara untuk mewaspadai kejadian serupa di masa depan.

Untuk mencegah penipuan khusus ini mempengaruhi pelanggan lain, Haulotte, yang saat itu seorang programmer yang bekerja pada platform Brighterion AI, membuat aturan baru yang akan menandai transaksi yang tidak mungkin secara geografis. Brighterion memantau transaksi kartu kredit secara real time, 24/7, dan menilai mereka berdasarkan seberapa berisiko mereka tampak; ketika transaksi ditandai sebagai berpotensi penipuan, sistem segera memberi tahu bank pengguna kartu. (Setiap bank dapat menyesuaikan ambang batas skor untuk mengambil tindakan, seperti mengirimkan peringatan atau bahkan menolak transaksi). 

Safety Net, produk Mastercard lainnya, menggunakan AI untuk memantau seluruh jaringan kartu untuk tanda-tanda serangan. Sebagai contoh, jika sebuah situs web dibanjiri dengan ribuan akun baru dalam waktu singkat, bisa jadi itu karena penipu melakukan spamming ke situs tersebut untuk menebak nomor kartu yang valid dengan cara kasar.

Tentu saja, model AI tidak mengetahui hal tersebut; model AI tidak dapat memahami detail perilaku manusia. Akibatnya, hal ini juga dapat menimbulkan tanda bahaya ketika promosi yang sukses - atau, katakanlah, Cyber Monday - menyebabkan lonjakan lalu lintas situs. Mengenali perbedaannya adalah di mana manusia berperan.

"Dengan lonjakan transaksi asli seperti itu, saya akan bermitra dengan seorang manajer akun untuk memahami apa yang sedang terjadi dan melakukan tindakan pencegahan untuk mencegah alarm palsu," ujar Brett Thomson, direktur pengembangan produk di Safety Net. "Anda harus memberikan arahan kepada AI."

Karena strategi kriminal terus berkembang, keahlian manusia juga penting untuk mengidentifikasi ancaman baru dan menentukan cara menghentikannya. Segera setelah penipu menyadari bahwa strategi mereka tidak berhasil lagi, mereka akan merancang skema baru. Namun karena AI dilatih berdasarkan data masa lalu, alat pemantauan tidak selalu dapat menemukan pola-pola baru ini dengan segera. Jadi, tergantung pada pengembang manusia untuk memperbarui dan melatih algoritme dalam permainan kucing dan tikus yang sedang berlangsung.

"Setelah kami melakukan mitigasi, mereka akan mengubah strategi mereka. Kemudian kami akan melihat strategi tersebut dan menambahkan mitigasi baru," kata Thomson. "Ini adalah proses bolak-balik yang konstan, masing-masing dari kami mengamati bagaimana reaksi satu sama lain terhadap perkembangan berikutnya."

Dinamika tanpa henti ini memastikan bahwa Thomson, Haulotte, dan rekan-rekan mereka di seluruh industri tetap menjadi pemain kunci dalam memerangi penipuan.

"Saya selalu terkejut dengan keberanian dan imajinasi para penipu," kata Haulotte. "Selalu ada tren penipuan baru, jadi kami harus terus membangun solusi baru untuk tetap menjadi yang terdepan. Pekerjaan kami tidak pernah berhenti."