Skip to main content

Keamanan siber

28 Oktober 2024

 

Mengapa gen AI adalah pedang bermata dua dalam keamanan siber

Teknologi ini telah membuatnya murah dan mudah bagi penjahat untuk melakukan penipuan yang rumit - dan membantu perusahaan mendeteksinya dengan cepat.

Gambar abstrak yang menunjukkan sidik jari yang dikelilingi oleh angka.

Foto dari Adobe Stock, dibuat dengan menggunakan AI generatif.

Rohit Chauhan

Executive Vice President,

AI Fraud Solutions, Mastercard

Putri saya tiba-tiba menelepon saya dan mengatakan bahwa dia membutuhkan uang saat dia sedang dalam perjalanan ke luar negeri. Dia menambahkan bahwa dia akan memberi tahu saya rinciannya nanti. Sebagai orang tua, saya hanya bisa pasrah.

Dalam skenario hipotetis ini, uang saya sekarang telah dicuri oleh penipu yang menyamar sebagai anak saya dengan menggunakan klon suara digital yang dibuat dengan AI generatif. Anda mungkin berpikir, "Itu tidak akan membodohi saya. Saya tahu seperti apa suara anak saya sendiri." Tetapi saya jamin, jika Anda berbicara melalui telepon dengan salah satu kembaran digital ini, Anda tidak akan dapat membedakan perbedaannya. Begitulah canggihnya teknologi spoofing ini.

Ini hanyalah salah satu contoh tantangan yang dihadapi konsumen, bisnis, dan pemerintah saat generasi AI dengan cepat menjadi arus utama. Hal ini menciptakan ancaman baru di bidang keamanan siber, tetapi juga peluang. Di satu sisi, gen AI telah membuat pembuatan dan pelaksanaan bentuk-bentuk penipuan yang kompleks menjadi jauh lebih murah dan lebih mudah diakses. Di sisi lain, perusahaan, termasuk Mastercard, menggunakan gen AI untuk menambahkan lebih banyak pemahaman kontekstual ke alat keamanan siber kami, menjadikannya lebih pintar, meningkatkan pengalaman bagi konsumen, dan memerangi penipuan lebih cepat dari sebelumnya.

Cara menangkis kembaran digital

Kembaran digital dapat berupa salinan suara Anda atau kombinasi suara dan video Anda. Dalam kedua kasus tersebut, penipu dapat melatih kembarannya untuk mengatakan apa pun yang mereka inginkan.

Membuat klon digital ini dulunya sangat mahal. Saat ini, seseorang dapat mendaftar ke sejumlah layanan bertenaga AI secara online, mengunggah serangkaian rekaman suara atau video, dan membuat kembaran digital secara virtual secara gratis.

Dalam kasus lain, penipu dapat menggunakan kemampuan pembuatan teks dari gen AI untuk membuat pesan yang sangat bertarget dan dipersonalisasi dalam skala besar untuk menjangkau banyak korban melalui aplikasi perpesanan.

Dalam contoh-contoh ini, para penipu sekarang dipersenjatai dengan alat yang kuat dengan hampir tanpa biaya. Penipuan ini juga sudah terjadi. Dalam sebuah insiden besar di bulan Februari, seorang pekerja keuangan di Hong Kong ditipu untuk mengirimkan uang sebesar $25 juta kepada penipu setelah berbicara melalui panggilan konferensi video dengan kembaran digital beberapa rekan kerja, termasuk kepala keuangan perusahaan.

Implikasi serius di sini adalah bahwa ini adalah pertarungan yang tidak adil bagi kita manusia. Kita tidak bisa belajar atau beradaptasi secepat AI, tidak peduli seberapa keras kita berusaha.

Kembali ke skenario dengan putri saya, ada cara mudah untuk mengatasi penipuan ini. Kami memiliki kata sandi keluarga yang dapat kami gunakan untuk situasi seperti ini. Seorang kembaran digital tidak akan mengetahui informasi tersebut. Bahkan tanpa kata sandi bersama, Anda dapat meminta calon kembaran digital untuk mengonfirmasi informasi yang juga tidak akan diketahuinya - seperti restoran yang baru saja Anda kunjungi dengan orang yang Anda ajak bicara.

Tiba-tiba, seluruh fasad digital twin mulai runtuh, tidak peduli seberapa pintar atau seberapa cepat ia dapat mengembangkan praktiknya. Ini adalah cara agar kita dapat menghindari mencoba menjalankan perlombaan yang sama dengan AI. Sebaliknya, mari kita bersandar untuk menjadi lebih manusiawi.

Terkadang, solusi non-teknologi tinggi bisa bekerja dengan baik untuk melawan penipuan semacam itu.

Bagaimana kami menggunakan gen AI untuk memperkuat keamanan siber

Gen AI, tentu saja, tidak hanya digunakan oleh para penipu. Dan solusi berteknologi rendah tidak selalu menjadi jawabannya. Tim Mastercard saat ini menggunakan alat AI dan AI gen untuk meningkatkan keamanan dunia digital.

Dalam contoh lain, kita juga bisa membangun model penipuan yang lebih canggih dengan bantuan AI. Saat ini, banyak model penipuan yang dibuat dengan menggunakan kebiasaan dan tindakan pembelian Anda. Artinya, jika Anda biasanya menghabiskan $100 per hari di sekitar Philadelphia, model penipuan mungkin akan muncul jika Anda tiba-tiba mencoba membeli barang seharga $2.000 di Filipina.

Kita dapat menggunakan model AI untuk memahami kebiasaan belanja secara lebih luas - tidak hanya di tingkat individu.  Katakanlah Anda tidak pernah berjudi, tetapi pengeluaran untuk berjudi ditandai oleh sistem penipuan bank Anda. Dengan melihat data yang lebih luas, sistem AI dapat membantu kami mengidentifikasi bahwa banyak orang yang menginap di resor kasino tertentu berjudi - dan karena transaksi Anda menunjukkan bahwa Anda berada di resor tersebut, pengeluaran perjudian ini tidak lagi dianggap mencurigakan, sehingga kami tidak perlu mengirim peringatan atau menangguhkan kartu Anda. Hal ini menciptakan pengalaman yang lebih baik untuk Anda.

Hanya dalam beberapa tahun, gen AI telah mengubah cara kita berinteraksi dengan teknologi, menulis kode, dan bahkan membuat kita mempertanyakan apakah yang kita dengar atau lihat benar-benar nyata - bahkan panggilan dari putri saya sendiri.

Cerita tentang gen AI sangat kompleks - dan risikonya jelas. Namun saya tahu kita bisa mengarahkannya dengan cara yang tepat sehingga masyarakat dan bisnis bisa mendapatkan manfaat dari gelombang inovasi baru yang diciptakannya.

Blog

Cara memerangi kejahatan siber dengan sedikit kesiapsiagaan ala militer

Kami kekurangan hampir 4 juta pekerja keamanan siber di seluruh dunia. Waktu untuk mengisi lubang menganga ini sekarang, kata Ron Green dari Mastercard.

Baca lebih lanjut