Menghadapi era baru risiko dan tanggung jawab digital di Davos

Jika fragmentasi geopolitik menjadi tajuk utama dalam pertemuan tahunan Forum Ekonomi Dunia di Davos tahun ini, akselerasi AI yang cepat - yang menjanjikan sekaligus berisiko - dan meningkatnya kerentanan siber muncul sebagai garis besar.

Percakapan di antara para CEO, ekonom, ahli teknologi, dan pembuat kebijakan mengungkapkan bahwa risiko siber sistemik dan tata kelola AI yang masih terus berkembang semakin terkait dengan tatanan dunia yang lebih kompetitif.

Serangan keamanan siber khususnya menimbulkan kerugian finansial yang sangat besar bagi bisnis yang menjadi korban dan ekonomi nasional, menurut survei keamanan siber WEF terbaru yang dirilis sebelum Davos. Dengan mengukur kerugian rata-rata serangan siber terhadap bisnis individu di Inggris, kejahatan siber merugikan ekonomi hampir $20 miliar, kata laporan tersebut. Mengurangi insiden siber yang besar dapat meningkatkan PDB per kapita sebesar 1,5% dalam satu dekade, menurut Bank Dunia. 

Penjahat siber tidak mengenal batas, sehingga koordinasi yang lebih besar dan intelijen bersama di antara negara-negara dan antara pemerintah dan sektor privasi diperlukan untuk memperkuat ketahanan siber, demikian ungkap para ahli di panel Davos "Realitas nyata ancaman siber."

"Kegiatan penegakan hukum tradisional tidak dapat diterima lagi," kata Catherine De Bolle, direktur eksekutif Europol. "Ini tidak cukup untuk masa depan ... Kita perlu menghormati batas-batas dari berbagai lembaga yang berbeda, tetapi jika kita tidak menggabungkan informasi dan intelijen untuk mengatasi hal itu, kita tidak akan pernah memenangkan pertempuran."

Kecepatan juga merupakan masalah penting karena AI meningkatkan serangan. “Masalahnya adalah, jika seorang peserta diserang dan kemudian berbagi, itu sudah terjadi,” kata CEO Mastercard Michael Miebach dalam diskusi yang sama. "Kita harus melakukan prediksi... Bahkan jika itu adalah reaksi terbaik, itu sudah terlambat. Jadi, apa yang bisa saya lakukan untuk menangkap sinyal lebih awal?" 

Pada tahun 2024, Mastercard mengakuisisi perusahaan intelijen ancaman terbesar di dunia, Recorded Fut ure, untuk membantu pelanggannya menjadi proaktif, bukan reaktif. "Tidak ada yang bisa mengatasi masalah ini. Anda tidak bisa bertahan terhadap segala hal. Jika tidak dipimpin oleh intelijen, Anda akan kalah."

Dalam survei WEF, 87% CEO mengidentifikasi kerentanan terkait AI sebagai risiko siber yang tumbuh paling cepat dalam setahun terakhir, tetapi juga menyebut AI sangat diperlukan sebagai perisai, memberikan deteksi ancaman yang lebih tajam dan kemampuan pemantauan anomali.

Dukungan terhadap masa depan AI sangat beragam, mulai dari prediksi CEO Tesla Elon Musk bahwa AI (dan robot) akan menciptakan jalan "menuju kelimpahan untuk semua" hingga peringatan sejarawan Yuval Noah Harari bahwa kita harus bersikap lebih rendah hati terhadap otonomi AI. "Kami rasa kami tahu bagaimana cara membangunnya," katanya. "Bagaimana kita membangun mekanisme koreksi diri sehingga jika kita mengambil taruhan yang salah, ini bukanlah akhir dari segalanya?"

Munculnya agen AI, yang dapat membuat keputusan dan melaksanakan tugas, dengan atau tanpa kontrol, juga menimbulkan kekhawatiran akan ketahanan siber di tahun-tahun mendatang.

"Kami tahu bagaimana mengamankan manusia dan infrastruktur, dan saya pikir kami sedang membangun alat untuk mengamankan non-manusia. Masalahnya adalah interoperabilitas, "kata Nadav Zafrir, CEO Check Point Software Teknologi, di panel "Pembela dunia maya di era AI." "Beberapa tahun ke depan akan menjadi kacau karena interoperabilitas... Kami memperkenalkan kemampuan baru jauh lebih cepat daripada kami memahami apa yang dapat mereka lakukan dan ke mana arahnya."

Ketika sistem AI semakin menempati dan berinteraksi dengan dunia nyata, model baru tanpa kepercayaan, pemantauan waktu nyata, dan pertahanan yang lebih proaktif di antara manusia dan mesin diperlukan agar manfaat AI tidak melampaui batas-batasnya, banyak panelis yang setuju.

“Sebagai ekosistem, semua pemain harus bersatu,” kata Ling Hai, presiden Mastercard untuk Asia Pasifik, Eropa, Timur Tengah & Afrika, dalam sebuah wawancara dengan MoneyControl, platform berita keuangan India. "Kita harus tetap berada di depan dalam hal ini, dan kita harus menggunakan AI untuk benar-benar melawan kasus-kasus yang akan sangat merugikan konsumen. Jika Anda berpikir tentang pembayaran, kepercayaan sangatlah penting. Dibutuhkan waktu puluhan tahun untuk membangun kepercayaan tersebut. Sekali Anda kehilangan kepercayaan, orang tidak akan menggunakan layanan Anda lagi."