Keamanan di era agenik

Bulan lalu, ketika Anthropic pertama kali mengumumkan Claude Mythos, model AI generatif keamanan siber barunya, hal itu menyebabkan banyak kekhawatiran dan perbincangan di komunitas keamanan siber. Mythos dilaporkan telah mengidentifikasi kerentanan baru di setiap sistem operasi dan browser web utama. Hal itu dianggap terlalu berbahaya untuk dirilis secara publik.

Jika para ahli keamanan belum memperhatikan, ini adalah contoh yang jelas dari era baru keamanan yang terpampang tepat di hadapan mereka.

Di tengah pesatnya perkembangan AI dalam beberapa tahun terakhir, siklus pengembangan teknologi kini bergerak jauh lebih cepat, sementara risikonya menjadi jauh lebih tinggi. Sistem keuangan, rantai pasokan, dan infrastruktur keamanan siber kini semuanya lebih terhubung. Miliaran perangkat lagi online. Semua dinamika ini menciptakan lanskap keamanan siber yang lebih luas dan kompleks serta menyebabkan pergeseran dari insiden yang terisolasi menjadi tekanan sistemik.

Lebih dari sebelumnya, serangan bergerak dengan kecepatan mesin. Pertahanan kini harus sama cepatnya. Organisasi harus berkembang untuk menghadapi momen ini dengan berfokus pada beberapa area utama.

Bisnis, pemerintah, dan organisasi nirlaba dari berbagai ukuran adalah bagian dari ekosistem digital global. Itu berarti kita perlu bertanggung jawab satu sama lain dan melindungi satu sama lain. Bukan hanya itu yang benar untuk dilakukan, tetapi juga mutlak diperlukan untuk mencegah penyebaran serangan. Setelah penjahat siber melanggar sistem organisasi mana pun, mereka dapat menggunakan data rahasia dan pribadi yang dicuri untuk memperluas serangan mereka.

Perusahaan besar memiliki Access mudah ke alat canggih dan tim siber besar sehingga mereka dapat menanggapi inovasi AI baru. Membuat mereka jauh lebih rentan terhadap serangan bertenaga AI. Bagi mereka yang tidak memiliki Access ke alat mutakhir atau tidak mampu membeli pertahanan mereka sendiri, pihak yang lebih besar berkewajiban untuk bertindak dan mendukung mereka. Pendekatan kolaboratif semacam itu kini lebih dibutuhkan dari sebelumnya.

Menjaga bot agar tidak masuk ke sistem kami dulunya adalah aspek krusial dari setiap perangkat keamanan. Sekarang tidak begitu sederhana.

Seiring agen AI hadir dalam hidup kita, orang-orang akan menyetujui berbagai jenis agen untuk beroperasi atas nama mereka, seperti agen perangkat lunak yang menyelesaikan tugas bisnis dan agen perdagangan yang melakukan pembelian. Ini pengembangan agen perdagangan otonom mungkin salah satu perubahan paling mendalam pada pembayaran dalam sejarah. Tim keamanan siber perlu dapat mengidentifikasi perbedaan antara agen AI yang baik dan yang berbahaya. Hal itu mungkin terjadi melalui standar dan kontrol baru, seperti Know Your Agent (KYA) untuk mengatalogkan dan melacak bot, Know Your Merchant (KYM) untuk mengklasifikasikan situs web yang sah dari yang curang, dan bahkan yang saya sebut Know Your Fraudster (KYF) — mengawasi calon musuh, menganalisis sinyal penipuan dan data intelijen ancaman, dan merespons sebelum terlambat.

Mengelola traffic bot adalah elemen baru yang krusial dalam pekerjaan keamanan ke depannya, tetapi ini bukan satu-satunya. Tim keamanan siber juga perlu bekerja lebih erat di seluruh organisasi mereka untuk memperkuat konsep “aman berdasarkan desain.” Itu berarti kami mencegah pelanggaran dengan mengidentifikasi kerentanan perangkat lunak dan perangkat keras selama proses pengodean dan pengembangan dan sebelum produk diluncurkan. Lagipula, peretas tidak dapat memanfaatkan kerentanan yang tidak ada.

Terlalu banyak organisasi masih menambal perangkat lunak mereka secara manual. Sementara itu, jumlah ancaman kredibel semakin meningkat karena model AI dapat dengan cepat menemukan lebih banyak kerentanan.

Organisasi perlu mengotomatiskan lebih banyak sistem patching mereka untuk mempercepat proses ini dan menentukan secara lebih efisien ancaman kredibel mana yang harus mereka prioritaskan untuk patching. Karena AI, waktu eksploitasi telah berkurang dari harian menjadi jam, menjadikan kebutuhan akan perubahan ini krusial.

Di luar otomatisasi patching, organisasi perlu memanfaatkan intelijen prediktif bertenaga AI dan pemantauan berkelanjutan untuk bereaksi lebih cepat terhadap ancaman.

Pelanggaran paling sering disebabkan oleh tiga masalah yang sama — kredensial yang dicuri, kerentanan yang belum ditambal, dan pengecualian — dan ini sudah terjadi selama beberapa dekade.

Meskipun banyak yang berubah karena AI, banyak proses keamanan siber dasar yang sama masih diperlukan. Hal tersebut mencakup perlindungan data yang tangguh dan rencana retensi, peninjauan sistem lama, serta mengurangi utang teknis. Ini adalah pekerjaan yang tidak glamor — hari demi hari — yang diperlukan untuk melindungi ekosistem digital.

Mythos telah memberikan pengingat penting kepada industri keamanan siber bahwa dinamika telah berubah drastis. Di era agentik yang baru ini, industri harus bergerak dari reaktif menjadi prediktif — menggunakan kolaborasi, peringatan dini, dan koordinasi yang lebih cepat — untuk tetap selangkah di depan.