Sebelum musik berhenti: OpenClaw dan kebutuhan yang terus meningkat akan standar keamanan AI

Anda sudah terlambat menghadiri resital piano putra Anda ketika atasan Anda mengirim email kepada Anda, memberi tahu Anda bahwa Anda harus pergi ke Boston dalam beberapa hari untuk rapat kerja. Agen AI Anda membaca email dan mulai merencanakan perjalanan untuk Anda sementara Anda berlari keluar pintu. Perjalanan sudah dipesan. Dan Anda tiba di sekolah dengan waktu yang cukup untuk menikmati penampilan yang penuh semangat dari "Mary Had a Little Lamb."

Kecuali tidak hanya itu yang terjadi. Saat menjelajahi situs web perjalanan untuk menemukan harga terbaik untuk sebuah hotel di Boston, agen AI menemukan anomali - halaman web yang rusak dengan instruksi tersembunyi yang mengarahkan agen Anda untuk mentransfer sejumlah besar uang ke dompet digital yang tidak dikenal. Dan saat itulah musik berhenti.

Agen AI memiliki janji yang sangat besar untuk masa depan cara kita bekerja, hidup, dan terlibat dalam perdagangan. Dengan penerapan pagar pembatas yang tepat, teknologi ini menghadirkan peluang untuk meningkatkan efisiensi, memahami dan memerangi penipuan dan ancaman keamanan dengan lebih baik, serta menyesuaikan pengalaman e-commerce kami. Namun, pengenalan agen sumber terbuka baru yang dikenal sebagai OpenClaw baru-baru ini telah memperkuat kekhawatiran yang sedang berlangsung seputar keamanan dan keselamatan agen AI.

OpenClaw adalah agen AI yang sepenuhnya otonom dan selalu aktif yang dapat membantu Anda menyelesaikan tugas-tugas di dunia nyata - mulai dari memesan perjalanan hingga membeli bahan makanan. OpenClaw - yang berjalan di komputer atau server Anda - dapat dikonfigurasi untuk memindai email atau pesan Anda, menentukan tugas apa yang perlu dilakukan, dan menyelesaikannya secara sistematis, semua dengan sedikit atau tanpa keterlibatan manusia.

Kecanggihan teknis OpenClaw berkembang pesat hanya dalam waktu beberapa bulan setelah diperkenalkan pada akhir tahun 2025, didorong oleh sifat open-source dan mencerminkan betapa cepatnya teknologi ini berkembang. OpenClaw adalah contoh asisten bertenaga AI yang dapat mendorong efisiensi yang signifikan, menghemat waktu dan memangkas biaya. Tetapi OpenClaw dan teknologi serupa membawa risiko keamanan yang terdokumentasi dengan baik.

Agar OpenClaw dapat melakukan apa yang dilakukannya, diperlukan izin Anda untuk Access data, termasuk email dan dokumen lain yang mungkin berisi informasi sensitif, serta wewenang untuk membuat keputusan penting, seperti menghabiskan uang. Kewenangan untuk bertindak tersebut dikombinasikan dengan paparan yang terdokumentasi terhadap ancaman seperti "injeksi cepat" - input berbahaya yang dapat memanipulasi agen AI - telah menyebabkan beberapa orang menyebut OpenClaw sebagai "tidak aman secara default." Meskipun agen AI seperti OpenClaw harus menghadapi sejumlah tantangan keamanan potensial, injeksi yang cepat adalah ancaman keamanan AI yang unik dan semakin umum.

Injeksi yang cepat terjadi ketika aktor jahat menyembunyikan instruksi di dalam teks yang akan dibaca oleh agen AI Anda - bisa jadi di halaman web, pesan, PDF, atau apa pun yang ditemuinya. Tanpa tindakan keamanan yang tepat, arahan berbahaya ini dapat mengelabui agen Anda untuk mengesampingkan instruksi apa pun yang Anda programkan sebelumnya dan, sebaliknya, melakukan apa yang diinginkan oleh pelaku ancaman. Ini adalah risiko yang signifikan karena kemampuan untuk meningkatkan penyebaran agen secara efektif dengan beragam kasus penggunaan - mulai dari meningkatkan cara kita memerangi penipuan hingga membeli sepasang sepatu baru - bergantung pada agen-agen yang dengan cepat berinteraksi dengan dan membuat keputusan terkait data yang tersedia secara publik.

Injeksi yang cepat memiliki implikasi yang signifikan - tidak hanya untuk penggunaan agen AI secara umum, tetapi juga untuk perdagangan agen secara khusus. Bahaya dari agen AI semi-otonom atau otonom sepenuhnya yang dikomandoi oleh aktor jahat, yang memungkinkan mereka untuk mengalihkan dan mencuri sejumlah besar uang, adalah ancaman nyata. Jika pengguna tidak dapat mempercayai agen untuk sepenuhnya memahami maksud mereka, menghormati batasan mereka, dan beroperasi dengan aman, orang tidak akan menggunakannya. Inilah sebabnya mengapa Mastercard telah bekerja untuk membangun kerangka kerja untuk perdagangan agen yang dirancang untuk membantu memastikan ekosistem baru ini dapat diadopsi dengan cara yang aman dan terjamin.

Meskipun ancaman itu nyata, kami juga tahu cara menghentikannya. Ada teknik yang dapat membantu memerangi injeksi cepat dan ancaman keamanan AI lainnya, termasuk meninjau dan menghapus input berbahaya sebelum agen membaca dan menindaklanjutinya, membatasi sistem dan data yang dapat diakses agen, dan mengaudit aktivitas agen setelah fakta untuk menganalisis dan mengidentifikasi perilaku anomali. 

Mastercard secara konsisten menjadi pemimpin dalam mengembangkan dan menggunakan AI secara bertanggung jawab dan aman, dengan prinsip data dan teknologi yang kuat serta fungsi tata kelola AI terkemuka di dunia. Namun, tidak cukup bagi setiap perusahaan untuk menerapkan langkah-langkah keamanan AI. Tidak peduli seberapa kuatnya, tambal sulam langkah-langkah keamanan yang diterapkan secara tidak merata di seluruh ekosistem digital kita tidak akan menyelesaikan masalah ini.

Membangun ketahanan dan kepercayaan yang nyata ke dalam ekosistem agen bergantung pada adopsi teknik keamanan umum dan praktik terbaik secara luas. Untuk melakukannya, kita perlu mengembangkan dan mendukung standar keamanan AI yang diakui secara luas dan diselaraskan secara global. Standar ini dapat membantu mendefinisikan arsitektur keamanan umum, menciptakan fondasi yang stabil dan tangguh di mana agen AI dapat dengan aman melakukan segala sesuatu mulai dari melakukan pembelian hingga memantau ancaman keamanan terhadap infrastruktur penting.

Organisasi-organisasi berpengaruh di seluruh dunia berlomba untuk mengembangkan standar-standar tersebut. Di Amerika Serikat, National Institute of Standards and Technology di bawah Departemen Perdagangan telah memulai upaya untuk mengumpulkan masukan yang luas mengenai standar keamanan agen AI.  Di Singapura, Otoritas Pengembangan Media Infocomm telah mengusulkan Kerangka Kerja Tata Kelola Model untuk AI Agen, yang menguraikan pendekatan akal sehat, termasuk praktik terbaik untuk keamanan agen AI.

Meskipun ada risiko dalam menggunakan teknologi ini, kami percaya bahwa tiga rekomendasi berikut ini adalah kunci untuk mengambil langkah selanjutnya dalam membangun ekosistem agen yang aman dan terlindungi.

Pertama, organisasi perlu memprioritaskan adopsi dan penerapan praktik terbaik untuk mengamankan penggunaan agen AI di awal siklus pengembangan dan penyebaran produk.

Selanjutnya, organisasi harus terus memantau agen-agen tersebut untuk memastikan mereka dapat mengidentifikasi dan memperbaiki tindakan atau aktivitas yang tidak biasa.

Terakhir, ekosistem yang lebih luas harus mendukung pengembangan dan adopsi standar global untuk keamanan AI guna memastikan semua orang dapat melihat standar umum dalam membangun arsitektur keamanan bersama untuk masa depan agen yang aman.

Keberhasilan menerapkan pagar pembatas ini dan mendukung pengembangan standar global dapat memastikan jutaan orang dan bisnis dapat memperoleh manfaat dari teknologi agen baru sambil menghindari potensi jebakan keamanan.