2026年3月3日
息子のピアノ発表会に遅刻しそうな時に、上司からメールが届き、数日後にボストンでの仕事の会議に出席する必要があると告げられる。AIエージェントがメールを読み、あなたが慌てて家を出る間に旅行の計画を始めます。旅行の予約は済んでいます。そして学校に到着すると、ちょうど「メリーさんのひつじ」の活気あふれる演奏を楽しむのに十分な時間がある。
しかし、それだけではない。ボストンのホテルの最安値を探すために旅行ウェブサイトをくまなく調べていたAIエージェントは、異常な事態に遭遇する。それは、エージェントに多額の資金を未知のデジタルウォレットに送金するよう指示する隠された指示が書かれた、破損したウェブページだった。そして、そこで音楽が止まる。
AIエージェントは、私たちの働き方、暮らし方、そして商取引のあり方を未来へと大きく変える可能性を秘めている。適切な安全対策を講じることで、この技術は効率性の向上、不正行為やセキュリティ上の脅威の理解と対策の強化、そしてeコマース体験のカスタマイズといった機会をもたらします。しかし、最近登場したOpenClawという新しいオープンソースのエージェントは、AIエージェントのセキュリティと安全性に関する懸念をさらに増幅させている。
OpenClawは、旅行の予約から食料品の購入まで、現実世界の様々なタスクをこなすのに役立つ、完全自律型で常時稼働のAIエージェントです。OpenClawは、コンピュータまたはサーバー上で動作し、メールやメッセージをスキャンして、実行する必要のあるタスクを特定し、それらを体系的に実行するように設定できます。これらすべてを、人間の介入をほとんど、あるいは全く必要とせずに実行できます。
OpenClawの技術的な高度化は、2025年後半の導入からわずか数ヶ月で急速に進んだ。これは、オープンソースという性質によるものであり、この技術がいかに急速に進化しているかを反映している。OpenClawは、AIを活用したアシスタントの一例であり、大幅な効率化を実現し、時間とコストを削減できる可能性を秘めている。しかし、OpenClawや類似の技術には、十分に立証されているセキュリティリスクが伴う。
OpenClawがその機能を果たすためには、電子メールや機密情報を含む可能性のあるその他の文書などのデータにアクセスするための許可、および支出などの重要な決定を行う権限が必要です。その権限行使に加え、「プロンプトインジェクション」（AIエージェントを操作できる悪意のある入力）のような脅威にさらされてきたことが記録されていることから、OpenClawは「デフォルトで安全ではない」と評されることもある。OpenClawのようなAIエージェントは数多くの潜在的なセキュリティ上の課題に対処しなければならないが、即時インジェクションは特に厄介で、ますます一般的になっているAIセキュリティ上の脅威である。
プロンプトインジェクションとは、悪意のある攻撃者が、AIエージェントが読み取るテキスト（ウェブページ、メッセージ、PDFなど、エージェントが遭遇するあらゆるもの）の中に指示を隠蔽する行為です。適切なセキュリティ対策が講じられていない場合、これらの悪意のある指示によって、エージェントは本来プログラムされた指示を無視し、攻撃者の意図する動作を実行してしまう可能性があります。これは重大なリスクである。なぜなら、不正対策の強化から新しい靴の購入まで、多様なユースケースに対応してエージェントの展開を効果的に拡大できるかどうかは、エージェントが公開されているデータと迅速にやり取りし、それに関する意思決定を行えるかどうかにかかっているからだ。
迅速な注入は、AIエージェント全般の利用だけでなく、特にエージェントによる商取引において、重大な意味を持つ。半自律型または完全自律型のAIエージェントが悪意のある人物によって乗っ取られ、多額の資金を不正に流用・窃盗される危険性は、現実的な脅威である。ユーザーがエージェントが自分の意図を完全に理解し、制約を尊重し、安全に動作すると信頼できない場合、人々はそのエージェントを利用しないだろう。だからこそ、Mastercardは、この新しいエコシステムが安全かつ確実に受け入れられるよう支援することを目的とした、エージェント型商取引のためのフレームワークの構築に取り組んできたのです。
脅威は確かに存在するが、我々はそれを阻止する方法も知っている。エージェントが悪意のある入力を読み取って処理する前に、それをレビューして削除する、エージェントがアクセスできるシステムとデータを制限する、事後にエージェントの活動を監査して異常な動作を分析および特定するなど、即時インジェクションやその他のAIセキュリティ脅威に対処するのに役立つ技術があります。
Mastercardは、強力なデータおよびテクノロジー原則と世界をリードするAIガバナンス機能を備え、責任ある安全なAIの開発と利用において一貫してリーダーシップを発揮してきました。しかし、個々の企業がAIセキュリティ対策を導入するだけでは十分ではない。どんなに堅牢なセキュリティ対策であっても、デジタルエコシステム全体に不均一に展開された寄せ集めの対策では、この問題は解決しないだろう。
エージェントエコシステムに真の回復力と信頼性を構築するには、共通のセキュリティ技術とベストプラクティスが広く採用されることが不可欠です。そのためには、広く認知され、世界的に調和のとれたAIセキュリティ標準を開発し、支援する必要がある。これらの標準規格は、共通のセキュリティアーキテクチャを定義するのに役立ち、AIエージェントが購入から重要インフラに対するセキュリティ脅威の監視まで、あらゆることを安全に実行できる、安定した強固な基盤を構築する。
世界中の影響力のある組織が、これらの基準を策定しようと競い合っている。米国では、商務省傘下の国立標準技術研究所が、 AIエージェントのセキュリティ基準に関する幅広い意見を収集する取り組みを開始した。シンガポールでは、情報通信メディア開発庁が既にエージェント型AIのためのモデルガバナンスフレームワークを提案しており、 AIエージェントのセキュリティに関するベストプラクティスを含む、常識的なアプローチの概要を示している。
この技術の利用にはリスクが伴いますが、安全でセキュアなエージェントエコシステムを構築するための次のステップに進むにあたり、以下の3つの提言が重要だと考えています。
まず、組織は、製品開発および展開のライフサイクルの早い段階で、AIエージェントの利用を確保するためのベストプラクティスの採用と実施を優先する必要があります。
次に、組織はこれらのエージェントを継続的に監視し、異常な行動や活動を特定して修正できるようにする必要があります。
最後に、より広範なエコシステムは、AIセキュリティに関するグローバル標準の開発と採用を支援し、誰もが共通の標準を参照しながら、安全なエージェントの未来に向けた共通のセキュリティアーキテクチャを構築できるようにする必要がある。
これらの安全策を適切に実施し、グローバル標準の策定を支援することで、何百万人もの人々や企業が、潜在的なセキュリティ上の落とし穴を回避しながら、新しいエージェント技術の恩恵を受けることができるようになる。
