2024年10月28日
Adobe Stock提供の写真。生成AIを用いて作成。
娘が突然電話をかけてきて、海外旅行中にお金が必要だと言ってきた。彼女は後で詳細を教えてくれると言った。親として、私はただ折れてしまう。
この架空のシナリオでは、私の子供になりすました詐欺師が、生成AIで作成されたデジタル音声クローンを使って、私のお金を盗んだという設定です。あなたはこう考えているかもしれません。「そんな手には乗らないよ。」自分の子供の声がどんな声かは、私が一番よく知っています。しかし、もしあなたがこれらのデジタルツインの1つと電話で話していたとしたら、その違いを見分けることはできないでしょう。それほどまでに、このなりすまし技術は高度化しているのだ。
これは、人工知能が急速に主流となるにつれて、消費者、企業、政府が現在直面している課題の一例にすぎません。これはサイバーセキュリティ分野において新たな脅威を生み出す一方で、機会も生み出している。一方で、人工知能の発展により、複雑な形態の詐欺行為の作成と実行がはるかに安価で容易になった。一方、マスターカードをはじめとする企業は、次世代AIを活用してサイバーセキュリティツールに文脈理解能力を付加し、ツールをよりスマートにすることで、消費者の利便性を向上させ、これまで以上に迅速に不正行為と闘えるようにしている。
デジタルツインとは、あなたの声のコピーであったり、あなたの声とあなたの動画を組み合わせたものであったりします。どちらの場合も、詐欺師はこの双子に、自分たちの言いたいことを何でも言わせるように仕込むことができる。
こうしたデジタルクローンを作成するのは、かつては非常に費用がかかった。今日では、誰でもオンラインで数多くのAI搭載サービスに登録し、一連の音声録音や動画をアップロードするだけで、無料で仮想的なデジタルツインを作成することができる。
また、詐欺師は、生成AIのテキスト生成機能を利用して、高度にターゲットを絞ったパーソナライズされたメッセージを大規模に作成し、メッセージングアプリを通じて多くの被害者に届ける可能性がある。
これらの例から、詐欺師たちはほぼ無料で強力なツールを手に入れたことがわかる。こうした詐欺行為は既に発生している。2月に発生した重大な事件では、香港の金融関係の従業員が、会社の最高財務責任者を含む複数の同僚のデジタルツインとビデオ会議で会話した後、詐欺師に騙されて2500万ドルを送金してしまった。
ここでの深刻な意味合いは、これは私たち人間にとって不公平な戦いだということだ。どんなに努力しても、私たちはAIほど速く学習したり適応したりすることはできない。
娘の件に戻りますが、この欺瞞に対処する簡単な方法があります。私たちは、こういった状況で使用できる家族共通のパスワードを持っています。デジタルツインはその情報を知る由もないだろう。パスワードを共有していなくても、潜在的なデジタルツインに、あなたが話している相手と最近行ったレストランなど、デジタルツイン自身も知らない情報を確認するよう求めることができます。
突然、デジタルツインの見かけ上の姿全体が崩れ始める。それがどれほど巧妙であろうと、どれほど迅速にその手法を進化させようとも関係ない。こうすれば、AIと同じレースを走ろうとするのを避けることができる。そうではなく、もっと人間らしくあろう。
場合によっては、ハイテク技術を使わない解決策でも、こうした不正行為に対抗するのに十分効果的な場合がある。
もちろん、ジェネレーションAIは詐欺師だけが利用しているわけではない。そして、ローテクな解決策が常に正解とは限らない。現在、マスターカードの各チームは、デジタル世界のセキュリティを向上させるために、次世代AIとAIツールを活用しています。
別の例として、AIの助けを借りて、より高度な不正検出モデルを構築することも可能です。今日、多くの不正行為モデルは、あなたの購買習慣や行動に基づいて構築されています。つまり、普段フィラデルフィア周辺で1日に100ドルを使っている人が、突然フィリピンで2000ドルの商品を購入しようとした場合、不正利用モデルがそれを検知する可能性があるということだ。
AIモデルを使えば、個人レベルだけでなく、より広範な消費習慣を理解することができる。仮にあなたがギャンブルを全くしないとしても、ギャンブル関連の支出が銀行の不正利用検知システムによって不正利用として検出されたとしましょう。より広範なデータに着目することで、AIシステムは特定のカジノリゾートに滞在する多くの人がギャンブルをしていることを特定するのに役立ちます。そして、あなたの取引履歴からあなたがそのリゾートに滞在していることが分かるため、このギャンブル支出はもはや不審なものとは見なされず、警告を発したりカードを停止したりする必要がなくなります。そうすることで、あなたにとってより良い体験が生まれます。
わずか数年の間に、人工知能は私たちがテクノロジーとどのように関わり、コードを書くかを変え、さらには私たちが聞いたり見たりしているものが本当に現実なのかどうかを疑うようにさえさせてきました。それは、私の娘からの電話でさえもです。
世代交代型AIに関する話は複雑であり、リスクは明白だ。しかし、私たちはそれを正しい方向に導くことができると確信しています。そうすれば、人々や企業は、それが生み出す新たなイノベーションの波から恩恵を受けることができるでしょう。
