딸이 갑자기 전화를 걸어 해외 여행 중에 돈이 필요하다고 합니다. 그녀는 나중에 자세한 내용을 알려주겠다고 덧붙였습니다. 부모로서 반응하는 저는 그냥 굴복합니다.

이 가상 시나리오에서는 제너레이티브 AI로 만든 디지털 음성 복제품을 사용하여 자녀로 위장한 사기범이 내 돈을 도난당했습니다. "저런다고 내가 속겠어?"라고 생각할 수도 있습니다. 내 아이가 어떤 소리를 내는지 알아요." 하지만 이러한 디지털 트윈 중 한 명과 전화로 대화하는 경우 그 차이를 구별할 수 없을 것이라고 장담합니다. 그만큼 스푸핑 기술이 정교해졌다는 뜻입니다.

이는 차세대 AI가 빠르게 주류로 자리 잡으면서 소비자, 기업, 정부가 직면한 과제를 보여주는 한 가지 예에 불과합니다. 사이버 보안 영역에서 새로운 위협이 발생하고 있지만 기회도 생겨나고 있습니다. 한편으로, AI 세대는 복잡한 형태의 사기를 훨씬 더 저렴하고 쉽게 만들고 실행할 수 있게 만들었습니다. 한편, 마스터카드를 비롯한 기업들은 세대 AI를 사용하여 사이버 보안 도구에 더 많은 맥락적 이해를 추가함으로써 더 스마트하게 만들고, 소비자 경험을 개선하며, 이전보다 빠르게 사기에 대응하고 있습니다.

물론 인공지능 세대는 사기꾼들만 이용하는 것은 아닙니다. 그리고 저기술 솔루션이 항상 정답은 아닙니다. 오늘날 마스터카드의 팀은 디지털 세계의 보안을 개선하기 위해 차세대 AI와 AI 도구를 사용하고 있습니다.

또 다른 예로, AI의 도움으로 더욱 정교한 사기 모델을 구축할 수도 있습니다. 오늘날 많은 사기 모델은 사용자의 구매 습관과 행동을 이용해 만들어집니다. 즉, 일반적으로 필라델피아에서 하루에 100달러를 소비하는 경우 갑자기 필리핀에서 2,000달러짜리 상품을 구매하려고 하면 사기 모델로 신고될 수 있습니다.

AI 모델을 사용하면 개인 수준뿐만 아니라 보다 폭넓게 소비 습관을 이해할 수 있습니다.  도박을 한 적이 없는데 은행의 사기 시스템에 도박 비용이 신고되었다고 가정해 보겠습니다. 더 광범위한 데이터를 살펴보면 AI 시스템을 통해 특정 카지노 리조트에 머무는 많은 사람이 도박을 한다는 사실을 파악할 수 있으며, 해당 리조트에 머무는 것으로 거래 내역이 표시되므로 이 도박 비용은 더 이상 의심스러운 것으로 간주되지 않으므로 경고를 보내거나 카드를 정지할 필요가 없습니다. 이를 통해 사용자에게 더 나은 경험을 제공할 수 있습니다.

불과 몇 년 만에 인공지능 세대는 우리가 기술과 상호작용하고 코드를 작성하는 방식을 바꾸어 놓았으며, 심지어 내 딸의 전화조차도 우리가 듣거나 보는 것이 실제로 존재하는지 의심하게 만들었습니다.

AI 세대에 대한 이야기는 복잡하며 위험도 분명합니다. 하지만 저는 우리가 올바른 방향으로 이끌면 사람과 기업이 새로운 혁신의 물결을 통해 혜택을 누릴 수 있다고 믿습니다.

Adobe Stock을 통해 생성된 배너 이미지로, 제너레이티브 AI를 사용하여 제작되었습니다.