사이버 보안 인식의 달은 10월의 다른 특징인 단풍 구경이나 할로윈 사탕 폭식과 같은 매력은 없지만, 기업 리더와 소비자 모두에게 사이버 보안에 대한 접근 방식을 재평가하는 중요한 의식에 참여하도록 유도할 수 있습니다.

그리고 지난 한 해를 돌아보면 반성할 점이 많습니다. 특히 기업들은 이번 달(그리고 매달)에 스스로에게 질문을 던져야 합니다: 온라인 위협 환경은 어떻게 변화했나요? 그렇다면 귀사의 보안 관행은 이러한 변화에 발맞춰 충분히 대응하고 있나요?

인공지능은 분명 올해의 가장 큰 게임 체인저였습니다. ChatGPT와 같은 대규모 언어 모델(LLM)을 포함한 AI 도구는 공격자의 능력을 더욱 강화했습니다. 한편, 점점 더 많은 기업이 일상적인 비즈니스에 AI를 도입하면서 사이버 보안 전문가들이 새로운 영역에 대한 선례가 없는 새로운 영역을 지켜야 하는 상황에 직면하고 있습니다. 한편, 소비자는 급변하는 AI 환경의 한가운데에 놓여 있습니다.

라스베이거스에서 열린 올해 블랙햇 컨퍼런스에서 20,000명의 참석자 중 상당수가 이러한 역학 관계를 염두에 두고 있었습니다. 비즈니스 홀 바닥의 화려한 부스에서부터 강연에서 발표된 최첨단 연구 결과, 그리고 그 사이의 조용한 대화에 이르기까지 AI가 대화의 중심을 차지했습니다.

이 행사의 개막 기조연설에서 오랜 기간 사이버 보안을 연구해온 미코 히포넨은 AI를 자신의 인생에서 본 "가장 큰 기술 혁명"이라고 말하며, LLM을 사용하는 연구원들이 이미 수십 개의 제로 데이(소프트웨어나 코드에서 발견되지 않은 취약점을 뜻하는 업계 용어)를 발견했다고 언급했습니다.

하이포넨은 "연구자들이 AI로 보안 취약점을 발견하면 우리가 이를 고칠 수 있기 때문에 좋은 일입니다."라고 말합니다. "공격자가 똑같이 행동하면 끔찍한 일이죠. 그렇게 될 것입니다."

온라인 사기꾼들은 이미 LLM을 사용하여 더 설득력 있고 표적화된 피싱 이메일을 작성하고 있으며, AI 도구 없이는 할 수 없었던 것보다 훨씬 더 큰 규모로 피싱을 하고 있습니다.

기술에 익숙하지 않은 사람이라도 사기로 의심할 수 있을 정도로 잘못 작성된 일반 이메일의 시대는 지났습니다. 영어가 모국어가 아닌 사기꾼들은 이제 LLM으로 메시지를 다듬는 데 능숙합니다.

또한 해외에 주둔 중인 외로운 군인을 사칭하여 사실이라고 하기에는 너무 좋아 보이는 사업 기회를 홍보하는 사기꾼들도 AI가 채굴한 개인 정보를 뿌려 메시지를 훨씬 더 믿을 수 있게 만들고 있습니다.

또한 이메일을 넘어 소셜 미디어, 문자, 심지어 전화 통화로까지 잘 만들어진 커뮤니케이션을 전달하고 있습니다.

이와 동시에 오디오 또는 비디오 딥페이크가 포함된 사기 메시지도 증가하고 있습니다. 작년에 홍콩의 한 근로자는 최고재무책임자를 포함한 다국적 기업 관계자와의 화상 통화라고 생각한 사기범의 사기에 속아 2,500만 달러를 송금했습니다. 하지만 통화에 참여한 다른 사람들은 그 사람들의 라이브 비디오를 딥페이크한 것으로 밝혀졌습니다.

소비자들도 오디오 딥페이크 사기의 표적이 되고 있습니다. 사이버 범죄자들은 AI를 사용하여 주로 젊은 사람들의 목소리를 딥페이크한 다음, 모방한 목소리로 가족에게 전화를 걸어 납치되었거나 감옥에 갇혀 있다고 속여 돈을 갈취합니다.

이 모든 것이 기업과 소비자를 두렵게 하는 것은 당연합니다. 최근 마스터카드를 위해 전 세계 소비자 약 13,000명(미국 약 1,000명 포함)을 대상으로 실시한 설문조사에 따르면, 향후 소비자들이 가장 우려하는 사기 관련 문제 1위는 AI가 생성한 가짜 콘텐츠인 것으로 나타났습니다. 그러나 설문조사에 참여한 응답자 중 13%(% )만이 AI로 인한 위협이나 사기를 당했을 때 이를 식별할 수 있는 능력에 대해 매우 자신 있다고 답했습니다.

설문조사에 참여한 대다수의 응답자는 특히 AI 시스템이 해킹되어 악의적으로 변하는 정교한 공격, 자동화된 대규모 사이버 공격, AI가 만든 더욱 그럴듯한 피싱 이메일에 대한 우려를 언급했습니다.

불안한 소비자는 서비스를 제공하는 기업에게도 큰 문제가 될 수 있습니다. 소비자가 합법적인 회사와 거래하고 있다고 믿지 못하거나 개인 정보가 안전하다고 믿을 수 없는 경우, 다른 곳에서 비즈니스를 진행할 수 있습니다.  

현재로서는 적어도 방어자가 유리한 것으로 보입니다. 사이버 보안 기업들은 비즈니스 고객의 시스템에서 새로운 AI 요소를 보호하는 것 외에도 온라인 위협을 더 빠르고 효율적으로 차단하기 위해 자사 제품에 AI를 통합하고 있습니다.

한편, 사기꾼과 기타 사이버 범죄자들은 아직 같은 방식으로 혁신할 충분한 인센티브가 없습니다. 전문가들은 사기범들이 더 빠르게 작업하고 더 큰 규모로 성장하기 위해 AI 도구를 사용하고 있지만, 대부분 기존의 사기 수법을 개선한 버전을 고수하고 있다고 말합니다.

사이버 보안 저널리스트 출신으로 현재 발리스틱 벤처스의 벤처 파트너이자 자신의 사이버 미션 펀드인 실버 벅샷을 이끌고 있는 니콜 펄로스는 블랙햇 기조연설에서 사이버 보안 분야에서 새롭게 부상하고 있는 기술에 대해 고무적이라고 말했습니다.

그녀는 시장에 출시될 새로운 AI 기반 딥페이크 탐지 기술을 언급하며, AI가 "사이버 보안 제품 및 서비스의 대중화(" )에 도움을 주어 과거에는 감당할 수 없었던 소규모 기업도 쉽게 이용할 수 있게 되었다고 언급했습니다.

하이포넨은 현재 딥페이크 사기는 매우 드물지만, AI 기술이 점점 더 발전하고 저렴해지면서 랜섬웨어와 함께 모든 종류의 온라인 사기가 더 심해질 것으로 예상한다고 덧붙였습니다.

좋은 소식은 인공지능에 관한 한 방어자들이 앞서 나가고 있다는 점입니다.

"공격자들도 AI를 사용하고 있지만 이제 시작에 불과합니다."라고 그는 말합니다. "지금까지 AI를 이용한 공격은 매우 단순한 공격에 불과했습니다. 변화는 있겠지만 지금은 준비가 되어 있다고 말하고 싶습니다."