에이전틱 시대의 보안

지난달 Anthropic이 새로운 사이버 보안 생성형 AI 모델인 Claude Mythos를 처음 발표했을 때, 사이버 보안 커뮤니티에서 많은 우려와 논의를 불러일으켰습니다. Mythos는 모든 주요 운영 체제와 웹 브라우저에서 새로운 취약점을 식별한 것으로 보고되었습니다. 대중에게 공개하기에는 너무 위험하다고 간주되었습니다.

보안 전문가들이 이미 주목하지 않고 있었다면, 이것은 새로운 보안 시대가 그들을 똑바로 마주하고 있다는 명확한 예시였다.

최근 몇 년간 AI 붐이 일면서, 기술 개발 주기는 훨씬 더 빠르게 진행되고 있으며, 위험성은 훨씬 더 커졌습니다. 금융 시스템, 공급망, 사이버 보안 인프라가 이제 모두 더 밀접하게 연결되었습니다. 수십억 개의 더 많은 기기가 온라인에 연결되어 있습니다. 이러한 모든 역학 관계는 더 광범위하고 복잡한 사이버 보안 전장을 만들고 있으며, 개별적인 사건들에서 시스템적인 압력으로의 전환을 야기하고 있습니다.

그 어느 때보다, 공격은 기계 속도로 진행되고 있습니다. 이제 방어 체계도 그만큼 빨라야 합니다. 조직은 몇 가지 핵심 영역에 집중하여 이 순간에 맞춰 진화해야 합니다.

모든 규모의 기업, 정부 및 비영리 단체는 글로벌 디지털 에코시스템의 일부입니다. 이는 우리가 서로에게 책임을 지고 서로를 보호해야 한다는 것을 의미합니다. 단순히 옳은 일일 뿐만 아니라, 공격이 확산되는 것을 막기 위해 이는 절대적으로 필요합니다. 사이버 범죄자들이 일단 조직의 시스템에 침투하면, 도난당한 기밀 개인 데이터를 사용하여 공격 범위를 확대할 수 있습니다.

대기업들은 정교한 도구와 대규모 사이버 팀에 쉽게 접근할 수 있어서 새로운 AI 혁신에 대응할 수 있습니다. 규모가 작은 조직은 그렇지 않으므로 AI 기반 공격에 훨씬 더 취약합니다. 최첨단 도구를 이용할 수 없거나 자체적인 방어 수단을 마련할 여력이 없는 이들을 위해, 대기업이 적극적으로 나서서 지원해야 합니다. 그러한 협력적 접근방식 이 이제 그 어느 때보다 더 필요합니다.

당사 시스템에서 봇을 차단하는 것은 어떤 보안 체계에서든 당연한 부분으로 간주되었습니다. 이제 그렇게 간단하지 않습니다.

AI 에이전트가 우리 삶에 등장하면서, 사람들은 자신을 대신하여 작동하는 다양한 종류의 에이전트에 동의할 것입니다. 예를 들어, 비즈니스 작업을 완료하는 소프트웨어 에이전트 및 구매를 진행하는 커머스 에이전트와 같습니다. 이 자율 커머스 에이전트의 발전 은 역사상 결제 방식에 있어 가장 심오한 변화 중 하나일 것입니다. 사이버 보안 팀은 선량한 AI 에이전트와 유해한 에이전트의 차이점을 식별할 수 있어야 합니다. 이는 봇을 분류하고 추적하는 Know Your Agent(KYA), 사기성 웹사이트와 합법적인 웹사이트를 구별하는 Know Your Merchant(KYM), 심지어 제가 Know Your Fraudster(KYF)라고 부르는 것과 같은 새로운 표준과 통제를 통해 가능합니다 — 잠재적 공격자를 주시하고, 사기 신호 및 위협 인텔리전스 데이터를 분석하여 너무 늦기 전에 대응하는 것입니다.

봇 트래픽 관리는 앞으로 보안 업무의 중요한 새로운 요소이지만, 결코 유일한 요소는 아닙니다. 사이버 보안 팀은 조직 전체에서 더욱 긴밀하게 협력하여 ‘보안을 고려한 설계.’라는 개념을 강화해야 합니다. 이는 제품 출시 전 코딩 및 개발 프로세스 중 소프트웨어 및 하드웨어 취약점을 식별하여 침해를 방지함을 의미합니다. 결국, 해커는 존재하지 않는 취약점을 악용할 수 없습니다.

너무 많은 조직이 여전히 소프트웨어를 수작업으로 패치합니다. 한편, AI 모델이 더 많은 취약점을 빠르게 찾을 수 있게 되면서 신뢰할 수 있는 위협의 수가 증가하고 있습니다.

조직은 이 프로세스의 속도를 높이고 패치할 신뢰할 수 있는 위협을 더 효율적으로 결정하기 위해 패치 시스템 자동화 수준을 높여야 합니다. AI로 인해 익스플로잇 소요 시간이 수일에서 수시간으로 단축되어, 이러한 변화의 필요성이 매우 커졌습니다.

자동화된 패치 적용을 넘어, 조직들은 AI 기반 예측 인텔리전스 및 지속적인 모니터링을 적극적으로 활용하여 위협에 더 빠르게 대응해야 할 것입니다.

침해 사고는 도난당한 자격 증명, 패치되지 않은 취약점, 예외 사항의 세 가지 동일한 문제로 인해 주로 발생하며, 이러한 상황은 수십 년 동안 이어져 왔습니다.

AI로 인해 많은 것이 변화하고 있지만, 동일한 기본적인 사이버 보안 프로세스 중 다수가 필요합니다. 여기에는 강력한 데이터 보호 및 보존 계획, 레거시 시스템 검토, 기술 부채 감소가 포함됩니다. 이것은 디지털 생태계를 보호하는 데 필수적인, 매일 묵묵히 수행되는 겉으로는 화려하지 않은 일입니다.

Mythos는 사이버 보안 업계에 역학 관계가 급변했다는 중요한 경각심을 주었습니다. 이 새로운 에이전틱 시대에 산업은 사후 대응 방식에서 예측적 방식으로 전환하여 협업, 조기 경고 및 더 빠른 조정을 통해 한 발 앞서 나가야 합니다.