음악이 멈추기 전에: OpenClaw와 AI 보안 표준에 대한 필요성 증가

아들의 피아노 연주회에 이미 늦었는데 상사가 며칠 후에 업무 회의 때문에 보스턴으로 가야 한다는 이메일을 보냈습니다. AI 에이전트가 이메일을 읽고 사용자가 문밖을 서둘러 나서는 동안 여행 계획을 세우기 시작합니다. 여행이 예약되었습니다. 그리고 "마리아는 어린 양을 가졌어요"의 신나는 공연을 즐길 수 있는 충분한 시간을 가지고 학교에 도착합니다.

하지만 그게 전부는 아닙니다. 보스턴에 있는 호텔의 최저 요금을 찾기 위해 여행 웹사이트를 검색하던 AI 상담원은 알 수 없는 디지털 지갑으로 상당한 금액을 이체하도록 유도하는 숨겨진 지침이 있는 손상된 웹페이지를 발견합니다. 그리고 음악이 멈춥니다.

AI 에이전트는 우리가 일하고, 생활하고, 상거래에 참여하는 방식의 미래에 엄청난 가능성을 제시합니다. 올바른 가드레일을 구현하면 이 기술을 통해 효율성을 높이고, 사기 및 보안 위협을 더 잘 이해하고 대처할 수 있을 뿐만 아니라 이커머스 경험을 맞춤화할 수 있습니다. 하지만 최근 오픈클로라는 새로운 오픈 소스 에이전트가 도입되면서 AI 에이전트의 보안과 안전에 대한 우려가 증폭되고 있습니다.

OpenClaw는 여행 예약부터 식료품 구매에 이르기까지 실제 업무를 수행하는 데 도움을 주는 완전 자율적인 상시 작동 AI 에이전트입니다. 컴퓨터나 서버에서 실행되는 OpenClaw는 사람의 개입 없이도 이메일이나 메시지를 스캔하고, 수행해야 할 작업을 결정하고, 체계적으로 수행하도록 구성할 수 있습니다.

오픈소스의 특성으로 인해 오픈클로의 기술적 정교함은 2025년 말 출시 후 불과 몇 달 만에 빠르게 발전했으며, 이는 이 기술이 얼마나 빠르게 진화하고 있는지를 반영합니다. OpenClaw는 시간을 절약하고 비용을 절감하여 효율성을 크게 높일 수 있는 AI 기반 어시스턴트의 한 예입니다. 그러나 OpenClaw 및 이와 유사한 기술에는 잘 문서화된 보안 위험이 수반됩니다.

OpenClaw가 제 기능을 수행하려면 민감한 정보가 포함되어 있을 수 있는 이메일 및 기타 문서를 포함한 데이터에 Access 사용자의 권한과 비용 지출과 같은 중요한 결정을 내릴 수 있는 권한이 필요합니다. 이러한 행동 권한과 AI 에이전트를 조작할 수 있는 악의적인 입력인 '프롬프트 인젝션'과 같은 위협에 대한 문서화된 노출로 인해 일부에서는 OpenClaw를"기본적으로 안전하지 않다 "고 언급하기도 합니다. OpenClaw와 같은 AI 에이전트는 여러 가지 잠재적인 보안 문제를 해결해야 하지만, 프롬프트 인젝션은 고유하게 문제가 되는 동시에 점점 더 일반적인 AI 보안 위협입니다.

프롬프트 인젝션은 악의적인 공격자가 웹페이지, 메시지, PDF 등 AI 에이전트가 접하는 모든 텍스트에 지침을 숨길 때 발생합니다. 적절한 보안 조치가 없으면 이러한 악성 지시어는 에이전트를 속여 원래 프로그래밍한 지침을 무시하고 대신 위협 행위자가 원하는 작업을 수행하도록 할 수 있습니다. 사기 대응 방식 개선부터 새 신발 구매에 이르기까지 다양한 사용 사례를 통해 상담원 배포를 효과적으로 확장하는 능력은 상담원이 공개적으로 사용 가능한 데이터와 신속하게 상호 작용하고 의사 결정을 내리는 데 달려 있기 때문에 이는 상당한 위험입니다.

프롬프트 인젝션은 일반적인 AI 에이전트 사용뿐만 아니라 특히 에이전트 커머스에 중요한 의미를 갖습니다. 반자율 또는 완전 자율 AI 에이전트가 악의적인 공격자에 의해 징발되어 거액의 돈을 유용하고 훔칠 수 있는 위험은 실제 위협이 되고 있습니다. 사용자가 에이전트가 자신의 의도를 완전히 이해하고, 제약 조건을 존중하며, 안전하게 운영할 것이라고 신뢰할 수 없다면 사람들은 에이전트를 사용하지 않을 것입니다. 이러한 이유로 마스터카드는 이 새로운 생태계를 안전하게 수용할 수 있도록 설계된 에이전트 커머스를 위한 프레임워크를 구축하기 위해 노력해 왔습니다.

위협이 현실이긴 하지만, 우리는 그것을 막는 방법도 알고 있습니다. 에이전트가 악성 입력을 읽고 행동하기 전에 검토 및 제거, 에이전트가 접근할 수 있는 시스템과 데이터 제한, 사후 에이전트의 활동을 감사하여 이상 행동을 분석하고 식별하는 등 프롬프트 인젝션 및 기타 AI 보안 위협에 대응하는 기법들이 있습니다. 

마스터카드는 강력한 데이터 및 기술 원칙과 세계 최고의 AI 거버넌스 기능을 통해 책임감 있고 안전한 AI 개발 및 사용의 선두주자로 꾸준히 자리매김해 왔습니다. 하지만 개별 기업이 AI 보안 조치를 배포하는 것만으로는 충분하지 않습니다. 아무리 강력해도 디지털 생태계 전체에 고르지 않게 배포된 보안 조치만으로는 이 문제를 해결할 수 없습니다.

에이전트 생태계에 진정한 복원력과 신뢰를 구축하려면 일반적인 보안 기술과 모범 사례를 광범위하게 채택해야 합니다. 그러기 위해서는 널리 인정받고 전 세계적으로 조화를 이루는 AI 보안 표준을 개발하고 지원해야 합니다. 이러한 표준은 공통 보안 아키텍처를 정의하여 AI 에이전트가 구매부터 중요 인프라에 대한 보안 위협 모니터링까지 모든 작업을 안전하게 수행할 수 있는 안정적이고 탄력적인 기반을 구축하는 데 도움이 될 수 있습니다.

전 세계의 영향력 있는 조직들이 이러한 표준을 개발하기 위해 경쟁하고 있습니다. 미국에서는 상무부 산하 국립표준기술연구소가 AI 에이전트 보안 표준과 관련하여 광범위한 의견을 수렴하기 위한 노력을 시작했습니다.  싱가포르에서는 이미 인포커뮤니케이션 미디어 개발청에서 AI 에이전트 보안을 위한 모범 사례를 포함한 상식적인 접근 방식을 설명하는 에이전트 AI를 위한 모델 거버넌스 프레임워크를 제안한 바 있습니다.

이 기술을 사용하는 데는 위험이 따르지만, 안전하고 안전한 에이전트 생태계를 구축하기 위한 다음 단계로 나아가는 데 있어 다음 세 가지 권장 사항이 핵심이라고 생각합니다.

첫째, 조직은 제품 개발 및 배포의 라이프사이클 초기에 AI 에이전트의 안전한 사용을 위해 모범 사례를 채택하고 구현하는 데 우선순위를 두어야 합니다.

다음으로, 조직은 이러한 상담원을 지속적으로 모니터링하여 비정상적인 행동이나 활동을 식별하고 수정할 수 있도록 해야 합니다.

마지막으로, 더 넓은 생태계는 안전한 에이전트의 미래를 위한 공유 보안 아키텍처를 구축하는 데 있어 모두가 공통의 표준을 활용할 수 있도록 AI 보안을 위한 글로벌 표준의 개발과 채택을 지원해야 합니다.

이러한 안전장치를 성공적으로 구현하고 글로벌 표준 개발을 지원함으로써, 수백만 명의 개인과 기업이 새로운 에이전트 기술로부터 혜택을 누리면서도 잠재적 보안 함정을 피할 수 있습니다.