주 컨텐츠로 이동

신뢰

2024년 1월 30일
 

데이터 프라이버시와 AI의 교차점에 대한 두 명의 기술 낙관론자

   

마스터카드의 캐롤라인 루보와 IBM의 크리스티나 몽고메리가 데이터 프라이버시, AI 규제, 신뢰의 힘의 진화하는 환경에 대해 이야기합니다. 

매기 시거

기여자

인공 지능이 모든 것을 변화시킬 잠재력을 가지고 있다는 것은 비밀이 아닙니다. 좋은 소식입니다. AI는 질병에 대한 새로운 치료법을 찾는 것부터 금융 사기를 사전에 차단하는 것까지 산업계가 할 수 있는 일을 배가시킬 준비가 되어 있습니다. 하지만 AI는 데이터에 기반하기 때문에 정보는 강력한 보호 장치와 지속적인 경계가 필요한 고유한 통화입니다.

마스터카드와 IBM은 수년 동안 AI 혁신의 선두에 서 왔으며, 예를 들어 마스터카드는 AI를 사용하여 사기 도구를 훨씬 더 정확하고 효과적으로 만들어 왔고, IBM은 생산성 문제를 해결 하고 고객 경험을 강화하며 교육을 개선하는 데 AI를 사용해 왔습니다.

마스터카드의 개인정보 보호 및 데이터 책임 책임자인 캐롤라인 루보와 IBM의 최고 개인정보 보호 및 신뢰 책임자인 크리스티나 몽고메리는 지난주 데이터 개인정보 보호 주간에 마스터카드 뉴스룸과 함께 데이터 개인정보 보호, AI 규제 및 신뢰의 힘에 대한 진화하는 환경에 대한 관점을 공유했습니다.

 

전 세계 각국 정부는 AI가 사생활을 침해하거나 기회를 제한하거나 편견을 만들지 않도록 하는 방법을 모색하고 있습니다. 올해 EU 각국 대사들은 세계 최초의 포괄적인 AI 규정을 공식적으로 채택할 것으로 예상됩니다. 귀사의 AI 거버넌스 관행이 규제에 대비하는 데 어떻게 도움이 되나요?

몽고메리: 2018년 유럽에서 일반 개인정보 보호 규정(GDPR)을 도입한 이후 개인정보 보호 분야의 규제 환경이 폭발적으로 변화했습니다. 100년이 넘는 시간 동안 고객의 신뢰를 받아왔으며, 앞으로도 그 신뢰를 유지하고자 합니다. 우리는 AI가 인간의 지능을 증강해야 하고, 투명하고 설명 가능하며 공정해야 하며, 데이터는 제작자의 소유라는 원칙을 세웠습니다.

루보: IBM과 마스터카드는 서로 다른 산업에 속해 있지만, 데이터 책임과 기술 원칙의 핵심인 개인이 자신의 데이터를 소유한다는 점에서 매우 유사한 입장을 취하고 있다는 점이 흥미롭습니다. 우리는 그들이 그것을 통제하고 소유하며 우리가 그것을 보호하는 동안 혜택을 누려야 한다고 믿습니다.

마스터카드는 이러한 원칙을 수립하여 데이터와 기술을 처리하는 방법을 안내하는 한편, 데이터 & 신뢰 연합의 선구자로서 IBM에 가입했습니다. DTA는 여러 산업 분야의 선도적인 기업과 기관으로 구성된 비영리 컨소시엄으로, 책임감 있는 데이터 및 AI 관행을 학습, 개발 및 채택하는 데 전념하고 있습니다.

몽고메리: 각 회사가 회사 내부를 넘어 신뢰할 수 있는 데이터의 영역에서 진전을 이루기 위해 어떻게 외부와 협력하고 있는지를 보여주는 사례입니다. 저희의 역할 중 하나는 관행을 개발하고 그러한 관행에 부합하는 정책을 옹호하며 책임 있는 청지기가 되는 것뿐만 아니라 세상을 위한 솔루션을 찾고 이를 외부에 공유하는 것이라고 믿습니다. 데이터 & 트러스트 얼라이언스는 데이터 출처 증명 표준을 만드는 중이며, 우리 회사뿐만 아니라 전 세계를 위한 표준을 수립하고 있습니다. 데이터 계보와 데이터에 태그를 지정하는 방법에 대한 방법론과 일관된 프레임워크를 갖추고 데이터 에코시스템 전체에서 처음부터 끝까지 일관되게 추적할 수 있는 방법에 관한 것입니다. 공통의 데이터 표준에 맞춰 조정할 수 있다면 업계의 판도를 바꿀 수 있을 것입니다.

루보: 데이터를 정리하고 실시간으로 파악할 수 있는 신뢰할 수 있는 방법이 없다면 데이터를 수집, 사용, 공유하는 방법에 대한 요구사항이 뒤죽박죽이 되어 혁신을 어렵게 만들 수 있습니다.
 

 

이 영역에서 성공을 측정하기 위해 어떤 벤치마크를 사용하나요?


몽고메리: 여기서부터 조금 어려워집니다. 데이터 유출이나 데이터 주체 권리 요청에 얼마나 신속하게 대응하고 있는지 등을 살펴볼 수 있습니다. AI 측면에서는 새로운 규정을 준수하는지(예: 규정 준수까지 며칠이 걸리는지), 프로세스를 얼마나 신속하게 진행하고 있는지, 비즈니스에 얼마나 신속하게 대응하고 있는지 등을 살펴봅니다. 그러나 중요한 것의 대부분은 측정할 수 없습니다. 마스터카드나 IBM과 같이 잘 알려진 브랜드의 신뢰를 어떻게 유지할 수 있을까요? 그것은 측정하기 훨씬 더 어려운 일입니다.
 

 

데이터 개인정보 보호 규정과 관련하여 밤잠을 설치게 하는 요인은 무엇인가요?


루보: 사실 여부와 상관없이 마스터카드의 명성을 위험에 빠뜨리는 모든 것이 저를 밤잠 못 이루게 합니다. 아시다시피 신뢰는 한번 훼손되면 다시 회복하기가 정말 어렵습니다.

몽고메리: 신뢰는 한 방울 한 방울 쌓이고 버킷에서 사라집니다. 신뢰를 잃는 것은 정말 쉽습니다. 특히 이렇게 빠르게 진화하는 환경에서 표준과 기대치를 높게 유지하는 것은 매우 어려운 일입니다.
 

 

기술과 규정이 끊임없이 진화하고 있기 때문에 어제의 지식에 의존할 수 없으며, 매일매일 적응해야 합니다. 그렇다면 데이터 프라이버시 및 AI와 관련하여 어떤 인재를 원하시나요?


몽고메리: 저는 성장 마인드를 갖는 것이 가장 중요한 기술이라고 생각합니다. 저는 AI 윤리가 뭔지도 모르고 이 일을 시작했죠? 아무도 하지 않았습니다. 당시에는 이것이 무엇인지 아는 소수의 사람들만 알고 있었습니다. 따라서 누구나 쉽게 배울 수 있습니다. 하지만 배우고 싶다는 의지가 있어야 하며, 지속적으로 최신 정보를 파악하고 신중하게 생각하려면 많은 시간이 걸립니다.

루보: 우리는 또한 학문, 배경, 문화, 지리 등 모든 것의 다양성을 우선시합니다. 저희는 현지 플레이어들과 많은 소통을 하고 있습니다. 새로운 AI 정책이 무엇을 의미하는지, 어떻게 해석될 것인지 이해하려면 현지에 연결되는 것이 중요하며, 현지의 맥락을 파악하는 것이 매우 중요합니다. 기술, 비즈니스, 보안 팀으로부터도 배울 수 있다고 생각합니다. 저희는 법률 및 규제 문제에 국한하지 않습니다. 이를 잘하려면 나머지 부분을 이해하고 더 넓은 맥락에 어떻게 부합하는지 이해해야 합니다.
 

 

앞으로 어떤 성장 기회가 있을 것으로 보시나요?


루보: AI, 온라인 안전, 콘텐츠 중재, 디지털 공간의 규제는 서로 겹치는 부분이 매우 많을 것입니다. GDPR이 시행되었을 때 많은 고객들이 예상되는 내용을 이해하는 데 어려움을 겪었기 때문에 저희는 고객들을 위한 워크샵을 개최했습니다. 이제 AI 규제를 접하게 되면서, 이러한 규제들 사이에서 공통점을 찾아내고 새로운 규제가 등장할 때 이를 준수할 수 있는 프로그램과 기준을 구축하는 데 필요한 것이 무엇인지 이해하고 고객도 그렇게 할 수 있도록 지원하는 것이 중요해질 것입니다.

몽고메리: 전적으로 동의합니다. 저는 우리 기업과 정책 결정의 미래에 중요한 역할을 할 수 있는 우리의 능력에 대해 이보다 더 낙관적으로 느낀 적이 없습니다. 누구나 AI에 대해 배우고 싶어 합니다. 정책 입안자들이 AI에 대해 배우지 않으면 정책 권장 사항 측면에서 실수를 할 수 있기 때문입니다. 긍정적인 영향을 미칠 수 있는 엄청난 기회가 있습니다.