엔지니어링 개인정보 보호: 데이터 추적에서 디지털 신뢰까지

마니는 제품 및 소프트웨어 개발자, 데이터 과학자, AI 전문가, 변호사 등 비즈니스 전반의 팀과 함께 일하지만, 엔지니어로서 데이터 개인정보 보호에 접근하여 마스터카드의 기계에 개인정보 보호를 내장하는 새로운 방법을 모색합니다.

엔지니어라면 누구나 예상할 수 있듯이, 그는 자동화에 비유하여 자신의 역할을 설명합니다. "실제로 데이터를 관리하는 팀을 돕고, 그들과 대화하고, 제어를 구현하는 것이 전부입니다."라고 그는 말합니다. "제품 팀에서 최신 엔진과 기술 기능을 갖춘 자동차를 만들고 있고, 저는 사생활 보호자로서 안전벨트와 사이드미러 같은 기본 안전 기능을 제공한다고 상상해 보세요. 하지만 때로는 에어백과 잠김 방지 제동 장치로 모두를 더 잘 보호할 수 있습니다."

유전자 검사 스타트업에서 퇴사한 후, 마니는 새로운 도전을 찾고 있었습니다. 그는 마스터카드의 개인정보 보호 기술에 대한 투자, 특히 IBM과의 합작 투자로 시작하여 현재 마스터카드의 전사적 데이터 리소스의 일부로 통합된 더블린 기반의 '데이터 트러스트'인 Trūata를 통한 데이터 익명화 작업에 흥미를 느꼈습니다. (웨스트체스터 카운티 자택에서 뉴욕주 Mastercard 본사까지 20분 거리의 출퇴근길도 문제되지 않았습니다.)

마니는 결제 데이터가 매우 강력하지만 그 구성이 독특하다는 사실을 금방 깨달았습니다. 2024년 마스터카드는 1,590억 건의 거래를 처리했으며, 이러한 정보는 데이터 인사이트에 활용될 때 익명화되고 집계됩니다. 하지만 마스터카드는 신용카드 계좌 번호를 고유한 자리 표시자로 대체하는 토큰화 같은 기술을 사용하므로 해킹을 당해도 카드 데이터를 개인에게 추적할 수 없습니다.

다음은 크게 두 가지 범주로 구분되는 개인정보 보호 관리의 예시입니다. 데이터를 사용하기 전에 비식별 처리하는 등 시스템 자체에 기술적 제어 기능이 내장되어 있습니다. 관리 제어는 직원들에게 문제가 발생했을 때 이를 인지할 수 있도록 교육하는 등 사람과 프로세스에 의존합니다. 그리고 어떤 상황에서는 둘 다 필요한 경우도 있습니다.

마니가 하는 일은 이러한 제어 기능을 만들고 내장하여 비식별 처리된 데이터에 신속하게 액세스하고 여러 국내 및 국제 규정을 준수하여 안전하게 처리할 수 있도록 하는 것입니다.

예를 들어, 데이터를 수집한 목적으로만 데이터를 사용하는 목적 제한은 구현하기가 까다롭습니다. 때로는 교육을 통해 시행되기도 합니다. 그러나 점점 더 많은 기업들이 데이터가 무단으로 사용되는 것을 방지하는 기술적 통제에 눈을 돌리고 있습니다. 마니는 "데이터를 상품으로 만들 수 있습니다."라며 "플랫폼은 다른 목적으로 데이터를 사용하는 것을 방지할 수 있습니다."라고 말합니다.

Mastercard 엔지니어들은 혈액 검사를 통해 신체 내부에서 일어나는 일을 파악하는 것처럼 방대한 데이터 세트를 스캔하여 데이터의 출처, 민감도 및 특성을 파악하는 데이터 프로파일링용 소프트웨어 도구를 개발하고 있습니다. 또한 식별된 데이터베이스와 비식별화된 데이터베이스를 별도로 관리하여 분석가가 두 데이터베이스에 동시에 액세스할 수 없도록 함으로써 재식별에 대한 안전장치를 마련했습니다.

마니는 오늘날 글로벌 개인정보 보호의 가장 큰 과제 중 하나는 데이터 현지화, 즉 현지에서 파생된 데이터가 특정 국가의 국경 내에 머물도록 요구하는 법률이라고 설명합니다. 데이터 엔지니어들은 마스터카드가 이러한 규칙을 자동으로 적용할 수 있도록 수십 가지 속성으로 데이터에 태그를 지정하는 도구를 개발 중입니다. 앞으로는 계약 요건과 고객 선호도를 반영하여 데이터에 태그를 지정할 수 있으며, 예를 들어 오픈뱅킹 계좌 소유자가 제3자와의 계좌 또는 거래 데이터 공유에 대한 한시적 동의를 부여, 취소 또는 갱신할 수 있게 됩니다. 

"대규모로 통제를 구현함으로써 우리는 분석을 대규모로 활용할 수 있다"고 그는 말합니다.

마스터카드는 기본 고객 정보에 연결하지 않고 실제 데이터를 모방하여 인위적으로 생성한 데이터 세트인 합성 데이터와 같은 다른 개인정보 보호 기술을 지속적으로 연구하고 있습니다. 합성 데이터는 데모, 타사 도구 테스트 및 평가에 유용하지만, AI 모델러는 실제 학습 데이터를 선호한다고 마니는 조언합니다.

이른바 클린룸은 마스터카드와 파트너들이 데이터를 일시적으로 결합하고 분석을 실행한 후 데이터를 삭제할 수 있게 합니다. 다자간 계산 기법은 기업이 이 결합된 데이터셋에서 다른 파트너와 정보를 공유하지 않고도 인사이트를 도출할 수 있게 해줍니다.

개인정보 보호가 이미 복잡했다면, AI는 이를 3차원의 체스판으로 바꾸고 있습니다. 기존 분석에서는 카드 사용 빈도에 따라 카드 소유자를 분류할 수 있습니다. AI는 복잡한 행동 패턴, 인간이 미처 생각하지 못한 신호를 감지할 수 있습니다. 이러한 권한은 재식별의 위험과 마니가 "소름 끼치는 요소"라고 부르는 위험을 높입니다.

"AI는 우리가 모르는 복잡한 신호들을 찾아낼 수 있다"고 그는 말하며, 한 대형 소매업체의 데이터 분석 소프트웨어가 여성들이 임신 중임을 추론 하고, 무향 로션 같은 겉보기에는 무해한 구매를 바탕으로 예정일을 추정한 사례를 들었다.

마스터카드의 AI 팀은 모든 사용 사례를 검토하고 승인된 사례에 대해 엄격한 통제를 적용합니다. 고위험 애플리케이션은 프로덕션에 도달하기 전에 중단됩니다. 또한 모든 알고리즘에는 투명성(AI 시스템이 어떻게 작동하고 어떤 데이터를 사용하는지 보여주는 것), 관찰 가능성(문제를 찾고 해결하기 위해 어떻게 작동하는지 모니터링하는 것), 편향성을 감지하는 도구가 내장되어 있어 사람들이 그 결과물을 신뢰할 수 있습니다.  

전 세계적으로 프라이버시 통제를 구축하는 복잡함에도 불구하고, 마니가 자신의 일을 사랑하는 이유는 주변 사람들입니다. "대부분은 이 뛰어난 사람들과 함께 일하고 매일 새로운 것을 배우고 있다는 점입니다," 그가 말한다. "그리고 저는 그 환경에서 새로운 아이디어를 창출하고 동시에 프라이버시를 보호하는 데 기여할 수 있습니다."

1월 28일 데이터 프라이버시의 날을 앞두고 자신의 디지털 흔적을 걱정하는 사람들을 위한 마니의 조언은 그가 설계한 시스템보다 훨씬 간단합니다: "소셜 미디어와 검색 엔진을 포함하여 온라인에 남기는 흔적을 최소화하는 등 낮은 프로필을 유지하세요."라고 그는 말합니다. 필요 없는 쿠키를 끄고, 내 위치를 방송하지 않으며, 세상에 알려질 수 있는 정보의 표면적을 줄이세요.

이는 데이터에 대한 마스터카드의 접근 방식을 뒷받침하는 동일한 철학입니다: 신뢰는 네트워크의 메커니즘에 보안, 무결성 및 책임성을 포함시킴으로써 구축되며, 이는 설계된 신뢰이자 획득된 신뢰이기도 합니다.