Skip to main content

Доверие

30 января 2024 года
 

Два технологических оптимиста на пересечении конфиденциальности данных и искусственного интеллекта

   

Каролин Луво из Mastercard и Кристина Монтгомери из IBM о меняющемся мире конфиденциальности данных, регулировании ИИ и силе доверия. 

Maggie Sieger

Contributor

Не секрет, что искусственный интеллект способен трансформировать... Всё. Это хорошая новость. ИИ готов умножить возможности индустрий — от поиска новых средств от болезней до предотвращения финансовых мошенничеств до его начала. Но ИИ работает на основе данных, что делает информацию уникальной валютой, заслуживающей строгой защиты и постоянной бдительности.

И Mastercard, и IBM уже много лет находятся в авангарде инноваций в области ИИ — например, Mastercard использует ИИ для повышения точности и эффективности своих инструментов мошенничества, а IBM применяет его для решения проблем продуктивности, улучшения клиентского опыта и повышения образования.

Каролин Луво, специалист по конфиденциальности и ответственности за данные Mastercard, и Кристина Монтгомери, главный директор по конфиденциальности и доверию IBM, на прошлой неделе встретились с редакцией Mastercard во время Недели конфиденциальности данных, чтобы поделиться своими взглядами на меняющийся ландшафт конфиденциальности данных, регулирования ИИ и силы доверия.

 

Правительства по всему миру ищут способы гарантировать, что ИИ не вторгается в приватность, не ограничивает возможности и не создаёт предвзятость. В этом году ожидается, что государственные послы ЕС официально примут первый в мире всеобъемлющий регламент ИИ. Как ваши собственные практики управления ИИ помогают подготовиться к регулированию?

Монтгомери: Регуляторная среда в сфере конфиденциальности резко выросла с тех пор, как Европа в 2018 году ввела Общий регламент по защите данных (GDPR). Мы заслужили доверие наших клиентов более 100 лет и хотим сохранить это доверие. Мы установили принципы, связанные с ИИ, включая то, что ИИ должен усиливать человеческий интеллект, быть прозрачным, объяснимым и справедливым, а данные принадлежат своему создателю.

Луво: Интересно видеть, что IBM и Mastercard работают в двух разных отраслях, но на самом деле у нас очень похожие позиции, включая то, что лежит в основе нашей собственной ответственности за данные и технологических принципов — каждый владеет своими данными. Мы считаем, что они должны контролировать это, владеть им и получать из этого выгоду, пока мы его защищаем.

Помимо установления этих принципов для руководства Mastercard с данными и технологиями, мы присоединились к IBM как пионеры в Data & Trust Alliance. DTA — это некоммерческий консорциум ведущих компаний и учреждений из различных отраслей, посвящённый обучению, разработке и внедрению ответственных практик работы с данными и ИИ.

Монтгомери: Это пример того, как наши компании активно участвуют в помощи прогрессу в сфере доверенных данных, выходя за рамки четырёх стен наших компаний. Мы искренне убеждены, что часть нашей роли — не просто разрабатывать практики и отстаивать политику, соответствующую этим практикам, и быть ответственными хранителями, но и помогать находить решения для мира и делиться ими извне. Data & Trust Alliance находится в процессе создания стандартов происхождения данных — устанавливая стандарты для всего мира, а не только для нашей компании. Речь идёт о родословной данных и о том, как иметь методологию и единую структуру для того, как данные тегуются, а также иметь возможность последовательно отслеживать их от начала до конца по всей экосистеме данных. Это было бы переломным моментом, если бы мы смогли согласовать общий набор стандартов данных.

Луво: Если у вас нет надёжного способа организации данных и их понимания в реальном времени, вы получаете целый набор требований к тому, как можно собирать, использовать и делиться данными, что сильно затрудняет инновации.
 

 

Какие ориентиры используются для оценки успеха в этой области?


Монтгомери: Вот тут всё становится немного сложнее. Можно обратить внимание на такие вещи, как утечки данных или скорость реагирования на запросы по правам субъектов данных. Что касается ИИ, мы смотрим на соответствие новым правилам (например, сколько дней до их соблюдения?), скорость прохождения процессов или на нашу реакцию к бизнесу. Но многое из критического момента невозможно измерить. Как вы сохраняете доверие к хорошо зарекомендовавшим себя брендам, таким как Mastercard и IBM? Это гораздо сложнее измерить.
 

 

Что не даёт вам спать по ночам с точки зрения регулирования конфиденциальности данных?


Луво: Всё — правда это или нет — что ставит репутацию Mastercard под угрозу, не даёт мне спать по ночам. Потому что, как мы знаем, когда доверие подрывается, восстановить его очень сложно.

Монтгомери: Доверие строится в каплях и теряется в ведрах. Очень легко потерять доверие. Особенно сложно поддерживать высокие стандарты и ожидания в условиях, которые так быстро меняются.
 

 

С постоянным развитием технологий и регулирования нельзя полагаться на то, что знал вчера — нужно корректировать каждый день. Итак, когда речь идёт о конфиденциальности данных и искусственном интеллекте, на что вы обращаете внимание в плане талантов?


Монтгомери: Я действительно считаю, что самый важный навык — это мышление роста. Я пришёл на эту работу, не зная, что такое этика ИИ, верно? Никто не знал. В то время была очень небольшая группа людей, которые знали, что это такое. И чтобы любой мог этому научиться. Мы на самом начале, но нужно хотеть учиться этому, и нужно много времени, чтобы постоянно быть в курсе происходящего и внимательно к этому относиться.

Луво: Мы также уделяем приоритет разнообразию всего — дисциплинам, происхождению, культуре, географии и чему угодно. У нас много взаимодействия с местными игроками. Важно быть локально связанным, понимать, что означают эти новые политики в области ИИ, как их будут интерпретировать, и наличие локального контекста крайне важно. Думаю, мы также можем поучиться у наших команд по технологиям, бизнесу и безопасности. Мы не пытаемся ограничивать себя юридическими и регуляторными вопросами. Если вы хотите быть в этом хорошим, нужно понимать остальное, как они вписываются в более широкий контекст.
 

 

Какие возможности для роста вы видите на горизонте?


Луво: Будет много пересечений между нормативами в области ИИ, онлайн-безопасности, модерации контента и цифрового пространства. Когда появился GDPR, мы организовывали мастер-классы для наших клиентов, потому что многим из них было очень трудно понять, что от них ожидается. Теперь, когда мы сталкиваемся с регуляциями в области ИИ, нам будет крайне важно понять, что нужно для поиска общих черт между ними, и создать программы и базу, которые позволят нам соблюдать новые правила по мере их появления, а затем помогать нашим клиентам делать то же самое.

Монтгомери: Полностью с этим согласен. Я никогда не испытывал большого оптимизма по поводу нашей способности сыграть столь значительную роль в будущем наших компаний и формировании политики. Все хотят узнать об искусственном интеллекте. Политикам нужно изучать ИИ, потому что если они этого не сделают, то будут ошибаться в рекомендациях по политике. У нас огромные возможности оказать положительное влияние.