Skip to main content

Доверие

30 января 2024 года
 

Два технологических оптимиста на пересечении конфиденциальности данных и искусственного интеллекта

   

Кэролайн Луво из Mastercard и Кристина Монтгомери из IBM обсуждают меняющуюся ситуацию в области защиты данных, регулирования ИИ и силы доверия. 

Maggie Sieger

Contributor

Не секрет, что искусственный интеллект способен трансформировать... Всё. Это хорошая новость. ИИ готов умножить возможности индустрий — от поиска новых средств от болезней до предотвращения финансовых мошенничеств до его начала. Но ИИ работает на основе данных, что делает информацию уникальной валютой, заслуживающей строгой защиты и постоянной бдительности.

И Mastercard, и IBM уже много лет находятся в авангарде инноваций в области ИИ — например, Mastercard использует ИИ для повышения точности и эффективности своих инструментов мошенничества, а IBM применяет его для решения проблем продуктивности, улучшения клиентского опыта и повышения образования.

Кэролайн Луво, директор Mastercard по вопросам конфиденциальности и ответственности за данные, и Кристина Монтгомери, главный директор IBM по вопросам конфиденциальности и доверия, встретились с представителями Mastercard Newsroom на прошлой неделе во время Недели защиты данных, чтобы поделиться своими взглядами на меняющуюся ситуацию в области защиты данных, регулирования ИИ и силы доверия.

 

Правительства по всему миру ищут способы гарантировать, что ИИ не вторгается в приватность, не ограничивает возможности и не создаёт предвзятость. В этом году ожидается, что государственные послы ЕС официально примут первый в мире всеобъемлющий регламент ИИ. Как ваши собственные практики управления ИИ помогают подготовиться к регулированию?

Монтгомери: Регуляторная среда в сфере конфиденциальности резко выросла с тех пор, как Европа в 2018 году ввела Общий регламент по защите данных (GDPR). Мы заслужили доверие наших клиентов более 100 лет и хотим сохранить это доверие. Мы установили принципы, связанные с ИИ, включая то, что ИИ должен усиливать человеческий интеллект, быть прозрачным, объяснимым и справедливым, а данные принадлежат своему создателю.

Луво: Интересно видеть, что IBM и Mastercard работают в двух разных отраслях, но на самом деле у нас очень похожие позиции, включая то, что лежит в основе нашей собственной ответственности за данные и технологических принципов — каждый владеет своими данными. Мы считаем, что они должны контролировать это, владеть им и получать из этого выгоду, пока мы его защищаем.

Помимо установления этих принципов для руководства Mastercard с данными и технологиями, мы присоединились к IBM как пионеры в Data & Trust Alliance. DTA — это некоммерческий консорциум ведущих компаний и учреждений из различных отраслей, посвящённый обучению, разработке и внедрению ответственных практик работы с данными и ИИ.

Монтгомери: Это пример того, как наши компании активно участвуют во внешнем процессе, способствуя прогрессу в области надежных данных, выходя за рамки собственных стен. Мы искренне верим, что часть нашей роли заключается не только в разработке практик и продвижении политики, соответствующей этим практикам, и в ответственном управлении ресурсами, но и в содействии поиску решений для всего мира и распространении этой информации за рубежом. Альянс Data & Trust Alliance находится в процессе создания стандартов происхождения данных — установления стандартов для всего мира, а не только для нашей компании. Речь идёт о происхождении данных и о том, как разработать методологию и согласованную структуру для маркировки данных, чтобы иметь возможность отслеживать их от начала до конца в рамках всей экосистемы данных. Согласование общих стандартов данных стало бы настоящим прорывом.

Луво: Если у вас нет надёжного способа организации данных и их понимания в реальном времени, вы получаете целый набор требований к тому, как можно собирать, использовать и делиться данными, что сильно затрудняет инновации.
 

 

Какие ориентиры используются для оценки успеха в этой области?


Монтгомери: Вот тут всё становится немного сложнее. Можно обратить внимание на такие вещи, как утечки данных или скорость реагирования на запросы по правам субъектов данных. Что касается ИИ, мы смотрим на соответствие новым правилам (например, сколько дней до их соблюдения?), скорость прохождения процессов или на нашу реакцию к бизнесу. Но многое из критического момента невозможно измерить. Как вы сохраняете доверие к хорошо зарекомендовавшим себя брендам, таким как Mastercard и IBM? Это гораздо сложнее измерить.
 

 

Что не даёт вам спать по ночам с точки зрения регулирования конфиденциальности данных?


Луво: Меня не дает спать по ночам все, что может поставить под угрозу репутацию Mastercard — правда это или нет. Потому что, как мы знаем, если доверие подорвано, восстановить его очень сложно.

Монтгомери: Доверие строится по каплям и теряется в ведрах. Доверие очень легко потерять. И особенно сложно поддерживать высокие стандарты и ожидания в условиях столь быстро меняющейся обстановки.
 

 

В условиях постоянного развития технологий и нормативных актов нельзя полагаться на то, что было известно вчера — приходится адаптироваться каждый день. Итак, когда речь заходит о конфиденциальности данных и искусственном интеллекте, на что вы обращаете внимание при выборе талантов?


Монтгомери: Я действительно считаю, что самый важный навык — это наличие установки на рост. Я пришла на эту работу, не зная, что такое этика искусственного интеллекта, верно? Никто этого не сделал. В то время лишь очень небольшая группа людей знала, что это такое. Поэтому этому может научиться каждый. Мы находимся на самом начальном этапе, но нужно хотеть учиться, и требуется много времени, чтобы постоянно быть в курсе происходящего и вдумчиво к этому относиться.

Луво: Мы также уделяем первостепенное внимание разнообразию во всем — в дисциплинах, происхождении, культуре, географии, во всем, что угодно. Мы активно взаимодействуем с местными игроками. Важно поддерживать связи на местном уровне, понимать, что означают эти новые политики в области ИИ, как они будут интерпретироваться, и знание местного контекста имеет жизненно важное значение. Я думаю, мы также можем многому научиться у наших команд, занимающихся технологиями, бизнесом и безопасностью. Мы не пытаемся ограничиваться только правовыми и нормативными вопросами. Если вы хотите преуспеть в этом, вам нужно понимать всё остальное, как всё это вписывается в более широкий контекст.
 

 

Какие возможности для роста вы видите на горизонте?


Луво: Будет много пересечений между нормативами в области ИИ, онлайн-безопасности, модерации контента и цифрового пространства. Когда появился GDPR, мы организовывали мастер-классы для наших клиентов, потому что многим из них было очень трудно понять, что от них ожидается. Теперь, когда мы сталкиваемся с регуляциями в области ИИ, нам будет крайне важно понять, что нужно для поиска общих черт между ними, и создать программы и базу, которые позволят нам соблюдать новые правила по мере их появления, а затем помогать нашим клиентам делать то же самое.

Монтгомери: Полностью с этим согласен. Я никогда не испытывал большого оптимизма по поводу нашей способности сыграть столь значительную роль в будущем наших компаний и формировании политики. Все хотят узнать об искусственном интеллекте. Политикам нужно изучать ИИ, потому что если они этого не сделают, то будут ошибаться в рекомендациях по политике. У нас огромные возможности оказать положительное влияние.