Применение ответственного ИИ: как установить правила дорожного движения

Риски необходимо решать напрямую, когда предприятия рассматривают возможность внедрения генеративных технологий ИИ. К этим рискам относятся врождённая предвзятость в наборах данных, недостаточная защита конфиденциальности данных людей после их внедрения в модели ИИ и «галлюцинации» — повторение лжи со стороны ИИ.

Жёсткие принципы и практики ответственности за данные должны уже существовать до перехода в генеративный ИИ, говорит ДжоАнн Стоньер, которая более пяти лет руководила программой Mastercard по данным и недавно была назначена стипендиатом Mastercard, специализирующийся на ответственном ИИ и данных. В прошлом году Mastercard обновила свои собственные принципы ответственности за данные, чтобы подчеркнуть инклюзивность и обеспечить комплексные и справедливые практики работы с данными, аналитику и результаты. Приверженность компании принципу «Конфиденциальность по дизайну» также включает в модели ИИ сильную защиту конфиденциальности и безопасности, добавляет Каролин Луво, главный специалист по конфиденциальности и ответственности за данные.

«Мы построили наши стандарты и принципы внутри стен компании для ответственного использования генеративного ИИ и данных», — говорит Стониер. «Это включает рекомендации и запреты для сотрудников, а также ограничения по изучению и тестированию новой технологии, не рискуя конфиденциальной или конфиденциальной информацией. Мы на правильной стороне истории.»

Это руководство — которое, например, советует сотрудникам не принимать первые результаты и выполнять запросы несколько раз разными способами — помогло сформировать рекомендации Группы по кибербезопасности США Института Аспена для других компаний при создании собственных дорожных карт генеративного ИИ. «Такие совместные усилия по созданию и масштабированию лучших практик необходимы для поощрения ответственных инноваций с генеративным ИИ», — говорит Эндрю Рейскинд, главный директор по данным Mastercard.

Как заявил Мохамед Абдельсадек, исполнительный вице-президент по данным, аналитике и исследованиям, Mastercard начала масштабную работу по пилотному внедрению продуктов и услуг на основе искусственного интеллекта, а также по определению технологий, инструментов и возможностей, необходимых для масштабирования. Это включает в себя систематический сбор концепций из разных продуктовых команд и запуск хакатонов и общекорпоративных инновационных конкурсов, посвященных концепциям искусственного интеллекта, генерирующим сотни идей.

«Мы ставим в приоритет доход или влияние на эффективность, простоту внедрения, а затем балансируем это с уровнем риска», — говорит он. Но до запуска любого продукта или приложения на базе ИИ критически важно провести серьёзное тестирование, поэтому большинство случаев использования, скорее всего, будут внутри страны до публичного распространения.

«Мы намеренно уделяем больше внимания в самом начале, чтобы сделать всё правильно», — говорит Абдельсадек. «Мы хотим создать правильную инфраструктуру и правильные процессы, чтобы избежать некоторых рисков, связанных с генеративным ИИ. В то же время мы хотим гарантировать, что способствуем инновациям по всей организации.»

Создание культуры инноваций и сотрудничества имеет решающее значение для реализации видения Mastercard по развитию экономики и расширению возможностей людей, говорит Кен Мур, главный директор по инновациям, курирующий Mastercard Foundry, научно-исследовательское подразделение компании.  И это касается не только самого отдела исследований и разработок — Foundry реализует общекорпоративную инновационную программу под названием Sandbox, которая предоставляет сотрудникам любого подразделения компании возможность решать задачи, которые Mastercard стремится решить. Недавний конкурс, направленный на раскрытие возможностей в сфере Web3, привел к созданию Mastercard Artist Accelerator, который предоставляет начинающим артистам доступ к технологическим инструментам, таким как ИИ и NFT, для продвижения их музыкальной карьеры.

Что касается внедрения ИИ в деятельность компаний, то, по словам Мура, человеческий контроль, вероятно, останется важной функцией генеративного ИИ в обозримом будущем, особенно при решении таких проблем, как ложная информация и галлюцинации.

«В настоящее время Mastercard изучает возможности генеративного искусственного интеллекта, чтобы использовать эту технологию для повышения эффективности, которая будет поддерживать, а не заменять сотрудников», — говорит он. «Если искусственный интеллект можно использовать для ускорения решения рутинных повседневных задач, как мы могли бы использовать сэкономленное время для создания большего количества того, на что способны только люди, например, для построения и развития отношений или разработки новых продуктов и услуг?»