Відповідальне водіння за допомогою штучного інтелекту: як встановити правила дорожнього руху

Ризики необхідно враховувати безпосередньо, коли підприємства розглядають можливість впровадження технології генеративного штучного інтелекту. Ці ризики включають притаманну упередженість у наборах даних, недостатній захист конфіденційності даних людей після їх введення в моделі штучного інтелекту та «галюцинації» — повторення неправди штучним інтелектом.

Перш ніж переходити до генеративного штучного інтелекту, має бути запроваджено чіткі принципи та практики відповідальності за дані, каже Джоанн Стоньєр, яка понад п’ять років керувала програмою обробки даних Mastercard і нещодавно була призначена стипендіатом Mastercard, що спеціалізується на відповідальному штучному інтелекті та даних. Минулого року Mastercard оновила власні принципи відповідальності за дані, щоб підкреслити інклюзивність , аби забезпечити всебічність та справедливість практик обробки даних, аналітики та результатів. Керолайн Луво, головний спеціаліст компанії з питань конфіденційності та відповідальності за дані, додає, що зобов’язання компанії дотримуватися принципу «Конфіденційність за проектом» також передбачає надійний захист конфіденційності та безпеки в моделях штучного інтелекту.

«Ми побудували наші стандарти та принципи всередині компанії для відповідального використання генеративного штучного інтелекту та даних», — каже Стоньєр. «Це включає в себе правила, які повинні робити співробітники, а також обмеження щодо того, як вивчати та тестувати нові технології без розголошення конфіденційної інформації». Ми на правильному боці історії.

Ці рекомендації, які, наприклад, радять співробітникам не погоджуватися з першими результатами та виконувати запити кілька разів різними способами, допомогли сформувати рекомендації Групи кібербезпеки США Інституту Аспена для інших компаній, які створюють власні дорожні карти генеративного штучного інтелекту. «Такі спільні зусилля для створення та масштабування передового досвіду необхідні для заохочення відповідальних інновацій за допомогою генеративного штучного інтелекту», — каже Ендрю Райскінд, директор з обробки даних Mastercard.

Mastercard розпочала широкі зусилля з пілотного впровадження продуктів і послуг на базі штучного інтелекту, а також з визначення технологій, інструментів і можливостей, необхідних для масштабування, каже Мохамед Абдельсадек, виконавчий віце-президент з даних, аналітики та аналізу. Це включає систематичний збір концепцій інвентаризації від усіх команд продуктів та проведення хакатонів і загальнокорпоративних інноваційних челенджів, пов'язаних з концепціями покоління штучного інтелекту, які породжують сотні ідей.

«Ми надаємо пріоритет впливу на дохід або ефективність, простоті впровадження, а потім балансуємо це зі ступенем пов’язаного ризику», – каже він. Але перш ніж будь-який продукт або додаток на базі штучного інтелекту буде запущено в ефір, критично важливо провести значне тестування, тому більшість випадків використання, ймовірно, будуть внутрішніми, перш ніж їх буде оприлюднено.

«Ми навмисно зосереджуємося на цьому на ранніх етапах, щоб переконатися, що ми все зробимо правильно», — каже Абдельсадек. «Ми хочемо створити правильну інфраструктуру та правильні процеси, щоб уникнути деяких ризиків, пов’язаних із генеративним штучним інтелектом». Водночас ми хочемо забезпечити впровадження інновацій по всій організації».

Культивування культури інновацій та співпраці має вирішальне значення для бачення Mastercard щодо підтримки економіки та розширення можливостей людей, каже Кен Мур, головний директор з інновацій, який керує Mastercard Foundry, науково-дослідним підрозділом компанії.  І це виходить за рамки самого відділу досліджень і розробок — Foundry запускає загальнокорпоративну програму інновацій під назвою Sandbox, яка надає співробітникам будь-де в компанії можливість вирішувати проблеми, з якими прагне боротися Mastercard. Нещодавній виклик щодо розкриття можливостей у просторі Web3 призвів до появи Mastercard Artist Accelerator, який надає перспективним артистам доступ до технологічних інструментів, таких як штучний інтелект та NFT, для просування їхньої музичної кар'єри.

Що стосується впровадження штучного інтелекту в діяльність компаній, то, за словами Мура, людський нагляд, ймовірно, буде важливою функцією генеративного штучного інтелекту в найближчому майбутньому, особливо при вирішенні таких проблем, як фальшива інформація та галюцинації.

«Поточне дослідження Mastercard генеративного штучного інтелекту зосереджене на використанні цієї технології для підвищення ефективності, яка підтримуватиме, а не замінюватиме співробітників», – каже він. «Якщо штучний інтелект можна було б використовувати для пришвидшення часу на вирішення виснажливих повсякденних завдань, як би ми могли використати цей зекономлений час для створення більшої кількості того, що здатні робити лише люди, наприклад, побудови та розвитку стосунків або розробки нових продуктів і послуг?»