Skip to main content

ИИ

7 января 2025 года

 

ИИ для всех: уроки с пересечения технологий и инклюзии

Эти эксперты по использованию ИИ в социальных интересах делятся своими наблюдениями по масштабированию инклюзивного ИИ.

Vicki Hyman

Director,

Global Communications,

Mastercard

От предоставления кредитов колумбийским микропредпринимателям до снижения уровня материнской заболеваемости в Эфиопии и предоставления жизненно важной информации беженцам по всему миру — сила искусственного интеллекта сочетается с потенциалом инклюзии и экономического расширения.

Переосмысливая способы использования ИИ для социального воздействия, пять организаций разработают и масштабируют свои решения как победители конкурса Artificial Intelligence to Accelerate Inclusion Challenge, который получил более 500 заявок в 82 странах. Победители — среди которых также социальное предприятие для мелких пчеловодов в Индии и американская инициатива, объединяющая пациентов с недооценёнными федеральными льготами — получат 200 000 долларов, а также техническую помощь и наставничество от Mastercard и data.org. который спонсировал испытание.

Редакция Mastercard поговорила с лидерами организаций-победителей о сложностях создания решений на базе ИИ в социальном секторе, о том, как они снижают предвзятость и обучают свои модели быть инклюзивными, а также о том, какие другие секторы несут наибольшие перспективы для технологий.

Преодоление разрыва финансирования для малого бизнеса в Колумбии: Кипу

В Колумбии насчитывается около 6 миллионов предприятий, относящихся к категории микропредприятий, которые работают с численностью персонала менее 10 человек и небольшим капиталом. Из них лишь 9 процентов могут получить официальное кредитование из-за отсутствия информации об их кредитоспособности и финансовой истории, что создает огромный дефицит финансирования.

Quipu преодолевает информационный разрыв в неформальной экономике, используя искусственный интеллект для более точной оценки кредитоспособности этих небольших предприятий с помощью модели скоринга, анализирующей нетрадиционные данные, такие как история мобильных транзакций, взаимодействия в социальных сетях, SMS и платежные паттерны, а также интеллектуальная система выплат и взыскания кредитов. Также предоставляется платформа для финансирования и микрозаймы, которые позволяют этим компаниям формировать альтернативный кредитный рейтинг на основе как финансовой, так и нефинансовой информации. Через приложение Quipu клиенты могут подать заявку за несколько минут на оборотный капитал, который выплачивается менее чем за два дня.

 

Укрепление системы здравоохранения на уровне общин в Эфиопии: IDinsight

Двадцать лет назад Эфиопия внедрила новую модель здравоохранения в сельских районах, обучив и направив тысячи медицинских работников для обслуживания местных общин. Это привело к значительному улучшению здоровья матери и ребенка, снижению числа новых случаев ВИЧ-инфекции, а также смертности от туберкулеза и малярии, и это лишь некоторые из достигнутых результатов.

Чтобы развить этот успех, IDinsight сотрудничает с Last Mile Health и Министерством здравоохранения Эфиопии над созданием колл-центра на базе искусственного интеллекта, с которым медицинские работники смогут связываться для получения медицинских консультаций в режиме реального времени по сложным случаям. Разработанное организацией решение на основе искусственного интеллекта будет включать в себя систему управления случаями и службу ответов на вопросы, основанную на всеобъемлющих рекомендациях Министерства здравоохранения, обеспечивая поддержку в режиме реального времени операторам колл-центра, которые, в свою очередь, будут передавать важную информацию медицинским работникам по телефону, позволяя им сосредоточиться на уходе за пациентами и оказании высококачественной медицинской помощи.

 

Предоставление жизненно важной информации людям, оказавшимся в кризисной ситуации по всему миру: проект Signpost Международного комитета спасения.

В результате конфликтов, стихийных бедствий, нищеты и насилия во всем мире перемещено рекордное количество людей — 120 миллионов человек. Людям, пострадавшим от кризиса, приходится принимать критически важные, меняющие жизнь решения на пути к безопасности, располагая при этом ограниченной информацией. В 2015 году Международный комитет спасения запустил проект Signpost, в рамках которого создаются цифровые центры помощи, где пользователи могут найти точную и актуальную информацию, получить доступ к необходимым услугам и задать прямые вопросы местным модераторам, например: «Как я могу получить жилье?» Смогу ли я получить временное разрешение на работу? Могу ли я записать своих детей в школу? В настоящее время Signpost предлагает около 30 действующих программ по всему миру, и в 2024 году ею будут пользоваться более 6 миллионов человек.  

Однако потребность в информации увеличивается вместе с числом перемещённых лиц. Во время кризиса 2023 года в Афганистане один пост в Facebook привёл к 30 000 сообщений за месяц, что перегрузило местную команду Signpost из шести модераторов. В 2024 году проект Signpost под руководством IRC запустил Signpost AI для улучшения передачи критически важной информации через агентов ИИ и человеческий надзор. Эта система направлена на снижение нагрузки на модераторов, позволяя им сосредоточиться на более сложных случаях, одновременно обеспечивая своевременное и точное реагирование, улучшающее доступ к ресурсам и услугам для перемещённого населения по всему миру. 

 

Создание улья знаний для пчеловодов в Индии: Buzzworthy Ventures

Индия остаётся глобальной аграрной динамо, но одна сельскохозяйственная цепочка создания стоимости не вызывает оживления: пчеловодство. В Индии насчитывается 400 000 мелких пчеловодов, многие из которых испытывают трудности с поддержанием средств к существованию, не говоря уже о повышении экономического потенциала опыления насекомыми для повышения урожайности. В Индии опыление насекомыми приносит 22,52 миллиарда долларов в год, что значительно превышает рыночные размеры мёда и продукции улья, однако потенциал остаётся крайне недоиспользуемым для культур, жизненно важных для экономики и питания страны. 

Поэтому Buzzworthy Ventures создала Beekind — мобильное приложение на базе искусственного интеллекта, которое помогает малым пчеловодам, особенно женщинам, мелким землевладельцам, безземельным фермерам и племенным сообществам в сельских и маргинализированных сообществах. Он предоставляет аналитические данные в реальном времени и прогнозную аналитику, помогая пчеловодам контролировать здоровье улья, диагностировать болезни, улучшать производство мёда и адаптироваться к изменяющимся климатическим условиям.

 

Сокращение разрыва между здоровьем и богатством в США: Link Health

Врач скорой помощи Алистер Мартин часто видел, что бедность является движущей причиной обращения пациентов в отделение неотложной помощи. Он понял, что «деньги как лекарство» — помощь пациентам в получении денежной помощи и федеральных льгот — могут решить коренные причины плохого здоровья, сократив разрыв между здоровьем и богатством. 

Это привело к созданию программы Link Health, которая соединяет пациентов с неиспользованными федеральными программами помощи, такими как SNAP, WIC и Lifeline, чтобы облегчить финансовую нагрузку, усугубляющую неравенство в здравоохранении. Платформа регистрации и чат-бот на базе ИИ направлены на получение государственных и федеральных льгот на сумму 10 миллионов долларов для снижения бедности, снижения финансового стресса и улучшения благополучия.

Какая была самая большая сложность при запуске вашего решения?

Мерседес Бидарт, генеральный директор и соучредитель Quipu

«Самой большой проблемой было собрать первую сумму капитала для начала кредитования для обучения наших оценок. Создание нового решения для андеррайтинга — это как задача «курица и яйцо»: для создания решения нужен капитал, но ты не получаешь его, пока не протестируешь.» 

Сид Равинутула, главный дата-сайентист, IDinsight

«Первая проблема — техническая». В сфере здравоохранения лечение и рекомендации должны быть на 100% точными — галлюцинациям здесь не место. Для этого требуется иной подход, чем тот, который используется в популярной архитектуре генерации с расширенными возможностями поиска. Нам необходимо построить график, который точно отражает методы лечения и диагностические протоколы.

«Вторая задача — создание репрезентативных контрольных показателей и наборов данных для проверки». Прежде чем совершенствовать модель, нам необходим набор вопросов и ответов, которые, вероятно, зададут эти работники. Этот набор данных должен охватывать все темы, которые могут их интересовать, и учитывать способы их формулировки — использование сокращений, разговорных выражений, смайликов и т. д. Создание высококачественного эталонного набора данных — дорогостоящий процесс, поскольку часто требует ручной аннотации.

Андре Хеллер, руководитель программы Signpost.

«Одной из самых больших задач стала разработка инструментов ИИ, которые одновременно инклюзивны и точны в контексте. Обучение ИИ пониманию языков меньшинств, региональных диалектов и культурно разнообразного контента требует обширного курирования данных, человеческого опыта и тестирования. Кроме того, обеспечение того, чтобы ответы, созданные с помощью ИИ, соответствовали гуманитарным принципам и не поддерживали предвзятость, потребовало создания надёжных мер защиты, таких как человеческий надзор и конституционные изменения для этических результатов. Баланс между инновациями и этими строгими стандартами был требовательным, но необходимым.»

Моника Шукла, генеральный директор и соучредитель Buzzworthy Ventures.

«Основная задача заключалась в преодолении разрыва между передовыми технологиями ИИ и их внедрением в сельской местности. Хотя интернет-соединение в Индии выросло экспоненциально — в 2023 году было более 700 миллионов пользователей, в значительной степени благодаря доступным смартфонам — доступ остаётся неравномерным. Этот цифровой разрыв, в сочетании с неравномерным покрытием сети в отдалённых лесах и деревнях, создал серьёзное препятствие для внедрения решений на базе искусственного интеллекта, требующих стабильной связи и взаимодействия с пользователями.»

Алистер Мартин, генеральный директор Link Health

«Получение и доступ к государственным пособиям может стать проблемой для многих семей». Однако самой большой проблемой стало беспрепятственное внедрение решений Link Health в медицинские учреждения, где медицинские работники и без того перегружены. Для этого требовалось укрепить доверие среди медицинских работников, обеспечить, чтобы координаторы не нарушали процесс лечения пациентов, и продемонстрировать измеримые преимущества для пациентов и систем здравоохранения».

 

 

Женщины и девушка собираются вокруг планшета.

 

 

Как сделать так, чтобы ваше решение было индивидуальным и инклюзивным?

Мерседес Бидарт, Quipu: «Чтобы минимизировать предвзятость, мы используем разнообразные наборы данных, регулярно проводим аудит наших моделей ИИ и применяем валидацию с помощью человека в процессе, чтобы обеспечить справедливые и равноправные кредитные оценки. Наши алгоритмы тщательно протестируются для предотвращения гендерных и расовых предвзятостей, и мы постоянно отслеживаем и обновляем их в соответствии с этическими стандартами. Мы также предоставляем пользователям доступные процессы возмещения ущерба, позволяя им оспаривать или обжаловать решения ИИ.»

Сид Равинутула, IDinsight: «Во-первых, мы строим это как решение с открытым исходным кодом. Мы надеемся, что это ускорит внедрение аналогичных инструментов в других контекстах, позволяя организациям развивать их под свои конкретные потребности. Во-вторых, мы гарантируем, что её можно легко адаптировать и расширить под локальные условия. Это включает соблюдение местных правил, смену моделей ИИ или добавление новых ограничителей. Создавая общую модель, которую можно тонко настраивать для каждого контекста, мы обеспечиваем широкое применение решения при соблюдении уникальных требований каждой системы.» 

Андре Хеллер, Signpost: «ИИ Signpost обучается на основе отобранных и проверенных данных из надёжных источников и местных НПО. Это гарантирует, что ИИ отражает региональные диалекты, культурные нормы и языки меньшинств, заполняя критические пробелы для недостаточно обслуживаемых групп. Агенты ИИ поддерживают голосовые и текстовые вводы, обеспечивая доступ для людей с низкой грамотностью. Инструменты тестируются и совершенствуются с носителями языка и модераторами сообщества для проверки точности и инклюзивности. Наша Конституция ИИ демократически устанавливает этические нормы, включая недискриминацию и лексику, чувствительную к травме, с постоянными аудитами для снижения предвзятости.»

Моника Шукла, Buzzworthy Ventures: «Beekind адаптирует свои технологические решения под конкретные региональные, экологические и сельскохозяйственные условия, интегрируя гиперлокальные факторы, такие как климат, флора и сельскохозяйственные практики. Для достижения этого мы активно привлекаем местных пчеловодов, исследователей, сельскохозяйственных экспертов и лидеров сообществ к практикам, моделям и стратегиям внедрения кодовых знаков, обеспечивая соответствие решения реальным реалиям людей, которым оно служит. Мы ставим в приоритет женщин и мелких фермеров — ключевых, но недостаточно обслуживаемых вкладчиков в сельскохозяйственную экосистему Индии. Например, предоставляя гендерно-чувствительное обучение и создавая инклюзивные пространства для диалога, мы даём женщинам возможность активно участвовать в цепочке создания стоимости пчеловодства и получать из неё выгоду. Инклюзивность — это не просто принцип; это практический краеугольный камень нашего подхода.»

Алистер Мартин, Link Health: «Координаторы встречаются с пациентами там, где они находятся — физически и эмоционально — часто в залах ожидания, и адаптируют свой подход к конкретным потребностям пациентов, например, помогают пожилым людям оформить льготы, такие как программы экономии средств Medicare». Разрабатывая системы, в которых приоритет отдается доступности и используются проверенные представители сообщества, программа обеспечивает эффективное обслуживание различных групп населения, особенно малообеспеченных сообществ.

Что вас больше всего беспокоит по поводу ИИ?

Мерседес Бидарт, Quipu: «Самый важный элемент при создании моделей ИИ — это набор данных. Хорошая модель — это модель с хорошим и справедливым результатом, и единственный способ сделать это возможным — обучение моделей с разнообразными наборами данных, отражающими особенности каждого региона. Другой важный элемент — это человек/команда, которая строит модель. Только 20% работ, связанных с ИИ, выполняют женщины, что означает, что результаты не рассматриваются с гендерной точки зрения. Нам нужно, чтобы больше женщин возглавляли решения по искусственному интеллекту.»

Сид Равинутула, IDinsight: «Надёжность. В здравоохранении неправильный диагноз или неполное лечение могут привести к катастрофическим последствиям. Однако модели искусственного интеллекта по своей природе демонстрируют случайность. Например, если задавать ИИ один и тот же вопрос несколько раз, ответы могут дать немного разные ответы. Аналогично, переформулировка вопроса может дать разные ответы. Хотя большинство ответов, вероятно, будут передавать одно и то же послание, некоторые могут быть неполными или вводящими в заблуждение, что может привести к вреду. Жёсткие ограничения необходимы для того, чтобы все ответы были правильными, полными и уважительными.»

Андре Хеллер, Signpost: «Самая большая проблема — это возможность ИИ причинять вред через предвзятость, дезинформацию или исключение. Для уязвимых групп неверная информация может иметь жизненно важные последствия. Обеспечение контекстуальной точности, прозрачности и этичности ИИ требует постоянного контроля, тестирования и сотрудничества с местными экспертами. Мы решаем эту проблему, внедряя человеческий контроль контроля качества, предвзятость и этические проверки для уточнения ответов, а также прозрачные рамки, такие как Конституция ИИ, которая регулирует результаты и снижает вредные риски. Мы остаёмся бдительными, балансируя инновации в области ИИ с подотчетностью и доверием.»

Моника Шукла, Buzzworthy Ventures: «Когда модели ИИ обучаются на данных, которые не полностью отражают сообщества, которым они стремятся обслуживать, существует риск усиления существующих неравенств. Например, многие системы ИИ обучаются на основе данных основных языков, оставляя местные диалекты и устные языки недостаточно представленными. В Индии многочисленные племенные и региональные сообщества говорят на языках, которые часто не имеют надёжных цифровых данных. Отсутствие представительства может привести к моделям, которые не могут точно интерпретировать или реагировать на потребности этих сообществ. Кроме того, региональные акценты, речевые модели и реальные практики часто остаются незамеченными, что делает решения на базе ИИ менее эффективными или даже вредными для этих групп.»

Алистер Мартин, Link Health: «Наибольшую обеспокоенность вызывает потенциальная возможность того, что системы искусственного интеллекта будут увековечивать существующие предрассудки, особенно при работе с недостаточно обеспеченными группами населения». Без тщательного контроля алгоритмы могут непреднамеренно исключать тех, кто больше всего нуждается в помощи, или не учитывать системное неравенство, с которым они сталкиваются. Обеспечение прозрачности, подотчетности и этичного использования ИИ в процессе принятия решений имеет решающее значение для предотвращения усугубления неравенства. Именно поэтому мы привлекаем людей к процессу на критически важных этапах — и будем продолжать привлекать людей к участию в нем по мере развития наших инструментов искусственного интеллекта». 

Какой сектор за пределами вашей сферы деятельности может получить наибольшую выгоду от использования ИИ?

Мерседес Бидарт, Quipu: «Образовательный сектор. Я считаю, что образование изменилось, и у нас появилась возможность сделать его более демократичным. То, что мы сделали в Quipu в области образования, — это генерированный AI-ассистент в WhatsApp, который поддерживает наших клиентов в управлении бизнесом. Нет необходимости иметь одного консультанта на каждый бизнес. С одним ботом мы можем поддержать образование и рост миллионов.»

Сид Равинутула, IDinsight: «IDinsight не зависит от сектора. Хотя этот проект сосредоточен на здравоохранении, мы разработали решения на базе ИИ в области образования и социальной защиты. Фермеры сталкиваются с похожими барьерами в получении информации, как и работники общественного здравоохранения. Им необходимо знать лучшие культуры для своего региона и оптимальные смеси удобрений, а также помогать в диагностике болезней и методах лечения. В образовании кейсы использования ИИ включают персонализированных репетиторов, планы уроков, созданные ИИ, а также оценки и оценки на базе ИИ. Мы использовали ИИ для выявления девочек вне школы в Индии для НПО, которая работает над увеличением числа девочек в школах. Наконец, ИИ может помочь гражданам получить доступ к государственным льготам. Это может помочь определить право на участие и пройти сложный процесс подачи заявки.»

Андре Хеллер, Signpost: «С учетом достижений в области искусственного интеллекта трудно представить себе отрасль, которая не претерпит трансформации». Вопрос в том, когда — через два года или через пять? От бизнес-операций и анализа данных до диагностики в здравоохранении и исследований практически в любой области — все будет развиваться с невиданной ранее скоростью. Вопрос лишь в том, когда люди смогут эффективно им пользоваться. Практический пример: взаимосвязь между метеорологией и управлением в условиях стихийных бедствий. Системы оповещения о погодных явлениях и раннего предупреждения о стихийных бедствиях, таких как наводнения, ураганы, засухи и экстремальные погодные явления, обладают огромным потенциалом для использования искусственного интеллекта. Передовые модели ИИ могут анализировать метеорологические и гидрологические данные в режиме реального времени для более точного прогнозирования стихийных бедствий и предоставления ранних предупреждений для более комплексного реагирования, включающего уязвимых людей, местные предприятия, цепочки поставок и правительство. Компания Signpost уже начала использовать ИИ для реагирования на наводнения через FloodHub, сочетая прогнозы ИИ с практическими обновлениями в режиме реального времени, чтобы помочь сообществам подготовиться к наводнениям и смягчить их последствия.

Моника Шукла, Buzzworthy Ventures: «Сектор здравоохранения может значительно выиграть от ИИ, особенно в диагностике, персонализированной медицине и оптимизации цепочек поставок здравоохранения, особенно в сельских районах. Инструменты на базе искусственного интеллекта могут помочь в раннем выявлении заболеваний, таких как малярия и туберкулёз, с помощью медицинских изображений или диагностических тестов. Например, модели ИИ могут анализировать рентгеновские снимки грудной клетки или образцы крови для выявления ранних признаков заболевания, даже в условиях с ограниченными ресурсами. Это может привести к более быстрому диагностированию и лечению, в конечном итоге спасая жизни и снижая расходы на здравоохранение в малообеспеченных регионах. ИИ также может оптимизировать логистику в удалённых системах здравоохранения, обеспечивая своевременную доставку медицинских припасов и вакцин в малообеспеченные районы, что крайне важно для стран с большим населением сельской местности.»

Алистер Мартин, Link Health: «Образование может значительно выиграть от ИИ, особенно в персонализации образовательного опыта для малообеспеченных студентов. ИИ может помочь выявлять пробелы в обучении, предоставлять индивидуальную поддержку и предоставлять многоязычные ресурсы студентам и семьям так, как традиционные модели не могут. Преодолевая неравенство в доступе к качественному образованию, ИИ может оказать преобразующее влияние на будущее здоровье и социально-экономические результаты.»