Passer au contenu principal

IA

7 janvier 2025

 

L’IA pour tous : les leçons de l’intersection de la technologie et de l’inclusion

Ces experts de l’exploitation de l’IA pour le bien social partagent leurs idées sur la mise à l’échelle de l’IA inclusive.

Vicki Hyman

Directrice, Communications, Mastercard

 

Qu’il s’agisse d’accorder des crédits aux micro-entrepreneurs colombiens, de réduire les taux de morbidité maternelle en Éthiopie ou de fournir des informations vitales aux réfugiés du monde entier, la puissance de l’intelligence artificielle s’accompagne d’un potentiel d’inclusion et d’autonomisation économique.

Redéfinissant la façon d’utiliser l’IA pour avoir un impact social, cinq organisations développeront et feront évoluer leurs solutions en tant que lauréates du Défi de l’intelligence artificielle pour accélérer l’inclusion, qui a reçu plus de 500 soumissions dans 82 pays. Les lauréats – qui comprennent également une entreprise sociale pour les apiculteurs à petite échelle en Inde et une initiative américaine qui met en relation les patients avec des prestations fédérales sous-utilisées – recevront 200 000 $ et une assistance technique et un mentorat de la part de Mastercard et data.org. qui a parrainé le défi.

La salle de presse de Mastercard s’est entretenue avec les dirigeants des organisations lauréates sur les défis de la création de solutions d’IA dans le secteur social, sur la manière dont elles atténuent les préjugés et forment leurs modèles pour qu’ils soient inclusifs, et sur les autres secteurs les plus prometteurs pour la technologie.

Combler le déficit de financement des petites entreprises en Colombie

En Colombie, près de 6 millions d’entreprises sont des microentreprises, fonctionnant avec moins de 10 employés et un petit capital. Parmi ceux-ci, seulement 9 % peuvent emprunter officiellement, en raison du manque d’informations sur leurs performances et de l’absence d’antécédents financiers, ce qui crée un énorme déficit de financement.

Quipu comble le manque d’information dans l’économie informelle en utilisant l’IA pour évaluer plus précisément la solvabilité de ces petites entreprises grâce à un modèle de notation qui analyse des données non traditionnelles, telles que l’historique des transactions mobiles, les interactions sur les réseaux sociaux, les SMS et les modèles de paiement, ainsi que les décaissements et la collecte de crédit intelligents. Il fournit également une plateforme de financement et des microprêts qui permettent à ces entreprises de construire un score de crédit alternatif basé sur des informations financières et non financières. Grâce à l’application de Quipu, les clients peuvent demander en quelques minutes un fonds de roulement qui est déboursé en moins de deux jours.

 

Renforcer les soins de santé communautaires en Éthiopie : IDinsight

Il y a deux décennies, l’Éthiopie a lancé un nouveau modèle de soins de santé en milieu rural, formant et déployant des milliers d’agents de vulgarisation sanitaire au service des communautés locales, ce qui a entraîné des améliorations significatives de la santé maternelle et infantile et une baisse des nouvelles infections à VIH et des décès liés à la tuberculose et au paludisme, pour n’en citer que quelques-uns.

Pour s’appuyer sur ce succès, IDinsight s’associe à Last Mile Health et au ministère éthiopien de la Santé pour créer un centre d’appels alimenté par l’IA que les agents de vulgarisation sanitaire peuvent contacter pour obtenir des conseils médicaux en temps réel sur des cas complexes. La solution d’IA de l’organisation comprendra un système de gestion de cas et un service de réponse aux questions basé sur les directives complètes du ministère de la Santé, fournissant un soutien en temps réel aux agents du centre d’appels qui transmettront des informations essentielles aux travailleurs de la santé par téléphone, leur permettant ainsi de se concentrer sur les soins aux patients et de fournir des soins de santé de haute qualité.

 

Fournir des informations vitales aux personnes en crise dans le monde entier : le projet Signpost de l’International Rescue Committee

Un nombre record de 120 millions de personnes sont déplacées dans le monde par les conflits, les catastrophes naturelles, la pauvreté et la violence. Les personnes touchées par une crise doivent prendre des décisions cruciales qui changeront leur vie tout au long de leur voyage vers la sécurité avec des informations limitées. En 2015, l’International Rescue Committee a lancé le projet Signpost, qui établit des centres d’aide numériques permettant aux utilisateurs de trouver des informations précises et opportunes, d’accéder à des services essentiels et de poser des questions directes aux modérateurs locaux, telles que : Comment puis-je accéder au logement ? Est-ce que je pourrai obtenir un permis de travail temporaire ? Puis-je inscrire mes enfants à l’école ? Signpost compte près de 30 programmes actifs dans le monde, avec plus de 6 millions d’utilisateurs Signpost en 2024.  

Cependant, les besoins d’information augmentent en même temps que le nombre de personnes déplacées. Pendant la crise de 2023 en Afghanistan, une publication sur Facebook a généré 30 000 messages en un mois, submergeant l’équipe locale de Signpost, composée de six modérateurs. En 2024, le projet Signpost, dirigé par l’IRC, a lancé Signpost AI pour améliorer la fourniture d’informations critiques grâce à des agents d’IA et à une surveillance humaine. Ce système vise à réduire la charge des modérateurs, leur permettant de se concentrer sur des cas plus complexes, tout en garantissant des réponses rapides et précises qui améliorent l’accès aux ressources et aux services pour les populations déplacées dans le monde entier. 

 

Construire une ruche de connaissances pour les apiculteurs en Inde : Buzzworthy Ventures

L’Inde reste une dynamo agricole mondiale, mais une chaîne de valeur agricole manque de buzz : l’apiculture. Il y a 400 000 apiculteurs à petite échelle en Inde, dont beaucoup ont du mal à maintenir leurs moyens de subsistance, sans parler d’améliorer le potentiel économique de la pollinisation par insectes pour améliorer les rendements des cultures. En Inde, la pollinisation par les insectes représente 22,52 milliards de dollars par an, bien au-delà de la taille du marché du miel et des produits de la ruche, mais le potentiel reste largement sous-utilisé pour les cultures essentielles à l’économie et à la nutrition de l’Inde. 

Buzzworthy Ventures a donc créé Beekind, une application mobile basée sur l’IA pour autonomiser les petits apiculteurs, en particulier les femmes, les petits propriétaires terriens, les agriculteurs sans terre et les populations tribales dans les communautés rurales et marginalisées. Il fournit des informations en temps réel et des analyses prédictives, aidant les apiculteurs à gérer la santé de leurs ruches, à diagnostiquer les maladies, à améliorer la production de miel et à s’adapter aux conditions climatiques changeantes.

 

Combler l’écart entre la santé et la richesse aux États-Unis : Link Health

Alister Martin, urgentiste, a souvent constaté que la pauvreté était le facteur déterminant des visites des patients aux urgences. Il s’est rendu compte que « l’argent comme médicament » – aider les patients à accéder à une aide en espèces et à des prestations fédérales – pourrait s’attaquer aux causes profondes de la mauvaise santé en comblant l’écart entre la santé et la richesse. 

Cela a conduit à la création de Link Health, un programme qui met les patients en relation avec des programmes d’aide fédérale non dépensés comme SNAP, WIC et Lifeline afin d’alléger la pression financière qui exacerbe les disparités en matière de santé. La plateforme d’inscription basée sur l’IA et le chatbot visent à débloquer 10 millions de dollars en prestations étatiques et fédérales pour réduire la pauvreté, réduire le stress financier et améliorer le bien-être.

Quel a été le plus grand défi dans la mise en œuvre de votre solution ?

Mercedes Bidart, PDG et co-fondatrice, Quipu

« Le plus grand défi a été d’obtenir le premier montant de capital pour commencer à prêter pour former nos scores. La création d’une nouvelle solution de souscription est comme le problème de l’œuf et de la poule : vous avez besoin de capital pour construire la solution, mais vous ne l’obtenez pas tant que vous ne l’avez pas testée. 

Sid Ravinutula, scientifique en chef des données, IDinsight

« Le premier défi est technique. Dans un contexte de soins de santé, les traitements et les recommandations doivent être précis à 100 % – il n’y a pas de place pour les hallucinations. Cela nécessite une approche différente de l’architecture populaire de génération augmentée par récupération. Nous devons construire un graphique qui capture avec précision les traitements et les protocoles de diagnostic.

« Le deuxième défi est de créer des benchmarks et des ensembles de validation représentatifs. Avant d’itérer et d’améliorer le modèle, nous avons besoin d’un ensemble de données de questions et de réponses que ces travailleurs sont susceptibles de poser. Cet ensemble de données doit englober tous les sujets sur lesquels ils peuvent se renseigner et rendre compte de la façon dont ils pourraient poser des questions - en utilisant des raccourcis, des termes familiers, des emojis, etc. La construction d’un ensemble de données de référence de haute qualité est coûteuse, car elle nécessite souvent une annotation humaine.

André Heller, chargé de programme, Signpost

« L’un des plus grands défis a été de développer des outils d’IA à la fois inclusifs et contextuellement précis. La formation de l’IA pour comprendre les langues minoritaires, les dialectes régionaux et les contenus culturellement nuancés nécessite une conservation approfondie des données, une expertise humaine et des tests. De plus, pour s’assurer que les réponses générées par l’IA respectent les principes humanitaires et ne perpétuent pas les préjugés, il a fallu mettre en place des garanties solides, telles qu’une surveillance humaine dans la boucle et des réécritures constitutionnelles pour un résultat éthique. Trouver un équilibre entre l’innovation et ces normes rigoureuses a été exigeant, mais essentiel.

Monika Shukla, PDG et cofondatrice, Buzzworthy Ventures

« Le principal défi consistait à combler le fossé entre la technologie d’IA avancée et son adoption dans les milieux ruraux de base. Alors que la connectivité Internet en Inde a connu une croissance exponentielle (avec plus de 700 millions d’internautes en 2023, en grande partie grâce à des smartphones abordables), l’accès reste inégal. Cette fracture numérique, associée à une couverture réseau inégale dans les forêts et les villages reculés, a constitué un obstacle majeur au déploiement de solutions basées sur l’IA qui nécessitent une connectivité et une interaction constantes avec les utilisateurs.

Alister Martin, chef de la direction, Link Health

« Naviguer et accéder aux prestations publiques peut être un obstacle pour de nombreuses familles. Cependant, le plus grand défi a été d’intégrer l’intervention de Link Health de manière transparente dans les milieux de soins de santé où les prestataires sont déjà débordés. Pour ce faire, il fallait établir la confiance entre les travailleurs de la santé, en veillant à ce que les navigateurs ne perturbent pas les soins aux patients tout en présentant des avantages mesurables pour les patients et les systèmes de santé.

 

 

Des femmes et une fille se rassemblent autour d’une tablette.

 

 

Comment vous assurez-vous que votre solution est à la fois sur mesure et inclusive ?

Mercedes Bidart, Quipu : « Pour atténuer les biais, nous utilisons des ensembles de données diversifiés, auditons régulièrement nos modèles d’IA et appliquons une validation humaine dans la boucle pour garantir des évaluations de crédit justes et équitables. Nos algorithmes sont rigoureusement testés pour prévenir les préjugés sexistes et raciaux, et nous les surveillons et les mettons à jour en permanence pour les aligner sur les normes éthiques. Nous fournissons également aux utilisateurs des processus de recours accessibles, leur permettant de contester ou de faire appel des décisions de l’IA.

Sid Ravinutula, IDinsight : « Tout d’abord, nous construisons cette solution en tant que solution open source. Nous espérons que cela accélérera le déploiement d’outils similaires dans d’autres contextes en permettant aux organisations de s’en inspirer pour répondre à leurs besoins spécifiques. Deuxièmement, nous veillons à ce qu’il puisse être facilement personnalisé et étendu aux contextes locaux. Cela inclut le respect des directives locales, le changement de modèles d’IA ou l’ajout de nouveaux garde-fous. En créant un modèle commun qui peut être adapté à chaque contexte, nous nous assurons que la solution est largement applicable tout en respectant les exigences uniques de chaque environnement. 

André Heller, Panneau indicateur : « Signpost AI est formé à l’aide de données sélectionnées et vérifiées provenant de sources fiables et d’ONG locales. Cela garantit que l’IA reflète les dialectes régionaux, les normes culturelles et les langues minoritaires, comblant ainsi les lacunes critiques pour les populations mal desservies. Les agents d’IA prennent en charge les saisies vocales et textuelles, ce qui permet l’accessibilité aux personnes peu alphabétisées. Les outils sont testés et affinés avec des locuteurs natifs et des modérateurs de la communauté pour valider l’exactitude et l’inclusivité. Notre Constitution sur l’IA établit démocratiquement des règles éthiques, y compris la non-discrimination et un langage sensible aux traumatismes, avec des audits continus pour atténuer les préjugés.

Monika Shukla, Buzzworthy Ventures : « Beekind adapte ses solutions technologiques et tactiles aux conditions régionales, écologiques et de culture spécifiques, en intégrant des facteurs hyperlocaux tels que le climat, la flore et les pratiques agricoles. Pour y parvenir, nous impliquons activement les apiculteurs locaux, les chercheurs, les experts agricoles et les leaders communautaires dans la coconception de pratiques, de modèles et de stratégies de mise en œuvre, en veillant à ce que la solution s’aligne sur les réalités vécues des personnes qu’elle sert. Nous donnons la priorité aux femmes et aux petits exploitants agricoles, qui contribuent de manière essentielle mais mal desservie à l’écosystème agricole indien. Par exemple, en proposant des formations sensibles au genre et en créant des espaces de dialogue inclusifs, nous donnons aux femmes les moyens de participer activement à la chaîne de valeur de l’apiculture et d’en bénéficier. L’inclusivité n’est pas seulement un principe ; C’est une pierre angulaire pratique de notre approche.

Alister Martin, Link Health : « Les navigateurs rencontrent les patients là où ils se trouvent – physiquement et émotionnellement – souvent dans les salles d’attente, et adaptent leur approche aux besoins spécifiques des patients, comme l’inscription des personnes âgées à des prestations telles que les programmes d’épargne Medicare. En concevant des systèmes qui privilégient l’accessibilité et utilisent des messagers communautaires de confiance, le programme s’assure de servir efficacement des populations diversifiées, en particulier les communautés mal desservies.

Quelle est votre plus grande préoccupation concernant l’IA ?

Mercedes Bidart, Quipu : « L’élément le plus important lors de la création de modèles d’IA est l’ensemble de données. Un bon modèle est un modèle qui a un résultat bon et équitable, et la seule façon de rendre cela possible est d’entraîner des modèles avec des ensembles de données diversifiés qui représentent les particularités de chaque région. L’autre pièce importante du puzzle est la personne/l’équipe qui construit le modèle. Seulement 20 % des emplois dans le domaine de l’IA sont occupés par des femmes, ce qui signifie que les résultats ne sont pas examinés sous l’angle du genre. Nous avons besoin de plus de femmes à la tête des solutions d’IA.

Sid Ravinutula, IDinsight : « La fiabilité. Dans le domaine des soins de santé, un diagnostic incorrect ou un traitement incomplet peut avoir des conséquences catastrophiques. Cependant, les modèles d’IA présentent intrinsèquement un caractère aléatoire. Par exemple, poser plusieurs fois la même question à une IA peut donner des réponses légèrement différentes. De même, la reformulation d’une question peut produire des réponses différentes. Bien que la plupart des réponses transmettent probablement le même message, certaines peuvent être incomplètes ou trompeuses, ce qui peut causer un préjudice. Des garde-fous solides sont essentiels pour s’assurer que toutes les réponses sont correctes, complètes et respectueuses.

André Heller, Panneau indicateur : « La plus grande préoccupation est le potentiel de l’IA à causer des dommages par le biais de préjugés, de désinformation ou d’exclusion. Pour les populations vulnérables, des informations incorrectes peuvent avoir des conséquences qui changent la vie. S’assurer que l’IA est contextuellement exacte, transparente et éthique nécessite une surveillance constante, des tests et une collaboration avec des experts locaux. Nous y remédions en mettant en œuvre une surveillance humaine pour le contrôle de la qualité, des audits de biais et des examens éthiques pour affiner les réponses, ainsi que des cadres transparents comme la Constitution de l’IA, qui régit les résultats et atténue les risques préjudiciables. Nous restons vigilants quant à l’équilibre entre l’innovation en matière d’IA, la responsabilité et la confiance.

Monika Shukla, Buzzworthy Ventures : « Lorsque les modèles d’IA sont entraînés à l’aide de données qui ne sont pas entièrement représentatives des communautés qu’ils visent à servir, il y a un risque de renforcer les inégalités existantes. Par exemple, de nombreux systèmes d’IA sont formés à l’aide de données dans les principales langues, ce qui laisse les dialectes locaux et les langues orales sous-représentés. En Inde, de nombreuses communautés tribales et régionales parlent des langues qui manquent souvent d’ensembles de données numériques solides. Ce manque de représentation peut mener à des modèles qui ne parviennent pas à interpréter correctement les besoins de ces communautés ou à y répondre. De plus, les accents régionaux, les modèles de discours et les pratiques vécues sont souvent négligés, ce qui rend les solutions d’IA moins efficaces, voire nuisibles, pour ces groupes.

Alister Martin, Link Health : "La plus grande préoccupation est le risque que les systèmes d'IA perpétuent les préjugés existants, en particulier lorsqu'ils travaillent avec des populations mal desservies. Sans une surveillance attentive, les algorithmes pourraient exclure par inadvertance les personnes les plus démunies ou ne pas tenir compte des inégalités systémiques auxquelles elles sont confrontées. Il est essentiel de garantir la transparence, la responsabilité et l'utilisation éthique de l'IA dans la prise de décision afin d'éviter d'exacerber les disparités. C'est également la raison pour laquelle nous gardons les humains dans la boucle à des moments critiques du processus - et pourquoi nous continuerons à garder les humains dans la boucle au fur et à mesure que nous faisons évoluer nos outils d'IA". 

Quel secteur en dehors du vôtre a le potentiel de bénéficier le plus de l’IA ?

Mercedes Bidart, Quipu : « Le secteur de l’éducation. Je crois que l’éducation a changé et que nous avons la possibilité de la démocratiser. Ce que nous avons fait à Quipu autour de l’éducation, c’est un assistant IA de génération sur WhatsApp qui soutient nos clients dans la gestion de leur entreprise. Il n’est pas nécessaire d’avoir un consultant par entreprise. Avec un seul bot, nous pouvons soutenir l’éducation et la croissance de millions de personnes.

Sid Ravinutula, IDinsight: « IDinsight est agnostique vis-à-vis du secteur. Bien que ce projet se concentre sur la santé, nous avons développé des solutions d’IA dans l’éducation et la protection sociale. Les agriculteurs sont confrontés à des obstacles similaires à l’information en tant qu’agents de santé communautaires. Ils ont besoin de connaître les meilleures cultures à cultiver pour leur région, les mélanges d’engrais optimaux et l’aide pour diagnostiquer les maladies des cultures et les traitements. Dans le domaine de l’éducation, les cas d’utilisation de l’IA comprennent des tuteurs personnalisés, des plans de cours générés par l’IA et des évaluations alimentées par l’IA. Nous avons utilisé l’IA pour identifier les filles non scolarisées en Inde pour une ONG qui s’efforce d’augmenter le taux de scolarisation des filles. Enfin, l’IA peut aider les citoyens à accéder aux prestations gouvernementales. Il peut aider à déterminer l’admissibilité et à naviguer dans le processus complexe de demande.

André Heller, Signpost: « Avec les progrès de l’IA, il est difficile d’imaginer un secteur qui ne sera pas transformé. La question est de savoir quand – deux ans ou cinq ans ? Des opérations commerciales à l’analyse des données, en passant par les diagnostics dans les soins de santé et la recherche dans pratiquement tous les domaines, tout progressera à un rythme que nous n’avons pas encore vu. Il s’agit simplement de savoir quand les gens seront en mesure d’en faire un usage efficace. Un exemple concret : le lien entre la météorologie et la gestion des catastrophes. Les alertes météorologiques et les systèmes d’alerte précoce en cas de catastrophe, tels que les inondations, les ouragans, les sécheresses et les événements météorologiques extrêmes, recèlent un immense potentiel pour bénéficier de l’IA. Les modèles d’IA avancés peuvent analyser les données météorologiques et hydrologiques en temps réel pour prévoir les catastrophes avec plus de précision et fournir des alertes précoces à une réponse plus holistique qui inclut les personnes vulnérables, les entreprises locales, les chaînes d’approvisionnement et le gouvernement. Signpost a déjà commencé à tirer parti de l’IA pour répondre aux inondations grâce à FloodHub, en combinant les prédictions de l’IA avec des mises à jour exploitables en temps réel pour aider les communautés à se préparer et à atténuer l’impact des inondations.

Monika Shukla, Buzzworthy Ventures: « Le secteur des soins de santé devrait bénéficier considérablement de l’IA, en particulier dans les domaines du diagnostic, de la médecine personnalisée et de l’optimisation des chaînes d’approvisionnement des soins de santé, en particulier dans les zones rurales. Les outils alimentés par l’IA peuvent aider à la détection précoce de maladies comme le paludisme et la tuberculose grâce à des images médicales ou des tests de diagnostic. Par exemple, les modèles d’IA peuvent analyser des radiographies pulmonaires ou des échantillons de sang pour détecter les premiers signes de maladie, même dans les milieux à faibles ressources. Cela peut conduire à des diagnostics et des traitements plus rapides, ce qui permet de sauver des vies et de réduire les coûts des soins de santé dans les régions mal desservies. L’IA peut également rationaliser la logistique des systèmes de soins de santé à distance, en assurant la livraison rapide de fournitures médicales et de vaccins dans les zones mal desservies, ce qui est crucial pour les pays à forte population rurale.

Alister Martin, Link Health : « L’éducation a tout à gagner de l’IA, en particulier pour personnaliser les expériences d’apprentissage des élèves défavorisés. L’IA peut aider à identifier les lacunes dans l’apprentissage, fournir un soutien personnalisé et offrir des ressources multilingues aux élèves et aux familles d’une manière que les modèles traditionnels ne peuvent pas faire. En s’attaquant aux inégalités dans l’accès à une éducation de qualité, l’IA pourrait avoir un impact transformateur sur la santé et les résultats socioéconomiques futurs.