Passer au contenu principal

AI

7 janvier 2025

 

L'IA pour tous : Leçons tirées de l'intersection de la technologie et de l'inclusion

Ces experts de l'exploitation de l'IA pour le bien social partagent leurs idées sur la mise en place d'une IA inclusive.

Vicki Hyman

Directeur de la communication, Mastercard

 

De l'octroi de crédits aux micro-entrepreneurs colombiens à la réduction des taux de morbidité maternelle en Éthiopie, en passant par la fourniture d'informations vitales aux réfugiés du monde entier, la puissance de l'intelligence artificielle s'accompagne d'un potentiel d'inclusion et d'autonomisation économique.

Redéfinissant la manière d'utiliser l'IA pour l'impact social, cinq organisations développeront et mettront à l'échelle leurs solutions en tant que gagnants du défi de l'intelligence artificielle pour accélérer l'inclusion, qui a reçu plus de 500 soumissions à travers 82 pays. Les lauréats - parmi lesquels figurent également une entreprise sociale pour les petits apiculteurs en Inde et une initiative américaine qui met en relation des patients avec des prestations fédérales sous-utilisées - recevront 200 000 dollars et bénéficieront d'une assistance technique et d'un mentorat avec Mastercard et data.org, qui a parrainé le défi.

La salle de presse de Mastercard s'est entretenue avec des dirigeants des organisations gagnantes sur les défis que représente la création de solutions d'IA dans le secteur social, sur la manière dont ils atténuent les préjugés et forment leurs modèles à l'inclusion, et sur les autres secteurs les plus prometteurs pour la technologie.

Combler le déficit de financement des petites entreprises en Colombie : Quipu

En Colombie, près de 6 millions d'entreprises sont des microentreprises, c'est-à-dire qu'elles emploient moins de 10 personnes et disposent d'un faible capital. Parmi eux, seuls 9 % peuvent emprunter officiellement, en raison du manque d'informations sur leurs performances et de l'absence d'antécédents financiers, ce qui crée un énorme déficit de financement.

Quipu comble le manque d'information dans l'économie informelle en utilisant l'IA pour évaluer plus précisément la solvabilité de ces petites entreprises grâce à un modèle de notation qui analyse des données non traditionnelles, telles que l'historique des transactions mobiles, les interactions avec les médias sociaux, les SMS et les habitudes de paiement, ainsi que les décaissements et la collecte de crédit intelligents. Elle propose également une plateforme de financement et des microcrédits qui permettent à ces entreprises d'établir un score de crédit alternatif basé sur des informations financières et non financières. Grâce à l'application Quipu, les clients peuvent demander en quelques minutes des fonds de roulement qui sont décaissés en moins de deux jours.

 

Renforcer les soins de santé communautaires en Éthiopie : IDinsight

Il y a vingt ans, l'Éthiopie a lancé un nouveau modèle de soins de santé en milieu rural, en formant et en déployant des milliers d'agents de vulgarisation sanitaire au service des communautés locales, ce qui a permis d'améliorer considérablement la santé maternelle et infantile et de réduire le nombre de nouvelles infections par le VIH et de décès liés à la tuberculose et au paludisme, pour n'en citer que quelques-uns.

Pour tirer parti de ce succès, IDinsight s'associe à Last Mile Health et au ministère éthiopien de la Santé pour mettre en place un centre d'appel alimenté par l'IA que les agents de vulgarisation sanitaire peuvent contacter pour obtenir des conseils médicaux en temps réel sur des cas complexes. La solution d'IA de l'organisation comprendra un système de gestion des cas et un service de réponse aux questions basé sur les directives complètes du ministère de la santé, fournissant un soutien en temps réel aux agents du centre d'appel qui relaieront ensuite les informations critiques aux travailleurs de la santé par téléphone, leur permettant ainsi de se concentrer sur les soins aux patients et de fournir des soins de santé de haute qualité.

 

Fournir des informations vitales aux personnes en situation de crise dans le monde entier : Le projet Signpost du Comité international de secours

Un nombre record de 120 millions de personnes sont déplacées dans le monde en raison de conflits, de catastrophes naturelles, de la pauvreté et de la violence. Les personnes touchées par une crise doivent prendre des décisions cruciales, qui changent leur vie, tout au long de leur voyage vers la sécurité, en disposant de peu d'informations. En 2015, le Comité international de secours a lancé le projet Signpost, qui met en place des centres d'aide numériques permettant aux utilisateurs de trouver des informations précises et opportunes, d'accéder à des services essentiels et de poser des questions directes à des modérateurs locaux, telles que : "Comment puis-je accéder à un logement ? Pourrai-je obtenir un permis de travail temporaire ? Puis-je inscrire mes enfants à l'école ? Signpost compte près de 30 programmes actifs dans le monde entier, avec plus de 6 millions d'utilisateurs de Signpost en 2024.  

Cependant, les besoins en information augmentent avec le nombre de personnes déplacées. Lors de la crise de 2023 en Afghanistan, une publication sur Facebook a donné lieu à 30 000 messages en l'espace d'un mois, submergeant l'équipe locale de Signpost composée de six modérateurs. En 2024, le projet Signpost, dirigé par l'IRC, a lancé Signpost AI afin d'améliorer la diffusion d'informations critiques grâce à des agents d'intelligence artificielle et à une supervision humaine. Ce système vise à réduire la charge de travail des modérateurs et à leur permettre de se concentrer sur des cas plus complexes, tout en garantissant des réponses rapides et précises qui améliorent l'accès aux ressources et aux services pour les populations déplacées dans le monde. 

 

Construire une ruche de connaissances pour les apiculteurs en Inde : Buzzworthy Ventures

L'Inde reste un moteur de l'agriculture mondiale, mais une chaîne de valeur agricole manque de dynamisme : l'apiculture. L'Inde compte 400 000 petits apiculteurs, dont beaucoup luttent pour assurer leur subsistance, sans parler du potentiel économique de la pollinisation par les insectes pour améliorer le rendement des cultures. En Inde, la pollinisation par les insectes représente 22,52 milliards de dollars par an, ce qui dépasse largement la taille du marché du miel et des produits de la ruche, mais le potentiel reste largement sous-utilisé pour des cultures essentielles à l'économie et à la nutrition du pays. 

Buzzworthy Ventures a donc créé Beekind, une application mobile pilotée par l'IA qui vise à autonomiser les petits apiculteurs, en particulier les femmes, les petits propriétaires terriens, les agriculteurs sans terre et les populations tribales dans les communautés rurales et marginalisées. Il fournit des informations en temps réel et des analyses prédictives, aidant les apiculteurs à gérer la santé de leurs ruches, à diagnostiquer les maladies, à améliorer la production de miel et à s'adapter à l'évolution des conditions climatiques.

 

Combler le fossé entre la santé et la richesse aux États-Unis : Link Health

Le médecin urgentiste Alister Martin a souvent constaté que la pauvreté était le facteur déterminant des visites des patients au service des urgences. Il s'est rendu compte que "l'argent en tant que médicament" - aider les patients à accéder à l'aide financière et aux prestations fédérales - pouvait s'attaquer aux causes profondes de la mauvaise santé en comblant le fossé entre la santé et la richesse. 

Cela a conduit à la création de Link Health, un programme qui met les patients en relation avec des programmes d'aide fédérale non dépensés tels que SNAP, WIC et Lifeline, afin d'alléger les contraintes financières qui exacerbent les disparités en matière de santé. La plateforme d'inscription et le chatbot basés sur l'IA visent à débloquer 10 millions de dollars en prestations de l'État et du gouvernement fédéral pour réduire la pauvreté, diminuer le stress financier et améliorer le bien-être.

Quel a été le plus grand défi à relever pour faire décoller votre solution ?

Mercedes Bidart, PDG et cofondatrice de Quipu

"Le plus grand défi a été d'obtenir le premier montant de capital pour commencer à prêter afin de former nos scores. La création d'une nouvelle solution de souscription s'apparente au problème de la poule et de l'œuf : vous avez besoin de capitaux pour construire la solution, mais vous ne les obtenez pas tant que vous ne l'avez pas testée". 

Sid Ravinutula, scientifique en chef des données, IDinsight

"Le premier défi est d'ordre technique. Dans un contexte de soins de santé, les traitements et les recommandations doivent être 100% exacts - il n'y a pas de place pour les hallucinations. Cela nécessite une approche différente de l'architecture populaire de génération augmentée par la recherche. Nous devons construire un graphique qui rende compte avec précision des traitements et des protocoles de diagnostic.

"Le deuxième défi consiste à créer des références et des ensembles de validation représentatifs. Avant d'itérer et d'améliorer le modèle, nous avons besoin d'un ensemble de questions et de réponses que ces travailleurs sont susceptibles de poser. Cet ensemble de données doit englober tous les sujets sur lesquels ils peuvent se renseigner et tenir compte de la manière dont ils peuvent poser des questions - en utilisant des abréviations, des termes familiers, des émojis, etc. La constitution d'un ensemble de données de référence de haute qualité est coûteuse, car elle nécessite souvent une annotation humaine."

André Heller, gestionnaire de programme, Signpost

"L'un des plus grands défis a été de développer des outils d'IA qui soient à la fois inclusifs et précis sur le plan contextuel. Former l'IA à comprendre les langues minoritaires, les dialectes régionaux et les contenus culturellement nuancés nécessite une collecte de données approfondie, une expertise humaine et des tests. En outre, pour s'assurer que les réponses générées par l'IA respectent les principes humanitaires et ne perpétuent pas les préjugés, il a fallu mettre en place des garde-fous solides, tels que la surveillance humaine dans la boucle et la réécriture de la constitution pour les résultats éthiques. L'équilibre entre l'innovation et ces normes rigoureuses a été exigeant mais essentiel".

Monika Shukla, PDG et cofondatrice de Buzzworthy Ventures

"Le principal défi consiste à combler le fossé entre la technologie avancée de l'IA et son adoption dans des environnements ruraux de base. Si la connectivité à l'internet en Inde a connu une croissance exponentielle - avec plus de 700 millions d'internautes en 2023, en grande partie grâce à des smartphones abordables - l'accès reste inégal. Cette fracture numérique, associée à une couverture réseau inégale dans les forêts et les villages reculés, a constitué un obstacle important au déploiement de solutions pilotées par l'IA qui nécessitent une connectivité et une interaction avec l'utilisateur constantes."

Alister Martin, directeur général de Link Health

"L'accès aux prestations publiques peut être un obstacle pour de nombreuses familles. Cependant, le plus grand défi a été d'intégrer l'intervention de Link Health de manière transparente dans les établissements de soins de santé où les prestataires sont déjà débordés. Pour ce faire, il a fallu instaurer un climat de confiance entre les professionnels de la santé, veiller à ce que les navigateurs ne perturbent pas les soins prodigués aux patients et démontrer des avantages mesurables pour les patients et les systèmes de santé".

 

 

Des femmes et une jeune fille se réunissent autour d'une tablette.

 

 

Comment vous assurer que votre solution est à la fois sur mesure et inclusive ?

Mercedes Bidart, Quipu : "Pour atténuer les préjugés, nous utilisons divers ensembles de données, nous vérifions régulièrement nos modèles d'IA et nous appliquons une validation humaine dans la boucle pour garantir des évaluations de crédit justes et équitables. Our algorithms are rigorously tested to prevent gender and racial bias, and we continuously monitor and update them to align with ethical standards. Nous offrons également aux utilisateurs des procédures de recours accessibles, leur permettant de contester ou de faire appel des décisions de l'IA".

Sid Ravinutula, IDinsight : "Tout d'abord, il s'agit d'une solution à code source ouvert. Nous espérons que cela accélérera le déploiement d'outils similaires dans d'autres contextes en permettant aux organisations de s'en inspirer pour répondre à leurs besoins spécifiques. Deuxièmement, nous veillons à ce qu'il puisse être facilement adapté et étendu aux contextes locaux. Il s'agit notamment d'adhérer aux directives locales, de changer de modèle d'IA ou d'ajouter de nouveaux garde-fous. En créant un modèle commun qui peut être adapté à chaque contexte, nous nous assurons que la solution est largement applicable tout en respectant les exigences uniques de chaque environnement". 

André Heller, Signpost : "L'IA de Signpost est formée à l'aide de données vérifiées provenant de sources fiables et d'ONG locales. Cela garantit que l'IA reflète les dialectes régionaux, les normes culturelles et les langues minoritaires, comblant ainsi des lacunes critiques pour les populations mal desservies. Les agents d'intelligence artificielle prennent en charge les entrées vocales et textuelles, ce qui permet aux personnes faiblement alphabétisées d'y avoir accès. Les outils sont testés et affinés avec des locuteurs natifs et des modérateurs de communautés afin de valider l'exactitude et l'inclusivité. Notre Constitution de l'IA établit démocratiquement des règles éthiques, y compris la non-discrimination et un langage tenant compte des traumatismes, avec des audits continus pour atténuer les préjugés".

Monika Shukla, Buzzworthy Ventures : "Beekind adapte ses solutions technologiques et tactiles aux conditions régionales, écologiques et culturales spécifiques, en intégrant des facteurs hyperlocaux tels que le climat, la flore et les pratiques agricoles. Pour ce faire, nous impliquons activement les apiculteurs locaux, les chercheurs, les experts agricoles et les responsables communautaires dans la conception de pratiques, de modèles et de stratégies de mise en œuvre, en veillant à ce que la solution corresponde aux réalités vécues par les personnes qu'elle sert. Nous accordons la priorité aux femmes et aux petits exploitants agricoles, qui jouent un rôle essentiel dans l'écosystème agricole indien, mais qui sont encore mal desservis. Par exemple, en proposant des formations tenant compte de la dimension de genre et en créant des espaces de dialogue ouverts à tous, nous donnons aux femmes les moyens de participer activement à la chaîne de valeur de l'apiculture et d'en tirer profit. L'inclusion n'est pas seulement un principe, c'est la pierre angulaire de notre approche".

Alister Martin, Link Health : "Les navigateurs rencontrent les patients là où ils se trouvent - physiquement et émotionnellement - souvent dans les salles d'attente, et adaptent leur approche aux besoins spécifiques des patients, par exemple en inscrivant les adultes plus âgés à des programmes d'épargne médicale (Medicare Savings Programs). En concevant des systèmes qui privilégient l'accessibilité et le recours à des messagers communautaires de confiance, le programme s'assure de servir efficacement des populations diverses, en particulier les communautés mal desservies".

Quelle est votre principale préoccupation en matière d'IA ?

Mercedes Bidart, Quipu : "L'élément le plus important lors de la construction de modèles d'IA est l'ensemble de données. Un bon modèle est un modèle dont les résultats sont bons et équitables, et le seul moyen d'y parvenir est d'entraîner les modèles à l'aide de divers ensembles de données qui représentent les particularités de chaque région. L'autre pièce importante du puzzle est la personne/l'équipe qui construit le modèle. Seulement 20% des emplois dans le domaine de l'IA sont occupés par des femmes, ce qui signifie que les résultats ne sont pas examinés sous l'angle de l'égalité des sexes. Nous avons besoin de plus de femmes à la tête de solutions d'IA".

Sid Ravinutula, IDinsight : "Fiabilité. Dans le domaine des soins de santé, un diagnostic erroné ou un traitement incomplet peuvent avoir des conséquences catastrophiques. Cependant, les modèles d'IA sont intrinsèquement aléatoires. Par exemple, le fait de poser plusieurs fois la même question à une IA peut donner lieu à des réponses légèrement différentes. De même, la reformulation d'une question peut produire des réponses différentes. Si la plupart des réponses transmettent le même message, certaines peuvent être incomplètes ou trompeuses, ce qui peut être préjudiciable. Des garde-fous solides sont essentiels pour garantir que toutes les réponses sont correctes, complètes et respectueuses".

André Heller, Signpost : "La plus grande inquiétude concerne le potentiel de l'IA à causer du tort par le biais de la partialité, de la désinformation ou de l'exclusion. Pour les populations vulnérables, des informations incorrectes peuvent avoir des conséquences qui changent la vie. Garantir la précision contextuelle, la transparence et l'éthique de l'IA nécessite une surveillance constante, des tests et une collaboration avec des experts locaux. Pour y remédier, nous mettons en place une surveillance humaine en boucle pour le contrôle de la qualité, des audits de partialité et des examens éthiques pour affiner les réponses, ainsi que des cadres transparents tels que la Constitution de l'IA, qui régit les résultats et atténue les risques néfastes. Nous restons vigilants quant à l'équilibre à trouver entre l'innovation en matière d'IA et la responsabilité et la confiance".

Monika Shukla, Buzzworthy Ventures : "Lorsque les modèles d'IA sont formés à l'aide de données qui ne sont pas entièrement représentatives des communautés qu'ils visent à servir, il y a un risque de renforcer les inégalités existantes. Par exemple, de nombreux systèmes d'IA sont formés à l'aide de données dans les langues principales, ce qui laisse les dialectes locaux et les langues orales sous-représentés. En Inde, de nombreuses communautés tribales et régionales parlent des langues qui manquent souvent d'ensembles de données numériques solides. Ce manque de représentation peut conduire à des modèles qui n'interprètent pas correctement les besoins de ces communautés ou n'y répondent pas. En outre, les accents régionaux, les modes d'élocution et les pratiques courantes sont souvent négligés, ce qui rend les solutions d'IA moins efficaces, voire nuisibles, pour ces groupes".

Alister Martin, Link Health : "La plus grande préoccupation est le risque que les systèmes d'IA perpétuent les préjugés existants, en particulier lorsqu'ils travaillent avec des populations mal desservies. Sans une surveillance attentive, les algorithmes pourraient exclure par inadvertance les personnes les plus démunies ou ne pas tenir compte des inégalités systémiques auxquelles elles sont confrontées. Il est essentiel de garantir la transparence, la responsabilité et l'utilisation éthique de l'IA dans la prise de décision afin d'éviter d'exacerber les disparités. C'est également la raison pour laquelle nous gardons les humains dans la boucle à des moments critiques du processus - et pourquoi nous continuerons à garder les humains dans la boucle au fur et à mesure que nous faisons évoluer nos outils d'IA". 

Quel secteur, en dehors du vôtre, est susceptible de bénéficier le plus de l'IA ?

Mercedes Bidart, Quipu : "Le secteur de l'éducation. Je pense que l'éducation a changé et que nous avons la possibilité de la rendre plus démocratique. Ce que nous avons fait avec Quipu autour de l'éducation, c'est un assistant d'intelligence artificielle sur WhatsApp qui aide nos clients à gérer leur entreprise. Il n'est pas nécessaire d'avoir un consultant par entreprise. Avec un seul bot, nous pouvons soutenir l'éducation et la croissance de millions de personnes".

Sid Ravinutula, IDinsight: "IDinsight ne s'intéresse pas au secteur. Bien que ce projet soit axé sur la santé, nous avons développé des solutions d'IA dans les domaines de l'éducation et de la protection sociale. Les agriculteurs sont confrontés aux mêmes obstacles à l'information que les agents de santé communautaires. Ils ont besoin de connaître les meilleures cultures pour leur région et les mélanges d'engrais optimaux, ainsi que d'aide pour diagnostiquer les maladies des cultures et les traitements. Dans le domaine de l'éducation, les cas d'utilisation de l'IA comprennent les tuteurs personnalisés, les plans de cours générés par l'IA et les évaluations alimentées par l'IA. Nous avons utilisé l'IA pour identifier les filles non scolarisées en Inde pour le compte d'une ONG qui s'efforce d'accroître la scolarisation des filles. Enfin, l'IA peut aider les citoyens à accéder aux prestations publiques. Il peut aider à déterminer l'éligibilité et à s'orienter dans le processus complexe de la demande".

André Heller, Signpost: "Avec les progrès de l'IA, il est difficile d'imaginer un secteur qui ne sera pas transformé. La question est de savoir quand - deux ans ou cinq ans ? Des opérations commerciales à l'analyse des données, en passant par les diagnostics dans le domaine des soins de santé et la recherche dans pratiquement tous les domaines, tout progressera à un rythme que nous n'avons pas encore connu. Il s'agit simplement de savoir quand les gens seront en mesure de l'utiliser efficacement. Un exemple pratique : le lien entre la météorologie et la gestion des catastrophes. Les alertes météorologiques et les systèmes d'alerte précoce en cas de catastrophe, comme les inondations, les ouragans, les sécheresses et les événements météorologiques extrêmes, présentent un immense potentiel pour bénéficier de l'IA. Des modèles d'IA avancés peuvent analyser les données météorologiques et hydrologiques en temps réel pour prévoir les catastrophes avec plus de précision et fournir des alertes précoces pour une réponse plus holistique qui inclut les personnes vulnérables, les entreprises locales, les chaînes d'approvisionnement et le gouvernement. Signpost a déjà commencé à tirer parti de l'IA pour répondre aux inondations grâce à FloodHub, en combinant les prédictions de l'IA avec des mises à jour exploitables en temps réel pour aider les communautés à se préparer aux inondations et à en atténuer l'impact."

Monika Shukla, Buzzworthy Ventures: "Le secteur des soins de santé devrait bénéficier considérablement de l'IA, en particulier dans les domaines du diagnostic, de la médecine personnalisée et de l'optimisation des chaînes d'approvisionnement en soins de santé, notamment dans les zones rurales. Les outils alimentés par l'IA peuvent contribuer à la détection précoce de maladies telles que le paludisme et la tuberculose par le biais d'images médicales ou de tests de diagnostic. Par exemple, les modèles d'IA peuvent analyser des radiographies du thorax ou des échantillons de sang pour détecter les premiers signes de maladie, même dans des environnements à faibles ressources. Cela peut conduire à des diagnostics et des traitements plus rapides, ce qui permet de sauver des vies et de réduire les coûts des soins de santé dans les régions mal desservies. L'IA peut également rationaliser la logistique dans les systèmes de soins de santé éloignés, en garantissant la livraison en temps voulu des fournitures médicales et des vaccins dans les zones mal desservies, ce qui est crucial pour les pays à forte population rurale."

Alister Martin, Link Health : "L'éducation devrait bénéficier grandement de l'IA, en particulier pour personnaliser les expériences d'apprentissage pour les étudiants défavorisés. L'IA peut aider à identifier les lacunes en matière d'apprentissage, fournir un soutien personnalisé et offrir des ressources multilingues aux élèves et aux familles d'une manière que les modèles traditionnels ne peuvent pas offrir. En s'attaquant aux inégalités d'accès à une éducation de qualité, l'IA pourrait avoir un impact transformateur sur la santé et les résultats socio-économiques futurs".