Skip to main content

AI

7 januari 2025

 

AI voor iedereen: lessen uit het snijvlak van technologie en inclusie

Deze experts in het inzetten van AI voor sociaal welzijn delen hun inzichten over het opschalen van inclusieve AI.

Vicki Hyman

Directeur, Communicatie, Mastercard

 

Van het verstrekken van krediet aan Colombiaanse micro-ondernemers tot het verlagen van het moedersterftecijfer in Ethiopië en het leveren van levensreddende informatie aan vluchtelingen over de hele wereld, de kracht van kunstmatige intelligentie wordt gekoppeld aan het potentieel voor inclusie en economische empowerment.

Vijf organisaties zullen hun oplossingen ontwikkelen en opschalen als winnaars van de Artificial Intelligence to Accelerate Inclusion Challenge, die meer dan 500 inzendingen in 82 landen heeft ontvangen. De winnaars - waaronder ook een sociale onderneming voor kleinschalige imkers in India en een Amerikaans initiatief dat patiënten verbindt met onderbenutte federale voordelen - ontvangen $ 200.000 en technische assistentie en mentorschap met Mastercard en data.org, die de uitdaging sponsorde.

De Mastercard Newsroom sprak met leiders van de winnende organisaties over de uitdagingen van het bouwen van AI-oplossingen in de sociale sector, hoe ze vooroordelen beperken en hun modellen trainen om inclusief te zijn, en welke andere sectoren de meeste belofte inhouden voor de technologie.

Het overbruggen van de financieringskloof voor kleine bedrijven in Colombia: Quipu

In Colombia zijn bijna 6 miljoen bedrijven micro-ondernemingen, die werken met minder dan 10 werknemers en een klein kapitaal. Van hen kan slechts 9 procent formeel lenen, vanwege een gebrek aan informatie over hun prestaties en het ontbreken van een financiële geschiedenis, en dit creëert een enorm financieringstekort.

Quipu overbrugt de informatiekloof in de informele economie door AI te gebruiken om de kredietwaardigheid van deze kleinere ondernemingen nauwkeuriger te beoordelen door middel van een scoremodel dat niet-traditionele gegevens analyseert, zoals mobiele transactiegeschiedenissen, interacties op sociale media, sms- en betalingspatronen, en intelligente uitbetaling en kredietverzameling. Het biedt ook een financieringsplatform en microleningen waarmee deze bedrijven een alternatieve kredietscore kunnen opbouwen op basis van zowel financiële als niet-financiële informatie. Via de app van Quipu kunnen klanten binnen enkele minuten werkkapitaal aanvragen dat in minder dan twee dagen wordt uitbetaald.

 

Versterking van de gezondheidszorg in Ethiopië: IDinsight

Twee decennia geleden lanceerde Ethiopië een nieuw model voor gezondheidszorg op het platteland, waarbij duizenden gezondheidsvoorlichters werden opgeleid en ingezet om lokale gemeenschappen te helpen, wat heeft geresulteerd in aanzienlijke verbeteringen in de gezondheid van moeders en kinderen, en een afname van nieuwe hiv-infecties en tuberculose- en malariagerelateerde sterfgevallen, om er maar een paar te noemen.

Om op dat succes voort te bouwen, werkt IDinsight samen met Last Mile Health en het Ethiopische ministerie van Volksgezondheid aan een AI-aangedreven callcenter waarmee de gezondheidsvoorlichters contact kunnen opnemen voor realtime medische begeleiding bij complexe gevallen. De AI-oplossing van de organisatie omvat een casemanagementsysteem en een vraagbeantwoordingsservice op basis van uitgebreide richtlijnen van het ministerie van Volksgezondheid, die realtime ondersteuning bieden aan callcentermedewerkers die kritieke informatie verder via de telefoon aan de gezondheidswerkers zullen doorgeven, zodat ze zich kunnen concentreren op patiëntenzorg en het leveren van hoogwaardige gezondheidszorg.

 

Levensreddende informatie verstrekken aan mensen in crisis over de hele wereld: het Signpost-project van het International Rescue Committee

Wereldwijd is een recordaantal van 120 miljoen mensen ontheemd door conflicten, natuurrampen, armoede en geweld. Mensen die getroffen worden door een crisis moeten met beperkte informatie cruciale, levensveranderende beslissingen nemen tijdens hun reis naar veiligheid. In 2015 lanceerde het International Rescue Committee het Signpost Project, dat digitale hulpcentra opzet waar gebruikers accurate en tijdige informatie kunnen vinden, toegang kunnen krijgen tot essentiële diensten en rechtstreeks vragen kunnen stellen aan lokale moderatoren, zoals: Hoe krijg ik toegang tot huisvesting? Kan ik een tijdelijke werkvergunning krijgen? Kan ik mijn kinderen inschrijven op school? Signpost heeft bijna 30 actieve programma's wereldwijd, met meer dan 6 miljoen Signpost gebruikers in 2024.  

De behoefte aan informatie neemt echter toe met het aantal ontheemden. Tijdens de crisis van 2023 in Afghanistan leidde één Facebookbericht binnen een maand tot 30.000 berichten, waardoor het lokale Signpost-team van zes moderatoren overweldigd werd. In 2024 lanceerde het door het IRC geleide Signpost Project Signpost AI om de levering van kritieke informatie te verbeteren door middel van AI-agenten en menselijk toezicht. Dit systeem is erop gericht om de last voor moderatoren te verminderen, zodat zij zich kunnen richten op complexere zaken, en tegelijkertijd te zorgen voor tijdige en accurate antwoorden die de toegang tot hulpbronnen en diensten voor ontheemde bevolkingsgroepen wereldwijd verbeteren. 

 

Het opbouwen van een bijenkorf van kennis voor imkers in India: Buzzworthy Ventures

India is nog steeds een wereldwijde agrarische dynamo, maar één agrarische waardeketen heeft een gebrek aan animo: de bijenteelt. Er zijn 400.000 kleinschalige imkers in India, van wie velen worstelen om in hun levensonderhoud te voorzien, laat staan om het economische potentieel van insectenbestuiving voor het verbeteren van gewasopbrengsten te vergroten. In India draagt bestuiving door insecten $22,52 miljard per jaar bij, veel meer dan de marktomvang van honing en bijenkorfproducten, maar het potentieel blijft enorm onderbenut voor gewassen die essentieel zijn voor de Indiase economie en voeding. 

Dus creëerde Buzzworthy Ventures Beekind, een AI-gestuurde mobiele applicatie om kleinschalige imkers te versterken, met name vrouwen, kleine grondbezitters, landloze boeren en tribale bevolkingsgroepen in landelijke en gemarginaliseerde gemeenschappen. Het biedt realtime inzichten en voorspellende analyses, waardoor imkers de gezondheid van hun bijenkorf kunnen beheren, ziekten kunnen diagnosticeren, de honingproductie kunnen verbeteren en zich kunnen aanpassen aan veranderende klimaatomstandigheden.

 

Het dichten van de kloof tussen gezondheid en rijkdom in de VS: Link Health

Spoedarts Alister Martin zag vaak dat armoede de drijvende factor was achter de bezoeken van patiënten aan de afdeling spoedeisende hulp. Hij realiseerde zich dat "geld als medicijn" - patiënten helpen toegang te krijgen tot contante hulp en federale voordelen - de grondoorzaken van een slechte gezondheid zou kunnen aanpakken door de kloof tussen gezondheid en rijkdom te dichten. 

Dit leidde tot de oprichting van Link Health, een programma dat patiënten verbindt met niet-uitgegeven federale hulpprogramma's zoals SNAP, WIC en Lifeline om de financiële druk te verlichten die de gezondheidsverschillen verergert. Het AI-gebaseerde inschrijvingsplatform en de chatbot hebben tot doel $ 10 miljoen aan staats- en federale voordelen te ontgrendelen om armoede te verlichten, financiële stress te verminderen en het welzijn te verbeteren.

Wat was de grootste uitdaging om je oplossing van de grond te krijgen?

Mercedes Bidart, CEO en medeoprichter, Quipu

"De grootste uitdaging was om het eerste bedrag aan kapitaal veilig te stellen om te beginnen met lenen om onze scores te trainen. Het creëren van een nieuwe acceptatieoplossing is als het kip-en-ei-probleem: je hebt kapitaal nodig om de oplossing te bouwen, maar je krijgt het pas als je het hebt getest." 

Sid Ravinutula, hoofd datawetenschapper, IDinsight

"De eerste uitdaging is technisch. In de context van de gezondheidszorg moeten behandelingen en aanbevelingen 100% nauwkeurig zijn - er is geen ruimte voor hallucinaties. Dit vereist een andere aanpak dan de populaire architectuur voor het ophalen en vergroten van de generatie. We moeten een grafiek maken die behandelingen en diagnostische protocollen nauwkeurig vastlegt.

"De tweede uitdaging is het creëren van representatieve benchmarks en validatiesets. Voordat we het model itereren en verbeteren, hebben we een dataset nodig van vragen en antwoorden die deze werknemers waarschijnlijk zullen stellen. Deze dataset moet alle onderwerpen omvatten waarover ze vragen kunnen stellen en rekening houden met de manier waarop ze vragen kunnen stellen - met steno, spreektaal, emoji's, enz. Het bouwen van een hoogwaardige benchmark dataset is duur, omdat het vaak menselijke annotatie vereist."

André Heller, programmamanager, Wegwijzer

"Een van de grootste uitdagingen was het ontwikkelen van AI-tools die zowel inclusief als contextueel accuraat zijn. Het trainen van AI om minderheidstalen, regionale dialecten en cultureel genuanceerde inhoud te begrijpen, vereist uitgebreide gegevensverzameling, menselijke expertise en testen. Om ervoor te zorgen dat door AI gegenereerde reacties humanitaire principes handhaven en vooroordelen niet in stand houden, moesten bovendien robuuste waarborgen worden gebouwd, zoals human-in-the-loop toezicht en constitutionele herschrijvingen voor ethische output. Het balanceren van innovatie met deze strenge normen was veeleisend maar essentieel."

Monika Shukla, CEO en mede-oprichter, Buzzworthy Ventures

"De belangrijkste uitdaging lag in het overbruggen van de kloof tussen geavanceerde AI-technologie en de acceptatie ervan in grassroots, landelijke omgevingen. Hoewel de internetconnectiviteit in India exponentieel is gegroeid - met meer dan 700 miljoen internetgebruikers in 2023, grotendeels gedreven door betaalbare smartphones - blijft de toegang ongelijk. Deze digitale kloof, in combinatie met een fragmentarische netwerkdekking in afgelegen bossen en dorpen, vormde een aanzienlijk obstakel voor het implementeren van AI-gestuurde oplossingen die consistente connectiviteit en gebruikersinteractie vereisen."

Alister Martin, CEO, Link Health

"Navigeren en toegang krijgen tot openbare voordelen kan voor veel gezinnen een hindernis zijn. De grootste uitdaging was echter de naadloze integratie van de interventie van Link Health in zorginstellingen waar zorgverleners al overweldigd zijn. Dit vereiste het opbouwen van vertrouwen tussen gezondheidswerkers, ervoor zorgen dat navigators de patiëntenzorg niet verstoren en tegelijkertijd meetbare voordelen voor patiënten en gezondheidszorgsystemen laten zien."

 

 

Vrouwen en een meisje verzamelen zich rond een tablet.

 

 

Hoe zorgt u ervoor dat uw oplossing zowel op maat gemaakt als inclusief is?

Mercedes Bidart, Quipu: "Om vooroordelen te beperken, gebruiken we diverse datasets, controleren we onze AI-modellen regelmatig en passen we validatie door mensen toe om eerlijke en rechtvaardige kredietbeoordelingen te garanderen. Onze algoritmes worden streng getest om vooroordelen op basis van geslacht en ras te voorkomen en we controleren en updaten ze voortdurend om ze in overeenstemming te brengen met ethische normen. We bieden gebruikers ook toegankelijke beroepsprocedures, zodat ze AI-beslissingen kunnen aanvechten of ertegen in beroep kunnen gaan."

Sid Ravinutula, IDinsight: "Eerst bouwen we dit als een open-source oplossing. We hopen dat dit de inzet van vergelijkbare tools in andere contexten zal versnellen door organisaties in staat te stellen erop voort te bouwen voor hun specifieke behoeften. Ten tweede zorgen we ervoor dat het gemakkelijk kan worden aangepast en uitgebreid voor lokale contexten. Dit omvat het naleven van lokale richtlijnen, het wisselen van AI-modellen of het toevoegen van nieuwe vangrails. Door een gemeenschappelijk model te creëren dat voor elke context kan worden afgestemd, zorgen we ervoor dat de oplossing breed toepasbaar is met respect voor de unieke vereisten van elke omgeving." 

André Heller, Wegwijzer: "Signpost AI is getraind met behulp van gecureerde, geverifieerde gegevens van betrouwbare bronnen en lokale NGO's. Dit zorgt ervoor dat de AI regionale dialecten, culturele normen en minderheidstalen weerspiegelt, waardoor kritieke lacunes worden opgevuld voor achtergestelde bevolkingsgroepen. AI-agenten ondersteunen spraak- en tekstinvoer, waardoor toegankelijkheid voor laaggeletterden mogelijk wordt. Tools worden getest en verfijnd met moedertaalsprekers en communitymoderators om nauwkeurigheid en inclusiviteit te valideren. Onze AI-grondwet stelt op democratische wijze ethische regels vast, waaronder non-discriminatie en traumagevoelig taalgebruik, met voortdurende audits om vooroordelen te verminderen."

Monika Shukla, Buzzworthy Ventures: "Beekind stemt zijn tech-and-touch-oplossingen af op specifieke regionale, ecologische en gewasomstandigheden, waarbij hyperlokale factoren zoals klimaat, flora en landbouwpraktijken worden geïntegreerd. Om dit te bereiken, betrekken we lokale imkers, onderzoekers, landbouwexperts en gemeenschapsleiders actief bij het co-ontwerpen van praktijken, modellen en implementatiestrategieën, om ervoor te zorgen dat de oplossing aansluit bij de geleefde realiteit van de mensen die het dient. We geven prioriteit aan vrouwen en kleine boeren - belangrijke maar onderbelichte bijdragen aan het landbouwecosysteem van India. Door bijvoorbeeld genderbewuste trainingen te geven en inclusieve ruimtes voor dialoog te creëren, stellen we vrouwen in staat om actief deel te nemen aan en te profiteren van de waardeketen van de bijenteelt. Inclusiviteit is niet alleen een principe; Het is een praktische hoeksteen van onze aanpak."

Alister Martin, Link Gezondheid: "Navigators ontmoeten patiënten waar ze zijn - fysiek en emotioneel - vaak in wachtkamers, en stemmen hun aanpak af op specifieke behoeften van de patiënt, zoals het inschrijven van oudere volwassenen voor voordelen zoals Medicare-spaarprogramma's. Door systemen te ontwerpen die prioriteit geven aan toegankelijkheid en gebruik te maken van vertrouwde community-messengers, zorgt het programma ervoor dat het diverse bevolkingsgroepen effectief bedient, met name achtergestelde gemeenschappen."

Wat is de grootste zorg die je hebt rond AI?

Mercedes Bidart, Quipu: "Het belangrijkste onderdeel bij het bouwen van AI-modellen is de dataset. Een goed model is een model met een goede en eerlijke uitkomst, en de enige manier om dat mogelijk te maken is het trainen van modellen met diverse datasets die de bijzonderheden van elke regio vertegenwoordigen. Het andere belangrijke stukje van de puzzel is de persoon/het team dat het model bouwt. Slechts 20% van de AI-banen wordt gedaan door vrouwen, wat betekent dat de resultaten niet worden beoordeeld vanuit een genderlens. We hebben meer vrouwen nodig die AI-oplossingen leiden."

Sid Ravinutula, IDinsight: "Betrouwbaarheid. In de gezondheidszorg kan een verkeerde diagnose of onvolledige behandeling rampzalige gevolgen hebben. AI-modellen vertonen echter inherent willekeur. Als je een AI bijvoorbeeld meerdere keren dezelfde vraag stelt, kan dat net iets andere antwoorden opleveren. Ook het anders formuleren van een vraag kan verschillende antwoorden opleveren. Hoewel de meeste antwoorden waarschijnlijk dezelfde boodschap zullen overbrengen, kunnen sommige onvolledig of misleidend zijn en mogelijk schade veroorzaken. Sterke vangrails zijn essentieel om ervoor te zorgen dat alle antwoorden correct, volledig en respectvol zijn."

André Heller, Wegwijzer: "De grootste zorg is het potentieel van AI om schade aan te richten door vooringenomenheid, verkeerde informatie of uitsluiting. Voor kwetsbare bevolkingsgroepen kan onjuiste informatie levensveranderende gevolgen hebben. Om ervoor te zorgen dat AI contextueel nauwkeurig, transparant en ethisch is, is voortdurend toezicht, testen en samenwerking met lokale experts vereist. We pakken dit aan door human-in-the-loop toezicht te implementeren voor kwaliteitscontrole, bias-audits en ethische beoordelingen om reacties te verfijnen, en transparante kaders zoals de AI-grondwet, die de output regelt en schadelijke risico's beperkt. We blijven waakzaam bij het balanceren van AI-innovatie met verantwoordelijkheid en vertrouwen."

Monika Shukla, Buzzworthy Ventures: "Wanneer AI-modellen worden getraind met behulp van gegevens die niet volledig representatief zijn voor de gemeenschappen die ze willen bedienen, bestaat het risico dat bestaande ongelijkheden worden versterkt. Veel AI-systemen worden bijvoorbeeld getraind met behulp van gegevens in de belangrijkste talen, waardoor lokale dialecten en mondelinge talen ondervertegenwoordigd zijn. In India spreken tal van tribale en regionale gemeenschappen talen die vaak geen robuuste digitale datasets hebben. Dit gebrek aan vertegenwoordiging kan leiden tot modellen die er niet in slagen de behoeften van deze gemeenschappen nauwkeurig te interpreteren of erop te reageren. Bovendien worden regionale accenten, spraakpatronen en geleefde praktijken vaak over het hoofd gezien, waardoor AI-oplossingen minder effectief of zelfs schadelijk zijn voor deze groepen."

Alister Martin, Link Gezondheid: "De grootste zorg is het potentieel voor AI-systemen om bestaande vooroordelen in stand te houden, vooral bij het werken met achtergestelde bevolkingsgroepen. Zonder zorgvuldig toezicht kunnen algoritmen onbedoeld de meest behoeftigen uitsluiten of geen rekening houden met de systemische ongelijkheden waarmee ze worden geconfronteerd. Het waarborgen van transparantie, verantwoordingsplicht en ethisch gebruik van AI bij de besluitvorming is van cruciaal belang om te voorkomen dat de ongelijkheden groter worden. Dit is ook de reden waarom we mensen op kritieke momenten in het proces op de hoogte houden - en waarom we mensen op de hoogte zullen blijven houden terwijl we onze AI-tools ontwikkelen." 

Welke sector buiten de uwe heeft het potentieel om het meest te profiteren van AI?

Mercedes Bidart, Quipu: "De onderwijssector. Ik geloof dat het onderwijs is veranderd en dat we de kans hebben om het democratischer te maken. Wat we in Quipu hebben gedaan rond onderwijs is een gen AI-assistent op WhatsApp die onze klanten ondersteunt bij hun bedrijfsvoering. Het is niet nodig om één consultant per bedrijf te hebben. Met één bot kunnen we de opleiding en groei van miljoenen mensen ondersteunen."

Sid Ravinutula, IDinsight: "IDinsight is sector-agnostisch. Terwijl dit project zich richt op gezondheid, hebben we AI-oplossingen ontwikkeld in het onderwijs en de sociale bescherming. Boeren worden geconfronteerd met vergelijkbare barrières voor informatie als gezondheidswerkers in de gemeenschap. Ze moeten weten wat de beste gewassen zijn om te telen voor hun regio en welke kunstmestmixen optimaal zijn, en hulp bij het diagnosticeren van gewasziekten en -behandelingen. In het onderwijs omvatten AI-gebruiksscenario's gepersonaliseerde docenten, door AI gegenereerde lesplannen en AI-gestuurde beoordelingen en evaluaties. We hebben AI gebruikt om niet-schoolgaande meisjes in India te identificeren voor een ngo die zich inzet voor het vergroten van de inschrijving van meisjes op scholen. Ten slotte kan AI burgers helpen toegang te krijgen tot overheidsvoordelen. Het kan helpen bij het vaststellen of u in aanmerking komt en bij het navigeren door het complexe aanvraagproces."

André Heller, Signpost:"Met de vooruitgang in AI is het moeilijk om een sector te bedenken die niet zal worden getransformeerd. De vraag is wanneer - twee jaar of vijf? Van bedrijfsvoering tot data-analyse tot diagnostiek in de gezondheidszorg tot onderzoek op vrijwel elk gebied, alles zal vooruitgaan in een tempo dat we nog niet hebben gezien. Het is alleen de vraag wanneer mensen er effectief gebruik van kunnen maken. Een praktisch voorbeeld: koppeling tussen meteorologie en rampenbeheersing. Weerwaarschuwingen en vroegtijdige waarschuwingssystemen voor rampen, zoals overstromingen, orkanen, droogtes en extreme weersomstandigheden, hebben een enorm potentieel om te profiteren van AI. Geavanceerde AI-modellen kunnen realtime meteorologische en hydrologische gegevens analyseren om rampen nauwkeuriger te voorspellen en vroegtijdige waarschuwingen te geven voor een meer holistische reactie die kwetsbare mensen, lokale bedrijven, toeleveringsketens en de overheid omvat. Signpost is al begonnen met het gebruik van AI voor overstromingsrespons via FloodHub, waarbij AI-voorspellingen worden gecombineerd met bruikbare, realtime updates om gemeenschappen te helpen zich voor te bereiden op overstromingen en de impact ervan te verzachten."

Monika Shukla, Buzzworthy Ventures: "De zorgsector zal aanzienlijk profiteren van AI, met name op het gebied van diagnostiek, gepersonaliseerde geneeskunde en het optimaliseren van toeleveringsketens in de gezondheidszorg, vooral in landelijke gebieden. AI-tools kunnen helpen bij de vroege opsporing van ziekten zoals malaria en tuberculose door middel van medische beelden of diagnostische tests. AI-modellen kunnen bijvoorbeeld röntgenfoto's van de borstkas of bloedmonsters analyseren om vroege tekenen van ziekte te detecteren, zelfs in omgevingen met weinig middelen. Dit kan leiden tot snellere diagnoses en behandelingen, waardoor uiteindelijk levens worden gered en de kosten van de gezondheidszorg in achtergestelde regio's worden verlaagd. AI kan ook de logistiek in afgelegen gezondheidszorgsystemen stroomlijnen en zorgen voor tijdige levering van medische benodigdheden en vaccins aan achtergestelde gebieden, wat cruciaal is voor landen met een grote plattelandsbevolking."

Alister Martin, Link Health: "Het onderwijs heeft veel baat bij AI, vooral bij het personaliseren van leerervaringen voor studenten met een achterstand. AI kan helpen om hiaten in het leren te identificeren, ondersteuning op maat te bieden en meertalige bronnen aan te bieden aan leerlingen en families op manieren die traditionele modellen niet kunnen. Door ongelijkheden in de toegang tot kwaliteitsonderwijs aan te pakken, kan AI een transformerende invloed hebben op toekomstige gezondheids- en sociaaleconomische resultaten."