Skip to main content

AI

7 januari 2025

 

AI för alla: Lärdomar från skärningspunkten mellan teknik och inkludering

Dessa experter på att utnyttja AI för samhällsnyttiga ändamål delar med sig av sina insikter om att skala upp inkluderande AI.

Vicki Hyman

Kommunikationschef, Mastercard

 

Från att ge kredit till colombianska mikroentreprenörer till att minska mödrasjukligheten i Etiopien och leverera livräddande information till flyktingar runt om i världen, matchas kraften i artificiell intelligens med potentialen för inkludering och ekonomiskt egenmakt.

För att omdefiniera hur man använder AI för social påverkan kommer fem organisationer att utveckla och skala upp sina lösningar som vinnare av tävlingen Artificial Intelligence to Accelerate Inclusion Challenge, som fick in fler än 500 bidrag från 82 länder. Vinnarna – som även inkluderar ett socialt företag för småskaliga biodlare i Indien och ett amerikanskt initiativ som kopplar samman patienter med underutnyttjade federala förmåner – kommer att få 200 000 dollar samt tekniskt stöd och mentorskap från Mastercard och data.org. som sponsrade utmaningen.

Mastercard Newsroom pratade med ledare från de vinnande organisationerna om utmaningarna med att bygga AI-lösningar inom den sociala sektorn, hur de mildrar partiskhet och tränar sina modeller för att vara inkluderande, och vilka andra sektorer som har mest potential för tekniken.

Överbrygga finansieringsgapet för småföretag i Colombia: Quipu

I Colombia är nästan 6 miljoner företag mikroföretag, som verkar med färre än 10 anställda och en liten mängd kapital. Av dessa kan endast 9 procent låna formellt, på grund av bristande information om deras prestationer och avsaknad av ekonomisk historik, och detta skapar ett enormt finansieringsgap.

Quipu överbryggar informationsklyftan i den informella ekonomin genom att använda AI för att mer exakt bedöma kreditvärdigheten hos dessa mindre företag genom en poängsättningsmodell som analyserar icke-traditionell data, såsom mobiltransaktionshistorik, interaktioner på sociala medier, SMS- och betalningsmönster samt intelligent utbetalning och kreditindrivning. Det tillhandahåller också en finansieringsplattform och mikrolån som gör det möjligt för dessa företag att bygga upp en alternativ kreditvärdighet baserad på både finansiell och icke-finansiell information. Genom Quipus app kan kunderna på några minuter ansöka om rörelsekapital som utbetalas på mindre än två dagar.

 

Stärka samhällsvården i Etiopien: IDinsight

För två decennier sedan lanserade Etiopien en ny modell för hälsovård på landsbygden, genom att utbilda och placera tusentals hälso- och sjukvårdspersonal för att betjäna lokalsamhällen, vilket har resulterat i betydande förbättringar av mödra- och barnhälsan, och minskningar av nya hiv-infektioner och tuberkulos- och malariarelaterade dödsfall, för att nämna några.

För att bygga vidare på den framgången samarbetar IDinsight med Last Mile Health och Etiopiens hälsoministerium kring ett AI-drivet callcenter som vårdpersonal kan kontakta för medicinsk vägledning i realtid i komplexa fall. Organisationens AI-lösning kommer att inkludera ett ärendehanteringssystem och en frågesvarstjänst baserad på omfattande riktlinjer från hälsoministeriet, vilket ger realtidssupport till callcenteragenter som vidarebefordrar viktig information till vårdpersonalen via telefon, vilket gör att de kan fokusera på patientvård och leverera högkvalitativ hälsovård.

 

Att leverera livräddande information till människor i kris runt om i världen: Internationella räddningskommitténs vägvisarprojekt

Rekordmånga 120 miljoner människor är fördrivna världen över på grund av konflikter, naturkatastrofer, fattigdom och våld. Människor som drabbats av kriser måste fatta viktiga, livsförändrande beslut under sin resa till säkerhet med begränsad information. År 2015 lanserade International Rescue Committee Signpost Project, som etablerar digitala hjälpcenter där användare kan hitta korrekt och aktuell information, få tillgång till viktiga tjänster och ställa direkta frågor till lokala moderatorer, till exempel: Hur kan jag få tillgång till bostad? Kommer jag att kunna få ett tillfälligt arbetstillstånd? Kan jag skriva in mina barn i skolan? Signpost har nästan 30 aktiva program världen över, med över 6 miljoner Signpost-användare år 2024.  

Informationsbehovet ökar dock i takt med antalet fördrivna personer. Under krisen i Afghanistan 2023 resulterade ett Facebook-inlägg i 30 000 meddelanden inom en månad, vilket överväldigade det lokala Signpost-teamet med sex moderatorer. År 2024 lanserade det IRC-ledda Signpost-projektet Signpost AI för att förbättra leveransen av kritisk information genom AI-agenter och mänsklig tillsyn. Detta system syftar till att minska bördan på moderatorer, så att de kan fokusera på mer komplexa ärenden, samtidigt som det säkerställer snabba och korrekta svar som förbättrar tillgången till resurser och tjänster för fördrivna befolkningsgrupper globalt. 

 

Att bygga en kunskapskälla för biodlare i Indien: Buzzworthy Ventures

Indien är fortfarande en global jordbruksdynamo, men en jordbruksvärdekedja saknar popularitet: biodling. Det finns 400 000 småskaliga biodlare i Indien, av vilka många kämpar för att upprätthålla sina försörjningsmöjligheter, än mindre för att öka den ekonomiska potentialen för insektspollinering för att förbättra skördarna. I Indien bidrar insektspollinering med 22,52 miljarder dollar per år, vilket vida överstiger marknadsstorleken för honung och bikupor, men potentialen är fortfarande kraftigt underutnyttjad för grödor som är avgörande för Indiens ekonomi och näring. 

Så skapade Buzzworthy Ventures Beekind, en AI-driven mobilapplikation för att stärka småskaliga biodlare, särskilt kvinnor, småskaliga markägare, marklösa bönder och stambefolkningar i landsbygds- och marginaliserade samhällen. Den ger insikter i realtid och prediktiv analys, vilket hjälper biodlare att hantera sin bikupehälsa, diagnostisera sjukdomar, förbättra honungsproduktionen och anpassa sig till förändrade klimatförhållanden.

 

Att minska klyftan mellan hälsa och välstånd i USA: Link Health

Akutläkaren Alister Martin såg ofta att fattigdom var den drivande faktorn bakom patienters besök på akutmottagningen. Han insåg att ”pengar som medicin” – att hjälpa patienter att få tillgång till kontantstöd och federala förmåner – kunde åtgärda de bakomliggande orsakerna till dålig hälsa genom att minska klyftan mellan hälsa och förmögenhet. 

Detta ledde till skapandet av Link Health, ett program som kopplar samman patienter med outnyttjade federala stödprogram som SNAP, WIC och Lifeline för att lindra den ekonomiska belastning som förvärrar skillnaderna i hälsa. Den AI-aktiverade registreringsplattformen och chatboten syftar till att frigöra 10 miljoner dollar i statliga och federala förmåner för att lindra fattigdom, minska ekonomisk stress och förbättra välbefinnandet.

Vilken var den största utmaningen med att få er lösning igång?

Mercedes Bidart, vd och medgrundare, Quipu

”Den största utmaningen var att säkra den första kapitalmängden för att börja låna ut och träna våra betyg.” Att skapa en ny underwriting-lösning är som hönan och ägget: Du behöver kapital för att bygga lösningen, men du får det inte förrän du har testat den.” 

Sid Ravinutula, chefsdataforskare, IDinsight

"Den första utmaningen är teknisk. Inom hälso- och sjukvårdssammanhang måste behandlingar och rekommendationer vara 100 % korrekta – det finns inget utrymme för hallucinationer. Detta kräver en annan metod än den populära arkitekturen för hämtning-utökad generation. Vi behöver konstruera ett diagram som korrekt visar behandlingar och diagnostiska protokoll.

”Den andra utmaningen är att skapa representativa riktmärken och valideringsuppsättningar.” Innan vi itererar och förbättrar modellen behöver vi en datamängd med frågor och svar som dessa arbetare sannolikt kommer att ställa. Denna datamängd måste omfatta alla ämnen de kan tänkas fråga om och redogöra för hur de kan tänkas fråga – med hjälp av förkortningar, vardagliga termer, emojis etc. Att bygga en högkvalitativ referensdatamängd är dyrt, eftersom det ofta kräver mänsklig annotering.

André Heller, programchef, Signpost

”En av de största utmaningarna har varit att utveckla AI-verktyg som är både inkluderande och kontextuellt korrekta.” Att träna AI för att förstå minoritetsspråk, regionala dialekter och kulturellt nyanserat innehåll kräver omfattande datakurering, mänsklig expertis och testning. Dessutom har det krävts robusta skyddsåtgärder, såsom tillsyn med människor i loopen och omskrivningar av konstitutionerna för etiska resultat, för att säkerställa att AI-genererade insatser upprätthåller humanitära principer och inte vidmakthåller partiskhet. Att balansera innovation med dessa rigorösa standarder har varit krävande men avgörande.”

Monika Shukla, VD och medgrundare, Buzzworthy Ventures

”Den främsta utmaningen låg i att överbrygga klyftan mellan avancerad AI-teknik och dess införande i gräsrotsmiljöer på landsbygden.” Medan internetanslutningen i Indien har ökat exponentiellt – med över 700 miljoner internetanvändare år 2023, till stor del tack vare prisvärda smartphones – är tillgången fortfarande ojämn. Denna digitala klyfta, i kombination med ojämn nätverkstäckning i avlägsna skogar och byar, utgjorde ett betydande hinder för att implementera AI-drivna lösningar som kräver konsekvent uppkoppling och användarinteraktion.

Alister Martin, VD, Link Health

"Att navigera och få tillgång till offentliga förmåner kan vara ett hinder för många familjer. Den största utmaningen var dock att integrera Link Healths intervention sömlöst i vårdmiljöer där vårdgivare redan är överbelastade. Detta krävde att man byggde upp förtroende bland vårdpersonal, och att man säkerställde att navigatörerna inte störde patientvården samtidigt som de visade mätbara fördelar för patienter och vårdsystem.

 

 

Kvinnor och en flicka samlas runt en surfplatta.

 

 

Hur säkerställer ni att er lösning är både skräddarsydd och inkluderande?

Mercedes Bidart, Quipu: ”För att minska partiskhet använder vi olika datamängder, granskar regelbundet våra AI-modeller och tillämpar human-in-the-loop-validering för att säkerställa rättvisa och skäliga kreditbedömningar.” Våra algoritmer testas rigoröst för att förhindra köns- och rasbias, och vi övervakar och uppdaterar dem kontinuerligt för att de ska överensstämma med etiska standarder. Vi erbjuder även användarna tillgängliga prövningsprocesser, vilket gör det möjligt för dem att bestrida eller överklaga AI-beslut.”

Sid Ravinutula, IDinsight: ”Först bygger vi detta som en lösning med öppen källkod.” Vi hoppas att detta kommer att påskynda implementeringen av liknande verktyg i andra sammanhang genom att låta organisationer bygga vidare på det för sina specifika behov. För det andra säkerställer vi att den enkelt kan anpassas och utökas för lokala sammanhang. Detta inkluderar att följa lokala riktlinjer, byta AI-modeller eller lägga till nya skyddsräcken. Genom att skapa en gemensam modell som kan finjusteras för varje sammanhang säkerställer vi att lösningen är allmänt tillämpbar samtidigt som den respekterar de unika kraven i varje miljö.” 

André Heller, Signpost: ”Signpost AI tränas med hjälp av kurerad, verifierad data från betrodda källor och lokala icke-statliga organisationer.” Detta säkerställer att AI:n återspeglar regionala dialekter, kulturella normer och minoritetsspråk, vilket fyller kritiska luckor för underförsörjda befolkningsgrupper. AI-agenter stöder röst- och textinmatning, vilket möjliggör tillgänglighet för personer med låg läs- och skrivförmåga. Verktygen testas och förfinas med infödda talare och community-moderatorer för att validera noggrannhet och inkludering. Vår AI-konstitution fastställer demokratiskt etiska regler, inklusive icke-diskriminering och traumakänsligt språk, med kontinuerliga granskningar för att minska partiskhet.

Monika Shukla, Buzzworthy Ventures: ”Beekind skräddarsyr sina teknik-och-kontakt-lösningar till specifika regionala, ekologiska och grödorelaterade förhållanden och integrerar hyperlokala faktorer som klimat, flora och jordbruksmetoder.” För att uppnå detta involverar vi aktivt lokala biodlare, forskare, jordbruksexperter och samhällsledare i att gemensamt utforma metoder, modeller och implementeringsstrategier, och säkerställer att lösningen överensstämmer med de människors verklighet den tjänar. Vi prioriterar kvinnor och småbrukare – viktiga men underförtjänta bidragsgivare till Indiens jordbruksekosystem. Genom att till exempel erbjuda jämställdhetsmedveten utbildning och skapa inkluderande utrymmen för dialog, ger vi kvinnor möjlighet att aktivt delta i och dra nytta av biodlingens värdekedja. Inkludering är inte bara en princip; det är en praktisk hörnsten i vårt tillvägagångssätt.”

Alister Martin, Link Health: ”Navigatörer möter patienter där de är – fysiskt och känslomässigt – ofta i väntrum, och skräddarsyr sitt tillvägagångssätt efter specifika patientbehov, till exempel att registrera äldre vuxna i förmåner som Medicare Savings Programs.” Genom att utforma system som prioriterar tillgänglighet och använder betrodda budbärare säkerställer programmet att det effektivt betjänar olika befolkningsgrupper, särskilt utsatta samhällen.”

Vad är din största oro kring AI?

Mercedes Bidart, Quipu: ”Den viktigaste delen när man bygger AI-modeller är datamängden.” En bra modell är en som har ett bra och rättvist resultat, och det enda sättet att göra det möjligt är att träna modeller med olika datamängder som representerar särdragen i varje region. Den andra viktiga pusselbiten är personen/teamet som bygger modellen. Bara 20 % av AI-jobben utförs av kvinnor, vilket innebär att resultaten inte granskas ur ett jämställdhetsperspektiv. Vi behöver fler kvinnor som leder AI-lösningar.”

Sid Ravinutula, IDinsight: "Tillförlitlighet. Inom hälso- och sjukvården kan en felaktig diagnos eller ofullständig behandling få katastrofala konsekvenser. AI-modeller uppvisar dock i sig slumpmässighet. Att till exempel ställa samma fråga till en AI flera gånger kan ge lite olika svar. På samma sätt kan omformulering av en fråga ge varierande svar. Även om de flesta svar sannolikt kommer att förmedla samma budskap, kan vissa vara ofullständiga eller vilseledande och potentiellt orsaka skada. Starka skyddsräcken är avgörande för att säkerställa att alla svar är korrekta, fullständiga och respektfulla.”

André Heller, Signpost: ”Den största oron är AI:s potential att orsaka skada genom partiskhet, felinformation eller utestängning.” För utsatta befolkningsgrupper kan felaktig information få livsförändrande konsekvenser. Att säkerställa att AI är kontextuellt korrekt, transparent och etiskt kräver ständig tillsyn, testning och samarbete med lokala experter. Vi åtgärdar detta genom att implementera mänsklig tillsyn för kvalitetskontroll, partiska revisioner och etiska granskningar för att förfina svar, samt transparenta ramverk som AI-konstitutionen, som styr resultat och mildrar skadliga risker. Vi är fortsatt vaksamma när det gäller att balansera AI-innovation med ansvarsskyldighet och förtroende.”

Monika Shukla, Buzzworthy Ventures: ”När AI-modeller tränas med hjälp av data som inte är helt representativa för de samhällen de strävar efter att betjäna, finns det en risk att befintliga ojämlikheter förstärks.” Till exempel tränas många AI-system med hjälp av data på större språk, vilket gör att lokala dialekter och muntliga språk är underrepresenterade. I Indien talar många stam- och regionala samhällen språk som ofta saknar robusta digitala datamängder. Denna brist på representation kan leda till modeller som inte korrekt tolkar eller svarar på behoven hos dessa grupper. Dessutom förbises ofta regionala accenter, talmönster och levnadsvanor, vilket gör AI-lösningar mindre effektiva eller till och med skadliga för dessa grupper.

Alister Martin, Link Health: ”Den största oron är AI-systems potential att vidmakthålla befintliga fördomar, särskilt när man arbetar med underförsörjda befolkningsgrupper.” Utan noggrann tillsyn kan algoritmer oavsiktligt utesluta de mest behövande eller misslyckas med att ta hänsyn till de systemiska orättvisor de står inför. Att säkerställa transparens, ansvarsskyldighet och etisk användning av AI i beslutsfattandet är avgörande för att undvika att förvärra skillnaderna. Det är också därför vi håller människor uppdaterade vid kritiska tidpunkter i processen – och varför vi kommer att fortsätta hålla människor uppdaterade allt eftersom vi utvecklar våra AI-verktyg.” 

Vilken sektor utanför din egen har potential att dra mest nytta av AI?

Mercedes Bidart, Quipu: ”Utbildningssektorn. Jag tror att utbildningen har förändrats och att vi har möjlighet att göra den mer demokratisk. Det vi har gjort i Quipu inom utbildningssektorn är en generations AI-assistent på WhatsApp som stödjer våra kunder med deras affärsledning. Det finns inget behov av att ha en konsult per företag. Med en enda bot kan vi stödja utbildning och tillväxt för miljontals människor.”

Sid Ravinutula, IDinsight: ”IDinsight är sektoroberoende. Även om det här projektet fokuserar på hälsa, har vi utvecklat AI-lösningar inom utbildning och socialt skydd. Jordbrukare möter liknande hinder för information som hälso- och sjukvårdspersonal. De behöver veta vilka grödor som är bäst att odla i sin region, optimala gödselblandningar och hjälp med att diagnostisera sjukdomar och behandlingar. Inom utbildning inkluderar AI-användningsfall personliga handledare, AI-genererade lektionsplaner och AI-drivna bedömningar och utvärderingar. Vi har använt AI för att identifiera flickor som inte går i skolan i Indien för en icke-statlig organisation som arbetar för att öka antalet flickor som går i skolan. Slutligen kan AI hjälpa medborgare att få tillgång till statliga förmåner. Det kan hjälpa till att identifiera behörighet och navigera i den komplexa ansökningsprocessen.”

André Heller, Signpost: ”Med framstegen inom AI är det svårt att tänka sig en sektor som inte kommer att transformeras.” Frågan är när – två år eller fem? Från affärsverksamhet till dataanalys till diagnostik inom hälso- och sjukvård till forskning inom praktiskt taget alla områden, allt kommer att utvecklas i en takt vi ännu inte sett. Frågan är bara när folk kommer att kunna använda det effektivt. Ett praktiskt exempel: kopplingen mellan meteorologi och katastrofhantering. Vädervarningar och tidiga varningssystem för katastrofer, såsom översvämningar, orkaner, torka och extrema väderhändelser, har enorm potential att dra nytta av AI. Avancerade AI-modeller kan analysera meteorologiska och hydrologiska data i realtid för att prognostisera katastrofer mer exakt och ge tidiga varningar för en mer holistisk respons som inkluderar utsatta människor, lokala företag, leveranskedjor och myndigheter. Signpost har redan börjat använda AI för översvämningshantering genom FloodHub, och kombinerar AI-prognoser med handlingsbara uppdateringar i realtid för att hjälpa samhällen att förbereda sig för och mildra effekterna av översvämningar.

Monika Shukla, Buzzworthy Ventures: ”Hälso- och sjukvårdssektorn kommer att dra stor nytta av AI, särskilt inom diagnostik, personlig medicin och optimering av hälso- och sjukvårdens leveranskedjor, särskilt på landsbygden.” AI-drivna verktyg kan hjälpa till med tidig upptäckt av sjukdomar som malaria och tuberkulos genom medicinska bilder eller diagnostiska tester. Till exempel kan AI-modeller analysera lungröntgen eller blodprover för att upptäcka tidiga tecken på sjukdom, även i miljöer med låga resurser. Detta kan leda till snabbare diagnoser och behandlingar, vilket i slutändan räddar liv och minskar sjukvårdskostnaderna i underförsörjda regioner. AI kan också effektivisera logistiken i fjärrhälsovårdssystem och säkerställa snabb leverans av medicinska förnödenheter och vacciner till underförsörjda områden, vilket är avgörande för länder med stor landsbygdsbefolkning.

Alister Martin, Link Health: ”Utbildningen kommer att dra stor nytta av AI, särskilt när det gäller att anpassa lärandeupplevelser för elever i utsatta situationer.” AI kan hjälpa till att identifiera luckor i lärandet, ge skräddarsytt stöd och erbjuda flerspråkiga resurser till elever och familjer på sätt som traditionella modeller inte kan. Genom att ta itu med ojämlikheter i tillgången till utbildning av god kvalitet kan AI ha en omvälvande inverkan på framtida hälsa och socioekonomiska resultat.”