Skip to main content

AI

7. januar 2025

 

AI for alle: Lektioner fra krydsfeltet mellem teknologi og inklusion

Disse eksperter i at udnytte AI til samfundets bedste deler deres indsigt i at skalere inkluderende AI.

Vicki Hyman

Kommunikationsdirektør, Mastercard

 

Fra at yde kredit til colombianske mikroiværksættere til at reducere antallet af mødres sygdomme i Etiopien og levere livreddende information til flygtninge over hele verden, matches kraften i kunstig intelligens med potentialet for inklusion og økonomisk styrke.

Fem organisationer vil som vindere af udfordringen "Artificial Intelligence to Accelerate Inclusion Challenge", der modtog mere end 500 bidrag på tværs af 82 lande, redefinere, hvordan man bruger AI til social effekt. Vinderne – som også inkluderer en socialøkonomisk virksomhed for små biavlere i Indien og et amerikansk initiativ, der forbinder patienter med underudnyttede føderale ydelser – vil modtage 200.000 dollars samt teknisk assistance og mentorordninger fra Mastercard og data.org. som sponsorerede udfordringen.

Mastercard Newsroom talte med ledere fra de vindende organisationer om udfordringerne ved at bygge AI-løsninger i den sociale sektor, hvordan de mindsker bias og træner deres modeller til at være inkluderende, og hvilke andre sektorer der har mest potentiale for teknologien.

Brobygning af finansieringskløften for små virksomheder i Colombia: Quipu

I Colombia er næsten 6 millioner virksomheder mikrovirksomheder, der opererer med færre end 10 ansatte og en lille mængde kapital. Af disse kan kun 9 procent formelt låne på grund af manglende information om deres præstationer og mangel på økonomisk historik, og dette skaber et enormt finansieringskløft.

Quipu bygger bro over informationskløften i den uformelle økonomi ved at bruge kunstig intelligens til mere præcist at vurdere disse mindre virksomheders kreditværdighed gennem en scoringsmodel, der analyserer utraditionelle data, såsom mobiltransaktionshistorik, interaktioner på sociale medier, SMS- og betalingsmønstre samt intelligent udbetaling og kreditopkrævning. Det tilbyder også en finansieringsplatform og mikrolån, der giver disse virksomheder mulighed for at opbygge en alternativ kreditvurdering baseret på både finansielle og ikke-finansielle oplysninger. Gennem Quipus app kan kunderne på få minutter ansøge om driftskapital, der udbetales på under to dage.

 

Styrkelse af sundhedspleje i lokalsamfundet i Etiopien: IDinsight

For to årtier siden lancerede Etiopien en ny model for sundhedspleje i landdistrikterne, hvor tusindvis af sundhedskonsulenter blev uddannet og indsat i lokalsamfundene. Dette har resulteret i betydelige forbedringer af mødres og børns sundhed og fald i antallet af nye HIV-infektioner og dødsfald relateret til tuberkulose og malaria, for blot at nævne nogle få.

For at bygge videre på denne succes samarbejder IDinsight med Last Mile Health og Etiopiens sundhedsministerium om et AI-drevet callcenter, som sundhedspersonalet kan kontakte for at få medicinsk vejledning i realtid om komplekse tilfælde. Organisationens AI-løsning vil omfatte et sagsstyringssystem og en spørgsmålsbesvarelsestjeneste baseret på omfattende retningslinjer fra Sundhedsministeriet, der yder realtidssupport til callcentermedarbejdere, som videregiver kritisk information til sundhedspersonalet via telefon, så de kan fokusere på patientpleje og levering af sundhedspleje af høj kvalitet.

 

Levering af livreddende information til mennesker i krise verden over: International Rescue Committees Signpost-projekt

Et rekordantal på 120 millioner mennesker er fordrevet på verdensplan på grund af konflikter, naturkatastrofer, fattigdom og vold. Mennesker, der er berørt af kriser, skal træffe kritiske, livsændrende beslutninger på deres rejse til sikkerhed med begrænset information. I 2015 lancerede Den Internationale Redningskomité Signpost-projektet, som etablerer digitale hjælpecentre, hvor brugerne kan finde præcise og rettidige oplysninger, få adgang til kritiske tjenester og stille direkte spørgsmål til lokale moderatorer, såsom: Hvordan kan jeg få adgang til bolig? Vil jeg kunne få en midlertidig arbejdstilladelse? Kan jeg indskrive mine børn i skole? Signpost har næsten 30 aktive programmer på verdensplan med over 6 millioner Signpost-brugere i 2024.  

Informationsbehovet stiger dog i takt med antallet af fordrevne. Under krisen i Afghanistan i 2023 resulterede ét Facebook-opslag i 30.000 beskeder inden for en måned, hvilket overvældede det lokale Signpost-team på seks moderatorer. I 2024 lancerede det IRC-ledede Signpost-projekt Signpost AI for at forbedre leveringen af kritisk information gennem AI-agenter og menneskeligt tilsyn. Dette system har til formål at reducere byrden for moderatorer, så de kan fokusere på mere komplekse sager, samtidig med at det sikrer rettidige og præcise reaktioner, der forbedrer adgangen til ressourcer og tjenester for fordrevne befolkningsgrupper globalt. 

 

Opbygning af en vidensbikube for biavlere i Indien: Buzzworthy Ventures

Indien er fortsat en global landbrugsdynamo, men én landbrugsværdikæde mangler opmærksomhed: biavl. Der er 400.000 små biavlere i Indien, hvoraf mange kæmper for at opretholde deres levebrød, for slet ikke at tale om at øge det økonomiske potentiale ved insektbestøvning til at forbedre afgrødeudbyttet. I Indien bidrager insektbestøvning med 22,52 milliarder dollars om året, hvilket langt overstiger markedsstørrelsen for honning og bistadeprodukter, men potentialet er fortsat stærkt underudnyttet for afgrøder, der er afgørende for Indiens økonomi og ernæring. 

Så skabte Buzzworthy Ventures Beekind, en AI-drevet mobilapplikation, der skal styrke små biavlere, især kvinder, små jordejere, jordløse landmænd og stammebefolkninger i landdistrikter og marginaliserede samfund. Det giver indsigt i realtid og prædiktiv analyse, der hjælper biavlere med at styre deres bistades sundhed, diagnosticere sygdomme, forbedre honningproduktionen og tilpasse sig skiftende klimaforhold.

 

Lukning af forskellen mellem sundhed og velstand i USA: Link Health

Akutlæge Alister Martin så ofte, at fattigdom var den drivende faktor bag patienters besøg på akutmodtagelsen. Han indså, at "penge som medicin" – at hjælpe patienter med at få adgang til kontanthjælp og føderale ydelser – kunne afhjælpe de grundlæggende årsager til dårligt helbred ved at lukke forskellen mellem sundhed og velstand. 

Dette førte til oprettelsen af Link Health, et program, der forbinder patienter med ubrugte føderale hjælpeprogrammer som SNAP, WIC og Lifeline for at lette den økonomiske belastning, der forværrer sundhedsforskelle. Den AI-aktiverede tilmeldingsplatform og chatbot sigter mod at frigøre 10 millioner dollars i statslige og føderale ydelser for at afhjælpe fattigdom, reducere økonomisk stress og forbedre trivslen.

Hvad var den største udfordring i at få jeres løsning i gang?

Mercedes Bidart, CEO og medstifter, Quipu

"Den største udfordring var at sikre det første kapitalbeløb for at begynde at låne ud for at træne vores score." At skabe en ny underwriting-løsning er som hønen-og-ægget-problemet: Du har brug for kapital til at bygge løsningen, men du får den ikke, før du har testet den. 

Sid Ravinutula, chefdataforsker, IDinsight

"Den første udfordring er teknisk. I en sundhedsmæssig sammenhæng skal behandlinger og anbefalinger være 100 % nøjagtige – der er ingen plads til hallucinationer. Dette kræver en anden tilgang end den populære arkitektur med udvidet generation af data. Vi skal konstruere en graf, der præcist indfanger behandlinger og diagnostiske protokoller.

"Den anden udfordring er at skabe repræsentative benchmarks og valideringssæt." Før vi itererer og forbedrer modellen, har vi brug for et datasæt af spørgsmål og svar, som disse medarbejdere sandsynligvis vil stille. Dette datasæt skal omfatte alle de emner, de måtte spørge om, og redegøre for, hvordan de måtte spørge – ved hjælp af forkortelser, dagligdags termer, emojis osv. Det er dyrt at opbygge et benchmark-datasæt af høj kvalitet, da det ofte kræver menneskelig annotering.

André Heller, programleder, Signpost

"En af de største udfordringer har været at udvikle AI-værktøjer, der både er inkluderende og kontekstuelt præcise." Det kræver omfattende datakurering, menneskelig ekspertise og test at træne AI til at forstå minoritetssprog, regionale dialekter og kulturelt nuanceret indhold. Derudover har det krævet robuste sikkerhedsforanstaltninger, såsom humanitært tilsyn og omskrivninger af forfatningsmæssige årsager for at sikre etisk output, at AI-genererede tiltag overholder humanitære principper og ikke fremmer bias. Det har været krævende, men essentielt at balancere innovation med disse strenge standarder.”

Monika Shukla, administrerende direktør og medstifter, Buzzworthy Ventures

"Den primære udfordring lå i at bygge bro over kløften mellem avanceret AI-teknologi og dens anvendelse i græsrods- og landdistriktsmiljøer." Mens internetforbindelsen i Indien er vokset eksponentielt – med over 700 millioner internetbrugere i 2023, hovedsageligt drevet af prisvenlige smartphones – er adgangen fortsat ujævn. Denne digitale kløft, kombineret med ujævn netværksdækning i fjerntliggende skove og landsbyer, udgjorde en betydelig hindring for implementeringen af AI-drevne løsninger, der kræver ensartet forbindelse og brugerinteraktion.

Alister Martin, administrerende direktør, Link Health

"Det kan være en hindring for mange familier at finde og få adgang til offentlige ydelser. Den største udfordring var imidlertid at integrere Link Healths intervention problemfrit i sundhedsvæsenet, hvor udbydere allerede er overbelastede. Dette krævede opbygning af tillid blandt sundhedspersonale, sikring af at navigatører ikke forstyrrede patientplejen, samtidig med at de viste målbare fordele for patienter og sundhedssystemer.”

 

 

Kvinder og en pige samles omkring en tablet.

 

 

Hvordan sikrer du, at din løsning er både skræddersyet og inkluderende?

Mercedes Bidart, Quipu: "For at mindske bias bruger vi forskellige datasæt, reviderer regelmæssigt vores AI-modeller og anvender human-in-the-loop-validering for at sikre retfærdige og rimelige kreditvurderinger." Vores algoritmer testes grundigt for at forhindre køns- og racebias, og vi overvåger og opdaterer dem løbende for at sikre, at de er i overensstemmelse med etiske standarder. Vi tilbyder også brugerne tilgængelige klageprocesser, der giver dem mulighed for at anfægte eller appellere AI-beslutninger.”

Sid Ravinutula, IDinsight:  "For det første bygger vi dette som en open source-løsning." Vi håber, at dette vil fremskynde implementeringen af lignende værktøjer i andre sammenhænge ved at give organisationer mulighed for at bygge videre på det til deres specifikke behov. For det andet sikrer vi, at det nemt kan tilpasses og udvides til lokale kontekster. Dette inkluderer at overholde lokale retningslinjer, skifte AI-modeller eller tilføje nye autoværn. Ved at skabe en fælles model, der kan finjusteres til hver kontekst, sikrer vi, at løsningen er bredt anvendelig, samtidig med at den respekterer de unikke krav i hver enkelt situation.” 

André Heller, Signpost: “Signpost AI er trænet ved hjælp af kuraterede, verificerede data fra pålidelige kilder og lokale NGO'er.” Dette sikrer, at AI'en afspejler regionale dialekter, kulturelle normer og mindretalssprog og udfylder kritiske huller for underforsynede befolkningsgrupper. AI-agenter understøtter stemme- og tekstinput, hvilket muliggør tilgængelighed for personer med lav læse- og skrivefærdigheder. Værktøjerne testes og forfines med indfødte talere og moderatorer fra fællesskabet for at validere nøjagtighed og inklusion. Vores AI-forfatning fastlægger demokratisk etiske regler, herunder ikke-diskrimination og traumefølsomt sprog, med løbende revisioner for at mindske bias.

Monika Shukla, Buzzworthy Ventures: "Beekind skræddersyr sine teknologiske og praktiske løsninger til specifikke regionale, økologiske og afgrødemæssige forhold og integrerer hyperlokale faktorer som klima, flora og landbrugspraksis." For at opnå dette involverer vi aktivt lokale biavlere, forskere, landbrugseksperter og lokalsamfundsledere i at designe praksisser, modeller og implementeringsstrategier, hvilket sikrer, at løsningen stemmer overens med de levede realiteter hos de mennesker, den tjener. Vi prioriterer kvinder og småbønder – vigtige, men underforsynede bidragydere til Indiens landbrugsøkosystem. For eksempel ved at tilbyde kønssensitiv træning og skabe inkluderende rum for dialog, giver vi kvinder mulighed for aktivt at deltage i og drage fordel af biavlens værdikæde. Inklusion er ikke bare et princip; det er en praktisk hjørnesten i vores tilgang.”

Alister Martin, Link Health: "Navigatorer møder patienterne, hvor de er – fysisk og følelsesmæssigt – ofte i venteværelser, og skræddersyr deres tilgang til specifikke patientbehov, såsom at tilmelde ældre voksne til ydelser som Medicare Savings Programs." Ved at designe systemer, der prioriterer tilgængelighed og bruger betroede budbringere fra lokalsamfundet, sikrer programmet, at det effektivt betjener forskellige befolkningsgrupper, især underforsynede samfund.”

Hvad er din største bekymring omkring AI?

Mercedes Bidart, Quipu: "Den vigtigste del af opbygningen af AI-modeller er datasættet." En god model er en, der har et godt og retfærdigt resultat, og den eneste måde at gøre det muligt på er at træne modeller med forskellige datasæt, der repræsenterer de særlige forhold i hver region. Den anden vigtige brik i puslespillet er den person/det team, der bygger modellen. Kun 20 % af AI-jobbene udføres af kvinder, hvilket betyder, at resultaterne ikke vurderes ud fra et kønsperspektiv. Vi har brug for flere kvinder, der leder AI-løsninger.”

Sid Ravinutula, IDinsight: "Plidelighed. Inden for sundhedsvæsenet kan en forkert diagnose eller ufuldstændig behandling have katastrofale konsekvenser. AI-modeller udviser imidlertid i sagens natur tilfældighed. For eksempel kan det at stille en AI det samme spørgsmål flere gange give lidt forskellige svar. På samme måde kan en omformulering af et spørgsmål give forskellige svar. Selvom de fleste svar sandsynligvis vil formidle det samme budskab, kan nogle være ufuldstændige eller vildledende og potentielt forårsage skade. Stærke rækværk er afgørende for at sikre, at alle svar er korrekte, fuldstændige og respektfulde.

André Heller, Signpost: "Den største bekymring er AI's potentiale til at forårsage skade gennem bias, misinformation eller udelukkelse." For sårbare befolkningsgrupper kan forkert information have livsændrende konsekvenser. At sikre, at AI er kontekstuelt nøjagtig, transparent og etisk kræver konstant overvågning, testning og samarbejde med lokale eksperter. Vi adresserer dette ved at implementere human-in-the-loop-tilsyn til kvalitetskontrol, bias-revisioner og etiske gennemgange for at forfine svar samt transparente rammer som AI-forfatningen, der styrer output og afbøder skadelige risici. Vi er fortsat årvågne med at balancere AI-innovation med ansvarlighed og tillid.”

Monika Shukla, Buzzworthy Ventures: "Når AI-modeller trænes ved hjælp af data, der ikke er fuldt repræsentative for de lokalsamfund, de sigter mod at betjene, er der en risiko for at forstærke eksisterende uligheder." For eksempel trænes mange AI-systemer ved hjælp af data på større sprog, hvilket efterlader lokale dialekter og mundtlige sprog underrepræsenteret. I Indien taler adskillige stamme- og regionale samfund sprog, der ofte mangler robuste digitale datasæt. Denne mangel på repræsentation kan føre til modeller, der ikke formår præcist at fortolke eller imødekomme disse samfunds behov. Derudover overses regionale accenter, talemønstre og levevaner ofte, hvilket gør AI-løsninger mindre effektive eller endda skadelige for disse grupper.”

Alister Martin, Link Health: "Den største bekymring er AI-systemers potentiale til at fastholde eksisterende bias, især når man arbejder med underforsynede befolkningsgrupper." Uden omhyggelig overvågning kan algoritmer utilsigtet udelukke dem, der har størst behov, eller undlade at tage højde for de systemiske uligheder, de står over for. Det er afgørende at sikre gennemsigtighed, ansvarlighed og etisk brug af kunstig intelligens i beslutningstagningen for at undgå at forværre uligheder. Det er også derfor, vi holder mennesker opdateret på kritiske tidspunkter i processen – og hvorfor vi vil fortsætte med at holde mennesker opdateret, efterhånden som vi udvikler vores AI-værktøjer.” 

Hvilken sektor uden for din egen har potentiale til at drage størst fordel af AI?

Mercedes Bidart, Quipu: “Uddannelsessektoren. Jeg mener, at uddannelse har ændret sig, og at vi har mulighed for at gøre den mere demokratisk. Det, vi har lavet i Quipu omkring uddannelse, er en generations AI-assistent på WhatsApp, der understøtter vores kunder med deres forretningsledelse. Der er ikke behov for at have én konsulent per virksomhed. Med én bot kan vi støtte millioner af menneskers uddannelse og vækst.”

Sid Ravinutula, IDinsight: “IDinsight er sektoruafhængig. Selvom dette projekt fokuserer på sundhed, har vi udviklet AI-løsninger inden for uddannelse og social beskyttelse. Landmænd står over for lignende barrierer i forbindelse med information som sundhedspersonale i lokalsamfundet. De har brug for at kende de bedste afgrøder at dyrke i deres region, optimale gødningsblandinger og hjælp til at diagnosticere afgrødesygdomme og behandlinger. Inden for uddannelse omfatter AI-anvendelseseksempler personlige undervisere, AI-genererede lektionsplaner og AI-drevne vurderinger og evalueringer. Vi har brugt kunstig intelligens til at identificere piger, der ikke går i skole i Indien, for en NGO, der arbejder for at øge antallet af pigers indskrivning i skoler. Endelig kan kunstig intelligens hjælpe borgere med at få adgang til offentlige ydelser. Det kan hjælpe med at identificere berettigelse og navigere i den komplekse ansøgningsproces.”

André Heller, Signpost: "Med fremskridt inden for AI er det svært at forestille sig en sektor, der ikke vil blive transformeret." Spørgsmålet er hvornår – to år eller fem? Fra forretningsdrift til dataanalyse til diagnostik inden for sundhedsvæsenet og forskning inden for stort set alle områder, vil alt udvikle sig i et tempo, vi endnu ikke har set. Det er bare et spørgsmål om, hvornår folk vil være i stand til at udnytte det effektivt. Et praktisk eksempel: sammenhængen mellem meteorologi og katastrofehåndtering. Vejrvarsler og tidlige varslingssystemer for katastrofer, såsom oversvømmelser, orkaner, tørke og ekstreme vejrbegivenheder, rummer et enormt potentiale til at drage fordel af AI. Avancerede AI-modeller kan analysere meteorologiske og hydrologiske data i realtid for at forudsige katastrofer mere præcist og give tidlige advarsler til en mere holistisk indsats, der inkluderer sårbare mennesker, lokale virksomheder, forsyningskæder og regeringen. Signpost er allerede begyndt at udnytte AI til oversvømmelseshåndtering gennem FloodHub, hvor de kombinerer AI-forudsigelser med handlingsrettede opdateringer i realtid for at hjælpe lokalsamfund med at forberede sig på og afbøde virkningerne af oversvømmelser.

Monika Shukla, Buzzworthy Ventures: "Sundhedssektoren vil drage betydelig fordel af AI, især inden for diagnostik, personlig medicin og optimering af sundhedsforsyningskæder, især i landdistrikter." AI-drevne værktøjer kan hjælpe med tidlig opdagelse af sygdomme som malaria og tuberkulose gennem medicinske billeder eller diagnostiske tests. For eksempel kan AI-modeller analysere røntgenbilleder af brystet eller blodprøver for at opdage tidlige tegn på sygdom, selv i miljøer med få ressourcer. Dette kan føre til hurtigere diagnoser og behandlinger, hvilket i sidste ende redder liv og reducerer sundhedsomkostningerne i underforsynede regioner. AI kan også strømline logistikken i fjerntliggende sundhedssystemer og sikre rettidig levering af medicinske forsyninger og vacciner til underforsynede områder, hvilket er afgørende for lande med store landdistrikter.”

Alister Martin, Link Health: "Uddannelse vil drage stor fordel af AI, især med hensyn til at personliggøre læringsoplevelser for underforsynede elever." AI kan hjælpe med at identificere huller i læringen, yde skræddersyet støtte og tilbyde flersprogede ressourcer til elever og familier på måder, som traditionelle modeller ikke kan. Ved at adressere uligheder i adgangen til kvalitetsuddannelse kan kunstig intelligens have en transformerende indflydelse på fremtidige sundheds- og socioøkonomiske resultater.