Skip to main content

AI

7. ledna 2025

 

Umělá inteligence pro všechny: Poučení z průsečíku technologií a inkluze

Tito odborníci na využití umělé inteligence pro společenský prospěch se podělí o své poznatky o rozšiřování inkluzivní umělé inteligence.

Vicki Hyman

Ředitelka pro komunikaci, Mastercard

 

Od poskytování úvěrů kolumbijským mikropodnikatelům přes snižování mateřské nemocnosti v Etiopii až po poskytování životně důležitých informací uprchlíkům po celém světě se síla umělé inteligence snoubí s potenciálem pro začlenění a ekonomické posílení.

Pět organizací, které nově definují způsoby využití umělé inteligence pro sociální dopad, bude vyvíjet a rozšiřovat svá řešení jako vítězové soutěže Artificial Intelligence to Accelerate Inclusion Challenge, do níž se přihlásilo více než 500 organizací z 82 zemí. Vítězové, mezi nimiž je i sociální podnik pro drobné včelaře v Indii a americká iniciativa, která propojuje pacienty s nedostatečně využívanými federálními dávkami, získají 200 000 dolarů a technickou pomoc a mentoring s Mastercard a data.org, která tuto výzvu sponzorovala.

Newsroom společnosti Mastercard hovořil s vedoucími představiteli vítězných organizací o výzvách při vytváření řešení AI v sociálním sektoru, o tom, jak zmírňují předsudky a trénují své modely, aby byly inkluzivní, a o tom, která další odvětví jsou pro tuto technologii nejperspektivnější.

Překlenutí nedostatku finančních prostředků pro malé podniky v Kolumbii: Quipu

V Kolumbii je téměř 6 milionů mikropodniků, které mají méně než 10 zaměstnanců a malý kapitál. Pouze 9 % z nich si může formálně půjčit kvůli nedostatku informací o své výkonnosti a absenci finanční historie, což vytváří obrovskou mezeru ve financování.

Quipu překlenuje informační mezeru v neformální ekonomice tím, že využívá umělou inteligenci k přesnějšímu posouzení úvěruschopnosti těchto menších podniků prostřednictvím scoringového modelu, který analyzuje netradiční údaje, jako jsou historie mobilních transakcí, interakce se sociálními médii, SMS a platební vzorce, a inteligentní výplaty a inkaso úvěrů. Poskytuje také platformu pro financování a mikropůjčky, které těmto podnikům umožňují vytvořit alternativní úvěrové skóre na základě finančních i nefinančních informací. Prostřednictvím aplikace Quipu mohou zákazníci během několika minut požádat o provozní kapitál, který je vyplacen za méně než dva dny.

 

Posílení komunitní zdravotní péče v Etiopii: IDinsight

Před dvěma desetiletími Etiopie zavedla nový model zdravotní péče na venkově, v jehož rámci vycvičila a rozmístila tisíce zdravotnických pracovníků, kteří slouží místním komunitám, což vedlo k výraznému zlepšení zdravotního stavu matek a dětí a k poklesu počtu nových případů nakažení virem HIV a úmrtí na tuberkulózu a malárii.

Aby navázala na tento úspěch, spolupracuje společnost IDinsight se společností Last Mile Health a etiopským ministerstvem zdravotnictví na call centru s umělou inteligencí, na které se mohou obracet zdravotničtí pracovníci, aby jim v reálném čase poskytli lékařské poradenství ve složitých případech. Řešení AI organizace bude zahrnovat systém správy případů a službu zodpovídání dotazů založenou na komplexních pokynech ministerstva zdravotnictví, která bude poskytovat podporu v reálném čase agentům call centra, kteří budou dále předávat důležité informace zdravotnickým pracovníkům po telefonu, což jim umožní soustředit se na péči o pacienty a poskytování vysoce kvalitní zdravotní péče.

 

Poskytování životně důležitých informací lidem v krizových situacích po celém světě: Projekt Signpost Mezinárodního záchranného výboru

V důsledku konfliktů, přírodních katastrof, chudoby a násilí je na celém světě vysídleno rekordních 120 milionů lidí. Lidé zasažení krizí musí během své cesty do bezpečí činit zásadní rozhodnutí, která jim změní život, a to s omezenými informacemi. V roce 2015 spustil Mezinárodní záchranný výbor projekt Signpost, který zřizuje digitální centra pomoci, kde mohou uživatelé najít přesné a včasné informace, získat přístup ke kritickým službám a položit přímou otázku místním moderátorům, například: Jak se dostanu k bydlení? Budu moci získat dočasné pracovní povolení? Mohu své děti zapsat do školy?. Signpost má téměř 30 aktivních programů po celém světě a v roce 2024 bude mít více než 6 milionů uživatelů.  

S počtem vysídlených osob však roste i potřeba informací. Během krize v Afghánistánu v roce 2023 přišlo na Facebook během jednoho měsíce 30 000 zpráv, které zahltily místní tým Signpost složený ze šesti moderátorů. V roce 2024 byl pod vedením IRC spuštěn projekt Signpost AI, jehož cílem je zlepšit poskytování kritických informací prostřednictvím agentů AI a lidského dohledu. Cílem tohoto systému je snížit zátěž moderátorů, umožnit jim soustředit se na složitější případy a zároveň zajistit včasné a přesné reakce, které zlepší přístup ke zdrojům a službám pro vysídlené obyvatelstvo na celém světě. 

 

Budování úlu znalostí pro včelaře v Indii: Buzzworthy Ventures

Indie zůstává globálním zemědělským dynamem, ale jeden zemědělský hodnotový řetězec je bez šumu: včelařství. V Indii žije 400 000 drobných včelařů, z nichž mnozí se snaží udržet si živobytí, natož aby zvýšili ekonomický potenciál opylování hmyzem pro zlepšení výnosů plodin. V Indii přináší opylování hmyzem ročně 22,52 miliardy dolarů, což značně převyšuje objem trhu s medem a včelími produkty, přesto je tento potenciál stále značně nevyužitý pro plodiny, které jsou pro indické hospodářství a výživu zásadní. 

Společnost Buzzworthy Ventures proto vytvořila Beekind, mobilní aplikaci s umělou inteligencí, která má posílit postavení drobných včelařů, zejména žen, drobných vlastníků půdy, zemědělců bez půdy a kmenových obyvatel ve venkovských a marginalizovaných komunitách. Poskytuje přehled v reálném čase a prediktivní analýzu, která pomáhá včelařům řídit zdraví včelstev, diagnostikovat nemoci, zlepšovat produkci medu a přizpůsobovat se měnícím se klimatickým podmínkám.

 

Snižování rozdílů mezi zdravotním stavem a bohatstvím v USA: Odkaz Zdraví

Lékař pohotovostní služby Alister Martin se často setkával s tím, že hnacím motorem návštěv pacientů na pohotovosti byla chudoba. Uvědomil si, že "peníze jako lék" - pomoc pacientům v přístupu k peněžité pomoci a federálním dávkám - by mohly odstranit základní příčiny špatného zdravotního stavu tím, že by se zmenšila propast mezi zdravím a bohatstvím. 

To vedlo k vytvoření programu Link Health, který propojuje pacienty s nevyužitými federálními programy pomoci, jako jsou SNAP, WIC a Lifeline, aby se zmírnila finanční zátěž, která zhoršuje zdravotní rozdíly. Cílem této platformy pro registraci a chatbota s umělou inteligencí je uvolnit 10 milionů dolarů ze státních a federálních dávek, aby se zmírnila chudoba, snížil finanční stres a zlepšila životní pohoda.

Co bylo největší výzvou při zavádění vašeho řešení?

Mercedes Bidart, generální ředitelka a spoluzakladatelka společnosti Quipu

"Největší výzvou bylo zajistit první částku kapitálu, abychom mohli začít poskytovat půjčky na školení našich výsledků. Vytvoření nového upisovacího řešení je jako problém slepice a vejce: potřebujete kapitál na vytvoření řešení, ale nezískáte ho, dokud ho nevyzkoušíte." 

Sid Ravinutula, hlavní datový vědec, IDinsight

"První výzva je technická. Ve zdravotnictví musí být léčba a doporučení 100% přesné - není zde prostor pro halucinace. To vyžaduje jiný přístup než oblíbená architektura generování s rozšířeným vyhledáváním. Musíme sestavit graf, který přesně zachycuje léčebné postupy a diagnostické protokoly.

"Druhým problémem je vytvoření reprezentativních srovnávacích a ověřovacích souborů. Před opakováním a vylepšováním modelu potřebujeme soubor dat s otázkami a odpověďmi, které tito pracovníci pravděpodobně kladou. Tento soubor dat musí zahrnovat všechna témata, na která se mohou ptát, a zohledňovat způsob, jakým se mohou ptát - pomocí zkratek, hovorových výrazů, emotikonů atd. Vytvoření vysoce kvalitní referenční datové sady je nákladné, protože často vyžaduje anotaci člověkem."

André Heller, programový manažer, Signpost

"Jednou z největších výzev byl vývoj nástrojů umělé inteligence, které by byly inkluzivní a kontextově přesné. Trénink umělé inteligence na porozumění menšinovým jazykům, regionálním dialektům a kulturně odlišnému obsahu vyžaduje rozsáhlé kurátorství dat, lidské odborné znalosti a testování. Kromě toho bylo nutné zajistit, aby reakce generované umělou inteligencí dodržovaly humanitární zásady a neprohlubovaly předsudky, což vyžaduje vytvoření spolehlivých ochranných opatření, jako je dohled člověka v cyklu a přepisování ústavy pro etické výstupy. Vyvážení inovací s těmito přísnými standardy bylo náročné, ale nezbytné."

Monika Shukla, generální ředitelka a spoluzakladatelka společnosti Buzzworthy Ventures

"Hlavní výzvou bylo překlenout propast mezi pokročilými technologiemi umělé inteligence a jejich přijetím v běžných venkovských podmínkách. Ačkoli internetové připojení v Indii exponenciálně roste - v roce 2023 bude mít internet více než 700 milionů uživatelů, a to především díky cenově dostupným chytrým telefonům -, přístup k němu je stále nerovnoměrný. Tato digitální propast spolu s nejednotným pokrytím sítí v odlehlých lesích a vesnicích představovala významnou překážku pro zavádění řešení založených na umělé inteligenci, která vyžadují konzistentní připojení a interakci s uživateli."

Alister Martin, generální ředitel společnosti Link Health

"Orientace ve veřejných dávkách a přístup k nim může být pro mnoho rodin překážkou. Největší výzvou však bylo bezproblémové začlenění intervence Link Health do zdravotnických zařízení, kde jsou poskytovatelé již tak přetíženi. To vyžadovalo vybudování důvěry mezi zdravotnickými pracovníky, zajištění toho, aby navigátoři nenarušovali péči o pacienty, a zároveň prokázání měřitelných přínosů pro pacienty a systémy zdravotní péče."

 

 

Ženy a dívka se shromáždí kolem tabletu.

 

 

Jak zajistíte, aby vaše řešení bylo šité na míru a zároveň inkluzivní?

Mercedes Bidart, Quipu: "Abychom zmírnili zkreslení, používáme různé soubory dat, pravidelně kontrolujeme naše modely umělé inteligence a používáme ověřování lidmi, abychom zajistili spravedlivé a nestranné hodnocení úvěrů. Naše algoritmy jsou přísně testovány, aby se zabránilo genderové a rasové zaujatosti, a neustále je monitorujeme a aktualizujeme, aby odpovídaly etickým normám. Uživatelům také poskytujeme dostupné opravné prostředky, které jim umožňují napadnout rozhodnutí AI nebo se proti nim odvolat."

Sid Ravinutula, IDinsight : "Za prvé, vytváříme toto řešení jako open-source. Doufáme, že se tím urychlí zavádění podobných nástrojů v jiných kontextech, protože organizace na nich mohou stavět podle svých specifických potřeb. Zadruhé zajišťujeme, aby jej bylo možné snadno přizpůsobit a rozšířit pro místní podmínky. To zahrnuje dodržování místních pokynů, změnu modelů AI nebo přidání nových ochranných zábran. Vytvořením společného modelu, který lze doladit pro každý kontext, zajišťujeme širokou použitelnost řešení a zároveň respektujeme jedinečné požadavky každého prostředí." 

André Heller, Rozcestník: Heller: "Umělá inteligence Signpostu je vyškolena na základě kurátorských, ověřených dat z důvěryhodných zdrojů a místních nevládních organizací. Tím je zajištěno, že UI odráží regionální dialekty, kulturní normy a menšinové jazyky a vyplňuje kritické mezery pro nedostatečně pokryté skupiny obyvatel. Agenti s umělou inteligencí podporují hlasové a textové vstupy, což umožňuje přístupnost pro osoby s nízkou gramotností. Nástroje jsou testovány a zdokonalovány s rodilými mluvčími a moderátory komunity, aby se ověřila jejich přesnost a inkluzivita. Naše ústava AI demokraticky stanovuje etická pravidla, včetně zákazu diskriminace a jazyka citlivého k traumatům, s průběžnými audity, které zmírňují předsudky."

Monika Shukla, Buzzworthy Ventures: "Beekind přizpůsobuje svá technická a dotyková řešení specifickým regionálním, ekologickým a pěstitelským podmínkám a integruje hyperlokální faktory, jako je klima, flóra a zemědělské postupy. Abychom toho dosáhli, aktivně zapojujeme místní včelaře, výzkumné pracovníky, zemědělské odborníky a vedoucí představitele komunit do tvorby postupů, modelů a prováděcích strategií, čímž zajišťujeme, že řešení je v souladu s realitou lidí, kterým slouží. Naší prioritou jsou ženy a drobní zemědělci, kteří jsou klíčovými, avšak nedostatečně podporovanými účastníky indického zemědělského ekosystému. Například tím, že poskytujeme školení zohledňující genderové aspekty a vytváříme inkluzivní prostor pro dialog, umožňujeme ženám aktivně se účastnit včelařského hodnotového řetězce a mít z něj prospěch. Inkluzivita není jen principem, ale praktickým základem našeho přístupu."

Alister Martin, Link Health: "Navigátoři se setkávají s pacienty tam, kde jsou - fyzicky i emocionálně - často v čekárnách, a přizpůsobují svůj přístup konkrétním potřebám pacientů, například při registraci starších dospělých do benefitů, jako jsou programy Medicare Savings. Vytvořením systémů, které upřednostňují dostupnost a využívají důvěryhodné komunitní posly, program zajišťuje, že účinně slouží různým skupinám obyvatel, zejména komunitám s nedostatečnou péčí."

Jaké jsou vaše největší obavy v souvislosti s umělou inteligencí?

Mercedes Bidart, Quipu: "Nejdůležitějším prvkem při vytváření modelů AI je soubor dat. Dobrý model je takový, který má dobrý a spravedlivý výsledek, a to je možné zajistit pouze trénováním modelů s různými soubory dat, které reprezentují zvláštnosti každého regionu. Dalším důležitým dílem skládačky je osoba/tým, který model sestavuje. Pouze 20% pracovních míst v oblasti umělé inteligence vykonávají ženy, což znamená, že výsledky nejsou posuzovány z genderového hlediska. Potřebujeme více žen, které povedou řešení v oblasti umělé inteligence."

Sid Ravinutula, IDinsight: "Spolehlivost. Ve zdravotnictví může mít nesprávná diagnóza nebo neúplná léčba katastrofální následky. Modely umělé inteligence však ze své podstaty vykazují náhodnost. Pokud například položíte umělé inteligenci stejnou otázku vícekrát, může dojít k mírně odlišným odpovědím. Podobně i přeformulování otázky může vést k různým odpovědím. Ačkoli většina odpovědí bude pravděpodobně sdělovat stejnou informaci, některé mohou být neúplné nebo zavádějící, což může způsobit škodu. Pevné ochranné zábrany jsou nezbytné pro zajištění správnosti, úplnosti a respektování všech odpovědí."

André Heller, Rozcestník: Heller: "Největší obavy vzbuzuje potenciál umělé inteligence způsobit škodu v důsledku předpojatosti, dezinformací nebo vyloučení. U zranitelných skupin obyvatelstva mohou mít nesprávné informace důsledky, které mohou ovlivnit jejich život. Zajištění kontextově přesné, transparentní a etické AI vyžaduje neustálý dohled, testování a spolupráci s místními odborníky. Tento problém řešíme zavedením lidského dohledu v rámci kontroly kvality, auditů zaujatosti a etických přezkumů pro zpřesnění odpovědí a transparentních rámců, jako je Ústava umělé inteligence, která upravuje výstupy a snižuje škodlivá rizika. I nadále jsme ostražití při hledání rovnováhy mezi inovacemi v oblasti umělé inteligence a odpovědností a důvěrou."

Monika Shukla, Buzzworthy Ventures: "Pokud jsou modely umělé inteligence trénovány na datech, která nejsou plně reprezentativní pro komunity, kterým mají sloužit, hrozí, že se posílí stávající nerovnosti. Mnoho systémů umělé inteligence je například vyškoleno na základě dat v hlavních jazycích, takže místní dialekty a ústní jazyky nejsou dostatečně zastoupeny. V Indii hovoří řada kmenových a regionálních komunit jazyky, které často postrádají robustní digitální datové soubory. Toto nedostatečné zastoupení může vést k modelům, které nedokážou přesně interpretovat potřeby těchto komunit nebo na ně reagovat. Kromě toho se často přehlíží regionální přízvuk, řečové zvyklosti a zažité postupy, takže řešení AI jsou pro tyto skupiny méně účinná nebo dokonce škodlivá."

Alister Martin, Link Health: "Největší obavy vzbuzuje možnost, že systémy umělé inteligence budou udržovat stávající předsudky, zejména při práci s populací s nedostatečnou péčí. Bez pečlivého dohledu mohou algoritmy neúmyslně vyloučit ty, kteří to nejvíce potřebují, nebo nezohlednit systémové nerovnosti, kterým čelí. Zajištění transparentnosti, odpovědnosti a etického využívání umělé inteligence při rozhodování je zásadní, aby se zabránilo prohlubování rozdílů. To je také důvod, proč v kritických fázích procesu zapojujeme lidi - a proč je budeme i nadále zapojovat při vývoji našich nástrojů umělé inteligence." 

Které odvětví mimo váš obor má potenciál nejvíce těžit z umělé inteligence?

Mercedes Bidart, Quipu: "Odvětví vzdělávání. Věřím, že se vzdělávání změnilo a my máme příležitost učinit ho demokratičtějším. To, co jsme v rámci Quipu udělali v oblasti vzdělávání, je asistent s umělou inteligencí v aplikaci WhatsApp, který podporuje naše klienty při řízení jejich podnikání. Není nutné mít jednoho poradce na jednu firmu. Jedním botem můžeme podpořit vzdělávání a růst milionů lidí."

Sid Ravinutula, IDinsight: "IDinsight je sektorově agnostický. Tento projekt se zaměřuje na zdravotnictví, ale vyvinuli jsme i řešení AI v oblasti vzdělávání a sociální ochrany. Zemědělci se potýkají s podobnými překážkami v přístupu k informacím jako komunitní zdravotníci. Potřebují znát nejlepší plodiny pro svůj region, optimální směsi hnojiv a pomoc při diagnostice chorob plodin a jejich ošetření. V oblasti vzdělávání zahrnují případy využití umělé inteligence personalizované učitele, plány výuky generované umělou inteligencí a hodnocení a evaluace na bázi umělé inteligence. Využili jsme umělou inteligenci k identifikaci dívek, které v Indii nechodí do školy, pro nevládní organizaci, která se snaží zvýšit počet dívek ve školách. A konečně, umělá inteligence může občanům pomoci s přístupem k vládním dávkám. Může pomoci při zjišťování způsobilosti a orientaci ve složitém procesu podávání žádostí."

André Heller, Rozcestník: Heller: "S pokrokem v oblasti umělé inteligence je těžké si představit odvětví, které by se neproměnilo. Otázkou je, kdy - za dva roky nebo za pět? Od obchodních operací přes analýzu dat až po diagnostiku ve zdravotnictví a výzkum prakticky v jakémkoli oboru - vše bude postupovat tempem, jaké jsme dosud neviděli. Je jen otázkou, kdy ji lidé budou moci efektivně využít. Praktický příklad: propojení meteorologie a zvládání katastrof. Výstrahy před počasím a systémy včasného varování před katastrofami, jako jsou povodně, hurikány, sucha a extrémní povětrnostní jevy, mají obrovský potenciál využívat umělou inteligenci. Pokročilé modely AI mohou analyzovat meteorologické a hydrologické údaje v reálném čase, aby přesněji předpovídaly katastrofy a poskytovaly včasné varování pro ucelenější reakci, která zahrnuje zranitelné osoby, místní podniky, dodavatelské řetězce a vládu. Společnost Signpost již začala využívat umělou inteligenci pro reakci na povodně prostřednictvím služby FloodHub, která kombinuje předpovědi umělé inteligence s akčními aktualizacemi v reálném čase, aby pomohla komunitám připravit se na povodně a zmírnit jejich dopad."

Monika Shukla, Buzzworthy Ventures: "Odvětví zdravotní péče může z umělé inteligence významně těžit, zejména v oblasti diagnostiky, personalizované medicíny a optimalizace dodavatelských řetězců zdravotní péče, zejména ve venkovských oblastech. Nástroje poháněné umělou inteligencí mohou pomoci s včasným odhalením nemocí, jako je malárie a tuberkulóza, prostřednictvím lékařských snímků nebo diagnostických testů. Modely umělé inteligence mohou například analyzovat rentgenové snímky hrudníku nebo vzorky krve a odhalit tak včasné příznaky onemocnění, a to i v prostředí s nízkými zdroji. To může vést k rychlejšímu stanovení diagnózy a léčbě, což v konečném důsledku zachrání životy a sníží náklady na zdravotní péči v regionech s nedostatečnou péčí. Umělá inteligence může také zefektivnit logistiku ve vzdálených zdravotnických systémech a zajistit včasné dodávky zdravotnického materiálu a vakcín do oblastí s nedostatečnou péčí, což je pro země s velkým počtem venkovských obyvatel zásadní."

Alister Martin, Link Health: Martin Martin: "Vzdělávání může z umělé inteligence značně těžit, zejména při personalizaci výuky pro studenty s nedostatečnou kvalifikací. Umělá inteligence může pomoci identifikovat mezery ve vzdělávání, poskytovat studentům a rodinám podporu na míru a nabízet vícejazyčné zdroje způsobem, který tradiční modely neumožňují. Řešením nerovností v přístupu ke kvalitnímu vzdělání by umělá inteligence mohla mít transformační dopad na budoucí zdravotní a socioekonomické výsledky."