2025 年 1 月 7 日
從向哥倫比亞微型企業家提供信貸，到降低埃塞俄比亞的孕婦發病率，再到向世界各地的難民提供拯救生命的資訊，人工智慧的力量正在與包容性和經濟賦權的潛力相匹配。
重新定義如何運用 AI 帶來社會影響，五個組織將作為《加速包容性人工智慧挑戰賽》的優勝者，開發並擴大其解決方案，該挑戰賽收到了來自 82 個國家／地區的 500 多份參賽作品。得獎者——當中亦包括一個為印度小規模養蜂人而設的社會企業，以及一項連結病人與未被充分利用的聯邦福利的美國倡議——將獲得 200,000 美元，以及來自Mastercard和data.org的技術支援及導師指導，該挑戰賽由其贊助。
Mastercard Newsroom 訪問了獲獎機構的領導人，探討在社會領域建立 AI 解決方案所面臨的挑戰、他們如何減少偏見、訓練模型的包容性，以及還有哪些領域的技術最有前途。
在哥倫比亞，有近 600 萬家企業屬於微型企業，營運員工少於 10 人，資金也不多。其中，只有 9% 的人可以正式借貸，原因是他們缺乏績效資訊，也沒有財務記錄，這就造成了巨大的資金缺口。
Quipu 彌補了非正式經濟體系的資訊缺口，利用人工智能，透過分析非傳統資料的評分模型，如行動交易記錄、社交媒體互動、簡訊和付款模式，以及智慧型付款和信用收集，更準確地評估這些小型企業的信用度。它也提供融資平台和微額貸款，讓這些企業可以根據財務和非財務資訊建立另一種信用評分。透過 Quipu 的應用程式，客戶可在數分鐘內申請營運資金，並在兩天內發放。
二十年前，埃塞俄比亞發起了一個新的農村醫療模式，訓練和部署了數以千計的醫療推廣人員來服務當地社區，這使得母嬰健康得到了顯著改善，HIV 新感染病例以及與肺結核和瘧疾相關的死亡病例也有所下降，這只是其中的幾例。
為了在此成功基礎上更進一步，IDinsight正與 Last Mile Health 及埃塞俄比亞衛生部合作，建立一個由 AI 驅動的呼叫中心，衛生推廣人員可聯絡該中心，就複雜的病例獲得即時的醫療指導。該組織的 AI 解決方案將包括病例管理系統和基於衛生部綜合指南的問題解答服務，為呼叫中心座席提供即時支援，座席將進一步透過電話向醫護人員轉達關鍵資訊，讓他們專注於患者護理和提供高品質的醫療服務。
全球有 1.2 億人因衝突、自然災害、貧窮和暴力而流離失所，創下歷史新高。受到危機影響的人們在邁向安全的旅程中，必須在資訊有限的情況下，做出關鍵性、改變生命的決策。2015 年，國際救援委員會啟動了Signpost 項目，該項目建立了數位幫助中心，讓使用者可以找到準確及時的資訊、獲得關鍵服務，並直接向當地主持人提出問題，例如：我如何獲得住房？我可以取得臨時工作許可證嗎？我可以讓我的孩子入學嗎？Signpost 在全球有近 30 個活躍計畫，2024 年 Signpost 使用者將超過 600 萬人。
然而，隨著流離失所者人數的增加，資訊需求也隨之增加。在 2023 年阿富汗危機期間，Facebook 上的一則貼文在一個月內導致 30,000 則訊息，讓當地六位版主組成的 Signpost 團隊應接不暇。2024 年，由 IRC 領導的 Signpost 計畫推出 Signpost AI，透過 AI 代理和人工監督來加強重要資訊的傳遞。此系統旨在減輕審查員的負擔，讓他們能夠專注於更複雜的個案，同時確保及時且準確的回應，以改善全球流離失所民眾取得資源和服務的機會。
印度仍是全球農業的動力來源，但有一條農業價值鏈卻缺乏熱鬧：養蜂業。印度有 40 萬名小規模的養蜂者，其中許多人為了維持生計而掙扎，更遑論提升昆蟲授粉的經濟潛力，以提高作物產量。在印度，昆蟲授粉每年帶來 225.2 億美元的貢獻，遠遠超過蜂蜜和蜂巢產品的市場規模，但對印度經濟和營養不可或缺的農作物而言，昆蟲授粉的潛力仍未被充分利用。
因此，Buzzworthy Ventures 創造了Beekind，這是一款人工智慧驅動的行動應用程式，可增強小規模養蜂者的能力，尤其是農村和邊緣社區的婦女、小土地擁有人、無地農民和部落人口。它提供即時洞察力和預測分析，幫助養蜂者管理蜂巢健康、診斷疾病、提高蜂蜜產量以及適應不斷變化的氣候條件。
急診醫師 Alister Martin 經常看到，貧窮是病人到急診室求診的主因。他意識到 「以錢為藥」（幫助病人獲得現金援助和聯邦福利）可以消除健康與財富之間的差距，從而解決健康狀況不佳的根本原因。
這促成了Link Health 的創立，該計畫將病患與 SNAP、WIC 和 Lifeline 等未使用的聯邦援助計畫聯繫起來，以減輕加重健康差異的財務壓力。此人工智慧註冊平台和聊天機器人旨在釋放 1,000 萬美元的州和聯邦福利，以紓解貧困、減輕財務壓力和改善福祉。
"最大的挑戰是如何取得第一筆資金，開始貸款訓練我們的分數。創造新的承保解決方案就像雞與蛋的問題：您需要資金來建立解決方案，但在測試之前您無法獲得資金"。
"第一個挑戰是技術性的。在健康照護的情況下，治療和建議必須 100% 準確 - 不容許出現幻覺。這需要一種不同於流行的檢索-增量生成架構的方法。我們需要建構一個能精確捕捉治療和診斷方案的圖表。
"第二個挑戰是建立有代表性的基準和驗證集。在迭代和改進模型之前，我們需要這些工人可能會問的問題和答案的資料集。這個資料集必須涵蓋他們可能詢問的所有主題，並考慮到他們可能詢問的方式 - 使用速記、口語詞彙、表情符號等。建立高品質的基準資料集成本高昂，因為通常需要人工註釋。
"最大的挑戰之一就是開發兼具包容性與情境準確性的 AI 工具。要訓練人工智能理解少數族裔語言、區域方言和文化上細微差異的內容，需要大量的資料整理、人類專業知識和測試。此外，為了確保人工智慧所產生的回應能維護人道主義原則，並且不會讓偏見持續存在，我們必須建立強大的保障措施，例如人類在環監督以及為道德輸出重寫憲法。要在創新與這些嚴格標準之間取得平衡，要求很高，但卻非常重要。
"主要的挑戰在於縮短先進 AI 技術與其在草根、農村環境中的採用之間的差距。雖然印度的網際網路連線成倍成長，在經濟實惠的智慧型手機帶動下，2023 年網際網路使用者將超過 7 億人，但網際網路的使用仍不均衡。這種數位鴻溝，加上偏遠森林與鄉村的零星網路涵蓋，對於部署需要連線一致與使用者互動的 AI 驅動解決方案造成了重大障礙」。
"對許多家庭來說，瀏覽和獲得公共福利可能是一個障礙。然而，最大的挑戰在於如何將 Link Health 的干預無縫整合到醫療照護環境中，因為醫療照護提供者已經應接不暇。這需要在醫療照護人員之間建立信任，確保導航員不會中斷病患照護，同時顯示出對病患和醫療照護系統的可衡量效益」。
梅賽德斯·比達特，Quipu：「為減輕偏見，我們使用多元化數據集，定期審核 AI 模型，並應用人在環路驗證，以確保公平公正的信用評估。」我們的演算法經過嚴格測試，以防止性別和種族偏見，並持續監測和更新，以符合道德標準。我們還為用戶提供可用的補償程序，讓他們可以質疑或上訴 AI 決策。”
IDinsight 的 Sid Ravinutula 表示：「首先，我們正在將其打造成一個開源解決方案。」我們希望這將加快類似工具在其他情境中的部署，讓各組織能夠根據其特定需求在此基礎上進行開發。其次，我們正在確保它可以輕鬆為本地情境進行客製化和擴展。這包括遵守本地指引、切換 AI 模型或新增防護措施。透過建立一個可針對不同情境進行微調的通用模型，我們確保該解決方案的廣泛適用性，同時尊重每個設定的獨特要求。」
André Heller, Signpost：「Signpost AI 是使用來自可靠來源和當地非政府組織的精選驗證資料進行訓練。」這確保了人工智能能反映地區方言、文化規範和少數民族語言，填補了服務不足人群的關鍵空白。AI 代理支援語音和文字輸入，為識字能力較低的人士提供便利。工具經由母語使用者和社群版主測試和改進，以驗證其準確性和包容性。我們的 AI 憲章以民主方式確立道德規則，包括不歧視和對創傷敏感的語言，並透過持續審核來減輕偏見。
Monika Shukla，Buzzworthy Ventures：「Beekind 會根據特定的區域、生態和農作物條件，量身定制其科技與接觸式解決方案，並整合氣候、植物群和農業實踐等超本地因素。」為此，我們積極讓當地養蜂人、研究人員、農業專家和社群領袖參與共同設計實踐、模型和實施策略，確保解決方案符合其服務對象的實際生活狀況。我們優先考慮女性和小農戶——他們是印度農業生態系統中關鍵但服務不足的貢獻者。例如，透過提供性別敏感培訓和創造包容的對話空間，我們賦予女性積極參與養蜂價值鏈並從中獲益的能力。包容性不僅是一個原則，更是我們方法的一個實用基石。
Link Health 的 Alister Martin 表示：「導航員在患者所在之處——無論是身體上還是情感上——通常是在等候室中與患者會面，並根據患者的特定需求（例如為老年人申請醫療保險儲蓄計劃等福利）調整他們的方法。」透過設計優先考慮無障礙性並利用值得信賴的社區傳訊者的系統，該計劃確保有效地服務不同人群，特別是弱勢社區。」
Mercedes Bidart，Quipu：「建構 AI 模型時，最重要的部分是資料集。」一個好的模型，是能帶來良好而公平結果的模型，而要做到這一點的唯一方法，是使用能代表每個地區特定性的多元數據集來訓練模型。這難題的另一個重要部分是建立模型的人員／團隊。只有 20% 的 AI 工作是由女性完成的，這表示結果沒有從性別角度進行審查。我們需要更多女性領導人工智能解決方案。
Sid Ravinutula (IDinsight)：「可靠性。」在醫療保健領域，不正確的診斷或不完整的治療可能會帶來災難性的後果。然而，AI 模型本身會表現出隨機性。例如，多次向 AI 提出相同的問題可能會產生略有不同的回答。同樣地，重新措辭問題可能會產生不同的答案。儘管大多數回應可能傳達相同的訊息，但有些回應可能不完整或具誤導性，潛在造成傷害。強大的護欄對於確保所有回應都正確、完整且受尊重至關重要。”
André Heller (Signpost)：「最大的擔憂是 AI 有可能透過偏見、錯誤資訊或排斥造成傷害。」對於弱勢群體而言，不正確的資訊可能會帶來改變一生的後果。確保 AI 在情境上準確、透明且合乎道德，需要持續的監督、測試以及與當地專家的合作。我們透過實施「人機協同」監督來進行品質控制、偏見審計和道德審查，以完善回應；並透過像「AI 憲法」這樣的透明框架來管理輸出並減輕有害風險。我們在平衡 AI 創新、問責制與信任方面保持警惕。”
Monika Shukla，Buzzworthy Ventures：「當 AI 模型使用未能充分代表其旨在服務社群的資料進行訓練時，便有強化現有不平等的風險。例如，許多 AI 系統都使用主要語言的資料進行訓練，令地方方言及口語未獲充分代表。在印度，眾多部落及地區社群所使用的語言，往往缺乏完善的數碼數據集。這種代表性不足，會導致模型未能準確理解或回應這些社群的需要。此外，地區口音、說話模式和生活實踐往往被忽視，令 AI 解決方案對這些群體的效用降低，甚至可能造成傷害。”
Alister Martin，Link Health：「最大的問題在於 AI 系統可能延續現有的偏見，尤其是在與服務不足的人群合作時。」如果沒有仔細監督，演算法可能會無意中排除最需要幫助的人，或者未能考慮到他們面臨的系統性不平等。確保決策中的 AI 使用透明、負責任和符合道德，對於避免加劇不平等至關重要。這也是為什麼我們在流程的關鍵時刻讓人類參與其中——以及為什麼我們在開發 AI 工具時將繼續讓人類參與其中。
Mercedes Bidart，Quipu：「教育領域。」我相信教育已經改變，我們有機會使其更民主。我們在 Quipu 圍繞教育所做的是一個基於 WhatsApp 的生成式 AI 助理，為我們的客戶提供業務管理支援。每個企業都不需要擁有一位顧問。透過一個機械人，我們可以支援數百萬人的教育和成長。」
Sid Ravinutula，IDinsight：「IDinsight 不限行業。」雖然這個專案聚焦於健康，但我們已在教育和社會保護領域開發了 AI 解決方案。農民面臨與社區衛生工作者相似的資訊障礙。他們需要知道適合其地區種植的最佳農作物和最佳肥料配比，以及診斷農作物病害和治療的協助。在教育領域，AI 的用例包括個人化導師、AI 生成的課程計劃，以及 AI 驅動的評估與評價。我們利用人工智能在印度識別失學女童，為一個致力於提高女童入學率的非政府組織提供支援。最後，AI 可以幫助市民獲取政府福利。它可以協助識別資格，並應對複雜的申請流程。”
André Heller，Signpost：「隨著 AI 的發展，很難想像哪個行業不會被轉型。」問題是什麼時候——兩年還是五年？從商業營運到資料分析，從醫療保健診斷到幾乎任何領域的研究，一切都將以我們前所未見的速度進步。這只是一個關於人們何時能有效利用它的問題。一個實際例子：氣象學與災難管理之間的聯繫。天氣預警和災難早期預警系統，例如洪水、颶風、乾旱和極端天氣事件，在受益於 AI 方面具有巨大潛力。先進的 AI 模型可以分析實時氣象和水文數據，更準確地預測災難並提供早期預警，以實現更全面的應對，其中包括弱勢群體、當地企業、供應鏈和政府。Signpost 已開始透過 FloodHub 利用 AI 應對洪水，將 AI 預測與可執行的即時更新相結合，以幫助社區為洪水做好準備並減輕其影響。」
莫妮卡·舒克拉，Buzzworthy Ventures：「醫療保健領域有望從 AI 中顯著受益，尤其是在診斷、個人化醫療和最佳化醫療保健供應鏈方面，尤其是在鄉郊地區。」AI 驅動工具可透過醫學影像或診斷測試，協助及早偵測瘧疾和肺結核等疾病。例如，AI 模型可分析胸腔 X 光片或血液樣本，以偵測疾病的早期徵兆，即使在資源匱乏的環境中亦然。這可以促成更快的診斷和治療，最終拯救生命，並降低服務不足地區的醫療保健成本。AI 也能簡化偏遠醫療保健系統的物流，確保醫療用品和疫苗及時送達服務不足的地區，這對擁有龐大鄉郊人口的國家至關重要。」
Alister Martin (Link Health)：「教育將會從 AI 中受益良多，尤其是在為服務不足的學生提供個人化學習體驗方面。」AI 可以幫助找出學習差距，提供量身定制的支援，並以傳統模式無法做到的方式向學生和家庭提供多語言資源。透過解決優質教育機會不平等的問題，AI 可能會對未來的健康和社會經濟成果產生變革性的影響。”