连接世界
赋能民众
共筑繁荣之路
创新者
2025 年 1 月 7 日
从向哥伦比亚微型企业家提供信贷，到降低埃塞俄比亚的孕产妇发病率，再到向世界各地的难民提供拯救生命的信息，人工智能的力量正与包容性和经济赋权的潜力相匹配。
五家组织将作为 " 人工智能加速包容挑战赛"（ Artificial Intelligence to Accelerate Inclusion Challenge ）的优胜者，开发并推广其解决方案，重新定义如何利用人工智能产生社会影响。获奖者还包括印度一家为小规模养蜂人服务的社会企业和美国一项为患者提供未充分利用的联邦福利的倡议，他们将获得 20 万美元以及Mastercard和data.org 提供的技术援助和指导、赞助了此次挑战赛。
Mastercard新闻室采访了获奖组织的领导者，他们谈到了在社会领域构建人工智能解决方案所面临的挑战、他们如何减少偏见和训练模型使其具有包容性，以及还有哪些领域最有希望采用这项技术。
在哥伦比亚，有近 600 万家企业属于微型企业，这些企业的员工人数不到 10 人，资金规模较小。由于缺乏业绩信息和财务记录，其中只有 9% 可以正式借款，这就造成了巨大的资金缺口。
Quipu利用人工智能，通过分析移动交易历史、社交媒体互动、短信和支付模式等非传统数据的评分模型，以及智能支付和信贷收集，更准确地评估这些小型企业的信用度，从而弥补了非正规经济中的信息鸿沟。它还提供融资平台和小额贷款，使这些企业能够根据财务和非财务信息建立另一种信用评分。通过 Quipu 的应用程序，客户可以在几分钟内申请周转资金，并在两天内发放。
二十年前，埃塞俄比亚启动了农村医疗保健新模式，培训和部署了数千名卫生推广人员，为当地社区提供服务，从而显著改善了孕产妇和儿童的健康状况，减少了艾滋病毒新感染病例以及与结核病和疟疾相关的死亡病例等。
在这一成功的基础上，IDinsight正在与 "最后一英里健康"（Last Mile Health）和埃塞俄比亚卫生部合作，建立一个人工智能驱动的呼叫中心，卫生推广人员可以联系该中心，就复杂病例获得实时医疗指导。该组织的人工智能解决方案将包括一个病例管理系统和一项基于卫生部综合指南的问题解答服务，为呼叫中心座席提供实时支持，后者将通过电话进一步向医护人员转达关键信息，使他们能够专注于病人护理和提供高质量的医疗服务。
全世界有创纪录的 1.2 亿人因冲突、自然灾害、贫困和暴力而流离失所。受危机影响的人们必须在整个安全旅程中，在信息有限的情况下做出关键的、改变生活的决定。2015 年，国际救援委员会启动了 "路标项目"，该项目建立了数字帮助中心，供用户查找准确、及时的信息，获取关键服务，并直接向当地主持人提问，例如：我如何获得住房？我能获得临时工作许可证吗？我可以让孩子入学吗？Signpost 在全球拥有近 30 个活跃项目，2024 年 Signpost 用户将超过 600 万。
然而，随着流离失所者人数的增加，对信息的需求也在增加。在 2023 年阿富汗危机期间，Facebook 上的一个帖子在一个月内引发了 3 万条留言，让由六名版主组成的当地 Signpost 团队应接不暇。2024 年，IRC 领导的 Signpost 项目启动了 Signpost AI，通过人工智能代理和人工监督加强关键信息的传递。该系统旨在减轻主持人的负担，使他们能够集中精力处理更复杂的案件，同时确保做出及时准确的回应，从而改善全球流离失所者Access资源和服务的途径。
印度仍然是全球农业的火车头，但有一条农业价值链却缺乏活力，那就是养蜂业。印度有 40 万小规模养蜂人，其中许多人都在为维持生计而挣扎，更不用说提高昆虫授粉的经济潜力以提高作物产量了。在印度，昆虫授粉每年为印度带来 225.2 亿美元的收入，远远超过蜂蜜和蜂巢产品的市场规模，但在对印度经济和营养至关重要的作物方面，昆虫授粉的潜力仍未得到充分利用。
因此，Buzzworthy Ventures 创建了Beekind，这是一款人工智能驱动的移动应用程序，旨在增强小规模养蜂人的能力，尤其是农村和边缘化社区的妇女、小土地所有者、无地农民和部落人口。它提供实时洞察和预测分析，帮助养蜂人管理蜂巢健康、诊断疾病、提高蜂蜜产量并适应不断变化的气候条件。
急诊科医生阿利斯特-马丁（Alister Martin）经常看到，贫困是病人到急诊科就诊的驱动因素。他意识到，"以钱为药"--帮助病人 Access 现金援助和联邦福利--可以通过缩小健康与财富之间的差距，从根本上解决健康状况不佳的问题。
这促成了 "健康链接"计划的创立，该计划将患者与 SNAP、WIC 和 Lifeline 等未使用的联邦援助计划联系起来，以缓解加剧健康差距的经济压力。该人工智能注册平台和聊天机器人旨在释放 1 千万美元的州和联邦福利，以减轻贫困、减少经济压力并提高福利水平。
"最大的挑战是如何获得第一笔资金，开始贷款培训我们的分数。创建新的承保解决方案就像鸡和蛋的问题：你需要资金来构建解决方案，但在测试之前你无法获得资金"。
"第一个挑战是技术性的。在医疗保健方面，治疗方法和建议必须 100% 准确无误，不能出现幻觉。这就需要采用与流行的检索增强生成架构不同的方法。我们需要构建一个能准确捕捉治疗和诊断方案的图表。
"第二个挑战是创建具有代表性的基准和验证集。在迭代和改进模型之前，我们需要这些工人可能提出的问题和答案的数据集。该数据集必须涵盖他们可能询问的所有主题，并考虑到他们可能的询问方式--使用速记、口语、表情符号等。建立一个高质量的基准数据集耗资巨大，因为这通常需要人工标注"。
"最大的挑战之一是开发既具有包容性又能准确把握上下文的人工智能工具。要训练人工智能理解少数民族语言、地区方言和具有文化细微差别的内容，需要大量的数据整理、人类专业知识和测试。此外，要确保人工智能生成的应对措施能坚持人道主义原则，不会使偏见长期存在，就需要建立强有力的保障措施，如人工在环监督和为道德输出重写宪法。要在创新与这些严格标准之间取得平衡，要求很高，但至关重要。
"主要的挑战在于缩小先进的人工智能技术与在基层农村环境中采用该技术之间的差距。虽然印度的互联网连接呈指数级增长--2023 年将有超过 7 亿互联网用户，这主要得益于价格低廉的智能手机，但Access情况仍不均衡。这种数字鸿沟，再加上偏远森林和村庄零星的网络覆盖，对部署需要持续连接和用户互动的人工智能驱动型解决方案构成了重大障碍"。
"对于许多家庭来说，导航和Access 公共福利可能是一个障碍。然而，最大的挑战是如何将 Link Health 的干预措施与医疗机构无缝整合，因为医疗机构的服务提供者已经不堪重负。这需要在医护人员之间建立信任，确保导航员不会干扰患者护理，同时为患者和医疗保健系统带来可衡量的益处"。
Quipu 公司的 Mercedes Bidart 说："为了减少偏见，我们使用不同的数据集，定期审核我们的人工智能模型，并采用人工在环验证，以确保公平公正的信用评估。我们的算法经过严格测试，以防止出现性别和种族偏见，并且我们会持续监控和更新算法，使其符合道德标准。我们还为用户提供了便捷的补救程序，允许他们对人工智能的决定提出质疑或上诉。
IDinsight 的 Sid Ravinutula 说："首先，我们正在构建一个开源解决方案。我们希望这将加快类似工具在其他环境中的部署，使各组织能够在此基础上满足其特定需求。其次，我们要确保它可以很容易地根据当地情况进行定制和扩展。这包括遵守当地准则、转换人工智能模型或增加新的防护栏。通过创建一个可根据不同情况进行微调的通用模型，我们确保了解决方案的广泛适用性，同时也尊重了每种环境的独特要求。
André Heller，Signpost："Signpost 的人工智能是利用来自可信来源和当地非政府组织的经过整理和验证的数据进行训练的。这确保了人工智能反映了地区方言、文化规范和少数民族语言，填补了服务不足人群的重要空白。人工智能代理支持语音和文字输入，使识字率低的人也能使用。与母语使用者和社区版主一起对工具进行测试和改进，以验证其准确性和包容性。我们的人工智能章程以民主方式制定了道德规则，包括不歧视和创伤敏感语言，并持续进行审计，以减少偏见"。
莫妮卡-舒克拉（Monika Shukla），Buzzworthy Ventures："Beekind根据特定的地区、生态和作物条件，结合气候、植物和耕作方式等超本地因素，量身定制技术和触摸解决方案。为此，我们让当地养蜂人、研究人员、农业专家和社区领袖积极参与实践、模式和实施战略的编码设计，确保解决方案与服务对象的生活现实相一致。我们优先考虑妇女和小农户--他们是印度农业生态系统的主要贡献者，但却得不到充分的服务。例如，通过提供对性别问题有敏感认识的培训和创造包容性的对话空间，我们增强了妇女积极参与养蜂价值链并从中受益的能力。包容性不仅是一项原则，也是我们方法的实际基石"。
Alister Martin，Link Health："导航员通常在候诊室里与患者面对面交流，从身体和情感上满足他们的需求，并根据患者的具体需求调整他们的方法，例如为老年人登记医疗保险储蓄计划等福利。通过设计优先考虑无障碍性和使用可信赖的社区信使的系统，该计划可确保其有效地服务于不同人群，尤其是服务不足的社区"。
Quipu 公司的 Mercedes Bidart 说："建立人工智能模型最重要的是数据集。一个好的模型应该是一个结果良好且公平的模型，而实现这一点的唯一方法就是使用代表各地区特殊性的不同数据集来训练模型。拼图的另一个重要部分是建立模型的人员/团队。只有 20% 的人工智能工作是由女性完成的，这意味着没有从性别视角来审查结果。我们需要更多女性领导人工智能解决方案"。
IDinsight 的 Sid Ravinutula："可靠性。在医疗保健领域，错误的诊断或不完整的治疗可能会带来灾难性的后果。然而，人工智能模型本身具有随机性。例如，多次向人工智能提出同一个问题，可能会得到略有不同的回答。同样，重新表述一个问题也会产生不同的答案。虽然大多数答复可能会传达相同的信息，但有些答复可能不完整或具有误导性，可能会造成伤害。要确保所有回复都正确、完整并受到尊重，强有力的防护措施至关重要"。
André Heller，Signpost："最大的担忧是人工智能可能会因偏见、错误信息或排斥而造成伤害。对于弱势群体来说，错误的信息可能会带来改变生活的后果。要确保人工智能在背景上准确、透明并符合道德规范，就需要不断进行监督、测试并与当地专家合作。为了解决这个问题，我们实施了人工智能质量控制、偏差审计和道德审查，以完善应对措施，并制定了《人工智能宪法》等透明框架，以管理产出并降低有害风险。我们将继续保持警惕，在人工智能创新与问责和信任之间保持平衡。
莫妮卡-舒克拉（Monika Shukla），Buzzworthy 风险投资公司："当人工智能模型在训练时使用的数据不能完全代表其服务的社区时，就有可能强化现有的不平等。例如，许多人工智能系统都是使用主要语言的数据进行训练的，当地方言和口头语言的代表性不足。在印度，许多部落和地区社区使用的语言往往缺乏强大的数字数据集。这种代表性的缺乏会导致模型无法准确解释或响应这些社区的需求。此外，地区口音、语言模式和生活习惯往往被忽视，这使得人工智能解决方案对这些群体的效果不佳，甚至有害。
Alister Martin，Link Health："最大的担忧是人工智能系统可能会延续现有的偏见，尤其是在与服务不足的人群合作时。如果没有认真的监督，算法可能会无意中将那些最需要帮助的人排除在外，或者无法解释他们所面临的系统性不平等。确保人工智能在决策过程中的透明度、问责制和道德使用，对于避免加剧差距至关重要。这也是为什么我们会在流程的关键时刻让人类参与进来的原因，也是为什么我们会在不断发展人工智能工具的过程中继续让人类参与进来的原因"。
梅赛德斯-比达尔，基普："教育部门。我相信教育已经发生了变化，我们有机会让教育变得更加民主。我们在 Quipu 上围绕教育所做的工作是在 WhatsApp 上提供一个人工智能助理，为客户的业务管理提供支持。没有必要为每个企业配备一名顾问。通过一个机器人，我们可以支持数百万人的教育和成长。
IDinsight 的 Sid Ravinutula 说："IDinsight 是不分行业的。虽然这个项目的重点是健康，但我们也开发了教育和社会保护方面的人工智能解决方案。农民在获取信息方面面临着与社区卫生工作者类似的障碍。他们需要了解本地区最适合种植的作物和最佳肥料组合，以及作物疾病诊断和治疗方面的帮助。在教育领域，人工智能用例包括个性化辅导、人工智能生成的教案以及人工智能驱动的评估和评价。我们利用人工智能为一家致力于提高女童入学率的非政府组织识别印度的失学女童。最后，人工智能可以帮助公民获取政府福利。它可以帮助确定申请资格，并引导复杂的申请过程"。
André Heller，Signpost："随着人工智能的进步，很难想象有哪个行业不会发生变革。问题是什么时候--两年还是五年？从业务运营到数据分析，从医疗诊断到几乎所有领域的研究，一切都将以我们前所未见的速度向前发展。问题只是人们何时才能有效地利用它。实例：气象学与灾害管理之间的联系。气象警报和灾害预警系统，如洪水、飓风、干旱和极端天气事件，拥有从人工智能中获益的巨大潜力。先进的人工智能模型可以分析实时气象和水文数据，从而更准确地预报灾害，并为包括弱势群体、当地企业、供应链和政府在内的更全面的应对措施提供预警。Signpost 已经开始通过 FloodHub 利用人工智能进行洪水应对，将人工智能预测与可操作的实时更新相结合，帮助社区做好准备并减轻洪水的影响。
莫妮卡-舒克拉（Monika Shukla），Buzzworthy Ventures："医疗保健行业将极大地受益于人工智能，特别是在诊断、个性化医疗和优化医疗保健供应链方面，尤其是在农村地区。人工智能驱动的工具可以通过医学影像或诊断测试帮助早期发现疟疾和肺结核等疾病。例如，人工智能模型可以分析胸部 X 光片或血液样本，即使在资源匮乏的环境中也能检测出疾病的早期迹象。这可以加快诊断和治疗，最终在医疗服务不足的地区挽救生命并降低医疗成本。人工智能还可以简化偏远地区医疗保健系统的物流，确保医疗用品和疫苗及时送达服务不足的地区，这对于农村人口众多的国家来说至关重要。
Alister Martin，Link Health："教育将从人工智能中获益匪浅，尤其是在为服务不足的学生提供个性化学习体验方面。人工智能可以帮助识别学习差距，提供量身定制的支持，并以传统模式无法实现的方式为学生和家庭提供多语种资源。通过解决Access优质教育方面的不平等，人工智能可以对未来的健康和社会经济成果产生变革性影响"。