주 컨텐츠로 이동

AI

2025년 1월 7일

 

모두를 위한 AI: 기술과 포용의 교차점에서 얻는 교훈

사회적 공익을 위해 AI를 활용하는 전문가들이 포용적 AI의 확장에 대한 인사이트를 공유합니다.

비키 하이먼

커뮤니케이션 담당 이사, 마스터카드

 

콜롬비아의 소규모 기업가에게 신용을 확대하는 것부터 에티오피아의 산모 이환율 감소, 전 세계 난민에게 생명을 구하는 정보를 제공하는 것까지, 인공지능의 힘은 포용과 경제적 역량 강화의 잠재력과 결합되고 있습니다.

82개국에서 500개 이상의 조직이 응모한 ' 포용성 가속화를 위한 인공지능 챌린지'의 수상자로 선정된 5개 조직은 사회적 영향력을 위해 인공지능을 활용하는 방법을 재정의하고 솔루션을 개발 및 확장할 예정입니다. 인도의 소규모 양봉업자를 위한 사회적 기업, 연방 혜택을 제대로 활용하지 못하는 환자들을 연결하는 미국의 이니셔티브 등 수상자들에게는 20만 달러와 마스터카드 및 data.org의 기술 지원 및 멘토링이 제공될 예정입니다, 챌린지를 후원했습니다.

마스터카드 뉴스룸은 수상 기관의 리더들과 소셜 부문에서 AI 솔루션을 구축하는 데 따르는 어려움, 편견을 완화하고 포용성을 갖추도록 모델을 훈련하는 방법, 그리고 이 기술이 가장 유망한 분야가 무엇인지에 대해 이야기를 나눴습니다.

콜롬비아 중소기업의 자금 격차를 해소합니다: 키푸

콜롬비아에서는 약 600만 개의 기업이 소기업으로, 10명 미만의 직원과 소액의 자본으로 운영되고 있습니다. 이 중 9%만이 실적에 대한 정보 부족과 재무 이력 부재로 인해 공식적으로 대출을 받을 수 있으며, 이로 인해 막대한 자금 격차가 발생하고 있습니다.

퀴푸는 모바일 거래 내역, 소셜 미디어 상호 작용, SMS 및 결제 패턴, 지능형 지급 및 신용 회수 등 비 전통적인 데이터를 분석하는 점수 모델을 통해 AI를 사용하여 이러한 소규모 기업의 신용도를 보다 정확하게 평가함으로써 비공식 경제의 정보 격차를 해소합니다. 또한 금융 플랫폼과 소액 대출을 제공하여 이러한 기업이 금융 및 비금융 정보를 모두 기반으로 대체 신용 점수를 구축할 수 있도록 지원합니다. 퀴푸의 앱을 통해 고객은 단 몇 분 만에 운전자금을 신청하여 이틀 이내에 지급받을 수 있습니다.

 

에티오피아의 지역 사회 의료 서비스 강화: IDinsight

20년 전 에티오피아는 새로운 농촌 보건의료 모델을 도입하여 수천 명의 보건 확장 요원을 교육하고 배치하여 지역 사회에 봉사함으로써 모자 보건이 크게 개선되고 새로운 HIV 감염과 결핵 및 말라리아 관련 사망이 감소하는 등의 성과를 거두었습니다.

이러한 성공을 바탕으로 IDinsight는 라스트마일 헬스 및 에티오피아 보건부와 협력하여 보건 확장 요원들이 복잡한 사례에 대한 실시간 의료 안내를 받을 수 있는 AI 기반 콜센터를 구축하고 있습니다. 이 기관의 AI 솔루션에는 종합적인 보건부 지침에 기반한 사례 관리 시스템과 질의응답 서비스가 포함되며, 콜센터 상담원이 전화를 통해 의료진에게 중요한 정보를 실시간으로 전달하여 환자 치료에 집중하고 양질의 의료 서비스를 제공할 수 있도록 지원합니다.

 

전 세계 위기에 처한 사람들에게 생명을 구할 수 있는 정보를 전달합니다: 국제 구조 위원회의 표지판 프로젝트

분쟁, 자연재해, 빈곤, 폭력으로 인해 전 세계적으로 1억 2천만 명의 난민이 발생하고 있습니다. 위기의 영향을 받은 사람들은 제한된 정보로 안전에 이르는 여정 내내 삶을 바꾸는 중요한 결정을 내려야 합니다. 2015년 국제구조위원회는 사용자가 정확하고 시의적절한 정보를 찾고, 중요한 서비스를 이용하고, 지역 사회자에게 직접 질문할 수 있는 디지털 지원 센터를 구축하는 ' 표지판 프로젝트'를 시작했는데, 여기에는 '주택을 구하려면 어떻게 해야 하나요'와 같은 질문이 포함됩니다. 임시 취업 허가를 받을 수 있나요? 자녀를 학교에 등록할 수 있나요? 2024년 600만 명이 넘는 Signpost 사용자가 전 세계에서 약 30개의 프로그램을 운영하고 있습니다.  

하지만 이재민의 수와 함께 정보에 대한 수요도 증가하고 있습니다. 2023년 아프가니스탄 위기 당시, 페이스북 게시물 하나에 한 달 만에 3만 개의 메시지가 올라와 6명의 현지 운영자로 구성된 시그포스트 팀을 압도했습니다. 2024년, IRC가 주도하는 시그포스트 프로젝트는 AI 에이전트와 사람의 감독을 통해 중요 정보 전달을 강화하기 위해 시그포스트 AI를 출시했습니다. 이 시스템은 모더레이터의 부담을 줄여 더 복잡한 사례에 집중할 수 있도록 하는 동시에 전 세계 이재민들이 자원과 서비스에 대한 접근성을 개선할 수 있도록 시의적절하고 정확한 대응을 보장하는 것을 목표로 합니다. 

 

인도의 양봉가를 위한 지식의 보고를 구축합니다: 버즈워시 벤처스

인도는 여전히 세계적인 농업 발전소이지만, 한 가지 농업 가치 사슬에서 활기를 띠지 못하고 있습니다: 바로 양봉입니다. 인도에는 40만 명의 소규모 양봉가가 있으며, 이들 중 상당수는 작물 수확량 향상을 위한 곤충 수분의 경제적 잠재력을 높이는 것은 고사하고 생계 유지에도 어려움을 겪고 있습니다. 인도에서 곤충 수분은 연간 225억 2천만 달러에 달해 꿀과 벌집 제품의 시장 규모를 훨씬 능가하지만, 인도의 경제와 영양에 필수적인 작물에 대한 잠재력은 여전히 크게 활용되지 않고 있습니다. 

그래서 버즈워디 벤처스는 소규모 양봉업자, 특히 여성, 소규모 토지 소유자, 토지 없는 농부, 농촌 및 소외된 지역사회의 부족 주민을 지원하기 위해 AI 기반 모바일 애플리케이션인 Beekind를 개발했습니다. 실시간 인사이트와 예측 분석을 제공하여 양봉가가 벌통의 건강을 관리하고 질병을 진단하며 꿀 생산량을 개선하고 변화하는 기후 조건에 적응할 수 있도록 지원합니다.

 

미국의 건강-부 격차 해소: 링크 건강

응급의학과 의사 알리스터 마틴은 환자들이 응급실을 찾는 이유 중 하나가 가난이라는 사실을 자주 목격했습니다. 그는 환자들이 현금 지원과 연방 혜택을 받을 수 있도록 돕는 '약으로서의 돈'이 빈부 격차를 해소하여 건강 악화의 근본 원인을 해결할 수 있다는 사실을 깨달았습니다. 

이로 인해 건강 격차를 악화시키는 재정적 부담을 완화하기 위해 미사용 연방 지원 프로그램인 SNAP, WIC, 라이프라인과 환자를 연결해주는 프로그램인 Link Health가 탄생했습니다. AI 기반 등록 플랫폼과 챗봇은 빈곤을 완화하고 재정적 스트레스를 줄이며 웰빙을 개선하기 위해 주 및 연방 정부에서 1,000만 달러의 혜택을 제공하는 것을 목표로 합니다.

솔루션을 출시하는 과정에서 가장 어려웠던 점은 무엇인가요?

메르세데스 비다트, 퀴푸의 CEO 겸 공동 창립자

"가장 큰 도전은 점수 훈련을 위한 대출을 시작하기 위한 첫 번째 자본을 확보하는 것이었습니다. 새로운 언더라이팅 솔루션을 만드는 것은 닭과 달걀의 문제와 같습니다. 솔루션을 구축하려면 자본이 필요하지만 테스트하기 전에는 자본을 확보할 수 없습니다." 

시드 라비누툴라, 수석 데이터 과학자, IDinsight

"첫 번째 과제는 기술적인 문제입니다. 건강 관리 맥락에서 치료와 권장 사항은 100% 정확해야 하며, 환각이 개입될 여지가 없어야 합니다. 이를 위해서는 널리 사용되는 검색 증강 세대 아키텍처와는 다른 접근 방식이 필요합니다. 치료 및 진단 프로토콜을 정확하게 파악할 수 있는 그래프를 만들어야 합니다.

"두 번째 과제는 대표적인 벤치마크와 유효성 검사 세트를 만드는 것입니다. 모델을 반복하고 개선하기 전에 이러한 작업자가 질문할 가능성이 있는 질문과 답변의 데이터 세트가 필요합니다. 이 데이터 세트는 고객이 문의할 수 있는 모든 주제를 포괄해야 하며 속기, 구어체 용어, 이모티콘 등을 사용하여 문의하는 방식도 고려해야 합니다. 고품질의 벤치마크 데이터세트를 구축하려면 사람의 주석을 달아야 하는 경우가 많기 때문에 비용이 많이 듭니다."

앙드레 헬러, 프로그램 관리자, Signpost

"가장 큰 과제 중 하나는 포괄적이면서도 상황에 맞는 정확한 AI 도구를 개발하는 것이었습니다. 소수 언어, 지역 방언, 문화적으로 미묘한 차이를 보이는 콘텐츠를 이해하도록 AI를 훈련하려면 광범위한 데이터 큐레이션, 사람의 전문 지식, 테스트가 필요합니다. 또한, AI가 생성한 대응이 인도주의 원칙을 지키고 편견을 지속시키지 않도록 하기 위해서는 사람이 직접 감독하고 윤리적 결과를 위한 헌법을 다시 작성하는 등 강력한 안전장치를 구축해야 합니다. 이러한 엄격한 기준과 혁신의 균형을 맞추는 것은 까다롭지만 필수적인 일이었습니다."

모니카 슈클라, 버즈워시 벤처스 CEO 겸 공동 설립자

"가장 큰 과제는 첨단 AI 기술과 풀뿌리 농촌 환경에서의 채택 사이의 간극을 메우는 것이었습니다. 인도의 인터넷 연결은 2023년 7억 명이 넘는 인터넷 사용자가 저렴한 스마트폰에 힘입어 기하급수적으로 성장했지만, 여전히 접속 환경은 불균등합니다. 이러한 디지털 격차는 외딴 숲과 마을의 고르지 못한 네트워크 커버리지와 결합되어 일관된 연결과 사용자 상호 작용이 필요한 AI 기반 솔루션을 배포하는 데 큰 장애물이 되었습니다."

알리스터 마틴, Link Health CEO

"공공 혜택을 탐색하고 이용하는 것은 많은 가족에게 장애물이 될 수 있습니다. 하지만 가장 큰 과제는 의료진이 이미 과중한 업무에 시달리고 있는 의료 환경에 Link Health의 개입을 원활하게 통합하는 것이었습니다. 이를 위해서는 의료진 간의 신뢰를 구축하여 내비게이터가 환자 치료를 방해하지 않으면서도 환자와 의료 시스템에 측정 가능한 이점을 제공해야 했습니다."

 

 

여성과 소녀가 태블릿 주위에 모여 있습니다.

 

 

맞춤형 솔루션과 포용성을 모두 갖춘 솔루션은 어떻게 보장하나요?

메르세데스 비다트, 퀴푸: "편견을 완화하기 위해 다양한 데이터 세트를 사용하고, AI 모델을 정기적으로 감사하며, 공정하고 공평한 신용 평가를 위해 사람이 직접 검증하는 방식을 적용하고 있습니다. Facebook의 알고리즘은 성별 및 인종적 편견을 방지하기 위해 엄격한 테스트를 거치고 있으며, 윤리 기준에 부합하도록 지속적으로 모니터링하고 업데이트하고 있습니다. 또한 사용자에게 접근 가능한 구제 절차를 제공하여 AI 결정에 이의를 제기하거나 이의를 제기할 수 있도록 합니다."

IDinsight: "첫째, 오픈 소스 솔루션으로 구축하고 있습니다. 이를 통해 조직이 특정 요구 사항에 맞게 구축할 수 있도록 함으로써 다른 상황에서도 유사한 도구의 배포가 가속화되기를 바랍니다. 둘째, 현지 상황에 맞게 쉽게 사용자 지정하고 확장할 수 있도록 하고 있습니다. 여기에는 현지 지침 준수, AI 모델 전환 또는 새로운 가드레일 추가 등이 포함됩니다. 각 상황에 맞게 미세 조정할 수 있는 공통 모델을 만들어 각 환경의 고유한 요구 사항을 존중하면서 솔루션을 광범위하게 적용할 수 있도록 보장합니다." 

앙드레 헬러, Signpost: "Signpost AI는 신뢰할 수 있는 출처와 지역 NGO로부터 선별되고 검증된 데이터를 사용하여 학습합니다. 이를 통해 AI가 지역 방언, 문화적 규범 및 소수 언어를 반영하여 소외된 인구의 중요한 격차를 해소할 수 있습니다. AI 상담원은 음성 및 텍스트 입력을 지원하므로 문해력이 낮은 사람들도 쉽게 이용할 수 있습니다. 도구는 원어민 및 커뮤니티 운영자와 함께 테스트하고 개선하여 정확성과 포용성을 검증합니다. Facebook의 AI 헌법은 차별 금지와 트라우마에 민감한 언어를 포함한 윤리 규정을 민주적으로 수립하고 편견을 완화하기 위해 지속적인 감사를 실시하고 있습니다."

모니카 슈클라, 버즈워시 벤처스: "비카인드는 기후, 식물상, 농업 관행과 같은 지역적 요소를 통합하여 특정 지역, 생태 및 작물 조건에 맞게 기술 및 터치 솔루션을 맞춤화합니다. 이를 위해 지역 양봉가, 연구원, 농업 전문가, 지역사회 지도자를 적극적으로 참여시켜 사례, 모델 및 실행 전략을 코드화하여 솔루션이 사람들의 생활 현실에 부합하도록 하고 있습니다. 저희는 인도 농업 생태계의 핵심적인 기여자이지만 소외된 여성과 소규모 농부들을 우선적으로 지원합니다. 예를 들어, 성인지 감수성 교육을 제공하고 포용적인 대화의 장을 마련함으로써 여성이 양봉 가치 사슬에 적극적으로 참여하고 혜택을 누릴 수 있도록 지원하고 있습니다. 포용성은 단순한 원칙이 아니라 우리 접근 방식의 실질적인 초석입니다."

알리스터 마틴, Link Health: "내비게이터는 대기실 등 환자가 있는 곳에서 신체적, 정서적으로 환자를 만나고, 고령자를 메디케어 저축 프로그램과 같은 혜택에 등록하는 등 환자의 특정 요구 사항에 맞게 접근 방식을 맞춤화합니다. 접근성을 우선시하고 신뢰할 수 있는 커뮤니티 메신저를 사용하는 시스템을 설계함으로써 이 프로그램은 다양한 인구, 특히 소외된 커뮤니티에 효과적으로 서비스를 제공할 수 있습니다."

AI와 관련하여 가장 우려되는 점은 무엇인가요?

메르세데스 비다트, 퀴푸: "AI 모델을 구축할 때 가장 중요한 부분은 데이터 세트입니다. 좋은 모델은 정확하고 공정한 결과를 도출하는 모델이며, 이를 가능하게 하는 유일한 방법은 각 지역의 특수성을 나타내는 다양한 데이터 세트로 모델을 학습시키는 것입니다. 퍼즐의 또 다른 중요한 조각은 모델을 구축하는 사람/팀입니다. AI 직무의 20%% 만이 여성이 수행하고 있으며, 이는 성인지적 관점에서 결과를 검토하지 않고 있다는 의미입니다. 더 많은 여성이 AI 솔루션을 주도해야 합니다."

시드 라비누툴라, IDinsight: "신뢰성. 의료 서비스에서 잘못된 진단이나 불완전한 치료는 치명적인 결과를 초래할 수 있습니다. 그러나 AI 모델은 본질적으로 무작위성을 가지고 있습니다. 예를 들어, 인공지능에게 같은 질문을 여러 번 하면 조금씩 다른 답변이 나올 수 있습니다. 마찬가지로 질문의 문구를 바꾸면 다양한 답변이 나올 수 있습니다. 대부분의 답변은 동일한 메시지를 전달할 가능성이 높지만, 일부는 불완전하거나 오해의 소지가 있어 잠재적으로 피해를 유발할 수 있습니다. 모든 응답이 정확하고 완전하며 정중하게 이루어지려면 강력한 가드레일이 필수적입니다."

앙드레 헬러, 표지판: "가장 큰 우려는 편견, 잘못된 정보 또는 배제를 통해 해를 끼칠 수 있는 AI의 잠재력입니다. 취약 계층의 경우 잘못된 정보는 삶을 바꿀 수 있는 결과를 초래할 수 있습니다. AI가 상황에 맞게 정확하고 투명하며 윤리적인지 확인하려면 지속적인 감독, 테스트, 현지 전문가와의 협력이 필요합니다. Facebook은 품질 관리를 위한 인적 감독, 편향성 감사 및 윤리적 검토를 통해 대응을 개선하고, 결과물을 관리하고 유해한 위험을 완화하는 AI 헌장과 같은 투명한 프레임워크를 구현하여 이러한 문제를 해결합니다. 우리는 AI 혁신과 책임감 및 신뢰의 균형을 유지하기 위해 경계를 늦추지 않고 있습니다."

모니카 슈클라, 버즈워시 벤처스: "AI 모델이 서비스를 제공하려는 커뮤니티를 완전히 대표하지 않는 데이터를 사용하여 학습할 경우 기존의 불평등을 강화할 위험이 있습니다. 예를 들어, 많은 AI 시스템이 주요 언어의 데이터를 사용하여 학습하기 때문에 지역 방언과 구전 언어가 제대로 반영되지 않습니다. 인도에서는 수많은 부족 및 지역 커뮤니티에서 강력한 디지털 데이터 세트가 부족한 언어를 사용하는 경우가 많습니다. 이러한 대표성 부족은 이러한 커뮤니티의 요구를 정확하게 해석하거나 대응하지 못하는 모델로 이어질 수 있습니다. 또한 지역적 억양, 말투, 생활 습관 등을 간과하는 경우가 많기 때문에 이러한 그룹에게는 AI 솔루션의 효과가 떨어지거나 심지어 해로울 수도 있습니다."

알리스터 마틴, Link Health: "가장 큰 우려는 특히 소외 계층을 대상으로 작업할 때 AI 시스템이 기존의 편견을 지속시킬 수 있다는 점입니다. 주의 깊은 감독 없이는 알고리즘이 실수로 가장 도움이 필요한 사람들을 배제하거나 그들이 직면한 불평등을 고려하지 못할 수 있습니다. 의사 결정에 있어 투명성, 책임성, 윤리적 AI 사용을 보장하는 것은 격차 심화를 방지하는 데 매우 중요합니다. 이것이 바로 우리가 프로세스의 중요한 시점에 인간을 계속 참여시키는 이유이며, AI 도구를 발전시켜 나가면서 인간을 계속 참여시키는 이유이기도 합니다." 

AI의 혜택을 가장 많이 받을 수 있는 분야는 어디인가요?

메르세데스 비다트, 퀴푸: "교육 분야. 저는 교육이 변화했고 더 민주적으로 만들 수 있는 기회가 있다고 믿습니다. 교육과 관련하여 퀴푸에서 진행한 작업은 고객의 비즈니스 관리를 지원하는 WhatsApp의 차세대 AI 비서입니다. 비즈니스당 컨설턴트를 한 명씩 둘 필요는 없습니다. 하나의 봇으로 수백만 명의 교육과 성장을 지원할 수 있습니다."

시드 라비누툴라, IDinsight: "IDinsight는 업종에 구애받지 않습니다. 이 프로젝트는 건강에 초점을 맞추고 있지만, 교육과 사회 보호 분야에서도 AI 솔루션을 개발했습니다. 농부들은 지역 사회 보건 종사자들과 비슷한 정보 장벽에 직면해 있습니다. 그들은 해당 지역에 가장 적합한 작물과 최적의 비료 배합, 작물 질병 및 치료법 진단에 대한 지원이 필요합니다. 교육 분야에서 AI 사용 사례에는 개인화된 튜터, AI가 생성한 수업 계획, AI 기반 평가 및 평가가 포함됩니다. 유니티는 여학생의 학교 등록률을 높이기 위해 노력하는 한 NGO를 위해 인도의 학교 밖 여학생을 식별하는 데 AI를 활용했습니다. 마지막으로, AI는 시민들이 정부 혜택을 받을 수 있도록 도와줍니다. 자격 요건을 확인하고 복잡한 신청 절차를 탐색하는 데 도움이 될 수 있습니다."

앙드레 헬러, Signpost: "AI의 발전으로 혁신되지 않을 분야를 생각하기는 어렵습니다. 문제는 2년이 될까요, 5년이 될까요? 비즈니스 운영에서 데이터 분석, 의료 분야의 진단, 거의 모든 분야의 연구에 이르기까지 모든 것이 지금까지 경험하지 못한 속도로 발전할 것입니다. 사람들이 언제 효과적으로 활용할 수 있을지가 관건입니다. 실제 사례: 기상과 재난 관리의 연계. 홍수, 허리케인, 가뭄, 기상이변과 같은 기상 경보 및 재난 조기 경보 시스템에는 AI를 활용할 수 있는 엄청난 잠재력이 있습니다. 고급 AI 모델은 실시간 기상 및 수문 데이터를 분석하여 재난을 보다 정확하게 예측하고 취약한 사람, 지역 기업, 공급망 및 정부를 포함한 보다 총체적인 대응에 조기 경보를 제공할 수 있습니다. 시그포스트는 이미 홍수 대응에 AI를 활용하기 시작했으며, 홍수허브를 통해 AI 예측과 실행 가능한 실시간 업데이트를 결합하여 지역사회가 홍수에 대비하고 그 영향을 완화할 수 있도록 돕고 있습니다."

모니카 슈클라, 버즈워시 벤처스: "의료 부문은 특히 진단, 개인 맞춤형 의료, 특히 농촌 지역의 의료 공급망 최적화 분야에서 AI의 혜택을 크게 누릴 수 있습니다. AI 기반 도구는 의료 이미지나 진단 테스트를 통해 말라리아나 결핵과 같은 질병을 조기에 발견하는 데 도움을 줄 수 있습니다. 예를 들어, AI 모델은 자원이 부족한 환경에서도 흉부 엑스레이나 혈액 샘플을 분석하여 질병의 조기 징후를 감지할 수 있습니다. 이는 더 빠른 진단과 치료로 이어져 궁극적으로 의료 서비스가 취약한 지역의 생명을 구하고 의료 비용을 절감할 수 있습니다. 또한 AI는 원격 의료 시스템의 물류를 간소화하여 의료 서비스가 취약한 지역에 의료 용품과 백신을 적시에 공급할 수 있으며, 이는 농촌 인구가 많은 국가에 매우 중요합니다."

알리스터 마틴, Link Health: "교육은 특히 소외된 학생들을 위한 맞춤형 학습 경험을 제공하는 데 있어 AI의 큰 혜택을 누릴 수 있습니다. AI는 학습 격차를 파악하고, 맞춤형 지원을 제공하며, 기존 모델로는 불가능한 방식으로 학생과 가족에게 다국어 리소스를 제공하는 데 도움을 줄 수 있습니다. 양질의 교육에 대한 접근성의 불평등을 해결함으로써 AI는 미래의 건강과 사회경제적 결과에 혁신적인 영향을 미칠 수 있습니다."