Skip to main content

AI

7 Januari 2025

 

Kecerdasan buatan untuk semua: Pelajaran dari perpaduan teknologi dan inklusi

Para ahli dalam memanfaatkan AI untuk kebaikan sosial ini berbagi wawasan mereka tentang meningkatkan skala AI yang inklusif.

Vicki Hyman

Director,

Global Communications,

Mastercard

Mulai dari memberikan kredit kepada pengusaha mikro Kolombia hingga mengurangi angka kematian ibu melahirkan di Ethiopia hingga memberikan informasi yang menyelamatkan nyawa kepada para pengungsi di seluruh dunia, kekuatan kecerdasan buatan dipadukan dengan potensi inklusi dan pemberdayaan ekonomi.

Mendefinisikan ulang cara menggunakan AI untuk dampak sosial, lima organisasi akan mengembangkan dan meningkatkan solusi mereka sebagai pemenang Artificial Intelligence to Accelerate Inclusion Challenge, yang menerima lebih dari 500 aplikasi dari 82 negara. Para pemenang - yang juga termasuk perusahaan sosial untuk peternak lebah skala kecil di India dan inisiatif AS yang menghubungkan pasien dengan manfaat federal yang kurang dimanfaatkan - akan menerima $200.000 dan bantuan teknis dan bimbingan dengan Mastercard dan data.org, yang mensponsori tantangan ini.

Ruang Berita Mastercard berbicara kepada para pemimpin dari organisasi pemenang tentang tantangan membangun solusi AI di sektor sosial, bagaimana mereka mengurangi bias dan melatih model mereka untuk menjadi inklusif, dan sektor lain apa yang paling menjanjikan untuk teknologi ini.

Menjembatani kesenjangan pendanaan untuk usaha kecil di Kolombia: Quipu

Di Kolombia, hampir 6 juta bisnis adalah usaha mikro, beroperasi dengan kurang dari 10 karyawan dan modal yang kecil. Dari jumlah tersebut, hanya 9 persen yang dapat meminjam secara resmi, karena kurangnya informasi tentang kinerja mereka dan tidak adanya riwayat keuangan, dan hal ini menciptakan kesenjangan pendanaan yang sangat besar.

Quipu menjembatani kesenjangan informasi dalam ekonomi informal dengan menggunakan AI untuk menilai kelayakan kredit perusahaan-perusahaan kecil ini secara lebih akurat melalui model penilaian yang menganalisis data nontradisional, seperti riwayat transaksi seluler, interaksi media sosial, SMS dan pola pembayaran, serta pencairan dan penagihan kredit yang cerdas. Ini juga menyediakan platform pembiayaan dan pinjaman mikro yang memungkinkan bisnis-bisnis ini untuk membangun skor kredit alternatif berdasarkan informasi keuangan dan non-keuangan. Melalui aplikasi Quipu, pelanggan dapat mengajukan modal kerja dalam hitungan menit yang dapat dicairkan dalam waktu kurang dari dua hari.

 

Memperkuat layanan kesehatan masyarakat di Ethiopia: IDinsight

Dua dekade lalu, Ethiopia meluncurkan model baru untuk perawatan kesehatan pedesaan, melatih dan mengerahkan ribuan penyuluh kesehatan untuk melayani masyarakat setempat, yang telah menghasilkan peningkatan yang signifikan dalam kesehatan ibu dan anak, serta penurunan infeksi HIV baru dan kematian akibat TBC dan malaria.

Untuk membangun kesuksesan tersebut, IDinsight bermitra dengan Last Mile Health dan Kementerian Kesehatan Ethiopia dalam sebuah pusat panggilan bertenaga AI yang dapat dihubungi oleh para penyuluh kesehatan untuk mendapatkan panduan medis secara real-time untuk kasus-kasus yang kompleks. Solusi AI organisasi akan mencakup sistem manajemen kasus dan layanan penjawab pertanyaan berdasarkan pedoman Kementerian Kesehatan yang komprehensif, memberikan dukungan waktu nyata kepada agen pusat panggilan yang selanjutnya akan menyampaikan informasi penting kepada petugas layanan kesehatan melalui telepon, sehingga mereka dapat fokus pada perawatan pasien dan memberikan layanan kesehatan berkualitas tinggi.

 

Menyampaikan informasi penyelamatan jiwa kepada orang-orang yang mengalami krisis di seluruh dunia: Proyek Rambu-rambu Komite Penyelamatan Internasional

Tercatat 120 juta orang mengungsi di seluruh dunia akibat konflik, bencana alam, kemiskinan, dan kekerasan. Orang-orang yang terkena dampak krisis harus membuat keputusan penting yang mengubah hidup mereka selama perjalanan mereka menuju tempat yang aman dengan informasi yang terbatas. Pada tahun 2015, Komite Penyelamatan Internasional meluncurkan Proyek Signpost, yang mendirikan pusat bantuan digital bagi pengguna untuk menemukan informasi yang akurat dan tepat waktu, Access layanan penting dan mengajukan pertanyaan langsung kepada moderator lokal, seperti, Bagaimana saya bisa Access perumahan? Apakah saya bisa mendapatkan izin kerja sementara? Dapatkah saya mendaftarkan anak saya ke sekolah? Signpost memiliki hampir 30 program aktif di seluruh dunia, dengan lebih dari 6 juta pengguna Signpost pada tahun 2024.  

Namun, kebutuhan informasi meningkat seiring dengan meningkatnya jumlah pengungsi. Selama krisis tahun 2023 di Afghanistan, satu unggahan Facebook menghasilkan 30.000 pesan dalam waktu satu bulan, membuat tim Signpost lokal yang terdiri dari enam moderator kewalahan. Pada tahun 2024, Signpost Project yang dipimpin IRC meluncurkan Signpost AI untuk meningkatkan penyampaian informasi penting melalui agen AI dan pengawasan manusia. Sistem ini bertujuan untuk mengurangi beban moderator, memungkinkan mereka untuk fokus pada kasus-kasus yang lebih kompleks, sambil memastikan tanggapan tepat waktu dan akurat yang meningkatkan Access ke sumber daya dan layanan untuk populasi pengungsi secara global. 

 

Membangun sarang pengetahuan bagi para peternak lebah di India: Buzzworthy Ventures

India tetap menjadi dinamo pertanian global, tetapi ada satu rantai nilai pertanian yang kurang bergairah: peternakan lebah. Terdapat 400.000 peternak lebah skala kecil di India, banyak di antaranya berjuang untuk mempertahankan mata pencaharian mereka, apalagi meningkatkan potensi ekonomi dari penyerbukan serangga untuk meningkatkan hasil panen. Di India, penyerbukan serangga menyumbang $22,52 miliar per tahun, jauh melebihi ukuran pasar madu dan produk sarang lebah, namun potensinya masih sangat kurang dimanfaatkan untuk tanaman yang penting bagi ekonomi dan nutrisi India. 

Maka Buzzworthy Ventures menciptakan Beekind, sebuah aplikasi seluler berbasis AI untuk memberdayakan peternak lebah skala kecil, terutama perempuan, pemilik lahan kecil, petani tanpa lahan, dan populasi suku di komunitas pedesaan dan terpinggirkan. Alat ini memberikan wawasan waktu nyata dan analisis prediktif, membantu peternak lebah mengelola kesehatan sarang, mendiagnosis penyakit, meningkatkan produksi madu, dan beradaptasi dengan perubahan kondisi iklim.

 

Menutup kesenjangan kesehatan-kekayaan di AS: Tautan Kesehatan

Dokter gawat darurat Alister Martin sering melihat bahwa kemiskinan merupakan faktor pendorong di balik kunjungan pasien ke unit gawat darurat. Dia menyadari bahwa “uang sebagai obat” —membantu pasien Access bantuan tunai dan tunjangan federal — dapat mengatasi akar penyebab kesehatan yang buruk dengan menutup kesenjangan kekayaan kesehatan. 

Hal ini mendorong terciptanya Link Health, sebuah program yang menghubungkan pasien dengan program bantuan federal yang tidak terpakai seperti SNAP, WIC dan Lifeline untuk meringankan beban keuangan yang memperparah kesenjangan kesehatan. Platform pendaftaran dan chatbot yang diaktifkan oleh AI ini bertujuan untuk membuka $10 juta tunjangan negara bagian dan federal untuk mengentaskan kemiskinan, mengurangi tekanan keuangan, dan meningkatkan kesejahteraan.

Apa tantangan terbesar dalam menjalankan solusi Anda?

Mercedes Bidart, CEO dan salah satu pendiri, Quipu

"Tantangan terbesarnya adalah mendapatkan modal pertama untuk mulai meminjamkan uang untuk melatih skor kami. Menciptakan solusi penjaminan emisi baru seperti masalah ayam dan telur: Anda membutuhkan modal untuk membangun solusi, tetapi Anda tidak akan mendapatkannya sebelum mengujinya." 

Sid Ravinutula, kepala ilmuwan data, IDinsight

"Tantangan pertama adalah teknis. Dalam konteks perawatan kesehatan, perawatan dan rekomendasi harus 100% akurat - tidak ada ruang untuk halusinasi. Hal ini memerlukan pendekatan yang berbeda dari arsitektur generasi pengambilan yang sudah ada saat ini. Kita perlu membuat grafik yang secara akurat menangkap perawatan dan protokol diagnostik.

"Tantangan kedua adalah menciptakan tolok ukur dan set validasi yang representatif. Sebelum melakukan iterasi dan meningkatkan model, kita membutuhkan kumpulan data pertanyaan dan jawaban yang mungkin ditanyakan oleh para pekerja. Dataset ini harus mencakup semua topik yang mungkin ditanyakan oleh para pengguna dan menjelaskan bagaimana mereka bertanya - menggunakan singkatan, istilah sehari-hari, emoji, dll. Membangun dataset tolok ukur berkualitas tinggi itu mahal, karena sering kali membutuhkan anotasi manusia."

André Heller, manajer program, Signpost

"Salah satu tantangan terbesar adalah mengembangkan alat bantu AI yang inklusif dan akurat secara kontekstual. Melatih AI untuk memahami bahasa minoritas, dialek regional, dan konten bernuansa budaya membutuhkan kurasi data yang ekstensif, keahlian manusia, dan pengujian. Selain itu, memastikan bahwa respons yang dihasilkan oleh AI menjunjung tinggi prinsip-prinsip kemanusiaan dan tidak melanggengkan bias membutuhkan perlindungan yang kuat, seperti pengawasan manusia di dalamnya dan penulisan ulang konstitusi untuk hasil yang etis. Menyeimbangkan inovasi dengan standar yang ketat ini merupakan hal yang sangat sulit, namun sangat penting."

Monika Shukla, CEO dan salah satu pendiri, Buzzworthy Ventures

"Tantangan utamanya adalah menjembatani kesenjangan antara teknologi AI yang canggih dan pengadopsiannya di lingkungan pedesaan. Sementara konektivitas internet di India telah tumbuh secara eksponensial — dengan lebih dari 700 juta pengguna internet pada tahun 2023, sebagian besar didorong oleh smartphone yang terjangkau — Access tetap tidak merata. Kesenjangan digital ini, ditambah dengan jangkauan jaringan yang tidak merata di hutan dan desa terpencil, menjadi hambatan yang signifikan dalam menerapkan solusi berbasis AI yang membutuhkan konektivitas dan interaksi pengguna yang konsisten."

Alister Martin, CEO, Link Health

“Menavigasi dan Access manfaat publik dapat menjadi rintangan bagi banyak keluarga. Namun, tantangan terbesarnya adalah mengintegrasikan intervensi Link Health secara mulus ke dalam layanan kesehatan yang sudah kewalahan. Hal ini membutuhkan pembangunan kepercayaan di antara petugas kesehatan, memastikan bahwa navigator tidak mengganggu perawatan pasien sambil menunjukkan manfaat yang terukur bagi pasien dan sistem perawatan kesehatan."

 

 

Para wanita dan seorang gadis berkumpul mengelilingi sebuah tablet.

 

 

Bagaimana Anda memastikan solusi Anda sesuai dengan kebutuhan dan inklusif?

Mercedes Bidart, Quipu: "Untuk mengurangi bias, kami menggunakan set data yang beragam, mengaudit model AI kami secara teratur dan menerapkan validasi human-in-the-loop untuk memastikan penilaian kredit yang adil dan merata. Algoritme kami diuji secara ketat untuk mencegah bias gender dan ras, dan kami terus memantau dan memperbaruinya agar selaras dengan standar etika. Kami juga menyediakan proses ganti rugi yang dapat diakses oleh pengguna, yang memungkinkan mereka untuk menantang atau mengajukan banding atas keputusan AI."

Sid Ravinutula, IDinsight: "Pertama, kami membangun ini sebagai solusi sumber terbuka. Kami berharap hal ini akan mempercepat penyebaran alat serupa dalam konteks lain dengan memungkinkan organisasi untuk mengembangkannya sesuai dengan kebutuhan spesifik mereka. Kedua, kami memastikan bahwa sistem ini dapat dengan mudah disesuaikan dan diperluas untuk konteks lokal. Hal ini termasuk mematuhi pedoman lokal, mengganti model AI atau menambahkan pagar pembatas baru. Dengan menciptakan model umum yang dapat disesuaikan untuk setiap konteks, kami memastikan solusi ini dapat diterapkan secara luas dengan tetap menghormati persyaratan unik dari setiap pengaturan." 

André Heller, Signpost: "Signpost AI dilatih menggunakan data yang telah dikurasi dan diverifikasi dari sumber tepercaya dan LSM lokal. Hal ini memastikan AI mencerminkan dialek regional, norma budaya, dan bahasa minoritas, sehingga mengisi kesenjangan penting bagi populasi yang kurang terlayani. Agen AI mendukung input suara dan teks, sehingga memungkinkan aksesibilitas bagi orang-orang dengan kemampuan baca tulis yang rendah. Alat-alat tersebut diuji dan disempurnakan dengan penutur asli dan moderator komunitas untuk memvalidasi keakuratan dan inklusivitas. Konstitusi AI kami secara demokratis menetapkan aturan etika, termasuk nondiskriminasi dan bahasa yang sensitif terhadap trauma, dengan audit berkelanjutan untuk mengurangi bias."

Monika Shukla, Buzzworthy Ventures: "Beekind menyesuaikan solusi teknologi dan sentuhannya dengan kondisi regional, ekologi, dan tanaman tertentu, dengan mengintegrasikan faktor-faktor hiperlokal seperti iklim, flora, dan praktik pertanian. Untuk mencapai hal ini, kami secara aktif melibatkan peternak lebah lokal, peneliti, ahli pertanian, dan tokoh masyarakat dalam praktik pemberian kode, model, dan strategi implementasi, untuk memastikan bahwa solusinya selaras dengan realitas kehidupan masyarakat yang dilayaninya. Kami memprioritaskan perempuan dan petani kecil - kontributor utama namun kurang terlayani dalam ekosistem pertanian India. Misalnya, dengan memberikan pelatihan yang peka gender dan menciptakan ruang dialog yang inklusif, kami memberdayakan perempuan untuk berpartisipasi aktif dan mendapatkan manfaat dari rantai nilai peternakan lebah. Inklusivitas bukan hanya sebuah prinsip; ini adalah landasan praktis dari pendekatan kami."

Alister Martin, Link Health: "Navigator menemui pasien di mana mereka berada - secara fisik dan emosional - sering kali di ruang tunggu, dan menyesuaikan pendekatan mereka dengan kebutuhan pasien tertentu, seperti mendaftarkan orang dewasa yang lebih tua dalam manfaat seperti Program Tabungan Medicare. Dengan merancang sistem yang memprioritaskan aksesibilitas dan menggunakan penyampai pesan dari komunitas yang terpercaya, program ini memastikan bahwa program ini dapat melayani berbagai populasi secara efektif, terutama komunitas yang kurang terlayani."

Apa kekhawatiran terbesar yang Anda miliki seputar AI?

Mercedes Bidart, Quipu: "Bagian terpenting saat membangun model AI adalah dataset. Model yang baik adalah model yang memiliki hasil yang baik dan adil, dan satu-satunya cara untuk mewujudkan hal tersebut adalah dengan melatih model dengan set data yang beragam yang mewakili keunikan masing-masing wilayah. Bagian penting lainnya dari teka-teki ini adalah orang/tim yang membangun model tersebut. Hanya 20% pekerjaan AI yang dilakukan oleh perempuan, yang berarti hasilnya tidak ditinjau dari sudut pandang gender. Kami membutuhkan lebih banyak perempuan yang memimpin solusi AI."

Sid Ravinutula, IDinsight: "Keandalan. Dalam perawatan kesehatan, diagnosis yang salah atau perawatan yang tidak lengkap dapat menimbulkan konsekuensi bencana. Namun, model AI secara inheren menunjukkan keacakan. Misalnya, mengajukan pertanyaan yang sama kepada AI beberapa kali mungkin akan menghasilkan jawaban yang sedikit berbeda. Demikian pula, mengulang pertanyaan dapat menghasilkan jawaban yang bervariasi. Meskipun sebagian besar tanggapan kemungkinan akan menyampaikan pesan yang sama, beberapa mungkin tidak lengkap atau menyesatkan, sehingga berpotensi menyebabkan bahaya. Pagar pembatas yang kuat sangat penting untuk memastikan semua tanggapan yang diberikan benar, lengkap, dan penuh rasa hormat."

André Heller, Signpost: "Kekhawatiran terbesar adalah potensi AI untuk menyebabkan bahaya melalui bias, informasi yang salah, atau pengucilan. Untuk populasi yang rentan, informasi yang salah dapat memiliki konsekuensi yang mengubah hidup. Memastikan AI secara kontekstual akurat, transparan, dan etis membutuhkan pengawasan, pengujian, dan kolaborasi yang konstan dengan para ahli lokal. Kami mengatasi hal ini dengan menerapkan pengawasan human-in-the-loop untuk kontrol kualitas, audit bias dan tinjauan etika untuk menyempurnakan respons, dan kerangka kerja transparan seperti Konstitusi AI, yang mengatur keluaran dan memitigasi risiko berbahaya. Kami tetap waspada dalam menyeimbangkan inovasi AI dengan akuntabilitas dan kepercayaan."

Monika Shukla, Buzzworthy Ventures: "Ketika model AI dilatih menggunakan data yang tidak sepenuhnya mewakili komunitas yang ingin mereka layani, ada risiko untuk memperkuat ketidaksetaraan yang ada. Sebagai contoh, banyak sistem AI dilatih menggunakan data dalam bahasa utama, sehingga dialek lokal dan bahasa lisan kurang terwakili. Di India, banyak komunitas suku dan daerah berbicara dalam bahasa yang sering kali tidak memiliki kumpulan data digital yang kuat. Kurangnya representasi ini dapat menyebabkan model yang gagal menafsirkan atau merespons kebutuhan masyarakat secara akurat. Selain itu, aksen daerah, pola bicara, dan praktik kehidupan sering kali diabaikan, sehingga solusi AI menjadi kurang efektif atau bahkan berbahaya bagi kelompok-kelompok ini."

Alister Martin, Link Health: "Kekhawatiran terbesar adalah potensi sistem AI untuk melanggengkan bias yang sudah ada, terutama ketika bekerja dengan populasi yang kurang terlayani. Tanpa pengawasan yang cermat, algoritme dapat secara tidak sengaja mengecualikan mereka yang paling membutuhkan atau gagal memperhitungkan ketidakadilan sistemik yang mereka hadapi. Memastikan transparansi, akuntabilitas, dan penggunaan AI yang etis dalam pengambilan keputusan sangatlah penting untuk menghindari kesenjangan yang semakin parah. Ini juga alasan mengapa kami tetap melibatkan manusia pada titik-titik kritis dalam prosesnya - dan mengapa kami akan terus melibatkan manusia seiring dengan perkembangan alat bantu AI kami." 

Sektor apa di luar sektor Anda yang paling berpotensi mendapatkan manfaat dari AI?

Mercedes Bidart, Quipu: "Sektor pendidikan. Saya yakin pendidikan telah berubah dan kita memiliki kesempatan untuk membuatnya lebih demokratis. Apa yang telah kami lakukan di Quipu seputar pendidikan adalah asisten AI di WhatsApp yang mendukung klien kami dalam manajemen bisnis mereka. Tidak perlu memiliki satu konsultan untuk setiap bisnis. Dengan satu bot, kami dapat mendukung pendidikan dan pertumbuhan jutaan orang."

Sid Ravinutula, IDinsight: "IDinsight bersifat sektoral. Meskipun proyek ini berfokus pada kesehatan, kami telah mengembangkan solusi AI di bidang pendidikan dan perlindungan sosial. Para petani menghadapi hambatan yang sama terhadap informasi seperti halnya petugas kesehatan masyarakat. Mereka perlu mengetahui tanaman terbaik untuk ditanam di wilayah mereka dan campuran pupuk yang optimal, serta bantuan untuk mendiagnosis penyakit tanaman dan perawatannya. Dalam dunia pendidikan, kasus penggunaan AI mencakup tutor yang dipersonalisasi, rencana pelajaran yang dibuat oleh AI, serta penilaian dan evaluasi yang didukung oleh AI. Kami telah menggunakan AI untuk mengidentifikasi anak perempuan yang tidak bersekolah di India untuk sebuah LSM yang bekerja untuk meningkatkan pendaftaran anak perempuan di sekolah. Akhirnya, AI dapat membantu warga mendapatkan Access manfaat pemerintah. Hal ini dapat membantu dalam mengidentifikasi kelayakan dan menavigasi proses aplikasi yang kompleks."

André Heller, Signpost: "Dengan kemajuan AI, sulit untuk memikirkan sektor yang tidak akan bertransformasi. Pertanyaannya adalah kapan - dua tahun atau lima tahun? Dari operasi bisnis hingga analisis data hingga diagnostik dalam perawatan kesehatan hingga penelitian di hampir semua bidang, semuanya akan berkembang dengan kecepatan yang belum pernah kita lihat. Ini hanya masalah kapan orang akan dapat memanfaatkannya secara efektif. Contoh praktis: hubungan antara meteorologi dan manajemen bencana. Peringatan cuaca dan sistem peringatan dini bencana, seperti banjir, angin topan, kekeringan, dan peristiwa cuaca ekstrem, memiliki potensi besar untuk mendapatkan manfaat dari AI. Model AI yang canggih dapat menganalisis data meteorologi dan hidrologi secara real-time untuk meramalkan bencana secara lebih akurat dan memberikan peringatan dini untuk respons yang lebih menyeluruh yang mencakup masyarakat yang rentan, bisnis lokal, rantai pasokan, dan pemerintah. Signpost telah mulai memanfaatkan AI untuk tanggap bencana banjir melalui FloodHub, yang menggabungkan prediksi AI dengan pembaruan real-time yang dapat ditindaklanjuti untuk membantu masyarakat mempersiapkan diri dan mengurangi dampak banjir."

Monika Shukla, Buzzworthy Ventures: "Sektor perawatan kesehatan akan mendapatkan manfaat yang signifikan dari AI, terutama dalam hal diagnostik, pengobatan yang dipersonalisasi, dan mengoptimalkan rantai pasokan perawatan kesehatan, terutama di daerah pedesaan. Alat bertenaga AI dapat membantu deteksi dini penyakit seperti malaria dan tuberkulosis melalui gambar medis atau tes diagnostik. Sebagai contoh, model AI dapat menganalisis sinar-X dada atau sampel darah untuk mendeteksi tanda-tanda awal penyakit, bahkan di lingkungan dengan sumber daya yang rendah. Hal ini dapat mengarah pada diagnosis dan perawatan yang lebih cepat, yang pada akhirnya menyelamatkan nyawa dan mengurangi biaya perawatan kesehatan di daerah yang kurang terlayani. AI juga dapat merampingkan logistik dalam sistem perawatan kesehatan terpencil, memastikan pengiriman pasokan medis dan vaksin tepat waktu ke daerah-daerah yang kurang terlayani, yang sangat penting bagi negara-negara dengan populasi pedesaan yang besar."

Alister Martin, Link Health: "Dunia pendidikan akan sangat diuntungkan dengan adanya AI, terutama dalam mempersonalisasi pengalaman belajar bagi siswa yang kurang mampu. AI dapat membantu mengidentifikasi kesenjangan dalam pembelajaran, memberikan dukungan yang disesuaikan, dan menawarkan sumber daya multibahasa kepada siswa dan keluarga dengan cara yang tidak dapat dilakukan oleh model tradisional. Dengan mengatasi ketidakadilan dalam akses ke pendidikan berkualitas, AI dapat memiliki dampak transformatif pada kesehatan masa depan dan hasil sosial ekonomi.