Skip to main content

AI

30 Ekim 2023

 

Sorumlu yapay zeka kullanımı: Yolun kuralları nasıl belirlenir?

Üretken yapay zeka, şirketlerin çalışma ve yenilik yapma biçimlerini değiştirebilir. Mastercard liderleri bu geleceğe nasıl yön vereceklerine dair görüşlerini paylaşıyor.

Vicki Hyman

Director,

Global Communications,

Mastercard

Yakın zamana kadar Mastercard Baş Teknoloji Sorumlusu Ed McLaughlin'in masasına gelen her teklifte "blockchain" kelimesi geçiyor gibiydi. "Bir veritabanı daha iyi çalışmaz mıydı?" diye sorar ve yanıt genellikle "Evet, ama bu blok zincirinde" olurdu.

Bu günlerde, yapay zeka. Mastercard, ağındaki dolandırıcılıkla mücadele etmek için yıllardır yapay zekayı kullanırken, her türlü yeni içeriği oluşturmak için muazzam miktarda veri madenciliği yapan üretken yapay zekadaki son gelişmeler heyecan verici fırsatların önünü açıyor. Şirket, bir finans kurumunun sistemlerindeki zayıflıkları değerlendirmek ve kara para aklamayı önleme ile ilgili büyük veri kümelerindeki kırmızı bayrakları tespit etmek için sentetik dolandırıcılık işlem verileri oluşturmak üzere üretken yapay zeka kullanıyor. Mastercard ayrıca e-ticaret perakendecilerinin kullanıcı deneyimlerini kişiselleştirmelerine yardımcı olmak için gen AI kullanıyor.

Ancak bu teknolojiyi kullanmanın riskleri de yok değil - bunların arasında yapay zekayı bir balyoz gibi kullanmak ya da McLaughlin'in deyimiyle "çok pahalı lokma anahtarlarıyla vidaları çakmak" da var. Şirketlerin kendilerine şu soruyu sorması gerektiğini söylüyor: "Asla çözemediğiniz zor sorunlar nelerdir? Yapay zeka gerçekte nereye değer katabilir? Ve potansiyel zararları yönetirken bunu nasıl yapabilirsiniz?"

Her büyüklükteki işletme bu sorularla boğuşuyor. VentureBeat 'in veri, yapay zeka, güvenlik ve pazarlama alanlarındaki küresel yöneticilerle yaptığı yeni bir anket,kuruluşların yarısından fazlasının üretken yapay zekayı küçük ölçekte denediğini, ancak 20'den azının% bunu halihazırda uyguladığını ve neredeyse her 10 kişiden birinin bununla nasıl etkileşime geçecekleri konusunda "hiçbir fikri olmadığını" ortaya koydu.

Cyber & Intelligence Yapay Zeka Başkan Yardımcısı Rohit Chauhan, "Yapay zeka ile küçük düşünebilir ve küçük şeyler yapabilirsiniz ya da büyük düşünebilir ve işinizi, sektörünüzü veya dünyayı gerçekten dönüştürebilirsiniz" diyor. "Büyük düşünmek istiyoruz, ancak her iki durumda da yapay zeka uygulamasının sorumlu ve güvenli bir şekilde yapılması gerekiyor ki dünya için daha fazla fayda sağlasın. Yapay zekanın en büyük riski onu kullanmamaktır."

Mastercard liderleriyle, üretken yapay zeka söz konusu olduğunda riskleri nasıl en aza indirdiklerini, fırsatları nasıl keşfettiklerini ve doğru yatırımları nasıl yaptıklarını konuştuk.

İşletmelerin yeni fırsatları takip ederken göz önünde bulundurması ve azaltması gereken riskler nelerdir?

İşletmeler, üretken yapay zeka teknolojisini benimseyip benimsememeyi düşünürken risklerin doğrudan ele alınması gerekir. Bu riskler arasında veri kümelerinin doğasında bulunan önyargılar, yapay zeka modellerine aktarıldıktan sonra insanların verilerine yönelik yetersiz gizlilik korumaları ve yapay zeka tarafından yanlışların tekrarlanması anlamına gelen "halüsinasyonlar" yer alıyor.

Mastercard'ın veri programını beş yıldan uzun bir süre yöneten ve yakın zamanda sorumlu yapay zeka ve veri konusunda uzmanlaşmış bir Mastercard Üyesi olarak atanan JoAnn Stonier, güçlü veri sorumluluğu ilkeleri ve uygulamalarının, üretken yapay zekaya adım atmadan önce zaten mevcut olması gerektiğini söylüyor. Geçtiğimiz yıl Mastercard, veri uygulamalarının, analizlerinin ve çıktılarının kapsamlı ve eşitlikçi olmasını sağlamak için kendi veri sorumluluğu ilkelerini kapsayıcılığı vurgulayacak şekilde güncelledi. Şirketin gizlilik ve veri sorumluluğu sorumlusu Caroline Louveaux, şirketin "Tasarım Yoluyla Gizlilik" taahhüdünün de yapay zeka modellerine güçlü gizlilik ve güvenlik korumaları yerleştirdiğini ekliyor.

Stonier, "Üretken yapay zeka ve verilerin sorumlu kullanımı için şirket duvarları içinde standartlarımızı ve ilkelerimizi geliştirdik" diyor. "Bu, çalışanlar için yapılması ve yapılmaması gerekenlerin yanı sıra hassas veya gizli bilgileri tehlikeye atmadan yeni teknolojinin nasıl öğrenileceği ve test edileceğine dair korkulukları da içeriyor. Tarihin doğru tarafındayız."

Örneğin, çalışanlara ilk sonuçları kabul etmemelerini ve sorguları birden fazla şekilde birden fazla kez çalıştırmalarını tavsiye eden bu kılavuz , Aspen Enstitüsü'nün ABD Siber Güvenlik Grubu'nun kendi üretken yapay zeka yol haritalarını oluştururken diğer şirketler için rehberlik etmesine yardımcı oldu. Mastercard'ın baş veri sorumlusu Andrew Reiskind, "En iyi uygulamaları oluşturmak ve ölçeklendirmek için bu tür işbirlikçi çabalar, üretken yapay zeka ile sorumlu inovasyonu teşvik etmek için gereklidir" diyor.

Yapay zekanın doğru şekilde uygulandığından emin olmak için ne tür bir iç yönetişim uygulanabilir?

Sıfırdan başlamanıza gerek yok. Bunun yerine şirketler mevcut politikalardan, süreçlerden ve araçlardan yararlanmalı ve bunları oluşturmanın doğru yolunu belirlemek için kurum genelinde çalışmalıdır. 

Disiplinler arası bir yaklaşım benimsemek çok önemlidir. Veri bilimciler, ürün geliştiriciler, yazılım mühendisleri ve sistem mimarları "nasıl "ı bilirler, ancak insan kaynakları uzmanları, politika uzmanları, etikçiler ve avukatlar ve diğerleri de "neden "i - ya da "yapmalı mıyız? "ı sağlayabilirler.

Louveaux, bu amaçla Mastercard'ın beş yıl önce şirketin yapay zeka faaliyetlerini denetlemek ve bunların değerlerine ve veri sorumluluğu ilkelerine uygun olmasını sağlamak için Yapay Zeka Yönetişim Konseyi'ni kurduğunu söylüyor. "Bazen bağımsız uzmanlardan veya müşterilerden tavsiye istiyoruz, çünkü başkalarının yapay zeka inovasyonlarımızı nasıl gördüğünü duymak, kör noktalara ışık tutmaya yardımcı oluyor. Bu, uyumluluğun da ötesinde, verileri ve teknolojiyi nasıl ele aldığımız konusunda güven kazanmak ve bunu sürdürmekle ilgilidir."

Yapay Zekanın Düzenlenmesi

Özel sektör yapay zekanın hızlı evrimindeki fırsat ve risklerle boğuşurken, hükümetler de yapay zeka ile ilgili standartların geliştirilmesini hızlandırıyor. Avrupa Birliği, YZ sistemlerini bir kişinin sağlığı, güvenliği veya temel haklarına yönelik risklere göre sınıflandıran geniş kapsamlı bir YZ Yasası hazırladı ve Birleşik Krallık bu hafta YZ Güvenlik Zirvesi 'nde teknolojinin riskleri üzerine küresel bir görüşmeye ev sahipliği yapıyor.

ABD'de Başkan Biden Pazartesi günü, en güçlü yapay zeka sistemlerinin geliştiricilerinin güvenlik testi sonuçlarını federal hükümetle paylaşmasını ve yapay zeka tarafından üretilen içeriğin etiketlenmesi için içerik kimlik doğrulama ve filigran için rehberlik geliştirilmesini de içeren yapay zeka konusunda yeni yönergeler oluşturan bir idari emri açıkladı. Yürütme emri ayrıca tüketici gizliliğini güçlendirmenin, ayrımcılığı şiddetlendirebilecek algoritmik önyargıyı azaltmanın ve işyerinde yapay zeka için en iyi uygulamaları geliştirmenin yollarını da ele alıyor.  

Üretken yapay zeka ile yeni fikirlerle nasıl başa çıkıyorsunuz?

Veri, içgörü ve analitikten sorumlu başkan yardımcısı Mohamed Abdelsadek, Mastercard'ın yapay zeka destekli ürün ve hizmetlerin pilot uygulamasını yapmak ve ölçeklendirmek için ihtiyaç duyduğu teknoloji, araç ve yetenekleri belirlemek için geniş bir çaba içine girdiğini söylüyor. Bu, ürün ekiplerinden sistematik olarak envanter kavramları almayı ve yüzlerce fikir üreten gen AI kavramları etrafında hackathonlar ve şirket çapında inovasyon zorlukları başlatmayı içerir.

"Gelir veya verimlilik etkisine, uygulama kolaylığına öncelik veriyoruz ve ardından bunu ilgili risk derecesiyle dengeliyoruz" diyor. Ancak yapay zeka destekli herhangi bir ürün veya uygulama hayata geçirilmeden önce önemli testler yapılması kritik önem taşıyor.

Abdelsadek, "Doğru yaptığımızdan emin olmak için kasıtlı olarak erken dönemde biraz daha odaklanıyoruz" diyor. "Üretken yapay zeka ile gelen bazı risklerden kaçınmak için doğru altyapıyı ve doğru süreçleri bir araya getirmek istiyoruz. Aynı zamanda, kurum genelinde inovasyona olanak sağladığımızdan emin olmak istiyoruz."

Üretken yapay zekanın bazı insan işlerinin yerini alma olasılığı göz önüne alındığında, yapay zekanın keşfedilmesini ve benimsenmesini teşvik eden bir kültürü nasıl beslersiniz?

&Şirketin Ar-Ge kolu Mastercard Foundry'yi yöneten inovasyon şefi Ken Moore, inovasyon ve işbirliği kültürünü geliştirmenin Mastercard'ın ekonomilere güç katma ve insanları güçlendirme vizyonu için kritik önem taşıdığını söylüyor.  &Ve bu, Ar-Ge bölümünün ötesine geçiyor - Foundry, şirketin herhangi bir yerindeki çalışanlara Mastercard'ın üstesinden gelmek istediği zorlukları çözme fırsatı veren Sandbox adlı şirket çapında bir inovasyon programı yürütüyor. Web3 alanındaki fırsatların ortaya çıkarılmasına yönelik yakın tarihli bir meydan okuma, gelecek vaat eden sanatçılara müzik kariyerlerini ilerletmek için yapay zeka ve NFT'ler gibi teknoloji tabanlı araçlara erişim sağlayan Mastercard Artist Accelerator ile sonuçlandı.

Moore, YZ'nin şirket operasyonlarına dahil edilmesine gelince, özellikle sahte bilgiler ve halüsinasyonlar gibi zorlukları ele alırken, insan gözetiminin öngörülebilir gelecekte üretken YZ'nin önemli bir işlevi olacağını söylüyor.

"Mastercard'ın üretken yapay zeka konusundaki mevcut araştırması, çalışanların yerini almak yerine onları destekleyen verimlilikler yaratmak için teknolojiden yararlanmaya odaklanıyor" diyor. "Yapay zeka, sıkıcı günlük işlerin çözüm süresini hızlandırmak için kullanılabilseydi, bu tasarruf edilen zamanı, ilişkiler kurmak ve geliştirmek ya da yeni ürün ve hizmetler tasarlamak gibi yalnızca insanların tek başına yapabildiği şeyleri daha fazla üretmek için nasıl kullanabilirdik?"

AI

Yapay zekanın çalışma şeklimizi değiştirebileceği 4 yol - ve bu değişime nasıl hazırlanabileceğimiz

Yapay zeka, 2030 yılına kadar yılda 13 trilyon dolarlık ek ekonomik çıktı yaratabilir. Ayrıca işlerin nasıl yürüdüğünü de yeniden düzenleyebilirim.

Devamını okuyun