Conducerea responsabilă cu ajutorul inteligenței artificiale: Cum să stabilim regulile de circulație

Riscurile trebuie abordate direct atunci când întreprinderile iau în considerare adoptarea tehnologiei de inteligență artificială generativă. Aceste riscuri includ prejudecăți inerente în seturile de date, protecții insuficiente ale confidențialității datelor oamenilor după ce acestea sunt introduse în modelele de inteligență artificială și „halucinații” - repetarea unor falsuri de către inteligența artificială.

Principii și practici solide privind responsabilitatea față de date ar trebui să existe deja înainte de a face saltul către inteligența artificială generativă, spune JoAnn Stonier, care a condus programul de date al Mastercard timp de mai bine de cinci ani și a fost recent numită bursieră Mastercard specializată în inteligență artificială și date responsabile. Anul trecut, Mastercard și-a actualizat propriile principii de responsabilitate privind datele pentru a evidenția incluziunea, astfel încât să se poată asigura că practicile, analizele și rezultatele datelor sunt cuprinzătoare și echitabile. Angajamentul companiei față de „Privacy by Design” (Privacitatea prin proiectare) integrează, de asemenea, protecții solide de confidențialitate și securitate în modelele de inteligență artificială, adaugă Caroline Louveaux, directorul companiei pentru responsabilitatea privind confidențialitatea și datele.

„Ne-am consolidat standardele și principiile în cadrul companiei pentru utilizarea responsabilă a inteligenței artificiale generative și a datelor”, spune Stonier. „Aceasta include ce trebuie și ce nu trebuie făcut pentru angajați, precum și garanții privind modul de învățare și testare a noii tehnologii fără a compromite informațiile sensibile sau confidențiale.” „Suntem de partea bună a istoriei.”

Aceste îndrumări — care, de exemplu, sfătuiesc angajații să nu accepte primele rezultate și să ruleze interogări de mai multe ori în mai multe moduri — au contribuit la informarea îndrumărilor Grupului de Securitate Cibernetică din SUA al Institutului Aspen pentru alte companii, pe măsură ce își construiesc propriile hărți de parcurs pentru inteligența artificială generativă. „Aceste tipuri de eforturi de colaborare pentru a construi și scala cele mai bune practici sunt necesare pentru a încuraja inovația responsabilă cu ajutorul inteligenței artificiale generative”, spune Andrew Reiskind, directorul de date al Mastercard.

Mastercard a demarat un efort amplu de a pilota produse și servicii bazate pe inteligență artificială și de a identifica tehnologia, instrumentele și capabilitățile de care are nevoie pentru a se scala, a declarat Mohamed Abdelsadek, vicepreședinte executiv pentru date, informații și analiză. Aceasta include preluarea sistematică a conceptelor de inventar de la toate echipele de produs și lansarea de hackathon-uri și provocări de inovare la nivelul întregii companii în jurul conceptelor de inteligență artificială generată, care produc sute de idei.

„Prioritizăm impactul asupra veniturilor sau a eficienței, ușurința implementării și apoi echilibrăm acestea cu gradul de risc implicat”, spune el. Însă, înainte ca orice produs sau aplicație bazată pe inteligență artificială să fie lansată, testarea semnificativă este esențială, motiv pentru care majoritatea cazurilor de utilizare vor fi probabil interne înainte de a fi lansate public.

„Ne concentrăm în mod deliberat puțin mai mult de la început pentru a ne asigura că facem lucrurile corect”, spune Abdelsadek. „Dorim să creăm infrastructura și procesele potrivite pentru a evita unele dintre riscurile care vin odată cu inteligența artificială generativă.” În același timp, vrem să ne asigurăm că promovăm inovația în întreaga organizație.”

Cultivarea unei culturi a inovației și colaborării este esențială pentru viziunea Mastercard de a stimula economiile și de a oferi putere oamenilor, spune Ken Moore, directorul de inovație care supraveghează Mastercard Foundry, divizia de cercetare și dezvoltare a companiei.  Și asta depășește divizia de cercetare și dezvoltare în sine — Foundry derulează un program de inovare la nivelul întregii companii numit Sandbox, care oferă angajaților de oriunde din companie oportunitatea de a rezolva provocările pe care Mastercard dorește să le abordeze. O provocare recentă privind deblocarea oportunităților în spațiul Web3 a dus la lansarea Mastercard Artist Accelerator, care oferă artiștilor în ascensiune acces la instrumente tehnologice precum inteligența artificială și NFT-urile pentru a-și propulsa carierele muzicale.

În ceea ce privește încorporarea inteligenței artificiale în operațiunile companiei, supravegherea umană va fi probabil o funcție esențială a inteligenței artificiale generative în viitorul previzibil, spune Moore, în special atunci când se abordează provocări precum informațiile false și halucinațiile.

„Explorarea actuală a Mastercard în domeniul inteligenței artificiale generative se concentrează pe valorificarea tehnologiei pentru a crea eficiențe care să sprijine, nu să înlocuiască, angajații”, spune el. „Dacă inteligența artificială ar putea fi folosită pentru a accelera timpul de găsire a soluțiilor pentru sarcinile zilnice plictisitoare, cum am putea utiliza acel timp economisit pentru a produce mai mult din ceea ce doar oamenii sunt capabili să facă, cum ar fi construirea și cultivarea relațiilor sau ideea de noi produse și servicii?”