Skip to main content

AI

2023 年 10 月 30 日

 

駕駛負責任的 AI:如何設定道路規則

生成式 AI 可以改變公司的營運和創新方式。Mastercard 的領導人分享他們如何掌握未來的洞察力。

Vicki Hyman

Director,

Global Communications,

Mastercard

直到最近,Mastercard 首席技術長 Ed McLaughlin 的每項提案似乎都包含「區塊鏈」一詞。「資料庫不是更好嗎?」他會問,而回應往往是 「是的,但這是在區塊鏈上」。

這些天來,它是人工智慧。雖然 Mastercard 多年來一直使用 AI 來打擊其網路上的詐欺行為,但最近在產生式 AI(可挖掘大量資料來創造各式各樣的新內容)方面的進展,正帶來令人興奮的機會。該公司正在使用生成式人工智能創建合成詐騙交易資料,以評估金融機構系統中的弱點,並在與反洗錢相關的大型資料集中發現紅旗。Mastercard 也使用 gen AI 來協助電子商務零售商個人化使用者體驗。

但使用這項技術並非沒有風險,其中包括將人工智能當成大錘,或如 McLaughlin 所說:「用非常昂貴的套筒扳手敲打螺絲」。他說,公司應該問問自己:「什麼是你們一直無法解決的難題?人工智能究竟能在哪些方面增值?如何在控制潛在傷害的同時做到這一點?

各種規模的企業都在努力解決這些問題。VentureBeat 最近 針對資料、AI、安全與行銷等領域的全球主管所做的 調查 發現,超過半數的組織正在小規模嘗試使用產生式 AI,但只有不到 20 個% 已經開始實作 - 而且將近十分之一的組織表示「不知道」該如何與 AI 接觸。

"Cyber& Intelligence 的 AI 執行副總裁 Rohit Chauhan 表示:「您可以以小博大,利用 AI 做小事情,也可以以大博大,真正改變您的企業、產業或世界。"我們想要大展拳腳,但在這兩種情況下,人工智能的應用都需要以負責任和安全的方式進行,這樣才能為世界帶來更大的福祉。人工智能最大的風險是不使用它"。

我們訪問了 Mastercard 的領導者,了解他們在創造性人工智能方面如何將風險降到最低、探索機會並進行正確的投資。

在尋找新機會的同時,企業應該考慮和降低哪些風險?

企業在考慮是否採用生成式 AI 技術時,需要正面處理風險。這些風險包括資料集的固有偏差、人們的資料在輸入 AI 模型後隱私權保護不足,以及「幻覺」- AI 重複虛假訊息。

JoAnn Stonier 曾領導萬事達卡的資料計畫超過五年,最近被任命為萬事達卡研究員,專門研究負責任的人工智慧與資料。去年,Mastercard 更新了自身的資料責任原則,強調包容性,以確保資料實務、分析和輸出的全面性和公平性。該公司的首席隱私與資料責任官 Caroline Louveaux 補充說,該公司對「隱私設計」的承諾也將強大的隱私與安全保護嵌入到 AI 模型中。

"Stonier 表示:「我們在公司內部建立了負責任使用人工智慧與資料的標準與原則。"這包括員工應該做和不應該做的事,以及如何在不洩露敏感或機密資訊的情況下學習和測試新技術的守則。我們站在歷史正確的一邊"。

例如,該指導建議員工不要接受第一個結果,並以多種方式多次執行查詢,這有助於Aspen Institute 的美國網路安全小組在其他公司建立自己的生成式 AI 路線圖時,為其提供指導。"萬事達卡首席資料官 Andrew Reiskind 表示:「這類建立與擴大最佳實務的合作努力,對於鼓勵負責任的人工智慧創新是必要的。

可以實施何種內部治理,以確保以正確的方式實施 AI?

沒有必要從頭開始。相反地,企業應該利用現有的政策、流程和工具,在整個企業中找出建立這些政策、流程和工具的正確方法。

採用跨學科的方法至關重要。資料科學家、產品開發人員、軟體工程師和系統架構師知道「如何」,但人力資源專業人員、政策專家、倫理學家和律師等也能提供「為什麼」,或「我們應該嗎?

為此,Mastercard 在五年前成立了 AI 治理委員會,負責監督公司的 AI 活動,並確保這些活動符合公司的價值觀與資料責任原則,Louveaux 表示。「我們有時會向獨立專家或客戶尋求建議,因為聽聽其他人如何看待我們的 AI 創新,有助於照亮可能存在的盲點。這不僅是合規性的問題,而是在我們處理資料和技術的方式上,贏得並維持信任的問題。


監管人工智能

在私營部門致力於解決人工智慧快速演進中的機遇與風險時,各國政府也在加速發展人工智慧相關標準。歐盟草擬了影響深遠的「人工智慧法」,將人工智慧系統依其對人類健康、安全或基本權利的風險分類,英國本周將在「人工智慧安全高峰會」上舉辦一場有關技術風險的全球對話。

在美國,總統拜登 (Biden) 於週一公布一項行政命令,針對人工智慧制定新的指導方針,包括要求功能最強大的人工智慧系統的開發者與聯邦政府分享安全測試結果,並為內容驗證與標示人工智慧所產生內容的水印制定指導方針。該行政命令還涉及如何加強消費者隱私權、減少會加劇歧視的演算法偏見,以及為工作場所的 AI 制定最佳實務。


您如何使用產生式 AI 來處理新想法?

資料、洞察力與分析執行副總裁 Mohamed Abdelsadek 表示,萬事達卡已展開廣泛的努力,試行基因 AI 驅動的產品與服務,並找出其擴大規模所需的技術、工具與能力。這包括有系統地收集來自各產品團隊的庫存概念,並針對基因 AI 概念發起黑客競賽和全公司的創新挑戰,從而產生數以百計的創意。

"他說:「我們會優先考量對收入或效率的影響、實施的難易度,然後在風險程度之間取得平衡。但在任何人工智能驅動的產品或應用程式正式啟用之前,大量的測試是至關重要的,這也是為什麼大部分的使用案例在公開推出之前,都可能是內部使用。

"Abdelsadek 說:「我們刻意在早期更專注一點,以確保我們能做得正確。"我們希望將正確的基礎設施和正確的流程整合在一起,以避免生成式 AI 所帶來的一些風險。與此同時,我們希望確保我們能夠在整個組織中實現創新"。

鑑於創造性人工智慧有可能取代某些人類工作,您該如何推動鼓勵探索與採用人工智慧的文化?

&Mastercard Foundry 是 Mastercard 的研發部門,負責監督 Mastercard Foundry 的首席創新官 Ken Moore 表示:「培養創新與合作的文化對 Mastercard 的願景至關重要,因為 Mastercard 的願景是推動經濟並賦予人們權力。 &這不僅限於研發部門本身,Foundry 在全公司推行一項名為「沙箱」的創新計畫,讓公司內任何地方的員工都有機會解決 Mastercard 所面臨的挑戰。最近, Mastercard 針對 Web3 領域發掘機會的挑戰,成立了 Mastercard Artist Accelerator ,讓新進的藝術家有機會使用 AI 和 NFT 等科技工具,推動他們的音樂事業。

Moore 表示,至於將人工智慧融入公司營運,在可預見的未來,人類的監督很可能是生成式人工智慧的重要功能,尤其是在處理虛假資訊和幻覺等挑戰時。

"他說:「萬事達卡目前對於創造性人工智慧的探索,著重於利用技術創造效率,以支援而非取代員工。"如果人工智能可以用來加快解決繁瑣日常任務的時間,那麼我們如何利用節省下來的時間來生產更多只有人類才能完成的工作,例如建立和培養人際關係,或者構思新的產品和服務?

AI

人工智能可能改變我們工作方式的 4 種方式 - 以及我們如何為這種改變做好準備

到 2030 年,人工智能每年可創造 13 兆美元的額外經濟產值。我也可以重新安排業務的運作方式。