跳至主要內容

人工智慧

2023年10月30日

 

負責任地駕馭人工智慧:如何制定道路規則

生成式人工智慧可能會改變公司的營運和創新方式。萬事達卡領導層分享了他們如何應對未來挑戰的見解。

維姬·海曼

萬事達卡通訊總監

直到最近,萬事達卡首席技術官艾德麥克勞克林收到的每一個提案似乎都包含「區塊鏈」這個詞。他會問:“資料庫豈不是更好?”而得到的答案通常是:“是的,但這是在區塊鏈上。”

如今,是人工智慧。雖然萬事達卡多年來一直在使用人工智慧來打擊其網路上的詐騙行為,但最近生成式人工智慧的進步,透過挖掘大量數據來創建各種新內容,正在開闢令人興奮的機會。該公司利用生成式人工智慧創建合成詐欺交易數據,以評估金融機構系統中的弱點,並在與反洗錢相關的大型數據集中發現危險信號。萬事達卡也利用人工智慧技術幫助電子商務零售商實現使用者體驗個人化。

但使用這項技術並非沒有風險——其中就包括將人工智慧當作大錘使用,或者正如麥克勞克林所說,「用非常昂貴的套筒扳手敲打螺絲」。他表示,企業應該捫心自問:“有哪些難題是你一直未能解決的?”人工智慧究竟能在哪些方面創造價值?那如何在控制潛在危害的同時做到這一點呢?

各種規模的企業都在努力應對這些問題。VentureBeat 最近對全球數據、人工智慧、安全和行銷領域的高管進行的一項調查發現,超過一半的組織正在小規模試驗生成式人工智慧,但只有不到 20% 的組織已經實施了這項技術——而且近十分之一的組織表示他們「不知道」如何使用它。

「你可以用人工智慧做一些小事,也可以放眼未來,真正改變你的企業、你的產業乃至整個世界,」網路安全與情報人工智慧執行副總裁羅希特·喬漢說。「我們希望有遠大的目標,但無論哪種情況,人工智慧的應用都需要以負責任和安全的方式進行,這樣才能為世界帶來更大的利益。人工智慧最大的風險在於不使用它。

我們與萬事達卡的領導階層探討了他們在生成式人工智慧領域如何最大限度地降低風險、探索機會並進行正確的投資。

企業在尋求新機會時應考慮並規避哪些風險?

企業在考慮是否採用生成式人工智慧技術時,必須正面應對各種風險。這些風險包括資料集中固有的偏見、將資料輸入人工智慧模型後隱私保護不足,以及「幻覺」(人工智慧重複虛假資訊)。

JoAnn Stonier 表示,在邁向生成式人工智慧之前,應該已經建立了強大的資料責任原則和實踐。她曾領導萬事達卡的數據項目五年多,最近被任命為萬事達卡研究員,專門從事負責任的人工智慧和數據方面的工作。去年,萬事達卡更新了自身的資料責任原則,強調包容性,以確保資料實踐、分析和輸出全面且公平。該公司首席隱私和資料責任官卡羅琳·盧沃克斯補充說,公司對「隱私設計」的承諾也將強大的隱私和安全保護措施嵌入人工智慧模型中。

「我們已經在公司內部建立了負責任地使用生成式人工智慧和數據的標準和原則,」斯托尼爾說。「這包括對員工的注意事項,以及如何在不洩露敏感或機密資訊的情況下學習和測試新技術的指導原則。我們站在歷史正確的一邊。

該指導意見(例如,建議員工不要接受第一次查詢結果,而是以多種方式多次運行查詢)為阿斯彭研究所美國網路安全小組制定其他公司構建自己的生成式人工智慧路線圖提供了參考。萬事達卡首席數據官安德魯·雷斯金德表示:“這類旨在構建和推廣最佳實踐的合作努力對於鼓勵利用生成式人工智能進行負責任的創新至關重要。”

可以建立什麼樣的內部治理機制來確保人工智慧以正確的方式實施?

無需從零開始。相反,企業應該利用現有的政策、流程和工具,在整個企業範圍內合作,找出建構這些政策、流程和工具的正確方法。

採取跨學科方法至關重要。資料科學家、產品開發人員、軟體工程師和系統架構師知道“如何做”,但人力資源專業人員、政策專家、倫理學家和律師等人也可以提供“為什麼”——或者“我們應該這樣做嗎?”

Louveaux 表示,為此,萬事達卡五年前成立了人工智慧治理委員會,以監督公司的人工智慧活動,並確保這些活動符合公司的價值觀和資料責任原則。「我們有時會向獨立專家或客戶尋求建議,因為聽聽其他人如何看待我們的人工智慧創新有助於發現可能存在的盲點。這超越了合規的範疇──這關乎贏得並維持人們對我們處理資料和技術方式的信任。 」


人工智慧監管

隨著人工智慧的快速發展,私營部門正努力應對其中的機會和風險,而各國政府則正在加速制定人工智慧相關標準。歐盟已起草了一項影響深遠的人工智慧法案,該法案根據人工智慧系統對人的健康、安全或基本權利的風險對其進行分類。本週,英國將在人工智慧安全峰會上主持一場關於該技術風險的全球對話。

週一,美國總統拜登宣布了一項行政命令,為人工智慧制定了新的指導方針,其中包括要求最強大的人工智慧系統的開發人員與聯邦政府分享安全測試結果,並製定內容認證和水印指南,用於標記人工智慧生成的內容。該行政命令還涉及加強消費者隱私、減少可能加劇歧視的演算法偏見以及製定人工智慧在工作場所應用的最佳實踐等方法。


如何利用生成式人工智慧來處理新想法?

萬事達卡數據、洞察和分析執行副總裁穆罕默德·阿卜杜勒薩德克表示,萬事達卡已開始廣泛試驗人工智慧驅動的產品和服務,並確定其規模化所需的技術、工具和能力。這包括系統地收集各個產品團隊的庫存概念,並圍繞人工智慧概念發起黑客馬拉松和全公司範圍的創新挑戰,從而產生數百個想法。

他說:“我們優先考慮收入或效率影響、實施的便利性,然後再權衡其中涉及的風險程度。”但是,在任何人工智慧產品或應用程式上線之前,大量的測試至關重要,因此大多數用例可能會在公開推出之前先在內部進行測試。

「我們特意在早期階段更加專注,以確保我們做對了,」阿卜杜勒薩德克說。“我們希望建立合適的基礎設施和流程,以避免生成式人工智慧帶來的一些風險。”同時,我們希望確保在整個組織內促進創新。

鑑於生成式人工智慧有可能取代人類的一些工作,如何創造一種鼓勵探索和採用人工智慧的文化?

萬事達卡首席創新長兼公司研發部門萬事達卡創新中心負責人肯·摩爾表示,培養創新與合作文化對於萬事達卡「賦能經濟、賦能人民」的願景至關重要。而且這還不僅限於研發部門本身——Foundry 經營著一個名為 Sandbox 的全公司範圍的創新計劃,讓公司內任何地方的員工都有機會解決萬事達卡正在尋求解決的挑戰。最近,在 Web3 領域,一項旨在挖掘機遇的挑戰催生了萬事達卡藝術家加速器計劃,該計劃讓嶄露頭角的藝術家能夠使用人工智慧和 NFT 等基於技術的工具來推動他們的音樂事業。

摩爾表示,至於將人工智慧融入公司運營,在可預見的未來,人工監督很可能是生成式人工智慧的一項重要功能,尤其是在應對虛假資訊和幻覺等挑戰時。

他說:“萬事達卡目前對生成式人工智慧的探索重點在於利用這項技術來提高效率,從而支持員工,而不是取代員工。”「如果人工智慧可以用來加快解決繁瑣的日常任務的速度,那麼我們如何利用節省下來的時間去做更多只有人類才能做的事情,例如建立和維護人際關係,或者構思新產品和服務呢?”

人工智慧

人工智慧可能從四個方面改變我們的工作方式——以及我們如何為這種改變做好準備

到 2030 年,人工智慧每年可創造 13 兆美元的額外經濟產出。我還可以重塑商業運作方式。