網絡安全
2026年8月11日
在 2026 年 Black Hat 的展場上。(相片鳴謝:Jen Langione,Mastercard)
過去一周,當數千名研究人員、安全實踐者和商界領袖冒著拉斯維加斯的酷暑出席 Black Hat 網路安全會議時,討論的主題並不令人意外:急速演進的人工智慧技術正在助長網路攻擊,業界必須尋找反擊的方法。
更令人驚訝的是 OpenAI(AI 的先驅之一)發出的嚴厲警告。今年夏天早些時候,該公司最先進的 AI 智能代理團隊無需人類提示,便攜手對開發者平台 Hugging Face 發動了網路攻擊。
OpenAI 研究員 Michael Dalton 敦促各機構投資於更完善的防護措施,以進行 AI 代理開發。他宣布 OpenAI 正放慢研究步伐以加強安全性,首先是更密切地監控其 AI 代理,並增強漏洞預防、偵測與緩解的控制措施。
Dalton 在一場詳細介紹 Hugging Face 遭黑客入侵事件的演講中表示:“我們相信,對於電腦安全行業以及整個人工智能領域而言,這都是一個分水嶺時刻——由人工智能策劃、完全自動化的主動攻擊現在已經成為現實。”
儘管 OpenAI 帶來的消息令人擔憂,但 Dalton 選擇了正確的場合來呼籲業界採取行動。像 Black Hat 這樣的年度活動為各公司和行業專家提供了一些最佳機會,讓他們能夠聚首一堂,嘗試為共同的問題尋找最佳解決方案。
會議上的專家能夠概括出各種方法,讓各組織保護自己免受這新一代威脅的侵害。
以下是 Black Hat 的一些重點,其中包括 Mastercard 與 Recorded Future 領導者之間的一場討論,分析師和媒體代表亦有參與;Recorded Future 是 Mastercard 於2024年收購的威脅情報公司。
組織在部署自己的 AI 代理以抵禦基於代理 AI 的網絡攻擊方面一直進展緩慢,因為擔心會「破壞某些東西」或違反數據安全與私隱法規而卻步。Recorded Future 的首席安全與情報官 Levi Gundert 表示:「但我們實在別無選擇。」「這才是問題的核心所在。我們基本上只有 6 到 12 個月的時間,防守方就會完全應接不暇。」
正如 Gundert 所言,這是因為 AI 具備「速度」優勢。最新的 AI 代理正針對多年來一直未被發現的漏洞發動攻擊。此外,他們可以同時利用多個微小的安全缺口來滲透受保護的環境。
因此,網路罪犯正以前所未有的速度利用漏洞。Gundert 表示,如果沒有自己的 AI 防禦者,人類將無法以足夠快的速度尋找並修復軟件錯誤以跟上進度。
他補充說,現在正是組織推進研發、測試邊緣情況,以及研究如何將代理程式安全部署至其防禦系統中的適當時機。
Mastercard 副首席安全官 Alissa Abdullah 指出,除了人們普遍關注的社會影響外,Hugging Face 事件更暴露了 AI 為組織帶來的營運後果。她表示,技術人員必須準備好投資合適的技術,並設計有效的防護措施來管制 AI。
阿卜杜拉在「黑帽」簡報會上表示:“我們正在這場競賽中爭取率先贏得人工智能之戰,並宣稱我們正在這樣做。”“但許多組織仍在處理我們尚未清理的基本問題。”
她以早已識別但至今依然存在的軟件供應鏈安全問題為例。
為了防範詐騙和其他類型的網絡犯罪,各組織必須掌握人工智能的最新發展。Gundert 指出,這正是人類情報發揮作用的地方。他補充說,當安全工作與對威脅形勢的深入了解相結合時,效果最好,而防守方在未來幾個月內將需要獲得所有可能的協助。這就是合作夥伴關係發揮作用的地方。
根據世界經濟論壇指出,在被其評為最具韌性的組織中,有 48% 的行政總裁正加強與政府機構及資訊共享團體的合作,擁有超過 100,000 名員工的公司中亦有 49% 採取此做法。它們獲得公私營協作計劃的支援——例如聯合網絡防禦協作組織(Joint Cyber Defense Collaborative)及世界經濟論壇網絡犯罪地圖(World Economic Forum Cybercrime Atlas)——這些計劃讓企業、執法機構和政府能夠匯聚知識,以打擊網絡犯罪。
各公司也尋求直接合作夥伴以取得網絡情報協助。例如,擁有自身龐大網絡安全營運的 Accenture,便經常依賴 Google Cloud 來獲取安全情報。Accenture 網絡情報全球主管 Ryan Whelan 認為,這是一段對其成功至關重要且多年來不斷發展的合作夥伴關係。
Whelan 在 Black Hat 媒體小組討論會上表示:“我們將繼續全力投入其中。”“我們依賴他們提供我們所使用的許多數據,並協助將其付諸實行以服務客戶。”
Gundert 表示,Recorded Future 的專家透過審視更廣泛的網上環境,在威脅 Become 問題之前加以識別,藉此協助這家支付公司。例如,Recorded Future 的分析師正在識別利用 AI 開設看似合法的網上購物網站的詐騙商戶。受社交媒體廣告誘惑而試圖向其購買產品的消費者,最終往往上當受騙。
但當分析師發現並標記這些網站時,Mastercard 可以確保這些交易絕不會完成。
Gundert 在談到結合來自 Mastercard 與 Recorded Future 的網絡安全洞見時表示:“這雖非靈丹妙藥,但這兩個領域的關聯度相當高。”“在這種情況下,我們保護企業主要是為了消費者,而不是為了利潤。”