網路安全
2026 年 8 月 11 日
攝於 2026 年黑帽大會展場。（照片來源：Jen Langione，Mastercard）
過去這一週，當數千名研究人員、資安實踐者和企業領袖冒著拉斯維加斯的酷暑參加 Black Hat 網路安全會議時，討論的主題並不讓人意外：快速演進的人工智慧技術正大幅強化網路攻擊，產業界必須找到反擊的方法。
更令人驚訝的是來自 AI 先驅之一 OpenAI 的嚴厲警告。今年夏天稍早，該公司最先進的 AI 代理團隊在沒有人類提示的情況下，協同合作對開發者平台 Hugging Face 發動了網路攻擊。
OpenAI 研究人員麥可·道爾頓（Michael Dalton）敦促各組織投資於更完善的AI代理開發防護措施。他宣布 OpenAI 正在放慢研究腳步以提升安全性，首先是更密切地監控其 AI 代理，並強化用於預防、偵測和緩解漏洞的控制措施。
「我們相信，這是作為一個產業的電腦安全領域以及整個人工智慧領域的分水嶺時刻……由人工智慧協調、完全自動化的主動攻擊現在已經成真了，」Dalton 在一場詳細說明 Hugging Face 駭客攻擊的簡報中表示。
儘管 OpenAI 傳出的消息令人擔憂，但 Dalton 選擇了正確的場地，呼籲產業界採取行動。像 Black Hat 這樣的年度活動為企業和業界專家提供了絕佳的機會，讓他們能夠齊聚一堂，嘗試為共同的問題尋找最佳解決方案。
會議上的專家們概述了組織如何保護自己免受這新一代威脅侵害的方法。
以下是 Black Hat 的部分重點整理，其中包括 Mastercard 與其在 2024 年併購的 威脅情報 公司 Recorded Future 領導人、分析師以及媒體成員之間的交流等。
各組織在部署自己的 AI 代理以對抗基於代理式 AI 的網路攻擊時動作緩慢，主要是因為擔心「打破某些東西」或違反資料安全與隱私法規而有所顧忌。Recorded Future 首席安全與情報官 Levi Gundert 表示：「但我們真的別無選擇。」「這確實是關鍵所在。我們基本上只有六到十二個月的時間，防守方就會完全應接不暇。」
這是因為如古德特（Gundert）所言，AI 具有「速度」上的優勢。最新的 AI 代理正鎖定多年來未被發現的漏洞。此外，它們可以同時利用多個微小的安全漏洞來滲透受保護的環境。
因此，網路罪犯正以前所未有的速度利用漏洞。Gundert 指出，在沒有自己的 AI 防守方的情況下，人類無法足夠快速地尋找並修復軟體錯誤以跟上進度。
他補充道，現在正是各組織推進研發、測試極端案例，以及尋找如何將 AI 代理安全部署至防禦體系中的時機。
據 Mastercard 副首席資訊安全長 Alissa Abdullah 表示，除了人們往往關注的社會影響外，Hugging Face 事件還暴露了人工智慧對組織所產生的營運後果。她表示，技術專家必須做好準備，既要投資合適的技術，也要設計有效的護欄來控制人工智慧。
阿布杜拉（Abdullah）在黑帽大會媒體簡報會上表示：「我們正在進行這場競賽，試圖在爭奪 AI 戰役中拔得頭籌並宣示成果。」「但許多組織仍舊在處理我們尚未解決的基本問題。」
舉例來說，她指出軟體供應鏈安全存在著長久以來已被識別卻仍持續存在的問題。
為了預防詐騙和其他類型的網路犯罪，組織必須隨時掌握人工智慧的最新發展。Gundert 表示，這就需要人類智慧的發揮了。他補充說，當安全性與對威脅環境的深入了解相結合時，其發揮的效果最好，而防禦者在接下來的幾個月中將需要盡可能獲得所有幫助。這就是合作夥伴關係發揮作用的時候了。
根據世界經濟論壇指出，在其評估為最具韌性的組織中，有 48% 的執行長正在加強與政府機構及資訊分享群體的合作，擁有超過 100,000 名員工的公司中有 49% 也是如此。他們得到了公私合力倡議（例如 聯合網路防禦協作組織 (Joint Cyber Defense Collaborative) 與 世界經濟論壇網路犯罪地圖集 (World Economic Forum Cybercrime Atlas)）的協助，這些倡議允許企業、執法機構和政府匯集其知識以打擊網路犯罪。
企業也尋求直接的合作夥伴關係來尋求網路情報方面的協助。例如，擁有自身龐大網路安全營運的 Accenture（埃森哲），便經常依賴 Google Cloud 來取得安全情報。Accenture 網路情報全球負責人 Ryan Whelan 認為，這種合作夥伴關係是成功的關鍵，且這種關係多年來一直在成長。
威蘭（Whelan）在黑帽大會媒體座談會上表示：「我們持續全力投入其中。」根德表示：「我們仰賴他們提供的大量資料，並協助客戶將其實際應用於營運中。」
根德表示，Recorded Future 的專家透過檢視更廣泛的網路環境來協助這家支付公司，以便在威脅 Become 問題之前將其識別出來。例如，Recorded Future 的分析師正在識別利用 AI 設立看似正當的線上購物網站的詐騙商家。受到社群媒體廣告的吸引，試圖向其購買產品的消費者最終卻上當受騙。
但當分析師發現並標記這些網站時，Mastercard 可以確保這些交易絕不會完成。
根德談到結合 Mastercard 與 Recorded Future 的網路安全見解時表示：「這並非萬靈丹，但這兩個領域的互補性相當高。」「在這種情況下，我們保護的重點与其說是為了營利企業，不如說是為了消費者。」
