歡迎來到企業網路安全的 AI 軍備競賽：誰是贏家？

網路安全警覺月的吸引力可能不如十月的其他特徵 (如欣賞紅葉或狂吃萬聖節糖果)，但它可以促使企業領導者和消費者進行一項重要的儀式：重新評估他們的網路安全方法。

在過去的一年裡，有很多事情值得我們反思。企業尤其應該在本月（以及每個月）問自己：線上威脅的形勢有何變化？您的企業的安全措施是否足以跟上這些變化？

不可否认，人工智能是今年最大的游戏规则改变者。AI 工具，包括大型語言模型 (LLM)，例如 ChatGPT，已增強了攻擊者的能力。與此同時，越來越多公司將人工智慧融入日常業務，將網路安全專業人員推向守護新領域，但卻沒有太多如何守護的先例。與此同時，消費者也夾在這個快速變化的 AI 環境中。

今年在拉斯維加斯舉行的Black Hat 會議上，20,000 名與會者中有許多人都在思考這些動態問題。從商業大廳中華麗的攤位，到會談中展示的尖端研究，再到其間安靜的談話，AI 佔據了所有的話題。

在該活動的開場主題演講中，長期從事網路安全研究的 Mikko Hyppönen 將 AI 稱為他一生中見過的 「最大的技術革命」，並指出使用 LLM 的研究人員已經發現了幾十個零日（zero days），零日是業界術語，指軟體或程式碼中未偵測到的弱點。

"Hyppönen 表示：「當研究人員發現 AI 的安全漏洞時，那就太好了，因為我們可以修復它們。"當攻擊者也這樣做時，那就太可怕了。這也會發生"。

網路騙徒已經在使用 LLM 撰寫更有說服力、更有目標性的釣魚電子郵件，而且規模比沒有 AI 工具時要大得多。

即使是最不精通技術的人也能看出是詐騙的拙劣通用電子郵件的時代已經一去不返了。非英語母語的騙子現在很擅長用 LLM 來修飾他們的訊息。

即使是那些冒充駐扎在海外的孤獨士兵、推銷看似好得不像真的商機（因為它實際上是真的）的騙子，也會加入人工智慧挖掘出來的個人詳細資訊，讓這些訊息更可信。

他們也不再局限於電子郵件，而是將現在精心設計的溝通方式傳送至社群媒體、簡訊，甚至是電話。

與此同時，包含音訊或視訊deepfakes的詐騙訊息也有增加的趨勢。去年，香港一名工人被騙支付了 2,500 萬美元給詐騙集團，因為他以為是與其跨國公司的官員（包括財務長）進行視訊通話。但結果發現，通話中的其他人都是那些人的現場視訊深度偽造再現。

消費者也成為音訊深度偽造詐騙的目標。這就是網路罪犯利用人工智慧深度偽造一般年輕人的聲音，然後用模仿的聲音打電話給家人，說他們被綁架或坐牢，向他們勒索金錢。

所有這些都讓公司和消費者感到恐懼，這是可以理解的。最近一項為萬事達卡進行的研究調查了全球約 13,000 名消費者，其中包括約 1,000 名美國消費者，結果發現 AI 產生的虛假內容是消費者未來最擔心的詐騙問題。但只有 13% 的受訪者表示，如果他們成為人工智能產生的威脅或詐欺的目標，他們對自己識別這些威脅或詐欺的能力非常有信心。

絕大多數受訪者都特別提到，他們擔心人工智能系統被駭客入侵並變成惡意、自動化大規模網路攻擊，以及人工智能製造出更有說服力的釣魚電子郵件等更複雜的攻擊。

對於為消費者提供服務的公司來說，擔心的消費者可能意味著很大的問題。如果消費者無法相信他們是在與合法的公司交易，或是他們的個人資訊是安全的，他們可能會選擇將業務轉移到其他地方。

至少目前看來，防守方似乎佔有優勢。除了保護企業客戶系統中的新人工智慧元素外，網路安全公司也將人工智慧融入自己的產品中，目標是更快更有效率地阻止線上威脅。

同時，詐騙者和其他網路罪犯還沒有足夠的動力以同樣的方式進行創新。雖然他們使用 AI 工具來加快工作速度並擴大規模，但專家表示，他們在很大程度上仍在堅持改良版的老式騙局。

Nicole Perlroth 曾是一位網路安全記者，現在是 Ballistic Ventures 的創投合夥人，並領導她自己的網路任務基金 Silver Buckshot，她在 Black Hat 主題演講中表示，她對於在網路安全領域看到的新興技術感到鼓舞。

她指出，市場上正在出現新的 AI 驅動的深度偽造檢測技術，並提到 AI 幫助「普及」了網絡安全產品和服務，使過去無法負擔這些產品和服務的小公司更容易獲得。

Hyppönen 指出，deepfake 詐騙目前非常罕見，但他補充說，他預期隨著人工智慧技術變得更好、更便宜，各式各樣的線上詐騙以及勒索軟體只會越來越嚴重。

好消息是，當談到 AI 時，防守方已經佔了先機。

"他說：「攻擊者也在使用 AI，但他們才剛開始。"到目前為止，我們只看過相當簡單的 AI 攻擊。它會改變，但現在我會說我們已經準備好了"。