網路安全意識月可能不像十月的其他標誌性活動（例如欣賞絢麗的秋葉或盡情享用萬聖節糖果）那樣吸引人，但它可以促使企業領導人和消費者都參與一項重要的儀式：重新評估他們應對網路安全的方法。

過去一年有很多值得反思的事。尤其各公司應該在這個月（以及每個月）捫心自問：網路威脅情勢發生了哪些變化？貴公司採取的安全措施是否足以跟上這些變化？

人工智慧無疑是今年最大的變革者。人工智慧工具，包括 ChatGPT 等大型語言模型 (LLM)，大大增強了攻擊者的能力。同時，越來越多的公司將人工智慧融入日常業務中，這迫使網路安全專業人員在幾乎沒有先例可循的情況下，去守護新的領域。與此同時，消費者正處於這個快速變化的人工智慧環境的漩渦之中。

在今年拉斯維加斯舉行的黑帽大會上，2萬名與會者都在思考這些問題。從商務展廳裡引人注目的展位，到演講中展示的前沿研究，再到演講間隙的安靜交談，人工智慧始終是討論的焦點。

在本次活動的開幕主題演講中，長期從事網路安全研究的米科·海波寧稱人工智慧是他一生中見過的“最大的技術革命”，並指出使用LLM的研究人員已經發現了幾十個零日漏洞——這是業內對軟體或程式碼中未被發現的弱點的術語。

「當研究人員利用人工智慧發現安全漏洞時，這很好，因為我們可以修復它們，」Hyppönen 說。“當攻擊者也這樣做時，那就太糟糕了。”這種情況也會發生。

網路詐騙分子已經開始使用人工智慧來編寫更具說服力和針對性的釣魚郵件，而且規模比沒有人工智慧工具時要大得多。

過去那種寫得糟糕、千篇一律的詐騙郵件已經一去不復返了，即使是最不懂技術的人也能一眼識破。現在，非英語母語的詐騙犯已經非常擅長利用語言文學碩士學位來潤飾他們的訊息。

甚至那些冒充駐紮海外的孤獨士兵的騙子，也會推銷看似好得令人難以置信的商業機會（因為實際上就是假的），並摻雜一些透過人工智慧挖掘出的個人訊息，使這些訊息更加可信。

他們也不再局限於電子郵件，而是透過社群媒體、簡訊甚至電話來傳遞精心製作的訊息。

同時，包含音訊或視訊深度偽造的詐騙訊息也出現了上升趨勢。去年，一名香港員工在誤以為自己是在與跨國公司官員（包括財務長）進行視訊通話，結果被騙向詐騙分子支付了 2,500 萬美元。但結果發現，通話中的其他人都是透過即時視訊深度偽造技術對這些人進行的模擬。

消費者也成為了音訊深度偽造詐騙的目標。網路犯罪分子利用人工智慧技術對人聲（通常是年輕人的聲音）進行深度偽造，然後用模仿的聲音給家人打電話，謊稱他們被綁架或被關進監獄，以此勒索金錢。

所有這些都讓企業和消費者感到擔憂，這是可以理解的。萬事達卡最近進行的一項研究調查了全球約 13,000 名消費者，其中包括約 1,000 名美國消費者，結果發現人工智慧產生的虛假內容是消費者最擔心的未來詐騙相關問題。但只有 13% 的受訪者表示，如果他們成為人工智慧產生的威脅或詐騙的目標，他們有信心識別這些威脅或詐騙。

絕大多數受訪者特別提到，他們擔心人工智慧系統遭到駭客攻擊並被惡意利用，從而引發更複雜的攻擊、自動化的大規模網路攻擊，以及人工智慧生成的更具說服力的網路釣魚郵件。

消費者的擔憂可能會給為他們提供服務的公司帶來大問題。如果消費者無法信任他們正在與合法公司打交道，或者無法保證他們的個人資訊安全，他們可能會選擇去其他地方消費。

至少就目前來看，防守方似乎佔優勢。除了保護企業客戶系統中的新型人工智慧元素外，網路安全公司還在將人工智慧融入自己的產品中，目標是更快、更有效地阻止網路威脅。

同時，詐騙犯和其他網路犯罪分子還沒有足夠的動力去以同樣的方式進行創新。專家表示，雖然他們利用人工智慧工具來加快工作速度、擴大規模，但他們基本上還是沿用舊騙局的改進版本。

妮可·珀爾羅斯 (Nicole Perlroth) 曾是一名網路安全記者，現在是 Ballistic Ventures 的風險合夥人，並領導著她自己的網路安全使命基金 Silver Buckshot。她在 Black Hat 大會的主題演講中表示，她對網路安全領域正在湧現的新興技術感到鼓舞。

她指出，一些新的人工智慧驅動的深度偽造檢測技術即將上市，並指出人工智慧幫助「普及」了網路安全產品和服務，使過去負擔不起這些產品和服務的小公司也能更容易獲得這些產品和服務。

Hyppönen 指出，目前深度偽造詐騙非常罕見，但他補充說，隨著人工智慧技術的進步和成本的降低，他預計各種網路詐騙以及勒索軟體只會變得更加嚴重。

好消息是，防守方在人工智慧方面已經取得了領先優勢。

「攻擊者也在使用人工智慧，但這只是個開始，」他說。“到目前為止，我們只看到一些利用人工智慧進行的相當簡單的攻擊。”情況會改變，但就目前而言，我認為我們已經準備好了。