跳至主要内容

网络安全

2024 年 10 月 28 日

 

为什么说人工智能是网络安全的双刃剑?

这项技术使犯罪分子实施精心策划的欺诈行为变得既便宜又容易,同时还能帮助公司迅速发现这些欺诈行为。

一幅抽象的图像,显示了一个被数字包围的指纹。

照片来自 Adobe Stock,使用生成式人工智能创建。

Rohit Chauhan

Executive Vice President,

AI Fraud Solutions, Mastercard

我女儿突然打电话给我,说她出国旅行需要钱。她还说,她稍后会告诉我详情。作为父母,我只能屈服。

在这种假设情况下,我的钱被一个冒充我孩子的骗子用人工智能生成的数字语音克隆盗走了。你可能会想:"这骗不了我。我知道我自己孩子的声音是什么样的"。但我向你保证,如果你在电话中与其中一个数字双胞胎交谈,你将无法分辨出它们的区别。这就是这种欺骗技术的复杂程度。

这只是消费者、企业和政府在人工智能迅速成为主流后所面临挑战的一个例子。它 为网络安全领域 带来了 新的威胁 ,同时也带来了机遇。一方面,人工智能使制造和实施复杂形式欺诈的成本大大降低,也更容易实现。另一方面,包括Mastercard在内的公司正在利用基因人工智能为我们的网络安全工具增加更多的上下文理解,使它们变得更加智能,改善消费者的体验,并比以前更快地打击欺诈行为。

如何抵御数字双胞胎

数字孪生可以是你声音的复制品,也可以是你声音和视频的组合。在这两种情况下,欺诈者都可以训练这对双胞胎说任何他们想说的话。

创建这些数字克隆曾经非常昂贵。如今,人们可以在网上注册各种人工智能服务,上传一系列语音录音或视频,免费创建一个数字双胞胎。

在其他情况下,欺诈者可以利用基因人工智能的文本生成功能,大规模创建极具针对性和个性化的信息,从而可能通过信息应用接触到许多受害者。

在这些例子中,欺诈者现在拥有了强大的工具,几乎不需要任何成本。这些骗局也已经在发生。在今年 2 月发生的一起重大事件中,香港一名财务人员在与包括公司首席财务官在内的几名同事的数字双胞胎进行视频电话会议后,被骗向骗子汇款 2500 万美元

这里的严重含义是,对我们人类来说,这是一场不公平的战斗。无论我们如何努力,都无法像人工智能那样快速学习或适应。

回到我女儿的那个场景,有一个简单的方法可以解决这种欺骗。我们有一个家庭密码,可以在这种情况下使用。数字孪生不会知道这些信息。即使没有共享密码,你也可以要求潜在的数字双胞胎确认它也不知道的信息--比如你最近和谈话对象去过的餐厅。

突然之间,数字孪生的整个外衣就开始坍塌,不管它多么聪明,也不管它能多快地发展自己的实践。这样,我们才能避免与人工智能进行同样的竞赛。相反,让我们更加人性化。

有时,非高科技解决方案也能很好地打击此类欺诈行为。

我们如何利用人工智能加强网络安全

当然,Gen AI 并不仅仅被欺诈者所利用。而低技术含量的解决方案并不总能解决问题。如今,Mastercard 团队正在利用基因人工智能和人工智能工具来提高数字世界的安全性。

再比如,我们也可以借助人工智能建立更复杂的欺诈模型。如今,许多欺诈模型都是利用您的购买习惯和行为建立的。这就意味着,如果你通常每天在费城消费 100 美元,那么如果你突然想在菲律宾购买价值 2000 美元的商品,欺诈模型可能会发出信号。

我们可以利用人工智能模型更广泛地了解消费习惯,而不仅仅是个人层面的消费习惯。 比方说,你从不赌博,但你的银行欺诈系统标记了一笔赌博费用。从更广泛的数据来看,人工智能系统可以帮助我们识别出许多在某个赌场度假村住宿的人确实在赌博--由于您的交易显示您在该度假村,因此这种赌博支出不再被视为可疑,从而避免了发送警报或暂停您的银行卡的需要。这将为您带来更好的体验。

短短几年间,人工智能改变了我们与技术互动、编写代码的方式,甚至让我们怀疑自己听到或看到的东西是否真实--甚至是我女儿打来的电话。

关于人工智能的故事很复杂,风险也很明显。但我知道,我们可以用正确的方式引导它,让人们和企业从它所创造的新一轮创新中受益。

博客

如何以军事化的准备方式打击网络犯罪

全球网络安全人员短缺近 400 万。Mastercard公司的罗恩-格林(Ron Green)说,现在是填补这一空白的时候了。