Tháng nhận thức về an ninh mạng có thể không có sức hấp dẫn giống như các dấu ấn khác của tháng 10 - ngắm nhìn những tán lá rực rỡ hoặc thưởng thức kẹo Halloween - nhưng nó có thể thúc đẩy các nhà lãnh đạo doanh nghiệp và người tiêu dùng tham gia vào một nghi thức quan trọng: đánh giá lại cách tiếp cận của họ đối với an ninh mạng.

Và có rất nhiều điều để suy ngẫm trong năm qua. Các công ty đặc biệt nên tự hỏi bản thân trong tháng này (và mỗi tháng): Bối cảnh mối đe dọa trực tuyến đã thay đổi như thế nào? Và các hoạt động bảo mật của doanh nghiệp của bạn có đủ để bắt kịp với những thay đổi đó không?

Trí tuệ nhân tạo chắc chắn là yếu tố thay đổi lớn nhất trong năm nay. Các công cụ AI, bao gồm các mô hình ngôn ngữ lớn (LLM) như ChatGPT, đã tăng cường khả năng của kẻ tấn công. Trong khi đó, ngày càng nhiều công ty đưa AI vào hoạt động kinh doanh hàng ngày, thúc đẩy các chuyên gia an ninh mạng phải bảo vệ những ranh giới mới mà chưa có nhiều tiền lệ về cách thực hiện điều đó. Trong khi đó, người tiêu dùng bị kẹt giữa môi trường AI thay đổi nhanh chóng này.

Những động lực chính xác này đã nằm trong tâm trí của nhiều người trong số 20.000 người tham dự Hội nghị Mũ Đen năm nay ở Las Vegas. Từ những gian hàng rực rỡ trên sàn phòng kinh doanh đến nghiên cứu tiên tiến được trình bày trong các cuộc trò chuyện cho đến những cuộc trò chuyện yên tĩnh ở giữa, AI thống trị cuộc trò chuyện.

Tại bài phát biểu khai mạc sự kiện, nhà nghiên cứu an ninh mạng lâu năm Mikko Hyppönen gọi AI là “cuộc cách mạng kỹ thuật lớn nhất” mà ông từng thấy trong cuộc đời mình, lưu ý rằng các nhà nghiên cứu sử dụng LLM đã phát hiện ra vài chục ngày 0 - một thuật ngữ trong ngành cho sự yếu kém không được phát hiện trong phần mềm hoặc mã.

“Khi các nhà nghiên cứu tìm thấy lỗ hổng bảo mật với AI, điều đó thật tuyệt vì chúng tôi có thể sửa chữa chúng”, Hyppönen nói. “Khi những kẻ tấn công làm điều tương tự, điều đó thật khủng khiếp. Điều đó cũng sẽ xảy ra.”

Những kẻ lừa đảo trực tuyến đã sử dụng LLM để viết các email lừa đảo có mục tiêu và thuyết phục hơn và thực hiện điều đó ở quy mô lớn hơn nhiều so với những gì họ có thể có nếu không có các công cụ AI.

Đã qua rồi cái thời của những email chung chung được viết kém mà ngay cả những người ít hiểu biết về công nghệ nhất cũng có thể phát hiện là lừa đảo. Những kẻ lừa đảo không nói tiếng Anh bản địa hiện đang chuyên nghiệp trong việc đánh bóng thông điệp của họ với LLM.

Và ngay cả những kẻ lừa đảo giả dạng những người lính cô đơn đóng quân ở nước ngoài, thúc đẩy một cơ hội kinh doanh có vẻ quá tốt để trở thành sự thật (bởi vì thực sự là như vậy), đang rải các chi tiết cá nhân được khai thác bởi AI để làm cho những tin nhắn đó đáng tin hơn nhiều.

Họ cũng đã vượt ra ngoài email, cung cấp các thông tin liên lạc được thiết kế tốt đến phương tiện truyền thông xã hội, tin nhắn và thậm chí cả các cuộc gọi điện thoại.

Đồng thời, đã có sự gia tăng các tin nhắn lừa đảo có chứa âm thanh hoặc video deepfake. Năm ngoái, một công nhân ở Hồng Kông đã bị lừa trả 25 triệu đô la cho những kẻ lừa đảo sau khi ký vào cuộc gọi video với các quan chức tại công ty đa quốc gia của mình, bao gồm cả giám đốc tài chính. Nhưng hóa ra những người khác trong cuộc gọi là những trò chơi trực tiếp video deepfake của những người đó.

Người tiêu dùng cũng đã bị nhắm mục tiêu trong các trò lừa đảo âm thanh deepfake. Đó là nơi tội phạm mạng sử dụng AI để giả mạo giọng nói của những người trẻ hơn, sau đó sử dụng giọng nói bắt chước để gọi cho các thành viên trong gia đình, nói rằng họ đã bị bắt cóc hoặc đang ở tù, để tống tiền ra khỏi họ.

Tất cả những điều đó khiến các công ty và người tiêu dùng sợ hãi một cách dễ hiểu. Một nghiên cứu gần đây được thực hiện cho Mastercard đã thăm dò khoảng 13.000 người tiêu dùng trên toàn thế giới, trong đó có khoảng 1.000 người ở Mỹ, và nhận thấy nội dung giả mạo do AI tạo ra là mối quan tâm số 1 liên quan đến lừa đảo trong tương lai đối với người tiêu dùng. Nhưng chỉ 13% trong số những người được thăm dò cho biết họ rất tự tin vào khả năng xác định các mối đe dọa hoặc lừa đảo do AI tạo ra nếu họ bị chúng nhắm mục tiêu.

Phần lớn những người được thăm dò đặc biệt trích dẫn những lo ngại về các cuộc tấn công tinh vi hơn từ các hệ thống AI bị tấn công và biến thành độc hại, các cuộc tấn công mạng quy mô lớn tự động và các email lừa đảo thuyết phục hơn do AI tạo ra.

Và người tiêu dùng lo lắng có thể đồng nghĩa với những vấn đề lớn đối với các công ty phục vụ họ. Nếu người tiêu dùng không thể tin tưởng rằng họ đang giao dịch với một công ty hợp pháp hoặc thông tin cá nhân của họ an toàn, họ có thể chọn đưa doanh nghiệp của họ đi nơi khác.  

Hiện tại, ít nhất, dường như các hậu vệ có lợi thế. Ngoài việc đảm bảo các yếu tố AI mới trong hệ thống của khách hàng doanh nghiệp, các công ty an ninh mạng đang kết hợp AI vào các sản phẩm của riêng họ, với mục tiêu ngăn chặn các mối đe dọa trực tuyến nhanh hơn và hiệu quả hơn.

Trong khi đó, những kẻ lừa đảo và tội phạm mạng khác vẫn chưa có đủ động lực để đổi mới theo cách tương tự. Mặc dù họ đang sử dụng các công cụ AI để làm việc nhanh hơn và phát triển lớn hơn, các chuyên gia nói rằng họ chủ yếu gắn bó với các phiên bản cải tiến của các trò lừa đảo cũ tương tự.

Nicole Perlroth, một cựu nhà báo an ninh mạng, hiện là đối tác liên doanh tại Ballistic Ventures và lãnh đạo quỹ nhiệm vụ mạng của riêng mình, Silver Buckshot, cho biết trong bài phát biểu quan trọng của Black Hat rằng cô được khuyến khích bởi các công nghệ mới và mới nổi mà cô đang thấy trong an ninh mạng.

Cô chỉ ra các công nghệ phát hiện deepfake mới được hỗ trợ bởi AI đang được tung ra thị trường và lưu ý rằng AI đã giúp " dân chủ hóa các sản phẩm và dịch vụ an ninh mạng ", giúp chúng dễ tiếp cận hơn với các công ty nhỏ hơn không đủ khả năng chi trả trong quá khứ.

Hyppönen lưu ý rằng lừa đảo deepfake hiện rất hiếm, nhưng nói thêm rằng ông hy vọng tất cả các loại lừa đảo trực tuyến, cùng với ransomware, chỉ trở nên tồi tệ hơn khi các công nghệ AI trở nên tốt hơn và rẻ hơn.

Tin tốt là, các hậu vệ có một khởi đầu thuận lợi khi nói đến AI.

“Những kẻ tấn công cũng đang sử dụng AI, nhưng chúng chỉ mới bắt đầu”, ông nói. “Chúng tôi chỉ thấy các cuộc tấn công khá đơn giản với AI cho đến nay. Mọi chuyện sẽ thay đổi, nhưng hiện tại tôi cho rằng chúng ta đã chuẩn bị sẵn sàng.”