قد لا يحظى شهر التوعية بالأمن السيبراني بنفس جاذبية السمات المميزة الأخرى لشهر أكتوبر - التحديق في أوراق الشجر المحترقة أو الإفراط في تناول حلوى الهالوين - ولكنه قد يدفع قادة الشركات والمستهلكين على حد سواء إلى الانخراط في طقوس مهمة: إعادة تقييم نهجهم للأمن السيبراني.

وهناك الكثير للتفكير فيه خلال العام الماضي. يجب على الشركات على وجه الخصوص أن تسأل نفسها هذا الشهر (وكل شهر): كيف تغير مشهد التهديدات عبر الإنترنت؟ وهل الممارسات الأمنية لشركتك كافية لمواكبة هذه التغييرات؟

لا شك أن الذكاء الاصطناعي كان أكبر تغيير لقواعد اللعبة هذا العام. لقد أدت أدوات الذكاء الاصطناعي، بما في ذلك نماذج اللغات الكبيرة (LLMs) مثل ChatGPT، إلى تعزيز قدرات المهاجمين. وفي الوقت نفسه، يقوم عدد متزايد من الشركات بدمج الذكاء الاصطناعي في أعمالها اليومية، مما يدفع محترفي الأمن السيبراني إلى حماية حدود جديدة دون سابقة كثيرة حول كيفية القيام بذلك. وفي الوقت نفسه، يقع المستهلكون في وسط بيئة الذكاء الاصطناعي سريعة التغير هذه.

كانت هذه الديناميكيات الدقيقة في أذهان العديد من الحاضرين البالغ عددهم 20,000 شخص في مؤتمر Black Hat لهذا العام في لاس فيغاس. من الأكشاك المبهرة في قاعة الأعمال إلى الأبحاث المتطورة المقدمة في المحادثات إلى الدردشات الهادئة بينهما، سيطر الذكاء الاصطناعي على المحادثة.

في الكلمة الافتتاحية للحدث، وصف الباحث في الأمن السيبراني منذ فترة طويلة ميكو هيبونين الذكاء الاصطناعي بأنه «أكبر ثورة تقنية» شهدها في حياته، مشيرًا إلى أن الباحثين الذين يستخدمون LLMs قد اكتشفوا بالفعل بضع عشرات من أيام الصفر - وهو مصطلح صناعي يشير إلى الضعف غير المكتشف في البرامج أو التعليمات البرمجية.

قال هيبونين: «عندما يجد الباحثون ثغرات أمنية في الذكاء الاصطناعي، فهذا أمر رائع لأننا نستطيع إصلاحها». «عندما يفعل المهاجمون الشيء نفسه، فهذا أمر فظيع. "هذا سوف يحدث أيضًا."

يستخدم المحتالون عبر الإنترنت بالفعل LLMs لكتابة رسائل بريد إلكتروني احتيالية أكثر إقناعًا واستهدافًا والقيام بذلك على نطاق أوسع بكثير مما كان يمكن أن يفعلوه بدون أدوات الذكاء الاصطناعي.

لقد ولت أيام رسائل البريد الإلكتروني العامة المكتوبة بشكل سيئ والتي حتى أقل الأشخاص ذكاءً من الناحية التقنية يمكن أن يكتشفها على أنها عمليات احتيال. أصبح المحتالون غير الناطقين باللغة الإنجليزية الآن محترفين في تلميع رسائلهم باستخدام LLMs.

وحتى أولئك المحتالين الذين يتظاهرون بأنهم جنود وحيدون متمركزون في الخارج، ويدفعون إلى فرصة عمل تبدو جيدة جدًا بحيث لا يمكن تصديقها (لأنها في الواقع كذلك)، يقومون برش التفاصيل الشخصية التي استخرجها الذكاء الاصطناعي لجعل هذه الرسائل أكثر تصديقًا.

لقد تجاوزوا أيضًا البريد الإلكتروني، حيث قدموا اتصالاتهم المصممة جيدًا الآن إلى وسائل التواصل الاجتماعي والنصوص وحتى المكالمات الهاتفية.

في الوقت نفسه، كان هناك ارتفاع في رسائل الاحتيال التي تحتوي على ملفات تعريف صوتية أو مرئية. في العام الماضي، تم خداع عامل في هونغ كونغ لدفع 25 مليون دولار للمحتالين بعد التوقيع على ما اعتقد أنه مكالمة فيديو مع مسؤولين في شركته متعددة الجنسيات، بما في ذلك المدير المالي. ولكن اتضح أن الأشخاص الآخرين في المكالمة كانوا عبارة عن عروض فيديو حية ومزيفة لهؤلاء الأشخاص.

تم استهداف المستهلكين أيضًا في عمليات الاحتيال الصوتية المزيفة. هذا هو المكان الذي يستخدم فيه مجرمو الإنترنت الذكاء الاصطناعي لتزييف أصوات الأشخاص، وعادة ما يكونون أصغر سنًا، ثم يستخدمون الصوت المحاكي للاتصال بأفراد الأسرة، بالقول إنهم تعرضوا للاختطاف أو في السجن، لابتزاز الأموال منهم.

كل هذا يثير مخاوف الشركات والمستهلكين بشكل مفهوم. استطلعت دراسة حديثة أجريت لصالح Mastercard حوالي 13,000 مستهلك حول العالم، بما في ذلك حوالي 1,000 في الولايات المتحدة، ووجدت أن المحتوى المزيف الذي تم إنشاؤه بواسطة الذكاء الاصطناعي هو مصدر القلق المستقبلي الأول المتعلق بالاحتيال بالنسبة للمستهلكين. لكن 13٪ فقط ممن شملهم الاستطلاع قالوا إنهم واثقون جدًا من قدرتهم على تحديد التهديدات أو عمليات الاحتيال الناتجة عن الذكاء الاصطناعي إذا تم استهدافهم من قبلهم.

وأشارت الغالبية العظمى من المشاركين على وجه التحديد إلى مخاوف بشأن الهجمات الأكثر تطوراً من أنظمة الذكاء الاصطناعي التي يمكن اختراقها وتحويلها إلى هجمات خبيثة، والهجمات الإلكترونية الآلية واسعة النطاق، ورسائل التصيد الاحتيالي الأكثر إقناعاً التي ينشئها الذكاء الاصطناعي.

ويمكن أن يعني المستهلكون القلقون مشاكل كبيرة للشركات التي تخدمهم. إذا كان المستهلكون لا يثقون في أنهم يتعاملون مع شركة شرعية أو أن معلوماتهم الشخصية آمنة، فيمكنهم اختيار نقل أعمالهم إلى مكان آخر.  

في الوقت الحالي، على الأقل، يبدو أن المدافعين يتمتعون بالميزة. بالإضافة إلى تأمين عناصر الذكاء الاصطناعي الجديدة في أنظمة عملائها التجاريين، تقوم شركات الأمن السيبراني بدمج الذكاء الاصطناعي في منتجاتها الخاصة، بهدف إيقاف التهديدات عبر الإنترنت بشكل أسرع وأكثر كفاءة.

وفي الوقت نفسه، لا يملك المحتالون وغيرهم من مجرمي الإنترنت حتى الآن حافزًا كافيًا للابتكار بنفس الطريقة. في حين أنهم يستخدمون أدوات الذكاء الاصطناعي للعمل بشكل أسرع وأكبر، يقول الخبراء إنهم يلتزمون إلى حد كبير بالإصدارات المحسنة من نفس الحيل القديمة.

قالت نيكول بيرلروث، الصحفية السابقة في مجال الأمن السيبراني والتي تعمل الآن كشريك مشروع في شركة Ballistic Ventures وتقود صندوق المهام الإلكترونية الخاص بها، Silver Buckshot، في كلمتها الرئيسية في Black Hat إنها تشعر بالتشجيع من التقنيات الجديدة والناشئة التي تراها في مجال الأمن السيبراني.

وأشارت إلى تقنيات الكشف عن التزييف العميق الجديدة التي تعمل بالذكاء الاصطناعي والتي يتم طرحها في السوق وأشارت إلى أن الذكاء الاصطناعي ساعد " في إضفاء الطابع الديمقراطي على منتجات وخدمات " للأمن السيبراني، مما جعلها في متناول الشركات الصغيرة التي لم تكن قادرة على تحمل تكاليفها في الماضي.

أشار Hyppönen إلى أن عمليات الاحتيال المزيفة نادرة جدًا حاليًا، لكنه أضاف أنه يتوقع أن تزداد جميع أنواع عمليات الاحتيال عبر الإنترنت، جنبًا إلى جنب مع برامج الفدية، سوءًا فقط عندما تصبح تقنيات الذكاء الاصطناعي أفضل وأرخص.

والخبر السار هو أن المدافعين لديهم السبق عندما يتعلق الأمر بالذكاء الاصطناعي.

وقال: «يستخدم المهاجمون الذكاء الاصطناعي أيضًا، لكنهم بدأوا فقط». «لقد رأينا فقط هجمات بسيطة إلى حد ما باستخدام الذكاء الاصطناعي حتى الآن. سوف يتغير الأمر، ولكن الآن أود أن أقول إننا مستعدون».