28 أكتوبر 2024
اتصلت بي ابنتي بلا سابق إنذار وتقول لي إنها بحاجة إلى المال أثناء رحلتها إلى الخارج. وتضيف أنها ستطلعني على التفاصيل لاحقًا. أتصرف كوالد، أستسلم فقط.
في هذا السيناريو الافتراضي، تمت سرقة أموالي الآن من قبل محتال يتظاهر بأنه طفلي باستخدام استنساخ صوتي رقمي تم إنشاؤه باستخدام الذكاء الاصطناعي التوليدي. قد تفكر، «هذا لن يخدعني. أنا أعرف كيف يبدو طفلي.» لكنني أؤكد لك أنه إذا كنت تتحدث عبر الهاتف مع أحد هذه التوائم الرقمية، فلن تتمكن من تمييز الفرق. هذا هو مدى تطور تقنية الانتحال هذه.
هذا مجرد مثال واحد على التحديات التي يواجهها المستهلكون والشركات والحكومات الآن حيث أصبح الذكاء الاصطناعي العام سائدًا بسرعة. إنها تخلق تهديدات جديدة في مجال الأمن السيبراني، ولكنها تخلق أيضًا فرصًا. من ناحية أخرى، جعل الذكاء الاصطناعي العام إنشاء وتنفيذ أشكال معقدة من الاحتيال أرخص بكثير وأكثر سهولة. من ناحية أخرى، تستخدم الشركات، بما في ذلك Mastercard، الذكاء الاصطناعي العام لإضافة المزيد من الفهم السياقي لأدوات الأمن السيبراني الخاصة بنا، وجعلها أكثر ذكاءً، وتحسين تجربة المستهلكين ومكافحة الاحتيال بشكل أسرع من ذي قبل.
يمكن أن يكون التوأم الرقمي نسخة من صوتك أو مزيجًا من صوتك وفيديو لك. في كلتا الحالتين، يمكن للمحتالين تدريب هذا التوأم على قول ما يريدون.
كان إنشاء هذه النسخ الرقمية مكلفًا للغاية. اليوم، يمكن لأي شخص الاشتراك في أي عدد من الخدمات العامة المدعومة بالذكاء الاصطناعي عبر الإنترنت، وتحميل سلسلة من التسجيلات الصوتية أو مقاطع الفيديو وإنشاء توأم رقمي مجانًا تقريبًا.
في حالات أخرى، يمكن للمحتال استخدام قدرات توليد النص للجيل الاصطناعي لإنشاء رسائل مستهدفة للغاية وشخصية على نطاق واسع للوصول المحتمل إلى العديد من الضحايا عبر تطبيق المراسلة.
في هذه الأمثلة، أصبح المحتالون الآن مسلحين بأدوات قوية دون أي تكلفة تقريبًا. هذه الحيل تحدث بالفعل أيضًا. في حادثة كبيرة وقعت في فبراير، تم خداع عامل مالي في هونغ كونغ لإرسال 25 مليون دولار للمحتالين بعد التحدث في مكالمة جماعية عبر الفيديو مع التوائم الرقمية للعديد من زملاء العمل، بما في ذلك المدير المالي للشركة.
المعنى الخطير هنا هو أن هذه معركة غير عادلة بالنسبة لنا نحن البشر. لا يمكننا التعلم أو التكيف بسرعة الذكاء الاصطناعي، بغض النظر عن مدى صعوبة المحاولة.
بالعودة إلى هذا السيناريو مع ابنتي، هناك طريقة سهلة لمعالجة هذا الخداع. لدينا كلمة مرور عائلية يمكننا استخدامها لهذه الأنواع من المواقف. لن يعرف التوأم الرقمي هذه المعلومات. حتى بدون كلمة مرور مشتركة، يمكنك أن تطلب من التوأم الرقمي المحتمل تأكيد المعلومات التي لن يعرفها أيضًا - مثل مطعم حديث ذهبت إليه مع الشخص الذي تتحدث معه.
فجأة، تبدأ الواجهة الكاملة للتوأم الرقمي في الانهيار، بغض النظر عن مدى ذكائه أو مدى السرعة التي يمكنه بها تطوير ممارساته. هذه هي الطريقة التي يمكننا بها تجنب محاولة الجري في نفس السباق مثل الذكاء الاصطناعي. بدلاً من ذلك، دعونا نميل إلى أن نكون أكثر إنسانية.
في بعض الأحيان، قد يعمل الحل غير عالي التقنية بشكل جيد لمكافحة مثل هذا الاحتيال.
الجيل الاصطناعي، بالطبع، لا يتم استخدامه فقط من قبل المحتالين. والحلول منخفضة التقنية ليست دائمًا الحل. تستخدم فرق Mastercard اليوم أدوات الذكاء الاصطناعي والذكاء الاصطناعي لتحسين أمان العالم الرقمي.
في مثال آخر، يمكننا بناء نماذج احتيال أكثر تعقيدًا بمساعدة الذكاء الاصطناعي أيضًا. اليوم، يتم إنشاء العديد من نماذج الاحتيال باستخدام عادات الشراء والإجراءات الخاصة بك. هذا يعني أنك إذا كنت تنفق عادةً 100 دولار يوميًا في جميع أنحاء فيلادلفيا، فقد يشير نموذج الاحتيال إلى ما إذا حاولت فجأة شراء عنصر بقيمة 2000 دولار في الفلبين.
يمكننا استخدام نماذج الذكاء الاصطناعي لفهم عادات الإنفاق على نطاق أوسع - وليس فقط على المستوى الفردي. لنفترض أنك لا تمارس المقامرة مطلقًا، ولكن تم الإبلاغ عن إحدى نفقات المقامرة بواسطة نظام مكافحة الاحتيال الخاص بالبنك الذي تتعامل معه. بالنظر إلى نطاق أوسع من البيانات، يمكن أن يساعدنا نظام الذكاء الاصطناعي في تحديد أن العديد من الأشخاص الذين يقيمون في منتجع كازينو معين يقومون بالمقامرة - وبما أن معاملاتك تظهر أنك في هذا المنتجع، لم يعد يُنظر إلى نفقات المقامرة هذه على أنها مشبوهة، مما يؤدي إلى تجنب الحاجة إلى إرسال تنبيه أو تعليق بطاقتك. هذا يخلق تجربة أفضل لك.
في غضون بضع سنوات فقط، غيّر الجيل الرابع من الذكاء الاصطناعي طريقة تفاعلنا مع التكنولوجيا وكتابة التعليمات البرمجية، بل إنه جعلنا نتساءل عما إذا كان ما نسمعه أو نراه حقيقيًا بالفعل - حتى مكالمة من ابنتي.
إن قصة الجيل الثاني من الذكاء الاصطناعي معقدة - والمخاطر واضحة. لكنني أعلم أنه يمكننا توجيهها بالطرق الصحيحة حتى يتمكن الأشخاص والشركات من الاستفادة من الموجة الجديدة من الابتكار التي تخلقها.
صورة البانر عبر Adobe Stock وتم إنشاؤها باستخدام الذكاء الاصطناعي التوليدي.