חודש המודעות לאבטחת סייבר אולי לא ימשוך את אותו כיוון כמו סימנים מסחררים אחרים של אוקטובר - התבוננות בעלים מלוטשים או אכילת ממתקי ליל כל הקדושים - אך הוא יכול לעודד מנהיגים תאגידיים וצרכנים כאחד לעסוק בטקס חשוב: הערכה מחודשת של גישתם לאבטחת סייבר.

ויש הרבה על מה לחשוב במהלך השנה האחרונה. חברות במיוחד צריכות לשאול את עצמן החודש (ובכל חודש): כיצד השתנה נוף האיומים המקוונים? והאם נהלי האבטחה של העסק שלך עושים מספיק כדי לעמוד בקצב השינויים הללו?

אין ספק שבינה מלאכותית הייתה השינוי הגדול ביותר של כללי המשחק השנה. כלי בינה מלאכותית, כולל מודלים של שפה גדולה (LLMs) כמו ChatGPT, שפרו את יכולותיהם של תוקפים. בינתיים, מספר גדל והולך של חברות משלבות בינה מלאכותית בעסקיהן היומיומיים, ודוחפות אנשי מקצוע בתחום אבטחת הסייבר לשמור על גבולות חדשים ללא תקדים רב כיצד לעשות זאת. בינתיים, צרכנים לכודים בלב סביבת בינה מלאכותית המשתנה במהירות.

דינמיקה בדיוק זו עמדה בראשם של רבים מ-20,000 המשתתפים בכנס Black Hat השנה בלאס וגאס. מהדוכנים המפוארים בקומת אולם העסקים, דרך המחקר החדשני שהוצג בהרצאות ועד לשיחות השקטות שביניהן, בינה מלאכותית שלטה בשיחה.

בנאום הפתיחה של האירוע, כינה חוקר הסייבר הוותיק מיקו היפנון את הבינה המלאכותית "המהפכה הטכנית הגדולה ביותר" שראה בחייו, וציין כי חוקרים המשתמשים בתואר שני במשפטים כבר גילו כמה עשרות ימי אפס - מונח בתעשייה לחולשה שלא זוהתה בתוכנה או בקוד.

"כאשר חוקרים מוצאים פגיעויות אבטחה בבינה מלאכותית, זה נהדר כי אנחנו יכולים לתקן אותן", אמר היפנון. "כאשר תוקפים עושים את אותו הדבר, זה נורא." גם זה יקרה."

נוכלים מקוונים כבר משתמשים ב-LLMs כדי לכתוב מיילי פישינג משכנעים וממוקדים יותר, ועושים זאת בקנה מידה גדול בהרבה ממה שיכלו לעשות אי פעם ללא כלי בינה מלאכותית.

חלפו הימים של מיילים גנריים שנכתבו בצורה גרועה, שאפילו האדם הכי פחות בקיא בטכנולוגיה יכול היה לזהות כתרמיות. נוכלים שאינם דוברי אנגלית ילידית הם כיום מקצוענים בליטוש המסרים שלהם בעזרת תואר שני במשפטים.

ואפילו אותם נוכלים שמתחזים לחיילים בודדים המוצבים מעבר לים, ודוחפים הזדמנות עסקית שנראית טובה מכדי להיות אמיתית (כי היא באמת כזו), מפזרים פרטים אישיים שנכרתו על ידי בינה מלאכותית כדי להפוך את המסרים האלה לאמינים הרבה יותר.

הם גם עברו מעבר לדוא"ל, והעבירו את התקשורת המעוצבת היטב שלהם כעת למדיה חברתית, הודעות טקסט ואפילו שיחות טלפון.

במקביל, חלה עלייה בהודעות הונאה המכילות זיופים עמוקים של אודיו או וידאו. בשנה שעברה, עובד בהונג קונג הוטעה לשלם 25 מיליון דולר לנוכלים לאחר שנרשם למה שחשב שהוא שיחת וידאו עם פקידים בחברה הרב-לאומית שלו, כולל מנהל הכספים הראשי. אבל התברר שהאחרים בשיחה היו שחזורים של אותם אנשים בוידאו חי, שבוצעו באמצעות דיפ-זיוף.

צרכנים גם היו מטרה להונאות דיפפייק של אודיו. זה המקום שבו פושעי סייבר משתמשים בבינה מלאכותית כדי לזייף את קולם של אנשים, בדרך כלל צעירים יותר, ואז משתמשים בקול המחקה כדי להתקשר לבני משפחה ולומר שהם נחטפו או נמצאים בכלא, כדי לסחוט מהם כסף.

כל זה מפחיד, באופן מובן, חברות וצרכנים. מחקר שנערך לאחרונה עבור מאסטרקארד כלל סקר בקרב כ-13,000 צרכנים ברחבי העולם, כולל כ-1,000 בארה"ב, ומצא כי תוכן מזויף שנוצר על ידי בינה מלאכותית הוא הדאגה העתידית מספר 1 עבור צרכנים הקשורה להונאות. אבל רק 13% מהנשאלים אמרו שהם בטוחים מאוד ביכולתם לזהות איומים או הונאות שנוצרו על ידי בינה מלאכותית אם הם נועדו להיות מטרה לכך.

הרוב המכריע של הנשאלים ציינו במיוחד חששות לגבי התקפות מתוחכמות יותר של מערכות בינה מלאכותית שנפרצות והופכות למזיקות, התקפות סייבר אוטומטיות בקנה מידה גדול, ודוא"ל פישינג משכנע יותר שנוצר על ידי בינה מלאכותית.

וצרכנים מודאגים עלולים להוביל לבעיות גדולות עבור החברות המשרתות אותם. אם צרכנים אינם יכולים לסמוך על כך שהם מתעסקים עם חברה לגיטימית או שהמידע האישי שלהם בטוח, הם יכולים לבחור לפנות למקום אחר.  

לפחות כרגע, נראה שלמגינים יש יתרון. בנוסף לאבטחת רכיבי הבינה המלאכותית החדשים במערכות של לקוחותיהן העסקיים, חברות אבטחת סייבר משלבות בינה מלאכותית במוצריהן, במטרה לעצור איומים מקוונים מהר וביעילות רבה יותר.

בינתיים, לנוכלים ופושעי סייבר אחרים עדיין אין מספיק תמריץ לחדש באותו אופן. בעוד שהם משתמשים בכלי בינה מלאכותית כדי לעבוד מהר יותר ולהגדיל את הפוטנציאל שלהם, מומחים אומרים שהם דבקים בעיקר בגרסאות משופרות של אותן הונאות ישנות.

ניקול פרלרוט, עיתונאית לשעבר בתחום הסייבר, שכיום משמשת כשותפה בקרן Ballistic Ventures ומנהלת את קרן המשימות הסייבר שלה, Silver Buckshot, אמרה בנאום המרכזי שלה ב-Black Hat שהיא מעודדת מהטכנולוגיות החדשות והמתפתחות שהיא רואה בתחום הסייבר.

היא הצביעה על טכנולוגיות חדשות לזיהוי דיפפייק המופעלות על ידי בינה מלאכותית שיוצאות לשוק וציינה כי בינה מלאכותית סייעה "לדמוקרטיזציה" של מוצרים ושירותי אבטחת סייבר, והפכה אותם לנגישים יותר לחברות קטנות יותר שלא יכלו להרשות לעצמן בעבר.

היפנון ציין כי הונאות דיפפייק הן כיום נדירות מאוד, אך הוסיף כי הוא צופה שכל מיני הונאות מקוונות, יחד עם תוכנות כופר, רק יחמירו ככל שטכנולוגיות הבינה המלאכותית ישתפרו ויהיו זולות יותר.

החדשות הטובות הן שלמגינים יש יתרון בכל הנוגע לבינה מלאכותית.

"גם התוקפים משתמשים בבינה מלאכותית, אבל הם רק בתחילת דרכם", הוא אמר. "עד כה ראינו רק התקפות פשוטות למדי באמצעות בינה מלאכותית." זה ישתנה, אבל כרגע הייתי אומר שאנחנו מוכנים."