3 במרץ 2026
אתה כבר מאחר לרסיטל הפסנתר של בנך כשבוס שלך שולח לך מייל, ואומר לך שאתה צריך לנסוע לבוסטון בעוד כמה ימים לפגישת עבודה. סוכן הבינה המלאכותית שלך קורא את האימייל ומתחיל לתכנן עבורך את הטיול בזמן שאתה ממהר לצאת מהדלת. הטיול הוזמן. ואתם מגיעים לבית הספר בדיוק עם מספיק זמן כדי ליהנות מביצוע נלהב של “Mary Had a Little Lamb”.
אלא שזה לא כל מה שקורה. בזמן סריקת אתרי תיירות כדי למצוא את המחיר הטוב ביותר למלון בבוסטון, סוכן הבינה המלאכותית נתקל בחריגה — דף אינטרנט פגום עם הוראות נסתרות המכוונות את הסוכן שלך להעביר סכום כסף משמעותי לארנק דיגיטלי לא ידוע. וכאן המוזיקה נפסקת.
לסוכני בינה מלאכותית יש פוטנציאל עצום לעתיד הדרך שבה אנו עובדים, חיים ועוסקים במסחר. עם יישום אמצעי הגנה מתאימים, טכנולוגיה זו מציגה הזדמנויות להגברת היעילות, להבנה ולמאבק טובים יותר באיומי הונאה ואבטחה, כמו גם להתאמה אישית של חווית המסחר האלקטרוני שלנו. עם זאת, ההשקה האחרונה של סוכן קוד פתוח חדש המכונה OpenClaw הגבירה את החששות המתמשכים סביב האבטחה והבטיחות של סוכני AI.
OpenClaw הוא סוכן AI אוטונומי לחלוטין, הפועל תמיד, שיכול לעזור לכם לבצע משימות בעולם האמיתי – החל מהזמנת נסיעות ועד לקניית מצרכים. OpenClaw – הפועלת על המחשב או השרת שלכם – ניתנת להגדרה לסריקת הדוא"ל או ההודעות שלכם, קביעת המשימות הנדרשות לביצוע, וביצוען באופן שיטתי, כל זאת עם מעורבות אנושית מעטה או ללא כלל.
התחכום הטכני של OpenClaw התקדם במהירות תוך חודשים ספורים מהשקתו בסוף 2025, מונע על ידי טבעו בקוד פתוח ומשקף עד כמה מהר טכנולוגיה זו מתפתחת. OpenClaw היא דוגמה לעוזר המופעל על ידי בינה מלאכותית שיכול להביא ליעילות משמעותית, לחסוך זמן ולקצץ בעלויות. אבל OpenClaw וטכנולוגיה דומה מביאים איתם סיכוני אבטחה מתועדים היטב.
כדי ש-OpenClaw תוכל לעשות את מה שהיא עושה, היא צריכה את ההרשאה שלכם לגשת לנתונים, כולל דוא"לים ומסמכים אחרים שעשויים להכיל מידע רגיש, וכן את הסמכות לקבל החלטות חשובות, כמו הוצאת כסף. הסמכות הזו לפעול, יחד עם חשיפה מתועדת לאיומים כמו “prompt injection” — קלט זדוני שיכול לתמרן סוכני AI — גרמה לחלק מהאנשים לכנות את OpenClaw “לא מאובטח כברירת מחדל.” בעוד שסוכני AI כמו OpenClaw צריכים להתמודד עם מספר אתגרי אבטחה פוטנציאליים, הזרקת פרומפטים היא איום אבטחת AI בעייתי במיוחד והולך ונעשה נפוץ יותר.
הזרקת Prompt מתרחשת כאשר גורם זדוני מטמין הוראות בתוך טקסט שהסוכן החכם שלכם עומד לקרוא – זה יכול להיות בדף אינטרנט, בהודעה, בקובץ PDF או בכל דבר אחר שהוא נתקל בו. ללא אמצעי האבטחה הנכונים, הנחיות זדוניות אלו יכולות להטעות את הסוכן שלכם ולגרום לו להתעלם מההוראות שתכנתתם במקור, ובמקום זאת לעשות את מה שהתוקף רוצה. זהו סיכון משמעותי, שכן היכולת להרחיב את פריסת הסוכנים באופן יעיל עם מגוון מקרי שימוש — לכל דבר, החל משיפור האופן שבו אנו נלחמים בהונאות ועד לקניית זוג נעליים חדשות — תלויה בכך שסוכנים אלה יפעלו במהירות ויקבלו החלטות לגבי נתונים זמינים לציבור.
הזרקת Prompt (הנחיה) נושאת השלכות משמעותיות — לא רק לשימוש בסוכני בינה מלאכותית באופן כללי, אלא גם עבור מסחר מבוסס סוכנים באופן ספציפי. הסכנה שסוכני בינה מלאכותית אוטונומיים למחצה או מלאים יילקחו תחת שליטתם של גורמים זדוניים, מה שיאפשר להם להפנות ולגנוב סכומי כסף משמעותיים, היא איום ממשי. אם משתמשים לא יכולים לסמוך על סוכן שיבין במלואו את כוונתם, יכבד את מגבלותיהם ויפעל בבטחה, אנשים לא ישתמשו בו. זו הסיבה ש-Mastercard פעלה לבניית מסגרת למסחר מבוסס סוכנים, אשר נועדה לסייע בהבטחה שאקוסיסטם חדש זה יוכל להתקבל בצורה בטוחה ומאובטחת.
אמנם האיומים אמיתיים, אך אנחנו גם יודעים כיצד לעצור אותם. קיימות טכניקות שיכולות לסייע במלחמה בהזרקת פרומפטים ובאיומי אבטחה אחרים של בינה מלאכותית, כולל סקירה והסרה של קלטים זדוניים לפני שסוכן קורא ופועל לפיהם, הגבלת המערכות והנתונים שסוכן יכול לגשת אליהם, ובדיקת פעילויות סוכנים בדיעבד כדי לנתח ולזהות התנהגות חריגה.
Mastercard מובילה באופן עקבי בפיתוח ושימוש ב-AI באחריות ובבטיחות, עם עקרונות חזקים בנושאי נתונים וטכנולוגיה, כמו גם פונקציית ממשל AI מובילה בעולם. אך לא מספיק שחברות בודדות יפרסו אמצעי אבטחת AI. לא משנה כמה חזקים, טלאי של אמצעי אבטחה הפרוסים באופן לא אחיד על פני המערכת האקולוגית הדיגיטלית שלנו לא יפתור בעיה זו.
בניית חוסן ואמון אמיתיים במערכת האקולוגית של סוכני AI תלויה באימוץ נרחב של טכניקות אבטחה ושיטות עבודה מומלצות. לשם כך, עלינו לפתח ולתמוך בתקני אבטחת AI מוכרים ונפוצים בעולם. תקנים אלו יכולים לסייע בהגדרת ארכיטקטורת אבטחה משותפת, יצירת בסיס יציב ועמיד שבו סוכני AI יכולים לבצע בבטחה כל דבר, החל מביצוע רכישות ועד לניטור איומי אבטחה על תשתיות קריטיות.
ארגונים משפיעים ברחבי העולם מתחרים בפיתוח תקנים אלו. בארצות הברית, המכון הלאומי לתקנים וטכנולוגיה תחת מחלקת המסחר החל במאמצים לאסוף קלט נרחב בנוגע ל תקני אבטחה של סוכני AI. בסינגפור, רשות הפיתוח של אינפוקום ומדיה כבר הציעה מסגרת ממשל מודל לבינה מלאכותית מבוססת סוכנים (Agentic AI), המתווה גישה של שכל ישר, כולל שיטות עבודה מומלצות לאבטחת סוכני AI.
אף שיש סיכונים בשימוש בטכנולוגיה זו, אנו מאמינים כי שלוש ההמלצות הבאות הן מפתח כאשר אנו עושים את הצעדים הבאים בבניית מערכת אקולוגית מבוססת סוכנים בטוחה ומאובטחת.
ראשית, ארגונים צריכים לתעדף את האימוץ וההטמעה של שיטות עבודה מומלצות כדי לאבטח את השימוש בסוכני AI בשלבים מוקדמים של מחזור חיי פיתוח והטמעת המוצר.
בהמשך, ארגונים צריכים לנטר באופן רציף את הסוכנים האלה כדי לוודא שהם יכולים לזהות ולתקן כל פעולה או פעילות חריגה.
לבסוף, על הסביבה העסקית הרחבה יותר לתמוך בפיתוח ובאימוץ של סטנדרטים גלובליים לאבטחת AI כדי להבטיח שכולם יוכלו להסתמך על סטנדרטים משותפים בבניית ארכיטקטורת אבטחה משותפת לעתיד סוכני AI בטוח.
הטמעה מוצלחת של אמצעי הגנה אלה ותמיכה בפיתוח סטנדרטים גלובליים יכולה להבטיח שמיליוני אנשים ועסקים יוכלו ליהנות מטכנולוגיות סוכנים חדשות, תוך הימנעות ממלכודות אבטחה פוטנציאליות.