Перш ніж музика зупиниться: OpenClaw та зростаюча потреба у стандартах безпеки штучного інтелекту

Ви вже запізнюєтеся на фортепіанний концерт сина, коли ваш начальник пише вам електронного листа, повідомляючи, що вам потрібно поїхати до Бостона через кілька днів на робочу зустріч. Ваш агент штучного інтелекту читає електронний лист і починає планувати поїздку для вас, поки ви біжите за двері. Поїздку заброньовано. І ви прибуваєте до школи якраз достатньо часу, щоб насолодитися жвавим виконанням «У Мері було ягня».

Хіба що це ще не все, що відбувається. Під час пошуку найкращого тарифу на готель у Бостоні на туристичних сайтах агент зі штучним інтелектом стикається з аномалією — пошкодженою веб-сторінкою з прихованими інструкціями, які наказують вашому агенту переказати значну суму грошей на невідомий цифровий гаманець. І саме тоді музика зупиняється.

Агенти штучного інтелекту мають величезні перспективи для майбутнього того, як ми працюємо, живемо та займаємося комерцією. Завдяки впровадженню правильних запобіжних заходів ця технологія відкриває можливості для підвищення ефективності, кращого розуміння та боротьби з шахрайством і загрозами безпеці, а також для персоналізації нашого досвіду електронної комерції. Однак нещодавнє впровадження нового агента з відкритим кодом, відомого як OpenClaw, посилило постійні занепокоєння щодо безпеки агентів штучного інтелекту.

OpenClaw — це повністю автономний, постійно активний агент на базі штучного інтелекту, який може допомогти вам виконувати реальні завдання — від бронювання подорожей до купівлі продуктів. OpenClaw, який працює на вашому комп’ютері або сервері, можна налаштувати для сканування вашої електронної пошти або повідомлень, визначення завдань, які потрібно виконати, та систематичного їх виконання, і все це практично без участі людини.

Технічна складність OpenClaw стрімко зросла протягом лише кількох місяців після його появи наприкінці 2025 року, що зумовлено його відкритим кодом та відображає те, як швидко розвивається ця технологія. OpenClaw — це приклад помічника на базі штучного інтелекту, який може значно підвищити ефективність, заощаджуючи час і скорочуючи витрати. Але OpenClaw та подібні технології несуть із собою добре задокументовані ризики безпеки.

Щоб OpenClaw міг виконувати свою функцію, йому потрібен ваш дозвіл на доступ до даних, включаючи електронні листи та інші документи, які можуть містити конфіденційну інформацію, а також повноваження приймати важливі рішення, такі як витрачання грошей. Ці повноваження діяти в поєднанні із задокументованим впливом загроз, таких як «швидке введення» — шкідливий вхід, який може маніпулювати агентами штучного інтелекту, — призвели до того, що деякі називають OpenClaw «небезпечним за замовчуванням». Хоча агенти штучного інтелекту, такі як OpenClaw, повинні стикатися з низкою потенційних проблем безпеки, оперативне впровадження є унікально проблематичною та дедалі поширенішою загрозою безпеці від штучного інтелекту.

Промовисте впровадження відбувається, коли зловмисник приховує інструкції в тексті, який ваш агент штучного інтелекту збирається прочитати — це може бути на веб-сторінці, у повідомленні, PDF-файлі чи будь-чому іншому, з чим він стикається. Без належних заходів безпеки ці шкідливі директиви можуть обманом змусити вашого агента відхилити будь-які інструкції, які ви спочатку запрограмували, та натомість зробити те, що хоче зловмисник. Це значний ризик, оскільки здатність ефективно масштабувати розгортання агентів з урахуванням різноманітних випадків використання — від покращення способів боротьби з шахрайством до купівлі нової пари взуття — залежить від того, чи швидко ці агенти взаємодіють із загальнодоступними даними та приймають рішення щодо них.

Швидке впровадження має значні наслідки — не лише для використання агентів ШІ загалом, але й для агентської комерції зокрема. Небезпека того, що напів- або повністю автономні агенти штучного інтелекту будуть захоплені зловмисниками, що дозволить їм перенаправляти та красти значні суми грошей, є реальною загрозою. Якщо користувачі не можуть довіряти агенту в повному розумінні їхніх намірів, повазі до їхніх обмежень та безпечній роботі, вони не використовуватимуть його. Саме тому Mastercard працювала над створенням системи для агентської комерції, яка розроблена для забезпечення безпечного та надійного використання цієї нової екосистеми.

Хоча загрози реальні, ми також знаємо, як їх зупинити. Існують методи, які можуть допомогти в боротьбі з оперативним впровадженням даних та іншими загрозами безпеці штучного інтелекту, включаючи перевірку та видалення шкідливих вхідних даних до того, як агент їх прочитає та відреагує, обмеження систем і даних, до яких агент може отримати доступ, а також аудит діяльності агентів після факту для аналізу та виявлення аномальної поведінки. 

Mastercard постійно є лідером у розробці та відповідальному та безпечному використанні штучного інтелекту, дотримуючись міцних принципів обробки даних і технологій, а також провідної у світі функції управління штучним інтелектом. Однак окремим компаніям недостатньо просто впроваджувати заходи безпеки на основі штучного інтелекту. Якими б надійними вони не були, клаптиковий набір заходів безпеки, нерівномірно розгорнутих у нашій цифровій екосистемі, не вирішить цю проблему.

Побудова справжньої стійкості та довіри до агентної екосистеми залежить від широкого впровадження спільних методів безпеки та передового досвіду. Для цього нам потрібно розробити та підтримувати широко визнані та глобально узгоджені стандарти безпеки штучного інтелекту. Ці стандарти можуть допомогти визначити спільну архітектуру безпеки, створюючи стабільну та стійку основу, де агенти штучного інтелекту можуть безпечно виконувати всі дії: від здійснення покупок до моніторингу загроз безпеці критичної інфраструктури.

Впливові організації по всьому світу змагаються у розробці цих стандартів. У Сполучених Штатах Національний інститут стандартів і технологій при Міністерстві торгівлі розпочав збір широкого спектру інформації щодо стандартів безпеки агентів штучного інтелекту.  У Сінгапурі Управління з розвитку інфокомунікаційних медіа вже запропонувало Модельну структуру управління для агентного штучного інтелекту, окреслюючи підхід, що базується на здоровому глузді, включаючи найкращі практики безпеки агентів ШІ.

Хоча використання цієї технології має певні ризики, ми вважаємо, що наступні три рекомендації є ключовими, оскільки ми робимо наступні кроки у створенні безпечної агентної екосистеми.

По-перше, організаціям необхідно пріоритезувати впровадження та впровадження найкращих практик, щоб забезпечити використання агентів штучного інтелекту на ранніх етапах життєвого циклу розробки та розгортання продукту.

Далі, організаціям необхідно постійно контролювати цих агентів, щоб переконатися, що вони можуть виявляти та виправляти будь-які дії чи активності, які виходять за рамки звичайного.

Зрештою, ширша екосистема повинна підтримувати розробку та впровадження глобальних стандартів безпеки штучного інтелекту, щоб гарантувати, що кожен може спиратися на спільні стандарти під час побудови спільної архітектури безпеки для безпечного агентного майбутнього.

Успішне впровадження цих запобіжних заходів та підтримка розробки глобальних стандартів можуть гарантувати, що мільйони людей та підприємств зможуть скористатися перевагами нових агентних технологій, уникаючи при цьому потенційних пасток безпеки.