Преди музиката да спре: OpenClaw и нарастващата нужда от стандарти за сигурност на изкуствения интелект

Вече сте закъснели за рецитала по пиано на сина си, когато шефът ви изпраща имейл, в който ви съобщава, че трябва да пътувате до Бостън след няколко дни за работна среща. Вашият агент с изкуствен интелект прочита имейла и започва да планира пътуването вместо вас, докато вие изтичвате през вратата. Пътуването е резервирано. И пристигате в училището с достатъчно време, за да се насладите на темпераментното изпълнение на "Мери имаше малко агънце".

Само че това не е всичко, което се случва. Докато преглежда уебсайтове за пътувания, за да намери най-добрата цена за хотел в Бостън, агентът с изкуствен интелект се сблъсква с аномалия - повредена уебстраница със скрити инструкции, която насочва агента ви да прехвърли значителна сума пари в неизвестен цифров портфейл. И тогава музиката спира.

Агентите с изкуствен интелект са изключително обещаващи за бъдещето на начина, по който работим, живеем и търгуваме. С прилагането на правилните предпазни мерки тази технология предоставя възможности за повишаване на ефективността, по-добро разбиране и борба с измамите и заплахите за сигурността, както и за персонализиране на изживяването при електронна търговия. Неотдавнашното въвеждане на нов агент с отворен код, известен като OpenClaw, обаче засили продължаващите опасения относно сигурността и безопасността на агентите с изкуствен интелект.

OpenClaw е напълно автономен, постоянно работещ агент с изкуствен интелект, който може да ви помогне да изпълнявате задачи от реалния свят - от резервация на пътуване до покупка на хранителни продукти. OpenClaw, който работи на вашия компютър или сървър, може да бъде конфигуриран да сканира имейлите или съобщенията ви, да определя какви задачи трябва да бъдат изпълнени и систематично да ги изпълнява, като всичко това става с малко или никакво човешко участие.

Техническото усъвършенстване на OpenClaw бързо напредна само за няколко месеца след въвеждането му в края на 2025 г., което се дължи на неговия характер на софтуер с отворен код и отразява колко бързо се развива тази технология. OpenClaw е пример за асистент с изкуствен интелект, който може да доведе до значителна ефективност, спестяване на време и намаляване на разходите. Но OpenClaw и подобни технологии носят със себе си добре документирани рискове за сигурността.

За да може OpenClaw да прави това, което прави, тя се нуждае от вашето разрешение за достъп до данни, включително имейли и други документи, които могат да съдържат поверителна информация, както и от правото да взема важни решения, като например да харчи пари. Това правомощие за действие, съчетано с документирано излагане на заплахи като "prompt injection" - злонамерено въвеждане, което може да манипулира агентите на изкуствения интелект - накара някои да определят OpenClaw като "несигурен по подразбиране". Въпреки че агентите с изкуствен интелект като OpenClaw трябва да се справят с редица потенциални предизвикателства за сигурността, незабавното въвеждане е уникално проблематична и все по-често срещана заплаха за сигурността на изкуствения интелект.

Вкарването на подкана се случва, когато злонамерен участник скрие инструкции в текста, който вашият агент с изкуствен интелект ще прочете - може да е в уебстраница, съобщение, PDF файл или нещо друго, с което се сблъсква. Без правилните мерки за сигурност тези злонамерени директиви могат да подмамят вашия агент да остави настрана първоначално програмираните от вас инструкции и вместо това да направи това, което иска извършителят на заплахата. Това е значителен риск, тъй като възможността за ефективно разгръщане на агенти с разнообразни случаи на употреба - за всичко от подобряване на начина, по който се борим с измамите, до закупуването на нов чифт обувки - зависи от това дали тези агенти бързо взаимодействат с публично достъпни данни и вземат решения по тях.

Бързото впръскване има значителни последици - не само за използването на агенти с изкуствен интелект като цяло, но и конкретно за агентичната търговия. Опасността полуавтономни или напълно автономни агенти с изкуствен интелект да бъдат завладени от злонамерени лица, което да им позволи да пренасочат и откраднат значителни суми пари, е реална заплаха. Ако потребителите не могат да се доверят на агента да разбере напълно намеренията им, да спазва ограниченията им и да работи безопасно, хората няма да го използват. Ето защо Mastercard работи за създаването на рамка за агентична търговия, която има за цел да гарантира, че тази нова екосистема може да бъде възприета по сигурен и безопасен начин.

Въпреки че заплахите са реални, ние знаем и как да ги спрем. Съществуват техники, които могат да помогнат в борбата с "prompt injection" и други заплахи за сигурността на изкуствения интелект, включително преглед и премахване на злонамерени входни данни, преди агентът да ги прочете и да предприеме действия по тях, ограничаване на системите и данните, до които агентът има достъп, и последващ одит на дейностите на агентите с цел анализиране и идентифициране на аномално поведение. 

Mastercard постоянно е лидер в разработването и използването на ИИ по отговорен и безопасен начин, със силни принципи за данните и технологиите, както и с водеща в света функция за управление на ИИ. И все пак не е достатъчно отделните компании да внедрят мерки за сигурност с изкуствен интелект. Без значение колко са надеждни, една съвкупност от мерки за сигурност, които се прилагат неравномерно в цялата ни цифрова екосистема, няма да реши този проблем.

Изграждането на реална устойчивост и доверие в агентичната екосистема зависи от широкото възприемане на общи техники за сигурност и най-добри практики. За целта трябва да разработим и подкрепим широко признати и хармонизирани в световен мащаб стандарти за сигурност на ИИ. Тези стандарти могат да спомогнат за определянето на обща архитектура за сигурност, създавайки стабилна и устойчива основа, в която агентите на ИИ могат безопасно да правят всичко - от извършване на покупки до наблюдение на заплахите за сигурността на критичната инфраструктура.

Влиятелни организации от цял свят се надпреварват да разработват тези стандарти. В САЩ Националният институт по стандартизация и технологии към Министерството на търговията започна да полага усилия за събиране на широка информация относно стандартите за сигурност на агентите с изкуствен интелект.  В Сингапур Органът за развитие на информационно-комуникационните медии вече предложи модел на рамка за управление на агенти с изкуствен интелект, в който се очертава разумен подход, включително най-добрите практики за сигурност на агентите с изкуствен интелект.

Въпреки че съществуват рискове при използването на тази технология, смятаме, че следните три препоръки са ключови при предприемането на следващите стъпки в изграждането на безопасна и сигурна агентска екосистема.

Първо, организациите трябва да дадат приоритет на приемането и прилагането на най-добрите практики, за да осигурят използването на агенти с изкуствен интелект още в началото на жизнения цикъл на разработването и внедряването на продукта.

След това организациите трябва непрекъснато да наблюдават тези агенти, за да са сигурни, че могат да идентифицират и коригират всяко действие или дейност, които не са обичайни.

И накрая, по-широката екосистема трябва да подкрепи разработването и приемането на глобални стандарти за сигурност на изкуствения интелект, за да се гарантира, че всички ще могат да се позовават на общи стандарти при изграждането на обща архитектура за сигурност за безопасно агентично бъдеще.

Успешното прилагане на тези предпазни мерки и подкрепата за разработването на глобални стандарти могат да гарантират, че милиони хора и предприятия ще могат да се възползват от новите агентични технологии, като същевременно избягват потенциалните капани на сигурността.