Antes de que la música se detenga: OpenClaw y la creciente necesidad de estándares de seguridad de IA

Ya llegas tarde al recital de piano de tu hijo cuando tu jefe te envía un correo electrónico diciéndote que debes viajar a Boston en unos días para una reunión de trabajo. Tu agente de IA lee el correo electrónico y comienza a planificar el viaje por ti mientras sales corriendo por la puerta. El viaje está reservado. Y llegas a la escuela con el tiempo justo para disfrutar de una animada interpretación de “Mary Had a Little Lamb”.

Excepto que eso no es todo lo que sucede. Mientras busca en sitios web de viajes para encontrar la mejor tarifa para un hotel en Boston, el agente de IA encuentra una anomalía: una página web corrupta con instrucciones ocultas que dirige a tu agente a transferir una cantidad significativa de dinero a una billetera digital desconocida. Y es entonces cuando la música se detiene.

Los agentes de IA tienen un enorme potencial para el futuro de la forma en que trabajamos, vivimos y participamos en el comercio. Con los límites adecuados implementados, esta tecnología presenta oportunidades para aumentar la eficiencia, comprender y combatir mejor el fraude y las amenazas a la seguridad, así como personalizar nuestra experiencia de comercio electrónico. Sin embargo, la reciente introducción de un nuevo agente de código abierto conocido como OpenClaw ha amplificado las preocupaciones actuales en torno a la seguridad y protección de los agentes de IA.

OpenClaw es un agente de IA totalmente autónomo y siempre activo que puede ayudarte a realizar tareas del mundo real —desde reservar viajes hasta comprar comestibles. OpenClaw —que se ejecuta en tu computadora o servidor— puede configurarse para escanear tu correo electrónico o mensajes, determinar qué tareas deben realizarse y llevarlas a cabo sistemáticamente, todo con poca o ninguna intervención humana.

La sofisticación técnica de OpenClaw avanzó rápidamente a pocos meses de su introducción a finales de 2025, impulsada por su naturaleza de código abierto y reflejando la rapidez con la que esta tecnología está evolucionando. OpenClaw es un ejemplo de un asistente impulsado por IA que podría generar eficiencias significativas, ahorrando tiempo y reduciendo costos. Pero OpenClaw y tecnologías similares conllevan riesgos de seguridad bien documentados.

Para que OpenClaw haga lo que hace, necesita tu permiso para acceder a datos, incluidos correos electrónicos y otros documentos que podrían contener información confidencial, así como la autoridad para tomar decisiones importantes, como gastar dinero. Esa autoridad para actuar, combinada con la exposición documentada a amenazas como la «inyección de instrucciones» —entrada maliciosa que puede manipular a los agentes de IA—, ha hecho que algunos se refieran a OpenClaw como «inseguro por defecto». Aunque los agentes de IA como OpenClaw deben enfrentarse a una serie de posibles desafíos de seguridad, la inyección de instrucciones es una amenaza de seguridad de IA singularmente problemática y cada vez más común.

La inyección de instrucciones (prompt injection) ocurre cuando un actor malintencionado oculta instrucciones dentro de un texto que tu agente de IA va a leer; puede ser en una página web, un mensaje, un PDF o cualquier otra cosa que encuentre. Sin las medidas de seguridad adecuadas, estas directivas malintencionadas pueden engañar a tu agente para que deje de lado las instrucciones que programaste originalmente y, en su lugar, haga lo que el actor de amenazas desea. Este es un riesgo significativo, ya que la capacidad de escalar el despliegue de agentes de manera efectiva con diversos casos de uso —desde mejorar la forma en que combatimos el fraude hasta comprar un nuevo par de zapatos— depende de que esos agentes interactúen rápidamente con datos disponibles públicamente y tomen decisiones al respecto.

La inyección de prompts tiene implicaciones significativas —no solo para el uso de agentes de IA en general, sino para el comercio agéntico en específico. El peligro de que agentes de IA semiautónomos o totalmente autónomos sean controlados por actores malintencionados, permitiéndoles redirigir y robar sumas significativas de dinero, es una amenaza real. Si los usuarios no pueden confiar en que un agente comprenda completamente su intención, respete sus limitaciones y opere de forma segura, la gente no lo usará. Es por esto que Mastercard ha trabajado para construir un marco de trabajo para el comercio agéntico que está diseñado para ayudar a asegurar que este nuevo ecosistema pueda ser adoptado de una manera segura y confiable.

Aunque las amenazas son reales, también sabemos cómo detenerlas. Existen técnicas que pueden ayudar a combatir la inyección de prompts y otras amenazas de seguridad de la IA, incluyendo la revisión y eliminación de entradas maliciosas antes de que un agente las lea y actúe sobre ellas, limitando los sistemas y datos a los que un agente puede acceder, y auditando las actividades de los agentes después del hecho para analizar e identificar comportamientos anómalos. 

Mastercard ha sido constantemente un líder en el desarrollo y uso de la IA de manera responsable y segura, con sólidos principios de datos y tecnología, así como una función de gobernanza de IA líder a nivel mundial. Sin embargo, no es suficiente que las empresas individuales implementen medidas de seguridad de IA. Sin importar cuán robusto sea, un conjunto de medidas de seguridad implementadas de manera desigual en todo nuestro ecosistema digital no resolverá este problema.

Desarrollar una resiliencia y confianza reales en el ecosistema agéntico depende de la adopción generalizada de técnicas de seguridad y mejores prácticas comunes. Para lograrlo, necesitamos desarrollar y apoyar estándares de seguridad de IA ampliamente reconocidos y armonizados a nivel mundial. Estos estándares pueden ayudar a definir una arquitectura de seguridad común, creando una base estable y resiliente donde los agentes de IA puedan hacer de forma segura todo, desde realizar compras hasta monitorear amenazas de seguridad a la infraestructura crítica.

Organizaciones influyentes de todo el mundo compiten por desarrollar esos estándares. En Estados Unidos, el National Institute of Standards and Technology, bajo el Departamento de Comercio, ha iniciado esfuerzos para recopilar aportaciones de gran alcance sobre estándares de seguridad para agentes de IA.  En Singapur, la Infocomm Media Development Authority ya ha propuesto un marco de gobernanza modelo para la IA agéntica, que describe un enfoque de sentido común, incluyendo mejores prácticas para la seguridad de los agentes de IA.

Aunque existen riesgos al utilizar esta tecnología, creemos que las siguientes tres recomendaciones son clave a medida que damos los próximos pasos en la construcción de un ecosistema de agentes seguro y protegido.

Primero, las organizaciones deben priorizar la adopción e implementación de mejores prácticas para asegurar el uso de agentes de IA al principio del ciclo de vida del desarrollo y despliegue de productos.

A continuación, las organizaciones deben monitorear continuamente a esos agentes para asegurarse de que puedan identificar y corregir cualquier acción o actividad que sea fuera de lo común.

Por último, el ecosistema más amplio debe apoyar el desarrollo y la adopción de estándares globales para la seguridad de la IA para garantizar que todos puedan recurrir a estándares comunes para construir una arquitectura de seguridad compartida para un futuro agente seguro.

Implementar con éxito estas salvaguardas y apoyar el desarrollo de estándares globales puede garantizar que millones de personas y empresas puedan beneficiarse de las nuevas tecnologías agénticas mientras evitan los posibles riesgos de seguridad.