La seguridad en la era de la IA agéntica

El mes pasado, cuando Anthropic anunció por primera vez Claude Mythos, su nuevo modelo de IA generativa para la ciberseguridad, causó mucha preocupación y conversación en la comunidad de ciberseguridad. Se informó que Mythos identificó nuevas vulnerabilidades en todos los principales sistemas operativos y navegadores web. Se consideró demasiado peligroso para su publicación pública.

Si los expertos en seguridad no estaban prestando atención, aquí tenían un claro ejemplo de la nueva era de la seguridad mirándolos directamente.

En medio del auge de la IA en los últimos años, los ciclos de desarrollo tecnológico ahora avanzan mucho más rápido, mientras que lo que está en juego es mucho mayor. Los sistemas financieros, las cadenas de suministro y la infraestructura de ciberseguridad están ahora todos más conectados. Hay miles de millones más de dispositivos conectados. Todas estas dinámicas están creando un campo de batalla de ciberseguridad más amplio y complejo, y provocando un cambio de incidentes aislados a presiones sistémicas.

Más que nunca, los ataques se mueven a velocidad de máquina. Las defensas ahora deben ser igual de rápidas. Las organizaciones deben evolucionar para estar a la altura de este momento centrándose en unas pocas áreas clave.

Las empresas, los gobiernos y las organizaciones sin fines de lucro de todos los tamaños forman parte del ecosistema digital global. Eso significa que debemos rendir cuentas entre nosotros y protegernos mutuamente. No solo es lo correcto, sino que es absolutamente necesario para evitar que un ataque se propague. Una vez que los ciberdelincuentes vulneran los sistemas de cualquier organización, pueden utilizar los datos confidenciales y personales robados para ampliar su ataque.

Las empresas más grandes tienen fácil acceso a herramientas sofisticadas y grandes equipos de ciberseguridad, por lo que pueden responder a las nuevas innovaciones de IA. Las organizaciones más pequeñas no, lo que las deja mucho más vulnerables a los ataques impulsados por IA. Para aquellos que no tienen acceso a herramientas de vanguardia o no pueden costear sus propias defensas, corresponde a los actores más grandes dar un paso al frente y apoyarlos. Ese tipo de enfoque colaborativo es necesario ahora más que nunca.

Mantener a los bots fuera de nuestros sistemas solía ser una parte obvia de cualquier aparato de seguridad. Ahora no es tan simple.

A medida que los agentes de IA llegan a nuestras vidas, las personas darán su consentimiento para que diferentes tipos de agentes operen en su nombre, como agentes de software que completan tareas comerciales y agentes de comercio que realizan compras. Este desarrollo de agentes de comercio autónomos es quizás uno de los cambios más profundos en los pagos de la historia. Los equipos de ciberseguridad deberán ser capaces de identificar la diferencia entre los agentes de IA buenos y los dañinos. Eso es posible a través de nuevos estándares y controles, como Know Your Agent (KYA) para catalogar y rastrear bots, Know Your Comercio (KYM) para clasificar sitios web legítimos de los fraudulentos, e incluso lo que me gusta llamar Know Your Fraudster (KYF): mantener un control sobre los posibles adversarios, analizar las señales de fraude y los datos de inteligencia de amenazas, y responder antes de que sea demasiado tarde.

Gestionar el tráfico de bots es un nuevo elemento crítico del trabajo de seguridad de cara al futuro, pero está lejos de ser el único. Los equipos de ciberseguridad también necesitan trabajar más estrechamente en todas sus organizaciones para reforzar el concepto de «seguro por diseño». Eso significa que prevenimos brechas al identificar vulnerabilidades de software y hardware durante el proceso de codificación y desarrollo, y antes del lanzamiento de los productos. Después de todo, un hacker no puede explotar una vulnerabilidad que no existe.

Demasiadas organizaciones todavía parchean su software manualmente. Mientras tanto, el número de amenazas creíbles está creciendo ahora que los modelos de IA pueden encontrar rápidamente más vulnerabilidades.

Las organizaciones necesitan automatizar más sus sistemas de parches para acelerar este proceso y determinar de manera más eficiente qué amenazas creíbles deben priorizar para la aplicación de parches. Debido a la IA, el tiempo de explotación se ha reducido de días a horas, lo que hace que la necesidad de este cambio sea fundamental.

Más allá de automatizar la aplicación de parches, las organizaciones deberán apoyarse en el uso de inteligencia predictiva impulsada por IA y monitoreo continuo para reaccionar más rápido ante las amenazas.

Las filtraciones son causadas más comúnmente por los mismos tres problemas — credenciales robadas, vulnerabilidades sin parches y excepciones — y ese ha sido el caso durante décadas.

Aunque muchas cosas están cambiando debido a la IA, se siguen necesitando muchos de los mismos procesos básicos de ciberseguridad. Estos incluyen planes sólidos de protección y retención de datos, revisiones de sistemas heredados y la reducción de la deuda técnica. Este es el trabajo poco glamuroso —día tras día— que es necesario para proteger los ecosistemas digitales.

Mythos ha proporcionado a la industria de la ciberseguridad un recordatorio vital de que las dinámicas han cambiado drásticamente. En esta nueva era agéntica, la industria debe pasar de ser reactiva a predictiva —mediante la colaboración, las alertas tempranas y una coordinación más rápida— para mantenerse un paso adelante.