Modelos de IA avanzados y ciberseguridad: ¿Cuál va a ser su impacto?
Tabla de contenidos
Las principales entidades financieras están poniendo su foco sobre la relación entre modelos de IA avanzados y ciberseguridad, que será clave en el futuro inmediato
En los últimos días han proliferado las noticias en torno a un tema que va a ser crítico en los próximos años: modelos de IA avanzados y ciberseguridad.
¿Por qué esta cuestión ha captado la atención mediática? A principios de abril, Anthropic hizo público el proyecto Glasswing, en el que participan algunas de las principales compañías tecnológicas estadounidenses (Amazon, Google, Microsoft, NVIDIA…). Estas organizaciones han tenido acceso ya a Claude Mythos Preview, la nueva IA de frontera de la compañía, con el objetivo de poder usarla para detectar vulnerabilidades y parchearlas antes de que esta IA avanzada se haga pública.
Precisamente, la capacidad de los modelos de IA avanzados para detectar vulnerabilidades y desarrollar exploits para explotarlas con éxito se encuentra en el centro del debate sobre modelos de IA avanzados y ciberseguridad.
En la presentación del proyecto Glasswing se afirmó que Mythos ya había sido empleada para identificar miles de vulnerabilidades de día cero, algunas de ellas críticas, en los principales sistemas operativos y navegadores web del mundo.
Unas semanas más tarde, el Banco Central Europeo (BCE) alertó de que los nuevos modelos de IA que están a punto de salir al mercado, como Mythos o ChatGPT 5.5, podrían exponer vulnerabilidades presentes en los sistemas corporativos y, así, facilitar que se produzcan ataques exitosos contra sectores críticos como el financiero.
Pocos días después, el Fondo Monetario Internacional (FMI), también apuntó que los modelos de IA avanzados van a potenciar las técnicas de ciberataque actuales al permitir ejecutarlas de forma automatizada y a la velocidad de la IA. Además, el FMI apunta a que los ciberdelincuentes tienen una ventaja notable con respecto a los equipos y sistemas defensivos de las empresas: gracias al uso de la IA, descubrir y explotar vulnerabilidades puede realizarse con mucha mayor rapidez que la acción de parchearlas y mitigarlas.
Estas noticias han provocado que se haya instalado en el sector de la ciberseguridad y en el conjunto de la opinión pública y el tejido productivo un debate en torno al binomio modelos de IA avanzados y ciberseguridad.
¿Qué son los modelos de IA avanzados, de vanguardia o de frontera?
Básicamente, son la nueva generación de modelos de IA, capaces de razonar de forma extraordinariamente avanzada en contextos complejos y actuar de forma autónoma sin necesidad de que exista supervisión humana constante.
Todo ello es posible porque su capacidad de manejar una inmensa cantidad de datos y realizar cálculos es notablemente superior a la de los anteriores modelos LLM.
De tal forma que, en lo que respecta al binomio modelos de IA avanzados y ciberseguridad, estos modelos son capaces de identificar vulnerabilidades en el software a gran escala y en poco tiempo, facilitar su explotación y fortalecer las técnicas maliciosas a lo largo de toda la Cyber Kill Chain de un ataque, desde el reconocimiento hasta la evasión y ocultación.
De hecho, Palo Alto, una de las compañías que ha tenido acceso a Claude Mythos Preview ha hecho público que tres semanas trabajando con este modelo de IA han sido equivalentes a un año entero de realización de pruebas de pentesting, con una cobertura más amplia.
Mientras que el Instituto de Seguridad de la IA del Reino Unido (AISI) testeó este modelo de IA y concluyó que era capaz de realizar autónomamente ataques en 32 fases contra sistemas vulnerables con mecanismos de defensa débiles. Si bien, el AISI apuntó que no podía afirmar que los modelos de IA avanzados estén capacitados (por ahora) para ejecutar ataques sin intervención humana contra sistemas bien defendidos.
¿Por qué el BCE y el FMI han situado al binomio modelos de IA avanzados y ciberseguridad en el centro del debate público?
Habida cuenta de lo que venimos de señalar, la atención se ha centrado, sobre todo, en el hecho de que los modelos de IA avanzados son capaces de detectar vulnerabilidades presentes en el software que no han sido identificadas durante años por los expertos en ciberseguridad y las herramientas automatizadas.
Así, tanto el BCE como el FMI han puesto el foco en el riesgo que supone para la estabilidad del sistema financiero mundial que los actores maliciosos puedan usar los modelos de IA de vanguardia para identificar y explotar vulnerabilidades de día cero en márgenes de tiempo extremadamente breves.
A lo que debemos sumar el hecho de que el uso de los modelos de IA avanzados rebaja la barrera técnica que deben superar los actores maliciosos para poder realizar ataques lo suficientemente sofisticados y complejos como para tener éxito.
En este sentido, el FMI señala que:
- Los riesgos son sistémicos y los ataques son más peligrosos porque la identificación y explotación de vulnerabilidades puede escalar con rapidez.
- Los riesgos no afectan solo al sector financiero, sino también a otros sectores críticos con unas infraestructuras digitales igual de complejas y esenciales para el conjunto de la sociedad y el tejido productivo como el energético o el de las telecomunicaciones.
- Las organizaciones dependen de un número reducido de proveedores de activos digitales como software, servicios Cloud o modelos de IA. Si se emplean IA de frontera para identificar vulnerabilidades en proveedores de uso masivo, el impacto de un ataque puede ser mayúsculo y extenderse a varios sectores y a múltiples países.
- En lo que respecta al sector financiero, las autoridades públicas y las compañías deben estar preparadas para absorber incidentes de seguridad que pueden afectar a varias organizaciones a la vez sin que ello dañe la confianza en el sistema financiero o causa interrupciones de los servicios de pago o una venta de acciones masiva.
¿En qué sectores será crítica la relación entre modelos de IA avanzados y ciberseguridad?
Como acabamos de señalar, aunque el foco de atención se ha centrado en el sector financiero, por el rol central que juega en nuestras sociedades, el debate sobre modelos de IA avanzados y ciberseguridad se extiende al conjunto de los sectores económicos y, en especial, a los sectores críticos o completamente digitalizados.
En este sentido, el FMI hace hincapié en las administraciones públicas, la energía y las telecomunicaciones, pero podemos ampliar el foco al conjunto de sectores de alta criticidad o críticos a los que hace referencia la directiva NIS2, que busca incrementar su ciberresiliencia. Estamos hablando de ámbitos como la defensa, la industria aeroespacial, los transportes, la sanidad, la gestión del agua o la seguridad.
Por lo tanto, todas las organizaciones públicas y privadas que operan en sectores críticos necesitan adaptar sus estrategias de ciberseguridad al nuevo escenario que abren los modelos de IA avanzados.
Algunos expertos plantean que se va a producir un salto desde el actual escenario en el que los actores maliciosos ya realizan ataques asistidos con IA a una realidad en la que se puedan usar agentes de IA para lanzar ataques simultáneos contra múltiples sistemas y redes sin intervención humana.
¿Pueden los nuevos modelos de IA incrementar el nivel de protección de las empresas?
La relación entre modelos de IA avanzados y ciberseguridad no solo debe ser vista desde una óptica negativa.
De hecho, el FMI no solo alertó de los riesgos a los que se enfrentan las compañías ante el uso por parte de actores maliciosos de los modelos de IA de frontera, sino que puso en valor las posibilidades que se abren a la hora de incrementar la seguridad del software corporativo.
Así, ya es una evidencia que los modelos de IA ayudan a crear código más seguro y a detectar y parchear cualquier vulnerabilidad durante la fase de desarrollo del software.
De tal forma que los modelos de IA de vanguardia pueden contribuir a reducir la ciberexposición de compañías e instituciones.
Además, los modelos de IA avanzados también están llamados a jugar un rol clave en la detección de vulnerabilidades a lo largo del ciclo de vida del software y su mitigación, la prevención de fraudes cada vez más sofisticados gracias a la IA, y la respuesta a incidentes.
Aunque, por ahora, la IA ha potenciado las capacidades ofensivas de una forma más notable que las capacidades defensivas, esta tecnología ya está siendo usada para incrementar la postura de seguridad de las infraestructuras digitales y va a ser decisiva en los próximos años.
Cómo prepararse para la nueva fase de la revolución de la IA: La proactividad y la resiliencia son claves
Si algo podemos tener claro sobre modelos de IA avanzados y ciberseguridad es que nos encontramos ante un cambio de paradigma y que las empresas no pueden adoptar una actitud pasiva.
Las principales entidades financieras y el sector de la ciberseguridad alertan sobre el impacto actual y futuro de la IA en los ciberataques.
Las compañías necesitan contar con estrategias de ciberseguridad proactivas y disponer de servicios de ciberseguridad avanzados:
- Gestión de vulnerabilidades. Que la IA acelere y escale la capacidad de los actores maliciosos para identificar y explotar vulnerabilidades requiere optimizar al máximo la gestión de vulnerabilidades en las empresas para evitar graves incidentes de seguridad. Los sistemas de IA están llamados a ser esenciales, también, a la hora de acelerar los procesos de remediación de debilidades.
- Threat Intelligence. Ante el uso de los modelos de IA de frontera por parte de los actores maliciosos es imprescindible contar con un servicio de inteligencia de amenazas dirigida para hacer una radiografía de los riesgos a los que se enfrenta una organización y, así, fortalecer sus defensas cibernéticas y salvaguardar sus activos y funciones críticos.
- Red Team. De cara a mejorar la ciberresiliencia de las organizaciones y garantizar que tienen una postura de seguridad lo suficientemente robusta, juegan un papel clave los escenarios de Red Team. Expertos en ciberseguridad simulan ataques reales para poner a prueba la resiliencia de una infraestructura y optimizar los mecanismos de monitorización, detección y respuesta ante incidentes de seguridad.
- Servicios MDR. El debate sobre el binomio modelos de IA avanzados y ciberseguridad evidencia que más actores maliciosos podrán lanzar más ataques, más complejos y en menos tiempo. Esto requiere que las organizaciones cuenten con soluciones de detección y respuesta gestionada que busquen amenazas de forma proactiva y puedan responder ante cualquier incidente desde el primer minuto. Emplear un enfoque proactivo y continuo para detectar amenazas es esencial para detectar actividad sospechosa incluso cuando no se ha activado ninguna alerta y, así, poder actuar frente a ella para contenerla y erradicarla antes de que cause graves daños a una compañía.
En definitiva, los actores maliciosos ya están usando sistemas de IA para identificar vulnerabilidades, desarrollar exploits y fortalecer sus técnicas de cara a acceder a las infraestructuras de las compañías, persistir en ellas, realizar movimiento lateral, escalar privilegios y evadir los mecanismos de detección y respuesta.
La llegada de los modelos de IA de frontera aún va a potenciar más las capacidades ofensivas de los ciberdelincuentes. Por lo que las organizaciones deben rediseñar sus estrategias de ciberseguridad poniendo el foco en la proactividad y la mejora de su resiliencia.
El binomio modelos de IA avanzados y ciberseguridad va a marcar los próximos años y va a resultar esencial no solo para las compañías, sino también para las instituciones y el conjunto de la sociedad.