Cabecera blog ciberseguridad

¿Cómo será el futuro de la IA y la ciberseguridad?

La relación entre la IA y la ciberseguridad va a marcar el futuro de la humanidad

La relación entre la IA y la ciberseguridad será esencial para proteger a las compañías y las instituciones frente a ciberataques cada vez más sofisticados y peligrosos

El 11 de mayo de 1997, la supercomputadora Deep Blue II venció a Garri Kaspárov, el campeón del mundo de ajedrez, en la sexta y última partida de un duelo que marcó un antes y un después en la relación entre los seres humanos y la tecnología. Los ingenieros de IBM que desarrollaron Deep Blue II demostraron, por primera vez en la historia, que las máquinas podían ser más inteligentes que una de las mentes humanas más prodigiosas de la historia.

Más de 26 años después, la Inteligencia Artificial y la robotización son piezas clave en numerosos sectores productivos (desde la automoción hasta el sector financiero) y la relación entre la IA y la ciberseguridad está llamada a marcar el futuro inmediato de nuestras sociedades. ¿Por qué?

Por un lado, la digitalización de las empresas y los hogares ha traído consigo que la superficie de ataque al alcance de los ciberdelincuentes es prácticamente infinita. Como consecuencia de ello, los ciberataques no solo crecen en número, sino también en nivel de complejidad e impacto.

Por otro, los sistemas de IA están proliferando y perfeccionándose a marchas forzadas. Su potencial para transformar nuestra forma de vivir, trabajar, hacer negocios o comunicarnos es mayúsculo y está fuera, ya, de toda duda. Cuanto mayor sea su relevancia e implementación en todos los ámbitos de la economía y la sociedad, más plausible será que los delincuentes:

  • Emplean IA para realizar ataques.
  • Pongan en marcha ataques contra los propios sistemas de IA.

A continuación, vamos a repasar el impacto de la Inteligencia Artificial en el terreno de la ciberseguridad y, a partir de ahí, realizar un ejercicio prospectivo y explorar hacia dónde puede evolucionar el futuro de la IA y la ciberseguridad y cuál será su relevancia para las empresas, las administraciones y la sociedad.

1. El auge de los sistemas UEBA

A la hora de abordar la relación entre la IA y la ciberseguridad debemos poner el foco en una solución que combina los dos ámbitos y que ha experimentado un boom en el último lustro. Estamos hablando de los sistemas User and Entity Behavior Analytics (UEBA) que, como su nombre indica, analizan el comportamiento de usuarios y entidades. ¿Con qué fin? Proteger a los sistemas de compañías o instituciones.

¿Cómo funcionan los sistemas UEBA? Usan Machine Learning para analizar grandes volúmenes de datos para analizar el comportamiento de los usuarios, pero también de entidades (como servidores o enrutadores), de cara a establecer cuál es su comportamiento habitual u ordinario a través del modelado.

Una vez que se modelan los comportamientos «normales» y se fijan como los comportamientos de referencia, se emplean las mismas herramientas de Machine Learning y análisis de datos para identificar comportamientos que se desvíen de los habituales y que podrían resultar sospechosos. De tal manera que se puedan optimizar al máximo los mecanismos de detección de eventos que afecten a la ciberseguridad de los activos de una empresa o una institución.

Además, gracias a los sistemas UEBA no solo se pueden detectar amenazas tanto internas como externas, sino que son útiles a la hora de hacer un seguimiento de cualquier evento potencialmente peligroso y facilitan las labores de respuesta ante incidentes de seguridad.

Por todo ello, se han convertido en una herramienta útil para los profesionales que gestionan las capacidades defensivas de las compañías y las instituciones.

2. La IA y la ciberseguridad hoy

Los sistemas UEBA evidencian de una manera gráfica que la ciberseguridad es uno de los ámbitos pioneros en el uso de la Inteligencia Artificial. De hecho, los modelos de IA ya se emplean para optimizar servicios de ciberseguridad fundamentales a la hora de proteger los activos de las empresas:

  • Realización de test de intrusión avanzados
  • Servicios de Red Team
  • Test de ingeniería social
  • Pruebas de seguridad: DAST, SAST, SCA…
  • Gestión de vulnerabilidades
  • Detección de vulnerabilidades emergentes
  • Gestión del riesgo dinámico y priorización de amenazas
  • Servicios de Threat Hunting
  • Respuesta a incidentes

Al igual que resulta innegable que la IA plantea una serie de desafíos a los expertos en ciberseguridad, también resulta evidente que esta tecnología disruptiva puede ser fundamental para el sector.

¿Qué podemos esperar del futuro? Que se desarrollen nuevos sistemas de Inteligencia Artificial más potentes y que permitan a los profesionales de la ciberseguridad optimizar la prevención, mitigación, detección, respuesta y recuperación frente a los incidentes de seguridad. ¿Cómo? Utilizando el conocimiento generado por las IA para diseñar tácticas, técnicas y procedimientos nuevos que permitan a los equipos de seguridad anticiparse a los delincuentes y mejorar la resiliencia de los sistemas de las empresas y las administraciones.

La IA y la ciberseguridad tienen una relación bidireccional y complementaria

3. Aprender nuevas estrategias para ganarle la partida a los malos

¿Cómo fue capaz Deep Blue II de vencer a Kaspárov? Porque los ingenieros de IBM le habían enseñada 700.000 partidas de ajedrez disputadas a lo largo de la historia.

Sin embargo, las Inteligencias Artificiales hoy en día son capaces de ir más allá. No solo se limitan a aprender a partir del conocimiento generado por la humanidad, sino que pueden auto-aprender.

Por ejemplo, Inteligencias Artificiales como Alpha Zero son capaces de aprender estrategias para jugar al ajedrez, pero también a otros juegos similares como el Go, sin necesidad de procesar partidas anteriores. ¿Cómo? Compitiendo contra sí mismas. De tal forma que pueden desarrollar estrategias de juego que:

  • Son capaces de batir las mejores estrategias concebidas por las personas a lo largo de los siglos.
  • Ponen en evidencia las limitaciones creativas de las personas y cuestionan algunos postulados clásicos. Por ejemplo, en el ajedrez o en el Go hay determinadas salidas o jugadas que los expertos han considerado que son erróneas o dan pobres resultados. Y, sin embargo, las IA las han usado con éxito.

3.1. Ser más imaginativos que los delincuentes

¿Cómo se traslada esto a la relación entre la IA y la ciberseguridad? En el futuro próximo, las Inteligencias Artificiales no solo servirán para optimizar las capacidades defensivas de las organizaciones, diseñar y ejecutar servicios de pentesting o poner en marcha escenarios de Red Team, sino que ayudarán a los profesionales de ciberseguridad a pensar estrategias, tácticas, técnicas y procedimientos nuevos, empujando los límites de la imaginación humana.

La relación entre los expertos que protegen a compañías, instituciones y ciudadanía y los ciberdelincuentes que las atacan es un perpetuo juego del gato y el ratón. Cada vez que los profesionales diseñan mecanismos para entorpecer las TTP que emplean los actores maliciosos, estos se ven obligados a modificar sus estrategias.

En este sentido, la relación entre la IA y la ciberseguridad puede ayudar a los equipos defensivos a desarrollar soluciones innovadoras para combatir los ciberataques, forzando a los actores maliciosos a diseñar nuevas metodologías de manera constante, con el coste que ello conlleva.

Al fin y al cabo, hoy en día, los grandes maestros del ajedrez ya no están obsesionados en vencer a las IA, sino en emplearlas para enriquecer su forma de jugar.

En el futuro se podrán enfrentar a IAs para mejorar las capacidades defensivas frente a ciberataques

4. ¿Y si Kaspárov también fuese una máquina? IA vs. IA

Hasta ahora hemos profundizado en la relación entre la IA y la ciberseguridad centrándonos en el desarrollo de modelos que se puedan emplear para prestar los mejores servicios de ciberseguridad y ciberinteligencia, pero debemos abordar otra tendencia que será clave en el futuro de la IA y la ciberseguridad: crear entornos en los que se puedan enfrentar dos sistemas de Inteligencia Artificial entre sí:

  • Una IA defensiva capaz de detectar intrusiones, comportamientos anormales o brechas de seguridad que algún actor hostil pudiera emplear para acceder a información que debería estar fuera de su alcance. Es decir, una IA defensiva, al servicio de los equipos defensivos de las compañías, y que funcionase como un elemento más de la estrategia de seguridad de las organizaciones.
  • Una IA atacante. O lo que es lo mismo, un sistema diseñado para atacar a una compañía, explotar vulnerabilidades, infiltrarse en una organización y pasar desapercibida para la IA defensora. La competencia entre ambas las ayudaría a mejorar su forma de detectar actuaciones maliciosas, en el caso de la defensiva, y a aprender a ser sigilosa y encontrar nuevas técnicas para pasar desapercibida y extenderse por todos los sistemas, en lo relativo a la IA atacante.

Este salto en la relación entre la IA y la ciberseguridad puede ser clave en el futuro próximo y contribuir a que los profesionales y los expertos puedan acometer con éxito los desafíos en materia de seguridad que traen consigo los ciberataques en general, y aquellos que emplean la Inteligencia Artificial para cometer fraudes y alterar el funcionamiento de las empresas y las instituciones, en particular.

5. La IA y la ciberseguridad mañana

Tanto la vertiginosa evolución de las Inteligencias Artificiales como la creciente complejidad de un panorama de ciberamenazas en constante expansión hacen que sea difícil pronosticar cómo evolucionarán ambas disciplinas en los próximos años.

Sin embargo, la Agencia de la Unión Europea para la Ciberseguridad (ENISA) ha elaborado un informe en el que se abordan los principales riesgos en materia de ciberseguridad en lo que resta de década.

La mayoría de amenazas a las que se enfrentarán las empresas y administraciones públicas guardan algún tipo de relación con la Inteligencia Artificial: campañas avanzadas de desinformación con deepfakes, vigilancia digital y auge del autoritarismo gracias al reconocimiento facial, ataques selectivos en los que se emplean datos de los dispositivos inteligentes para crear modelos de comportamiento de las víctimas, ataques híbridos usando algoritmos de Machine Learning

Pero, además, los ataques contra las IA son, también, una de las amenazas más preocupantes del presente y, sobre todo, del futuro inmediato. Sobre todo, si tenemos en cuenta la relevancia creciente de estos sistemas en el funcionamiento de las empresas y en la vida diaria de las personas.

5.1. Vasos comunicantes que se retroalimentan

¿Qué evidencian estas amenazas? Que la relación de la IA y la ciberseguridad es bidireccional y compleja. La Inteligencia Artificial puede servir para que los ciberdelincuentes consigan cumplir sus objetivos criminales y atacar con éxito a compañías, administraciones públicas y ciudadanos. Pero, a su vez, la IA ya está presente en el día a día de los profesionales de ciberseguridad y tiene el potencial para transformar su forma de trabajar para ayudarlos a proteger a las empresas, instituciones y personas.

Asimismo, la relevancia de los sistemas de Inteligencia Artificial los convierte en targets prioritarios para los actores maliciosos. Por lo que los expertos en ciberseguridad están llamados a jugar un papel esencial en la optimización de las defensas de estos sistemas.

En definitiva, los próximos años se producirán cambios de enorme envergadura que transformarán, una vez más, el tejido productivo y los hábitos de vida de las personas. Ante un panorama lleno de incertidumbres, la única certeza que tenemos es que la relación entre la IA y la ciberseguridad va a marcar el devenir del mundo.

Más artículos de la serie IA y ciberseguridad

Este artículo forma parte de una serie de articulos sobre IA y ciberseguridad

  1. ¿Cuáles son los riesgos de seguridad de la IA?
  2. Top 10 de vulnerabilidades en aplicaciones LLM como ChatGPT
  3. Buenas prácticas de ciberseguridad para la IA
  4. Fraudes con Inteligencia Artificial: Nueva tecnología, viejos objetivos
  5. IA, deepfake y la evolución del fraude del CEO
  6. ¿Cómo será el futuro de la IA y la ciberseguridad?