Impacto actual del uso de IA en el panorama de amenazas
La introducción del uso de IA en las organizaciones transforma su exposición al riesgo, introduciendo vectores que no existían en los sistemas tradicionales, los cuales requieren un enfoque distinto de gobierno, control y supervisión. En este escenario, el uso de IA reduce la capacidad de las organizaciones para controlar y validar la información con la que trabaja o la que expone a terceros, los detalles técnicos o estratégicos sobre los que se toman decisiones y el perímetro de seguridad. El riesgo se materializa cuando estos elementos derivan en acciones concretas, especialmente en entornos automatizados o con integración con sistemas críticos.
El riesgo no es sólo técnico, sino que deriva de una combinación del uso de IA con datos, procesos y automatizaciones, especialmente si esta va acompañada de una falta de pautas de supervisión y gobernanza. En este sentido, los riesgos detectados derivan de tres cambios estructurales que introduce el uso de IA:
› Nuevos puntos de interacción: La IA incorpora información de múltiples fuentes externas, lo que puede traducirse en que contenido no controlado opere como instrucción dentro de procesos internos.
› Sistemas con comportamiento impredecible: Característica intrínseca de los LLM, que interpretan contexto de forma variable, priorizan instrucciones de manera implícita y pueden alucinar o producir respuestas plausibles pero incorrectas.
› Ampliación del perímetro: la integración de IA en entornos críticos extiende el perímetro operativo hacia proveedores, conectores y servicios externos, incrementando el alcance sobre el que puede actuar sin control directo de la organización.
Esto es solo un pequeño avance del informe «Impacto actual del uso de IA en el panorama de amenazas» elaborado por nuestro equipo de Ciberinteligencia.
Si quieres conocer las 10 amenazas críticas vinculadas al uso de tecnologías de IA por parte de actores maliciosos y ejemplos de modus operandi concretos que ya se están viendo favorecidos, descarga el informe completo: