La Inteligencia Artificial (IA) es una tecnología típica de doble uso, en la que los actores maliciosos y los innovadores intentan constantemente superarse mutuamente. Es una situación común con las tecnologías utilizadas para preparar inteligencia estratégica y apoyar la toma de decisiones en áreas críticas. Los actores maliciosos están aprendiendo a hacer más eficientes sus ataques utilizando esta tecnología para encontrar y explotar vulnerabilidades en los sistemas de TIC. Dando un paso más para aclarar esta afirmación inicial: con la ayuda de la IA, los actores maliciosos pueden introducir nuevas capacidades que pueden prolongar o incluso ampliar las prácticas de ciberamenazas que ya existen desde hace tiempo. Con la IA, estas capacidades se automatizan gradualmente y se hacen más difíciles de detectar. Este estudio explora algunas de estas capacidades desde una perspectiva de investigación. En este estudio, se han considerado dos dimensiones de la IA: (a) garantizar una IA segura y digna de confianza e impedir su uso malintencionado y (b) el uso de la IA en ciberseguridad. Los casos de uso de la IA en ciberseguridad son numerosos y van en aumento. Enumerarlos exhaustivamente va más allá del alcance de este estudio, debido que la investigación en este ámbito está en constante evolución. Sin embargo, se presentan ejemplos de algunos de estos casos de uso a lo largo del informe para explicar mejor los esfuerzos de investigación en curso en esta tecnología y explorar áreas en las que es necesario seguir investigando. El objetivo de este estudio es identificar las necesidades de investigación sobre la IA para la ciberseguridad y sobre la seguridad de la IA. El aprendizaje automático es, con diferencia, el campo más popular de la IA. Se utiliza en ciberseguridad de diversas maneras. El aprendizaje automático implica el desarrollo de algoritmos y modelos estadísticos que permiten a los sistemas informáticos aprender de la experiencia y mejorar sin tener que ser programados explícitamente.

El informe comienza analizando el impacto creciente de la IA en la sociedad y la economía, y cómo está transformando diversos sectores, incluida la ciberseguridad. Destaca que, si bien la IA puede mejorar la eficiencia y la precisión en la detección y respuesta a amenazas cibernéticas, también introduce nuevos desafíos y vulnerabilidades. A continuación, el informe examina las áreas específicas de aplicación de la IA en la ciberseguridad, como la detección de intrusiones, la gestión de incidentes, la autenticación y el análisis de comportamiento malicioso. Se describen las ventajas y desventajas de utilizar la IA en cada una de estas áreas, así como los desafíos de seguridad y privacidad asociados. El informe también analiza las vulnerabilidades y los riesgos de ciberseguridad que pueden surgir en el desarrollo y despliegue de sistemas de IA. Estos incluyen ataques dirigidos a los modelos de IA, manipulación de datos de entrenamiento, adversarios inteligentes y sesgos algorítmicos. Se destacan las preocupaciones sobre la transparencia y la explicabilidad de los algoritmos de IA, así como la necesidad de salvaguardar la privacidad de los datos utilizados en el entrenamiento de los modelos. Además, examina los aspectos éticos y legales relacionados con la IA y la ciberseguridad, como la responsabilidad algorítmica, la privacidad, la protección de datos y la equidad. Se resalta la importancia de un enfoque ético en el desarrollo y uso de la IA en el ámbito de la ciberseguridad. El informe concluye con una serie de recomendaciones para abordar los desafíos identificados. Estas incluyen la promoción de la colaboración entre investigadores y profesionales de la ciberseguridad, el desarrollo de marcos de evaluación de seguridad y pruebas de penetración específicos para la IA, la transparencia en el uso de la IA en la ciberseguridad y la promoción de la conciencia y la capacitación en ética de la IA. En resumen, examina la convergencia entre la IA y la ciberseguridad, identificando los desafíos y oportunidades asociados. Proporciona una visión integral de los riesgos de ciberseguridad y los aspectos éticos relacionados con la IA en el ámbito de la seguridad digital, y ofrece recomendaciones para garantizar un enfoque seguro y ético en esta área en constante evolución.

Para leer más ingrese a:

https://www.enisa.europa.eu/publications/artificial-intelligence-and-cybersecurity-research

https://www.enisa.europa.eu/publications/artificial-intelligence-and-cybersecurity-research/@@download/fullReport