El informe se centra en los sistemas de IA de alto riesgo, cuyos requisitos incluyen niveles adecuados de solidez, precisión y ciberseguridad. El reglamento propuesto exige el uso de normas técnicas durante el diseño y desarrollo de sistemas de IA de alto riesgo para garantizar un nivel coherente y elevado de protección de los intereses públicos, como la salud, la seguridad y los derechos fundamentales. Ya se ha empezado a trabajar en las normas relacionadas con la IA, pero su elaboración lleva mucho tiempo, por lo que lo más probable es que no estén listas antes de la entrada en vigor del reglamento. Hasta entonces, una recopilación de buenas prácticas sería beneficiosa para los interesados en el ecosistema de la IA. La importancia de identificar buenas prácticas de ciberseguridad para la IA, que vayan más allá del LD, también ha sido advertida por la Comisión, que solicitó la asistencia de ENISA para identificar no solo las prácticas de ciberseguridad existentes para la IA, sino también para recopilar información sobre el estado actual de los requisitos de ciberseguridad para la IA a nivel nacional y de la UE, junto con la supervisión y el cumplimiento de estos requisitos por parte de las autoridades nacionales competentes (ANC). En este informe, se presenta un marco escalable para orientar a las ANC y a las partes interesadas en la IA sobre los pasos que deben seguir para proteger sus sistemas, operaciones y procesos de IA utilizando los conocimientos y las mejores prácticas existentes e identificando los elementos que faltan. El marco consta de tres capas (fundamentos de la ciberseguridad, ciberseguridad específica de la IA y ciberseguridad específica del sector para la IA) y tiene como objetivo proporcionar un enfoque paso a paso sobre el seguimiento de buenas prácticas de ciberseguridad con el fin de crear confianza en sus actividades de IA.
Se recopila información a través de una encuesta, basada en el marco presentado en este informe y en los principios fundamentales de la propuesta de Ley sobre Inteligencia Artificial (Ley sobre IA) y el plan coordinado sobre IA de las ANC (específicas de IA o relacionadas con la ciberseguridad). Analiza el estado actual de los requisitos de ciberseguridad y las prácticas de supervisión y aplicación que las ANC han adoptado (o tienen previsto desarrollar) para garantizar que las partes interesadas nacionales en la IA aborden los requisitos de ciberseguridad. Los resultados de la encuesta revelaron que el nivel de preparación de las ANC es bajo y que se necesitan medidas adicionales. El informe también señala los esfuerzos de investigación adicionales necesarios para el desarrollo de estas prácticas adicionales de ciberseguridad de la IA. La principal recomendación es tratar la ciberseguridad de los sistemas de IA como un esfuerzo adicional a las prácticas existentes para la seguridad de las tecnologías de la información y la comunicación (TIC) de las organizaciones. Las prácticas de ciberseguridad existentes deben complementarse con prácticas específicas de la IA, que aborden, entre otras cosas, su naturaleza sociotécnica dinámica. Entre los ejemplos de prácticas adicionales figuran las evaluaciones de riesgo dinámicas y mensurables de las amenazas técnicas (por ejemplo, envenenamiento de datos) y sociales (por ejemplo, sesgo, falta de imparcialidad) de la IA y la gestión continua de riesgos (GR) durante el ciclo de vida del sistema de IA. Es necesario tener en cuenta el entorno operativo (por ejemplo, el sector energético) y el uso (por ejemplo, la supervisión de los contadores inteligentes) del sistema de IA para mitigar de forma realista y precisa las amenazas sectoriales.
En los últimos años, los sistemas de IA y las tecnologías relacionadas (por ejemplo, robots, biometría, cámaras de vigilancia, IoT, drones) se han desplegado y utilizado cada vez más por todos los sectores económicos (por ejemplo, sanidad, energía, telecomunicaciones, financiero) en sus actividades empresariales diarias. Sin embargo, para desplegar todo el potencial empresarial de la IA -y también para servir a los valores europeos y a los derechos democráticos de los europeos- es necesario garantizar un nivel adecuado de ciberseguridad y privacidad en estos sistemas. La UE ya está trabajando en los instrumentos jurídicos de ciberseguridad necesarios para proteger los avances de la IA al servicio de los ciudadanos de la UE y ha invertido mucho en la confiabilidad de la IA. El informe presenta un enfoque multicapa que aborda diferentes aspectos de la ciberseguridad en la IA. En primer lugar, se analiza la capa de gobierno y estrategia, que destaca la importancia de establecer políticas y marcos regulatorios claros para la seguridad de la IA. Se enfatiza la necesidad de una gobernanza adecuada y una asignación clara de responsabilidades para garantizar la protección de los sistemas de IA. Tambien aborda la capa de desarrollo seguro de la IA. Se describen las mejores prácticas para el desarrollo de modelos de IA seguros, incluida la selección adecuada de datos de entrenamiento, el diseño robusto de algoritmos y la evaluación de riesgos durante todo el ciclo de vida del desarrollo. Además, el informe destaca la importancia de la educación y concienciación en la capa de capacitación y colaboración. Se recomienda capacitar a los profesionales de la IA en aspectos de ciberseguridad y fomentar la colaboración entre diferentes actores, incluidos los investigadores, la industria y las organizaciones de ciberseguridad. Por último, se aborda la capa de verificación y validación, que se centra en la evaluación y certificación de la seguridad de los sistemas de IA. El informe destaca la necesidad de realizar pruebas exhaustivas y rigurosas para identificar posibles vulnerabilidades y garantizar la conformidad con los estándares de seguridad establecidos.
Para leer más ingrese a:









