Dada la gran influencia de la inteligencia artificial (IA) en la vida cotidiana de las personas debido al papel clave que desempeña en la transformación digital a través de su capacidad de toma de decisiones automatizada, ENISA pretende concienciar sobre las amenazas a la ciberseguridad y la privacidad relacionadas con diversos escenarios que utilizan inteligencia artificial. ENISA continúa su impulso con un nuevo informe sobre ciberseguridad y privacidad en el diagnóstico médico por imagen, que se apoya en la IA. Se ha realizado un estudio en profundidad del escenario identificando en primer lugar los activos, los actores y sus funciones, los procesos relevantes, los algoritmos de IA utilizados, así como los requisitos en términos de ciberseguridad y privacidad necesarios para ello. Este informe ha identificado las amenazas y vulnerabilidades en materia de ciberseguridad y privacidad que pueden explotarse en el escenario examinado. Aunque la atención se centra en las amenazas y vulnerabilidades relacionadas con el ML, también se han tenido en cuenta consideraciones más amplias sobre la IA. Por último, se definieron los correspondientes controles de ciberseguridad y privacidad que tienen en cuenta el contexto del escenario y el impacto de las amenazas/vulnerabilidades asociadas. Se describen las especificidades de la aplicación de estos controles, incluidas las posibles compensaciones entre ciberseguridad, privacidad y desempeño. Cada control se clasifica como control de ciberseguridad, control de privacidad, o una mezcla de ambos, dependiendo de las amenazas que mitiga y sus impactos asociados (impactos de ciberseguridad, impactos de privacidad, o ambos). Este informe permite evaluar mejor la realidad de que la inteligencia artificial conlleva su propio conjunto de amenazas, lo que, en consecuencia, insiste en la búsqueda de nuevas medidas de seguridad para contrarrestarlas. Por último, cabe señalar que esta guía hace especial hincapié en las cuestiones de privacidad, del mismo modo que en las de ciberseguridad, debido que la privacidad es uno de los retos más importantes a los que se enfrenta la sociedad actual. La seguridad y la privacidad están íntimamente relacionadas, pero ambas son igual de importantes, y debe hacerse un balance específico para cada uso. En consecuencia, como se ve en este informe, los esfuerzos por optimizar la seguridad y la privacidad pueden ir a menudo en retroceso del desempeño del sistema.

El abuso de la Inteligencia Artificial (IA), que se ha desarrollado significativamente en los últimos años, ha sido identificado por ENISA como una de las principales amenazas emergentes. Al ofrecer nuevas oportunidades para resolver problemas de toma de decisiones de forma inteligente y automática, la IA se está aplicando a cada vez más casos empresariales en un número creciente de sectores. Los beneficios asociados son significativos. Sin embargo, el desarrollo de la IA también va acompañado de nuevas amenazas a las que tendrán que enfrentarse los equipos de proyecto. En muchos proyectos, es evidente que estas nuevas amenazas están relacionadas con aspectos de ciberseguridad, además de con la privacidad, especialmente cuando la IA se utiliza para proyectos innovadores en los que tiene lugar el tratamiento de datos personales. Para profundizar en estos sistemas de IA de alto riesgo, ENISA propone este nuevo informe, que analiza los requisitos y medidas de ciberseguridad y privacidad en el uso de la IA en el diagnóstico médico por imagen de la osteoporosis. El informe describe los principios fundamentales del escenario (activos, actores, procesos, etc.), identifica los riesgos de seguridad y privacidad que plantea y, por último, los controles de ciberseguridad y privacidad que contrarrestan los riesgos identificados.

El informe proporciona una serie de recomendaciones para mejorar la ciberseguridad y la privacidad en el diagnóstico de imágenes médicas con IA. Estas recomendaciones incluyen el desarrollo de estándares y marcos de seguridad, la incorporación de medidas de protección de la privacidad en el diseño de los sistemas de IA, la concienciación y formación de los profesionales de la salud, y la colaboración entre los diferentes actores involucrados, como los proveedores de tecnología y los reguladores. En resumen, el informe resalta los beneficios y los desafíos asociados con el uso de la IA en el diagnóstico de imágenes médicas, y proporciona directrices importantes para abordar los problemas de ciberseguridad y privacidad en este campo en constante evolución.

Para leer más ingrese a:

https://www.enisa.europa.eu/publications/cybersecurity-and-privacy-in-ai-medical-imaging-diagnosis

https://www.enisa.europa.eu/publications/cybersecurity-and-privacy-in-ai-medical-imaging-diagnosis/@@download/fullReport