Este informe sobre IA del NIST desarrolla una taxonomía de conceptos y define la terminología en el campo del aprendizaje automático adversarial (AML). La taxonomía se basa en un estudio de la literatura sobre AML y se organiza en una jerarquía conceptual que incluye los tipos clave de métodos de ML y la etapa del ciclo de vida del ataque, las metas y objetivos del atacante, y las capacidades del atacante y el conocimiento del proceso de aprendizaje. El informe también proporciona los métodos correspondientes para mitigar y gestionar las consecuencias de los ataques y señala los retos abiertos pertinentes a tener en cuenta en el ciclo de vida de los sistemas de IA. La terminología utilizada en el informe es coherente con la bibliografía sobre AML y se complementa con un glosario que define términos clave asociados a la seguridad de los sistemas de IA y que pretende ayudar a los lectores no expertos. En conjunto, la taxonomía y la terminología pretenden servir de base a otras normas y futuras guías prácticas para evaluar y gestionar la seguridad de los sistemas de IA, estableciendo un lenguaje y una comprensión comunes del panorama de la lucha contra el blanqueo de capitales, en rápida evolución. El enfoque basado en datos del ML introduce retos adicionales de seguridad y privacidad en diferentes fases de las operaciones de ML, además de las amenazas clásicas de seguridad y privacidad a las que se enfrentan la mayoría de los sistemas operativos. Estos retos de seguridad y privacidad incluyen la posibilidad de manipulación adversaria de los datos de entrenamiento, la explotación adversaria de las vulnerabilidades del modelo para afectar negativamente al rendimiento de la clasificación y regresión del ML, e incluso manipulaciones maliciosas, modificaciones o la simple interacción con los modelos para exfiltrar información sensible sobre las personas representadas en los datos o sobre el propio modelo. Estos ataques se han demostrado en condiciones reales, y su sofisticación e impacto potencial no han dejado de aumentar. La AML se ocupa de estudiar las capacidades de los atacantes y sus objetivos, así como del diseño de métodos de ataque que exploten las vulnerabilidades del ML durante la fase de desarrollo, formación y despliegue del ciclo de vida del ML. La AML también se ocupa del diseño de algoritmos de ML que puedan resistir estos retos de seguridad y privacidad.  

Para leer más ingrese a:

https://csrc.nist.gov/publications/detail/white-paper/2023/03/08/adversarial-machine-learning-taxonomy-and-terminology/draft  

https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.ipd.pdf