La agencia humana y los requisitos de supervisión garantizan que los humanos puedan intervenir siempre en los sistemas controlados por IA antes de que puedan verse afectados aspectos como los derechos fundamentales y la seguridad, es decir, antes de que puedan suponer un daño. La aplicación de estos requisitos implica tener a «seres humanos en el bucle», cuya dificultad depende de la escala de tiempo de la decisión y de la criticidad del sistema. A veces, la IA opera en escalas de tiempo demasiado rápidas para la intervención humana, como la optimización de las operaciones de radio en una estación base. En telecomunicaciones, estos usos no tienen un impacto directo en los derechos y la seguridad de las personas. Sin embargo, pueden tener un impacto dramático en las operaciones de la red, que posteriormente pueden afectar a los seres humanos, por lo que necesitan una evaluación cuidadosa. Implementar la agencia y la supervisión humanas en las operaciones de red asistidas por IA requiere investigación de usuarios, diseño de funciones del producto y pruebas de usuarios para garantizar que los ingenieros de operaciones de red puedan detectar e intervenir cuando sea necesario. El diseño de la interacción hombre-máquina debe ajustarse a los procesos de operación de red existentes, basarse en las interfaces existentes y proporcionar información procesable a los usuarios. La interfaz para la intervención y supervisión humana puede variar en función del caso de uso y de los usuarios. Puede ser una GUI, una CLI, una API basada en Rest o incluso una interfaz física (por ejemplo, una luz). Por ejemplo, un sistema de IA que detecta y predice la congestión de toda la red puede utilizar una interfaz gráfica integrada en un cuadro de mandos utilizado para el diseño y las operaciones habituales de la red. El sistema también puede enviar alertas si el desempeño de la IA se deteriora (por ejemplo, informando de demasiadas congestiones de red falsas) al centro de operaciones de red (NOC). Las alertas deben incluir todo lo que necesita el ingeniero del NOC, incluidos los motivos del problema, las posibles causas subyacentes y las sugerencias de solución.

Miles de millones de personas confían y dependen de los modernos sistemas de telecomunicaciones para satisfacer sus necesidades y mejorar su calidad de vida. A medida que estos sistemas adoptan nuevas tecnologías, es importante mantener la confianza comprendiendo y abordando los nuevos riesgos. La inteligencia artificial (IA) difiere del software tradicional en su construcción y funcionamiento y puede introducir riesgos nuevos y variados, que exigen nuevas contramedidas y barreras de protección. Por ejemplo, la gran cantidad de datos utilizados para el entrenamiento de la IA plantea la posibilidad de riesgos para la privacidad. Los procedimientos de desarrollo deben garantizar que los modelos de IA aprenden lo que se pretende. El funcionamiento del modelo
El funcionamiento del modelo debe comprenderse a fondo, por ejemplo, utilizando técnicas de explicabilidad. En resumen, para mantener la fiabilidad del sistema en su conjunto, la propia IA debe ser fiable: es decir, debe funcionar según lo previsto y no causar daños físicos ni éticos. Gobiernos, empresas y organismos de normalización de todo el mundo están tomando nota de estos hechos y creando requisitos relativos a la confiabilidad de los sistemas de IA.

El informe comienza destacando el crecimiento y la importancia de la IA en el mundo digital actual. Se resalta cómo la IA tiene el potencial de transformar varios aspectos de nuestras vidas, desde la atención médica y la educación hasta el transporte y las comunicaciones. A continuación, se exploran los desafíos y las preocupaciones relacionadas con la adopción de la IA, como la privacidad de los datos, la ética en el uso de la IA y la transparencia en los algoritmos utilizados. Se discute la importancia de abordar estos desafíos para garantizar una IA confiable y responsable. El informe también analiza los principios y las prácticas necesarias para construir una IA confiable. Se destacan elementos como la transparencia y la explicabilidad de los algoritmos, la protección de la privacidad y la seguridad de los datos, la equidad y la no discriminación, y la rendición de cuentas en el desarrollo y la implementación de la IA. Además, se presentan ejemplos y casos de uso de IA confiable en diferentes sectores, como la atención médica, la movilidad y la gestión de redes. Se discuten los beneficios y los desafíos específicos asociados con la aplicación de la IA en cada sector. En conclusión, el informe destaca la importancia de abordar los desafíos y las preocupaciones relacionadas con la adopción de la IA para garantizar una implementación responsable y confiable. Proporciona principios y prácticas clave para construir una IA confiable y destaca la necesidad de una colaboración entre los diferentes actores, incluyendo a los proveedores de tecnología, los reguladores y la sociedad en general, para garantizar el desarrollo y la implementación ética de la IA en beneficio de todos.

Para leer más ingrese a:

https://www.ericsson.com/en/reports-and-papers/white-papers/trustworthy-ai

https://www.ericsson.com/49ed53/assets/local/reports-papers/white-papers/trustworthy-ai.pdf