La integración de la inteligencia artificial en los sistemas de telecomunicaciones de próxima generación ha dejado de ser una opción deseable para convertirse en un requisito fundacional del diseño de redes. A medida que las arquitecturas de red evolucionan hacia modelos nativos en inteligencia artificial, la gestión de la complejidad del tráfico en 5G y 6G exige sistemas capaces de tomar decisiones autónomas con una latencia mínima. No obstante, esta dependencia introduce paradojas significativas relacionadas con la seguridad y la transparencia, puesto que la naturaleza de «caja negra» de muchos algoritmos puede ocultar sesgos o vulnerabilidades ante manipulaciones externas. Por tal motivo, resulta indispensable transitar desde un enfoque centrado puramente en el rendimiento métrico hacia un marco holístico de confiabilidad que abarque la seguridad, la ética y la fiabilidad técnica por diseño. Este compromiso con la confianza no solo busca el cumplimiento de normativas estrictas como la Ley de IA de la Unión Europea, sino que pretende ganar la confianza del mercado y de los suscriptores finales.

En este sentido, la transparencia se erige como un componente sustancial para la adopción de la inteligencia artificial en redes vivas, apoyándose en técnicas de explicabilidad que permitan comprender la lógica interna de las decisiones automatizadas. Estas herramientas ofrecen a los desarrolladores y operadores una ventana para verificar la corrección de los modelos, facilitando la identificación de casos atípicos y la realización de análisis de causa raíz ante fallos del sistema. De este modo, la explicabilidad puede aplicarse tanto a nivel de componente individual como a nivel de sistema completo, asegurando que todo el flujo de datos, desde la entrada hasta el resultado final, sea trazable y coherente con las expectativas de operación. Por ejemplo, en el aseguramiento de porciones de red o «network slicing«, las técnicas atributivas permiten predecir posibles violaciones de los acuerdos de nivel de servicio y resolverlas de manera proactiva, garantizando la estabilidad de las comunicaciones críticas. Prosiguiendo con esta idea, el uso de modelos de lenguaje de gran escala para traducir salidas técnicas complejas en explicaciones en lenguaje natural facilita la interacción entre los supervisores humanos y los agentes inteligentes.

Por otro lado, la robustez y la seguridad de estos sistemas enfrentan amenazas crecientes que evolucionan a la par de la sofisticación de la tecnología. Los modelos tradicionales de aprendizaje automático son susceptibles a ataques de envenenamiento de datos, donde actores malintencionados introducen sesgos deliberados, o a ejemplos adversarios que provocan salidas incorrectas mediante perturbaciones casi indetectables. Al mismo tiempo, la aparición de la inteligencia artificial agentica, capaz de razonar y actuar de manera autónoma en el mundo real, introduce riesgos adicionales relacionados con las «alucinaciones» y la inyección de instrucciones no autorizadas o «prompt injection«. Debido a que estos sistemas pueden operar a velocidades que superan la percepción humana, el diseño de salvaguardas algorítmicas deterministas resulta vital para constreñir las acciones de los agentes dentro de límites seguros. La gestión de la privacidad también adquiere una dimensión crítica, exigiendo marcos de gobernanza de datos robustos que protejan la información de identificación personal y eviten la fuga de datos sensibles durante el entrenamiento o la inferencia de los modelos.

Para concluir, el futuro de las telecomunicaciones autónomas depende estrictamente de la capacidad de construir un ecosistema digital donde la inteligencia artificial sea intrínsecamente confiable en todo su ciclo de vida. Adoptar una postura de «confianza por diseño» implica aplicar análisis de riesgo exhaustivos desde las fases más tempranas del desarrollo, integrando pruebas de invariancia y entrenamiento adversario para mejorar la resistencia del sistema. Así mismo, el mantenimiento de esquemas de «humano en el bucle» asegura que las personas retengan la autoridad final sobre las decisiones de alto impacto, proporcionando un nivel de supervisión necesario en entornos donde los errores pueden tener consecuencias drásticas. Por consiguiente, los desarrolladores y proveedores de servicios deben colaborar en la creación de estándares globales y códigos de práctica que reflejen los matices de la inteligencia artificial moderna, permitiendo que la innovación florezca en un entorno seguro y predecible. Solo mediante este enfoque multidimensional se logrará que las redes 5G y 6G alcancen su máximo potencial, ofreciendo características sin precedentes con una integridad y fiabilidad que las haga merecedoras de la confianza pública universal.

Para leer más ingrese a:

https://www.ericsson.com/en/reports-and-papers/white-papers/trustworthy-ai-for-telecom-systems

https://www.ericsson.com/49ddaf/assets/local/reports-papers/white-papers/2026/trustworthy-ai-for-telecom-systems.pdf