La Ley de Servicios Digitales (DSL) de la Unión Europea obliga a todos los servicios intermediarios a actuar contra los contenidos ilícitos cuando reciban una orden de una autoridad judicial o administrativa. Este requisito puede considerarse un detalle adicional que refuerza la expectativa de más de dos décadas, establecida en la Directiva sobre Comercio Electrónico, de que los intermediarios actúen contra los contenidos ilegales que se les señalen. Una innovación significativa de la DSA es que también se exige a las plataformas en línea y a los motores de búsqueda muy grandes (VLOP y VLOSE) designados que evalúen y mitiguen el riesgo sistémico de la difusión de contenidos ilegales a través de sus servicios. Como se ha argumentado en informes anteriores del CERRE, esto implica examinar las relaciones e interacciones dentro de ecosistemas más amplios, y no limitarse solo a evaluar la rapidez y exactitud de las retiradas en respuesta a las denuncias. Ahora que los reguladores, investigadores, la sociedad civil y el público en general podrán ver las versiones públicas de los primeros intentos de evaluación del riesgo sistémico por parte de los proveedores de VLOP y VLOSE, el presente documento temático tiene como objetivo contribuir a la evaluación del enfoque de gestión del riesgo sistémico de la DSA, en relación con el riesgo de difusión de contenidos ilícitos.
Dado que la DSA define los contenidos ilícitos de manera amplia, este documento se centra en el caso específico de los contenidos terroristas, con el fin de realizar dos aportaciones. En primer lugar, propone puntos de referencia para evaluar la mitigación del riesgo, específicos para los contenidos terroristas. En segundo lugar, sugiere lecciones que podrían extraerse de los esfuerzos para prevenir la difusión de contenidos terroristas y que son relevantes para el desafío más amplio de los contenidos ilegales. Los contenidos terroristas revisten un interés particular porque también están cubiertos por la legislación específica de la UE en materia de daños, el Reglamento 2021 relativo a la lucha contra la difusión de contenidos terroristas en línea (TERREG), y por diversas iniciativas transnacionales destinadas a combatirlos. Los daños potenciales de la difusión de contenidos terroristas, identificados en el TERREG, se dividen en dos categorías. La primera incluye el potencial de radicalización de las personas, la incitación a la comisión de actos terroristas, las amenazas a la seguridad pública e incluso la pérdida de vidas humanas. La segunda categoría de daños potenciales reconocida en el TERREG es la vulneración de los derechos fundamentales, especialmente los derechos de expresión e información, como resultado de las medidas adoptadas para combatir los contenidos terroristas. El énfasis de la DSA en la proporcionalidad y sus múltiples referencias a los derechos fundamentales en relación con el tratamiento de los contenidos ilegales también reflejan esta doble comprensión de los daños que deben evitarse.
Las propuestas presentadas en este documento se basan en un examen de la DSA, el TERREG, otros documentos de la UE sobre la cuestión de los contenidos terroristas, así como de la ONU, la OSCE y el G20, informes y documentos de diversas iniciativas y organizaciones de la sociedad civil, literatura académica, y entrevistas con expertos en los esfuerzos para combatir los contenidos terroristas y representantes de la sociedad civil. El documento expone, en primer lugar, algunas definiciones clave y cuestiones de definición, y a continuación describe los actores y las vulnerabilidades dentro del ecosistema integrado de estos actores. Posteriormente, sugiere cuatro puntos de referencia para evaluar la gestión del riesgo sistémico de la difusión de contenidos terroristas en dos ámbitos: la mitigación interna y una colaboración más amplia. Propone criterios de referencia sobre la exposición de los contenidos y sobre la protección de los derechos fundamentales en relación con las medidas adoptadas para mitigar la difusión de contenidos terroristas en sus servicios. También sugiere dos criterios para evaluar el compromiso de cada servicio con la colaboración y la contribución a la mitigación en el ecosistema más amplio.
El documento examina algunas métricas y medidas que podrían utilizarse para evaluar si se están cumpliendo estos puntos de referencia, identificando lagunas en los datos de notificación existentes. Pide una normalización más matizada, una mayor atención a las medidas de precisión y una mayor transparencia sobre las funciones de los distintos agentes. Con las versiones públicas de las primeras evaluaciones de riesgo sistémico y los informes de auditoría previstos para antes de finales de 2024, el documento sugiere cinco cuestiones específicas que deberían ser examinadas en los informes de riesgo sistémico para permitir la evaluación con respecto a los puntos de referencia propuestos para combatir el contenido terrorista. Sostiene que las pruebas de los VLOP y los VLOSE deberán combinarse con las pruebas de los informes de los servicios más pequeños para evaluar a fondo la mitigación del riesgo sistémico de difusión de contenidos terroristas. La definición de los delitos de terrorismo ha sido criticada por ser problemática, dado que incluye actos que podrían llevarse a cabo con fines distintos al terrorismo, e incluso con fines legítimos en algunos casos, como obligar a un gobierno a abstenerse de realizar un acto. Cuando las personas son acusadas de delitos de terrorismo, un tribunal decide si su acto entra en esa categoría, sopesando la libertad de expresión y otros derechos. Sin embargo, la definición de contenido terrorista se encuentra en un Reglamento de la UE que faculta a las autoridades de los Estados miembros con un mecanismo administrativo, otorgándoles la facultad de exigir la retirada de contenidos en el plazo de una hora, sin necesidad de juicio o equivalente.
Estas autoridades competentes deciden qué contenidos reúnen los requisitos para una orden de retirada, y los servicios digitales deciden, en el contexto de las medidas específicas que adoptan para impedir la difusión, si los servicios están expuestos a contenido terrorista. Existen mecanismos de recurso proscritos tanto en el TERREG como en la DSA, pero se trata de procesos no públicos para recurrir decisiones individuales sobre contenidos. Esto plantea interrogantes sobre quién traza las líneas divisorias entre los contenidos ilegales y los que el sector denomina «fronterizos», así como qué tipo de supervisión existe sobre cómo se trazan dichas líneas. El informe aboga por parámetros de mitigación interna que tengan en cuenta tanto la exposición de los usuarios a los contenidos como la protección de los derechos fundamentales. Esto va más allá de los objetivos básicos de reaccionar ante las órdenes de retirada y actuar sobre los contenidos identificados. Es necesario que cada proveedor de VLOP o VLOSE examine a fondo cómo se utilizan sus servicios y qué funcionalidades los hacen atractivos para los agentes vinculados al terrorismo, incluidas las conexiones con otros servicios. Se requieren objetivos más matizados o expectativas específicas para determinadas funcionalidades o interconexiones, como con las plataformas de mensajería privada o de juegos. Al mismo tiempo, se necesitan debates integradores que reúnan a proveedores de servicios, diversos agentes centrados en la prevención, expertos en derechos fundamentales y grupos afectados por las medidas de mitigación, sobre las definiciones y los límites de los contenidos límite, y sobre las relaciones con las fuerzas de seguridad y los servicios de seguridad del Estado, a fin de garantizar la protección de los derechos fundamentales. También se argumentó que la gestión del riesgo sistémico en este ámbito debería evaluarse en función de parámetros de colaboración y contribución a la mitigación de la difusión de contenidos terroristas en el ecosistema más amplio.
La lucha contra la difusión de contenidos terroristas, y probablemente contra la mayoría de los tipos de contenidos ilícitos, requiere la cooperación entre los servicios y con otros agentes, como las fuerzas de seguridad y diversos tipos de señalizadores de terceros. Para ello son fundamentales el intercambio de conocimientos, la puesta en común de recursos y el desarrollo de perspectivas, todo ello dentro de los límites permitidos por las normas de protección de datos. En relación con los contenidos terroristas, hubo algunos buenos ejemplos de cooperación. Sin embargo, la investigación detectó inestabilidad en los recursos de los servicios más pequeños e intransparencia sobre las funciones de los diversos actores, especialmente las fuerzas de seguridad y los proveedores comerciales de recursos de moderación de contenidos. Varias de las enseñanzas extraídas de este examen de la cuestión de los contenidos terroristas son aplicables a esfuerzos más amplios en materia de contenidos ilícitos, incluida la necesidad de equilibrar los objetivos de eliminación o prevención de la exposición con los objetivos en materia de derechos fundamentales, y la importancia de la colaboración y el intercambio de conocimientos. A menudo se producen solapamientos entre el contenido terrorista y otras categorías de contenido ilegal, y el contenido fronterizo es una zona gris que abarca múltiples categorías. Las fuerzas del orden y otras autoridades también participan en la lucha contra los distintos tipos de contenidos ilícitos. Sobre todo, el caso de los contenidos terroristas indica que un enfoque eficaz para gestionar el riesgo sistémico de la difusión de contenidos ilegales requiere la participación estructurada de varios conjuntos de actores que se solapan, y el desarrollo o refuerzo de mecanismos de coordinación y comunicación entre estos actores. El presente documento formula tres recomendaciones generalizables para evitar la duplicación entre los diversos tipos de contenidos ilícitos y garantizar una protección adecuada de los derechos fundamentales.
Para leer más ingrese a:
https://cerre.eu/wp-content/uploads/2024/11/Issue-paper-Systemic-Risk-of-Terrorist-Content-Final.pdf