Governing with Artificial Intelligence

Governing with Artificial Intelligence

Cada vez se es más consciente de que, si se utiliza de forma estratégica y responsable, la inteligencia artificial (IA), incluida la IA generativa, tiene el potencial de transformar el funcionamiento de los gobiernos, el diseño de políticas y la prestación de servicios. Los gobiernos desempeñan múltiples funciones en relación con la IA, como facilitadores, financiadores, reguladores, pero también como usuarios y, en algunos casos, como desarrolladores. Aunque el debate mundial sobre la IA ha tendido a centrarse en el papel de los gobiernos como reguladores a la hora de dar forma y respuesta a la aplicación de la IA, se ha prestado menos atención a sus responsabilidades como usuarios de la IA. A medida que los gobiernos aprovechan las oportunidades de la IA para una mejor gobernanza y despliegan soluciones en una amplia gama de áreas políticas, reconocen la necesidad de gobernar la IA en el sector público para prevenir el mal uso y mitigar los riesgos. En este contexto, los países de la OCDE están invirtiendo cada vez más en comprender mejor los sistemas de IA y aprovechar las oportunidades que ofrecen para transformar la maquinaria de la administración pública. El uso responsable de la IA puede mejorar el funcionamiento de las administraciones públicas de varias maneras. Este potencial no se ha explorado ni explotado en su totalidad. Se necesitan más pruebas sobre casos de uso para comprender mejor cómo desarrollar y desplegar con éxito iniciativas de IA, aprendiendo de los éxitos y los fracasos. A pesar de los beneficios potenciales de la IA, también existe una creciente preocupación por los riesgos de un despliegue fragmentado y sin control de la IA en el sector público. Estos riesgos incluyen la amplificación de los prejuicios, la falta de transparencia en el diseño del sistema y las violaciones de la privacidad y la seguridad de los datos, todo lo cual podría conducir a resultados injustos y discriminatorios con profundas implicaciones sociales. El sector público tiene una responsabilidad especial a la hora de desplegar la IA de forma que se minimicen los daños y se dé prioridad al bienestar de las personas y las comunidades, especialmente cuando se utiliza en ámbitos políticos delicados como la aplicación de la ley, el control de la inmigración, las prestaciones sociales y la prevención del fraude. Los gobiernos están trabajando gradualmente para establecer un entorno a lo largo de todo el ciclo político que permita el desarrollo, despliegue y uso seguros y confiables de la IA. Estos esfuerzos comprenden la definición de objetivos estratégicos, la exploración de nuevos acuerdos institucionales, el desarrollo de instrumentos políticos (como normas, códigos, directrices) y nuevos marcos reguladores, y la atracción de las capacidades necesarias para utilizar la IA de forma eficaz y eficiente en el sector público. 

Además, los gobiernos dan cada vez más prioridad a la supervisión de la aplicación y el impacto para fomentar la confianza pública y garantizar la sostenibilidad a largo plazo de las iniciativas actuales. La OCDE apoya a los gobiernos en su esfuerzo por lograr un uso seguro y confiable de la IA en el sector público. El objetivo de este trabajo es guiar a los gobiernos en la formulación de las preguntas pertinentes y en la identificación de los habilitadores y guardarraíles más adecuados que los gobiernos deben tener en cuenta a la hora de optar por aplicar la IA para impulsar la productividad, la capacidad de respuesta y la rendición de cuentas, como impactos deseados. La promoción de un lenguaje común también ayudará a recopilar pruebas, fomentar el aprendizaje entre iguales y mejorar la cooperación que ayudará a los gobiernos a estar preparados para abordar retos comunes. Este documento forma parte de un esfuerzo más amplio por comprender el uso responsable de la IA en el sector público en una serie de funciones gubernamentales clave. Como tal, pretende contribuir en última instancia a la necesidad global de compartir más conocimientos, intercambiar buenas prácticas y entablar un diálogo político estructurado para comprender las implicaciones y dirigir un uso responsable de la IA en el sector público. Más y mejores indicadores y pruebas de la aplicación y el impacto de la IA en los gobiernos ayudarán a garantizar que se utiliza para fines óptimos; y será necesaria la participación de múltiples partes interesadas en todos los sectores políticos y más allá de las fronteras nacionales para explorar colectivamente las opciones políticas a medida que surjan nuevos retos y oportunidades. Mejorar la eficacia de la formulación de políticas, utilizando grandes cantidades de datos para obtener una visión más detallada de las necesidades de los usuarios e identificar patrones. Esto, a su vez, permitiría al gobierno formular políticas más específicas y obtener mejores resultados, orientando mejor el gasto social, las inversiones públicas y los servicios gubernamentales. Por ejemplo, el ayuntamiento de Nimega (Países Bajos) utiliza la IA para contar personas en distintos lugares del centro de la ciudad y controlar el tráfico y la actividad económica. Los resultados del sistema sirven para diseñar políticas más eficaces en ámbitos como la seguridad vial y el apoyo a las empresas. Aumentar la eficiencia de las operaciones internas, automatizando procesos y procedimientos administrativos complejos pero repetitivos para apoyar y facilitar el trabajo productivo de los funcionarios públicos, liberar tiempo de funcionarios cualificados y garantizar la confiabilidad de la prestación continua de servicios públicos. Por ejemplo, el Gobierno de Queensland, en Australia, está utilizando el aprendizaje automático y la visión por ordenador para cartografiar y clasificar automáticamente las características del uso del suelo en imágenes de satélite, reduciendo los costos de cartografiar el uso del suelo y mejorando la respuesta ante catástrofes naturales y de bioseguridad. 

Capacidad de respuesta, mejorando la capacidad de los gobiernos para anticiparse a las tendencias de la sociedad y a las necesidades de los usuarios con el fin de prestar servicios públicos proactivos, personalizados y centrados en el ser humano. Por ejemplo, durante la pandemia de COVID-19 en Noruega, la Administración de Trabajo y Bienestar Social utilizó una IA conversacional llamada Frida para ayudar a los ciudadanos a acceder a las prestaciones sociales 24 horas al día, 7 días a la semana, resolviendo el 80% de las consultas sin necesidad de la intervención de un funcionario. Esto no sólo mejoró la calidad de las interacciones al proporcionar una asistencia más puntual y específica, lo que fue crucial en circunstancias extremas, sino que también mejoró la calidad del trabajo de los funcionarios al gestionar las solicitudes en horarios no habituales y las consultas periódicas. Rendición de cuentas, mediante el uso de análisis de datos y técnicas de aprendizaje automático para detectar fraudes y riesgos para la integridad del sector público, identificando irregularidades o patrones sospechosos y alertando. Por ejemplo, la IA se aplica cada vez más a la contratación pública, el gasto público y la concesión de ayudas públicas, prestaciones sociales y programas de subvenciones. Por ejemplo, Transport Canada ha puesto a prueba el uso de un algoritmo de evaluación de riesgos para evaluar e identificar la carga potencialmente de alto riesgo antes de que se cargue en los aviones entrantes. Al mismo tiempo, es importante desarrollar, desplegar y utilizar la IA de forma segura y confiable para el interés público. Entre las principales áreas de preocupación se encuentran la defensa de los derechos humanos y civiles, la protección de la privacidad personal, la garantía de la transparencia algorítmica, la rendición de cuentas, el fomento de la «explicabilidad» y la prevención de posibles resultados políticos injustos y sesgados, entre otros. Algunos fracasos significativos de la IA en el sector público han puesto de relieve la necesidad de que los gobiernos evalúen, prueben y supervisen los impactos de la IA en el público. Es importante identificar y gestionar los riesgos para los ciudadanos; considerar cómo los sistemas de IA pueden afectar de manera diferente a hombres, mujeres o comunidades marginadas; garantizar que los beneficios de la IA se distribuyan equitativamente; y mitigar los daños potenciales.

 

El informe analiza el uso de la inteligencia artificial (IA) en el sector público y destaca tanto sus beneficios potenciales como los riesgos asociados. El documento señala que la IA, incluida la IA generativa, tiene el potencial de transformar significativamente la forma en que los gobiernos funcionan, diseñan políticas y prestan servicios. Los gobiernos pueden actuar como facilitadores, financiadores, reguladores, usuarios y, en algunos casos, desarrolladores de IA. El uso responsable de la IA puede mejorar la administración pública en varios aspectos. Primero, puede aumentar la productividad gubernamental mediante operaciones internas más eficientes y políticas públicas más efectivas. Segundo, puede hacer que el diseño y la prestación de políticas y servicios públicos sean más inclusivos y respondan mejor a las necesidades cambiantes de los ciudadanos y comunidades específicas. Tercero, la IA puede fortalecer la rendición de cuentas de los gobiernos al mejorar su capacidad de supervisión y apoyar a las instituciones de control independientes. A pesar de los beneficios potenciales, existen preocupaciones crecientes sobre los riesgos de un despliegue fragmentado y desregulado de la IA en el sector público. Estos riesgos incluyen la amplificación de sesgos, la falta de transparencia en el diseño de sistemas y violaciones de la privacidad y seguridad de los datos, lo que podría llevar a resultados injustos y discriminatorios con profundas implicaciones sociales. El sector público tiene una responsabilidad especial de desplegar la IA de una manera que minimice el daño y priorice el bienestar de individuos y comunidades, especialmente en dominios políticos sensibles como la aplicación de la ley, el control de la inmigración, los beneficios sociales y la prevención del fraude. Los gobiernos están trabajando gradualmente para establecer un entorno seguro, seguro y confiable para el desarrollo, despliegue y uso de la IA en todo el ciclo de políticas. Estos esfuerzos incluyen definir objetivos estratégicos, explorar nuevos arreglos institucionales, desarrollar instrumentos de política (como estándares, códigos, directrices) y nuevos marcos regulatorios, y atraer las capacidades necesarias para usar la IA de manera efectiva y eficiente en el sector público. Además, los gobiernos están priorizando cada vez más el monitoreo de la implementación y el impacto para fomentar la confianza pública y asegurar la sostenibilidad a largo plazo de las iniciativas actuales. El informe concluye con un llamado a la cooperación internacional y la adopción de estándares globales emergentes para abordar los desafíos políticos existentes. La OECD apoya a los gobiernos en su esfuerzo por perseguir un uso seguro, seguro y confiable de la IA en el sector público, guiándolos en la formulación de preguntas relevantes y en la identificación de los habilitadores y salvaguardias más adecuados para alcanzar los impactos deseados en términos de productividad, capacidad de respuesta y rendición de cuentas.

Para leer más ingrese a:

 

 

¡Haz clic para puntuar esta entrada!
(Votos: 0 Promedio: 0)

Compartir artículo

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Busca los documentos, noticias y tendencias más relevantes del sector eléctrico

Buscador de documentos
Buscador de noticias y tendencias

Banco de Información

Descripción del semáforo tecnológico

Los documentos se clasifican en varios colores tipo semáforo tecnológico que indican el nivel de implementación de la tecnología en el país

Tecnología en investigación que no ha sido estudiado o reglamentado por entidades del sector.

La tecnología se aplica de manera focal y se encuentra en estudio por parte de las entidades del sector.

La tecnología se aplica de manera escalable y se encuentran políticas y regulaciones focales establecidas.

La tecnología se aplica a través de servicios  y se encuentran políticas y regulaciones transversales establecidas.

La tecnología se aplica de manera generalizada  y se tiene un despliegue masivo de esta.

Para acceder a todos los documentos publicados y descargarlos ingresa aquí