En 2023, a medida que la inteligencia artificial generativa (genAI) y otras tecnologías ampliaban su adopción e impacto en la sociedad, el Foro Económico Mundial creó un Consejo Global del Futuro centrado en la cuestión de la equidad de los datos. A través de la investigación y los debates con expertos en tecnología, datos, negocios y ciencias sociales, quedó claro que era necesario crear una definición y un enfoque fundacionales que permitieran a las organizaciones de todo tipo construir sistemas, procesos, prácticas y resultados más equitativos. En respuesta, desarrollo un marco para las prácticas de datos responsables que se adapta a contextos específicos al tiempo que garantiza la coherencia y el cumplimiento de la normativa mundial. El presente libro blanco proporciona a la comunidad mundial una definición de referencia y un marco de equidad de datos para la investigación que se utilizará como guía para ayudar a estimular las conversaciones y la autoevaluación dentro de las organizaciones a medida que tratan de utilizar la IA más ampliamente. Este informe se basa en los cuatro tipos de equidad propuestos en el documento informativo inicial (equidad de representación, de características, de acceso y de resultados) y propone 10 características que deben tener en cuenta las organizaciones a la hora de crear sistemas, productos y soluciones a través de un marco de acción. Se espera que, a medida que las organizaciones utilicen la definición y marco de equidad de datos, queden claros los aspectos y consideraciones necesarios para obtener resultados equitativos. La recomendación es que todas las organizaciones, independientemente de su naturaleza (comercial, sociedad civil, académica o gubernamental), reconozcan que se debe aumentar la comprensión y mejorar la metodología de diseño para diseñar un futuro que garantice resultados para un mundo equilibrado y orientado a la equidad. La equidad de los datos es una responsabilidad compartida que requiere una acción colectiva para crear prácticas y sistemas de datos que promuevan resultados justos y equitativos para todos. Considerar continuamente el impacto humano de los datos es de vital importancia, dado el papel cada vez más importante de los sistemas basados en datos en las sociedades cada vez más digitales de hoy en día.  

Si se tiene en cuenta la equidad de los datos a lo largo de todo su ciclo de vida, se pueden mejorar las prácticas de datos para promover resultados justos, equitativos y beneficiosos para todas las personas, grupos y comunidades. El Global Future Council (GFC) sobre Equidad de Datos, un grupo de expertos de múltiples partes interesadas, se ha reunido durante 2023-2024 para definir y crear un «marco de investigación» sobre la equidad de datos. Este marco de equidad de datos está diseñado para impulsar la reflexión, centrar la investigación y orientar la acción correctiva. Este marco único ofrece una perspectiva culturalmente fundamentada sobre la gestión y la gobernanza de los datos. Se basa en el modelo Te Mana o te Raraunga, un modelo maorí de soberanía de datos que describe la lógica interna que utilizan los poseedores tradicionales de conocimientos cuando deciden compartirlos con otros. Además, el marco está alineado con las directrices y principios de gobernanza de datos existentes, incluidos FAIR, CARE, TRUST, para demostrar cómo la equidad de datos complementa las modalidades existentes y enriquece el debate más amplio sobre el uso apropiado de los datos en la vida moderna. El marco consta de 10 características y cuestiones clave relacionadas, agrupadas en tres categorías principales: datos, finalidad y personas. Como parte del marco, se han desarrollado una serie de preguntas para evaluar los datos y se han sugerido acciones iniciales para guiar a las partes interesadas en la aplicación de la equidad de datos en sus organizaciones. Aunque este marco está arraigado en la soberanía de los datos indígenas, proporciona orientación y fomenta la reflexión para avanzar en la equidad de datos en todos los sectores, comunidades y geografías. Seis estudios de caso demuestran el uso del marco a través de ejemplos del mundo real, y sirven de inspiración para poner en práctica esta herramienta en otros contextos. Avanzar en la equidad de los datos es esencial. Se vive en una era en la que los sistemas automatizados de toma de decisiones basados en algoritmos y datos son cada vez más comunes, con profundas implicaciones para las personas, las comunidades y la sociedad. Quienes diseñan y utilizan estos sistemas deben tener muy en cuenta su posible impacto social, con la equidad como preocupación fundamental.  

A pesar de su creciente importancia, el concepto de equidad de datos, carece de una definición clara y ampliamente aceptada en los círculos políticos y en la literatura académica. Tal vez la definición más conocida defina la equidad de datos como el concepto social de justicia aplicado a la informática y al aprendizaje automático, e identifique varios aspectos de la equidad de datos, como la representación, la característica, el acceso y la equidad de resultados. Esta ambigüedad no sólo impide el progreso, sino que también corre el riesgo de exacerbar las mismas desigualdades que las partes interesadas pretenden abordar. Sin un entendimiento común, las partes interesadas se ven obligadas a interpretar y aplicar medidas de equidad de datos basadas en sus propias perspectivas, potencialmente contradictorias, y sin un punto de referencia claro con el que medir sus esfuerzos. Además, a medida que se aceleran los avances tecnológicos y los datos adquieren una importancia cada vez mayor, siguen surgiendo nuevos retos para la equidad de los datos. Y a escala mundial, la ausencia de un entendimiento común dificulta la colaboración internacional en esta cuestión crucial. La equidad de datos es la responsabilidad compartida de unas prácticas de datos justas que respeten y promuevan los derechos humanos, las oportunidades y la dignidad. La equidad de los datos es una responsabilidad fundamental que requiere una acción estratégica, participativa, inclusiva y proactiva, colectiva y coordinada, para crear un mundo en el que los sistemas basados en datos promuevan resultados justos, equitativos y beneficiosos para todas las personas, grupos y comunidades. Reconoce que las prácticas en materia de datos -incluidas la recopilación, la conservación, el tratamiento, la retención, el análisis, la administración y la aplicación responsable de los conocimientos resultantes- repercuten significativamente en los derechos humanos y en el acceso a los recursos y oportunidades sociales, económicos, naturales y culturales. La equidad de los datos trata de abordar los desequilibrios históricos, actuales y potenciales en los conjuntos de datos que se utilizan en diversos ámbitos en las decisiones basadas en datos y en los sistemas algorítmicos y de IA. Además, la equidad de los datos tiene que ver con el acceso a los conjuntos de datos y con cómo y quién los utiliza en la toma de decisiones y los sistemas con impacto social.  

La responsabilidad y la toma de decisiones participativas y colectivas, especialmente por parte de los titulares de los datos individuales y colectivos, es un principio central. Por lo tanto, la equidad de los datos es la base de la equidad y la justicia en el desarrollo y la aplicación de una serie de tecnologías y para ganar la confianza de los sistemas digitales, como se describe en el Marco de Confianza Digital del Foro Económico Mundial. La equidad de los datos puede lograrse mediante un diseño adecuado de la recopilación, los usos, las prácticas y la gobernanza de los datos con el fin de promover resultados justos y equitativos para las personas y las comunidades directa o indirectamente afectadas por estos sistemas. En este sentido, el enfoque de los estudios sobre datos debe adaptarse para incluir no sólo lo que «los datos son», sino también lo que «los datos hacen». La definición propuesta, aunque abarca todo el «ciclo de vida de los datos», se centra especialmente en el aspecto del impacto de la gobernanza y las prácticas de los datos. Las consideraciones sobre la equidad de los datos impregnan todo su ciclo de vida, por ejemplo: cómo se recopilan y construyen los datos (equidad de los datos de entrada); cómo se ponen a disposición (equidad en el acceso a los datos); cómo se hacen representativos y pertinentes para el contexto y la finalidad con que se utilizan (equidad en la representación de los datos); cómo se procesan e interpretan (equidad de los datos de proceso o algorítmicos); cómo se utilizan para generar e informar sobre los resultados (equidad de los datos de resultados); y cómo se distribuye y comparte su valor con las personas y comunidades que han contribuido a ellos (equidad en el valor de los datos). Así pues, es crucial tener en cuenta la equidad de los datos desde las primeras fases del ciclo de vida de los datos, dado que los problemas de calidad y equidad podrían no ser fáciles de remediar más adelante. Además, los recopiladores de datos también deben tener en cuenta el posible (re)uso posterior de sus datos por parte de otros agentes de forma potencialmente perjudicial o explotadora. 

Para leer más ingrese a: