Ejemplo: Fase de diseño del proyecto 

Por ejemplo, si actualmente está diseñando un proyecto sobre participación pública digital en los procesos políticos de una región o un país, lo más probable es que ya se esté planteando los riesgos relacionados con la protección de datos y la privacidad. Dado que el proyecto implicaría claramente a personas específicas, será importante plantearse ya en esta fase inicial cuáles podrían ser los riesgos más amplios del proyecto relacionados con los derechos humanos, de modo que puedan tomarse medidas preventivas. 

Ejemplo: Fase de implementación del proyecto 

Si, en cambio, va a implementar un proyecto sobre participación pública digital en los procesos políticos de una región o un país, lo más probable es que ya haya tenido en cuenta los riesgos para la protección de datos y la privacidad durante la fase de diseño. Dado que el proyecto corre el riesgo de afectar a personas específicas (titulares de derechos) cuando utilizan las diversas plataformas digitales, paneles y otras soluciones digitales e interactúan con ellos, será importante aplicar al proyecto una perspectiva más amplia de derechos humanos con el fin de adoptar medidas preventivas para abordar posibles efectos futuros, o mitigar cualquier efecto negativo que pueda haberse producido ya. 

Ejemplo de caso: “Uso previsto de una herramienta digital” o “Uso actual de una herramienta digital”. 

Aunque un proyecto de energía renovable como tal no pueda considerarse un proyecto digital, es muy posible que se prevea utilizar soluciones digitales dentro de ese proyecto con fines específicos. Por ejemplo, podría exigirse que el desarrollador del proyecto utilizase una plataforma de comunicación digital o de redes sociales para relacionarse con las partes interesadas locales. En este caso, la opción correcta sería seleccionar “Uso previsto de una herramienta” o “Uso actual de una herramienta digital”, y utilizar Digital Rights Check para evaluar los riesgos para los derechos humanos que implicaría el uso de dicha herramienta. 

• Data Helpdesk
• Data Privacy Portal
• Data Privacy Management
• Decision tree: Responsibilities within GIZ Data Privacy Process
• Data protection guidelines 2023
• Guidelines on sharing data with partners and donors in the context of donor coordination

• Caja de herramientas de digitalización, “Digital responsibility” (Responsabilidad digital) 
• Internet Society, “Policy Brief: Principles for Responsible Data Handling” (Documento de orientación: Principios para un tratamiento responsable de los datos) 

Explicaciones: 

• Reglamento general de protección de datos de la UE, “Data Protection Impact Assessment (DPIA)” (Evaluación del impacto sobre la protección de datos (EIPD)) 
• Rappler, “Data Privacy 101: What is a Privacy Impact Assessment?“, Oct 30, 2018 
• Art. 17 Pacto Internacional de Derechos Civiles y Políticos 
• Art. 16 Convención sobre los Derechos del Niño 
• Art. 11 Convención Americana sobre Derechos Humanos 
• Art. 8 African Union Convention on Cyber Security and Personal Data Protection (Convención de la Unión Africana sobre Seguridad Cibernética y Protección de Datos Personales) 
• Art. 8 Convenio Europeo de Derechos Humanos 

Para quien tenga interés en profundizar en el tema: 

• Danish Institute for Human Rights, “Guidance on human rights impact assessment of digital activities: Introduction“ (Directrices para la evaluación del impacto de las actividades digitales en los derechos humanos: Introducción), p. 38-41 

• Comisión Europea, “¿Qué datos personales se consideran sensibles?” 
• Art. 17 Pacto Internacional de Derechos Civiles y Políticos 
• Art. 16 Convención sobre los Derechos del Niño 
• Art. 11 Convención Americana sobre Derechos Humanos 
• Art. 8 African Union Convention on Cyber Security and Personal Data Protection (Convención de la Unión Africana sobre Seguridad Cibernética y Protección de Datos Personales) 
• Art. 8 Convenio Europeo de Derechos Humanos 

Si una plataforma de aprendizaje electrónico tiene restringido el acceso, es decir, requiere que los usuarios y usuarias se registren e inicien sesión para poder utilizarla, existe la posibilidad de vincular a una persona los datos que vaya introduciendo. Si, por alguna razón, estos datos incluyen información sobre raza, origen étnico o similar, se considerarán datos sensibles, y deberán tomarse más precauciones. Una primera opción sería simplemente evaluar si realmente es necesario recopilar todos esos datos, y tal vez cambiar la estructura de la plataforma para garantizar que no se recopilen. Si es necesario recopilar datos sensibles por algún motivo, debe haber otras salvaguardias para garantizar la protección de los usuarios y usuarias y sus datos.

• Comisión Europea, “¿Qué es el tratamiento de datos?” 
• Para más información sobre qué es el consentimiento informado, véase UK Information Commissioner’s Office, “What is valid consent?” (¿Cuándo se considera válido el consentimiento?) 
• Principios para el Desarrollo Digital, Establecer prácticas de datos que prioricen a las personas
• Derecho a la privacidad: 
  • Art. 17 Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 16 Convención sobre los Derechos del Niño 
  • Art. 11 Convención Americana sobre Derechos Humanos 
  • Art. 8 African Union Convention on Cyber Security and Personal Data Protection (Convención de la Unión Africana sobre Seguridad Cibernética y Protección de Datos Personales) 
  • Art. 8 Convenio Europeo de Derechos Humanos 
• Derecho a la libertad de información: 

• • Art. 19 Declaración Universal de los Derechos Humanos 
  • Art. 19(2) Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 13(1) Convención Americana sobre Derechos Humanos 
  • Art. 10(1) Convenio Europeo de Derechos Humanos 
  • Art. 9(1) Carta Africana sobre los Derechos Humanos y de los Pueblos 

• Derecho a la participación: 

• • Art. 25, 27 Pacto Internacional de Derechos Civiles y Políticos  
  • Art. 7, 8, 14(2)(a) Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Art. 12 Convención sobre los Derechos del Niño 
  • Art. 4(3), 33(3) Convención sobre los derechos de las personas con discapacidad 
  • Convenio 169 de la OIT sobre pueblos indígenas y tribales 
  • Art. 23 Convención Americana sobre Derechos Humanos 
  • Art. 13 Carta Africana sobre los Derechos Humanos y de los Pueblos 

Dado que muchas organizaciones han empezado a utilizar en mayor medida las herramientas de colaboración digital durante la pandemia de Covid-19, el tratamiento automático de datos también está aumentando. Una organización que utilice plataformas de aprendizaje electrónico con una frecuencia creciente debe ser consciente de los datos que se recopilan cuando los usuarios y usuarias utilizan dichas plataformas, y debe asegurarse de haberles informado adecuadamente del tipo de información que se va a tratar, así como obtener el consentimiento informado de esas personas. 

Para más información sobre qué es el consentimiento informado, véase UK Information Commissioner’s Office, “What is valid consent?” (¿Cuándo se considera válido el consentimiento?) 

Principios para el Desarrollo Digital, Establecer prácticas de datos que prioricen a las personas

• Art. 12 Declaración Universal de los Derechos Humanos 
• Art. 17 Pacto Internacional de Derechos Civiles y Políticos 
• Art. 16 Convención sobre los Derechos del Niño 
• Art. 11 Convención Americana sobre Derechos Humanos 
• Art. 8 African Union Convention on Cyber Security and Personal Data Protection (Convención de la Unión Africana sobre Seguridad Cibernética y Protección de Datos Personales) 
• Art. 8 Convenio Europeo de Derechos Humanos 

Tenga en cuenta los siguientes ejemplos: 

1. Un servicio público de empleo “inteligente” envía automáticamente a los y las demandantes de empleo un cuestionario general que incluye preguntas específicas relacionadas con la salud que solo son pertinentes para determinados trabajos manuales. Sería innecesario y excesivo obtener esa información de una persona que solicita un trabajo de oficina. Así pues, los datos deben reducirse al mínimo desde el principio o eliminarse posteriormente cuando se compruebe que no son pertinentes. 
2. Se crea un aula en línea para la enseñanza a distancia durante el cierre de los colegios por la pandemia de Covid-19. Se envía a los padres y a las madres un cuestionario general que incluye preguntas sobre la salud para evaluar las cuestiones de accesibilidad. Sin embargo, solo algunas discapacidades son relevantes, y obtener más información sanitaria sería excesivo. Así pues, la recopilación, el uso y el almacenamiento de datos deben reducirse al mínimo. 

• Aunque es habitual que se recurra a la anonimización de datos a fin de reducir los riesgos para el derecho a la privacidad, también es importante hacer hincapié en la necesidad de minimizar los datos. Esto se debe en parte a que los datos personales (pseudo)anonimizados pueden dejar de ser anónimos si se combinan con otros. Véase, por ejemplo, Imperial College London. “Anonymizing personal data ‘not enough to protect privacy,’ shows new study” (Anonimizar los datos personales no basta para proteger la privacidad según un nuevo estudio). 
• Véase también Privacy International, “Artificial intelligence“ (Inteligencia artificial). 
• Art. 12 Declaración Universal de los Derechos Humanos 
• Art. 17 Pacto Internacional de Derechos Civiles y Políticos 
• Art. 16 Convención sobre los Derechos del Niño 
• Art. 11 Convención Americana sobre Derechos Humanos 
• Art. 8 African Union Convention on Cyber Security and Personal Data Protection (Convención de la Unión Africana sobre Seguridad Cibernética y Protección de Datos Personales) 
• Art. 8 Convenio Europeo de Derechos Humanos 

“Las aplicaciones de IA pueden utilizarse para identificar y, por tanto, rastrear a las personas en distintos dispositivos, en sus hogares, en el trabajo y en espacios públicos. Por ejemplo, aunque los datos personales se (pseudo)anonimizan de forma rutinaria dentro de los conjuntos de datos, la IA puede emplearse para desanonimizarlos. El reconocimiento facial es otro medio por el que se puede rastrear e identificar a las personas, lo que tiene el potencial de transformar las expectativas de anonimato en el espacio público”. 

• Privacy International, “Artificial intelligence (Inteligencia artificial)” 

Noticia de la APC, “Why cybersecurity is a human rights issue, and it is time to start treating it like one” 28 nov. 2019 (Por qué la ciberseguridad es una cuestión de derechos humanos y es hora de empezar a tratarla como tal) 

• Derecho a la no discriminación: 

• • Art. 2 Declaración Universal de los Derechos Humanos 
  • Art. 26 Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 2 Pacto Internacional de Derechos Económicos, Sociales y Culturales 
  • Art. 2 Convención Internacional sobre la Eliminación de todas las Formas de Discriminación Racial 
  • Art. 2 Convención sobre los Derechos del Niño 
  • Art. 2 Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Art. 5, 6 Convención sobre los derechos de las personas con discapacidad 
  • Art. 1, 24 Convención Americana sobre Derechos Humanos 
  • Art. 2 Carta Africana sobre los Derechos Humanos y de los Pueblos 
  • Art. 14 Convenio Europeo de Derechos Humanos 

• Derecho a la igualdad: 

• • Art. 1 Declaración Universal de los Derechos Humanos 
  • Art. 26 Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 5 Convención Internacional sobre la Eliminación de todas las Formas de Discriminación Racial 
  • Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Art. 5 Convención sobre los derechos de las personas con discapacidad 
  • Art. 24 Convención Americana sobre Derechos Humanos 
  • Art. 19 Carta Africana sobre los Derechos Humanos y de los Pueblos 
  • Protocolo n.º 12 al Convenio para la Protección de los Derechos Humanos y de las Libertades Fundamentales, Convenio Europeo de Derechos Humanos 

Más información: 

• Foro Económico Mundial, “Research shows AI is often biased. Here’s how to make algorithms work for all of us”, 19 de julio de 2021 (Los estudios demuestran que la IA suele estar sesgada. Cómo hacer que los algoritmos beneficien a todas las personas) 
• MIT Technology Review, “This is how AI bias really happens—and why it’s so hard to fix”, 4 de febrero de 2019 (Así es como se produce realmente el sesgo de la IA; por qué es tan difícil de solucionar) 
• Para más información sobre cómo detectar el sesgo inconsciente, véase: Proyecto AI Blindspot del MIT 

1. Iniciativa FAIR Forward – Artificial Intelligence for All (Inteligencia artificial para todas las personas)

• • La IA de procesamiento del lenguaje natural puede utilizarse para generar y compartir información de forma específica e individualizada. El mismo tipo de sistema puede utilizarse también para llegar a las personas que no saben leer. Para entrenar estos sistemas es necesario disponer de una gran cantidad de datos de entrenamiento. Por diversas razones, la disponibilidad de los datos lingüísticos necesarios de los países africanos y asiáticos ha sido muy limitada. La iniciativa FAIR Forward – Artificial Intelligence for All se desarrolló con el fin de cerrar esta brecha relativa a los datos lingüísticos y proporcionar un acceso justo y abierto a ellos. Gracias a este trabajo y a la creciente disponibilidad de datos lingüísticos nacionales, la iniciativa Fair Forward ha desarrollado un chatbot en Rwanda que permitirá a millones de personas recibir asesoramiento sobre el coronavirus en su lengua local. 
  • Fuente: GIZ, “Artificial Intelligence For All” (Inteligencia artificial para todos y todas) 

2. Uso de la IA en las actividades de respuesta al coronavirus

• • “El análisis de datos con ayuda de la IA está teniendo un papel predominante en el seguimiento de las infecciones, las muertes y las tasas de recuperación en todo el mundo. Las instituciones han conseguido dibujar las tendencias de la Covid-19 en distintos países y condiciones. En los países en desarrollo también se necesitan tecnologías de recopilación, seguimiento y análisis de datos para seguir la evolución del virus y adaptar la respuesta y las medidas de mitigación. 
  • Se está utilizando la inteligencia artificial para detectar el coronavirus mediante el análisis de tomografías computarizadas. Los departamentos de diagnóstico por imagen de los centros sanitarios se están viendo desbordados por la mayor carga de trabajo provocada por el virus. Esta solución mejora la velocidad de diagnóstico de las TAC. Algunas grandes empresas tecnológicas afirman haber creado sistemas de análisis basados en inteligencia artificial capaces de leer los resultados en cuestión de segundos, con una precisión del 96 % en el diagnóstico del virus. En los países africanos, donde escasean los médicos y médicas especialistas y los laboratorios, esta tecnología puede suponer un antes y un después. 
  • Los Gobiernos de todo el mundo utilizan tecnologías móviles y de rastreo inteligente para seguir los movimientos de las personas y evitar una mayor expansión del virus. La UE debe apoyar a los Gobiernos africanos para que utilicen la gran cantidad de datos de teléfonos móviles disponibles (respetando siempre la privacidad). Existen soluciones tecnológicas que permiten rastrear el movimiento de las personas teniendo en cuenta los riesgos del uso indebido de los datos personales”. 
  • Fuente: Caja de herramientas de digitalización, “Practice: Big Data and AI” (Práctica: macrodatos e IA) 

• Derecho a la no discriminación: 
  • Art. 2 Declaración Universal de los Derechos Humanos 
  • Art. 26 Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 2 Pacto Internacional de Derechos Económicos, Sociales y Culturales 
  • Art. 2 Convención Internacional sobre la Eliminación de todas las Formas de Discriminación Racial 
  • Art. 5, 6 Convención sobre los derechos de las personas con discapacidad 
  • Art. 1, 24 Convención Americana sobre Derechos Humanos 
  • Art. 2 Carta Africana sobre los Derechos Humanos y de los Pueblos 
  • Art. 14 Convenio Europeo de Derechos Humanos 

• Derecho a la igualdad: 
  • Art. 1 Declaración Universal de los Derechos Humanos 
  • Art. 26 Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 5 Convención Internacional sobre la Eliminación de todas las Formas de Discriminación Racial 
  • Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Art. 5 Convención sobre los derechos de las personas con discapacidad 
  • Art. 24 Convención Americana sobre Derechos Humanos 
  • Art. 19 Carta Africana sobre los Derechos Humanos y de los Pueblos 
  • Protocolo n.º 12 al Convenio para la Protección de los Derechos Humanos y de las Libertades Fundamentales, Convenio Europeo de Derechos Humanos 

• Para más información sobre cómo detectar el sesgo inconsciente, véase: Proyecto AI Blindspot del MIT. 

Por ejemplo, un modelo de IA para analizar las expresiones faciales de las personas y detectar su estado emocional podría disponer de datos sin ningún tipo de sesgo de los que aprender y, por tanto, no sería discriminatorio en su desarrollo y diseño. Sin embargo, dado que la ciencia que subyace a la tecnología de reconocimiento emocional es cuestionable, existe el riesgo de que los resultados de este modelo de IA sean discriminatorios. Este es especialmente el caso cuando no se tiene en cuenta el contexto y, por tanto, puede haber repercusiones discriminatorias sobre, por ejemplo, personas de grupos étnicos minoritarios o con discapacidad. 

Fuente: Vox Recode, “Artificial intelligence will help determine if you get your next job”, 12 de diciembre de 2019 (La inteligencia artificial ayudará a decidir si consigues tu próximo trabajo) 

• Derecho a la igualdad y a la no discriminación: 

• • Art. 1, 2 Declaración Universal de los Derechos Humanos 
  • Art. 26 Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 2 Pacto Internacional de Derechos Económicos, Sociales y Culturales 
  • Art. 2, 5 Convención Internacional sobre la Eliminación de todas las Formas de Discriminación Racial Art. 2 Convención sobre los Derechos del Niño 
  • Art. 5, 6 Convención sobre los derechos de las personas con discapacidad 
  • Art. 1, 24 Convención Americana sobre Derechos Humanos 
  • Art. 2, 19 Carta Africana sobre los Derechos Humanos y de los Pueblos 
  • Art. 14 Convenio Europeo de Derechos Humanos 

• Derechos de la mujer: 

• • Art. 3 Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 3 Pacto Internacional de Derechos Económicos, Sociales y Culturales 
  • Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Protocolo a la Carta Africana sobre los Derechos Humanos y de los Pueblos relativo a los derechos de la mujer en África 

• Sobre la brecha digital de género: 

• • BMZ, “Women’s Pathways to the Digital Sector: Stories of Opportunities and Challenges”, 2017 (El camino de las mujeres hacia el sector digital: historias de oportunidades y desafíos) 

• Sobre el sesgo de género en la IA: 

• • Surya Deva, “Addressing the gender bias in artificial intelligence and automation”, OpenGlobalRights, 10 de abril de 2020 (Abordar el sesgo de género en la inteligencia artificial y la automatización) 
  • Jeffrey Dastin, “Amazon scraps secret AI recruiting tool that showed bias against women”, Reuters, 11 de octubre de 2018 (Amazon desecha una herramienta secreta de contratación por IA por su sesgo contra las mujeres) 

Muchos asistentes personales virtuales (como Siri, Alexa y Cortana) y chatbots tienen nombre de mujer y vienen con voz femenina por defecto. Las organizaciones que desarrollan o utilizan estos asistentes virtuales con “características femeninas” pueden reforzar los estereotipos, así como la realidad social de que la mayoría del personal de asistencia o secretaría, tanto en el sector público como en el privado, son mujeres. Por lo tanto, siempre será importante evaluar cualquier efecto negativo inesperado relacionado con el género. 

Para más información, véase Surya Deva, “Addressing the gender bias in artificial intelligence and automation”, OpenGlobalRights, 10 de abril de 2020. 

• Derecho a la no discriminación: 

• • Art. 2 Declaración Universal de los Derechos Humanos 
  • Art. 26 Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 2 Pacto Internacional de Derechos Económicos, Sociales y Culturales 
  • Art. 2 Convención Internacional sobre la Eliminación de todas las Formas de Discriminación Racial 
  • Art. 2 Convención sobre los Derechos del Niño 
  • Art. 2 Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Art. 5, 6 Convención sobre los derechos de las personas con discapacidad 
  • Art. 1, 24 Convención Americana sobre Derechos Humanos 
  • Art. 2 Carta Africana sobre los Derechos Humanos y de los Pueblos 
  • Art. 14 Convenio Europeo de Derechos Humanos 

• Derecho a la igualdad: 

• • Art. 1 Declaración Universal de los Derechos Humanos 
  • Art. 26 Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 5 Convención Internacional sobre la Eliminación de todas las Formas de Discriminación Racial 
  • Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Art. 5 Convención sobre los derechos de las personas con discapacidad 
  • Art. 24 Convención Americana sobre Derechos Humanos 
  • Art. 19 Carta Africana sobre los Derechos Humanos y de los Pueblos 
  • Protocolo n.º 12 al Convenio para la Protección de los Derechos Humanos y de las Libertades Fundamentales, Convenio Europeo de Derechos Humanos 

Algunos sistemas sanitarios recurren a herramientas de predicción del riesgo basadas en IA para identificar y seleccionar a los y las pacientes de alto riesgo que necesitan una atención especial. Los y las pacientes seleccionados para estos programas reciben recursos adicionales, así como una mayor atención por parte de proveedores capacitados, para garantizar que la atención esté bien coordinada. Muchos sistemas sanitarios cuentan con las herramientas de IA como elementos clave de sus esfuerzos de gestión de la salud de la población, ya que se consideran eficaces para mejorar los resultados y la satisfacción al tiempo que reducen los costes, un objetivo al que se suele tender cuando se trata de mejorar la asistencia sanitaria en las economías emergentes. Estos programas de atención a pacientes de alto riesgo son muy caros de gestionar, por lo que los sistemas sanitarios suelen recurrir a herramientas de IA para identificar a las personas que más se pueden beneficiar de dichos programas. 

Al hacerlo, las herramientas de IA deben hacer algunas deducciones basadas en los datos disponibles. Una forma de identificar las mayores necesidades asistenciales es tomar como referencia el dinero invertido anteriormente por los y las pacientes en su asistencia. Sin embargo, eso puede resultar discriminatorio para las poblaciones marginadas que han tenido menos capacidad para asignar recursos importantes a su atención, aunque lo hubiesen necesitado también. 

En este caso, el problema ya debería haberse detectado antes de la implantación. Pero, si no fuera así, un análisis posterior podría revelar las diferencias en función de la raza a la hora de inscribir a los y las pacientes en el programa e identificar la razón por la que esto ocurre. 

Para más información, véase: Obermeyer et al., “Dissecting racial bias in an algorithm used to manage the health of populations”, Science 366, 447–453 (2019) (Diseccionando el sesgo racial en un algoritmo utilizado para gestionar la salud de las poblaciones). 

Recursos  

• Art. 12 Declaración Universal de los Derechos Humanos 
• Art. 17 Pacto Internacional de Derechos Civiles y Políticos 
• Art. 16 Convención sobre los Derechos del Niño 
• Art. 11 Convención Americana sobre Derechos Humanos 
• Art. 8 African Union Convention on Cyber Security and Personal Data Protection (Convención de la Unión Africana sobre Seguridad Cibernética y Protección de Datos Personales) 
• Art. 8 Convenio Europeo de Derechos Humanos 

Recursos con información sobre protección de datos: 

• Conferencia de las Naciones Unidas sobre Comercio y Desarrollo, “Data protection and privacy legislation worldwide” (Legislación sobre protección de datos y privacidad en el mundo) 
• Data Protection Africa (desarrollado por ALT Advisory) 
• DLA Piper, “Data Protection Laws of the World” (Leyes de protección de datos en el mundo) 
• Comisión Europea, “Adequacy decisions (Decisiones sobre adecuación)” 

Prácticamente todos los proyectos y soluciones digitales dependen de la posibilidad de recopilar, almacenar, tratar, modificar y compartir datos, y muchos también pueden aumentar las posibilidades de hacer precisamente eso. Si un proyecto innovador sobre el uso de dispositivos de Internet de las Cosas (IoT) para el bien público se lleva a cabo en un país sin protección de datos, poco se puede esperar en términos de acceso a la reparación si los datos no se gestionan correctamente. Por lo tanto, es importante comprender el contexto normativo en el que se implementará o aplicará el proyecto o la solución digital, a fin de identificar posibles riesgos. Si existe una normativa de protección de datos y su aplicación es eficaz, disminuye el riesgo de las actividades relacionadas con los datos. 

Por ejemplo, en caso de que anteriormente se haya implementado un proyecto para desarrollar bases de datos lingüísticos de lenguas escritas en el mismo país o región y esté planificando un proyecto similar, podría ser muy útil contactar con los y las responsables del proyecto anterior. Así podría obtener información sobre los problemas que se encontraron, cómo evitaron las dificultades detectadas y cómo se gestionaron los riesgos para los derechos humanos en general. 

Más información: 

• Véase un ejemplo de evaluación de posibles repercusiones futuras en la evaluación del reconocimiento facial de Google de Business for Social Responsibility y el concepto de “Human Rights by Design” (diseño con perspectiva de derechos humanos) 

Si un proyecto incluye el desarrollo de un sistema de registro electrónico para trabajadores y trabajadoras migrantes, es probable que se consulte a quienes lo utilicen sobre sus experiencias para poder abordar rápidamente cualquier posible repercusión negativa sobre los derechos humanos. Sin embargo, también existe el riesgo de que sean los trabajadores y trabajadoras migrantes que decidan no utilizar el sistema los que se vean perjudicados, y una consecuencia no deseada del proyecto sería que no pudiesen encontrar empleo. 

Otros recursos: 

• UIT, Measuring digital development: Facts and Figures 2022 (Medición del desarrollo digital: cifras y hechos 2022) 
• Véase la sección B.3 de la Guía y Caja de herramientas (Guidance and Toolbox) para las EIDH del DIHR 
• Principios para el Desarrollo Digital, Diseñar para la inclusión
• Art. 2 Declaración Universal de los Derechos Humanos 
• Art. 26 Pacto Internacional de Derechos Civiles y Políticos 
• Art. 2 Pacto Internacional de Derechos Económicos, Sociales y Culturales 
• Art. 2 Convención Internacional sobre la Eliminación de todas las Formas de Discriminación Racial 
• Art. 2 Convención sobre los Derechos del Niño 
• Art. 2 Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
• Art. 5, 6 Convención sobre los derechos de las personas con discapacidad 
• Art. 1, 24 Convención Americana sobre Derechos Humanos 
• Art. 2 Carta Africana sobre los Derechos Humanos y de los Pueblos 
• Art. 14 Convenio Europeo de Derechos Humanos 

• UNICEF, “Availability, Accessibility, Acceptability and Quality framework: A tool to identify potential barriers to accessing services in humanitarian settings” (Marco de disponibilidad, accesibilidad, aceptabilidad y calidad: Una herramienta para identificar los posibles obstáculos al acceso a los servicios en contextos humanitarios) 
• Consejo de Europa, “The Internet, a public service accessible by everyone” (Internet, un servicio público accesible para todas las personas)
• Principios para el Desarrollo Digital, Diseñar junta con la gente

• UNICEF, “Availability, Accessibility, Acceptability and Quality framework: A tool to identify potential barriers to accessing services in humanitarian settings” (Marco de disponibilidad, accesibilidad, aceptabilidad y calidad: Una herramienta para identificar los posibles obstáculos al acceso a los servicios en contextos humanitarios) 
• Consejo de Europa, “The Internet, a public service accessible by everyone” (Internet, un servicio público accesible para todas las personas) 
• Principios para el Desarrollo Digital, Diseñar para la inclusión
• Derecho a la no discriminación: 

• • Art. 2 Declaración Universal de los Derechos Humanos 
  • Art. 26 Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 2 Pacto Internacional de Derechos Económicos, Sociales y Culturales 
  • Art. 2 Convención Internacional sobre la Eliminación de todas las Formas de Discriminación Racial 
  • Art. 2 Convención sobre los Derechos del Niño 
  • Art. 2 Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Art. 5, 6 Convención sobre los derechos de las personas con discapacidad 
  • Art. 1, 24 Convención Americana sobre Derechos Humanos 
  • Art. 2 Carta Africana sobre los Derechos Humanos y de los Pueblos 
  • Art. 14 Convenio Europeo de Derechos Humanos 

• Derecho a la igualdad: 

• • Art. 1 Declaración Universal de los Derechos Humanos 
  • Art. 26 Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 5 Convención Internacional sobre la Eliminación de todas las Formas de Discriminación Racial 
  • Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Art. 5 Convención sobre los derechos de las personas con discapacidad 
  • Art. 24 Convención Americana sobre Derechos Humanos 
  • Art. 19 Carta Africana sobre los Derechos Humanos y de los Pueblos 
  • Protocolo n.º 12 al Convenio para la Protección de los Derechos Humanos y de las Libertades Fundamentales, Convenio Europeo de Derechos Humanos 

• IDEO, Design Kit
• US General Services Department, Human centered design
• Principios para el Desarrollo Digital, Diseñar junto con la gente

• Derecho a la participación:
  • Art. 25, 27 Pacto Internacional de Derechos Civiles y Políticos
  • Art. 7, 8, 14(2)(a) Convención sobre la eliminación de todas las formas de discriminación contra la mujer
  • Art. 12 Convención sobre los Derechos del Niño
  • Art. 4(3), 33(3) Convención sobre los derechos de las personas con discapacidad
  • Convenio 169 de la OIT sobre pueblos indígenas y tribales
  • Art. 23 Convención Americana sobre Derechos Humanos
  • Art. 13 Carta Africana sobre los Derechos Humanos y de los Pueblos

Una ilustración de un proceso de inscripción sensible al género es evidente en el programa Aadhaar de la India, un sistema de identificación biométrica a escala nacional. Los centros de inscripción siguen diligentemente las directrices para fomentar condiciones favorables para las mujeres, como el despliegue de operadoras y voluntarias para ayudar a las mujeres inscritas. Disposiciones especiales, como un espacio separado para las mujeres que prefieren mantener el rostro cubierto en presencia de hombres debido a las normas sociales y puestos de inscripción adaptados para mujeres con discapacidades físicas, contribuyen a la inclusividad del proceso.

Simultáneamente, el programa ha puesto de manifiesto su compromiso con el diseño para usuarios marginados. Aunque los estudios iniciales carecían de un muestreo sistemático de personas con discapacidad, las recomendaciones hacían hincapié en integrar la usabilidad y la ergonomía en las especificaciones del sensor del iris. Las especificaciones actuales de la UIDAI dan prioridad a la facilidad de uso, incorporando características como ayudas físicas, de vídeo y de audio, junto con mecanismos de retroalimentación. Para garantizar la inclusividad en ambos aspectos, la Autoridad de Identificación Única de la India (UIDAI) colaboró con un consultor con discapacidad visual que abogaba por el acceso universal. Las medidas prácticas, como la puesta a prueba de campamentos de inscripción para unas 870 personas con discapacidad, pusieron de manifiesto los retos técnicos y de procedimiento. La UIDAI respondió organizando talleres de sensibilización sobre la discapacidad e incorporando preguntas pertinentes, demostrando su dedicación a un proyecto de identidad que sea a la vez inclusivo y accesible.

• Véase la sección “Stakeholder Engagement” (Implicación de partes interesadas) del DIHR, “Human rights impact assessment guidance and toolbox” (Guía y caja de herramientas para la evaluación del impacto sobre los derechos humanos) 
• Principios para el Desarrollo Digital, Crear prácticas abiertas y transparentes
• Shift, “Doing business with respect for human rights” (Hacer negocios respetando los derechos humanos) 
• Global Compact Network Germany y twentyfifty, “Stakeholder Engagement in Human Rights Due Diligence: a Business Guide” (Implicación de las partes interesadas en la diligencia debida en materia de derechos humanos: guía empresarial) 
• Derecho a un recurso efectivo: 

• • Art. 8 Declaración Universal de los Derechos Humanos 
  • Art. 2 (3) (a) Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 25 Convención Americana sobre Derechos Humanos 
  • Art. 7.1 Carta Africana sobre los Derechos Humanos y de los Pueblos 
  • Art. 13 Convenio Europeo de Derechos Humanos 

• Derecho a la participación: 

• • Art. 25, 27 Pacto Internacional de Derechos Civiles y Políticos  
  • Art. 7, 8, 14(2)(a) Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Art. 12 Convención sobre los Derechos del Niño 
  • Art. 4(3), 33(3) Convención sobre los derechos de las personas con discapacidad 
  • Convenio 169 de la OIT sobre pueblos indígenas y tribales 
  • Art. 23 Convención Americana sobre Derechos Humanos 
  • Art. 13 Carta Africana sobre los Derechos Humanos y de los Pueblos 

Principios para el Desarrollo Digital, Crear prácticas abiertas y transparentes

• Derecho a un recurso efectivo:

• • Art. 8 Declaración Universal de los Derechos Humanos 
  • Art. 2 (3) (a) Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 25 Convención Americana sobre Derechos Humanos 
  • Art. 7.1 Carta Africana sobre los Derechos Humanos y de los Pueblos 
  • Art. 13 Convenio Europeo de Derechos Humanos 

• Derecho a la participación: 

• • Art. 25, 27 Pacto Internacional de Derechos Civiles y Políticos  
  • Art. 7, 8, 14(2)(a) Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Art. 12 Convención sobre los Derechos del Niño 
  • Art. 4(3), 33(3) Convención sobre los derechos de las personas con discapacidad 
  • Convenio 169 de la OIT sobre pueblos indígenas y tribales 
  • Art. 23 Convención Americana sobre Derechos Humanos 
  • Art. 13 Carta Africana sobre los Derechos Humanos y de los Pueblos 

Principios para el Desarrollo Digital, Crear prácticas abiertas y transparentes

• Derecho a un recurso efectivo: 

• • Art. 8 Declaración Universal de los Derechos Humanos 
  • Art. 2 (3) (a) Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 25 Convención Americana sobre Derechos Humanos 
  • Art. 7.1 Carta Africana sobre los Derechos Humanos y de los Pueblos 
  • Art. 13 Convenio Europeo de Derechos Humanos 

• Derecho a la participación: 

• • Art. 25, 27 Pacto Internacional de Derechos Civiles y Políticos  
  • Art. 7, 8, 14(2)(a) Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Art. 12 Convención sobre los Derechos del Niño 
  • Art. 4(3), 33(3) Convención sobre los derechos de las personas con discapacidad 
  • Convenio 169 de la OIT sobre pueblos indígenas y tribales 
  • Art. 23 Convención Americana sobre Derechos Humanos 
  • Art. 13 Carta Africana sobre los Derechos Humanos y de los Pueblos 

Principios para el Desarrollo Digital, Crear prácticas abiertas y transparentes

• Derecho a un recurso efectivo: 

• • Art. 8 Declaración Universal de los Derechos Humanos 
  • Art. 2 (3) (a) Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 25 Convención Americana sobre Derechos Humanos 
  • Art. 7.1 Carta Africana sobre los Derechos Humanos y de los Pueblos 
  • Art. 13 Convenio Europeo de Derechos Humanos 

• Derecho a la participación: 

• • Art. 25, 27 Pacto Internacional de Derechos Civiles y Políticos  
  • Art. 7, 8, 14(2)(a) Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Art. 12 Convención sobre los Derechos del Niño 
  • Art. 4(3), 33(3) Convención sobre los derechos de las personas con discapacidad 
  • Convenio 169 de la OIT sobre pueblos indígenas y tribales 
  • Art. 23 Convención Americana sobre Derechos Humanos 
  • Art. 13 Carta Africana sobre los Derechos Humanos y de los Pueblos 

Los principios de los derechos humanos deben regir la cooperación y la programación para el desarrollo. Entre otras cosas, esto significa que es importante tener en cuenta el principio de participación e inclusión en su proyecto o en relación con el uso de una solución digital. La transparencia y la presentación de informes son esenciales para cumplir este principio, ya que también pueden reforzar la capacidad de los y las titulares de derechos para reinvindicar sus derechos. Para más información sobre el enfoque basado en los derechos humanos, véase: 

• Grupo de Trabajo de Derechos Humanos del GNUDS, The Human Rights Based Approach to Development Cooperation (El enfoque basado en los derechos humanos para la cooperación para el desarrollo), septiembre de 2003
• Principios para el Desarrollo Digital, Crear prácticas abiertas y transparentes
• Derecho a la libertad de información: 

• • Art. 19 Declaración Universal de los Derechos Humanos 
  • Art. 19(2) Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 13(1) Convención Americana sobre Derechos Humanos 
  • Art. 10(1) Convenio Europeo de Derechos Humanos 
  • Art. 9(1) Carta Africana sobre los Derechos Humanos y de los Pueblos 

• Derecho a la participación: 

• • Art. 25, 27 Pacto Internacional de Derechos Civiles y Políticos  
  • Art. 7, 8, 14(2)(a) Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Art. 12 Convención sobre los Derechos del Niño 
  • Art. 4(3), 33(3) Convención sobre los derechos de las personas con discapacidad 
  • Convenio 169 de la OIT sobre pueblos indígenas y tribales 
  • Art. 23 Convención Americana sobre Derechos Humanos 
  • Art. 13 Carta Africana sobre los Derechos Humanos y de los Pueblos 

Para más información sobre el acceso a vías de recurso y mecanismos de reclamación, véase:

• United Nations Guiding Principles on Business and Human Rights (Principios Rectores sobre las empresas y los derechos humanos de las Naciones Unidas) (Principio 31) 
• Somo, “Human rights & grievance mechanisms” (Derechos humanos y mecanismos de reclamación) 
• Shift, “Doing business with respect for human rights: Remediation and grievance mechanisms” (Hacer negocios respetando los derechos humanos: Mecanismos de reparación y reclamación) 
• Derecho a un recurso efectivo:

• • Art. 8 Declaración Universal de los Derechos Humanos 
  • Art. 2 (3) (a) Pacto Internacional de Derechos Civiles y Políticos 
  • Art. 25 Convención Americana sobre Derechos Humanos 
  • Art. 7.1 Carta Africana sobre los Derechos Humanos y de los Pueblos 
  • Art. 13 Convenio Europeo de Derechos Humanos 

• Derecho a la participación: 

• • Art. 25, 27 Pacto Internacional de Derechos Civiles y Políticos  
  • Art. 7, 8, 14(2)(a) Convención sobre la eliminación de todas las formas de discriminación contra la mujer 
  • Art. 12 Convención sobre los Derechos del Niño 
  • Art. 4(3), 33(3) Convención sobre los derechos de las personas con discapacidad 
  • Convenio 169 de la OIT sobre pueblos indígenas y tribales 
  • Art. 23 Convención Americana sobre Derechos Humanos 
  • Art. 13 Carta Africana sobre los Derechos Humanos y de los Pueblos