top of page
  • Foto del escritorJose Osorio

Es necesario una reorientación de los derechos de los ciudadanos en la adopción de la IA

Actualizado: 19 ene 2023



El Derecho a la privacidad es fundamental para el goce y el ejercicio de los derechos humanos en el ciberespacio, sin embargo, puede cuestionarse este aspecto cuando se emplean grandes cantidades de datos en tecnologías digitales emergentes y sistemasinformáticos que apoyansu funcionamiento en decisiones que son basadasen algoritmos e inciden en resultados discriminatorios, cuando estos son implementados sin supervisión en actividades gubernamentales, empresas y la sociedad en su conjunto.



A raíz de los acontecimientos de la pandemiadel Covid-19, el conflicto bélicoentre Rusia-Ucrania, la crisis migratoria y el aumento de la desigualdad social en la región, varios países se han aferrado a una seria de estrategias paliativas y quizás coercitivas para reducir sus efectos, bajo el uso tecnologías digitales emergentes[1] (compra de drones, cámarasde vigilancia y sistemas de información, entre otros) con el objeto de identificar actividades criminales o prevenirlas en los diferentes espacios públicos, pero esta acción en particular, conllevan algunas desventajas cuando se afectan derechos como la libertad de reunión pacífica y asociación, y libertad de movimiento.



Como bien han señalado diversos académicos y expertos en la materia[2], como Themistoklis Tzimas y Tendayi Achiume, Relatora Especial sobre las formas contemporáneas de racismo, discriminación racial, xenofobia y formas conexas de intolerancia de las Naciones Unidas, deben evaluarse estas estrategias, debido que el despliegue de tecnologías digitales emergentes está planteando un gigantesco desafío ético y regulatorio, por lo que su gobernanza en la gestión pública es fundamental.



Si bien existe un marco jurídico con importantes garantías en la región, no quiere decir que este articulado con los derechos humanos y las libertades fundamentales planteadas en: la Declaración Universal de Derechos Humanos, el Pacto Internacional de Derechos Civiles y Políticos, el Pacto Internacional de Derechos Económicos, Sociales y Culturales, la Convención sobre los Derechos del Niño, la Convención sobre los Derechosde las Personas con Discapacidad y otros instrumentos internacionales que por naturaleza pueden relacionarse con el Internet y otras tecnologías digitales emergentes.




Bajo estos hechos, debe realizarse un análisis concreto que forme parte de la universalidad, indivisibilidad, interdependencia e interrelación de los derechos humanos y las libertades fundamentales y, a la vez, nos orienten en la construcción de una hoja de ruta centrada en una sociedad democrática y en concordancia con el desarrollo de la economía digital y la sociedad en general.



Como es sabido, el Internet y las nuevas herramientas digitales están siendo manipuladas para infringir el Derecho internacional de los derechos humanos y las garantías locales que emergen de la Constitución. Debido que el diseño y su utilización pueden ser orientadas a reforzar prejuicios raciales, étnicos o urbanos y den lugar a prácticas discriminatorias, cuando se aplican perfiles algorítmicos para la búsqueda de actividad delictiva[3] e incriminación política, poniendo en riesgo la institucionalidad gubernamental y fomentando un frágil Estado de Derecho.



Antes de entrar en contexto internacional es pertinente señalar un ejemplo, de cómo la aplicación de algoritmos puede crear hechos complejos alrededor del mundo, un caso particular, es en el Reino Unido de Gran Bretaña e Irlanda del Norte, que utilizó una base de datos (Gangs ViolenceMatrix) que ha resultado ser discriminatoria[4]. Según informes, los agentes de policía hacen suposiciones sobre los individuos basadas en su raza, género, edad y condición socioeconómica, lo que refuerza aún más esos estereotipos[5]. El resultado es que el 78 % de las personas de este sistema Matrix son negras, y otro 9 % pertenecen a otros gruposétnicos minoritarios, mientrasque las propias cifras de la policía muestran que solo el 27 % de los responsables de actos graves de violencia juvenil son negros.



La policía también compartió esta base de datos con otros organismos gubernamentales, centros de empleo, organismos de vivienda social y centros educativos, lo que dio lugar a que ciertos grupos minoritarios de la localidad sean discriminados por su supuesta afiliación a una banda delictiva o inclusive pueden ser registrados por las autoridades solo por el hecho de vivir en una comunidad vulnerable.



Como señala este ejemplo, las personas cuyos nombres figuran en la base de datos Matrix experimentaron “múltiples episodios de controles de identidad y registros que aparentemente carecen de todo fundamento jurídico”[6]. Algunos denuncian que la policía los ha controlado y registrado 200 veces, otros que, hasta 1.000 veces, y otros más que son varias veces al día.



Sin duda, esta situación repercute en los derechos de las personas por sufrir injerencias en su intimidad y al ser detenidas arbitrariamente por motivos étnicos, geográficos y socioeconómicos; es cuestionable si esta población en particular tuvo acceso a un juicio justo e imparcial, debido que la aplicación de la base de datos Matrix y su tecnología en general, es contraproducente como herramienta de aplicación de la ley.


En cuanto a la libertad de opinión, el derecho a la libertad de expresión y otros derechos conexos en el ciberespacio, también pueden verse afectados por los algoritmos, en el año de 2018, el consejero delegado de Facebook, Mark Zuckerberg, en su comparecencia ante el Senado de los Estados Unidos, declaró que los sistemas de inteligencia artificial de Facebook eran incapaces de detectar los discursos de odio[7] y otras acciones conexas, como la injerencia a campañas políticas en entornos claves donde se ejercen derechos de opinión, expresión y privacidad de los usuarios; reconociendo Zukerberg que la compañía no podía controlar tales injerencias. El escrutinio hecho por el Senado de los Estados Unidos puso en duda la naturaleza y aspectos de transparencia de los sistemas de inteligencia artificial.



[1] Privacy International, “Esta es la vigilancia que Estados Unidosestá exportando a Centroamérica comoayuda. Y está sobreviviendo a los recortes de Trump” de 29 de julio de 2019, disponible en Esta es la vigilancia que Estados Unidos está exportando a Centroamérica como ayuda. Y está sobreviviendo a los recortes de Trump | Privacy International [2] Access Now: “EU takes minimalsteps to regulateharmful AI systems,must go further to protectfundamental rights” de 21 de abrilde 2021, disponible en https://www.accessnow.org/eu-minimal-steps-to-regulate-harmful- ai-systems/ [3] ACHIUME, T. (2020). Informe de la Relatora Especial sobre las formas contemporáneas de racismo, discriminación racial, xenofobia y formas conexas de intolerancia. La discriminación racial y las tecnologías digitales emergentes: un análisis de los derechos humanos. A/HRC/44/57 [4] ACHIUME, T. (2020). Informe de la Relatora Especial sobre las formas contemporáneas de racismo, discriminación racial, xenofobia y formas conexas de intolerancia. La discriminación racial y las tecnologías digitales emergentes: un análisis de los derechos humanos. A/HRC/44/57 [5] Véase www.amnesty.org.uk/files/reports/Trapped%20in%20the%20Matrix%20Amnesty% 20report.pdf. [6] Véase www.stop-watch.org/uploads/documents/Being_Matrixed.pdf [7] Véase www.commerce.senate.gov/2018/4/facebook-social-media-privacy-and-the-use-and-abuse-ofdata.




0 visualizaciones0 comentarios
bottom of page