Las tecnologías digitales emergentes están planteando un gigantesco desafío en materia de regulación y gobernanza en el mundo por la fragmentación de riesgos que ésta podría provocar en las personasy los derechos humanos a causa de las decisiones sesgadas por algoritmos. Inclusive, la Inteligencia Artificial (IA) no cuenta con un acuerdo que proponga una definición universal o generalmente aceptada[1], por ejemplo, la Unión Europeadefine la IA como “sistemasque muestran un comportamiento inteligente a través del análisisde su entorno y actuando – con algún nivel de autonomía – para alcanzar metas específicas”, por otra parte, la UNESCO define la IA como “sistemas capaces de procesar datos e información de una manera que se asemeja a un comportamiento inteligente, y abarca generalmente aspectos de razonamiento, aprendizaje, percepción, predicción, planificación y control. Aunque cada una contenga algún tipo de diferencias, ambas definiciones perciben los riesgos y “repercusiones negativas profundas” en las sociedades, el medio ambiente,los ecosistemas y las vidas humanas”[2]. Por esta razón, países como Estados Unidos, China y el bloque que conforma la Unión Europea (UE) protagonizan el debate sobre la IA a nivel mundial, pero cada uno de ellos traslada un modelopropio y diferentede desarrollo y comprensión de esta[3], no obstante, organismos como UNESCO y Unión Internacional de Telecomunicaciones proponen un enfoque transversal centrado en las personas que refuerza su comprensión en países tecnológicamente menos desarrollados.
Ahora bien, en el año 2020, la UNESCO fue la primera instancia que abordo la ética de la IA como una reflexión normativa sistemática, basada en un marco integral, global, multicultural y evolutivo de valores, principios y acciones interdependientes que guíen a las sociedades para afrontar los efectos conocidos y desconocidos en los seres humanos, las sociedades y el medio ambiente.
En ese contexto, la ética sería primordial para la evaluación y orientación de normativas que incentiven tecnologías de IA, tomando como referencia la dignidad humana, el bienestary la prevención de daños, así mismo,apoyándose en la ética[4] como prioridad. Bajo esas premisas se constituyó el Grupo Especialde Expertos encargadode elaborar las recomendaciones sobre el uso ético de la inteligencia artificial; lanzando una consulta global para la adopción del primer instrumento normativo mundial.
La recomendación del grupo de expertos fue contundente señalando que, al momento de desarrollar regulaciones específicas, los Estados deben considerar aspectos como la responsabilidad de sus creadores, y la rendición de cuentas debe recaer siempre en las personas, señalan que, por ninguna circunstancia, debería otorgarse personalidad jurídica a las tecnologías basadas en IA.
La UNESCO, en el año de 2021 presentó las recomendaciones finalessobre la ética de la inteligencia artificial, en la cual se incluyen una serie de valores como: el respeto, protección y promoción de los derechos humanos, las libertades fundamentales y dignidad humana y Principios como: derecho a la intimidad y protección de datos, entre otras de interés en los procesos de automatización y funcionamiento de los algoritmos como son la transparencia, explicabilidad, supervisión, decisión humanas y gobernanza[5].
En el caso de la Unión Europeano cuenta con alguna regulación específica que logre reglamentar la toma de decisiones basadasen el funcionamiento de los algoritmos, sin embargo, definen normas específicas para sectores concretos, sean para proteger datos personales de los usuarioso para fomentar la transparencia de aquellos algoritmos que priorizan la información que recibimos[6], por ejemplo, los motores de búsqueda utilizados en Internet.
De la misma manera, la estrategia de la Unión Europea ha sido acometer de forma fragmentada el arsenal de regulaciones sobre derechos de los consumidores existentes que relacionan los procesos automatizados e IA, a través del Reglamento General de Protección de Datos (RGPD) en el art. 13 y art. 22, el Reglamento sobre la equidad y la transparencia para los usuarios profesionales de servicios de intermediación en línea, el Código de buenas prácticas contra la desinformación, el Reglamento de Servicios Digitales, y finalmente la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial COM/2021/206 final) que modifica determinados actos legislativos de la Unión[7], especialmente, los que delimitan los usos de alto riesgo en base de datos, gobernanza, gestión de la calidad de datos, transparencia y generación de logs, elaboración de documentación técnica, obligaciones de supervisión humana, precisión, solidez y ciberseguridad. Asimismo, se regulan las futuras autoridades nacionales y europeas en la materia[8] (Cotino, y otros, 2021)
En el caso de la región Latinoamericana, no existe en concreto una regulación específica en IA, países como Argentina, Brasil, Chile, Colombia, México y Uruguay [9] están compitiendo por desarrollar estrategias en el sector público, pero normalmente el énfasis no se pone en una aproximación desde los derechos humanos sino desde el progreso científico y económico. No obstante, la doctrina especializada lleva muchos años denunciando la necesidad de crear marcosadecuados ya sea éticos o jurídicos que
rijan estos desarrollos. Incluso las grandes compañías multinacionales focalizadas en estas tecnologías están empezando a publicarsus cartas de principios relativos a la inteligencia artificial[10] a modo de autorregularse.
A raíz de la pandemia de COVID-19 muchos gobiernos aceleraron la contratación de sistemas de IA con el sector privado para atender la emergencia sanitaria, sobre todo, aquellos programas utilizados por autoridades que facilitaron el acceso al sistema de salud pública o aspectos judiciales, donde es confuso determinar si la aplicación de estas produjo resultados discriminatorios de manera directa e indirecta en algún país de la región.
Debido a la ausencia de registros oficiales e información pública clasificada como reservada por los estados que obstaculizaron o permitiera realizar auditorías de los algoritmos u otros procesos automatizados en particular de datos personales, por esta razón, en el año 2021, la Organización de Estados Americanos (OEA) a través de su Departamento de Derecho Internacional de la Secretaría de Asuntos Jurídicos elaboró una serie de Principios Actualizados sobre la Privacidad y la Protección de Datos Personales[11] de aplicabilidad en el uso de tecnologías digitales emergentes, aunque el documento no establece aspectosconcretos en IA, aquí se reflejan unas serie de aproximaciones que podrían prevalecer entre los estados sobre la protección de datos personales e intimidad personal.
Entre ellos cita el documento: el consentimiento, las finalidades y medios para la captación y tratamiento de estos datos, el flujo transfronterizo y la seguridad de los datos personales, la protección especial a los datos sensibles, y el ejercicio de los derechos de acceso, rectificación, cancelación, oposición y portabilidad. Aunque son un primer avance en materia de datos personales, queda a criterio de cada uno de los Estados miembros de la OEA destinarlos a un modelo local de gobernanza de datos.
Por otra parte, la Comisión Interamericana de Derechos Humanos (CIDH) adoptó la Resolución No. 1/2020, el 10 de abril de 2020, fijando estándares y recomendaciones para orientara los Estados sobre las medidas que deberían acogeren la atención y contención de la pandemia, de conformidad con el pleno respeto a los derechos humanos, el cual cita: Romano VIII. Directrices sobre la protección del derecho a la confidencialidad, privacidad y uso de datos personales de las personas con COVID- 19, de la siguiente manera[12]:
<<37. Cuando los Estados desarrollen o contraten un sistema de inteligencia artificial con el sector privado, para atender la situación de pandemia, debe asegurarse que la tecnología contratada, incluyendo los algoritmos, cumpla con los principios de no discriminación y auditar en forma externa e independiente el impacto que pueda tener en los derechos humanos.>>
Siendo ambos instrumentos, un punto de referencia orientador hacia una protección armónica y efectiva en la protección de la privacidad en la era de la digitalización en nuestraregión, y pertinentemente quizás, elementosclaves a considerar en la construcción de nuevos modelos de gobernanza que refuerce los mecanismos de tutela judicial cuando el uso de la inteligencia artificial vulnere los derechos humanos de las personas.
[1] Robles Carrillo M. (2020). La gobernanza de la inteligencia artificial: contexto y parámetros generales. Revista electrónica de estudios internacionales. Volumen 39, pág. 6-27 [2] Vázquez Pita, E. (2022). La UNESCO y la gobernanza de la inteligencia artificial en un mundo globalizado. La necesidad de una nueva arquitectura legal. Anuario De La Facultad De Derecho. Universidad De Extremadura, (37), 273-302. https://doi.org/10.17398/2695-7728.37.273 [3] Robles Carrillo, M. (2020). La gobernanza de la inteligencia artificial: contexto y parámetros generales. Revista electrónica de estudios internacionales. Volumen 39, pág. 6-27 [4] UNESCO, “Proyecto de recomendación sobre la ética de la inteligencia artificial” https://unesdoc.unesco.org/search/N-EXPLORE-55b8eb8e-58ca-433e-93ae-31d845a2c977 [5] UNESCO, “Estudio preliminar sobre un posibleinstrumento normativo relativo a la éticade la inteligencia artificial”, LosEstados Miembros de la UNESCOadoptan el primeracuerdo mundial sobrela ética de la inteligencia artificial Conferencia regional (40 C/67) final de 30 de julio de 2019, disponible en https://unesdoc.unesco.org/ark:/48223/pf0000369455_spa [6] Gascón Marcén, A. (2021). “La protección de los derechos del individuo frente a las decisiones automatizadas en la Unión Europea”. Universidad de Zaragoza. Pág. 3-6 [7] Gascón Marcén, A. (2021). “La protección de los derechos del individuo frente a las decisiones automatizadas en la unión europea”. Universidad de Zaragoza. Pág. 3-6. [8] Cotino, L., Castillo, J. Salazar, I. Benjamins, R. Cumbreras, M. y Esteban, A. (2021) “Un análisis crítico constructivo de la Propuesta de Reglamento de la Unión Europea por el que se establecen normas armonizadas sobre la Inteligencia Artificial (Artificial Intelligence Act)”. Diario La Ley, WoltersKluwer. [9] García-Benítez, V. H., & Ruvalcaba-Gómez, E. A. (2021). Análisis de las estrategias nacionales de Inteligencia Artificial en AméricaLatina: estudio de los enfoques de Ética y de Derechos Humanos.Revista de GestiónPública 10 (1) ISSN: 0719-1839 https://revistas.uv.cl/index.php/rgp/article/view/3151/3042 [10] Gascón Marcén, A. (2020). “Setenta años de la Constitución italiana y Cuarenta años de la Constitución Española”. Centro de estudios políticos y constitucionales. Pág. 335-348. https://www.researchgate.net/publication/339687454_Derechos_Humanos_e_Inteligencia_Artificial [11]Organización de los Estados Americanos (OEA), “Principios Actualizados sobre la Privacidad y la Protección de Datos Personales” adoptados mediante la resolución AG/RES. 2974 (LI-O/21) de fecha 11 de noviembre de 2021. [12] Comisión Interamericana de Derechos Humanos (CIDH): “Directrices sobre la protección del derecho a la confidencialidad, privacidad y uso de datos personales de las personas con COVID-19 Resolución (1/2020) final, disponible en https://www.oas.org/es/cidh/decisiones/pdf/Resolucion-4-20-es.pdf