Los seres humanos siempre han creado herramientas que facilitan la vida en general, y ahora la tecnología ha jugado un papel importante en la creación de nuevos tipos de inteligencia para satisfacer esa necesidad. La inteligencia artificial (IA) surgió en la década de 1950 como resultado de la búsqueda de herramientas que pudieran ayudarnos a tomar mejores decisiones. (Alan Turing, 1950)
La inteligencia artificial es una tecnología poderosa que afecta de manera transformadora muchos aspectos de la vida y, de acuerdo con las Recomendaciones Generales para la Computación en Inteligencia Artificial de la Red Iberoamericana de Privacidad (RIPD), se interpreta como: un sistema que abarca una diversidad de técnicas y procesos de computación, cuyo objetivo es mejorar la capacidad de las máquinas para realizar muchas actividades que van desde modelos algorítmicos hasta sistemas de aprendizaje automático y técnicas de aprendizaje profundo.
Este sistema puede realizar predicciones, recomendaciones o decisiones que afecten tanto a entornos reales como virtuales.
La reutilización de datos que ya han sido recopilados evita la creación de nuevas bases de datos y, por lo tanto, ahorra costos y tiempo. Todos los sectores, como el transporte, la educación, la justicia, la seguridad en todos los niveles, incluidos los ejércitos, pueden beneficiarse de esta tecnología, por ejemplo:
1.- La optimización del tráfico de vehículos mediante el uso de datos de automóviles, teléfonos y sensores de la ciudad reduce la contaminación y los tiempos de conducción.
2.- Anticiparse a la escasez de cultivos y pronosticar la deforestación mediante el análisis de datos satelitales.
3.- Ayudar a combatir problemas globales como: cambio climático; hambre mundial; Reducción de la pobreza mediante la optimización de las ayudas económicas.
4.- En salud, la IA puede aumentar la eficiencia, generar nuevos conocimientos sobre enfermedades y acelerar el descubrimiento de nuevos fármacos, ayudar en la detección del cáncer y construir entornos inclusivos para las personas con discapacidad.
Es innegable que la inteligencia artificial permite abordar problemas reales con un rendimiento rentable, incorporando el tratamiento constante de datos personales y ampliando las posibilidades de análisis e identificación de los hábitos cotidianos de las personas.
Las innovaciones tecnológicas han puesto de relieve la discusión sobre el impacto, las consecuencias y las posibles violaciones de los derechos humanos del uso de la inteligencia artificial, lo que cada vez genera más problemas relacionados con la privacidad de los usuarios, pero también el derecho a la igualdad de derechos, la no discriminación, los prejuicios existentes contra los vulnerables. colectivos y el acceso a la justicia, que son los derechos humanos más vulnerados.
Derivado del informe de la ONU publicado en septiembre de 2021 que revela “el innegable y creciente impacto de las tecnologías de inteligencia artificial en el ejercicio del derecho a la privacidad y otros derechos humanos” 1.
Michelle Bachelet, la Alta Comisionada de las Naciones Unidas para los Derechos Humanos, ha instado en repetidas ocasiones a un análisis de las iniciativas y estrategias que se están desarrollando y a una moratoria sobre la venta y uso de sistemas de inteligencia artificial que amenazan gravemente los derechos humanos, para imponer hasta que se pongan las debidas garantías. en su lugar. Especialmente para la región latinoamericana, donde la desigualdad y la falta de garantías para la protección de los derechos son más latentes.
Experiencias en torno a la regulación de la IA
En abril de 2021, la Comisión Europea presentó una propuesta para regular la inteligencia artificial con un enfoque basado en el riesgo, introduciendo obligaciones de responsabilidad basadas en el impacto potencial de la aplicación de la IA, la llamada Ley de Inteligencia Artificial. dos.
Es la primera ley que pretende regular este sector. Si la Unión Europea (UE) tiene éxito, esta ley podría convertirse en el primer instrumento modelo para regular y monitorear la implementación de esta tecnología. En España ya está regulado el derecho a la inteligencia artificial previsto en el artículo 25 de la Carta Española de Derechos Digitales de 2021 3 .
En Latinoamérica, algunos países han presentado estrategias o políticas nacionales de inteligencia artificial para establecer lineamientos y referentes para la implementación de esta tecnología, casos como: Brasil, Colombia, Chile y Uruguay.
ética digital
En 2017, derivado del debate “Inteligencia Artificial: Sueños, Riesgos y Realidad”, de Biocat y la Obra Social La Caixa, que reunió a expertos en inteligencia artificial de todo el mundo, la Declaración de Barcelona 4 para el desarrollo y la promoción promovió el buen uso de la inteligencia artificial en Europa, que tiene como objetivo concienciar a la sociedad de los beneficios y riesgos del desarrollo de la inteligencia artificial y a quienes la diseñan, implementan o utilizan con los siguientes principios de prudencia, fiabilidad, rendición de cuentas, responsabilidad, autonomía límite y el papel del hombre .
En 2019, la Organización para la Cooperación y el Desarrollo Económicos (OCDE) emitió principios éticos para el uso y desarrollo de AI 5 que han sido adoptados por 42 países. En 2021, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) presentó el primer estándar global sobre la ética de la inteligencia artificial, que fue adoptado por los estados miembros de la UNESCO en su Conferencia General.
Este texto histórico establece valores y principios compartidos que guiarán la construcción de la infraestructura legal necesaria para asegurar el sano desarrollo de la IA. Estas regulaciones enfatizan cómo la tecnología refleja los problemas de
Sociedad, resumida a grandes rasgos en los siguientes puntos:
un-. La IA tiende a amplificar las diferencias de género existentes. Según la ONU, solo el 22 % de los expertos en IA son mujeres 6 . Los estereotipos se reproducen en tecnologías de IA. No es casualidad que los asistentes virtuales personales como Siri, Alexa o Cortana sean “mujeres” por defecto. El servilismo que expresan es un ejemplo de cómo la IA puede continuar reforzando y propagando el sesgo de género en nuestras sociedades.
dos-. Según la UNESCO, se espera que la IA genere un valor de casi 4 billones de dólares para 2022. Estados Unidos y China representan el 94% de toda la inversión en nuevas empresas de inteligencia artificial en los últimos cinco años. Para 2030, se prevé que los beneficios económicos sean mayores en China y América del Norte, lo que representa el 70 % del impacto económico mundial de la IA. Esta concentración en manos de unos pocos países de altos ingresos dejará muy atrás a los países en desarrollo.
3-. La OCDE está presionando por la rendición de cuentas, la forma en que las máquinas toman sus decisiones y los datos que procesan de cada persona deben ser transparentes, así como la tecnología de entrenamiento y los algoritmos antes de que se desvíen del objetivo para el que fueron creados.
4-. AI interpreta el mundo, reconoce fotos, rostros, pero se cree que solo es útil para personas privilegiadas. La ONU exige respeto por la diversidad de culturas y la diversidad humana. Necesitamos nuevos algoritmos que puedan argumentar y aprender sobre prácticamente cualquier tema de manera robusta y eficiente.
5-. Como se indica en la Declaración de Barcelona, las habilidades más difíciles de desarrollar son aquellas que requieren interacción con entornos no restringidos: percepción visual, comprensión del lenguaje, razonamiento razonado y toma de decisiones basadas en información incompleta. Necesitamos lenguajes de representación del conocimiento que codifiquen información sobre muchos tipos de objetos, situaciones, acciones, sus propiedades y las relaciones entre ellos.
Se debe reconocer la importancia del conocimiento humano sobre el uso de la inteligencia artificial. Los usos y aplicaciones de la IA pueden tener impactos positivos y negativos en los derechos humanos, dependiendo de cómo se desarrollen y utilicen, pero más importante aún, del nivel ético con el que se regulan esos usos. La IA da sentido a los datos a través de la interpretación de algoritmos, por lo que se espera que la IA desempeñe un papel importante en la configuración de la competitividad y la productividad globales en las próximas décadas.
Como dice la UNESCO, necesitamos una inteligencia artificial centrada en el ser humano que debe estar en el mejor interés de la humanidad y no al revés. Es necesario tener “reglas claras” que limiten su comportamiento y aclaren quién es el responsable de sus aciertos, fracasos o errores. Necesitamos reflexión colectiva, seguridad ante la acción y que se respeten siempre los principios de la ética y la dignidad humana.
1 https://news.un.org/es/story/2021/09/1496782
2 https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-
01aa75ed71a1.0008.02/DOC_1&formato=PDF
3 https://www.lamoncloa.gob.es/presidente/actividades/Documents/2021/140721-Carta_Derechos_Digitales_RedEs.pdf
4 https://www.biocat.cat/sites/default/files/sinopsibdebate_artintelligence_es.pdf
5 https://oecd.ai/en/ai-principios
6 https://news.un.org/es/story/2022/02/1504012#:~:text=Solo%20el%2022%25%20de%20los,leadership%20en%20las%20
Empresa%20tecnológica%C3%B3gic.
Jonathan Mendoza Iserte, Secretario de Datos Personales del INAI @JonnhyMendoza
Daniela Reyes Torres @danyreyest
MAAZ
