zzzr. Inteligencia artificial y derechos humanos

 

Entre la inteligencia artificial y los derechos humanos. 

Algunas reflexiones a propósito de Blade Runner 2049 

 

Edwin Figueroa Gutarra[1]

 

Sumario 

Introducción. 1. Contexto del presente estudio: un análisis de Blade Runner 2049. 2. Temas centrales de la película. 3. Necesidad de un debate filosófico en la relación IA – DD.HH. 4. Principios guía para el desarrollo de la IA. 5. Retos que plantea la IA para el Derecho. 6. Oportunidades y riesgos a partir del binomio IA- DD.HH. Ideas a título de conclusión

 

 Introducción 

Las relaciones a plantear entre Inteligencia Artificial IA y los derechos humanos revelan parámetros de suma complejidad, en la medida que los retos a afrontar, a partir de la irrupción de la IA en el mundo contemporáneo, son numerosos. De ahí que nos preguntemos si acaso podemos referirnos a una vinculación de complementariedad y convergencia, o acaso a un paralelismo que deba involucrar caminos separados, vigilantes el uno del otro y en medio de cierta desconfianza.

La interrogante a plantear es frontal: ¿será la IA, a través de su naturaleza cada vez más expansiva, un medio idóneo para mejorar la observancia, vigencia y respeto de los derechos humanos en el mundo? O, por el contrario, ¿implicará la IA una posibilidad de alto riesgo para los derechos humanos, si avanzados programas informáticos ocultan avanzados y casi indescifrables sesgos cognitivos, prevaleciendo así una cultura vertical de los algoritmos en perjuicio de estos derechos?  Sobre este mismo particular, sin duda es un riesgo que la humanidad acaso pueda involucionar de una cultura de la progresividad de los derechos humanos a una cultura de los algoritmos, en donde todo ser humano pueda figurar categorizado, en clave cerrada, a partir de sus creencias, convicciones e interacciones entre la realidad y el mundo virtual.

No existe aún, creemos, una respuesta categórica a las cuestiones planteadas y, sin embargo, sí podemos afirmar que es viable una tesis de exigencia de una IA en necesario equilibrio con los derechos humanos, y en ese propósito, la normatividad y doctrina comparada ostentan, desde ya, un conjunto de instrumentos y preceptos que propenden a definir una cultura de vinculación y convergencia, y no de paralelismo o exclusión mutua. En ese propósito, son exigibles un conjunto de principios mínimos que irradien de máximas adecuadas los desarrollos de la IA, los cuales cada vez se afianzan más en nuestra realidad del día a día. Igualmente, es exigible un plano ético que sirva de marco humanista a la IA. De esa forma, los humanos estamos, hogaño, más que ante un escenario de interconexión IA y derechos humanos, frente a una interacción continua entre los seres humanos y la IA.

Lo descrito supra demanda acciones concretas y una de ellas es que resulta necesario dotar de contenidos materiales a la IA, pues, al fin y al cabo, ésta no puede ni debe obviar un enfoque humanista de los derechos y, de la misma forma, los derechos humanos necesitan de la IA para una mejor concreción de sus contenidos.

Pretendemos en estas líneas, en consecuencia, a partir de las líneas matrices de un análisis objetivo respecto a un argumento futurista cuyos alcances se describen, trazar algunas de esas necesarias sinapsis, o conexiones de fuerza, entre IA y derechos humanos.

 

1. Contexto del presente estudio: un análisis de Blade Runner 2049 

El Centro de Estudios Constitucionales del Tribunal Constitucional del Perú aborda un reto de enorme interés, a propósito de la idea de enfocar aspectos constitucionales y relativos a los derechos humanos, en reconocidas producciones cinematográficas y televisivas. En desarrollo de ese propósito, consideramos algunas reflexiones a propósito de la película Blade Runner, (El cazador implacable) 2049, un relato futurista que abarca el tema de complejas relaciones entre seres humanos y entidades cuasi humanas creadas por la bioingeniería, denominadas replicantes.

El director del film es Dennis Villeneuve y data esta producción cinematográfica de 2017. Sus actores y actrices principales son, entre otros, Ryan Golsing, como Joe, oficial K del Departamento de Ploicía, de los Ángeles, Harrison Ford, como Rick Deckart; Sean Young como Rachael; y Jared Leto, como Wallace, un fabricante de replicantes.

Grosso modo, en cuanto al argumento central, tenemos que hacia el año 2049 determinados replicantes, o seres con forma humana creados a partir de la bioingeniería están incorporados en la sociedad. K tiene la función de cazar y eliminar antiguos modelos de replicantes. Una investigación de K acerca del Movimiento de Libertad Replicante lo conduce a una granja, donde elimina a un replicante clandestino. En este lugar, examina una caja enterrada con aparentes restos óseos  y el análisis forense del caso revela que corresponden a una replicante femenina, Rachael, quien falleció tras una cesárea de emergencia. Esto desconcierta a K pues el embarazo en replicantes se habría entendido imposible. A su vez, éste recibe órdenes superiores de eliminar todo vestigio de este incidente, e incluso de eliminar al niño que hubiere nacido de la replicante concernida.

A partir de aquí, la historia desarrolla esbozos de mayor acción, entre crímenes y acciones de investigación sobre la historia real tras el descubrimiento óseo. En su averiguación, K logra informarse que la replicante tuvo una relación con otro veterano bladerunner llamado Rick Deckart  desaparecido 30 años antes.

Wallace, un fabricante de replicantes, ordena a una replicante ejecutora robar los restos de Rachael, la replicante del embarazo, y seguir a K para encontrar al hijo de ésta. El objetivo de Wallace era, a partir del niño, conducir una nueva generación de replicantes. Tras varios incidentes, K es herido mortalmente y Deckard sabe finalmente que fueron gemelos los niños concebidos y que sobrevivió una hija mujer. Finalmente, éste conoce a su hija, y le hace saber que él guarda, en lo profundo de su memoria, los mejores recuerdos de ella.

La historia se desenvuelve en un mundo de avanzado desarrollo tecnológico en el cual la IA altamente tecnificada es una constante del modo de vida de esa sociedad futurista.

 

2. Temas centrales de la película 

Sin la intención de ser exhaustivos, hemos querido graficar, a grandes rasgos, algunas de las cuestiones principales que nos presenta la historia en comento para, a partir de ese eje de reflexiones, discurrir por algunos otros razonamientos vinculados al tema que nos ocupa.

Uno de los temas centrales en la trama del film acotado es el de los efectos de la tecnología en relación a los derechos humanos. Nos preguntamos con interés: ¿puede acaso un ser cuasi humano concebir como sucede en la trama de la película? Rachael, la replicante mujer, en su relación con Deckard, replicante varón, concibe dos vástagos, y a partir de aquí se nos presenta la reflexión de si este rol de procreación, solo potestativo de los seres vivos, acaso se puede extender no en estricto a los robots, sino a seres creados por la bioingeniería, llamados replicantes en este film.

Podríamos argüir, entonces, que un replicante no es en estricto una máquina, sino una adaptación de los seres humanos a partir de técnicas de bioingeniería. Ahora bien, ello implicaría extender el derecho a realizarse como padres a quienes no tienen un status de ser humano en su integridad. Es una interrogante a determinar: ¿será necesaria, a futuro, una ostensible modificación de nuestras Constituciones para permitir la paternidad de seres creados por bioingeniería? La pregunta es retadora en la medida que los humanos conservamos una calidad única en el mundo contemporáneo, y somos sujetos de derechos, pero ¿extender esa condición a otros seres no amenaza acaso nuestra prevalencia?

Advirtamos que aquí tiene lugar, igualmente, un escenario de profundas raíces éticas en esa compleja relación IA- derechos humanos, pues existe un aspecto relevante: ¿jugaría contra principios de la ética que el ser humano, al desarrollar una tecnología de avanzada, pueda conferir una condición de cuasi seres humanos a los replicantes, quienes son un esbozo de humanos? La interrogante nuevamente necesita de mayores elementos de apoyo para ser aclarada, pues observemos que, en buena cuenta, es el propio ser humano quien fija el alcance de desarrollo de la IA. Valga precisar que la IA por sí misma no puede discernir, es el ser humano quien le enseña a desarrollar relaciones de complejidad y, por supuesto, nos preguntamos si pudiera adquirir la máquina, en algún momento de la evolución que marcan los propios humanos respecto a ella, la condición de ser pensante.

Otro ámbito de análisis se expresa, en relación a esta película, en cuanto a las concesiones del ser humano frente a la IA, lo cual nos pone nuevamente en un atolladero ético. La IA avanza a una velocidad de crucero en relación a las capacidades convencionales del ser humano, esto es, aquella desarrolla una capacidad de resultados infinitamente superior a la de los seres humanos.

Las máquinas, enseñadas por el hombre, nos superan, entonces, en la capacidad de desarrollar altas velocidades de inferencias. Como dato colateral, según el programa Pretoria, un software muy avanzado en la Corte Constitucional de Colombia, una persona puede, bajo rangos regulares, leer 30 expedientes en un día, sobre la materia y especialidad del alto Tribunal,en tanto que el acotado programa podría elaborar 2700 resoluciones en ese mismo lapso de tiempo (Oquendo, 2020, párr. 4). O, de otro lado, podría potenciarse hasta en 90 veces, a través del programa PROMETEA, de la Fiscalía de la Ciudad Autónoma de Buenos Aires, Argentina, la preparación automática de dictámenes judiciales. (Estevez, Fillotrani, Linares, 2020)

La pregunta fluye naturalmente si volvemos al film: ¿cuántas concesiones deberá realizar el hombre respecto a sus principios éticos para admitir que seres creados por bioingeniería puedan ser padres? ¿se trataría de otro status de personas? ¿estarán en las mismas condiciones que quienes somos humanos de origen? ¿Deberían tener un catálogo mínimo de derechos a partir de la noción de que también sienten?

Enfocamos este aspecto como un problema de concesión y naturaleza ética, o si se quiere, de aceptación nuestra, como titulares de derechos, en el sentido de que otro estamento de seres pueda ostentar, en forma similar, nuestros mismos derechos. El ámbito de la concesión interna que debe realizar el hombre para admitir otro status biogenético no es un tema menor. Se trataría de coexistir con otros grupos que inicialmente son creados por el mismo hombre pero que, dado el avance inexorable de la ciencia, y según el argumento de la película en comento, sí pueden concebir en el tiempo de realización del contexto temporal del film.

Resulta otro tema de interés apreciar una ciencia ficción cada vez menos lejana a través de la ingeniería genética. Las premisas son objetivas: los obstáculos que vence el ser humano, en una carrera por la conquista de nuevos objetivos científicos, cada vez son más numerosos. No estamos aún en capacidad de alcanzar la velocidad de la luz – 300,000 km por segundo- pero en su viaje a Marte el rover Perseverance, tras más de 6 meses y 480 millones de km de distancia, viajó a una velocidad promedio de 20,000 km. por hora (Mundo Deportivo, párr. 2 y 3). Para el planeta Tierra esta última velocidad resulta sencillamente impensable.

Sobre este mismo aspecto,Blade Runner 2049 nos presenta, de otro lado, entre varios detalles técnicos, vehículos suspendiéndose y trasladándose por el aire, así como una tecnología de arquitectura y diseño de edificios y ciudades inteligentes muy desarrollados, y de ahí su percepción futurista. La distancia cronológica que nos separa de ese entorno puede variar en más o menos decenios, pero existe una cuestión tangible: la IA avanza inexorablemente a pasos agigantados, y ese escenario de futuro resulta cada vez menos lejano. Sería presuntuoso instalar un enorme reloj de arena para verificar cuándo llegará la humanidad a concretar las escenas de IA del film materia de análisis, y sin embargo, es finalmente un tema de cronómetros que la ciencia logre ese nivel de evolución.

La pregunta compleja, por cierto, es si se ha de lograr esos escenarios con una calidad de avance de los derechos humanos, o si éstos acaso han de acusar regresividad en sus contenidos. La trama de la película, al conceder progenie a los replicantes, sin duda nos pone en un escenario que la ciencia aún no alcanza pero, conforme a nuestro argumento en este acápite, el asunto en concreto es cuánto tiempo más ha de involucrar a la IA hacer posible el embarazo de seres creados por procedimientos de bioingeniería, y si acaso esto no involucra un elemento de interferencia directa con la ética material de los derechos humanos. Desde luego, ello constituye un debate que trasciende el contexto meramente legal del asunto, y se convierte en un problema no solo constitucional sino convencional en rango de principios.   

No podíamos dejar de advertir en esta película, adicionalmente, un aspecto de interés y nos referimos a la cuestión de principios de las corporaciones multinacionales, al pretender el dominio de la naturaleza. Sin duda, parte de la fuerza de la trama de la película se apoya en el intento de Wallace, dueño de una gran corporación, por lograr una nueva generación de replicantes, a partir de la noticia objetiva de que es posible que ciertos replicantes procreen. El argumento no es menor en cuanto precisamente se configura un fin utilitario,y serían las grandes corporaciones, cual villanos, quienes desarrollan el trabajo, a veces desleal, de utilizar los medios necesarios, incluso ilegales, para conseguir sus objetivos, en aras del fin de maximización de sus propias utilidades.

Aquí se presenta un conflicto de relieve con los derechos humanos,en la medida que precisamente sí existe una faceta de riesgo en el desarrollo de la IA, y ya habíamos aludido a esta cuestión supra como un riesgo de la cultura de los algoritmos, o como lo denomina Martínez, (2019, p. 183) a «la cultura del algoritmo», en referencia al fenómeno de la supuesta fiabilidad de las máquinas, y que acabemos por creer en ellas.

Y en esta misma lógica, ¿quiénes construyen los softwares de IA? Precisamente áreas de gobiernos y corporaciones privadas, cuyo actuar presumimos, basados en una cultura de la confianza, es de buena fe. Y, sin embargo, ¿podría una empresa privada intentar maximizar beneficios acomodando el uso de algoritmos para segmentar y excluir, por ejemplo, determinados grupos, digamos mujeres, en determinadas políticas de contratación?

Sobre este mismo particular Asis de Roig reseña que » el 24 de octubre de 2019, el periódico El País, publicaba que un equipo de investigadores había demostrado que un algoritmo usado para analizar los riesgos para la salud de millones de pacientes en EE.UU., discriminaba sistemáticamente a la población negra.»(2020, p. 3)

Martínez es incluso más enfático al señalar que «el gobierno del algoritmo no puede constituir el gobierno de la ley» (2019, p. 185), y la afirmación es una llamada de atención para que exista una relación de equilibrio, transparencia y fiabilidad en el diseño de la información que se levanta a partir de nuestras interacciones en el mundo virtual. De ahí la exigencia de que existan un conjunto de principios guía sobre la materia, aspecto del cual nos ocupamos más adelante.

Constituye un segmento final de análisis de la película materia de comentario el significado de la condición humana o la alienación del ser no estrictamente humano en la sociedad actual. El film nos presenta la figura del replicante como una alegoría del ser humano.

Insistíamos líneas arriba en dos términos que consideramos cruciales para afrontar este aspecto de la condición humana. Nos referimos a la concesión misma del hombre frente al desarrollo de otros seres similares a nosotros, por un lado, y, por otro, al escenario de la ética de la IA en su relación con los derechos humanos.

Ciertamente la concesión de entender la viabilidad de la vida autónoma en otros seres, creados por el mismo género humano, representa, desde ya, una posición de concesión. De ocurrir ello, dejamos de lado el plano de afirmación de la premisa del ser humano, en su concepción biológica, como único ser racional que procesa la premisa de su descendencia, y esto, desde ya, es una renuncia a nuestra condición de únicos seres dueños del medio de vida que nos rodea. En esa concesión, entonces, juega un rol fundamental el aval ético que adopta el ser humano respecto a su condición misma.

Es verdad que nos referimos a un escenario muy hipotético al prever la posibilidad de progenie de otros seres racionales y, sin embargo, no nos atreveríamos a afirmar que ese escenario sea de plano incongruente con lo que pueda suceder en las próximas décadas. El futuro ya no necesariamente es pasado mañana, el futuro puede ser mañana u hoy.      

 

3. Necesidad de un debate filosófico en la relación IA – DD.HH. 

Creemos necesario, en el contexto de las reflexiones acotadas, extender ciertas digresiones a contextos complementarios de no menor interés. De esa forma, un ámbito de examen de ideas es la referencia a los espacios filosóficos que demanda la IA, pues asumimos, en condiciones normales, una posición a favor o en contra de ella.

Asis de Roig (2020) plantea dos posturas en relación a las nuevas tecnologías: 

Por un lado, están los bioconservadores,que subrayan las consecuencias desastrosas que los avances tecnológicos pueden producir a la humanidad y al medio ambiente, y por otro los transhumanistas, que pretende emplear la tecnología para mejorar la vida de las personas y para resolver los problemas sociales contemporáneos. Las diferencias entre unos y otros son sensibles y se proyectan tanto en el ámbito epistemológico, como en el ontológico y en el deontológico». (p. 5)  

De suyo lo afirmado nos exige tomar posición en la medida que entre ambas posiciones, es innegable que la humanidad ha logrado y seguirá logrando avances cuantitativos y cualitativos en la calidad de vida de los seres humanos, a partir de la cada vez mayor suficiencia de los sistemas de IA.

El aspecto neurálgico reside en cuál debe ser la dimensión de ese crecimiento de la IA, y en relación a ello es necesario entender la exigibilidad de una posición transhumanista, que a su vez guarde condiciones de razonabilidad y proporcionalidad. En ese contexto, son los principios de la IA, cual vectores guía para la conducta de los humanos en el desarrollo de estos sistemas, los baremos que nos han de permitir un desarrollo con equilibrio de este tipo de inteligencia.

Negamos el valor de una teoría bioconservadora en la medida que renunciar al progreso de la IA, por las implicancias de riesgo que ella involucra, desdice el Volksgeist del progreso, o espíritu del pueblo progresista, y si hubiera sido así siempre, quizá ni Cristóbal Colón se hubiere aventurado más allá del Puerto de Palos de la Frontera, en Huelva, España, en 1492, o quizá el ser humano inclusive ni hubiere optado por aceptar la aventura de la conquista de la luna en 1969. La condición humana es de progreso implícito y, como tal, los retos del avance inexorable de las ciencias son una cuestión ineludible para todas las generaciones.

Asis de Roig destaca un aporte adicional de valor en relación a esta misma reflexión, y alude a que «se habla de ausencia de referentes éticos para hacer frente a los problemas sociales que son consecuencia de la evolución de la ciencia y la tecnología.» (2020, p. 5)Es de advertirse que se trata de un riesgo tangible. En concreto se nos puede desbocar la IA en algún momento de la evolución y, sin embargo, es un marco principista el elemento sustantivo que implique un desarrollo de la IA dentro de estándares de aceptabilidad. Ello demanda no solo pactos éticos sino la implementación misma de ese conjunto de principios dentro de los sistemas normativos de la IA. Entonces, una parcela del ordenamiento jurídico debe involucrar políticas públicas que fijen este marco de desarrollo, y en ello tienen competencia de base los gobiernos.

Entonces, si «la realidad es que la inteligencia artificial no siga estando separada de los derechos» (Roig, 2020, p. 11), es exigible que las IA sean elementos de las políticas públicas, a efectos de que no se configuren situaciones de vulnerabilidad, en la medida que un crecimiento de la IA sin un marco ético conceptual que guíe su desarrollo, finalmente les otorgaría razón a las posiciones bioconservadoras que observan en la IA un potencial riesgo para el género humano.

 

4. Principios guía para el desarrollo de la IA 

Asis de Roig (2020, p. 7) enuncia, entre diversos instrumentos de valor internacional, un conjunto básico de estos principios, a partir de un Comunicado de la Comisión Europea de fecha 08 de abril de 2019, respecto a los 7 requisitos esenciales para lograr una inteligencia artificial viable. Estos son: i) intervención y supervisión humanas; ii) robustez y seguridad; iii) privacidad y gestión de datos, iv) transparencia, v) diversidad, no discriminación y equidad, vi) bienestar social y medio ambiental y; vii) rendición de cuentas.

Se trata, advertimos, de una franja mínima de principios a ser observados en el desarrollo de la IA, en la medida que, sin un basamento de rigor para el desarrollo de ésta, la IA corre el riesgo de hipertrofiarse bajo fines netamente utilitarios, y así podríamos tener máquinas que pudieran matar por órdenes de un ser humano, o bien sistemas que pudieran ilegalmente invadir la privacidad de una persona, por medio de la IA, para luego chantajearla con fines ilícitos, etc.

En relación a los principios enunciados, coincidimos con sus contenidos materiales. La  intervención y supervisión humanas, en relación a la IA, son necesarias, ineludibles y exigibles, en la medida que la IA no tiene un rango de autonomía total frente al hombre, sino es éste el programador de la IA. En adición a ello, los sistemas de inteligencia de esta naturaleza deben facilitar sociedades equitativas.

Son necesarias, igualmente, nociones de robustez y seguridad, en cuanto es exigible el marco de una IA que nos persuada de una sociedad fuerte, además de confiable, en cuanto al uso de sus avances tecnológicos. Lo contrario sería un escenario de caos en el cual nadie se sentiría seguro por la irrupción excesiva de la IA. De la misma forma, los algoritmos deben ser suficientemente seguros.

La privacidad y gestión de datos es otro ítem de suyo exigible. La IA solo se puede desarrollar a través de plataformas que no invadan excesivamente, en forma desproporcionada, la vida personal de los seres humanos, así como es exigible, de suyo, un contexto de eficiencia en la gestión de la información de las personas. Experiencias complejas como las de Cambridge Annalytica(Gascón, 2020, p. 342) pueden convencernos de que la ausencia de una buena gestión de datos de suyo implica un riesgo para nuestra privacidad misma. 

La transparencia es otro valor de exigencia base en el marco de la IA, en cuanto debe garantizarse la trazabilidad de los sistemas de aquella. Un riesgo que enfrentan los seres humanos reside en el aspecto objetivo de que una IA distorsionada pudiera acaso encubrir, como hemos anticipado supra, políticas de discriminación tan eficientemente cubiertas, que incluso su detección pudiera resultar una tarea sumamente compleja. En ese orden de ideas, la IA debe implicar un marco de escrutinio público y oficial que nos permita examinar que el desarrollo de la misma se efectúa dentro de los parámetros mínimos de razonabilidad y proporcionalidad de un Estado democrático y social de derecho, en el cual la discriminación positiva desarrolle pautas de compatibilidad con la Constitución.

Sobre este mismo aspecto, señala Cotino que » la falta de transparencia resulta uno de los problemas claves para afrontar los usos del big data y la inteligencia artificial. Frente a ello ahora se aboga por la “responsabilidad” y la transparencia algorítmicas». (2017, p. 142) 

El valor que acabamos de acotar desemboca en otros principios como son diversidad, no discriminación y equidad, que a su vez persiguen garantizar la accesabilidad. En efecto, el correlato final de la transparencia es propiamente un escenario de no discriminación, o para precisarlo con más acuciosidad, de ausencia de discriminación negativa, y ésta se traduce en equidad, entendiéndose ésta como un valor humano necesario en el propósito de alcanzar la justicia.

La diversidad, a su vez, nos conduce a los diferentes modos de convivencia democrática entre la IA y los derechos humanos. Las sociedades son diversas por naturaleza y es una exigencia para el hombre encontrar relaciones de cohesión a partir de una IA que respete la heterogeneidad humana.    

Los principios de bienestar social y medio ambiental igualmente deben ser entendidos como objetivos a alcanzar en el desarrollo de la IA, pues en perspectiva es el ser humano el fin último de los derechos, no las máquinas. Éstas, en rigor, son medios para la consecución del bienestar humano y, por consiguiente, el desarrollo de la IA debe buscar un plano de real identificación con ese propósito. También deben perseguir estos fines aumentar la sostenibilidad y responsabilidad ecológicas.

Por último, la rendición de cuentas constituye otro mecanismo de verificación en busca de una sociedad más democrática, perfilándose así se garantice la responsabilidad de los sistemas de IA. No existe, en propiedad, verdadera democracia de arraigo sin mecanismos que nos permitan fiscalizar la labor de los gobiernos, y la IA no puede escapar a esta delicada parcela del ejercicio de los derechos ciudadanos.

Desde otra perspectiva, podemos rescatar como antecedente y en el marco de los principios que enunciamos, aunque desde otro ángulo, esta vez en la dimensión de la misma literatura, la propuesta de las 3 leyes de la robótica de Asimov, formulada en su relato «Círculo vicioso», de 1942, a saber: «1. Un robot no puede dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño; 2. Un robot debe cumplir las órdenes de los seres humanos, excepto si dichas órdenes entran en conflicto con la Primera Ley; 3. Un robot debe proteger su propia existencia en la medida en que ello no entre en conflicto con la Primera o la Segunda Ley.» (El País, 2017, párr. 4)

El interés de este razonamiento de Asimov, en la primera mitad del siglo XX, ya establecía un rango de compatibilidad, aunque desde la ficción de sus relatos, entre la conducta humana y los robots como creación humana. Sus leyes son plenamente válidas con los principios que hemos enunciado in extenso líneas arriba.

 

5. Retos que plantea la IA para el Derecho 

Una primera reflexión que formulamos es si acaso la IA pueda superar el cerebro humano. En 1997, Gary Kasparov, campeón mundial de ajedrez, fue derrotado por la computadora Deep Blue, una máquina perfeccionada por IBM. ¿Podríamos denominar a esto un danger of robotization, o peligro de robotización, como enuncian Chakraborty y Bhojwany(2020, p.20)?

Como anotan los mismos autores «In European nations, robot utilization began with a number close to 0.6 robots per thousand workers in the mid-1990s, and expanded quickly to 2.6 robots per thousand specialists in the late 2000s.»(Chakraborty et al., 2020, p. 19), lo que en traducción libre puede entenderse como un rango de utilización de 0.6 robots por cada mil trabajadores en los años noventa, estándar que se incrementó a un rango de 2.6 robots en los años dos mil. Es objetivo constatar que esta tendencia ha de seguir creciendo en los siguientes decenios y volvemos a una pregunta de rigor: ¿habrá límites para el crecimiento de la IA?

Las reflexiones anotadas supra definen, objetivamente, que el mundo va cambiando de sitio constantemente a raíz de los efectos de desarrollo de la IA, lo cual se traduce en perspectivas de cambio sustantivas en todas las áreas del Derecho, sin excepción. Sin apelar a una línea de exhaustividad, podemos seguir las pistas de una aproximación de cambios que la IA ha de definir para la teoría del Derecho, el Derecho constitucional y el Derecho internacional de los derechos humanos, fundamentalmente en cuanto se reflejan escenarios de cambio respecto a la forma en que hemos venido entendiendo estas facetas del Derecho.

De esa forma, para la teoría del Derecho, la IA implica un cambio sustantivo en cuanto a nuestro modo de entender la raíz de los derechos. Hasta ahora, de alguna forma, la interpretación del Derecho se ha realizado desde una perspectiva de asumir un Derecho positivo y una teoría post- positivista del Derecho si nos referimos a los últimos siglos. La IA redefine ese esquema en la medida que replantea cómo debemos asumir el Derecho desde una dimensión de procesamientos modernos veloces que implican a su vez interacciones en interfases velocísimas como las redes sociales, nuestros teléfonos celulares, el acceso a internet, etc.

En esa línea de pensamiento, es válida la reflexión de Martínez en tanto » pensar es procesar, y procesar es transformar complejidad. Los derechos (…) requieren poner en práctica un pensamiento complejo. (…)Son productores de complejidad, a la vez que transmisores de complejidad humana y social.Son garantes de la complejidad del ser humano (…).» (2019, p. 170)

Por cierto, el Derecho ya no es el mismo si, en esquema, debe someterse a un proceso analítico desde la IA. Es importante tener presente al respecto que » entregado al aprendizaje automático un ordenador que “piense” por sí mismo y pueda moverse con soltura en el mundo jurídico, podría suscitar nuevas conexiones y plantear innovaciones. Es posible que las máquinas inventen, o que nos ayuden a inventar. Es el viejo sueño de un ars combinatoria, de una aritmetización capaz de estimular el ars inveniendi de los juristas.»(Martínez, 2019, p. 171)

En este esquema de cambios en el ámbito de la teoría del Derecho, por supuesto que existe incidencia directa, también, en cuanto a cómo los jueces conceptualizan la forma en que han de decidir las controversias a partir de la IA. De esa forma, deviene importante anotar algunas reflexiones sobre la IA a propósito de la tarea de los jueces al decidir en los casos concretos. Al respecto es importante tener en cuenta que » cuando se plantea la posibilidad de servirse de los instrumentos informáticos para poder representar los procesos mentales que realizan los jueces previos a dictar sentencia, la respuesta que se recibe son los preconceptos de quienes sostienen que es imposible sustituir la subjetiva apreciación del juzgador por la evaluación mecánica de un aparato por muy sofisticado que este sea.» (Martínez, 2012, p. 827)

En consecuencia, de modo objetivo, la IA involucra esas relaciones de conexión entre la IA y los derechos humanos, pues por cierto habrá que atender a la naturaleza de los derechos desde parámetros de interpretación diferentes, como el movimiento enorme de datos en la red, la irrupción de las tareas de robots en plazas laborales antes exclusivamente de humanos, etc.

Para el Derecho constitucional los derechos fundamentales no deberán acusar una reducción de sus contenidos por parte de la IA. En ese orden de ideas, entre otros ejemplos de nuestra afirmación » todo individuo tendrá derecho a no estar sujeto a una decisión que le afecte significativamente basándose únicamente en un procesamiento de datos auto­matizado sin que se tenga en cuenta su opinión. El Consejo de Europa se propone elaborar en los próximos años un convenio internacional que limite los impactos negativos de la inteligencia artificial en los derechos humanos.» (Gascón, 2020, p. 344)

Es previsible, conforme se viene desarrollando en todos los ordenamientos jurídicos, que a partir del marco ético material que debe acompañar la IA, las Cartas Fundamentales de los Estados incorporen los principios de desarrollo de la IA, a fin de lograr relaciones de equilibrio.  En ese orden de ideas, habrá un marco constitucional compatible con la IA para un desarrollo iusfundamental de ésta.

Para el Derecho internacional de los derechos humanos, la IA insta a que los convenios marco de estos derechos en los ámbitos de protección regional de estos derechos, proyecten, normativa y jurisprudencialmente, referentes para el desarrollo material de la IA.

Lo normativo tendrá lugar en relación a cada Estado parte al interior de su ordenamiento jurídico mismo. Pero el desarrollo expectante tendrá lugar, a juicio nuestro, en el ámbito de las decisiones de los jueces. En ese sentido, prevemos que la Corte Interamericana de Derechos Humanos, el mismo Tribunal Europeo de Derechos Humanos, y la Corte Africana de Derechos Humanos, han de incorporar en los próximos años, decisiones trascendentes en esta materia. Un esbozo de interés ya ha tenido lugar al configurarse el «derecho al olvido» en una decisión expedida por el Tribunal de Justicia de la Unión Europea en el caso Mario Costeja vs. Google(Court of Justice of the European Union, 2014), un celebrado caso que involucró discusiones de orden tecnológico respecto a la vigencia en el tiempo de las informaciones incorporadas en motores de búsqueda en el ciberespacio, y que concluyó con una decisión a favor del ciudadano español.  

 

6. Oportunidades y riesgos a partir del binomio IA- DD.HH. 

La compleja relación hombre – máquina conlleva a que una visión de balance razonable de la irrupción de la IA en la escena contemporánea, nos plantee discernir que existen riesgos a confrontar por parte de la IA en el desarrollo de los derechos de las personas, pero a su vez tienden a proyectarse mejores oportunidades y, tentativamente, son más los beneficios a optimizar que los perjuicios a temer. 

Como anota Martínez » la inteligencia artificial puede ser sólo operativa, pero la humana es radicalmente imaginativa»  ( 2019, p. 177). Si bien esta afirmación nos conduce a un escenario de subordinación de la máquina al hombre, pues es éste quien la programa, podemos especular con un escenario de desarrollo potencial elevado de la IA, lo cual nos conduce a reflexionar sobre los riesgos de la IA misma si no se verifica razonablemente su crecimiento.

Veamos algunas de las potencialidades a favor que puede comprometer la IA. De esa forma, es importante aprovechar la optimización que potencialmente representa ésta para distintos campos del Derecho. Un ejemplo de interés es señalado por Martínez G., quien anota que » Expertius es un sistema experto de apoyo a la toma de decisiones judiciales en el dominio del juicio de alimentos. Ha sido desarrollado por el Departamento de In­teligencia Artificial aplicada al Derecho del Instituto de Investigaciones Jurídicas de la UNAM.»(2012, p. 841) Sin duda es favorable que sistemas de IA puedan facilitar el trabajo judicial. La reducción de horas hombre para el análisis descriptivo de problemas jurídicos es una variable de fuerza a favor de la IA.

Otro factor a favor de la IA, como correlato de lo antes acotado, es la maximización del trabajo, en la medida que el ítem de horas hombre que requieren ciertas tareas habrá de verse reducido a partir de la automatización de ciertas labores. Por ejemplo, si ingentes labores que demandaban muchas horas de esfuerzo pueden verse reducidas en términos de tiempo, de suyo existe un ahorro de presupuesto, y ello, prima facie, por supuesto que redunda en menores costos de producción. Y evidentemente, esto último encuentra correlato en precios finales menores al consumidor respecto de diversos productos que las sociedades modernas demandan.

Igualmente, y en esta misma idea, la IA plantearía la aparición de nuevos derechos, y en ese orden de ideas, «incluso hay que plantearse el reconocimiento de nuevos derechos, como podría ser un derecho a la criptografía.» (Cotino, 2017, p. 137) Esta atingencia es de valor en cuanto expresa una dimensión del derecho a la privacidad. En otros términos, se configurará un escenario que ciertamente habrá de permitir, en un mundo pleno de irrupción de las redes sociales, un elemento no a contracorriente de ellas, sino entendiéndose una identidad digital nuestra que goce del derecho a la privacidad.

Existen, de otro lado, riesgos tentativos y es necesario admitirlo. Chakraborty anota que «Elon Musk has cautioned that computerized reasoning could turn into mankind’s “greatest existential risk.” (2020, p. 30), a lo cual agrega que » «Numerous reporters are worried that AI will kill employments, worsen imbalance, and dissolve wages.» (2020, p. 31). Nuevamente, en traducción libre, tendríamos que, en rigor, la IA significaría un gran riesgo existencial para el género humano, y ello podría incluso implicar la pérdida de empleos, empeorar los desequilibrios, e incluso disminuir los salarios.

Baste para esta referencia la mención al robot Vera, un mecanismo avanzado de IA que puede quitar espacios a los departamentos de recursos humanos en entrevistas de personal, en tanto «puede hacer en 30 días unas 40.000 llamadas telefónicas y enviar 37.000 mails para conocer con profundidad a lo/as candidato/as. Entre esto/as (sic) seleccionará a 100 para hacer una vídeo-entrevista». (Navarro, 2020, «¿Cuál es la función principal del robot Vera? ¿Cómo se utiliza la inteligencia artificial en los procesos de selección?», párr. 2)

Por otro lado, conforme hemos ya anotado como rasgo de análisis supra, existe un importante riesgo de discriminaciones encubiertas en los sistemas de IA. Señala un estudio de Cotino » algunos peligros del big data y la inteligencia artificial: los datos masivos y los algoritmos no son objetivos, pueden tener importantes sesgos o “incrustados” valores contrarios a los constitucionales.» (2020, p. 131), precisión a la que agrega que » todo ello puede llevarnos a la “dictadura de los datos” (…) o (…) a errores masivos o a una estupidez artificial, que sería, eso sí, muy humana.»(2017, p. 135)

La reflexión de Cotino va un poco más allá en cuanto señala que » el Parlamento Europeo ha alertado del peligro de “discriminación y el sesgo algorítmicos” (…) y hace referencia a la necesidad de “evaluaciones periódicas sobre la representatividad de los conjuntos de datos [y de] examinar la exactitud e importancia de las predicciones.” (2017, p. 140)El aviso de riesgo es directo: ¿cómo evitamos las discriminaciones encubiertas? o la planteamos en otros términos: ¿ quién programa a los programadores de IA? ¿existe forma de evitar esos sesgos cognitivos en la raíz de la IA?

Ahora bien, no podemos culpar de todos estos riesgos potenciales a la IA pues » ciertamente, el peligro mayor del uso de la inteligencia artificial (…) puede venir de la mano de los posibles sesgos. Ahora bien, hay que ser conscientes de que los sesgos existen con y sin inteligencia artificial.» (Asis de Roig, 2020, p. 17)

En relación a los efectos posibles de la IA respecto al ejercicio de diversos derechos tenemos que » la inteligencia artificial puede tener un impacto positivo en el ejercicio de de­terminados derechos, pero otros pueden verse menoscabados por su uso como: la libertad de expresión (incluyendo el derecho a comunicar o recibir información libre­mente), la privacidad, la prohibición de la discriminación, y el derecho a la tutela judicial efectiva.» (Gascón, 2020, p. 336)

Incluso tendríamos que la tutela judicial efectiva » también se puede ver mermada porque no se sea consciente de que un contenido publicado, por ejemplo, ha sido filtrado o blo­queado por un programa que usa inteligencia artificial. (…)Se trata normalmente de mecanismos bastante eficientes, pero que presentan problemas como que el contenido puede estar protegido por la libertad de expresión que se extiende a los discursos ofensivos, chocantes o perturbadores.» (Gascón, 2020, p. 338)

Procurando un balance de equilibrio entre potencialidades y desventajas de la IA, es pertinente tengamos en cuenta que » los derechos humanos son inteligencia institucional. Las sociedades dependen cada vez más de instituciones inteligentes. Si decimos que hay máquinas que piensan, hay que añadir que las instituciones también lo hacen. (…) Necesitamos una inteligencia social, compartida, que surge de la interacción. » (Martínez, 2019, p. 178) Desde esta perspectiva, el género humano es infinitamente superior pues la IA, por sí sola, no puede pensar. Necesita que el ser humano habilite sus funciones. Por supuesto aquí cabe otra pregunta: ¿podremos crear más adelante máquinas pensantes, con esquemas complejos de pensamiento? Si ello acaso sucediere, ¿existirá el riesgo de que las máquinas nos reemplacen?

Es así posible cerrar estas reflexiones con la idea de que » los derechos humanos surgieron en la confrontación de lo humano con lo inhumano (barbarie,injusticia, desprecio), procedente tanto de otros hombres como de instituciones. Ahora se abre un nuevo frente: la confrontación de lo humano con lo no humano, representado por la máquina.»(Martínez, 2019, p. 180)

El reto que nos plantea Martínez es muy grande: la evolución de lo inhumano a lo no humano demanda todas las potencialidades del hombre y, sin embargo, esa tarea merece ser calificada como posible, pues a los humanos nos rige un imperativo categórico: hacer el bien, elemento que no necesariamente ha evolucionado en la IA al punto de implicar complejas reflexiones de orden ético.

 

Ideas a título de conclusión 

El análisis inicial de la película Blade Runner 2049. a que nos comprometió el Centro de Estudios Constitucionales del Tribunal Constitucional del Perú, nos ha servido de marco de reflexión para poner en evidencia diferentes temas que pone en discusión la película, y uno de esos puntos centrales ha sido, aunque ciertamente es un argumento futurista, la posibilidad de que seres creados a partir de técnicas de bioingeniería puedan procrear, cuando ésta, en términos de racionalidad y conciencia del hecho, es una condición solo de la raza humana.

Hemos atribuido como una cuestión de concesión del hombre, y desde una dimensión que involucra la ética de los derechos humanos, que la ciencia acepte extender la facultad de procrear a otros seres cuasi humanos. Es un futuro que apreciamos en verdad lejano y, sin embargo, no debemos olvidar que la evolución incesante de la tecnología pone muchas cuestiones, antes vistas remotísimas, en posición de un futuro que no es rotundamente lejano.

En adición a lo señalado, la descripción de estos diversos temas nos ha conducido a la necesidad de un debate filosófico en la relación IA – derechos humanos, prevaleciendo, desde nuestro punto de vista, una visión transhumanista de la IA, antes que una posición bioconservadora cuya esencia es negar espacios de desarrollo a la IA por los peligros que esta representa.

Añadimos a esas reflexiones sobre la apertura a la IA un conjunto de principios que sí son necesarios para regular los efectos de aquella en el escenario de los derechos humanos, en la medida que son dichos axiomas guía una suerte de elementos monitores para la evolución de la IA dentro de estándares de razonabilidad y proporcionalidad.

Desde ese mismo eje de debate, la IA plantea diversos retos para el Derecho, en la medida que cambia nuestra percepción de la teoría del Derecho, del mismo Derecho constitucional y del Derecho internacional de los derechos humanos, en tanto debemos admitir nuevos parámetros en las relaciones interpersonales que promueve la IA, y ello merece un rango de aguda observación, en cuanto el mundo ya no es el mismo con la irrupción veloz de las interfases que plantea la IA.

En ese balance conceptual, hemos destacado oportunidades y riesgos a partir del binomio IA- derechos humanos, en cuanto es necesario ser conscientes de los escenarios posibles que franquea la evolución de la IA. En rigor, la IA no es neutra pues somos los mismos humanos quienes construimos los estándares de la IA, y alimentamos ésta con datos extrapolados de manera probabilística, y de ahí que nos corresponda promover un uso responsable de la tecnología. En esa tarea de dilucidación de sumas y restas, sin embargo, es mayor el número de beneficios a obtener para el género humano. Entonces, es un balance necesario concluir a favor de las potencialidades de desarrollo con razonabilidad y proporcionalidad que nos ofrece la IA.

Desde otra perspectiva, la relación entre IA y derechos humanos debe seguir trabajando relaciones de convergencia y complementariedad, en la medida que aquella necesita de éstos para un avance con equilibrio de sus diversas facetas. De la misma forma, los derechos humanos necesitan de la IA para la optimización de sus contenidos y, en esa medida, las políticas públicas de derechos humanos que no midan los impactos de los enormes avances tecnológicos a partir de las grandes velocidades de las big data, la irrupción enorme de las redes sociales en la vida de los seres humanos, o la cada vez mayor caracterización de las diversas expresiones de las facetas de la IA en nuestra vida diaria, caminará sin el sustento de una realidad que viene transformando los contenidos de los derechos de las personas.

En esta línea de pensamiento, el género humano necesita defender los espacios de progresividad de los derechos humanos y creemos que, en el desarrollo de la IA, hay espacio material para ello. Al fin y al cabo, la IA debe convertirse en una poderosa herramienta de los derechos humanos y no en un factor de su involución.

Es corolario de estas reflexiones, entonces, y en alegoría similar a la de Galileo Galilei, el famoso genio de Pisa, y su famoso eppur si muove del año 1633, señalar que la IA no es estática y que ella se mueve a pasos agigantados. Seamos pues conscientes de la enorme responsabilidad que implica un desarrollo con equilibrio de la IA.

 

[1] Doctor en Derecho. Juez Superior Distrito Judicial Lambayeque, Poder Judicial del Perú. Profesor de la Academia de la Magistratura del Perú. Docente Área Constitucional Universidad San Martín de Porres, Filial Chiclayo. Ex becario de la Agencia Española de Cooperación Internacional AECID y del Consejo General del Poder Judicial de España. Miembro de la Asociación Peruana de Derecho Constitucional y de la International Association of Constitutional Law. (IACL). efigueroag@pj.gob.pe

 

BIBLIOGRAFIA

ASIS DE ROIG, R. (2020). Inteligencia artificial y derechos humanos. En Materiales de Filosofía del derecho nº 2020 / 04. Seminario Permanente Gregorio Peces-Barba. Grupo de Investigación. “Derechos humanos, Estado de Derecho y Democracia”. Universidad Carlos III de Madrid.

https://e-archivo.uc3m.es/bitstream/handle/10016/30453/WF-20-04.pdf?sequence=1&isAllowed=y

COTINO L. (2017). Bigdata e inteligencia artificial. Una aproximación asu tratamiento jurídico desde los derechos fundamentales. En Dilema. Año 9. Nro. 24.

file:///C:/Users/usuario/Downloads/Dialnet-BigDataEInteligenciaArtificialUnaAproximacionASuTr-6066829%20(1).pdf

COURT OF JUSTICE OF THE EUROPEAN UNION. (2014). Judgment in Case C-131/12 Google Spain SL, Google Inc. v Agencia Española de Protección de Datos, Mario Costeja González.

Haz clic para acceder a cp140070en.pdf

EL PAIS. ( 25 de agosto de 2017) Las leyes de la robótica. ¿Cumplirán los robots reales, que ya están entre nosotros, las tres leyes de la robótica de Asimov?

https://elpais.com/elpais/2017/08/24/ciencia/1503574908_187790.html

ESTEVEZ FILLOTRANI,LINARES (2020). PROMETEA.Transformando la administración de justicia con herramientas de inteligencia artificial.Banco Interamericano de Desarrollo.

https://publications.iadb.org/es/prometea-transformando-la-administracion-de-justicia-con-herramientas-de-inteligencia-artificial

GASCÓN A. (2020). Derechos Humanos e Inteligencia Artificial. En Setenta añosde Constitución Italianay cuarenta añosde Constitución Española. Volumen V. Retos en el siglo XXI. Centro de Estudios Políticos y Constitucionales.

https://www.researchgate.net/publication/339687454_Derechos_Humanos_e_Inteligencia_Artificial

MARTÍNEZ G.(2012).La inteligencia artificial y su aplicación al campo del Derecho. En Alegatos, núm. 82, México, septiembre/diciembre de 2012.

Haz clic para acceder a r30570.pdf

MARTÍNEZ J.(2019).Inteligencia y derechos humanos en la sociedad digital. En Cuadernos Electrónicos de Filosofía del Derecho Nro. 40.

file:///C:/Users/usuario/Downloads/13846-48821-1-PB%20(1).pdf

MUNDO DEPORTIVO (2019) ¿Cuánto ha tardado Perseverance en llegar a Marte?

https://www.mundodeportivo.com/actualidad/20210219/492171411265/perseverance-nasa-marte-planeta-rojo-tiempo-distancia-kilometros-act-pau.html

NAVARRO, N. (14 de enero de 2020). Conoce a Vera, el robot que podría hacerte una entrevista de trabajo. https://niltonnavarro.com/robot-vera-entrevista-de-trabajo/

 OQUENDO, C (30 de julio de 2020).Inteligencia artificial para desatascar la justicia en Colombia.En Revista Retina.

https://retina.elpais.com/retina/2020/07/29/tendencias/1596020286_589017.html