CÉSAR LANDA [2]
A Manuel Aguirre Roca
In memoriam
Con motivo del presente homenaje a don Manuel Aguirre Roca, quisiera dejar un breve pero significativo testimonio del exmagistrado del Tribunal de Garantías Constitucionales y expresidente del Tribunal Constitucional.
Como estudiante de derecho interesado por el derecho público (1975-1980), tuve la oportunidad de leer sus columnas periodísticas sobre temas jurídicos, sobretodo en el diario El Comercio, para luego seguirlo en sus votos como magistrado del Tribunal de Garantías Constitucionales (1982-1987), en el cual destacó con su clásica versación jurídica, por sus votos singulares, que era una práctica de los magistrados en aquel entonces, lo cual impedía que se pudiera llegar a consensuar una sentencia sino tan solo «pronunciamientos», por la falta de cinco votos conformes para declarar, como, por ejemplo, la inconstitucionalidad de una ley.
Precisamente, al ser esa una práctica generaliza en el TGC, pronto se generó un debate público, al cual no fui ajeno, puesto que publiqué mi punto de vista crítico en el diario El Comercio, por cuanto con los «pronunciamientos» se frustraba la labor principal de un tribunal constitucional, como era declarar la inconstitucionalidad de las leyes. De modo que, cuando el TGC organizó una mesa redonda con constitucionalistas para abordar dicha problemática, como joven profesor, estuve entre los invitados.
Aunque ya lo había visto y escuchado preguntar en la conferencia que brindó don Manuel García Pelayo, presidente del Tribunal Constitucional de España, organizado por la Comisión Andina de Juristas en Lima en 1982, en esa convocatoria del TGC fue la oportunidad para conocer al magistrado Aguirre Roca y también para que intercambiaramos puntos de vista acerca de sus votos y el artículo que había publicado. Ello me dio la oportunidad de conversar fuera del evento de otros asuntos de trascendencia jurídica y constitucional, ya que mis observaciones no solo se refería al abuso de los votos particulares, sino también al uso de argumentos legales antes que constitucionales para resolver las controversias.
Sin embargo, sin perjuicio de ello, sus valores cívicos y democráticos, propios de la vieja escuela del derecho, se pusieron en evidencia una década después, cuando la mayoría parlamentaria fujimorista acusó constitucionalmente a los magistrados Manuel Aguirre, Guillermo Rey y Delia Revoredo del nuevo Tribunal Constitucional de la Constitución de 1993 por haber declarado inconstitucional la ley de la re-reelección de Fujimori en 1997, quienes luego fueron destituidos de sus cargos. Tras una ardua batalla judicial, en la cual el TC, ya en cautiverio del Gobierno de Fujimori, desestimó sus demandas de amparo por ser una «cuestión política no justiciable» se recuperaron. En esta etapa, don Manuel ejerció con mucho coraje la defensa no solo personal del cargo, sino también institucional del Tribunal de Garantías Constitucionales, en distintos foros, como en las plazas públicas, donde la ciudadanía defendía a sus magistrados constitucionales.
Solo recuperarían el cargo cuando el presidente constitucional Valentín Paniagua los repuso como magistrados en el 2000 y la Corte Interamericana de Derechos Humanos les restableció plenamente sus derechos conculcados el 2001, en el caso Magistrados constitucionales vs. Perú. Ello supuso su reincorporación en el nuevo Tribunal Constitucional, donde al magistrado Aguirre Roca le cupo presidir el Tribunal y encauzar la jurisdicción constitucional por las vías de la independencia judicial en las tareas del control de los poderes y la protección de los derechos fundamentales, así como sentar las bases preliminares de quehacer de la justicia constitucional en democracia.
En ese periodo tuve nuevamente la oportunidad de coincidir con él, en foros académicos; pero, sobre todo, cuando por encargo de la Comisión de Bases para la Reforma Constitucional el 2021, me cupo entrevistarlo a él y a Rey Terry, como miembro de dicha comisión, para conocer sus pareceres sobre las bases del proyecto de reforma constitucional en materia de justicia constitucional, lo cual ayudó a fortalecer la propuesta normativa.
Por último, en otra actividad, conversamos ampliamente, a partir de la cual generosamente me invitó a su domicilio a seguir charlando, con base en una suerte de empatía intergeneracional, más aún había regresado de realizar mi postdoctorado en Alemania, cargado de muchas lecturas y nuevas ideas constitucionales. Por eso, cuando don Manuel Aguirre Roca fallece el 2004 —así como a los meses Rey Terry— me cupo asumir el reto y la responsabilidad de presentar mi candidatura al Congreso, que me honró sucederlo con la plaza de magistrado constitucional en diciembre de 2004.
Finalmente, se puede señalar que con la obra jurisprudencial y el ejemplo cívico establecido por el magistrado Aguirre Roca y el pleno del TC se pudo en adelante fortalecer el rol del Tribunal Constitucional como garante de la protección de los derechos humanos, el control de los excesos de los poderes públicos y privados, así como garantizar la lucha contra el terrorismo, el narcotráfico y, sobre todo, la corrupción, en el marco de la Constitución, la ley y los tratados internacionales. Algunos de estos retos se han reavivado; por ello, sigue vigente para estos tiempos difíciles, para el Estado constitucional, el perfil del magistrado Manuel Aguirre Roca, tanto juez independiente de los poderes públicos y privados como militantemente defensor de la democracia constitucional.
En 1985, en una primera visita que realicé a Alemania (Marburg), conocí a Joseph, joven investigador del Max-Planck-Institut, quien participaba en un proyecto de investigación para la construcción de un ojo artificial que pudiera distinguir, entre otras cosas, la distancia y los colores de los objetos que pudiera observar. Casi tres décadas después, en 2019, durante una visita al Instituto de Derecho Internacional de la Academia China de Ciencias Sociales, el profesor Mo me presentó a Xiomei, un robot asistente de cátedra de Derecho Constitucional con la capacidad de asistir en la docencia, gracias al registro automatizado de datos jurídicos, necesarios para la enseñanza del derecho constitucional.
Mi aproximación constitucional de este rápido proceso de desarrollo tecnológico de la sociedad digital constituye un desafío no solo intelectual, acerca de los derechos y obligaciones —más aún con la aparición progresiva de los robots humanoides—, sino, sobre todo, que el Estado constitucional debe ofrecer una respuesta en procura tanto del desarrollo tecnológico de la robótica y el bienestar humano de sus usuarios como, también, de la protección del interés general ciudadano. Más aún, si gracias a la inteligencia artificial los robots se vienen integrando a la vida humana, como parte esencial de su quehacer, no solo científico, industrial o de servicios, sino, además, social y humano, ante los grandes déficits que la sociedad digital del siglo XXI. En este proceso, el Estado no debería repetir o, peor aún, acentuar las desigualdades sociales con el uso de la inteligencia artificial y la robótica.
Por eso, es necesario delimitar la posición constitucional que cumplirán los robots en la vida humana. En tal sentido, se requiere analizar la naturaleza jurídica de los robots en relación con la sociedad y el Estado, porque sus capacidades y competencias, además de funcionales, también tienen consecuencias en diversos ámbitos de la vida pública y privadas, que generarán responsabilidades por sus actividades y actos, respecto a sus creadores, propietarios y/o usuarios, las cuales deben estar reguladas por el Estado. Por tanto, en la sociedad digital, al ser la persona humana el fin supremo de la sociedad y del Estado constitucional, se demanda reconocer que en un próximo futuro los robots ocuparán y cumplirán roles y funciones de y para las personas humanas, en sus relaciones en sociedad y con el Estado, que es necesario analizar en clave de los derechos humanos y deberes fundamentales.
El desarrollo humano en procura de su bienestar ha hecho de la ciencia y la técnica instrumentos para la automatización progresiva de muchas actividades y tareas humanas, al punto de crear, a partir de la inteligencia artificial y los algoritmos, bases de datos para el almacenamiento, procesamiento, generación de información y acción que proveen los diferentes tipos de robots al servicio de las actividades humanas. Inicialmente, para la industria, el comercio, la agricultura, los servicios, entre otros, para los cuales su objetivo principal es automatizar tareas para aumentar la eficiencia, mejorar la precisión y seguridad, pero además para liberar a los humanos de trabajos repetitivos, tediosos o, eventualmente peligrosos.
Para tal efecto, siguiendo a la Unión Europea, debe establecerse una definición de los robots como entes autónomos «inteligentes», incluidas las definiciones de sus subcategorías, teniendo en cuenta las siguientes características: la capacidad de adquirir autonomía mediante sensores y/o mediante el intercambio de datos con su entorno —interconectividad— y el análisis de dichos datos, así como la capacidad de aprender a través de la experiencia y la interacción, la forma del soporte físico del robot y la capacidad de adaptar su comportamiento y acciones al entorno (Parlamento Europeo, 2018).
En ese entendido, un robot es una máquina o dispositivo programable que tiene la capacidad de llevar a cabo de manera autónoma o semiautónoma tareas en su entorno y realizar actividades físicas o cognitivas propias de los seres humanos. Los robots pueden tener diversas formas y tamaños, desde robots industriales que realizan tareas repetitivas en líneas de producción hasta robots humanoides o androides o cyborgs, que se asemejan a los seres humanos y pueden realizar tareas propias de servicio y/o acompañamiento a los seres humanos.
Los robots están compuestos por diferentes componentes, como sensores para captar información del entorno, en función de los cuales pueden realizar acciones físicas y controlar los procesos de información, así como ejecutar instrucciones, de acuerdo con el software que programa y controla su funcionamiento. La programación de los robots puede ser realizada por seres humanos o puede ser implementada a través de algoritmos de inteligencia artificial, machine learning, que permiten a los robots aprender y adaptarse a nuevas situaciones.
En la actualidad, el mercado mundial de robots de inteligencia artificial crece rápidamente a una tasa anual del 24 % al 31 % (Atlas Tecnológico, 2021). La oferta en el uso de los robots cada vez más se va ampliando hacia una variedad de aplicaciones posmodernas en la medicina, la exploración espacial, la logística, la academia, el entretenimiento y el bienestar. No obstante, es a partir de la experiencia del uso de la robótica y, sobre todo, de los robots inteligentes o humanoides que se hace necesario definir su naturaleza y alcances jurídicos para su regulación en la sociedad, en aras de la protección del interés general humano.
Así, el desarrollo exponencial de la robótica, a través de la inteligencia artificial y los algoritmos, está llegando a plantear dilemas existenciales acerca de la propia naturaleza de la persona humana, si los robots vienen reemplazando a los seres humanos para diversas actividades privadas y eventualmente públicas, con atributos y consecuencias jurídicas similares a las de los seres humanos. Por tal motivo, es importante revisar la noción de persona en el Estado constitucional de la sociedad digital.
1. Evolución del concepto de persona
Desde la perspectiva constitucional, la norma suprema protege a la persona humana a través del reconocimiento de derechos fundamentales, como a la dignidad, vida, libertad, igualdad, opinión, expresión, personalidad jurídica, libertad de expresión artística, elegir a sus autoridades y ser elegido, de resistencia a la opresión; derechos sociales, como a la salud, educación, trabajo, alimentación, vivienda, seguridad social; derechos al medio ambiente, a la participación, consulta previa, desarrollo, paz; así como derechos de acceso a la justicia, debido proceso, tutela procesal, a un juez imparcial, a la proporcionalidad de las penas y a la rehabilitación, resocialización de las penas y a su reintegración a la sociedad.
Estos derechos humanos por su origen, goce, ejercicio, extinción o inhabilitación son propios de los atributos, facultades y competencias del ser humano de comprender, tener conciencia moral, sentimientos, capacidad de juzgar y valorar, así como, juzgarse y auto-valorarse en tanto persona humana. De modo que, prima facie, un robot carece de la capacidad para ser titular de los derechos humanos, porque no goza de autonomía ética ni de voluntad; sin embargo, en la sociedad digital en la cual la visión antropocéntrica del derecho cada vez más pierde su carácter único y monopólico —como antes fue la concepción divina unidimensional del orden de vida humano y del poder, la ciencia, el arte, etc.—, acaso, ¿no sería factible que los robots puedan ser considerados como sujetos de derecho, de acuerdo a un nuevo orden legal humano? Y, ¿cuáles derechos y/o deberes podrían ser atribuibles a los mismos?
En primer lugar, cabe recordar que la noción de persona y derechos no es estática, sino que se ha ido definiendo jurídicamente a lo largo de la historia de la humanidad de forma dinámica; por cuanto, en la antigüedad, los esclavos no eran personas sino semovientes, o con la conquista española de América, tampoco los indígenas eran personas y, en consecuencia, apenas podían gozar de ciertas concesiones, dado que los derechos eran concebidos como privilegios de los nobles, ciudadanos o de quienes detentaban el poder; aquello sucedió hasta el pensamiento humanista-contractualista materializado en las independencias que gestaron las revoluciones liberales en América y Europa, y, a partir de ello, se concibieron los derechos como inalienables de todos los seres humanos, ideología propia del nuevo Estado democrático del siglo XIX.
Sin embargo, durante ese primer siglo del Estado liberal, tampoco se protegía a la mujer, al obrero o al analfabeto en las mismas condiciones que a los varones propietarios e ilustrados; sino que, por el contrario, se les privaba de los derechos de elegir y ser elegidos en las democracias liberales. No obstante, ello no fue impedimento para la progresiva vis expansiva de la titularidad de los derechos del hombre durante el siglo XX, en favor de los grupos o poblaciones vulnerables —mujeres, indígenas, discapacitados, extranjeros, niños y adolescentes, personas de tercera edad, LGTBI+, presos, entre otros—.
Más aún, entrado al siglo XXI, en aras de la defensa de la persona humana y su dignidad, el Estado constitucional en el mundo ha ido reconociendo parcelas importantes de derechos a otros seres no humanos que conviven con lo seres humanos, como a los animales —chimpancés— en Brasil o Argentina, e incluso a elementos propios de la naturaleza, como ríos, lagos, manantiales, acuíferos, etc., en algunos estados de EE. UU., India, Colombia, Australia o Nueva Zelanda (Santamaría, 2023, pp. 55-85); un caso particular es el reconocimiento constitucional de la propia naturaleza como sujeto de derecho en la Constitución del Ecuador del 2008[3].
De modo que, si las constituciones y los derechos fundamentales aparecieron en la historia moderna con una visión antropocéntrica, solo a partir de la crisis de la sociedad posmoderna es que se ha empezado a replantear los alcances jurídicos del Estado de derecho, para incorporar progresivamente al entorno del ser humano, como a la naturaleza —animales, ríos, territorios, etc.— en la categoría de sujetos de derechos. Esto ocurre en la medida que las personas no humanas, ante la grave crisis climática, vienen siendo incorporadas autónomamente para reforzar la protección de la naturaleza, base del derecho fundamental a un ambiente equilibrado y adecuado, para el desarrollo de la vida humana. Sobre lo cual no debe estar ajena la robótica, como se verá más adelante.
En cuanto a lo expuesto, no es ningún desafío inconsistente e inaudito de un Estado posmoderno desbocado si tempranamente el Estado de derecho ha reconocido al nasciturus como sujeto de derecho en todo cuanto le favorezca, o ha otorgado personalidad jurídica a las entidades morales —empresas, asociaciones, fundaciones— y al propio Estado que goza de personalidad jurídica de derecho público; en virtud de lo cual son titulares de determinados derechos fundamentales que la Constitución, las leyes y la jurisprudencia reconocen.
Los cuestionamientos a la consideración de reconocer la condición de sujetos de derechos a otros seres o entes no humanos contemporáneos se basan en que no tienen capacidad para ser titulares de la dignidad humana, de gozar de derechos subjetivos que se fundan en la libertad, la igualdad y, en última instancia, en la autonomía de la voluntad. Lo cual, siendo cierto, no es óbice para analizar si la condición de sujeto de derecho puede ser extensivo, eventualmente, a los robots inteligentes o humanoides, si aparcamos la tradicional visión antropocéntrica del derecho, para ampliarla y proteger al entorno animado de vida natural y artificial del ser humano.
2. Robots como sujetos de derecho
El acelerado proceso de digitalización de la sociedad contemporánea, con base en la inteligencia artificial y la programación de los algoritmos, ha sentado las bases del desarrollo exponencial de la robótica y de los robots —humanoides, androides, cyborgs— en los países desarrollados y en desarrollo, como en Estados Unidos, Europa y China (Lara, 2017). Así, «los robots del futuro ya dotados de inteligencia artificial IA, poseerán una gran capacidad de codificar información y serán capaces de autoreplicarse» (Tejada, 2022, p. 37). Por eso, es importante tener presente las tres leyes de Asimov: 1) un robot no hará nunca daño a un humano; 2) un robot obedecerá siempre a un ser humano, con excepción de que ello contradiga a la primera ley, y 3) un robot protegerá siempre su propia existencia, excepto si contradice la primera y la segunda ley.
Como el ser humano está constituido de razón —ratio— y emoción —emotio—, ha ido transfiriendo su inteligencia natural a la inteligencia artificial, en el desarrollo tecnológico de los robots de uso mecánico para la industria o los servicios hacia al desarrollo de robots para actividades creativas y de confort humano con componentes emocionales. Aquello significa un salto cualitativo del concepto racional del diseño, construcción y uso instrumental de un robot, por ejemplo, para la industria, el comercio o los servicios, hacia un diseño de la percepción emocional de los robots inteligentes humanoides o androides, como, por ejemplo, para el acompañamiento humano, recreación y educación de niños y ancianos.
La diferencia radica en que estas nuevas tecnologías entran en dominios hasta ahora considerados exclusivamente humanos, como la toma de decisiones, las emociones y las relaciones sociales, que pueden comprometer los valores humanos. Moldear decisivamente la sociedad y nuestra forma de vida y, en última instancia, influir en la evolución de la humanidad. (Torras, 2022, p. 141)
Junto a esta mutación sentimental, el gran salto tecnológico de estos robots es su capacidad para adaptarse a diferentes situaciones y entornos externos y sobre todo de los usuarios, en una suerte de «personalización»; con base en el aprendizaje en función de la experiencia con los humanos y el entorno, mediante sensores que responden a los diseños de los algoritmos para el aprendizaje automático del machine learning. Lo cual conlleva un proceso de adaptabilidad propio del avance científico y tecnológico del ensayo y error —trial and error—, que puede tener consecuencias no solo positivamente sorprendentes, sino también negativas, con eventuales perjuicios y, sino, daños materiales e inmateriales a la persona humana. Por eso, es importante asimilar lo siguiente:
El robot no es una máquina puramente computacional. No tiene sentimientos ni intencionalidad, pero si la racionalidad más que suficiente para tomar decisiones por su cuenta. Los algoritmos le permiten dar respuestas imprevistas incluso ante las situaciones más complejas. (Bilbeny, 2022, p. 9)
De modo que surge la necesidad de configurar jurídicamente a los robots inteligentes o humanoides, más allá de las leyes de Asimov, bajo precisos estándares de deberes y obligaciones normativas para los diseñadores, programadores, constructores y comercializadores de robots, en función de las tareas y servicios que prestarán directamente a los seres humanos; sin perjuicio, de considerar que con la personalización de los robots pueda alcanzar la condición de sujeto de derecho, en cuanto a obligaciones y deberes, a juicio de su propietario o usuario, de acuerdo con la Constitución, las leyes y la jurisprudencia.
Así, ante el vertiginoso avance de la inteligencia artificial a través de los chatbots —ChatGPT, Microsoft Bing, Chatsonic, Google Bard, Replika, etc.— que son la base para el diseño de los robots-inteligentes, el Parlamento Europeo ha aprobado un Proyecto de Ley para establecer reglas comunes europeas sobre la inteligencia artificial, para proteger los derechos fundamentales y los valores democráticos (Parlamento Europeo, 2023). Solo es cuestión de tiempo, por ejemplo, para que los robots realicen el registro biométrico de datos humanos con las características físicas, fisiológicas o de comportamiento de una persona física, permitiendo no solo la identificación única de una persona física, con imágenes faciales o datos dactiloscópicos; sino, también, el reconocimiento de emociones orientado a identificar o inferir emociones o intenciones de personas físicas sobre la base de sus datos biométricos.
Lo cual exige que los proveedores garanticen que los robots destinados a interactuar con personas físicas estén diseñados y desarrollados de forma que dichas personas estén informadas de que están interactuando con un sistema de IA, excepto en las situaciones en las que esto resulte evidente debido a las circunstancias y al contexto de utilización; asimismo, los usuarios de un robot con un sistema de reconocimiento de emociones o de un sistema de categorización biométrica —propone el Parlamento Europeo— informarán del funcionamiento del sistema a las personas físicas expuestas a él. Por su parte, los usuarios de un robot que genere o manipule contenido de imagen, sonido o vídeo que se asemeje notablemente a personas, objetos, lugares u otras entidades o sucesos existentes, y que pueda inducir erróneamente a una persona a pensar que son auténticos o verídicos (ultrafalsificación), harán público que el contenido ha sido generado de forma artificial o manipulado.
En consecuencia, bajos estos presupuestos los robots cada vez más autónomos, que se utilizan en las fábricas o con fines de asistencia y cuidado personal, deben poder funcionar y desempeñar sus funciones de manera segura en entornos complejos, donde la magnitud de las consecuencias adversas a los derechos humanos protegidos, hacen que los robots puedan ser clasificados como de alto riesgo, por sus funciones o uso en relación con determinadas personas vulnerables; por ejemplo, ancianos, niños, discapacitados, entre otros.
Ahora bien, a diferencia de un robot androide o humanoide la persona humana nace, vive y muere en un permanente proceso de desarrollo biológico y social a través del tiempo de vida, durante el cual goza y ejerce derechos, obligaciones y deberes, no solo legales, sino también éticos; mientras que, los robots al ser construidos, puestos en uso y desechados en un período de vida útil, también deberían estar sujetos a reglas pero no solo para los diseñadores, propietarios y los usuarios, sino, también, para los propios robots inteligentes cuando adquieran grados de autonomía, de conformidad con las normas constitucionales, legales y jurisprudenciales. Debido a lo expresado a continuación:
Con la llegada de los robots de aprendizaje, un área gris de responsabilidad abarca a los mencionados junto con el propietario y el usuario. Decker (2007) propuso que «el aprendizaje de los robots debe estar anclado en la responsabilidad del propietario del robot». Como se deriva de la fórmula de humanidad de Kant [...]. En esta línea y de acuerdo con la cita anterior, se ha sugerido que la responsabilidad legal de los tenedores de los animales podría utilizarse como modelo para la responsabilidad legal de los tenedores de robots (Schaerer et al., 2009) [...]. Peltu y Wilks (2010) contemplan incluso otra posibilidad a saber, que los desarrollos tecnológicos influyan en los cambios de la ley, de modo que las cosas que no son humanas, como los robots, puedan ser responsables de los daños. (Torras, 2022, pp. 159-160)
En cualesquiera de los supuestos señalados es indudable que detrás de ello se encuentra la preocupación inevitable que se avecina, cuando la inteligencia artificial de los robots supere a la inteligencia natural de los seres humanos; en cuyo caso es necesario regularla preventivamente por parte de los Estados, delimitando los límites en forma de deberes u obligaciones de los robots.
En el marco del establecimiento de la sociedad digital se viene produciendo un acelerado desarrollo de la robótica, gracias a la inteligencia artificial y los algoritmos impulsados por las grandes empresas tecnológicas; que vienen colocando en el mercado diferentes tipos de robots en beneficio de la industria, la agricultura, el transporte, el comercio, los servicios, la educación, la salud, el trabajo de oficina, asistencia personal, y el arte; pero, el uso de inteligencia artificial sirve también para la vigilancia pública y la seguridad, desde los drones para la guerra, el espionaje y el sabotaje, hasta la eliminación selectiva de seres humanos. En este sentido, los robots no pueden estar ajenos a la regulación del bloque constitucional —Constituciones y tratados internacionales— sobre la materia; basados en la paz, la seguridad, la igualdad, y, los objetivos de desarrollo sostenibles, como se analiza más adelante (II. 4).
El bloque constitucional es un conjunto de normas supremas facultativas y permisivas, así como, limitativas y prohibitivas, que abarca todas las esferas de vida de la persona humana; pero, como los robots inteligentes ocuparían un estatus de «sujetos de derechos» tendrían deberes y obligaciones, antes que derechos; por cuanto, estos últimos son propios de la persona humana. En consecuencia, es importante considerar que los robots deben de actuar de acuerdo con un código de responsabilidad en la vida humana, en las esferas básicas de actuación social de los seres humanos en sociedad (Cano, 2022, pp. 119), tales como los siguientes:
1. Deberes políticos
En materia de cuestiones políticas, los robots deben enfrentar los problemas relativos a la manipulación informativa —fake news y deep fakes—, así como, a los sistemas de reconocimiento facial para el control social, la creación de armas autónomas, entre otros. Por cuanto, todo ello son armas de regímenes totalitarios, autocráticos y, también, populistas, contrarios a los valores y principios de las democracias constitucionales.
Este escenario se basa en un futuro próximo en el que los políticos y los burócratas podrán utilizar la inmensa inteligencia artificial, a través de los robots para levantar datos de las necesidades gubernamentales y a partir de los cuales puedan elaborar programas ad-hoc en beneficio de sus potenciales electores, como se procedió en el caso de la británica Cambridge Analytica cuando obtuvo millones de cuentas de usuarios de Facebook para generar propaganda política electoral; lo cual tuvo incidencia el 2016 en la elección de Trump como presidente de Estados Unidos o, en la campaña del Brexit que decidió la salida de Reino Unido de la Unión Europea. (Griffin 2016). El escándalo finalmente condujo a una multa récord de $ 5 mil millones impuesta a Facebook por la Comisión Federal de Comercio (FTC) de los Estados Unidos en julio de 2019.
Por ello, se debe regular que el desarrollo de robots para la toma de decisiones automatizadas, basadas en algoritmos, que incidirán en las elecciones políticas —por ejemplo, presidenciales, parlamentarias o de referéndum—, y de las autoridades administrativas y judiciales u organismos públicos de otro tipo, a la hora de tomar su decisión final, ya sea de carácter electoral, de ejercicio de la autoridad pública; deberán integrar salvaguardias y la posibilidad de control y verificación por parte de las autoridades de los procesos de toma de decisiones automatizados de los robots, basados en algoritmos.
Ello demanda reflexionar sobre la elaboración de normas jurídicas o la introducción de cambios legislativos a fin de tener en cuenta las nuevas aplicaciones de los robots en asuntos político democráticos. Bajo un enfoque normativo adecuado, eficiente, transparente y coherente que defina unas condiciones previsibles y lo suficientemente claras para que las empresas puedan desarrollar aplicaciones y planificar sus modelos de robots, garantizando los valores y principios democráticos propios del Estado constitucional. Esto es que la autoridades conserven el control sobre la normativa que se haya de establecer, de modo que no se vean obligados a adoptar o aceptar normas establecidas por las grandes empresas tecnológicas, o por terceros países que están a la vanguardia del desarrollo de la robótica y la inteligencia artificial, en función de sus propios intereses.
2. Deberes sociales
El incremento exponencial de la dependencia social y emocional a los smartphones cada vez a edades más tempranas, así como, progresivamente a la robótica, que reproduce y amplifica los prejuicios sociales y estigmatizan a personas o grupos humanos, debe ser identificado y combatido por los robots, en el marco de la Constitución, los tratados, las leyes y la jurisprudencia. Existen estándares para afirmar la igualdad y combatir la discriminación que puedan realizar no solo los humanos, sino también la inteligencia artificial y los robots, así como, con mayor razón, los androides, bajo pena de sanciones pecuniarias administrativas y, eventualmente, sanciones penales sobre los responsables humanos de tales actos.
En relación con el trabajo, hay que tomar en consideración que las cifras de empleo han aumentado de manera continuada gracias al desarrollo tecnológico, pero el desarrollo de la robótica y de la inteligencia artificial como tienen el potencial para transformar el modo de vida y las formas de trabajo, deben aumentar los niveles de eficiencia, ahorro y seguridad, para mejorar la calidad de la producción y de los servicios. De modo que, a corto y mediano plazo, la robótica y la inteligencia artificial deben bridar eficiencia y ahorro no solo en la producción y el comercio, sino también en ámbitos como el transporte, la asistencia sanitaria, las operaciones de salvamento, la educación y la agricultura, permitiendo así que los seres humanos dejen de exponerse a condiciones peligrosas.
En cuanto al envejecimiento de la población, esta se debe al aumento de la esperanza de vida propiciado por los avances sociales en las condiciones de vida y en la medicina moderna, y que se trata de uno de los principales retos sociales y económicos a los que se enfrentan las sociedades del siglo XXI. En el sentido de que la robótica debe estar al servicio de los adultos mayores, lo que dará lugar a un equilibrio radicalmente diferente entre las nuevas y anteriores generaciones dentro de nuestra sociedad, y que redunde en beneficio de la sociedad y de las familias que mantienen a personas de edad avanzada, a fin de que los adultos mayores se mantengan saludables y activos el mayor tiempo posible, con el acompañamiento de los robots inteligentes.
La robótica también debe impulsarse para fines educativos en los colegios y centros de formación profesional. Así, no solo se debe enseñar a construir robots, sino que los robots deben servir para potenciar la creación de aplicaciones reales y dominio de la inteligencia artificial en el aula. De manera que permita lo siguiente:
1) dotar a los alumnos de las herramientas necesarias para llevar a cabo proyectos de forma casi autónoma; 2) potenciar la capacidad de los más pequeños en relación con la resolución de problemas; 3) hacer hincapié en la creatividad, investigación y el entendimiento de los conceptos relacionados con la computación; 4) implantar las nuevas tecnologías de una forma amena e interesante, apoyándose en el juego y la gamificación; 5) crear nuevos mecanismos de aprendizaje que ofrezcan nuevas posibilidades respecto a los métodos tradicionales; 6) apostar por el aprendizaje por proyectos, es decir, una manera de aprender más enfocada a la práctica; 7) enseñar a trabajar en grupo para llevar estos proyectos a buen puerto, fomentando la colaboración entre alumnos; 8) trabajar en entornos reales en los que el alumnado tenga la posibilidad de experimentar. Y sobre todo, la robótica en infantil contribuye a preparar a las nuevas generaciones para el futuro, uno en el que las nuevas tecnologías, entre ellas la robótica, serán fundamentales para su desarrollo personal y profesional. (IAT, 2023)
Todo ello contribuirá al desarrollo del razonamiento lógico del alumnado, la psicomotricidad o la percepción espacial, así como a fomentar la participación activa de los estudiantes en el proceso del aprendizaje.
Como la robótica en la medicina es un rubro en progreso acelerado, el Estado debe seguir apoyando y supervisando procedimientos mínimamente invasivos en cirugías, la monitorización personalizada y frecuente para pacientes con enfermedades crónicas, terapias inteligentes y asistencia social para pacientes mayores[4].
Con ello también se cumpliría el objetivo de la robótica en medicina, que es facilitar el trabajo de sanitarios, cirujanos y profesionales del sector médico privado y público en general, maximizando la precisión de los procesos como operaciones o cirugías y minimizando las limitaciones y deficiencias del ser humano, tales como las que se presentan a continuación (IAT, 2023):
1) Mayor precisión, evitando el temblor humano; 2) procedimientos menos invasivos; 3) intervenciones más rápidas y eficaces; 4) recuperación del paciente en menos tiempo; 5) menor riesgo de daños en tejidos; 6) capacidad de acceso a zonas delicadas o complejas; 7) aplicación en muchas tareas: rehabilitación, asistencia, transporte, etc.; 8) desarrollo de nuevas técnicas de estudio, diagnóstico y tratamiento; 9) equipos capaces de trabajar en condiciones difíciles, por ejemplo en entornos con alta radiación o contaminados; 10) se pueden añadir otros instrumentos, como cámaras de vídeo para la posterior visualización de las operaciones; 11) posibilidad de realizar o dirigir operaciones quirúrgicas desde cualquier parte del mundo, y; 12) permite liberar a los profesionales del sector de hacer las tareas más mecánicas o repetitivas.
El desarrollo de la inteligencia artificial y de la robótica en los asuntos sociales señalados es solo indicación de una serie de campos de la vida social, en la cual el Estado debe procurar que los robots contribuyan a las mejoras sociales con la guía social, pedagógica y médica del Estado, en cuanto garante del bien común.
3. Deberes económicos y ambientales
La economía de mercado se basa en factores macro y microeconómicos que dependen, en principio, del Estado y la empresa privada, respectivamente. Se señala en principio porque en la sociedad digital la economía se encuentra no solo globalizada a través del mercado internacional de bienes y servicios, sino interrelacionada con la cadena de suministros para la producción y prestación de servicios descentralizados a nivel internacional en cada uno de los países. En este marco de referencia, la economía abarca acciones públicas y privadas de productores, consumidores y de agentes reguladores del Estado.
En ese sentido, el incremento de la producción de bienes y servicios, bajo el paradigma del costo/beneficio orienta las inversiones y las ganancias de los grandes complejos empresariales; los cuales no están ajenos a mejorar su participación en la sociedad digital, con el uso de la robótica y la inteligencia artificial. Por eso, las grandes empresas tecnológicas invierten ingentes cantidades de dinero para promover el uso de la robótica para diferentes tareas en la producción de bienes y prestación de servicios, que permiten mejorar costes y aumentar y diversificar la producción y los servicios; así como, mejorar la ergonomía y bienestar de los trabajadores. El sector de producción de robots crecerá a una tasa compuesta anual de entre el 19 % y el 25 % entre 2018 y 2025[5].
Pero, el consumismo y la dependencia de las redes sociales, debido a la adicción a las nuevas tecnologías en la sociedad digital también se ha expandido hacia un mercado virtual de compra y venta de bienes y servicios igualmente virtuales, sobre la base de las criptomonedas. Así, en la dimensión virtual del mercado, la economía que se basa en la confianza, en su forma real o virtual, requiere de regulaciones para la acción en el mercado que realicen los robots en protección de los usuarios y consumidores (Ethics, 2023).
También es necesario incorporar los cambios económicos y los efectos en el empleo ocasionados por la robótica y el aprendizaje automático, cuya utilización, a pesar de las innegables ventajas de la robótica, entraña una transformación del mercado de trabajo y la necesidad de cualificar a los trabajadores de menores niveles mediante políticas de empleo, considerando que la automatización de los puestos de trabajo puede liberar a las personas de tareas manuales monótonas y que los robots las capaciten en tareas más creativas y significativas.
Todo ello tiene un gran impacto en la sostenibilidad del planeta, en cuanto al consumo de energías y la generación de residuos que no contribuyen con la lucha del cambio climático, lo cual debe obligar a los robots a contribuir a superar la crisis climática. Así, el Estado debe plantear la necesidad de que los robots inteligentes deban contribuir, particularmente, en la senda de la lucha por el equilibrio con la naturaleza y la dignidad social, proceso en el cual los robots deberían aportar de las siguientes formas:
1) Garantizar una transición acelerada hacia un mundo descarbonizado; 2) acceso universal a la electricidad; 3) impulsar las energías renovables; 4) mejora de la eficiencia en la generación y distribución; 5) racionalizar el consumo de agua y su reutilización; 6) eliminar residuos y progresar en la captura de la CO2; 7) repensar la movilidad de las ciudades; 8) mejorar las infraestructuras para que resistan —y muy potentes— desastres naturales; 9) reconvertir las grandes ciudades en sistemas inteligentes; 10) intentar desde instancias internacionales poderosas poner freno a la eclosión de guerras sustentadas en gran parte en las necesidad de mantener la economía armamentista; 11) afrontar realmente el problema de la pobreza, exigiendo que quien esté en condiciones de contribuir a erradicarla no pueda substraerse con subterfugios; 12) Ir al fondo del problema en lo relativo a la emigración; 13) abordar las desigualdades sociales y de sexo; 14) y como última «desiderata», trabajar duro para hacer posible: en el ámbito energético el uso pacífico de la energía de fusión; en el campo de la medicina acercarnos al máximo posible a la curación del cáncer y a la segura sustitución de órganos dañados y ser capaces de frenar y revertir el envejecimiento; y en el campo de la computación llegar a tener todos acceso a los grandes ordenadores cuánticos para así se capaces de aumentar nuestra capacidad de cálculo y predicción. (Tejada, 2022, pp. 49-50)
La economía avanza con la palanca de la tecnología, que en su versión posmoderna son los robots —desde brazos robóticos hasta androides— que demanda del Estado constitucional moverse rápidamente, no solo para adaptarse a los nuevos paradigmas, sino para guiar el uso necesario a fin de superar los grandes déficits de la sociedad capitalista, mediante obligaciones y deberes de los robots acorde con las necesidades humanas.
4. Deberes con la naturaleza humana
En el Estado constitucional, la sociedad digital nos está llevando a replantear el contrato social rusoniano con base en un nuevo orden social tecnológico, que ha abierto un debate entre las visiones humanistas, transhumanistas y posthumanistas. Los humanistas plantean que, con base en la centralidad de la persona, los derechos humanos y su dignidad, los robots en tanto máquinas deben desarrollarse solo al servicio de los humanos; mientras que los transhumanistas postulan encaminarse hacia un nuevo tipo de ser humano, en la sociedad digital que se mejore mediante la ciencia y la tecnología.
Por otra parte, los poshumanistas buscan superar la tradicional dicotomía entre la visión humanista y posthumanista, con base en la intregación de ambas posturas, que se condice con un mundo en permanente transformación y apertura hacia nuevas concepciones sociales, las cuales trascienden el orden humano unidimensional, pero sin convertir al ser humano en un objeto o medio científico-tecnológico abierto a la mejora. En este sentido, Coeckelbergh (2021, pp. 41-45) menciona lo siguiente:
Posthumanistas tales como Donna Haraway ofrecen una visión en la que convivir con las máquinas, e incluso fusionarse con ellas, no se percibe como una amenaza o una pesadilla, como en el humanismo, ni como el sueño (post)humanista hecho realidad, sino de una manera en la que las fronteras ontológicas y políticas entre humanos y no humanos pueden y deben cruzarse. La IA es susceptible, entonces, de ser parte no del transhumanismo, sino de un proyecto post humanista crítico, que entra en juego por el lado de las humanidades y las artes más que desde la ciencia.
En ese contexto, se prevé el uso de la robótica y la inteligencia artificial de forma general para la vida humana futura, conocida como la cuestión de la Singularidad tecnológica (Kurzweil, 2005), la cual implica que un conjunto de algoritmos y redes informáticas a través de humanoides o robots, además de ser creados para estar al servicio de la vida cotidiana humana, puedan ser capaces de diseñar o producir mejores robots. De manera que lleguen, incluso, a desarrollar cyborgs, que son esencialmente un sistema hombre-máquina, en el cual los mecanismos de control de la porción humana son modificados externamente por medicamentos o dispositivos de regulación, para que el ser humano pueda vivir en un entorno diferente al normal.
Sin perjuicio de la Singularidad tecnológica, los desarrollos del Brain Computer Interface (BCI) constituyen una tecnología que se basa en la adquisición de información neuronal, por ejemplo, acumulando datos electrofísicos nerviosos o registro de ondas cerebrales para su procesamiento e interpretación a través de un ordenador, lo cual es un desafío propio del desarrollo de la neurociencia[6]. Así, al establecer nuevos caminos para interactuar con nuevas tecnologías mediante el pensamiento, estas interfaces permiten transformarlo en acciones reales.
Pero, a medida que las interfaces entre cerebro y ordenador no solo restauren funciones perdidas por personas con discapacidad, sino que también potencien las aptitudes de personas sin discapacidad por encima de sus capacidades humanas, se tiene que tomar conciencia de una serie de problemas relacionados con el consentimiento, la privacidad, la identidad, la acción y la desigualdad.
Sin embargo, el dilema jurídico y político del proceso de reformular la naturaleza humana, a través de la inteligencia artificial y los distintos tipos de robots, es que son las empresas más ricas de la historia —Microsoft, Apple, Google, Meta, Amazon, etc.— las locomotoras de la sociedad digital. Estas se vienen adueñando unilateralmente de todo el conocimiento humano que existe en formato digital y comercializándolos dentro de unos productos patentados, sin que el Estado tenga la capacidad de establecer límites al legítimo ejercicio de sus libertades y derechos, que como cualquier otro derecho o libertad nunca son absolutos, sino reglados en función de que la defensa de la persona humana y su dignidad son fines del Estado, el mercado y, diríamos, de la sociedad digital.
Hace más de cien años el escritor checo Karel Čapek escribió la pieza para teatro Rossum´s Universal Robots (1921), dando cuenta del desarrollo del pensamiento humano contemporáneo en busca de su bienestar, así también, se estableció otro hito en la literatura de ficción con la obra de Isaac Asimov I, Robot (1950), la cual dio origen a las tres leyes de la robótica: 1) un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daños; 2) un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando tales órdenes entren en conflicto con la primera ley, y 3) un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la primera o segunda ley.
La realidad científica y tecnológica después de la Segunda Guerra Mundial ha dado un salto acelerado, sobre todo, en las últimas décadas, con el desarrollo de la ciencia experimental en materias como la genética y astrofísica, pero también la inteligencia artificial y la robótica, al punto de que no es posible vivir y/o disfrutar la vida contemporánea sin el uso de las herramientas del internet, los algoritmos, la inteligencia artificial y la robótica; así como de las redes sociales que constituyen el nuevo espacio público, rol que originariamente cumplían los Estados en su relación con los ciudadanos y las instituciones privadas, en nuestra democracias constitucionales desde sus orígenes, a través de la ley y luego mediante la Constitución y los tratados internacionales.
Sin embargo, como el Estado es el único garante del interés general de las personas y la sociedad, mas no las empresas y/o el mercado —que así como se crean se desarrollan vertiginosamente y también se transforman o extinguen unas más rápido que otras—, en consecuencia, la actual revolución digital demanda a los Estados establecer los acuerdos internacionales de un nuevo pacto mundial para la sociedad digital, que siente las bases de una Constitución para la Tierra. Con el objetivo de responder a los inquietantes desafíos que plantea la inteligencia artificial —particularmente, la incorporación de los robots en nuestra vida cotidiana— con capacidades y funciones diferentes para satisfacer las necesidades humanas de bienestar con dignidad.
Al respecto, en el marco de las Naciones Unidas, en el 2015 los líderes mundiales, conscientes de los peligros para los fundamentos de la vida humana en nuestro planeta, adoptaron una nueva agenda mundial con base en un conjunto de objetivos de desarrollo sostenibles (ODS) globales para erradicar la pobreza, proteger el planeta y asegurar la prosperidad para todos. En este sentido, la robótica, los robots y la inteligencia artificial deben estar al servicio de los 17 ODS: 1) Fin de la pobreza; 2) Hambre cero; 3) Salud y bienestar; 4) Educación de calidad; 5) Igualdad de género; 6) Agua limpia y saneamiento; 7) Energía asequible y no contaminante; 8) Trabajo decente y crecimiento económico; 9) Industria, innovación y tecnología; 10) Reducción de las desigualdades; 11) Ciudades y comunidades sostenibles; 12) Producción y consumo responsables; 13) Acción por el clima; 14) Vida submarina; 15) Vida de ecosistemas terrestres; 16) Paz, justicia e instituciones sólidas; 17) Alianzas para lograr los objetivos (NNUU, 2015).
De modo que corresponde que, bajo la guía de los Estados, las grandes empresas tecnológicas desarrollen sistemas y metodologías para el diseño de diferentes tipos de robots con inteligencia artificial, autónomos y responsables en la satisfacción de las necesidades de los 17 objetivos de desarrollo, particularmente las metas específicas que deberían alcanzarse en un horizonte temporal de mediano plazo al 2030 y a largo plazo del 2050. Esto bajo un esquema de diálogo y consenso democrático, entre los representantes de los Estados, las empresas, los usuarios y consumidores de la inteligencia artificial y la robótica.
Finalmente, el gran dilema jurídico y político es el rol que cumplen y seguirán cumpliendo los robots en esta etapa de la revolución digital; por cuanto, por un lado, el Estado no debe perder el control en el alcance de los diseños, límites de sus actividades y usos de los robots, por más inteligencia superior a la inteligencia del hombre que desarrollen; y, por otro lado, que la promoción del desarrollo exponencial de la robótica y la inteligencia artificial siempre sea conforme al bienestar y dignidad humana.
[1] Versión extraída de mi libro Revolución digital y Constitución. Palestra, 2023.
[2] Doctor en Derecho. Profesor de Derecho Constitucional en la Pontificia Universidad Católica del Perú y en la Universidad Nacional Mayor de San Marcos. Expresidente del Tribunal Constitucional y exministro de Relaciones Exteriores del Perú. Vicepresidente de la Asociación Internacional de Derecho Constitucional. ORCID: 0000-0003-0801-8873.
[3] Artículo 10. «La naturaleza será sujeto de aquellos derechos que le reconozca la Constitución».
[4] El primer robot cirujano del mundo fue «Arthrobot», desarrollado y utilizado por primera vez en Vancouver, Canadá en 1983. El robot fue desarrollado por un equipo liderado por los médicos James McEwen y Geof Auchinlek, trabajando en colaboración con el cirujano ortopédico Brian Day. Ver https://es.wikipedia.org/wiki/Cirug%C3%ADa_rob%C3%B3tica.
[5] Cfr. Invertir en robótica: cómo, por qué, empresas de robótica, ventajas y desventajas. En https://compraracciones.com/invertir/robotica/.
[6] La principal ventaja de la BCI es establecer un canal natural de interacción entre el hombre y la máquina; el cual puede aprovechar información motora, cognitiva y emocional humana obtenida directamente del cerebro. Ver: neuralink.com.
Atlas Tecnológico. (2021). El mercado de la robótica en España y el mundo. https://atlastecnologico.com/el-sector-se-expande-mas-alla-del-automovil-en-un-ano-de-ventas-record/
Bilbeny, N. (2022). Presentación. En N. Bilbeny (Ed.), Robótica, ética y política. El impacto de la superinteligencia en el mundo de las personas. Icaria editorial.
Cano, M. (2022). Robótica, inteligencia artificial y responsabilidad moral. En N. Bilbeny (Ed.), Robótica, ética y política. El impacto de la superinteligencia en el mundo de las personas. Icaria editorial.
Coeckelbergh, M. (2021). Ética de la inteligencia artificial. Ediciones Cátedra.
Ethic. (2023). La economía de los robots. https://ethic.es/2022/07/la-economia-de-los-robots/
Griffin, A. (2016). How Facebook is manipulating you to vote. The Independent. https://n9.cl/6i1gs
IAT. (2023). Robótica educativa: presente y futuro de la educación. https://iat.es/tecnologias/robotica/educativa/
IAT. (2023). Robótica en medicina: la vida en sus manos (robóticas). https://n9.cl/optcem
Kurzweil, R. (2021). La Singularidad esta cerca. Lola Books.
Lara, V. (2017). Robot, cyborg y androide, qué son y cuáles son sus diferencias. Hipertextual. https://hipertextual.com/2014/07/robot-cyborg-androide
Naciones Unidas. (2015). Objetivos de desarrollo sostenible. https://www.un.org/sustainabledevelopment/es/objetivos-de-desarrollo-sostenible/
Parlamento Europeo. (2023). Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión. Document 52021PC0206. https://eur-lex.europa.eu/legal-content/EN-ES/TXT/?from=EN&uri=CELEX%3A52021PC0206.
Parlamento Europeo. (2017, 16 febrero). Normas de Derecho civil sobre robótica. Resolución del Parlamento Europeo. https://n9.cl/u8gl4
Santamaría Ortiz, A. (2022). La naturaleza como sujeto de derechos: ¿transformaciones del derecho para responder a sociedades pluriétnicas o a cambios en la ontología occidental? Revista derecho del Estado, 54, 55-85. https://doi.org/10.18601/01229893.n54.03
Tejada, J. (2022). Robots inteligentes: humanismo versus posthumanismo. En N. Bilbeny (Ed.), Robótica, ética y política. El impacto de la superinteligencia en el mundo de las personas. Icaria editorial.
Torras, C. (2022). La ciencia ficción como estímulo del debate ético en robótica. En N. Bilbeny (Ed.), Robótica, ética y política. El impacto de la superinteligencia en el mundo de las personas. Icaria editorial.