Las nuevas tecnologías y el daño al derecho a la autodeterminación informativa y derechos conexos. La IA como una nueva amenaza para los derechos fundamentales

The new technologies and the harm to the right to informational self determination an related rights. AI as a new threat to fundamental rights

LUIS ANDRÉS ROEL ALVA

EDUARDO JESUS CHOCANO RAVINA [1]

PILAR MILAGROS SALAZAR PARIONA [2]

[Resumen]

El presente artículo nace con el objetivo de explicar cómo la inteligencia artificial (IA) representa una amenaza para el derecho a la autodeterminación informativa y los derechos conexos a esta, como son los derechos a la imagen, a la identidad personal, al nombre, y a la protección de datos personales. En específico, se analiza la falta de control que existe frente al uso de la IA para transformar imágenes e información, y de esta forma alterar la realidad de las cosas. Esta investigación, proveniente del apoyo mutuo e interacción académica entre dos jóvenes estudiantes de derecho y un destacado abogado constitucionalista, se realizó con el fin de unir nuevas ideas y perspectivas sobre una situación actual, como es la IA frente a los derechos constitucionales, con énfasis en cómo el derecho procesal constitucional se encuentra en capacidad de poder defender a dichos derechos.

Palabras clave: Inteligencia artificial, autodeterminación informativa, imagen, identidad personal, nombre, datos personales, Nuevo Código Procesal Constitucional, hábeas data

[Abstract]

The purpose of this paper is to explain how artificial intelligence (AI) a threat to the right to informational self-determination and related rights is, such as the right to image, personal identity, name and personal data protection due to the lack of control over its use to transform images and information, and thus alter the reality of things.This paper comes from the mutual support and academic interaction between two young law students and a prominent constitutionalist. This union is made in order to unite new ideas and perspectives on a current situation such as AI against constitutional rights and how constitutional procedural law is able to defend these rights.

Keywords: Artificial intelligence, informative self-determination, image, personal identity, name, personal data, New Constitutional Procedural Code, hábeas data

Sumario:

I. Introducción

II. DERECHO Y GLOBALIZACIÓN

III. ESTADO CONSTITUCIONAL DE DERECHO

IV. EL DERECHO A LA AUTODETERMINACIÓN INFORMATIVA

V. LOS RIESGOS DE LA IA PARA EL DERECHO A LA AUTODETERMINACIÓN INFORMATIVA Y CONEXOS

VI. MECANISMO CONSTITUCIONAL DE PROTECCIÓN FRENTE A LAS IA, EL PROCESO CONSTITUCIONAL DE HÁBEAS DATA

VII. IMPORTANCIA DEL DEBATE SOBRE LA MATERIA

VIII. CONCLUSIONES

I. Introducción

Las tecnologías evolucionan a un ritmo que muy pocos hubiesen esperado. En la actualidad, es posible crear textos con suma facilidad por medio de herramientas como ChatGTP e, inclusive, se puede asistir a restaurantes asistidos por meseros robot. Suena a una situación maravillosa en la cual el desarrollo de la sociedad sería impresionante. No obstante, no toda innovación resulta beneficiosa para las personas implicadas y/o situaciones en que se produce.

Recientemente se difundió una noticia respecto de un conjunto de alumnas que denunciaron que, en su centro educativo, St George’s College, sus rostros fueron insertados en el cuerpo de otras mujeres desnudas mediante la inteligencia artificial (IA). Dichas imágenes fueron compartidas y comercializadas (Espinoza, 2023). Una situación similar aconteció en Argentina, en la Universidad Nacional de San Juan, donde un estudiante fue denunciado por sus compañeras por presuntamente desnudarlas por medio de IA y subir las fotos a una página pornográfica. Resulta especialmente preocupante la facilidad para realizar estos actos, debido a que las imágenes utilizadas como base provenían de redes sociales cotidianas como Instagram y Facebook (Redacción LaVoz, 2023).

Precisamente, en este artículo se analiza el uso de la IA como medio para vulnerar la imagen y otros derechos de las víctimas. Para lograrlo, se comenzará desarrollando la relación entre el derecho y la globalización. Posterior a ello, se explica el Estado constitucional de derecho en el cual vivimos, con énfasis en la supremacía constitucional y la defensa de los derechos fundamentales.

Asimismo, se aborda el tema del derecho a la autodeterminación informativa y sus derechos relacionados, como lo son el derecho a la imagen, a la identidad personal, al nombre y la protección de datos personales. Se continua con la explicación de cómo el proceso de hábeas data resulta idóneo para la protección a los derechos mencionados. Finalmente, se expone la importancia del debate de lo planteado junto con las conclusiones.

Antes de comenzar, queremos mencionar que este artículo se realiza conjuntamente por los tres coautores mencionados en el inicio debido a dos grandes razones.

La primera, la visión de dos jóvenes estudiantes con interés en derecho constitucional y derecho procesal constitucional, se basa en ideas innovadoras y un enfoque moderno sobre estas ramas del derecho. Además, al encontrarse más cercanos y familiarizados con las nuevas tecnologías y la IA, su participación como coautores es sumamente valiosa.

Por otro lado, la segunda razón consiste en que ambos jóvenes son guiados por un experto en las materias mencionadas, como lo es Luis Andrés Roel Alva, quien con su vasta experiencia, como investigador jurídico, docente universitario y abogado constitucionalista, ha contribuido en la estructuración de las ideas de la presente ponencia con el objetivo de brindarle un alto contenido académico y promover el debate de esta materia en la comunidad jurídica.

II. Derecho y globalización

El derecho en la actualidad se nutre de múltiples fuentes. Antiguamente, cada Estado buscaba ser el más fuerte en comparación al resto, buscando que su cultura se sobrepusiera a las demás. Sin embargo, en la actualidad acontece una situación contraria. La interacción constante entre los Estados y los ciudadanos, debido a la creciente globalización, genera un intercambio cultural entre las partes.

Para comenzar, debemos comprender el concepto de la globalización. Pese a que es un término complicado de definir, veamos lo dicho por Alberto Romero (2022):

[...] existen rasgos comunes a todas las interpretaciones, en el sentido de ver en la globalización una etapa avanzada de la división internacional del trabajo, la cual se caracteriza por una mayor interacción e interdependencia de los factores y actores que intervienen en el proceso del desarrollo mundial. (p. 9)

De lo citado se comprende que esta «mayor interacción e interdependencia» afecta al desarrollo de las diversas ramas del conocimiento humano, de tal forma que es un término aplicable a muchos campos, tales como la economía, la política, la filosofía, la sociología, la informática y el derecho, por mencionar algunas ciencias (Copelli Ortiz, 2018, p. 58).

Respecto de las pautas principales para relacionar a la globalización con el derecho, nos remitimos a analizar la relación del ordenamiento jurídico nacional con el derecho internacional. Sobre esto, Alberto Borea (2007) desarrolló la siguiente idea:

La soberanía del Estado está en entredicho. Primero por la creciente interrelación entre las naciones. Siempre las más poderosas podían influir bajo diversos mecanismos sobre las más débiles, pero hoy este peligro crece por la aparición de estos nuevos actores que ya no son estados, pero que controlan una cantidad de resortes que inducen a dichos estados a actuar de la manera por ellos prevista.

Por lo que se comprende que ya no solo influye en el desarrollo del Estado la propia soberanía de este. Aconteciendo que, a consecuencia de la globalización, diversos Estados posean poder sobre un Estado.

Además, podemos afirmar en relación con lo expuesto que también poseen poder los nuevos actores no estatales, siendo la mayor manifestación de la globalización en el derecho peruano la incorporación de los tratados internacionales en el Estado peruano por medio de la Constitución Política del Perú de 1993. Además, el propio Tribunal Constitucional reconoció el rango constitucional de los Tratados Internacionales de Derechos Humanos (TIDH).

Una vez comprendida la relación entre el derecho y la globalización, veamos lo referente al Estado constitucional de derecho, lo cual expondremos en el siguiente apartado.

III. Estado Constitucional de Derecho

Con base en lo expuesto, se comprende a la globalización como un elemento vital de la formación del Estado peruano en la actualidad. Esta toma como elementos para su desarrollo tanto los valores predominantes dentro del mismo Estado como de los que acontecen en el resto de las naciones, siendo en la actualidad el modelo de Estado existente en el Perú el Estado constitucional de derecho, el cual procederemos a desarrollar.

Antes de llegar al Estado constitucional de derecho, se vivía con base en un Estado legal de derecho, y antes de ese tipo de Estado, nos encontrábamos en un Estado absoluto. Respecto de este último, se le puede comprender con base en lo dicho por Ramiro Ávila Santamaría (2009):

En el estado absoluto, la autoridad (monarca, rey, emperador, inca) determina las normas y estructura del poder. El poder se encuentra concentrado en una persona o en una clase política. La autoridad emite las normas, administra el estado y la justicia. Las personas son vasallas o súbditas. El Estado no tiene más límites que los que se impone a sí mismo y las personas no tienen derechos sino, a lo sumo, privilegios. En el Estado absoluto no hay procedimientos para hacer la ley ni tampoco para aplicarla de forma que evite la discrecionalidad y la arbitrariedad. (p. 777)

Este primer modelo de Estado llegó a su fin por culpa de los abusos cometidos por los monarcas (García Ricci, 2011, p. 21). Dando de esta forma el paso al Estado legal de derecho, el cual se puede comprender como el tipo de Estado en el cual:

[...] la ley determina la autoridad y la estructura de poder. Este sistema, en apariencia, es menos autoritario y más democrático que el anterior. El poder se divide en teoría en tres: el poder legislativo, el poder judicial y el poder ejecutivo. Sin embargo, en la práctica, el poder se encuentra concentrado en una clase política que es la que conforma el parlamento.

Recordemos que el estado de derecho es la síntesis de una pugna de poderes entre quienes ejercían el poder económico (burguesía) y el político (aristocracia). El modelo que triunfó es el burgués, aunque la historia demuestra que durante mucho tiempo el modelo fue simplemente teórico y poco implementado. La burguesía, a través de la idea de ciudadanía y de la representación, colmó el parlamento, limitó al ejecutivo y controló al judicial, gracias al principio de legalidad. (Ávila Santamaría, 2009, p. 777)

Como se puede entender de lo citado, el Estado legal posee como principal característica el imperio de la ley. Esto puede entenderse como «[...] una expresión que denota la absoluta necesidad de que en las sociedades humanas se obedezca las leyes legítimamente expedidas, como requisito indispensable para la justa, pacífica y civilizada convivencia entre sus miembros» (Primer Reporte, s. f.).

Sin embargo, este modelo de Estado culminó por culpa de los abusos que se cometían por medio de la ley para beneficiar a las mayorías y dejar fuera a las minorías. Esta situación fue comprendida por Gustavo Zagrebelsky (s. f.) así: «La ley —en este punto de su historia— ya no es la expresión “pacífica” de una sociedad política internamente coherente, sino que es manifestación e instrumento de competición y enfrentamiento social» (p. 15).

Asimismo, el autor precitado señaló que: «La ley, en suma, ya no es garantía absoluta y última de estabilidad, sino que ella misma se convierte en instrumento y causa de inestabilidad» (Zagrebelsky, s. f., p. 16). Por lo que, en búsqueda de un mejor modelo de gobierno, nace el Estado constitucional de derecho.

En tal sentido, debemos afirmar que el Estado peruano en la actualidad es un Estado constitucional de derecho. Esto parte de la teoría kelseniana que planteó a la Constitución como norma suprema y un órgano jurisdiccional que sea especializado, autónomo e independiente del resto de órganos en el Estado, siendo este órgano el Tribunal Constitucional (Roel Alva, 2021, p. 255).

Respecto del primer punto, esto significa que la Constitución es la norma con mayor jerarquía en el Estado peruano y por lo tanto ninguna norma puede ir en contra de ella. Esto último se desarrollará a continuación.

1. La Constitución Política y su supremacía normativa

Continuando con lo mencionado en el apartado anterior en respecto de la supremacía de la Constitución Política de Estado, es importante conocer lo dicho por Eduardo García de Enterría (1979), quien expuso lo siguiente: «[...] La Constitución no solo es una norma, sino precisamente la primera de las normas del ordenamiento entero, la norma fundamental, le superior [...] es la primera de las «normas de producción», la norma normarum, la fuente de las fuentes». (p. 299)

Con base en estas líneas, entendemos el rol fundamental de la Constitución, siendo así la norma madre y fundante de las demás normativas, la primigenia sobre todas ellas. Siguiendo con lo mencionado por el precitado autor, Robert Alexy (2002) también se expresó sobre la supremacía constitucional, alegando lo siguiente:

«Lo que está ordenado por la Constitución es constitucionalmente necesario; lo que está prohibido por la Constitución es constitucionalmente imposible y lo que la Constitución confía a la discrecionalidad del Legislador es tan solo constitucionalmente posible, porque para la Constitución no es necesario ni imposible». (p. 22)

De esta forma, se comprende que la Constitución protege lo que se considera necesario para la existencia del Estado, siendo que parte de los contenidos de la Constitución peruana son los derechos fundamentales.

Asimismo, resulta importante observar cómo la propia Constitución peruana reconoce su supremacía en el Estado peruano por medio del artículo 51: «[l]a Constitución prevalece sobre toda norma legal; la ley, sobre las normas de inferior jerarquía, y así sucesivamente. La publicidad es esencial para la vigencia de toda norma del Estado» (Congreso Constituyente Democrático, 1993, Artículo 51). Como se observa, la Constitución es superior a cualquier otra norma legal en el Estado peruano. Con el fin de ahondar en lo dicho, el Tribunal Constitucional comentó lo siguiente: «[...] en un Estado constitucional democrático los poderes constituidos no están por encima de la Constitución, sino que están sometidos a ella» (Sentencia emitida en el Expediente 0006-2006-PC/TC, fundamento 44).

Es imprescindible en esta sección citar lo mencionado por el Tribunal Constitucional respecto de la supremacía de la norma constitucional, es así como en la Sentencia del Expediente N.º 00006-2008-PI/TC dispuso lo siguiente:

«Este precepto contiene el principio de jerarquía normativa que nos dice que cualquier otra norma con rango menor está sometida a la supremacía de la Constitución resultando que una norma con rango de ley será válida solo en la medida en que sea compatible formal y materialmente con la norma suprema; en consecuencia, el parámetro de control de constitucionalidad de las leyes o normas de su mismo rango está integrado, siempre y en todos los casos, por la Constitución». (Sentencia emitida en la Sentencia del Expediente 00006-2008-PI/TC, fundamento VII.3)

Por consiguiente, es preciso señalar que, con base en el principio de jerarquía normativa, cualquier ley con rango menor a esta se somete a la supremacía de la Carta Constitucional y será válida siempre y cuando sea compatible a la norma suprema, siendo esto así también un rasgo del control constitucional.

Igualmente, una de las principales razones por las cuales la Constitución Política es la norma suprema es porque en ella se contienen los derechos fundamentales, aquellos derechos más importantes, inherentes y básicos del ser humano; a continuación, se precisará con más detalle respecto de ello.

2. Derechos fundamentales y efectos horizontales

Continuando con lo mencionado en el apartado anterior sobre la supremacía de la Constitución Política del Estado, es importante conocer lo dicho por Eduardo García de Enterría (1979), quien expuso lo siguiente: «[...] La Constitución no solo es una norma, sino precisamente la primera de las normas del ordenamiento entero, la norma fundamental, la superior [...] es la primera de las «normas de producción», la norma normarum, la fuente de las fuentes». (p. 299)

Con base en estas líneas, entendemos el rol fundamental de la Constitución, siendo así la norma madre y fundante de las demás normativas, la primigenia sobre todas ellas. Siguiendo con lo mencionado por el precitado autor, Robert Alexy (2002) también se expresó sobre la supremacía constitucional, alegando lo siguiente:

«Lo que está ordenado por la Constitución es constitucionalmente necesario; lo que está prohibido por la Constitución es constitucionalmente imposible y lo que la Constitución confía a la discrecionalidad del Legislador es tan solo constitucionalmente posible, porque para la Constitución no es necesario ni imposible». (p. 22)

De esta forma, se comprende que la Constitución protege lo que se considera necesario para la existencia del Estado, siendo que parte de los contenidos de la Constitución peruana son los derechos fundamentales.

Asimismo, resulta importante observar cómo la propia Constitución peruana reconoce su supremacía en el Estado peruano por medio del artículo 51: «[l]a Constitución prevalece sobre toda norma legal; la ley, sobre las normas de inferior jerarquía, y así sucesivamente. La publicidad es esencial para la vigencia de toda norma del Estado» (Congreso Constituyente Democrático, 1993, Artículo 51). Como se observa, la Constitución es superior a cualquier otra norma legal en el Estado peruano. Con el fin de ahondar en lo dicho, el Tribunal Constitucional comentó lo siguiente: «[...] en un Estado constitucional democrático los poderes constituidos no están por encima de la Constitución, sino que están sometidos a ella» (Sentencia emitida en el Expediente 0006-2006-PC/TC, fundamento 44).

Es imprescindible en esta sección citar lo mencionado por el Tribunal Constitucional respecto de la supremacía de la norma constitucional. Así, en la Sentencia del Expediente N.º 00006-2008-PI/TC dispuso lo siguiente:

«Este precepto contiene el principio de jerarquía normativa que nos dice que cualquier otra norma con rango menor está sometida a la supremacía de la Constitución, resultando que una norma con rango de ley será válida solo en la medida en que sea compatible formal y materialmente con la norma suprema; en consecuencia, el parámetro de control de constitucionalidad de las leyes o normas de su mismo rango está integrado, siempre y en todos los casos, por la Constitución». (Sentencia emitida en la Sentencia del Expediente 00006-2008-PI/TC, fundamento VII.3)

Por consiguiente, es preciso señalar que, con base en el principio de jerarquía normativa, cualquier ley con rango menor a esta se somete a la supremacía de la Carta Constitucional y será válida siempre y cuando sea compatible con la norma suprema, siendo esto así también un rasgo del control constitucional.

Ahora bien, es importante recalcar que la Constitución, que es la norma suprema en el Estado peruano, como se indicó anteriormente, se divide tanto en una parte dogmática como una orgánica. Respecto de la parte dogmática, recoge un catálogo de derechos fundamentales, entre los cuales se hace presente el derecho a la autodeterminación informativa.

En materia de derechos fundamentales, es menester citar a César Landa (2017), quien señaló lo siguiente: «[l]os derechos fundamentales son los derechos básicos de la persona que se basan en su dignidad y que, a su vez, se constituyen como fundamento del Estado y de la sociedad en su conjunto» (p. 11). Con base en lo citado, se comprende que los derechos fundamentales son aquellos derechos primordiales e inherentes a la persona, los cuales demarcan las bases fundamentales de respeto que tanto el Estado como los demás ciudadanos deben seguir.

En relación con lo anterior, el Tribunal Constitucional, citando a Peces-Barba, declaró lo siguiente sobre los derechos fundamentales:

El concepto de derechos fundamentales comprende: «tanto los presupuestos éticos como los componentes jurídicos, significando la relevancia moral de una idea que compromete la dignidad humana y sus objetivos de autonomía moral, y también la relevancia jurídica que convierte a los derechos en norma básica material del Ordenamiento, y es instrumento necesario para que el individuo desarrolle en la sociedad todas sus potencialidades. Los derechos fundamentales expresan tanto una moralidad básica como una juridicidad básica». (Sentencia emitida en el Expediente 1417-2005-AA/TC, fundamento 2)

Entonces, podemos concluir que los derechos fundamentales tienen dos componentes: el primero, que se enmarca en un presupuesto ético y moral donde le otorga relevancia a la protección de la dignidad humana; y el segundo componente, que consiste en su relevancia jurídica, la cual determinará que los derechos fundamentales son las normas básicas dentro del ordenamiento jurídico y que son imprescindibles para el óptimo desarrollo del ser humano en la sociedad.

Asimismo, los derechos fundamentales tienen efectos e influencias que determinan los límites del alcance de los propios derechos fundamentales, que son necesarios para la interrelación de los ciudadanos, tanto entre el Estado y los privados como en la interrelación entre privados.

Respecto de esta interacción de los derechos fundamentales entre los privados, es importante conocer a lo que se denomina el efecto horizontal de los derechos fundamentales. Sobre esto, el Tribunal Constitucional señaló lo siguiente:

Los derechos fundamentales de la persona humana detentan un efecto horizontal o inter privatos (Cfr. STC, Exp. 1124-2001-PA/TC, entre otros). Tal efecto se deriva, por un lado, del artículo 38º de la Constitución, en cuanto establece que todos los peruanos tienen el deber de «respetar» y «cumplir» la Constitución y, por otro, del principio de dignidad (artículos 1º y 3º de la Constitución), en cuanto el valor central de la persona impone que sus derechos fundamentales proyecten su efecto regulador al ámbito de la sociedad y de la propia autonomía privada.

[L]os derechos fundamentales vinculan, detentan fuerza regulatoria en las relaciones jurídicas de derecho privado, lo cual implica que las normas estatutarias de las entidades privadas y los actos de sus órganos no deben contradecir a la Constitución tratándose de los derechos fundamentales de la persona humana. (Sentencia emitida en el Expediente 02049-2007-PA/TC, fundamento 3)

Sobre lo mencionado por el Tribunal Constitucional, se comprende que el efecto horizontal de los derechos fundamentales se refiere a la limitación de la relación entre privados, efecto que se deriva de la obligación de respetar y cumplir la Constitución Política, así como del principio de dignidad donde el valor central del ser humano también es regulado en el ámbito de la autonomía privada. De manera que ningún espacio social se encuentra fuera del control constitucional.

Ahora que hemos comprendido la importancia de los derechos fundamentales y el respeto que se merecen por parte del Estado como de los privados, es momento de pasar al derecho que será eje de la presente ponencia: el derecho a la autodeterminación informativa.

IV. El derecho a la autodeterminación informativa

Es importante mencionar que para esta ponencia la comprensión del derecho a la autodeterminación informativa es vital. Este derecho está previsto en la Constitución Política del Perú en su artículo 2 inciso 6) de la siguiente manera: «Artículo 2.- Toda persona tiene derecho: [...] 6. A que los servicios informáticos, computarizados o no, públicos o privados, no suministren informaciones que afecten la intimidad personal y familiar» (Congreso Constituyente Democrático, 1993, Artículo 2 inciso 6).

Tomando como guía lo señalado por el articulado de la norma suprema, la autodeterminación informativa busca resguardar la intimidad no solo personal, sino también familiar, ante cualquier mecanismo que pueda transgredir el derecho a la intimidad y que le genere un perjuicio; en referencia a los mecanismos como los medios electrónicos o las tecnologías de la información o la comunicación (TICS) que se encuentran al alcance de todos hoy en día.

También, con el fin de comprender mejor este derecho, veamos lo expresado por Karina Castro Cruzatt (2008), quien desarrolla el significado de la autodeterminación informativa al señalar lo siguiente:

«El derecho reconocido en el inciso 6) del artículo 2º de la Constitución es denominado por la doctrina derecho a la autodeterminación informativa y tiene por objeto proteger la intimidad, personal o familiar, la imagen y la identidad frente al peligro que representa el uso y la eventual manipulación de los datos a través de los ordenadores electrónicos.» (p. 272)

En relación con lo expresado anteriormente, el Tribunal Constitucional peruano también se pronunció respecto de este derecho y dispuso lo siguiente:

«El derecho a la autodeterminación informativa consiste en la serie de facultades que tiene toda persona para ejercer control sobre la información personal que le concierne, contenida en registros ya sean públicos, privados o informáticos, a fin de enfrentar las posibles extralimitaciones de los mismos. Se encuentra estrechamente ligado a un control sobre la información, como una autodeterminación de la vida íntima, de la esfera personal.

Mediante la autodeterminación informativa se busca proteger a la persona en sí misma, no únicamente en los derechos que conciernen a su esfera personalísima, sino a la persona en la totalidad de ámbitos; por tanto, no puede identificarse con el derecho a la intimidad personal o familiar, ya que mientras este protege el derecho a la vida privada, el derecho a la autodeterminación informativa busca garantizar la facultad de todo individuo de poder preservarla ejerciendo un control en el registro, uso y revelación de los datos que le conciernen.» (Sentencia emitida en el Expediente 4739-2007-PHD/TC, fundamentos 2 y 3)

Siguiendo la línea de ideas de Castro Cruzatt y del Tribunal Constitucional, podemos concluir que este derecho fundamental, que faculta a todos los ciudadanos el dominio de su información privada y personal, incluye a todos aquellos derechos concernientes conexos a ella y en todos los ámbitos, tanto personales como sociales.

Es importante precisar que no debe ser confundido con el derecho a la intimidad, ya que, mientras este último busca proteger la vida privada del individuo, la autodeterminación informativa busca que el ciudadano tenga la potestad de ejercer el control de su propia información presente en cualquier tipo de registro con el fin de evitar el mal uso de esta.

Aparte de lo mencionado, es necesario ver lo dicho por Gonzalo Carlos Muñoz Hernández (2020) respecto de lo que busca este derecho: «[p]ara tal efecto, faculta a su titular controlar aquella información que le es propia, razón por la cual, es necesario que el titular de este demuestre, aunque sea mínimamente, tal titularidad» (p. 248).

Otro punto importante para tratar sobre el derecho a la autodeterminación informativa es que no es igual que el derecho a la imagen o a la identidad personal, sino que cada uno es un derecho autónomo. Con el fin de comprender lo dicho, veamos lo expresado por el Tribunal Constitucional peruano en la siguiente jurisprudencia:

«Tampoco el derecho a la autodeterminación informativa debe confundirse con el derecho a la imagen, reconocido en el inciso 7) del artículo 2 de la Constitución, que protege, básicamente la imagen del ser humano, derivada de la dignidad de la que se encuentra investido; mientras que el derecho a la autodeterminación informativa, en este extremo, garantiza que el individuo sea capaz de disponer y controlar el tipo de datos que sobre él se hayan registrado, a efectos de preservar su imagen derivada de su inserción en la vida en sociedad.

Finalmente, también se diferencia del derecho a la identidad personal, esto es, del derecho a que la proyección social de la propia personalidad no sufra interferencias o distorsiones a causa de la atribución de ideas, opiniones, o comportamientos diferentes de aquellos que el individuo manifiesta en su vida en sociedad.» (Sentencia emitida en el Expediente 1797-2002-HD/TC, fundamento 3)

De esta forma, se entiende que el derecho a la autodeterminación informativa se diferencia del derecho a la imagen debido a que busca proteger la disposición que tiene el individuo sobre sus datos. Además, también se diferencia del derecho a la identidad personal dado que este último protege la proyección social de la propia personalidad.

Resulta importante mencionar que la autodeterminación informativa es un derecho compuesto por otras libertades, como las mencionadas a la imagen y a la identidad personal. Por lo tanto, con el fin de entender lo señalado, veamos lo dicho por César Augusto Orrego (2013):

«El derecho de autodeterminación informativa es un esfuerzo del derecho contemporáneo, que protege la dignidad del ser humano que se va expuesto a los riesgos que constituyen los adelantos en los sistemas informáticos computarizados, cuando se almacena, procesa y difunde información y que al no contar con la calidad exigida, afecta entre otros, los derechos a la intimidad, personal y familia, imagen e identidad.

Este derecho fundamental nos garantiza un haz de facultades, colocándonos en la posibilidad jurídica de controlar la información que sobre nuestra propia persona se está tratando en distintos bancos de datos públicos o privados, protegiendo una serie de derechos fundamentales. De allí que se releve la característica relacional del derecho de autodeterminación informativa, pues como hemos sostenido se encuentra vinculado a la protección de otros derechos constitucionales.» (p. 329)

Entonces, se comprende que el derecho a la autodeterminación informativa protege un conjunto de garantías debido a que se encuentra vinculado a otros derechos constitucionales como la imagen, nombre, identidad personal y protección a los datos personales; sin negar la opción de que otros derechos se encuentren tutelados también por la autodeterminación informativa.

1. Derecho a la imagen

Como se señaló, uno de los derechos relacionados a la autodeterminación informativa es el derecho a la imagen. El cual se encuentra presente en la Constitución Política del Perú, en el artículo 2 inciso 7) de esta forma:

Artículo 2.- Toda persona tiene derecho: [...]

7. Al honor y a la buena reputación, a la intimidad personal y familiar así como a la voz y a la imagen propias. Toda persona afectada por afirmaciones inexactas o agraviada en cualquier medio de comunicación social tiene derecho a que este se rectifique en forma gratuita, inmediata y proporcional, sin perjuicio de las responsabilidades de ley. (Congreso Constituyente Democrático, 1993, Artículo 2, inciso 7)

Como se puede observar, el artículo citado menciona que toda persona tiene derecho a su imagen. Este derecho continúa su desarrollo en el Código Civil en su artículo 15, así:

Artículo 15.- La imagen y la voz de una persona no pueden ser aprovechadas sin autorización expresa de ella o, si ha muerto, sin el asentimiento de su cónyuge, descendientes, ascendientes o hermanos, excluyentemente y en este orden. Dicho asentimiento no es necesario cuando la utilización de la imagen y la voz se justifique por la notoriedad de la persona, por el cargo que desempeñe, por hechos de importancia o interés público o por motivos de índole científica, didáctica o cultural y siempre que se relacione con hechos o ceremonias de interés general que se celebren en público. No rigen estas excepciones cuando la utilización de la imagen o la voz atente contra el honor, el decoro o la reputación de la persona a quien corresponden. (Presidencia de la República del Perú, 1984, Artículo 15)

Con base en lo dicho por la Constitución y el Código Civil, se comprende que el derecho a la imagen busca proteger el uso que cada uno posee sobre su propia imagen. De tal forma que no se puede utilizar la imagen de cada uno sin su consentimiento, de ser una situación de índole privado.

Respecto de este derecho, Juan Morales Godo (2005) comprendió la importancia de su protección con estas palabras:

"Hay necesidad de brindar protección a la imagen de una persona, porque la misma puede ser captada con mucha facilidad en lugares públicos o privados, incluyendo recintos íntimos, sin consentimiento de la persona. También puede captarse la Imagen de la persona en cualquier lugar en actitudes, gestos o posiciones indecorosos, cuya captación afecta la sensibilidad de la persona, con mayor razón si estas son divulgadas." (p. 150)

Por lo tanto, se entiende que la protección del derecho a la imagen nace de la facilidad con la que se puede tomar/capturar imágenes de una persona en situaciones en las cuales se afecte la sensibilidad de esta.

Por otro lado, el Tribunal Constitucional comprendió este derecho con estas palabras:

"El derecho reconocido en el inciso 7) del artículo 2, de la Constitución que protege básicamente la imagen del ser humano, derivada de la dignidad de la que se encuentra investido conforme a lo dispuesto en el artículo 1º de la acotada, [...] Pero el derecho a la imagen también es un derecho autónomo que dispone de un ámbito específico de protección frente a reproducciones de la imagen que no afecte la esfera personal de su titular, no lesionen su buen nombre ni den a conocer su vida íntima, salvaguardándolo de un ámbito propio y reservado, frente a la acción y conocimiento de los demás. Por ello su titular tiene la facultad para evitar su difusión de su aspecto físico, ya que es el elemento configurador de todo individuo, en cuanto a su identificación, que proyecta al exterior para su reconocimiento como persona." (Sentencia emitida en el Expediente 1970-2008-PA/TC, fundamentos 8 y 9)

Lo dicho por el Tribunal Constitucional permite subsumir lo señalado anteriormente. En tal sentido, el derecho a la imagen protege la capacidad que tiene cada persona tanto de prohibir el uso de su imagen si es que esta no tiene su consentimiento de ser utilizada como de permitir el uso de esta.

Finalizamos este apartado indicando, con base en lo dicho por Fabricio Sánchez y Alexandra Espinoza (2021), lo siguiente sobre la relación del derecho a la imagen con la autodeterminación informativa:

"[...] el derecho a la imagen, este se encuentra relacionado con la autodeterminación informativa en tanto garantiza que las personas dispongan y controlen el tipo de datos que sobre él o ella se haya registrado, a efectos de preservar su imagen derivada de su inserción en la vida en sociedad."

De tal forma que el derecho a la imagen se relaciona con la autodeterminación informativa, debido a que el primero busca la protección de los datos que formen parte de un registro.

2. Derecho a la identidad personal

Por otro lado, el derecho a la identidad personal se encuentra presente en la Constitución Política en su artículo 2, inciso 1), de la siguiente forma: «Artículo 2.- Toda persona tiene derecho: 1. A la vida, a su identidad, a su integridad moral, psíquica y física y a su libre desarrollo y bienestar. El concebido es sujeto de derecho en todo cuanto le favorece» (Congreso Constituyente Democrático, 1993, Artículo 2 inciso 1).

Así, en el mencionado artículo e inciso, se observa que toda persona tiene derecho a su identidad. Con el fin de comprender qué significa ello, veamos lo expresado por Alejandro Alberto Moriconi (2011), con base en las ideas de Carlos Fernández Sessarego (2002):

[...] la identidad personal es el conjunto de atributos y características que permiten individualizar a la persona en sociedad. A este concepto, quisiera agregar que la identidad no solo hace referencia a una estructura natural del hombre, sea esta en su esencia biológica, física y fisiológica, sino que se extiende a su estructura cultural de la que forma parte y es protagonista. La identidad hace que la persona se sienta parte de una historia reciente, conociendo de donde viene y hacia dónde va. (p. 67)

Es así como comprendemos a este derecho como la identificación personal que posee cada persona y la diferencia sobre el resto. Respecto del derecho a la identidad personal, el Tribunal Constitucional menciona:

Este Tribunal considera que, entre los atributos esenciales de la persona, ocupa un lugar primordial el derecho a la identidad consagrado en el inciso 1) del artículo 2º de la Carta Magna, entendido como el derecho que tiene todo individuo a ser reconocido estrictamente por lo que es y por el modo cómo es.

Vale decir, el derecho a ser individualizado conforme a determinados rasgos distintivos, esencialmente de carácter objetivo (nombres, seudónimos, registros, herencia genética, características corporales, etc.) y aquellos otros que se derivan del propio desarrollo y comportamiento personal, más bien de carácter subjetivo (ideología, identidad cultural, valores, reputación, etc.). (Sentencia emitida en el Expediente 2273-2005-PHC/TC, fundamento 21)

De lo dicho por el intérprete supremo de la Constitución, se interpreta que el derecho a la identidad resulta parte esencial de los derechos de las personas, debido a que implica la protección para que a cada persona se le reconozca por lo que es y por el modo como es.

Otro apartado importante a mencionar es la relación de este derecho con la autodeterminación informativa. Para ello, citamos las siguientes palabras de Fabricio Sánchez y Alexandra Espinoza (2021):

[...] respecto a la identidad personal, en tanto el control de la información que identifica a las personas permite, a su vez el control sobre la proyección de su propia personalidad, y que esta no sufra interferencias o distorsiones a causa de atribución de ideas, opiniones o comportamientos que pueden ser expuestos en la información que lo identifica o hace identificable.

A partir de ello, se entiende que la relación entre el derecho a la identidad personal y el derecho a la autodeterminación informativa recae en que este último busca la protección de la información que cada persona considere concerniente y de acuerdo con lo que busca transmitir de ella dentro de los bancos de información.

3. Derecho al nombre

El derecho al nombre, a diferencia de los anteriores, no posee un reconocimiento en la Constitución Política; no obstante, se interpreta que sí tiene reconocimiento como derecho constitucional debido a su relación con el derecho a la identidad. Sobre esto, el Tribunal Constitucional desarrolló lo siguiente:

[...] el artículo 2.1° de la Constitución expresamente refiere que toda persona tiene derecho a la identidad, derecho que comprende tanto al derecho a un nombre —conocer a sus padres y conservar sus apellidos—, el relativo a tener una nacionalidad y la obligación de que el Estado reconozca su personalidad jurídica. (Sentencia emitida en el Expediente 4444-2005-PHC/TC, fundamento 4)

Este derecho tiene como finalidad proteger la denominación de una persona con el fin de que pueda ser reconocida en la sociedad. Respecto de lo dicho, el Código Civil en su artículo 19: «[t]oda persona tiene el derecho y el deber de llevar un nombre. Este incluye los apellidos» (Presidencia de la República del Perú, 1984, Artículo 19). Además, su protección también se presenta en la jurisprudencia de la Corte Interamericana de Derechos Humanos (Corte IDH), la cual señaló lo siguiente respecto de dicho derecho:

Ahora bien, el derecho al nombre, consagrado en el artículo 18 de la Convención Americana, constituye un elemento básico e indispensable de la identidad de cada persona, sin el cual no puede ser reconocida por la sociedad ni registrada ante el Estado. Dicho derecho se establece también en diversos instrumentos internacionales. (Sentencia emitida en el caso de las Niñas Yean y Bosico vs. República Dominicana, fundamento 182)

Es de esta forma que, con base en lo dicho por el Tribunal Constitucional, y junto con lo señalado en el Código Civil y lo expresado por la Corte IDH, se comprende el reconocimiento de este derecho en el Estado peruano.

Aparte de lo mencionado, es importante comprender que la relación de este derecho con la autodeterminación informativa proviene de que el derecho al nombre se extiende del derecho a la identidad personal, y este derecho es uno de los protegidos por el derecho a la autodeterminación informativa.

4. Derecho a la intimidad

En cuanto al derecho a la intimidad, este se presenta en la Constitución Política en el artículo 2 inciso 7 de la siguiente manera: «Artículo 2.- Toda persona tiene derecho: [...] 7. Al honor y a la buena reputación, a la intimidad personal y familiar, así como a la voz y a la imagen propias» (Congreso Constituyente Democrático, 1993, Artículo 2 inciso 7).

Como se observa, el citado artículo reconoce que todas las personas tienen derecho a la intimidad personal y familiar. Con base en lo dicho, Iván Alfredo Fajardo Bernal (2006) indica sobre la justificación de la existencia de este derecho lo siguiente:

En la época contemporánea se impone como prioritaria la preservación de una esfera reservada de la vida de los individuos, en un mundo en el que cada vez, como se ha anotado, son más reducidos los espacios vitales aislados del conocimiento ajeno. El individuo tiene derecho a tener una vida privada, cuyo núcleo esencial se encuentra en lo íntimo, aquello esencial o consubstancial al ser humano que lo hace único y diferente de los demás y le permite desarrollar autónomamente su propia personalidad, como expresión auténtica de su ser. (p. 194)

Es así como comprendemos que el derecho a la intimidad nace con el objetivo de proteger la vida privada de las personas en su ámbito más personal, de tal forma que esta es la que genera el desarrollo de su forma de ser.

Por otro lado, es importante observar y comprender lo desarrollado por la jurisprudencia vinculante del Tribunal Constitucional respecto de este derecho:

[...] se ha estimado apropiado afirmar que es el ámbito personal en la cual un ser humano tiene la capacidad de desarrollar y fomentar libremente su personalidad: Por ende, se considera que está constituida por los datos, hechos o situaciones desconocidos para la comunidad que, siendo verídicos, están reservados al conocimiento del sujeto mismo y de un grupo reducido de personas, y cuya divulgación o conocimiento por otros trae aparejado algún daño. (Sentencia emitida en el Expediente 6712-2005-HC/TC, fundamento 38)

Ciertamente, es de esta forma que el Tribunal Constitucional peruano reconoció la importancia de la protección del ámbito privado de la vida de las personas, esto con la finalidad de que se pueda desarrollar libremente la personalidad.

Por último, en este apartado, es importante reconocer la relación que posee este derecho conexo al derecho a la autodeterminación informativa, debido a que la autodeterminación informativa protege el control de la información que una persona posea en sus bancos de datos, la cual de ser liberada libremente generaría perjuicios en el individuo.

5. Derecho a la protección de datos personales – nueva denominación mismo derecho

Este derecho se encuentra reconocido en el artículo 2 inciso 6) de la Constitución Política, anteriormente citado, y posee un desarrollo amplio en la Ley N.º 29733, Ley de Protección de Datos Personales, la cual en su artículo 1 señala lo siguiente:

La presente Ley tiene el objeto de garantizar el derecho fundamental a la protección de los datos personales, previsto en el artículo 2 numeral 6 de la Constitución Política del Perú, a través de su adecuado tratamiento, en un marco de respeto de los demás derechos fundamentales que en ella se reconocen. (Congreso de la República del Perú, 2011, Artículo 1°)

La mencionada Ley en su artículo 2 define varios conceptos relacionados a la protección de los datos personales. Entre ellos, explica el término datos personales con estas palabras en su inciso 4): «[t]oda información sobre una persona natural que la identifica o la hace identificable a través de medios que pueden ser razonablemente utilizados» (Congreso de la República del Perú, 2011, Artículo 2 inciso 4).

Con el fin de comprender la relación de este derecho con la autodeterminación informativa, veamos lo dicho por el Tribunal Constitucional:

Los datos personales son el objeto de protección del derecho a la autodeterminación informativa, como indicó en su oportunidad este Colegiado, este derecho, reconocido en el inciso 6 del artículo 2 de la Constitución, consiste en la serie de facultades que tiene toda persona para ejercer control sobre la información personal que le concierne, contenida en registros ya sean públicos, privados o informáticos, a fin de enfrentar las posibles extralimitaciones de los mismos. (Sentencia emitida en el Expediente 02481-2019-HD/TC, fundamento 15)

Así, el máximo intérprete de la Constitución comprende que la protección de los datos personales proviene del derecho a la autodeterminación informativa.

V. Dictaduras digitales. Quien posee los datos posee el poder. ¿El fin de la democracia?

Lo siguiente a tratar en la presente ponencia es como la IA dañó el derecho a la autodeterminación informativa y las garantías protegidas por este derecho. Para comenzar, se debe entender qué es una IA. Se comprende de diferente forma dependiendo cuál sea el autor que se lea.

En esta oportunidad, nos basaremos en un enfoque de la IA como herramienta que puede ser utilizada por los humanos, comprendiendo su objetivo principal: «replicar o simular la inteligencia humana en las máquinas» (Data Scientest, 2022). Es así como, por ejemplo, observamos que el aplicativo Photoshop ahora puede ser reemplazado por el aplicativo FaceSwapper.

Ambos logran la misma meta que es alterar imágenes; por ejemplo, colocando mi rostro en el rostro de otra persona, solo que la gran diferencia es que con Photoshop uno tiene que realizar el procedimiento completo y todo el esfuerzo; mientras que con FaceSwapper solo realizas pasos sencillos como añadir las fotos que vayas a utilizar y un par de clicks para lograr el objetivo.

La intención inicial de la IA es facilitar el desarrollo de la vida de los humanos. Esta idea se comprende de la siguiente forma: «[...] en la actualidad se sabe que la IA no busca reemplazar a los humanos, sino contribuir al desarrollo de sus capacidades y contribuciones. Sus diferentes aplicaciones tienen como meta mejorar tanto el desempeño como la experiencia de sus usuarios». (Tableau)

No obstante, como se pudo comprender con las noticias mostradas al inicio de la presente ponencia, también posee la capacidad de dañar la vida de otras personas. Con el fin de demostrar lo señalado, analizaremos estos casos recientes.

1. Caso de 15 escolares en el centro educativo St George’s College

Tomemos inicialmente como ejemplo la siguiente situación referente a lo acontecido en el centro educativo St George’s College:

Una madre de familia de las afectadas comentó que su hija está «aterrada», no quieren asistir al colegio ni comer desde que se dio a conocer el caso. «¿Mamá, mis fotos se verán en el futuro? ¿Mis hijos verán esas fotos?», son algunas de las preguntas que las alumnas hacen a sus madres. Son 15 las escolares afectadas directamente por la situación y serían presuntas víctimas de sus propios compañeros de clase. (Espinoza, 2023)

El mal uso de la IA, en este caso, generó que 15 menores de edad sufrieran daños que perdurarán a lo largo de su vida. Por lo que es importante reflexionar sobre cómo es que un acto como el mencionado vulnera los derechos anteriormente mencionados, como el derecho a la imagen, autodeterminación informativa y el de la identidad.

Esta situación proviene de los riesgos que nacen junto con la intervención de la IA en nuestra sociedad, veamos algunos de ellos con base en lo indicado por Bernard Marr (2023):

3. Preocupación por la privacidad Las tecnologías de IA suelen recopilar y analizar grandes cantidades de datos personales, lo que plantea problemas relacionados con la privacidad y la seguridad de los datos. Para mitigar los riesgos para la privacidad, debemos abogar por una normativa estricta de protección de datos y prácticas seguras de tratamiento de los mismos [...].

5. Riesgos para la seguridad A medida que las tecnologías de IA se vuelven cada vez más sofisticadas, también aumentan los riesgos de seguridad asociados a su uso y el potencial de uso indebido. Los piratas informáticos y los actores maliciosos pueden aprovechar el poder de la IA para desarrollar ciberataques más avanzados, eludir las medidas de seguridad y explotar las vulnerabilidades de los sistemas [...].

10. Retos jurídicos y normativos Es crucial desarrollar nuevos marcos jurídicos y normativos para abordar los problemas específicos que plantean las tecnologías de IA, como la responsabilidad y los derechos de propiedad intelectual. Los sistemas jurídicos deben evolucionar para seguir el ritmo de los avances tecnológicos y proteger los derechos de todos [...].

13. Desinformación y manipulación Los contenidos generados por IA, como los deepfakes, contribuyen a la difusión de información falsa y a la manipulación de la opinión pública. Los esfuerzos para detectar y combatir la desinformación generada por la IA son fundamentales para preservar la integridad de la información en la era digital.

Con base en lo señalado, podemos observar estas prácticas acontecen de múltiples formas en la sociedad peruana. Observamos que, empleando la IA, resulta sencillo encontrar imágenes e información de diferentes personas por medio de las redes sociales y, desde allí, empezar a modificar o falsear la información obtenida.

Es de esta forma que aumentan los riesgos para la protección de los datos personales de las personas, por cuanto su información es de fácil acceso y la IA es una herramienta sumamente eficiente para ello. Por tanto, la IA estaría facilitando la difusión de información falsa o inexacta.

Asimismo, veamos lo acontecido en el caso señalado y las consecuencias de este:

[...] caso de ciberacoso y violencia digital que se registró en el St. George’s College, en el que algunos de sus alumnos manipularon las fotografías que sus compañeras publicaban en las redes sociales y venderlas como material sexual explícito, la institución se expresó mediante un comunicado. (REDACCIONES PERÚ 21, 2023)

El acto realizado de manipular las fotografías de las chicas para venderlas como material sexual explícito genera que se cree una imagen errónea de ellas frente a la sociedad. Se está utilizando información de ellas con el fin de tergiversar su imagen y dañarlas con este actuar. Esto se debe a que la imagen que ellas tienen de sí mismas y que buscan transmitir a la sociedad no está relacionada al mundo sexual. Como resulta evidente, esta práctica comporta una grave vulneración a dicho derecho.

2. Caso de las estudiantes de la Universidad de San Juan

Ahora, veamos lo acontecido en el caso nombrado con anterioridad de la Universidad de San Juan. El hecho de que por medio de la IA desnudasen imágenes de sus compañeras claramente representa un daño al derecho a la autodeterminación informativa y los derechos relacionados a la misma.

Esto se debe a la causal de que se desnudó la imagen de las jóvenes sin el consentimiento de las afectadas. Esto implica un uso indiscriminado de su imagen por medio de la IA. El daño aumenta debido a la facilidad del internet para ampliar el rango de divulgación de las imágenes modificadas por la IA.

Para comprender lo dicho, veamos lo señalado por Raúl Huamani Benites (2021):

[...] que el internet viene a ser la parte fundamental para acceder a todo tipo de información, es así que a través de ello se accede a las redes sociales, como bien sabe que su aparición comenzó a partir del año 1994, pero su difusión y uso a todos los rangos de edades empezó a partir del año 2000, para adelante, generando una gran importancia y uso, dando valor a la voz, pero, por otro lado, haciéndose mal uso de la imagen a través de difusión de imágenes en las redes sociales. (p. 35)

Es de esta manera como el uso incorrecto de la IA termina vulnerando el derecho de los afectados. Aparte de lo acontecido en el caso mostrado, también se puede vulnerar colocando a un individuo en un lugar donde no estuvo en realidad o generando que parezca que estaba realizando acciones que en realidad no hizo. Siendo así que se le pueden imputar acciones que nunca realizó.

3. Caso de María de Jesús Gonzáles

Otro caso en el cual se vulneró el derecho a la autodeterminación informativa es el acontecido en contra de la periodista María de Jesús Gonzáles. Lo que ocurrió fue lo siguiente:

Está circulando en redes sociales un video falso donde presuntamente yo estoy animando a la gente a que haga inversiones por medio de una plataforma. Es terrible. lo más preocupante es que sale perfectamente la imagen del canal donde trabajo. (Ramírez, 2023)

La vulneración al derecho a la autodeterminación informativa se presenta debido a que están utilizando información, en este caso los vídeos, perteneciente a un registro de datos. Estos videos son transformados por medio de la IA para incentivar el ingreso a un negocio sin que la propia conductora de televisión haya grabado lo dicho en la promoción. El daño no solo quedaría en el derecho mencionado con sus relacionados, sino que inclusive llegaría a calificarse como daño al consumidor por publicidad engañosa, tema que no se desarrollará en la presente ponencia, pero se deja a la reflexión.

4. Caso de Maite Vizcarra

Esta situación resulta importante para explicar cómo por medio de la IA ocurre una situación similar a la de María de Jesús Gonzales. Lo que ocurrió en contra de Maite Vizcarra fue lo siguiente: «Está circulando un video donde supuestamente yo promuevo un negocio vinculado a la compra de criptomonedas, e indico que, si usted con poco dinero entra a un enlace, va a hacerse millonario. Esto obviamente es una estafa» (Ramírez, 2023).

De lo ocurrido, se observa una vulneración al derecho a la autodeterminación informativa debido a que utilizaron información que pertenece a un registro de datos, con la finalidad de transformarla por medio de una IA para engañar a la gente, haciéndolas creer que Maite Vizcarra promocionaba un negocio que en realidad desconocía.

Cabe mencionar que estos dos últimos casos expuestos comparten la misma vulneración, así como resulta una constante en el caso de figuras públicas, aunque esto no descarta que suceda en el caso del resto de los ciudadanos.

VI. Mecanismo constitucional de protección frente a las AI, el proceso constitucional de hábeas data

Como se pudo observar, se mostraron diversas situaciones en las cuales la intervención de las IA en las nuevas tecnologías generó vulneración al derecho a la autodeterminación informativa y los derechos conexos a la misma. Vale mencionar que estos no son los únicos que llegan a ser vulnerados por actos como los explicados, pero fueron los que se consideraron para esta ponencia. Por lo que es importante saber cómo se puede actuar frente a estas situaciones.

Para ello debemos recurrir a los procesos constitucionales. Este tipo de procesos resultan diferentes a los procesos ordinarios debido a que su base proviene del derecho constitucional y no de la teoría general del proceso. Para comprender esta idea, veamos lo dicho por el Tribunal Constitucional:

«[...] si bien es cierto que el Derecho Procesal Constitucional recurre, con frecuencia, a categorías e instituciones primigeniamente elaboradas como parte de la Teoría General del Proceso, es el Derecho Constitucional el que las configura y llena de contenido constitucional.

Esta posición, como es evidente, trasciende la mera cuestión de opción académica o jurisprudencial; por el contrario, significa un distanciamiento de aquellas posiciones positivistas del Derecho y del proceso que han llevado a desnaturalizar la vigencia efectiva de los derechos fundamentales, al hacer depender la eficacia de estos a la aplicación de normas procesales autónomas científicas y neutrales». (Sentencia emitida en el Expediente 4903-2005-PHC/TC, fundamento 3)

Es así como el Tribunal Constitucional reconoció que los procesos constitucionales apuntan a la protección de los derechos fundamentales y, por lo tanto, se aleja de la teoría procesal general. De tal forma que el Tribunal Constitucional continuó el desarrollo de esta idea con lo siguiente:

«El alejamiento del Derecho Procesal Constitucional de las categorías clásicas del Derecho Procesal se basa en que las distintas áreas del Derecho tienen un ámbito sustantivo y adjetivo en paridad de condiciones, tal como sucede, por ejemplo, en el Derecho Civil, donde la regulación procesal tiene la misma jerarquía que la existente a la sustantiva, pues tanto el Código Civil como el Código Procesal Civil tienen el rango de ley. Esto no sucede, por el contrario, en el ámbito constitucional, el Código Procesal Constitucional debe procedimentalizar la solución de cuestiones sustantivas que se encuentran en la Constitución, norma que tiene claramente un nivel jerárquico superior». (Sentencia emitida en el Expediente 07873-2006-PC/TC, fundamento 7)

De esta manera, se comprende que los procesos constitucionales —y, por tanto, el derecho procesal constitucional— resultan el medio idóneo para la protección de los derechos vulnerados en los casos mencionados y situaciones similares. Es así como debemos recurrir al Nuevo Código Procesal Constitucional con el fin de analizar qué proceso constitucional sería el adecuado.

Entre los procesos constitucionales existentes, se considera para el caso del derecho a la autodeterminación informativa al proceso de hábeas data. Es necesario conocer que el proceso de hábeas data se encuentra presente en la Constitución Política del Perú con estas palabras:

«Artículo 200.- Son garantías constitucionales:

[...]

3. La Acción de Hábeas Data, que procede contra el hecho u omisión, por parte de cualquier autoridad, funcionario o persona, que vulnera o amenaza los derechos a que se refiere el artículo 2, incisos 5 y 6 de la Constitución». (Congreso Constituyente Democrático, 1993, Artículo 200 inciso 3)

Es así que observamos que entre los derechos que tutela el proceso de hábeas data se encuentra la autodeterminación informativa. Este tipo de proceso posee un listado de los derechos que protege en el artículo 59 del Nuevo Código Procesal Constitucional, entre los cuales se encuentra la autodeterminación informativa, yendo así acorde a la Constitución.

Respecto de este proceso constitucional, es importante observar lo dicho por el Tribunal Constitucional sobre su campo de aplicación en relación con el derecho a la autodeterminación informativa:

«Asimismo con el derecho en referencia, y en defecto de él, mediante el hábeas data, un individuo puede rectificar la información, personal o familiar, que se haya registrado; impedir que esta se difunda para fines distintos de aquellos que justificaron su registro o, incluso tiene la potestad de cancelar aquellos que razonablemente no debieran encontrarse almacenados». (Sentencia emitida en el Expediente 1797-2002-HD/TC, fundamento 4)

Entonces, con base en lo dicho por el Tribunal Constitucional, y lo señalado por el Nuevo Código Procesal Constitucional, se fundamenta el uso del proceso de hábeas data para la protección del derecho a la autodeterminación informativa en los casos en los que la IA sea utilizada con el fin de vulnerar este derecho debido a la función que tiene este proceso constitucional.

VII. Importancia del debate sobre la materia

La intervención de la IA es totalmente inevitable en todos los campos de desarrollo de la sociedad. La encontramos desde los campos de redacción, como ChatGTP o Escribelo.ai; de corrección de estilo, como Grammarly o el corrector ortográfico de Trinka; de modificación de imágenes, como el mencionado FaceSwapper o Playground AI, o incluso crear pinturas artísticas, como lo realiza Dream by Wombo.

Esta situación implica que las nuevas tecnologías que toman como impulso para su desarrollo a la IA pueden ser utilizadas tanto para el bien como para el mal, después de todo son creadas por humanos y para uso de ellos. Debido a ello, es importante pensar en mecanismos para enfrentar de forma rápida y efectiva las posibles vulneraciones a los derechos constitucionales que puedan acontecer por culpa de las IA, como se mostró y desarrolló en los casos expuestos.

La propuesta actual toma como base los contenidos establecidos en el Nuevo Código Procesal Constitucional debido a que este cuenta con la suficiente capacidad de responder a los retos actuales que se presentan en contra del derecho a la autodeterminación informativa y relacionados.

Por lo tanto, cabe mencionar que el proceso constitucional de hábeas data resulta el medio procesal más idóneo y efectivo para garantizar las libertades que forman parte del derecho a la autodeterminación informativa, las mismas que pueden verse vulneradas por el mal empleo (delictivo) de la IA.

VIII. Conclusiones

Con base en lo expuesto en la presente ponencia, debemos comprender que el Perú se encuentra bajo un Estado constitucional de derecho, lo que implica que la Constitución Política es la norma suprema y que sus contenidos deben poseer la máxima capacidad de respuesta posible.

Es en esta situación que los procesos constitucionales aparecen como medio idóneo para brindar una protección adecuada a los derechos fundamentales. En la actualidad, estos derechos afrontan nuevos riesgos frente al empleo indebido de la IA, en muchas ocasiones incluso con el objetivo de dañar a las personas.

En la presente ponencia se desarrollaron cuatro casos en los cuales la IA afectó tanto a grupos juveniles como a una periodista, verificando en todos ellos que se produjo un grave daño a las personas.

Asimismo, se explicó cómo el proceso constitucional de hábeas data resulta el medio idóneo para la protección del derecho de la autodeterminación informativa y relacionados por medio de la IA. Es así como señalamos que el Nuevo Código Procesal Constitucional ya cuenta con mecanismos suficientes para brindar una correcta tutela de los derechos constitucionales mencionados.

Siendo el propósito de la presente ponencia lograr reflexiones sobre cómo la IA llegó para quedarse en la sociedad y que solo queda adaptar el sistema jurídico con el fin de responder de forma adecuada a las complicaciones que puedan acontecer.