Inteligencia artificial, metaverso y protección de datos personales E-Book

Elisabeth Bouvier Villa

• Herausgeber: Editorial Autores de Argentina
• Kategorie: Wissenschaft und neue Technologien
• Sprache: Spanisch

Seitenzahl: 156

Veröffentlichungsjahr: 2025

Beschreibung

Inteligencia artificial, metaverso y protección de datos personales Ponencias presentadas al Tercer Encuentro #MisDatosSoyYo Iberoamérica Montevideo, 3 y 4 de agosto de 2022 Laura Nahabetián Brunet y Elisabeth Bouvier Villa (coordinadoras)   En un mundo en el que la tecnología avanza a pasos agigantados, la inteligencia artificial y el metaverso están transformando nuestras vidas y redefiniendo los marcos jurídicos, éticos y sociales. Este libro reúne voces expertas que analizan los desafíos y oportunidades de estas innovaciones desde una perspectiva jurídica y ética, abordando temas como la protección de datos, la identidad digital y la regulación del entorno virtual. Con contribuciones que invitan a reflexionar sobre la responsabilidad, la gobernanza y los derechos en la era digital, esta obra ofrece una visión crítica y actualizada sobre los dilemas que enfrentan juristas, académicos y responsables de políticas públicas. Una invitación a participar en la conversación que moldeará el futuro de nuestra convivencia en un mundo cada vez más digital.   Asociación de Escribanos del Uruguay Av. 18 de Julio 1730, Galería del Notariado, nivel Guayabos (CP 11200), Montevideo, Uruguay. ([phone] • www.aeu.org.uy • [email protected]

Leseprobe

Laura Nahabetián Brunet Elisabeth Bouvier Villa

Inteligencia artificial, metaverso y protección de datos personales

Bouvier Villa, Elisabeth, coord.Inteligencia artificial, metaverso y protección de datos personales / Coordinadoras: Laura Nahabetián Brunet, Elisabeth Bouvier Villa. — Montevideo: Asociación de Escribanos, 2025.

1 recurso en línea (EPUB, 75)

Archivo Digital: descarga y online

ISBN 978-9974-37-090-6 (ebook)

1. INTELIGENCIA ARTIFICIAL. 2. PROTECCIÓN DE DATOS CDU :342.72

Tabla de Contenidos

Tema I: Inteligencia artificial y protección de datos

Protección de datos personales e inteligencia artificial

Análisis de riesgo del uso de inteligencia artificial y protección de datos personales

Tema II: Metaverso y protección de datos

Metaverso e identidad digital. Posibilidades para una regulación jurídica

Metaverso y protección de datos. Acerca de las viejas y nuevas fronteras de la interacción entre la tecnología y el derecho

Protección de datos en el metaverso: posición de la Unión Europea

Conferencia

Actualidad de la algor-ética. A propósito de la recomendación de la Unesco sobre la ética de la inteligencia artificial

Prólogo

La época actual está marcada por la aceleración tecnológica. La inteligencia artificial y el metaverso no solo transforman las formas de interacción entre las personas, sino que también reconfiguran los marcos jurídicos, éticos y sociales que rigen la vida de las sociedades hoy día. En este contexto, la protección de datos personales emerge como uno de los pilares fundamentales para garantizar la dignidad humana, la autonomía individual y la confianza en los entornos digitales. Este libro reúne voces especializadas que, desde distintas perspectivas y con foco jurídico, abordan los desafíos y oportunidades que plantea esta nueva realidad.

La obra se articula en torno a dos grandes ejes: por un lado, el análisis de la inteligencia artificial como fenómeno disruptivo que exige una revisión profunda de los principios clásicos del derecho; por otro, la exploración del metaverso como espacio emergente en el que la identidad digital, la privacidad y la regulación jurídica se entrelazan en formas inéditas. A través de los aportes de los profesores doctores Felipe Rotondo, Lorena Naranjo, Carmen Velarde, Laura Nahabetián, Augusto Ho y Carlos Delpiazzo, se construye una cartografía crítica de los dilemas contemporáneos que enfrentan los juristas, académicos y responsables de políticas públicas.

El Prof. Felipe Rotondo analiza la ia como desafío jurídico y ético. Su enfoque es más que interesante: él es en sí mismo una figura importante en la reflexión sobre el impacto de esta en el derecho y particularmente en el derecho a la protección de datos personales. Su artículo «Protección de datos e inteligencia artificial» parte de una premisa fundamental: la ia no es solo una herramienta técnica, sino también un agente que modifica las condiciones de posibilidad del derecho mismo. Rotondo advierte que la automatización de decisiones, la opacidad algorítmica y la delegación de funciones humanas a sistemas inteligentes generan tensiones con principios como la transparencia, la rendición de cuentas y la no discriminación. Su análisis se inscribe en una tradición crítica que busca evitar tanto el tecnoptimismo ingenuo como el rechazo absoluto de la innovación. En lugar de ello, propone una ética de la responsabilidad que permita integrar la ia en los marcos normativos sin sacrificar los valores fundamentales del Estado de derecho. En este sentido, Rotondo se suma a la corriente de pensamiento que aboga por una «algor-ética», concepto que será retomado más adelante por el Prof. Carlos Delpiazzo.

La Dra. Lorena Naranjo aborda riesgos y salvaguardas en el uso de ia, con una mirada rigurosa sobre los peligros que entraña el uso indiscriminado de tecnologías inteligentes. Su enfoque a partir del artículo titulado «Análisis de riesgo del uso de inteligencia artificial y protección de datos personales» parte de la necesidad de realizar evaluaciones de impacto que permitan anticipar los efectos adversos de estas tecnologías sobre los derechos fundamentales. Naranjo subraya que la protección de datos no puede reducirse al cumplimiento formal, sino que debe ser entendida como una garantía sustantiva de la libertad individual. Uno de los aportes más relevantes de la autora es su insistencia en la necesidad de una gobernanza ética de la ia; para ello, propone mecanismos de control que incluyan la participación ciudadana, la supervisión institucional y la auditoría algorítmica. Su trabajo se convierte así en una guía práctica para diseñar políticas públicas que combinen innovación tecnológica con respeto por los derechos humanos.

Por su parte, la Dra. Carmen VelardeKoechlin aborda la Identidad digital y regulación en el metaverso; parte de entender a este como un entorno virtual inmersivo donde convergen múltiples dimensiones de la vida social, lo que a su vez plantea desafíos inéditos para el derecho. En su texto «Metaverso e identidad digital: posibilidades para una regulación jurídica» aborda esta problemática desde una perspectiva pionera. Su análisis surge de la constatación de que la identidad digital en el metaverso no es una mera extensión de la identidad física, sino una construcción compleja que involucra avatares, datos biométricos, interacciones simbólicas y representaciones sociales. Velarde propone una regulación jurídica que reconozca la especificidad del metaverso, sin caer en la tentación de aplicar mecánicamente las normas del mundo físico. Para ello, sugiere la creación de categorías jurídicas nuevas, como la «personalidad digital» o el «derecho al anonimato virtual», que permitan proteger a los usuarios frente a prácticas abusivas, discriminatorias o invasivas. Su trabajo abre un campo fértil para la investigación jurídica en torno a los derechos digitales emergentes.

En «Metaverso y protección de datos: acerca de las viejas y nuevas fronteras de la interacción entre la tecnología y el derecho», quien suscribe este prólogo profundiza en la tensión entre continuidad y ruptura que caracteriza la evolución del derecho frente a la tecnología. Mi tesis central es que el metaverso no solo desafía las normas existentes, sino que obliga a repensar los fundamentos mismos del orden jurídico. Identifico una serie de «fronteras» —entre lo público y lo privado, lo físico y lo virtual, lo individual y lo colectivo— que se desdibujan en el entorno digital. El enfoque combina teoría jurídica, filosofía del derecho y análisis tecnológico, lo que permite construir una narrativa sofisticada sobre los dilemas normativos del presente. En particular, destaco la necesidad de una protección de datos que sea sensible al contexto, capaz de adaptarse a las nuevas formas de interacción sin perder de vista los principios de proporcionalidad, finalidad y minimización, y así comprender la complejidad del metaverso desde una perspectiva jurídica.

Augusto Ho aborda la posición de la Unión Europea (ue) frente al metaverso. De hecho, la ue ha sido pionera en la regulación de la protección de datos, y su enfoque sobre el metaverso no es la excepción. Ho, en su artículo «Protección de datos en el metaverso: posición de la Unión Europea», analiza las iniciativas normativas que buscan extender el alcance del Reglamento General de Protección de Datos (rgpd) a los entornos virtuales. Su trabajo destaca la importancia de principios como el consentimiento informado, el derecho al olvido y la portabilidad. Su análisis revela una tensión entre la innovación y la regulación, pero también muestra cómo la ue intenta construir un modelo de gobernanza digital que combine competitividad económica con protección de derechos.

Carlos Delpiazzo aborda la algor-ética y la recomendación de la Unesco. Invita a reflexionar sobre la dimensión ética de la inteligencia artificial. En «Actualidad de la algor-ética: a propósito de la recomendación de la Unesco sobre la ética de la inteligencia artificial», el autor analiza los principios propuestos por la Unesco para orientar el desarrollo de tecnologías inteligentes. Su enfoque parte de la convicción de que la ética no puede ser un complemento opcional, sino un componente esencial del diseño tecnológico. Delpiazzo propone una algor-ética que combine valores universales —como la justicia, la equidad y la dignidad humana— con criterios técnicos como la explicabilidad, la robustez y la seguridad. Su trabajo se convierte en un llamado a la responsabilidad colectiva, que involucra a desarrolladores, legisladores, académicos y ciudadanos. En un mundo cada vez más mediado por algoritmos, su propuesta adquiere una relevancia urgente y necesaria.

En suma, este libro propone una visión panorámica y crítica, destacando algunas de las contribuciones que cada autor viene compartiendo en el marco del debate contemporáneo sobre tecnología, derecho y ética. A través de sus reflexiones, se construye un diálogo interesante que permite comprender los desafíos del presente y anticipar los dilemas del futuro. La inteligencia artificial y el metaverso no son solo fenómenos técnicos, sino espacios de disputa normativa, ética y política. Este libro es una invitación a participar activamente en esa conversación.

Laura Nahabetián Brunet

—o0o—

— Tema I —

Inteligencia artificial y protección de datos

Protección de datos personales e inteligencia artificial

Felipe Rotondo1

Resumen

Se efectúa una consideración sobre la inteligencia artificial (ia), sus tipos y usos, así como sobre la inexorable visión ética a su respecto, junto con una necesaria y apropiada regulación jurídica. En especial, se trata la inserción de las aplicaciones de la ia como tratamiento de datos personales sobre la base de los principios aplicables en la materia y la normativa que los recoge, al tiempo que se examina su particular utilización en el ámbito de la Administración pública y casos de control jurisdiccional.

1. Inteligencia artificial

1.1. Noción

A fin de situar el tema, efectuaré unas breves referencias a la inteligencia artificial (ia), tecnología que no posee una noción específica generalmente aceptada y que, por otra parte, «tendría que cambiar con el tiempo en función de los avances tecnológicos», como expresa la Recomendación de la Unesco sobre la Ética de la ia de 2021. Se admite, sí, que está a la cabeza de la actual carrera científica y tecnológica.

El documento citado entiende por ia los «sistemas tecnológicos capaces de procesar información de una manera que se asemeja a un comportamiento inteligente, y abarca generalmente aspectos de razonamiento, aprendizaje, percepción, predicción, planificación o control» (párrafo 2).

Se ha dicho, asimismo, que es «una combinación de algoritmos planteados para crear máquinas con las mismas capacidades que el ser humano» (Iberdrola, cit. por Martín García, 2019: 6); en especial referencia a datos, que se trata de «la capacidad de un sistema para interpretar correctamente datos externos, para aprender de dichos datos y emplear esos conocimientos para lograr tareas y metas concretas a través de la adaptación flexible» (Kaplan y Haenlein, cits. por MedinaCasado, 2020) o que es «una combinación de tecnologías que agrupa datos, algoritmos y capacidad informática» (Comisión Europea, 2020: 2).

«En la cocina de la ia, los algoritmos serían las recetas y los datos, los ingredientes» (Ponce Solé, 2019), por lo que es clave que se seleccionen, entrenen y validen adecuadamente, de manera de no dar lugar a sesgos que los algoritmos reproduzcan.2

Cabe afirmar, en suma, que «si bien no existe una única definición sobre ia […], en su concepción amplia, se trata de un término “sombrilla” que incluye una variedad de técnicas computaciones y de procesos enfocados a mejorar la capacidad de las máquinas para realizar muchas actividades, los que comprenden desde modelos algorítmicos, pasando por los sistemas de machine learning, hasta llegar a las técnicas de deep learning» (Red Iberoamericana de Protección de Datos, 2019).

1.2. Tipos de inteligencia artificial

Acorde con su funcionalidad, puede ser un sistema experto que imita a un ser humano en ciertas actividades (ejemplo, atender clientes, evaluar la solvencia patrimonial o el cv para un trabajo); el aprendizaje automático en que la máquina aprende a resolver problemas a partir de ejemplos, compara y clasifica datos y reconoce formas complejas (así para detección y prevención de enfermedades o conductas fraudulentas, etc.); redes neuronales, desarrollo de aquel aprendizaje, que reconocen textos e imágenes, supervisan robots; y el aprendizaje profundo que lleva hacia segmentos de mayor abstracción, de modo que la máquina reconoce conceptos complejos (rostros, imágenes extraídas de Internet, etc.) sin estar previamente etiquetados. Combina los algoritmos de aprendizaje automático con las redes neuronales y el uso de los macrodatos.3

En otra perspectiva, la modalidad de ia hoy conocida, de modo notorio, es la denominada débil ya que el aporte de los sistemas se basa en búsquedas de los usuarios y permite efectuar tareas de modo inteligente; en ella abría una actuación automática en cuyas operaciones existe intervención y supervisión humana. La fuerte, en cambio, habilita máquinas con capacidad de inteligencia general, que encaran las situaciones del entorno, reconocen símbolos y, a la vez, dan un significado semántico y lógico; en ella se plantea una actuación realmente autónoma del dispositivo.4

En una visión de interés se ha planteado que la inteligencia humana es «consciencia», centrada en el conocimiento, y «conciencia», como virtud para discernir y actuar racionalmente,5 esta última no se daría precisamente en la ia. Es así que «la principal tarea y responsabilidad de la cultura jurídica» (agregaría ética), «no puede ser otro que el dotar de conciencia a la ia en la multiplicidad de ámbitos y sectores» (Pérez Luño, 2021).

Hace casi ya un siglo, Ortega y Gasset (2018) expresó que «la técnica se ha insertado entre las condiciones ineludibles de la vida humana», y ha dado lugar a máquinas en que el instrumento pasa a primer plano de modo tal que el hombre viene a complementarla y «puede llegar a perder la conciencia de la técnica y de las condiciones morales en que esta se produce».

Al respecto se ha dicho, ya en nuestra época, que las técnicas «no son, en cualquier caso, neutrales. Modifican nuestras condiciones de vida. No se limitan a ser medios, sino que acaban siendo fines en sí mismas, metas que se autoimponen en las sociedades avanzadas, interconectadas, globalizadas […], que viven según sus exigencias» (Atencia Páez, 2003: 62). Y ello, obviamente, no puede dejarnos indiferentes.

1.3. Utilización

Hoy día, «cada vez más vivimos con aplicación de ia: asistentes virtuales en nuestros celulares, algoritmos en las redes sociales que nos muestran de una u otra forma la información, autos sin conductor, programas que aprenden de nuestras acciones para recomendarnos música, películas o artículos de consumo en tienda online, traductores en tiempo real, sistemas que detectan de forma temprana enfermedades o riesgos sanitarios, entre otros» (Agesic, 2020).

Coadyuvan a una mejor vida humana, a la prestación eficiente de servicios entre los que destacan los de salud, con diagnósticos tempranos y a distancia; en la educación, con la realizada a distancia automatizada (por ejemplo, para aprendizaje de idiomas o las habilidades analíticas cuantitativas,6 o en la lucha contra el cambio climático).

Pero a la vez, además de plantear cuestiones como la eliminación de trabajos y la creación de otros, da lugar a criterios o decisiones incompletas e incluso sesgadas, injusticias algorítmicas, alteración de videos (deep fakes), discriminaciones arbitrarias y usos engañosos, incidiendo incluso en el voto del ciudadano, con afectación de la democracia digital.

Los algoritmos perfilan en aspectos de nuestra personalidad o actividad y permiten que se nos localice hoy o en el pasado, físicamente y en lo relativo a creencias filosóficas, políticas y un largo etc.; podrán incidir en una presencia virtual luego de la muerte física. En algunos casos situaciones de esa índole pueden producirse sin mala fe en virtud de errores en el diseño de los sistemas.

1.4. Relación con la robótica

Esta refiere a máquinas con mecanismos programados con cierto grado de autonomía que se mueven en su entorno para realizar tareas previstas (por ejemplo, en el desarrollo de la cadena de producción, el traslado de pacientes en un hospital, la interacción con niños con discapacidad o ancianos); por esto tienen información, en general, sensible.7

Los robots pueden o no tener ia. «El robot inteligente será aquella máquina física que de manera autónoma a través de programas y sensores inteligentes puede llevar a tomar decisiones basándose en la lógica e ia prediciendo las necesidades de los humanos y de las situaciones en que se ven envueltos actuando, alterando e interactuando con el mundo físico, todo ello sin estar sometidos al control continuo de los humanos» (Santos González, 2017).

El tema se ha proyectado en el derecho: así con la responsabilidad de los propietarios de robots y, en su caso, de fabricantes, desarrolladores del software, usuarios; con la consideración de los trabajadores robots, robots humanoides o los ciborgs (organismos cibernéticos);8 con la seguridad, ya que, por ejemplo, el software puede haber sido modificado por un ciberatacante.

Con la hibridación de la persona y la ia encarada por la big science, se agregan otras cuestiones, así exigir el reconocimiento de los neuroderechos, entre ellos el de la «privacidad mental», en una temática que excede el objeto de estas líneas.

Por todo ello es inexorable la visión ética y necesaria la regulación jurídica heterónoma sin dejar de lado la autorregulación de los involucrados (diseñadores y programadores de algoritmos, etc.).

En ese contexto se ha planteado el área del «derecho de la ia», con temas como los de responsabilidad civil, personalidad jurídica del producto de la ia, derechos de autor, patentes, competencia, privacidad, etc.

2. Protección de datos personales e ia

2.1. Referencia general

El derecho a la protección de datos personales (pdp), como reconoce la ley uruguaya n.º 18.331 de 11.VIII.2008, art. 1.º, es «inherente a la personalidad humana» y confiere al titular una dimensión positiva, poderes de disposición y control sobre quién recoge y dispone los datos y para qué, el de oponerse a la posesión y tratamiento, de requerir su rectificación, supresión, etc., sin exclusión en cuanto al responsable ni, en su caso, al encargado del tratamiento.

La ley, art. 16, prevé el derecho a la impugnación de valoraciones personales ante decisiones basadas en tratamientos automatizados de datos destinados a evaluar aspectos de la personalidad como el rendimiento laboral, crédito, fiabilidad; también a obtener información del responsable sobre los criterios de valoración y el programa utilizado, lo que implica en el caso de una decisión adoptada por un sistema de ia, la existencia de una intermediación humana.

El Reglamento 2016/679 del Parlamento Europeo y del Consejo de 27.IV.2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos, art. 22, prevé el derecho «a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar».

Ello salvo en algunos casos, por ejemplo, si lo autoriza el derecho de la Unión o de los Estados miembros o existe el consentimiento explícito del interesado, dándole a este «como mínimo el derecho a obtener intervención humana por parte del responsable, a expresar su punto de vista y a impugnar la decisión». Y si esta le produce efectos jurídicos o similares, el derecho a que se le proporcione «información significativa sobre la lógica aplicada, así como la importancia y consecuencias previstas de dicho tratamiento» (art. 15.1 h).

Las aplicaciones de la ia ingresan en la noción de tratamiento si los datos personales, de titulares individualizados o individualizables, son su insumo; incluso pueden obtenerse en los hogares de quien utiliza ciertos asistentes virtuales de modo que las empresas llegan a inferir los estados de ánimo de las personas o su estado de salud.

Por lo mismo, serán aplicables los principios y normas de pdp.

2.2. Principios

Estos son reglas que expresan valores superiores y contribuyen a dar coherencia al ordenamiento, especialmente ante los incesantes cambios tecnológicos.

Se mencionarán algunos