Inteligencia artificial: privacidad y derechos humanos E-Book

Elisabeth Bouvier Villa

• Herausgeber: Editorial Autores de Argentina
• Kategorie: Fachliteratur
• Sprache: Spanisch

Seitenzahl: 337

Veröffentlichungsjahr: 2025

Beschreibung

Inteligencia artificial: privacidad y derechos humanos Ponencias presentadas al Quinto Encuentro #MisDatosSoyYo Iberoamérica Montevideo, 3 y 4 de octubre de 2024 Laura Nahabetián Brunet y Elisabeth Bouvier Villa (coordinadoras)   Desde el notariado digital hasta la empresa, la ciberseguridad y la ética algorítmica, las ponencias de este quinto encuentro examinan marcos legales, estándares técnicos, riesgos y mejores prácticas para una inteligencia artificial confiable. Las conferencias abordan la primacía de lo humano, la transparencia, la supervisión humana y la gestión de riesgos, proponiendo políticas públicas y estrategias normativas que aseguren innovación responsable. Con casos y reflexiones de Chile, Uruguay, Panamá, México, Perú y Ecuador, el libro ofrece una hoja de ruta para decisores, juristas, técnicos y ciudadanos interesados en equilibrar eficiencia tecnológica y protección de la dignidad.   Asociación de Escribanos del Uruguay Av. 18 de Julio 1730, Galería del Notariado, nivel Guayabos (CP 11200), Montevideo, Uruguay. ([phone] • www.aeu.org.uy • [email protected]

Leseprobe

Laura Nahabetián Brunet Elisabeth Bouvier Villa

Inteligencia artificial: privacidad y derechos humanos

Bouvier Villa, Elisabeth, coord.Inteligencia artificial: privacidad y derechos humanos / Coordinadoras: Laura Nahabetián Brunet, Elisabeth Bouvier Villa. — Montevideo: Asociación de Escribanos, 2025.

1 recurso en línea (EPUB, 155)

Archivo Digital: descarga y online

ISBN 978-9974-37-091-3 (ebook)

1. INTELIGENCIA ARTIFICIAL. 2. DERECHO A LA PRIVACIDAD.CDU :342.72

Tabla de Contenidos

Conferencia

Diálogo interdisciplinario en torno a la reconfiguración de valores y principios en una sociedad altamente tecnificada

Tema I: Notariado digital: gestión adecuada de la privacidad

Función notarial y datos personales: ¿convergencia o conflicto?

Notaría digital: gestión adecuada de la privacidad

Conferencia

Desafíos de la inteligencia artificial generativa en perspectiva de derechos humanos

Panorama actual de la inteligencia artificial: desafíos y apuestas

Tema II: Inteligencia artificial y empresas: riesgos y desafíos

Inteligencia artificial y empresa: riesgos y desafíos

Inteligencia artificial y el derecho de supresión de protección de datos: un análisis jurídico y tecnológico

Inteligencia artificial y empresa: riesgo y desafíos

Tema III: Desafíos en la relación entre ciberseguridad y protección de datos

Desafíos en la relación entre ciberseguridad y protección de datos

Desafíos en la relación entre ciberseguridad y protección de datos

Seguridad de la información, ciberseguridad y protección de datos

Tema IV: La privacidad en la era del algoritmo

La privacidad en la era del algoritmo

Algoritmos, privacidad y derechos humanos: desafíos regulatorios en la era digital

Retos de la privacidad en la era digital. Enfoque en normativa ecuatoriana

Prólogo

#MisDatosSoyYo Iberoamérica (#MDSYI), siguiendo su objetivo de empoderar a la ciudadanía en el derecho a la protección de datos personales en toda Iberoamérica, pone a disposición de profesionales y ciudadanos en general una serie de trabajos que nos invitan al pensamiento crítico desde diferentes áreas de nuestro quehacer cotidiano. En la era de la inteligencia artificial, entender cómo defender nuestra privacidad es no perder nuestra libertad.

En este libro encontramos las exposiciones de los diferentes participantes del Quinto Encuentro #MDSYI, desarrollado en Montevideo los días 3 y 4 de octubre del pasado año (2024). En la oportunidad homenajeamos con gran alegría al Dr. Carlos Delpiazzo, a quien no podemos más que agradecer el compartir año a año sus valiosos conocimientos. La Dra. Laura NahabetiánBrunet nos deja aquí una semblanza al querido Prof. Delpiazzo.

En el evento también se presentó el libro «Protección de datos personales: una proyección hacia el futuro», que recopila las ponencias presentadas al Cuarto Encuentro #MDSYI (Montevideo, 8 y 9 de noviembre 2023). La presentación quedó a cargo del Dr. Felipe Rotondo, quien hizo un breve comentario de cada uno de los trabajos y nos dejó una reflexión: no debemos ser «negativos hacia los avances», pero el centro debe ser siempre la persona humana.

Este libro contiene catorce trabajos, agrupados en cuatro ejes temáticos:

I. «Notariado digital: gestión adecuada de la privacidad», un análisis a cargo de colegas de Chile y Uruguay.

II. «Inteligencia artificial y empresa: riesgos y desafíos», con reflexiones de colegas de Panamá, España y Uruguay.

III. «Desafíos en la relación entre ciberseguridad y protección de datos», un análisis del tema por parte de colegas de México y Uruguay.

IV. «La privacidad en la era del algoritmo», con reflexiones de colegas de México, Perú y Ecuador.

Además, encontrarán en esta obra dos conferencias magistrales: la primera de ellas, a cargo de la Dra. Lorena Donoso, de Chile, titulada «Diálogo interdisciplinario en torno a la reconfiguración de valores y principios en una sociedad altamente tecnificada»; la segunda, a cargo del Prof. Dr. Carlos Delpiazzo, de Uruguay, bajo el título de «Desafíos de la inteligencia artificial generativa en perspectiva de derechos humanos». Ambos autores hacen foco en los grandes desafíos a los que nos enfrentan los últimos desarrollos tecnológicos, el impacto que estos tienen sobre los derechos humanos y la tarea que tienen por delante los diferentes actores del ecosistema.

La abogada Deise BriãoFerraz, de Brasil, brindó una charla en la que nos invitó a reflexionar sobre el «Panorama actual de la inteligencia artificial: desafíos y apuestas». En ella concluyó que el desarrollo tecnológico no solo debe ser innovador, sino también «responsable y equitativo para toda la humanidad».

El desarrollo de la inteligencia artificial necesita grandes volúmenes de datos. Los flujos de datos en los dispositivos que utilizamos —motores de búsqueda y redes sociales, entre otros— son utilizados por los desarrolladores para entrenar la inteligencia artificial. El riesgo al que esto nos enfrenta es que el tratamiento inadecuado de esos datos puede vulnerar la privacidad de las personas, así como la protección de datos personales.

La inteligencia artificial promete eficiencia, escalabilidad y personalización; ha transformado operaciones empresariales, interacciones cotidianas y nuestra forma de estudiar e investigar, entre muchas otras cosas. Pero en esa lógica de optimización constante se vulnera, en particular, la privacidad y, en general, los derechos humanos.

En el eje temático I, el Esc. Javier Wortman, en su trabajo titulado «Función notarial y datos personales: ¿convergencia o conflicto?», examina «si dicha convergencia genera conflictos o sinergias, a través del análisis de las obligaciones del escribano como responsable del tratamiento, los retos de seguridad en la era digital y las mejores prácticas para garantizar la privacidad sin comprometer la integridad del proceso notarial». Concluye el colega que es fundamental que el notario se adapte a las nuevas normativas para poder seguir brindando la seguridad jurídica que la función le exige. Siguiendo el mismo eje, la notaria Valeria Ronchera hace un análisis de «Notaría digital: gestión adecuada de la privacidad». En su trabajo analiza la «transformación jurídico-tecnológica que ha sufrido este último tiempo la función notarial en Chile» con la incorporación de la firma electrónica y el documento electrónico, así como la creación de una plataforma conectora entre los actores del mercado.

En el eje temático II, el Prof. Augusto Ho aborda el tema «Inteligencia artificial y empresa: riesgos y desafíos». En primer lugar, nos plantea la posición de Panamá desde el mundo empresarial; expresa que su país «cuenta con un importante centro financiero, severamente fiscalizado interna y externamente». Realiza luego un análisis de la legislación en materia de blanqueo de capitales y financiamiento del terrorismo y de la proliferación de armas de destrucción masiva, así como el empleo de la ia por parte de la autoridad fiscalizadora para el cumplimiento de sus funciones. Manifiesta, a manera de conclusión, su preocupación de que el empleo de la ia y otras tecnologías nos lleve a la invasión de la privacidad y la vulneración de los derechos humanos. El Dr. Víctor Altimira, en su trabajo «Inteligencia artificial y el derecho de supresión de protección de datos: un análisis jurídico y tecnológico», profundiza en la «interacción entre la inteligencia artificial y el derecho de supresión (o derecho al olvido), exponiendo los desafíos legales y técnicos derivados de la normativa vigente, principalmente el Reglamento General de Protección de Datos Personales de Europa (rgpd), la Ley Orgánica de Protección de Datos y Garantía de Derechos Digitales (lopdgdd) y el Reglamento de ia». Nos deja un mensaje final en el que plantea que la protección de datos en los sistemas de ia es un fuerte desafío para todos los actores involucrados «para crear un entorno seguro y respetuoso con la privacidad». Por último, dentro del mismo eje temático, el Dr. Nicolás Antúnez, en su trabajo «Inteligencia artificial y empresa: riesgo y desafíos», realiza un análisis del impacto y la apropiación de la ia en las empresas. Parte para ello de la diferenciación entre las empresas desarrolladoras de ia y aquellas que comienzan a adoptar la ia en sus sistemas productivos o de servicios. El impacto de la ia en la privacidad y la protección de datos personales es notorio; el autor expresa que estamos ante un gran desafío jurídico que nos exige «respuestas sólidas, creativas, responsables y, por cierto, sustentables en la realidad empresarial».

En el eje temático III, la Mtra. Miriam Padilla, autora de «Desafíos en la relación entre ciberseguridad y protección de datos», realiza un análisis del vínculo entre ciberseguridad y protección de datos. Llega a la conclusión de que «el vínculo entre ciberseguridad y protección de datos es una alianza indispensable para la sostenibilidad del ecosistema digital. Gestionar esta relación con una mirada ética, técnica y legal es el gran reto del presente». Claudia Ávalos nos presenta su trabajo «Desafíos en la relación entre ciberseguridad y protección de datos», en el que resalta «la necesidad de concienciar a la sociedad, capacitar a las fuerzas laborales actuales y futuras, y fomentar la innovación tecnológica mientras se minimizan los riesgos para la privacidad y la seguridad». Expresa en su conclusión que «sin ciberseguridad no hay privacidad, y sin protección de datos personales no hay seguridad de la información». Para finalizar este eje temático, la Dra. Laura Nahabetián nos invita a reflexionar sobre «Seguridad de la información, ciberseguridad y protección de datos». La autora analiza los tres temas planteados y considera que «una política de seguridad de la información y de ciberseguridad, cuando incluye las medidas técnicas y organizativas imprescindibles considerando el riesgo, si se aplica de manera efectiva, habilita a quien trata los datos personales a cumplir y demostrar el cumplimiento de las obligaciones vinculadas con la seguridad. Concretamente, esto implica proteger a las personas, al resguardar sus datos personales frente a riesgos contra la integridad, la disponibilidad o la confidencialidad».

En el eje temático IV, la Prof. Olivia Mendoza nos propone un análisis de «La privacidad en la era del algoritmo». Para ello, «aborda la dimensión que cobra la privacidad a partir de una era algorítmica». Plantea el tema desde el escenario de la sociedad hiperconectada en la que vivimos, donde es fundamental defender el derecho a la privacidad como salvaguarda para el ejercicio de derechos humanos. La autora deja una reflexión final: «Parece ser que uno de los desafíos, cuando se habla de privacidad y algoritmos, es hacer prevalecer los derechos de las personas en un mundo en el que la lex mercatoria y fenómenos —aparentemente ajenos a la tecnología— como la política y el poder económico de las corporaciones se sobreponen a derechos básicos de las personas usuarias de tecnologías». Carmen VelardeKoechlin nos presenta su trabajo «Algoritmos, privacidad y derechos humanos: desafíos regulatorios en la era digital». Allí hace un análisis de cómo la privacidad se ve amenazada en la era de los algoritmos y nos resalta que «la vigilancia algorítmica, tanto estatal como privada, erosiona la soberanía individual sobre los datos». Luego plantea los desafíos regulatorios de los algoritmos y concluye: «La regulación en este ámbito debe ser integral, ética y basada en la transparencia, con mecanismos efectivos de auditoría y control. Solo así será posible proteger la identidad digital y garantizar un entorno tecnológico justo y respetuoso de los derechos fundamentales». Clausurando este eje temático, Lorena Naranjo nos aporta un estudio de «Retos de la privacidad en la era digital: enfoque en normativa ecuatoriana». La autora realiza un estudio del impacto de las tecnologías emergentes en la protección de datos personales para luego realizar un análisis técnico de la normativa ecuatoriana. Concluye que si bien Ecuador tiene un marco legal sólido en materia de protección de datos personales, aún se plantean importantes desafíos. Naranjo autora establece que «la colaboración entre el gobierno, el sector privado, la academia y la sociedad civil es esencial para construir un ecosistema digital donde se respeten y protejan los derechos fundamentales de los ciudadanos».

Los trabajos de los diferentes autores nos llevan a reflexionar desde diferentes ópticas y diferentes realidades sociales, culturales y económicas sobre el impacto que la ia tiene sobre la privacidad y los derechos humanos. Proteger la privacidad no significa detener la innovación, sino lograr un equilibrio para que los desarrollos tecnológicos no vulneren aquello que nos hace humanos.

Agradecemos a todos los autores que, gracias a su generosidad intelectual, han hecho posible este nuevo libro.

Esc. Elisabeth Bouvier Villa

—o0o—

Semblanza. Homenaje al Prof. Dr. Carlos Delpiazzo

Es un inmenso honor para mí tener la posibilidad de decir unas palabras en el homenaje a este señor, por quien siento admiración, respeto y cariño. Un señor, como él mismo ha dicho, «cultor del esfuerzo y los codos pelados». Un señor para quien el derecho se transformó en una pasión, y la docencia, en un mandato. Hablamos, como todos saben, del profesor emérito Dr. Carlos Delpiazzo.

No es sencillo hablar del profesor, ya que es una persona conocida y reconocida por todos, que ha desarrollado multiplicidad de vidas en una sola vida: jurista, profesor, autor, político, asesor, funcionario —destacado en todos los ámbitos— y fundamentalmente, o al mismo tiempo y prioritariamente, esposo, padre y ahora, desde hace un tiempo, abuelo. De hecho, me han dicho por ahí que hay un mandato que no se puede dejar de cumplir para él y es la frase «Abuelo, vení». Esto nos presenta también la calidad humana del hombre detrás del profesional que conocemos.

Comparto con él el gusto por el derecho, el privilegio de la docencia, la misma educación católica marista de chica y el color celeste y blanco en el corazón. He sido una testigo privilegiada por más de veinte años del ejemplo que brinda con su accionar generoso, con su consejo directo, con su opinión certera y con su palabra justa.

Siempre, y créanme que siempre, cuando en el devenir de mi tránsito personal por las diferentes labores que me han tocado la vida se complica, el profesor es la voz y la mente de consulta obligada. Y la respuesta, siempre generosa, está presente. Y, obviamente, yo lo planteo en primera persona, pero me consta que esto es así con todos quienes tenemos el privilegio de su consejo.

Además, a pesar de que se ha retirado de alguna forma de la docencia activa, por suerte para todos nosotros, no dejó de ser un docente a carta cabal, y así es que podemos seguir disfrutando de su vocación académica y de su vocación de servicio.

A #MisDatosSoyYo siempre le ha dicho presente y ha engalanado nuestras conferencias desde el día uno con sus conocimientos y su presencia. Es para todos quienes conformamos este espacio un verdadero privilegio contarlo como el conferencista que siempre aporta un diferencial.

Cultor de eso que le digo a mi sobrino desde chiquito, «disciplina y responsabilidad», el Prof. Delpiazzo nos trasmite con su vida un ejemplo a seguir. Queriéndolo o no, se ha transformado seguramente en el ejemplo de muchos estudiantes y profesores de derecho, ya que su dedicación, entrega, responsabilidad y disciplina son dignas de seguir.

No tuve la suerte de ser su alumna en el grado, pero sí tuve el privilegio de que fuera mi tutor de tesis de maestría y, luego, mi cotutor de doctorado, junto a la profesora de la Universidad Católica Argentina Dra. Estela Sacristán. Y esa amabilidad con seriedad que le caracteriza hizo, sin dudas, que mi tesis tuviera más luces que sombras. Un día me mandó un mail diciendo que lo que le había enviado estaba bien, pero era de intrincada escritura. Entendí el mensaje —lo recuerdo hasta hoy—, y eso ha hecho que procure revisar y mejorar los escritos que realizo a diario.

Por último, su discurso humanista, siempre a favor de la persona y su eminente dignidad —discurso que comparto y que me representa a mí y a muchos de quienes estamos aquí—, hacen que sienta, además de lo anterior, la necesidad de terminar estas palabras con un enorme «gracias».

Gracias, profesor Delpiazzo, por tu obra; gracias por tu tiempo; gracias por tu ejemplo… ¡Siempre gracias!

Laura Nahabetián Brunet

—o0o—

— Conferencia —

Diálogo interdisciplinario en torno a la reconfiguración de valores y principios en una sociedad altamente tecnificada

Lorena Donoso Abarca1

Resumen

La inteligencia artificial está cobrando tal relevancia en el panorama económico, social y político que ha debido promoverse un diálogo multidisciplinario entorno a su impacto en los derechos y deberes de las personas, el rol que le cabe al Estado y a la comunidad científica y técnica en su desarrollo y el grado de preparación del sistema jurídico para hacer frente a este nuevo entorno. El artículo analiza los avances que ha tenido el sistema jurídico en estas materias; espera contribuir a los consensos necesarios tanto para la formulación de políticas públicas como en la elaboración de una agenda legislativa que cubra aquellas brechas que aún se encuentran pendientes.

I. Introducción

La inteligencia artificial ha cobrado tal relevancia económica, social y política que para abordar los desafíos regulatorios que impone ha debido llevarse adelante un diálogo multidisciplinario en torno al impacto de estas tecnologías en los derechos y deberes de las personas y la capacidad del sistema jurídico para regular una realidad cada vez más compleja.

Uno de los aspectos relevantes dice relación con el rol que le cabe al Estado y a la comunidad científica y técnica en su desarrollo y la libertad que demandan en su labor y el deber del Estado de resguardar los derechos de las personas, lo que conlleva desarrollar políticas públicas e impulsar modificaciones legislativas que permitan fortalecer los derechos.

La tarea no es sencilla por varias razones, ya sea porque la rapidez del avance tecnológico nos impide determinar a ciencia cierta cuáles serán las nuevas potencialidades de las tecnologías, lo que hace que la discusión se produzca en un ambiente con altos grados de incertidumbre y con escenarios móviles.

Otra dificultad dice relación con los tiempos legislativos, en el sentido que la elaboración de una ley requiere de un largo proceso, que no se condice con la rapidez de la evolución de la técnica, entrañando el riesgo de que recién aprobada una norma, aun antes de entrar en vigor ya caiga en obsolescencia.

Un tercer desafío lo impone la necesidad de incentivar el desarrollo científico y tecnológico, que garantice la soberanía digital de los Estados, pero que a su vez delimitar aquellas fronteras en que podrían verse afectados indebidamente los derechos de las personas humanas los entornos en que habitamos.

Finalmente, tenemos que reconocer que la interconexión planetaria a través de las redes de información y comunicaciones han cambiado los escenarios en los cuales se producen las interacciones en distintos ámbitos de la vida. El comercio ya no es solo local sino planetario, lo mismo ocurre con la delincuencia y con el tratamiento de datos personales. Por lo tanto, cualquier esfuerzo normativo debe ser emprendido teniendo a la vista los estándares normativos internacionales y no solo el derecho interno.

Esta tarea reviste especial importancia porque, si bien desde diversos organismos nacionales e internacionales se ha advertido sobre los posibles riesgos de la inteligencia artificial, la robótica, la sensorización y el tratamiento masivo de datos personales, por mencionar algunos de los desarrollos disruptivos, aún no hay un consenso global acerca de los aspectos fundamentales a regular, y menos sobre el modo concreto en que tales materias debieran ser tratadas.

II. Prevenciones

Este documento no pretende ser un documento acabado sino entregar elementos que contribuyan al análisis del fenómeno y aunar lenguaje, que permita arribar a un diálogo social y político necesarios para sentar las bases normativas de este nuevo contexto. Debemos precisar que, no obstante, la condición de abogado y profesora de derecho de la autora, en su desarrollo hemos evitado caer en preciosismos jurídicos porque ello no sería útil a este objeto.

Asimismo, no buscamos sentar las bases de una nueva ley, sino mostrar ordenadamente lo que hemos avanzado en materia legislativa y los principios y valores que se tuvieron a la vista en cada caso. Tampoco aspiramos a que este sea un texto exhaustivo o maximalista, sino que nos hemos centrado en los aspectos transversales y generales que aporten a la reflexión sobre la frontera de lo permitido, los usos inaceptables o prohibidos por atentar contra la dignidad humana, por ir contra la supremacía de lo humano o porque derechamente existen temores fundados de que los usos previstos producen daños a las personas.

Entendemos que muchos fenómenos asociados a las tecnologías disruptivas podrían quedar al alero de la legislación tradicional en la medida que esta sea «neutra» desde el punto de vista tecnológico, a través de normas tales como decretos, reglamentos o incluso resoluciones exentas o normas técnicas.

Esto porque si analizamos los productos de la ciencia y la tecnología a partir de sus efectos jurídicos podremos identificar si cuentan con un equivalente en el estadio analógico previo, lo que permitirá revisar la normativa y verificar si requiere ajustes en el ámbito legal o reglamentario. Ello nos permitiría proponer una estrategia regulatoria que sea más eficiente para cada caso. Esto se conoce como la mínima intervención del sistema normativo, en pos de salvaguardar la seguridad jurídica y la coherencia interna del sistema normativo e institucional.

Esperamos que el lector trate «con buenos ojos» este esfuerzo y que se nos perdone cualquier imprecisión en que podamos incurrir en lo que a sus áreas de trabajo se refiere. De ellas esperamos sus aportes en relación con estas materias para ilustrar nuestro conocimiento en cada una de las disciplinas que participan de este esfuerzo.

III. Bases normativas para la discusión

Frente a la pregunta sobre la suficiencia de nuestra normativa para hacerse cargo de los efectos que los usos de estas tecnologías «disruptivas» puede generar en los derechos de las personas, es necesario reconocer que como país ya hemos realizado importantes adecuaciones a través de las reformas constitucionales que incorporaron la protección de datos personales (19, n.º 4) y la primacía de lo humano y protección de los neurodatos (19, n.º 1), además de que en el plano legal contamos con ley de delitos informáticos (ley 21.459), ley de protección de datos personales (ley 19.628), ley de firma y documento electrónico (ley 19.799), ley de telemedicina (ley 21.541), ley de transformación digital del Estado (ley 21.880) y de tramitación electrónica de juicios civiles (ley 20.886), entre otros esfuerzos normativos.

El panorama normativo nos muestra al menos dos estrategias legislativas.

En algunos casos se ha optado por leyes «extravagantes» en el sentido de que se dictan al margen de los textos matrices de la disciplina respectiva, como sucede con la ley de delitos informáticos, caso en el cual las figuras que contempla no se incorporan al código penal.

En una segunda estrategia legislativa se ha optado por actualizar leyes preexistentes para incluir aquellos ajustes que es necesario, de acuerdo con el cambio que impone la realidad tecnológica. Este es el caso de la pornografía infantil (366 quáter CP), así como el caso de la piratería informática que fue incluida en la ley de propiedad intelectual (ley 17.336). En esta misma línea, la ley de transformación digital del Estado es una actualización de la ley 19.880, de bases de los procedimientos administrativos; la ley de tramitación electrónica de juicios civiles modificó el Código de Procedimiento Civil y la ley de telemedicina modificó la ley 20.584, de derechos y deberes de los pacientes por mencionar algunos ejemplos. Asimismo, se han introducido modificaciones a la ley de protección del consumidor para hacerse cargo de los problemas que suscrita el consumo a través de medios y plataformas electrónicas.

Otros ejemplos relevantes son la actualización del Código del Trabajo para los efectos de regular el teletrabajo y la modificación a la ley 18.216 para el establecimiento de la libertad vigilada intensiva, que consiste en el cumplimiento de una pena en libertad, pero sometido a una serie de obligaciones, entre las cuales, en lo que nos interesa, se instala a la persona una pulsera de georreferenciación, también conocido como grillete electrónico.

En una tercera estrategia legislativa se ha optado por dictar leyes especiales, como es el caso de la ley de documentos y firmas electrónicas, la ley de protección de la vida privada. Otro ejemplo que a nuestro juicio es pertinente es la ley 20.120, de investigación científica en personas humanas, que se hace cargo de los avances de la ciencia y la técnica en el ámbito de la biomedicina. Al respecto, si bien reconoce la libertad para llevar a cabo investigación científica biomédica en seres humanos, establece como límite «el respecto a los derechos y libertades esenciales que emanan de la naturaleza humana, reconocidos tanto por los tratados internacionales ratificados por Chile y que se encuentren vigentes».

Como puede apreciarse esta discusión no parte desde cero, sino que se cimenta, en primer lugar, en la tradición jurídica nacional y, además en los estándares normativos internacionales consagrados en los tratados y convenios internacionales de los que nuestro país es parte.

IV. El diagnóstico

Los avances de la ciencia y la técnica nos sorprenden a cada momento, avanzan a una velocidad muy difícil de ser alcanzada por la normativa, sujeta a «otros tiempos», los de la reflexión y consenso social. A ello se suma que mientras la ética de la ciencia y la técnica es «disruptiva», tratando de crear nuevo conocimiento que supere el ya consolidado previamente, la del jurista es más bien «conservadora», en el sentido que partimos nuestro análisis desde la tradición jurídica aprendida y lo previamente establecido o acordado.

Un segundo factor crítico dice relación con el lenguaje especializado y la falta de un diálogo interdisciplinario formalizado que promueva el consenso. Cada disciplina elabora su propio lenguaje el cual es compartido por quienes cultivan la respectiva ciencia o arte. La falta de diálogo formalizado interdisciplinario dificulta la comprensión común de los fenómenos y las necesidades regulatorias. A vía ejemplar, en materia de nombres de dominio, desde la técnica se habla del principio first come, first served, como si fuera algo nuevo, proveniente de la técnica, sin embargo se trata solo de una manifestación del viejo aforismo jurídico prior in témpore, potior in iure, elaborado en derecho romano y que inspira nuestros sistemas normativos, que señala que ante partes que se encuentren en igualdad de condiciones y derechos, la primera en ejercer su acción es la que deberá ser preferida por el juez a quien se ha encargado la resolución del asunto.

Otro tanto ocurre con el «derecho al olvido» previsto en materia de protección de datos personales en el Reglamento Europeo de Protección de Datos Personales, que es la aplicación de las reglas de razonabilidad y proporcionalidad que inspiran a nuestro sistema jurídico desde siempre.

En otro ámbito, grooming y bullying no son sino conductas de discriminación arbitraria o acoso, las fake news se enmarcan en las conductas de desinformación y así podríamos seguir ejemplificando con muchos casos en los cuales, por falta de diálogo, reflexión o consenso, creamos nuevas figuras y les damos un nombre (usualmente en inglés) en vez de enmarcarlo en las figuras o instituciones ya existentes en el derecho.

Esto ya sucedió antes con el «derecho médico» o de la salud, caso en el cual frente a la advertencia de los avances disruptivos de la ciencia, que se hicieron más evidentes cuando se descifró el código genético, se elaboraron convenios y tratados internacionales, liderado el diálogo desde la ciencia y la ética, lo que derivó en que se elaboraran catálogos de principios y valores en base a la ética hipocrática, sin una necesaria correlación con los esquemas jurídicos tradicionales en los que se insertan.

Lo anterior ha conllevado generar una suerte de compartimentos estancos que atentan contra la certeza jurídica de la población en general y de aquellos que cultivan cada disciplina. De nuestra parte queremos contribuir a que podamos cerrar la brecha que esto genera, de forma tal que podamos avanzar a la nueva era con un marco conceptual común.

V. Los principios y valores

Entendiendo que el derecho se basa en el consenso social sobre los principios y valores sobre los cuales se cimenta la convivencia social, estimamos que vale la pena detenerse a reflexionar sobre si aquellos que desde la respectiva disciplina son aquellos que son reconocidos por las otras áreas de conocimiento, de forma tal de arribar a conceptos de general aplicación, una suerte de «ética compartida para la era digital».

Al respecto, si bien existen múltiples intentos a nivel internacional de elaborar un catálogo de principios y valores relacionados con estas materias, aún no existe un marco de referencia común que sea capaz de abarcar el fenómeno completamente.

Como señalamos antes, en nuestro entorno, varias leyes se han ocupado de los efectos de las tecnologías de la información y comunicaciones. Varias de ellas han establecido catálogos principios, los cuales no necesariamente se basan en los principios generales del derecho sino más bien en máximas de la experiencia provenientes de la ciencia y la técnica, ya sea desde la medicina, la informática, la economía, la ciencia médica, y un largo etcétera. A ello nos referiremos a continuación,

A. Normas que contemplan catálogos de principios asociados al desarrollo tecnológico

En primer lugar, nos referiremos a aquellas leyes que consagran de manera explícita, un catálogo de principios, por ser más evidente tanto su existencia como contenido normativo:

i.Ley 20.886, que modifica el Código de Procedimiento Civil para establecer la tramitación digital de los procedimientos judiciales. Esta ley, en su artículo 2.º, consagra los siguientes principios:

a. Principio de equivalencia funcional del soporte electrónico. Los actos jurisdiccionales y demás actos procesales suscritos por medio de firma electrónica serán válidos y producirán los mismos efectos que si se hubieren llevado a cabo en soporte papel.

b. Principio de fidelidad. Todas las actuaciones del proceso se registrarán y conservarán íntegramente y en orden sucesivo en la carpeta electrónica, la que garantizará su fidelidad, preservación y la reproducción de su contenido.

c. Principio de publicidad. Los actos de los tribunales son públicos y, en consecuencia, los sistemas informáticos que se utilicen para el registro de los procedimientos judiciales deberán garantizar el pleno acceso de todas las personas a la carpeta electrónica en condiciones de igualdad, salvo las excepciones establecidas por la ley. No obstante lo anterior, las demandas, las presentaciones relativas a medidas cautelares, incluso aquellas solicitadas en carácter prejudicial, y a otras materias cuya eficacia requiera de reserva serán accesibles únicamente al solicitante mientras no se haya notificado la resolución recaída en ellas. Se prohíbe el tratamiento masivo de los datos personales contenidos en el sistema de tramitación electrónica del Poder Judicial, sin su autorización previa. La infracción cometida por entes públicos y privados a lo dispuesto en este inciso será sancionada conforme a la ley 19.628. La Corte Suprema regulará mediante auto acordado la búsqueda de causas en el sistema de tramitación electrónica del Poder Judicial.

d. Principio de buena fe. Las partes, sus apoderados y todos quienes intervengan en el proceso conforme al sistema informático de tramitación deberán actuar de buena fe. El juez, de oficio o a petición de parte, deberá prevenir, corregir y sancionar, según corresponda, toda acción u omisión que importe un fraude o abuso procesal, contravención de actos propios o cualquiera otra conducta ilícita, dilatoria o de cualquier otro modo contraria a la buena fe.

e. Principio de actualización de los sistemas informáticos. Los sistemas informáticos de tramitación del Poder Judicial deberán ser actualizados a través de la Corporación Administrativa del Poder Judicial con el objeto de permitir su correcto funcionamiento y la más fluida y expedita interconexión e interoperabilidad entre sí y con otras instituciones públicas o privadas.

f. Principio de cooperación. Los auxiliares de la administración de justicia, las instituciones públicas privadas y el Poder Judicial deberán cooperar entre sí en la utilización de medios electrónicos con el objeto de garantizar la interconexión e interoperabilidad de los sistemas informáticos y, en particular, el reconocimiento mutuo de los documentos electrónicos y de los medios de identificación y autentificación respectivos. Para ello, las instituciones públicas o privadas y los tribunales propenderán a la celebración de convenios de cooperación.

ii.Ley 19.880, que establece las Bases del Procedimiento Administrativos que rigen los actos de los órganos de la administración del Estado. En este caso, el artículo 4.º de la ley se refiere en general al catálogo de principios del procedimiento administrativo, en los siguientes términos:

Artículo 4.ºPrincipios del procedimiento. El procedimiento administrativo estará sometido a los principios de escrituración, gratuidad, celeridad, conclusivo, economía procedimental, contradictoriedad, imparcialidad, abstención, no formalización, inexcusabilidad, impugnabilidad, transparencia, publicidad y aquellos relativosa los medios electrónicos [los destacados son nuestros].

Luego, el artículo 16 bis se refiere específicamente a los principios relativos a los medios electrónicos:

Artículo 16bis.Principios generales relativos a los medios electrónicos. En la tramitación de los procedimientos administrativos por medios electrónicos se deberá cumplir con los principios de neutralidad tecnológica, de actualización, de equivalencia funcional, de fidelidad, de interoperabilidad y de cooperación.

En virtud del principio de actualización, los órganos de la Administración del Estado deberán actualizar sus plataformas a tecnologías no obsoletas o carentes de soporte, así como generar medidas que permitan el rescate de los contenidos de formatos de archivo electrónicos que caigan en desuso.

El principio de equivalencia funcional consiste en que los actos administrativos suscritos por medio de firma electrónica serán válidos y producirán los mismos efectos que si se hubieren llevado a cabo en soporte de papel.

El principio de fidelidad consiste en que todas las actuaciones del procedimiento se registrarán y conservarán íntegramente y en orden sucesivo en el expediente electrónico, el que garantizará su fidelidad, preservación y la reproducción de su contenido.

El principio de interoperabilidad consiste en que los medios electrónicos deben ser capaces de interactuar y operar entre sí al interior de la Administración del Estado, a través de estándares abiertos que permitan una segura y expedita interconexión entre ellos.

El principio de cooperación consiste en que los distintos órganos de la Administración del Estado deben cooperar efectivamente entre sí en la utilización de medios electrónicos.

iii.La ley 19.970, que crea el sistema nacional de registros de adn. Esta ley regula un sistema nacional de Registros de adn, consistente en una base de datos de huellas genéticas determinadas con ocasión de una investigación criminal, que contiene información perteneciente a condenados, imputados, víctimas, desaparecidos y sus familiares. En su artículo 2 establece los principios que deberán respetarse en la gestión y administración de estos datos personales, en los siguientes términos:

El sistema tendrá carácter reservado. La información en él contenida solo podrá ser directamente consultada por el Ministerio Público y los tribunales. Las policías podrán tener acceso previa autorización del Ministerio Público, y los defensores públicos y privados, previa autorización del tribunal respectivo.

Bajo ningún supuesto el Sistema podrá constituir base o fuente de discriminación, estigmatización, vulneración de la dignidad, intimidad, privacidad u honra de persona alguna.

B. Leyes que incluyen manifestaciones de principios y valores pero no contienen un catálogo a estos efectos

En segundo lugar, nos referiremos a casos en los cuales, si bien no se contempla expresamente un catálogo de valores y principios, del análisis de su historia legislativa queda de manifiesto que son aquellos que inspiraron al legislador.

En este caso más bien nos referiremos al principio, esbozaremos un concepto y nos referiremos a la ley que «inspira» y la norma que lo «recoge». Para ello nos serviremos de un trabajo previo que elaboramos en coautoría con Carlos ReusserMonsálvez, gracias al apoyo y confianza de la Academia Judicial. Asimismo, se han considerado las valiosas aportaciones a una minuta inicial de la profesora Isabel Cornejo Plaza y de la Profesora Paulina Ramos.

i. El respeto a la dignidad humana como base del sistema normativo

Todo sistema jurídico tiene por objeto central la regulación de la vida del hombre en sociedad, en aras del bien común y parte del reconocimiento de la dignidad del ser humano. Veamos cómo se ha visto reflejado este «valor» en la normativa dictada en materia de derecho y tecnologías.

Una manifestación de este reconocimiento la encontramos en materia de protección de datos personales. En este ámbito, a nivel internacional se ha proscrito o restringido severamente la adopción de decisiones automatizadas respecto de una persona. El artículo 22 del Reglamento General de Protección de Datos Personales de Europa (conocido por su abreviatura rgpd [o gdpr, en inglés]),2 como regla general, prevé que toda persona «tendrá derecho a no ser objeto de una decisión únicamente basada en el tratamiento automatizado, incluida la elaboración de perfiles, que produzcan efectos en él o le afecte significativamente de modo similar». Ello debido a que, en términos amplios, se considera lesivo para la dignidad humana que una máquina decida el destino de una persona. Siguiendo este ejemplo, el proyecto de ley que busca actualizar la ley 19.628 incluye normas en ese mismo sentido.3

En todo caso, estimamos que son manifestaciones de este principio en nuestro derecho, lo previsto en el art. 19, n.º 1, inc. 5.º cpr, que dispone: «El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica», y en el art. 19, n.º 4 de la carta fundamental, que consagra la protección de datos personales.

Sin perjuicio de lo anterior, entendemos que la dignidad humana, se proyecta en el conjunto de garantías constitucionales consagradas en nuestra normativa nacional, por ejemplo, en el derecho a la salud, a la educación, la libertad económica, entre otros.

La ley 20.584, de derechos y deberes de los pacientes, prevé en su artículo 5.º que las personas «tienen derecho a recibir un trato digno y respetuoso en todo momento y en cualquier circunstancia». En lo que interesa, el mismo artículo prevé en la letra c que es deber de los prestadores

respetar y proteger la vida privada y la honra de la persona durante su atención de salud. En especial, se deberá asegurar estos derechos en relación con la toma de fotografías, grabaciones o filmaciones, cualquiera que sea su fin o uso. En todo caso, para la toma de fotografías, grabaciones o filmaciones para usos o fines periodísticos o publicitarios se requerirá autorización escrita del paciente o de su representante legal.

Se puede constatar que se releva que la ciencia y la tecnología encuentran sentido en su relación con los seres humanos, a cuyo desarrollo deben contribuir. De esta manera, no representan una finalidad en sí mismas, sino que estarán subordinadas al bienestar de los seres humanos. Con esta aseveración, el constituyente impone un deber jurídico a quienes desarrollan estas disciplinas, debido a su carácter instrumental en relación con su finalidad, asociada al perfeccionamiento de las condiciones que permiten el pleno desarrollo de la persona humana, dotada de una dignidad intrínseca.

En tanto deber jurídico, podrá tener expresiones en el ámbito de la acción, pero también de la abstención. a ello nos referiremos en los demás conceptos asociados al plano valórico. Asimismo, algunos de estos deberes de acción o abstención podrán referirse a las aplicaciones directas de las tecnologías sobre las personas.

A partir de este valor, se derivan las obligaciones de prevención y precaución que imponen el deber de analizar el riesgo asociado tanto a los desarrollos científico y tecnológico como a sus usos, a fin de adoptar las medidas que permitan neutralizar o minimizar los daños en las personas o al medio ambiente.

Dicho en otros términos, la primacía de lo humano, centrado en lo humano, implica que el desarrollo de la ia se centra en el ser humano y procura garantizar que los valores humanos sean siempre la prioridad principal.

En el ámbito laboral, algunas manifestaciones de la dignidad los encontramos en el art. 4.º, inc. 4.º, que prevé que «el ejercicio de las facultades que la ley reconoce al empleador tiene como límite el respeto a las garantías constitucionales de los trabajadores, en especial cuando pudieras afectar la intimidad, la vida privada o la honra de estos».

En este mismo ámbito, el artículo 152 quáter letra j prevé el derecho a la desconexión de los trabajadores que se desempeñan en modalidad de teletrabajo que distribuyan libremente su horario o que están excluidos de la limitación de jornada de trabajo

garantizando el tiempo en el cual ellos estarán obligados a responder sus comunicaciones, órdenes u otros requerimientos. El tiempo de desconexión deberá ser de, al menos, doce horas continuas en un periodo de veinticuatro horas. Igualmente, en ningún caso el empleador podrá establecer comunicaciones ni formular órdenes u otros requerimientos en días de descanso, permisos o feriado anual de los trabajadores.

ii. La autonomía de la voluntad

En esta misma línea, el reconocimiento de la libertad humana y el respeto de la autonomía de la voluntad, que se refleja en la autodeterminación de las personas, tiene una importancia gravitante en el derecho informático.

A vía ejemplar, la ley 19.799, establece la libre prestación del servicio de certificación de firma electrónica; es decir, cualquiera que lo desee y cumpla los requisitos que ella exige, puede hacerlo.

En materia de comercio electrónico rige este mismo principio. Sin embargo, en esta materia se prevé la necesidad de salvaguardar los derechos de la persona, sobre todo cuando esta se encuentra en una posición más débil ya sea por la falta de conocimientos específicos en la materia o de reconocimiento de las deficiencias del mercado. Es así como el Reglamento de Comercio Electrónico, de 2021, aprobado por decreto n.º 6 del Ministerio de Economía, regula especialmente la información básica comercial como condición para la validez del consentimiento del consumidor, previendo en su art. 4.º, inc. 1.º que «el consentimiento no se entenderá formado si el Consumidor no ha tenido previamente un acceso claro, comprensible e inequívoco de las condiciones generales del contrato y la posibilidad de almacenarlos o imprimirlos».

En este mismo sentido, la ley 19.496 prevé expresamente que «La sola visita del sitio de Internet en el cual se ofrece el acceso a determinados servicios, no impone al consumidor obligación alguna, a menos que haya aceptado en forma inequívoca las condiciones ofrecidas por el proveedor» (art. 12, A, inc. 2.º).