Erhalten Sie Zugang zu diesem und mehr als 300000 Büchern ab EUR 5,99 monatlich.
- Herausgeber: buch & netz
- Kategorie: Geisteswissenschaft
- Sprache: Französisch
- Veröffentlichungsjahr: 2021
La numérisation peut devenir une précieuse alliée des droits fondamentaux et des droits humains dans les domaines les plus divers, mais les technologies numériques sont aussi susceptibles d’aggraver les violations de ces droits et d’en faire émerger de nouvelles. Le présent guide, publié par le Centre suisse de compétence pour les droits humains (CSDH), fait un tour d’horizon des effets au quotidien de la numérisation sur les droits fondamentaux et les droits humains. Dans la première partie, les auteures présentent les principales technologies et leurs applications ainsi que les bases légales en la matière. Dans la seconde, elles expliquent, à l’aide de cas concrets, en quoi les droits fondamentaux et les droits humains sont touchés par l’évolution et les applications des technologies numériques. Un ouvrage qui vient nourrir le débat sur la manière de concilier la numérisation et nos droits.
Sie lesen das E-Book in den Legimi-Apps auf:
Seitenzahl: 191
Das E-Book (TTS) können Sie hören im Abo „Legimi Premium” in Legimi-Apps auf:
Ähnliche
Droits fondamentaux et droits humains à l’ère numérique
Sabrina Ghielmini, Christine Kaufmann, Charlotte Post,
Droits fondamentaux et droits humains à l’ère numérique du Centre suisse de compétence pour les droits humains (CSDH) est couvert par une licence Creative Commons – attribution – pas d’utilisation commerciale – pas de modification 4.0 international – sauf indication contraire.
© 2021 – CC-BY-NC-ND (ouvrage), CC-BY-SA (texte)
Éditeur : Centre suisse de compétence pour les droits humains (CSDH)Responsable du projet : Sabrina GhielminiRelecture : Antonia BertschingerRéalisation de la couverture et illustrations : buch & netz, Carolina FloresMaison d’édition et production : buch & netz (buchundnetz.com)
ISBN :978-3-03805-362-0 (imprimé – broché)978-3-03805-398-9 (PDF)978-3-03805-399-6 (EPUB)978-3-03805-400-9 (Mobi / Kindle)Version : 1.00-20210414
Cet ouvrage est disponible sous forme de livre en ligne et de livre électroniquebuch & netz dans différents formats, ainsi que sous forme de livre imprimé.Pour plus d’informations, veuillez consulter l’URL : https://buchundnetz.com/werke/droits-fondamentaux-et-droits-humains-à-l’ère-numérique.
L’édition allemande de l’ouvrage est disponible à l’adresse suivante :https://buchundnetz.com/werke/grund-und-menschenrechte-in-einer-digitalen-welt/.
Table des matières
StiftungTable des matièresRemerciementsPréfaceIntroductionPartie I. Notions fondamentales 1. Les technologies numériques et leurs applicationsDonnées, métadonnées et mégadonnéesAlgorithmesApprentissage automatiqueIntelligence artificielleInternet des objetsInformatique en nuageRobotiqueChaîne de blocs 2. Droits fondamentaux et droits humainsEnjeux posés par la numérisation en matière de droits fondamentaux et de droits humainsBases juridiquesInfluence de la numérisation sur les différents droitsPartie II. Présentation de cas pratiques 3. TravailUn algorithme sélectionne les dossiers de candidaturePostulations et réseaux sociauxSurveillance au travail 4. SantéRobots de soinsDiagnostics fondés sur l’intelligence artificielle et les mégadonnéesCapteur d’activité physique d’une caisse-maladie 5. Démarches administratives, judiciaires et politiquesDes sites internet officiels accessiblesAutomatisation de décisions administrativesAutomatisation d’évaluations de risqueMicrociblage durant des campagnes politiquesVidéosurveillance étatique avec reconnaissance faciale dans l’espace public 6. Utilisation d’InternetCommentaires haineux sur InternetCyberharcèlement 7. Éducation et rechercheEnseignement scolaire en lignePublication d’une étude scientifique 8. ÉconomieMagasin automatiqueModèles d’affaires en ligne (économie des plateformes)RésuméListe des abréviationsBibliographieDocumentationAuteures1
Cet ouvrage est publié par le Centre suisse de compétence pour les droits humains (CSDH).
La publication du présent ouvrage n’aurait pas été possible sans l’aide financière de la Fondation Hirschmann.www.hirschmann-stiftung.ch
2
Table des matières
3
Remerciements
Plusieurs spécialistes ont contribué, par leurs précieuses suggestions, à la réalisation de cet ouvrage. Nous tenons à remercier chaleureusement Sophie Achermann (alliance F), Kathrin Arioli (chancelière du canton de Zurich), Bruno Baeriswyl (ancien préposé à la protection des données du canton de Zurich), Stefanie Becker (Alzheimer Suisse), Abraham Bernstein (Digital Society Initiative, Université de Zurich), Corinna Bath (TU Braunschweig), Nadja Braun Binder (Université de Bâle), Markus Christen (Digital Society Initiative, Université de Zurich), Guy Ehrler (La Poste SA), Alfred Früh (Université de Bâle, auparavant Center for Information Technology, Society and Law, Université de Zurich), Giulia Reimann (Commission fédérale contre le racisme) et Marc Thommen (délégué Open Science, Université de Zurich). Nous remercions aussi Rolf H. Weber (Center for Information Technology, Society and Law, Université de Zurich) pour la révision critique du manuscrit.
Nos remerciements vont également à Res Schuerch (CSDH) et à Moritz Senn (chaire de droit public, droit international et droit européen, Université de Zurich) pour leur soutien lors de la recherche d’informations ainsi qu’à Antonia Bertschinger (CSDH) pour la relecture.
Un grand merci à Nadine Cuennet Perbellini et Jean-François Cuennet, chargés de la traduction allemand-français, et à Claire Robinson (CSDH) pour la relecture.
La réalisation de ce guide n’aurait pas été possible sans la contribution financière de la Fondation Hirschmann, que nous tenons à remercier ici de son généreux soutien et de la confiance qu’elle nous a accordée.
Pour le CSDH
Christine Kaufmann et Michèle Amacker
4
Préface
Le but des nouvelles technologies devrait être d’une part de nous rendre la vie plus simple et plus facile et, d’autre part, de créer des opportunités. Or, si elles ont assurément cette utilité, elles génèrent aussi des risques et posent de nouveaux enjeux pour notre société : présentes dans tous les aspects de notre vie, elles font surgir toujours plus de questions éthiques, comme dans le domaine de l’intelligence artificielle ou de la robotique. Nos données laissent des traces, et avec elles de nombreuses informations dont nous perdons vite le contrôle. Grâce aux réseaux sociaux, il est maintenant plus facile de réunir des foules, mais aussi de les manipuler et de diffuser de fausses informations. Les exemples du blocage des comptes Twitter de Donald Trump ou des restrictions de l’accès à Internet en Chine ou en Biélorussie attestent de la problématique en matière de liberté d’expression et de réunion ainsi que de l’urgence d’agir dans ce domaine.
Je salue donc cette publication : le monde numérique étant en soi déjà très complexe en raison des avancées constantes de la technologie, il est en effet d’autant plus important de l’analyser à l’aune des droits fondamentaux et des droits humains et d’accompagner son évolution. Les technologies numériques peuvent être d’une grande utilité pour l’humanité, mais comme toute technologie, elles ont autant leur part d’ombre que leurs risques et peuvent être utilisées à mauvais escient. Le monde de la recherche scientifique, appelé à se pencher sur cette problématique, nous donne une orientation, mais pointe aussi du doigt les lacunes de notre cadre juridique.
Cet ouvrage ne fait pas que dresser un tableau de nos droits et libertés fondamentales et de leur sauvegarde dans l’espace numérique, il indique aussi aux pouvoirs publics les aspects qu’ils doivent réglementer. Cette réglementation est en effet nécessaire pour que la population puisse continuer à avoir confiance en notre État de droit. Seuls la protection assurée par ce dernier et les droits qu’il est possible de faire valoir en justice peuvent accroître la confiance dans les nouvelles technologies. Il nous faut donc nous pencher sur cet important nouveau domaine du droit qu’est le cyberespace.
Les droits humains universels s’appliquent en principe tant au monde analogique qu’au monde numérique. Il ne s’agit par conséquent pas de concevoir de nouveaux droits ni de revoir la manière de les appliquer et de les interpréter, car ces droits restent valables. La numérisation fait cependant apparaître des questions d’interprétation et de nouveaux domaines d’application, pour lesquels il nous faut des principes, des valeurs à respecter, qui puissent servir de repères aux gouvernements, au secteur privé et à la société civile. Le Groupe de travail de haut niveau des Nations Unies sur la coopération numérique, dont je suis membre, a identifié neuf valeurs humaines qui devraient nous guider dans cette démarche : l’inclusion, le respect, l’humanisme, l’épanouissement individuel, la transparence, la collaboration, l’accessibilité, la durabilité et l’harmonie. Si l’on veut accompagner le développement et l’application de ces technologies numériques, il serait utile que la communauté internationale reconnaisse ces principes, qu’elle s’engage dans une coopération numérique, adopte une vision fondée sur des valeurs et principes communs et se dote d’une nouvelle gouvernance, puisque la numérisation a rendu notre manière de collaborer caduque. L’insécurité, qui restera importante tant que nous ne disposerons pas de normes claires et d’une jurisprudence étoffée sur ces questions, profite aux grandes entreprises technologiques, tandis que l’utilisateur ou l’utilisatrice n’est la plupart du temps pas capable de saisir la justice pour faire respecter ses droits de la personnalité.
Tout porte la Suisse à s’investir dans ce domaine et à montrer la voie : elle a inscrit dans sa Constitution (art. 54, al. 2) son engagement en faveur des droits humains, héritage d’une longue tradition, et accueille dans la Genève internationale un grand nombre d’institutions de référence en la matière. La Suisse tant politique que scientifique se doit donc de s’engager dans cette problématique, de participer à son développement et de s’y investir, aux côtés de l’Union européenne, qui a déjà posé des jalons au retentissement international, notamment avec son règlement relatif à la protection des données. Dans cette perspective, il est indispensable de prendre davantage conscience de l’importance des droits et libertés fondamentales dans notre quotidien numérisé. C’est à cela que cet ouvrage est destiné à contribuer.
Doris Leuthard, ancienne conseillère fédérale
5
Introduction
La révolution numérique entraîne de profondes transformations dans notre société : il suffit de penser à la robotique, à l’intelligence artificielle, aux mégadonnées et à l’Internet des objets pour s’en convaincre.
Dans les domaines les plus divers, la numérisation peut devenir une précieuse alliée des droits fondamentaux et des droits humains : Internet nous donne accès à des technologies d’information et de communication hors pair ; les robots peuvent résorber la pénurie de personnel soignant et des vêtements intelligents protéger les travailleurs et travailleuses. Toute médaille a cependant son revers : la numérisation est aussi susceptible d’aggraver les violations des droits fondamentaux et des droits humains et d’en faire émerger de nouvelles. La collecte de données personnelles et les outils de surveillance numérique, par exemple, soulèvent des questions relevant notamment du droit au respect de la vie privée et de la liberté de mouvement.
Le présent ouvrage, qui s’adresse à un large public sans connaissances techniques ni juridiques particulières, fait un tour d’horizon des conséquences des technologies numériques pour les droits fondamentaux et les droits humains. Il illustre à l’aide d’exemples dans quels domaines de la vie quotidienne les technologies numériques peuvent porter atteinte aux droits fondamentaux et aux droits humains, ce que l’on peut en dire du point de vue juridique et quelles sont les possibilités de faire valoir ces droits.
Ce livre comprend deux parties. Nous présentons dans la première les principales technologies et leurs applications ainsi que les bases légales en la matière. Dans la seconde, nous illustrons notre propos à l’aide de cas pratiques tirés de divers domaines de la vie. Les technologies numériques ayant d’innombrables applications, nous avons dû opérer un choix. Cet ouvrage ne reflète par conséquent pas tous les domaines de la vie concernés par cette problématique ni toutes les questions juridiques qu’elle soulève. Nous avons en outre simplifié les faits pour les rendre plus facilement compréhensibles, ce qui fait de cet ouvrage un guide pratique, et pas juridique. Les cas pratiques servent à montrer en quoi concrètement les droits fondamentaux et les droits humains sont touchés par l’évolution et les applications des technologies numériques ; ils ont également pour fonction de nourrir le débat sur la question de la conciliation entre la numérisation et nos droits et libertés fondamentales.
Notre ouvrage reprend en grande partie la structure des trois publications suivantes : Grund- und Menschenrechte in der Sozialhilfe – Ein Leitfaden für die Praxis (Droits fondamentaux et droits humains dans l’aide sociale – un guide pratique), Grund- und Menschenrechte von Menschen mit Behinderungen – Ein Leitfaden für die Praxis der sozialen Arbeit (Droits fondamentaux et droits humains des personnes en situation de handicap – un guide pratique pour le travail social), tous deux fruits d’une collaboration entre la Haute École de Lucerne et le CSDH, ainsi que l’ouvrage Droits fondamentaux des personnes âgées – un guide pratique, publié par le CSDH. Nous tenons par conséquent à en remercier les auteures, Gülcan Akkaya, Eva Maria Belser, Andrea Egbuna-Joss, Sandra Egli, Sabrina Ghielmini, Jasmin Jung-Blattmann et Christine Kaufmann pour le travail de conceptualisation réalisé en amont.
Finalement, une note des traducteurs : par souci de clarté, nous mentionnons également le terme anglais entre parenthèses à la première occurrence des notions pour lesquelles l’usage du terme français ne s’est pas totalement imposé, ou lorsque les deux termes sont utilisés. Et nous mentionnons aussi plusieurs termes lorsque plusieurs expressions françaises coexistent.
I
Notions fondamentales
1
Les technologies numériques et leurs applications
Le tournant sociétal que nous vivons depuis les années 1990, souvent qualifié de « quatrième révolution industrielle », se caractérise par les technologies et infrastructures numériques. Dans ce contexte, on entend par « numérisation » la mutation culturelle, sociale et politique induite par le recours aux nouvelles technologies numériques. Ce phénomène est marqué avant tout par une automatisation toujours plus poussée des domaines les plus divers de la vie – qui vont de la production à la gestion des informations – ainsi que par la connexion entre monde virtuel et monde physique.
Ce chapitre est consacré aux technologies numériques soulevant des enjeux particuliers en matière de droits fondamentaux et de droits humains. Il contient également, pour illustrer ces technologies, divers exemples d’application.
Données, métadonnées et mégadonnées
Les données, en tant qu’informations stockées, existaient déjà avant la numérisation. La nouveauté, c’est que les technologies numériques permettent de stocker ces données sur divers supports. Actuellement, quand on parle de « données », on entend d’une part les informations enregistrées sur un dispositif, qui ont été saisies sur la base d’observations ou de mesures et peuvent être modifiées, traitées ou chiffrées[1] ; et d’autre part les métadonnées, c’est-à-dire les informations sur les caractéristiques d’autres données telles que la date de parution d’un texte ou la date de sa dernière modification. Et l’on qualifie de « données secondaires » les métadonnées fournissant des informations sur les communications réalisées sur Internet, comme la date d’envoi d’un courriel et son destinataire[2].
Une autre notion qui apparaît fréquemment quand il s’agit de numérisation est celle de mégadonnées (big data), qui désigne de gigantesques volumes de données non structurées ou semi-structurées. Les technologies actuelles permettent d’analyser de telles masses de données de façon bien plus rapide et plus efficiente qu’il y a quelques années seulement[3].
Les mégadonnées, que les entreprises récoltent par exemple en proposant des applications gratuites à leurs clients en échange du droit d’accéder à leurs données, présentent quatre caractéristiques principales. Elles sont très volumineuses, très hétérogènes, correctes et analysées à une vitesse extrêmement élevée. L’essor des mégadonnées s’explique surtout par l’Internet des objets (Internet of Things → notions fondamentales point 1.5), qui lui fournit les données, et par l’informatique en nuage (cloud computing → notions fondamentales point 1.6), qui lui fournit les outils nécessaires à leur traitement[4].
Exemples d’application :
Recherche médicale et diagnostics : la médecine recourt à des données sur l’état de santé des patient·e·s afin de garantir les meilleurs soins possibles. Dans ce domaine, c’est surtout l’informatique biomédicale qui joue un rôle important : à l’aide d’algorithmes (→ notions fondamentales point 1.2), les professionnel·le·s analysent les données collectées dans le but de déterminer les thérapies les plus prometteuses ou les caractéristiques génétiques prédisposant à certaines maladies déterminées[5]. Pour être capables d’établir des diagnostics, des logiciels passent en revue d’importants volumes de données afin d’y déceler des caractéristiques en tout genre. Lorsque ces dernières sont présentes dans certaines combinaisons bien précises, le logiciel propose un diagnostic en appliquant des algorithmes. Ces algorithmes opèrent par exemple sur la base d’enregistrements d’appareils médicaux ou de résultats d’analyses de laboratoire qu’ils attribuent à un diagnostic déterminé et donc à une maladie déterminée[6] (→ cas pratique Diagnostics fondés sur l’intelligence artificielle et les mégadonnées 2.2).
Microciblage : le microciblage (microtargeting) est une méthode utilisée tant en marketing que dans les campagnes électorales et de votations. En exploitant en amont d’importantes quantités de données, on parvient à s’adresser de manière ciblée à des personnes précises. On définit dans ce but des groupes cibles, avant d’établir pour chacun d’eux des profils de personnalité. Des partis politiques, par exemple, font comparer et recouper les données récoltées lors de contacts privés et par des sites internet avec les données de réseaux sociaux afin d’établir des correspondances (appariement, ou social match). Cette technique leur permet d’adapter leurs messages politiques en fonction de groupes cibles déterminés et, par exemple, de promouvoir des projets politiques en diffusant des messages « sur mesure » sur les réseaux sociaux[7] (→ cas pratique Microciblage durant des campagnes politiques 3.4).
Algorithmes
Un algorithme est une suite définie d’étapes permettant de résoudre un problème. Un algorithme qui reçoit les mêmes données de départ, introduites dans le même ordre, suivra systématiquement les mêmes étapes prédéfinies, et parviendra donc toujours aux mêmes résultats ; si, en revanche, les données de départ ne sont pas les mêmes, il parviendra à des résultats différents[8]. De cette manière, les algorithmes permettent de rechercher une caractéristique prédéfinie dans toutes sortes de jeux de données ou d’obtenir toujours les mêmes résultats si l’on entre les mêmes données dans un moteur de recherche[9].
Exemples d’application :
Bulles de filtres : les internautes peuvent se retrouver dans des bulles informationnelles, ou bulles de filtres (filter bubble), ou encore chambres d’écho, car ils ne voient souvent s’afficher que de la publicité ou des informations qui reflètent leurs intérêts ou leurs opinions. Des personnes aux idées politiques conservatrices par exemple se verront plutôt proposer des contenus diffusés par des partis ou des journaux conservateurs. Les internautes sont par conséquent de moins en moins exposés à des opinions différentes des leurs. Ces bulles de filtres se créent parce que les exploitants de moteurs de recherche utilisent des algorithmes qui se fondent entre autres sur les activités antérieures de l’internaute, et notamment sur ses recherches. Ils supposent en effet que les individus préfèrent les contenus qui les confortent dans leurs convictions[10].
Calcul de risque : les assurances et les banques peuvent se servir d’algorithmes pour décider de conclure ou non un contrat d’assurance ou d’accorder un crédit. Ces algorithmes sont établis de manière à faire correspondre certaines caractéristiques des client·e·s avec certaines conditions à remplir pour pouvoir conclure une police d’assurance ou obtenir un crédit[11].
Système de recherche automatisée de véhicules : en Suisse, cette technique est appliquée à l’aide du programme « Système de recherche automatisée de véhicules et de surveillance du trafic (RVS) ». Un scanner mobile relève les numéros d’immatriculation et les compare avec ceux enregistrés dans la banque de données de recherche. Lorsque ces numéros coïncident, la police peut faire arrêter le véhicule en question et le contrôler[12].
Apprentissage automatique
Par apprentissage automatique, ou apprentissage machine, on entend le fait de programmer un algorithme de manière à ce qu’il soit capable d’identifier certains schémas dans des données et d’y « réagir » en fonction de paramètres prédéfinis. Pour ce faire, on alimente le système avec des données contenant une ou plusieurs caractéristiques communes, ce que l’on appelle un « jeu de données d’entraînement »[13]. Lorsque l’algorithme reconnaît la caractéristique en question dans un nouveau jeu de données, il classe automatiquement ce jeu dans le groupe des données présentant cette caractéristique[14]. Ce qu’il a appris grâce au jeu de données d’entraînement le rend donc capable de faire des prédictions[15].
L’apprentissage automatique comprend également un processus encore plus complexe, l’apprentissage profond (deep learning), qui consiste à créer des réseaux de neurones artificielles qui s’inspirent des structures fondamentales du cerveau humain. Ces neurones sont capables de fonctionner de manière autonome pour établir des connexions entre elles et traiter des informations et, par conséquent, le système suit des étapes qui échappent souvent à leurs concepteurs et conceptrices. Ces derniers ne peuvent plus savoir sur quoi s’est fondé l’algorithme pour parvenir à ses résultats. C’est ce que l’on appelle l’effet boîte noire[16].
Exemples d’application :
Applications d’activité physique : les apps de sport téléchargent dans un nuage (→ notions fondamentales point 1.6) les informations qu’elles tirent du comportement de leurs utilisateurs et utilisatrices. Sur cette base (qui constitue dans ce cas le jeu de données d’entraînement), un algorithme fait des propositions d’activité physique personnalisées.
Véhicules autonomes : afin d’entraîner un programme destiné à piloter un véhicule de manière autonome au milieu du trafic, une personne conduit un véhicule autonome un certain temps afin que l’algorithme puisse reprendre son comportement[17].
