Erhalten Sie Zugang zu diesem und mehr als 300000 Büchern ab EUR 5,99 monatlich.
- Herausgeber: buch & netz
- Kategorie: Geisteswissenschaft
- Sprache: Deutsch
- Veröffentlichungsjahr: 2021
Die Digitalisierung hat ein grosses Potenzial, Grund- und Menschenrechte in ganz unterschiedlichen Lebensbereichen zu stärken. Gleichzeitig besteht die Gefahr, dass digitale Technologien zu neuen oder verschärften Formen von Grund- und Menschenrechtsverletzungen führen. Die vorliegende Publikation, herausgegeben vom Schweizerischen Kompetenzzentrum für Menschenrechte (SKMR), gibt einen Überblick, wie sich digitale Technologien im Alltag auf die Grund- und Menschenrechte auswirken. In einem ersten Teil behandelt sie wichtige neue Technologien und Anwendungen sowie die relevanten rechtlichen Grundlagen. In einem zweiten Teil erläutern die Autorinnen anhand von ausgewählten Fallbeispielen, welche Grund- und Menschenrechte bei der Entwicklung und Anwendung von digitalen Technologien betroffen sind. Das Buch leistet damit einen Beitrag zur Diskussion, wie Grund- und Menschenrechte und Digitalisierung miteinander vereinbar sind.
Sie lesen das E-Book in den Legimi-Apps auf:
Seitenzahl: 151
Das E-Book (TTS) können Sie hören im Abo „Legimi Premium” in Legimi-Apps auf:
Ähnliche
Grund- und Menschenrechte in einer digitalen Welt
Sabrina Ghielmini, Christine Kaufmann, Charlotte Post,
Grund- und Menschenrechte in einer digitalen Welt vom Schweizerischen Kompetenzzentrum für Menschenrechte (SKMR) wird unter Creative Commons Namensnennung – Nicht kommerziell – Keine Bearbeitungen 4.0 International – lizenziert, sofern nichts anderes angegeben ist.
© 2021 – CC-BY-NC-ND (Werk), CC-BY-SA (Texte)
Herausgeber: Schweizerisches Kompetenzzentrum für Menschenrechte (SKMR)Projektleitung: Sabrina GhielminiLektorat: Antonia BertschingerUmschlaggestaltung und Illustrationen: buch & netz, Carolina Flores (buchundnetz.com)Verlag & Produktion: buch & netz (buchundnetz.com)
ISBN:978-3-03805-361-3 (Print – Softcover)978-3-03805-395-8 (PDF)978-3-03805-396-5 (ePub)978-3-03805-397-2 (mobi/Kindle)Version: 1.00-20210414
Dieses Werk ist als buch & netz Online-Buch und als eBook in verschiedenen Formaten sowie als gedrucktes Buch verfügbar. Weitere Informationen finden Sie unter der URL:https://buchundnetz.com/werke/grund-und-menschenrechte-in-einer-digitalen-welt/.
Die französische Ausgabe des Werks ist verfügbar unter: https://buchundnetz.com/werke/droits-fondamentaux-et-droits-humains-à-l’ère-numérique/.
Inhalt
StiftungInhaltDankVorwortEinleitungBuchteil I. Grundlagen 1. Digitale Technologien und AnwendungenDaten, Metadaten und Big DataAlgorithmenMaschinelles LernenKünstliche IntelligenzInternet of Things (Internet der Dinge)Cloud ComputingRobotikBlockchain 2. Grund- und MenschenrechteHerausforderungen der digitalen Welt für die Grund- und MenschenrechteJuristische GrundlagenEinfluss der Digitalisierung auf einzelne Grund- und MenschenrechteBuchteil II. Fallbeispiele 3. ArbeitAlgorithmus entscheidet über BewerbungenBewerbungen und soziale MedienÜberwachung am Arbeitsplatz 4. GesundheitPflegeroboterKünstliche Intelligenz und Big Data in der DiagnostikFitnesstracker einer Krankenkasse 5. Kontakt zu Verwaltung, Justiz und PolitikBarrierefreie Websites von BehördenAutomatisierter BehördenentscheidAutomatisierte RisikoeinschätzungMicrotargeting im AbstimmungskampfStaatliche Videoüberwachung mit Gesichtserkennung im öffentlichen Raum 6. InternetnutzungHasskommentare im InternetCybermobbing 7. Bildung und ForschungOnline-Unterricht in der SchuleVeröffentlichung einer wissenschaftlichen Studie 8. WirtschaftDigitalisierter LadenInternetbasierte Geschäftsmodelle (Plattformökonomie)FazitAbkürzungsverzeichnisLiteraturverzeichnisMaterialienverzeichnisAutorinnen1
Dieses Buch ist eine Publikation des Schweizerischen Kompetenzzentrums für Menschenrechte (SKMR).
Die Herausgabe dieses Buches wurde durch einen Beitrag der Hirschmann-Stiftung ermöglicht.www.hirschmann-stiftung.ch
2
Inhalt
3
Dank
Verschiedene Personen haben dieses Buch mit wertvollen fachlichen Anregungen unterstützt. Wir bedanken uns herzlich bei Sophie Achermann (alliance F), Dr. Kathrin Arioli (Staatsschreiberin des Kantons Zürich), Dr. Bruno Baeriswyl (ehem. Datenschutzbeauftragter des Kantons Zürich), Dr. Stefanie Becker (Alzheimer Schweiz), Prof. Dr. Abraham Bernstein (Digital Society Initiative, Universität Zürich), Prof. Dr. Corinna Bath (TU Braunschweig), Prof. Dr. Nadja Braun Binder (Universität Basel), Dr. Markus Christen (Digital Society Initiative, Universität Zürich), Guy Ehrler (Post AG), Dr. Alfred Früh (Universität Basel, ehem. Center for Information Technology, Society and Law, Universität Zürich), Giulia Reimann (Eidgenössische Kommission gegen Rassismus) und Prof. Dr. Marc Thommen (Open Science Delegierter, Universität Zürich). Weiter danken wir Prof. Dr. Rolf H. Weber (Center for Information Technology, Society and Law, Universität Zürich) für die kritische Durchsicht des Manuskripts.
Dr. Res Schuerch (SKMR) und Moritz Senn (Lehrstuhl für Öffentliches Recht, Völker- und Europarecht, Universität Zürich) danken wir für die Unterstützung bei der Recherche und Dr. Antonia Bertschinger (SKMR) für das Lektorat.
Ohne finanziellen Beitrag der Hirschmann-Stiftung wäre die Realisierung dieses Buches nicht möglich gewesen. Für die grosszügige Unterstützung und das Vertrauen in unsere Arbeit möchten wir uns ebenfalls herzlich bedanken.
Für das SKMR
Christine Kaufmann und Michèle Amacker
4
Vorwort
Neue Technologien sollten dazu dienen, das Leben der Menschen leichter zu machen, zu vereinfachen, und Nutzen stiften. Zumeist schaffen sie viele Chancen, aber sie bergen auch Risiken und Herausforderungen für eine Gesellschaft. Die digitalen Technologien durchdringen jede Facette unseres Lebens, ethische Fragestellungen nehmen zu etwa im Bereich der künstlichen Intelligenz oder beim Einsatz von Robotern. Datenspuren hinterlassen viele Informationen, und wir verlieren schnell die Kontrolle darüber. Auch ist es leichter geworden, via Social Media zu Kundgebungen aufzurufen, aber auch zu manipulieren, falsch zu informieren. Beispiele wie die Sperrung des Twitter-Accounts von Präsident Trump oder die Einschränkung des Internets in China oder Weissrussland zeigen Problematik und Handlungsbedarf in Bezug auf die Meinungsäusserungsfreiheit oder die Versammlungsfreiheit etc. auf.
Ich bin daher sehr froh über dieses Werk. Die digitale Welt ist an sich schon reichlich komplex aufgrund der technischen und rasanten Entwicklung. Sie im Kontext der Grund- und Menschenrechte zu analysieren und zu begleiten, ist umso wichtiger. Die digitalen Technologien können der Menschheit viel Nutzen stiften, aber wie bei jeder Technologie gibt es Schattenseiten, Risiken und Missbrauchsmöglichkeiten. Die Wissenschaft ist gefordert und gibt uns Orientierung, zeigt aber auch auf, wo der Rechtsrahmen ungenügend ist.
Das Buch gibt nicht nur eine gute Übersicht über die einzelnen Grundrechte und deren Problematik im digitalen Raum, sondern auch Hinweise an den Staat, wo Regulierung nötig ist. Regulierung ist nötig, damit Menschen auf Rechtsstaatlichkeit vertrauen können. Nur mit diesem rechtsstaatlichen Schutz und durchsetzbaren Rechten gelingt es, das Vertrauen der Menschen in die neuen Technologien zu stärken. Der Cyberspace ist ein wichtiges neues Rechtsgebiet, mit dem wir uns beschäftigen müssen.
Grundsätzlich gelten die universellen Menschenrechte sowohl im analogen wie im digitalen Raum. Viele Errungenschaften und deren Anwendung und Auslegung müssen daher nicht neu erfunden werden, sondern haben ihre Gültigkeit. Allerdings gibt es viele Auslegungsfragen und neue Anwendungsbereiche, und hier braucht es Prinzipien, Werte, die zu beachten sind, an denen sich Regierungen, der Privatsektor und die Zivilgesellschaft orientieren können. Das UN Panel on Digital Cooperation, dessen Mitglied ich bin, identifizierte neun menschliche Werte, die beachtet werden sollten: Inclusiveness, Respect, Human-Centeredness, Human Flourishing, Transparency, Collaboration, Accessibility, Sustainability und Harmony. Eine internationale Anerkennung dieser Prinzipien würde helfen bei der Entwicklung und Anwendung digitaler Technologien. Ein globales Bekenntnis zu digitaler Kooperation unter Anwendung der Werte und Prinzipien würde ein gemeinsames Verständnis fördern. Schliesslich sollte man dazu auch eine neue Gouvernanz, sprich Architektur, erarbeiten, weil eben auch die Zusammenarbeit, wie wir sie bislang kannten, nicht mehr stimmt im digitalen Raum. Solange wir keine klaren Normen und wenig Rechtsprechung haben, wird die Unsicherheit gross bleiben. Die grossen Tech-Unternehmen profitieren davon. Der einzelne Nutzer ist meist nicht in der Lage, Verletzungen seiner Persönlichkeitsrechte einzuklagen.
Das Engagement der Schweiz für die Menschenrechte ist in der Bundesverfassung (Art. 54 Abs. 2) und in ihrer Tradition fest verankert. Zahlreiche Institutionen des Völkerrechts haben ihren Sitz im internationalen Genf. Diese Ausgangslage sollte die Schweiz nutzen und sich aktiv einbringen, Vorbild sein. Die EU hat etwa mit der Datenschutzverordnung bereits einen Standard gesetzt, der internationale Beachtung findet. Die politische wie wissenschaftliche Schweiz tut gut daran, sich einzubringen, mitzugestalten und zu investieren in die offenen Fragestellungen. Das setzt ein stärkeres Bewusstsein für die Bedeutung der Grund- und Menschenrechte in unserem digitalen Alltag voraus. Dazu will dieses Buch beitragen.
Doris Leuthard, alt Bundesrätin
5
Einleitung
Die fortschreitende digitale Transformation konfrontiert unsere Gesellschaft mit tiefgreifenden Veränderungen. Robotik, künstliche Intelligenz, Big Data und Internet of Things sind nur einige Stichworte, die für den digitalen Wandel stehen.
Die Digitalisierung hat ein grosses Potenzial, Grund- und Menschenrechte in ganz unterschiedlichen Lebensbereichen zu stärken. So eröffnet das Internet den Zugang zu einer globalen Informations- und Kommunikationsinfrastruktur, Roboter können in der Pflege eingesetzt werden, und «intelligente» Arbeitsbekleidung vermag Arbeitnehmende zu schützen. Gleichzeitig besteht die Gefahr, dass digitale Technologien zu neuen oder verschärften Formen von Grund- und Menschenrechtsverletzungen führen. Das Sammeln von Daten über einzelne Personen oder die Überwachung mithilfe digitaler Technologien werfen beispielsweise Fragen im Zusammenhang mit dem Recht auf Privatsphäre und mit der Bewegungsfreiheit auf.
Das vorliegende Buch richtet sich an ein breites Publikum ohne technisches oder juristisches Fachwissen. Es gibt einen Überblick, wie sich digitale Technologien im Alltag auf die Grund- und Menschenrechte auswirken. Anhand konkreter Fallbeispiele zeigt es auf, in welchen Lebensbereichen Grund- und Menschenrechte durch digitale Technologien tangiert werden, wie dies aus rechtlicher Sicht zu bewerten ist und welche Handlungsoptionen sich daraus ergeben.
Das Buch besteht aus zwei Teilen. Im ersten Teil werden wichtige Technologien und Anwendungen sowie die relevanten rechtlichen Grundlagen erläutert. Der zweite Teil besteht aus Fallbeispielen aus unterschiedlichen Lebensbereichen. Angesichts der unzähligen Einsatzbereiche von digitalen Technologien wird hier nur eine Auswahl besprochen, welche nicht alle betroffenen Lebensbereiche und juristischen Fragestellungen abbilden kann. Die Fallbeispiele sind im Interesse der Verständlichkeit vereinfacht. Sie eignen sich daher nicht als Rechtsratgeber. Vielmehr sollen sie als Orientierungshilfe für die Frage dienen, welche Grund- und Menschenrechte bei der Entwicklung und Anwendung von digitalen Technologien betroffen sind, und einen Beitrag zur Diskussion leisten, wie Grund- und Menschenrechte und Digitalisierung miteinander vereinbar sind.
Der Aufbau des vorliegenden Buches folgt in weiten Teilen den Publikationen «Grund- und Menschenrechte in der Sozialhilfe – Ein Leitfaden für die Praxis» und «Grund- und Menschenrechte von Menschen mit Behinderungen – Ein Leitfaden für die Praxis der sozialen Arbeit», welche gemeinsam von der Hochschule Luzern und dem SKMR herausgegeben wurden, sowie der SKMR–Publikation «Grundrechte im Alter – Ein Handbuch». Wir möchten deshalb den Autorinnen dieser drei Publikationen, Gülcan Akkaya, Eva Maria Belser, Andrea Egbuna-Joss, Sandra Egli, Sabrina Ghielmini, Jasmin Jung-Blattmann und Christine Kaufmann, für die dort geleistete konzeptionelle Vorarbeit danken.
I
Grundlagen
1
Digitale Technologien und Anwendungen
Der gesellschaftliche Wandel, den wir seit den 1990er-Jahren erleben, wird oft als «industrielle Revolution 4.0» bezeichnet. Digitale Technologien und digitale Infrastrukturen kennzeichnen diese Revolution 4.0. «Digitalisierung» meint in diesem Zusammenhang den kulturellen, sozialen und politischen Wandel, den der Einsatz neuer digitaler Technologien mit sich bringt. Sie zeichnet sich vor allem durch eine immer weiter fortschreitende Automatisierung verschiedenster Lebensbereiche aus, von der Produktion bis hin zum Umgang mit Informationen, sowie durch die Vernetzung von virtueller und physischer Welt.
Das nachfolgende Kapitel erläutert die digitalen Technologien, die einen besonders relevanten Einfluss auf die Grund- und Menschenrechte haben. Verdeutlicht werden die Technologien anhand verschiedener Anwendungsbeispiele.
Daten, Metadaten und Big Data
Daten als gespeicherte Informationen gab es schon vor der Digitalisierung. Neu ist, dass sie dank digitaler Technologien auf verschiedenen Medien gespeichert werden können. Unter «Daten» versteht man heute einerseits die auf einem Gerät gespeicherten Informationen, die durch Beobachtungen oder Messungen erfasst wurden und verändert, verarbeitet oder verschlüsselt werden können.[1] Andererseits erfasst der Begriff auch sogenannte Metadaten, das heisst Informationen über die Merkmale anderer Daten wie beispielsweise das Erscheinungsdatum eines Textdokuments oder das Datum der letzten Änderung. Als Randdaten bezeichnet man solche Metadaten, die Auskunft über Kommunikation im Internet geben, beispielsweise wann und an wen eine E-Mail verschickt wurde.[2]
Ein Begriff, der besonders oft im Zusammenhang mit der Digitalisierung genannt wird, ist Big Data. Dabei handelt es sich um riesige, unstrukturierte oder nur beschränkt strukturierte Datenmengen. Dank neuer technologischer Entwicklungen ist es inzwischen möglich, solche Datenmengen wesentlich schneller und effizienter zu analysieren als noch vor einigen Jahren.[3]
Big Data zeichnet sich insbesondere durch vier Merkmale aus: Zunächst handelt es sich um eine grosse Menge an Daten. Diese wird beispielsweise dadurch erreicht, dass Unternehmen ihren Kundinnen und Kunden Apps kostenlos, aber nur im Tausch gegen Zugriffsrechte auf ihre Daten, zur Verfügung stellen. Zweitens handelt es sich bei Big Data um sehr vielfältige Daten, drittens sind diese Daten korrekt, und viertens werden sie mit sehr hoher Geschwindigkeit analysiert. Big Data profitiert vor allem vom Internet of Things (→ Grundlagen Kapitel 1.5) als Datenquelle und von Cloud Computing (→Grundlagen Kapitel 1.6) als Werkzeug zur Datenverarbeitung.[4]
Anwendungsbeispiele:
Medizinische Forschung und Diagnostik: Angaben über den Gesundheitszustand von Patientinnen und Patienten werden als Daten in der Medizin verwendet, um eine bestmögliche Versorgung zu gewährleisten. Hierbei spielt vor allem die biomedizinische Informatik eine grosse Rolle: Die zuvor gesammelten Informationen werden mithilfe von Algorithmen (→ Grundlagen Kapitel 1.2) ausgewertet, um festzustellen, welche Therapieansätze bei verschiedenen Krankheiten am vielversprechendsten sind oder welche Merkmale im Erbgut ein erhöhtes Risiko für den Ausbruch bestimmter Krankheiten darstellen.[5] Im Bereich der Diagnostik durchsucht Software eine grosse Menge von Daten nach verschiedensten Merkmalen. Treten diese in einer ganz bestimmten Kombination auf, wird die Software gestützt auf die entsprechenden Algorithmen eine passende Diagnose vorschlagen. Als Grundlage dienen beispielsweise Aufzeichnungen von medizinischen Geräten oder Laborbefunde, die einer bestimmten Diagnose (bzw. Krankheit) zugeordnet werden können (→ Fallbeispiel KI und Big Data in der Diagnostik 2.2).[6]
Microtargeting: Diese Methode kommt im Marketing und in politischen Wahl- oder Abstimmungskampagnen zum Einsatz. Die Auswertung grosser Mengen an Daten ermöglicht es, einzelne Zielpersonen gezielt anzusprechen. Zu diesem Zweck werden Zielgruppen definiert und dazugehörige Persönlichkeitsprofile erstellt. So lassen beispielsweise Parteien die über persönliche Kontakte oder Websites gesammelten Daten mit den Daten auf Social-Media-Plattformen vergleichen und ggf. verknüpfen (Social Match). Auf diese Weise können sie politische Botschaften auf bestimmte Zielgruppen zuschneiden und beispielsweise gezielt mit bestimmten Aussagen in den sozialen Medien für politische Vorlagen werben (→ Fallbeispiel Microtargeting im Abstimmungskampf 3.4).[7]
Algorithmen
Algorithmen sind Verfahren zur Lösung eines Problems nach vordefinierten Einzelschritten. Werden gleiche Ausgangsdaten in derselben Reihenfolge eingegeben, führt der Algorithmus immer dieselben vorher definierten Einzelschritte aus, sodass die Ergebnisse immer gleich sind; bei Eingabe unterschiedlicher Ausgangsdaten unterscheiden sich die Ergebnisse.[8] Algorithmen tragen auf diese Weise dazu bei, dass verschiedenste Datensätze nach einem zuvor festgelegten Merkmal durchsucht werden können oder dass bei gleichen Eingaben in eine Suchmaschine dieselben Ergebnisse vorgeschlagen werden.[9]
Anwendungsbeispiele:
Filterblasen: Unter einer Filterblase versteht man das Phänomen, dass Internetnutzenden häufig nur Werbung oder Informationen angezeigt werden, die ihre Interessen und Meinungen unterstützen. So lassen sich beispielsweise Menschen, die konservative politische Ansichten vertreten, eher mit Beiträgen von konservativen Parteien oder Zeitungen konfrontieren. Dies führt dazu, dass sich Menschen im Internet immer weniger mit gegensätzlichen Meinungen auseinandersetzen müssen. Filterblasen entstehen, weil die Betreibenden von Suchmaschinen Algorithmen nutzen, die auch frühere (Such-)Aktivitäten der jeweiligen Nutzenden mitberücksichtigen, weil die Betreibenden davon ausgehen, dass Nutzerinnen und Nutzer Beiträge präferieren, die ihre Ansichten unterstützen.[10]
Risikoberechnung: Versicherungen und Banken können beim Entscheid über den Abschluss einer Versicherung bzw. die Vergabe eines Kredits auf Algorithmen zurückgreifen. Diese sind darauf trainiert, bestimmte Merkmale der Kundinnen und Kunden bestimmten Konditionen zuzuordnen, nach denen die Versicherung bzw. ein Kredit gewährt werden soll.[11]
Automatische Fahrzeugfahndung: Hierbei handelt es sich um eine Technologie, die in der Schweiz mit dem Programm «Automatische Fahrzeugfahndung und Verkehrsüberwachung» (AFV) eingesetzt wird. Ein mobiles Scan-Gerät erfasst Nummernschilder und gleicht diese mit registrierten Nummernschildern in der Fahndungsdatenbank ab. Gibt es eine Übereinstimmung, kann die Polizei das betroffene Fahrzeug zur Kontrolle anhalten.[12]
Maschinelles Lernen
Maschinelles Lernen bedeutet, dass ein Algorithmus so programmiert wird, dass er aus Daten gewisse Muster erkennen und entsprechend der ihm vorgegebenen Parameter «reagieren» kann. Zu diesem Zweck wird ein System mit Daten gefüttert, bei denen ein oder mehrere Merkmale übereinstimmen. Bei diesen Daten handelt es sich um einen sogenannten Trainingssatz.[13] Erkennt der Algorithmus das Merkmal bei einer anderen, fremden Datei wieder, ordnet er diese automatisch der Gruppe der vorher ausgewerteten Daten zu.[14] Er kann folglich in neuen Situationen auf Grundlage des Trainingssatzes Vorhersagen treffen.[15]
Zum maschinellen Lernen gehört auch das komplexere «Deep Learning». Hierbei wird mit Hilfe sogenannter neuronaler Netzwerke versucht, die Grundstrukturen des menschlichen Gehirns nachzubilden. Diese künstlichen Neuronen sind selbstständig dazu imstande, sich untereinander zu vernetzen und Informationen zu verarbeiten. Die Folge ist, dass die Arbeitsschritte des Systems für die Entwicklerinnen und Entwickler häufig nicht mehr nachvollziehbar sind. Sie können also nicht mehr herausfinden, auf welchen Grundlagen der Algorithmus arbeitet. Dieses Phänomen wird auch als das Black-Box-Problem bezeichnet.[16]
Anwendungsbeispiele:
Fitness-Apps: Bei Fitness-Apps werden Informationen, die sich aus dem Verhalten der Nutzenden ableiten lassen, in eine Cloud (→ Grundlagen Kapitel 1.6) hochgeladen. Auf ihrer Grundlage (die in diesem Fall den Trainingssatz bildet) erstellt ein Algorithmus neue Vorschläge bezüglich der sportlichen Betätigung der jeweiligen Person.
Autonomes Fahren: Um ein Fahrprogramm auf selbstständiges Fahren im Strassenverkehr zu trainieren, wird ein Fahrzeug einige Zeit von einem Menschen betätigt, damit der Algorithmus dessen Verhaltensweise übernehmen kann.[17]
