Automatisierte Entscheidungsfindung - Automated decision-making

Automatisierte Entscheidungsfindung (ADM) beinhaltet die Verwendung von Daten, Maschinen und Algorithmen , um Entscheidungen in einer Reihe von Kontexten zu treffen, einschließlich öffentlicher Verwaltung, Wirtschaft, Gesundheit, Bildung, Recht, Beschäftigung, Verkehr, Medien und Unterhaltung, mit unterschiedlichem Grad an menschlichem Aufsicht oder Intervention. ADM umfasst umfangreiche Daten aus Datenbanken, Text, sozialen Medien, Sensoren, Bildern oder Sprache, die mit einer Reihe von Technologien verarbeitet werden, darunter Computersoftware, Algorithmen, maschinelles Lernen , Verarbeitung natürlicher Sprache , künstliche Intelligenz , erweiterte Intelligenz und Robotik . Der zunehmende Einsatz von automatisierten Entscheidungsfindungssystemen (ADMS) in einer Reihe von Kontexten bringt viele Vorteile und Herausforderungen für die menschliche Gesellschaft mit sich, die eine Berücksichtigung der technischen, rechtlichen, ethischen, gesellschaftlichen, erzieherischen und wirtschaftlichen Konsequenzen erfordern.

Überblick

Während einige Definitionen von ADM darauf hindeuten, dass es sich um rein technologische Entscheidungen handelt, kann ADM in Wirklichkeit viele Formen annehmen, die von Entscheidungsunterstützungssystemen reichen, die Handlungsempfehlungen für menschliche Entscheidungsträger geben, manchmal bekannt als erweiterte Intelligenz oder „gemeinsame Entscheidungsfindung“. Making', bis hin zu vollautomatisierten Entscheidungsfindungsprozessen, die ohne menschliches Zutun Entscheidungen im Auftrag von Institutionen oder Organisationen treffen. Modelle, die in automatisierten Entscheidungssystemen verwendet werden, können so einfach sein wie Checklisten und Entscheidungsbäume bis hin zu künstlicher Intelligenz und tiefen neuronalen Netzen (DNN).

Seit den 1950er Jahren haben Computer sich von der Fähigkeit zur grundlegenden Verarbeitung zu der Fähigkeit entwickelt, komplexe, mehrdeutige und hochqualifizierte Aufgaben wie Bild- und Spracherkennung, Gameplay, wissenschaftliche und medizinische Analyse und Inferenz über mehrere Datenquellen zu übernehmen. ADM wird heute zunehmend in allen Bereichen der Gesellschaft und in vielen verschiedenen Bereichen von Unterhaltung bis Transport eingesetzt.

Daten und Technologien

Die automatisierte Entscheidungsfindung verwendet eine Reihe von Datenquellen und Technologien, um Entscheidungen zu treffen, die das Verhalten komplexer Systeme in vielen verschiedenen Kontexten beeinflussen, darunter selbstfahrende Autos, Robotik, Sicherheitssysteme, öffentliche Verwaltung, Gesundheit, Recht und Handel.

Datenqualität

Die Qualität der in ADM-Systemen verfügbaren und nutzbaren Daten ist für die Ergebnisse von grundlegender Bedeutung und aus vielen Gründen oft hochproblematisch. Datensätze sind oft sehr variabel, werden von Unternehmen oder Regierungen kontrolliert, aus Datenschutz- oder Sicherheitsgründen eingeschränkt, unvollständig, voreingenommen, zeitlich oder flächendeckend begrenzt, Begriffe auf unterschiedliche Weise gemessen und beschrieben und viele andere Probleme.

Damit Maschinen aus Daten lernen können, sind oft große Korpusse erforderlich, die schwer zu beschaffen oder zu berechnen sein können, jedoch, wo verfügbar, bedeutende Durchbrüche ermöglicht haben, beispielsweise bei der Diagnose von Thoraxröntgenaufnahmen.

Maschinelles Lernen

Hauptartikel: Maschinelles Lernen

Machine Learning (ML) beinhaltet das Trainieren von Computerprogrammen durch den Umgang mit großen Datensätzen und Beispielen, um aus Erfahrungen zu lernen und Probleme zu lösen. Maschinelles Lernen kann verwendet werden, um Daten zu generieren und zu analysieren sowie algorithmische Berechnungen durchzuführen und wurde auf Bild- und Spracherkennung, Übersetzungen, Text, Daten und Simulationen angewendet. Obwohl es maschinelles Lernen schon seit einiger Zeit gibt, wird es aufgrund der jüngsten Durchbrüche beim Training von tiefen neuronalen Netzen (DNNs) und der dramatischen Zunahme der Datenspeicherkapazität und Rechenleistung mit GPU-Coprozessoren und Cloud-Computing immer leistungsfähiger.

Anwendungen

ADM wird aus einer Reihe von Gründen verwendet, um die administrative Entscheidungsfindung sowohl von öffentlichen als auch von privaten Organisationen zu ersetzen oder zu erweitern, unter anderem um die Konsistenz zu erhöhen, die Effizienz zu verbessern und neue Lösungen für komplexe Probleme zu ermöglichen.

In Rechtssystemen auf der ganzen Welt werden algorithmische Werkzeuge wie Risk Assessment Instruments (RAI) in vielen Kontexten verwendet, um das menschliche Urteil von Richtern, Beamten und Polizeibeamten zu ergänzen oder zu ersetzen. In den Vereinigten Staaten werden RAs verwendet, um Bewertungen zu erstellen, um das Risiko von Rückfällen bei Untersuchungshaft und Urteilsentscheidungen vorherzusagen, Bewährung für Gefangene zu bewerten und „Brennpunkte“ für zukünftige Straftaten vorherzusagen. Diese Bewertungen können zu automatischen Effekten führen oder können verwendet werden, um Entscheidungen von Beamten innerhalb des Justizsystems zu untermauern. In Kanada wird ADM seit 2014 verwendet, um bestimmte Aktivitäten von Einwanderungsbeamten zu automatisieren und die Bewertung einiger Einwanderungs- und Besucheranträge zu unterstützen.

Digitale Informations- und Unterhaltungsplattformen bieten Nutzern zunehmend automatisierte Empfehlungen ( Recommender-Systeme ) basierend auf demografischen Informationen, vorheriger Auswahl, kollaborativer Filterung oder inhaltsbasierter Filterung. Dazu gehören Musik- und Videoplattformen, wissenschaftliche Publikationen, Gesundheitsberatung, Produktdatenbanken und Suchmaschinen. Viele Empfehlungssysteme bieten Benutzern Autonomie bei der Annahme von Empfehlungen und beinhalten datengesteuerte algorithmische Rückkopplungsschleifen basierend auf den Aktionen des Systembenutzers.

Autonome Fahrzeuge wie selbstfahrende Autos und andere Transportmittel sind ein weiterer Bereich, in dem automatisierte Entscheidungssysteme verwendet werden, um verschiedene Aspekte der menschlichen Kontrolle zu ersetzen, die von Level 0 (vollständiges menschliches Fahren) bis Level 5 (vollständig autonom) reichen. Auf Stufe 5 ist die Maschine in der Lage, Entscheidungen zur Steuerung des Fahrzeugs basierend auf Datenmodellen und Geokartierung sowie Echtzeitsensoren und Umgebungsverarbeitung zu treffen. Autos der Stufen 1 bis 3 sind bereits auf dem Markt. Selbstfahrende Autos werfen viele Fragen bezüglich Haftung und ethischer Entscheidungsfindung bei Unfällen sowie Datenschutzfragen auf. Die Bundesregierung hat 2016 eine „Ethikkommission Automatisiertes und vernetztes Fahren“ eingerichtet, die einen Bericht mit 20 ethischen Regeln zur Anpassung des automatisierten und vernetzten Fahrens vorgelegt hat.

Ethische und rechtliche Fragen

Es gibt viele soziale, ethische und rechtliche Implikationen von automatisierten Entscheidungssystemen. Zu den geäußerten Bedenken gehören mangelnde Transparenz und Anfechtbarkeit von Entscheidungen, Eingriffe in Datenschutz und Überwachung, Verschlimmerung systemischer Verzerrungen und Ungleichheiten aufgrund von Daten- und algorithmischen Verzerrungen , Rechte an geistigem Eigentum, Verbreitung von Fehlinformationen über Medienplattformen, administrative Diskriminierung, Risiko und Verantwortung, Arbeitslosigkeit und viele andere. Da ADMS immer allgegenwärtiger wird, müssen die ethischen Herausforderungen stärker angegangen werden, um eine gute Regierungsführung in Informationsgesellschaften zu gewährleisten.

ADM-Systeme basieren oft auf maschinellem Lernen und Algorithmen, die nicht leicht eingesehen oder analysiert werden können, was zu Bedenken führt, dass es sich um „Black-Box“-Systeme handelt, die nicht transparent oder rechenschaftspflichtig sind.

Ein Bericht von Citizen Lab in Kanada plädiert für eine kritische Menschenrechtsanalyse der Anwendung von ADM in verschiedenen Bereichen, um sicherzustellen, dass der Einsatz automatisierter Entscheidungsfindung nicht zu Verletzungen von Rechten, einschließlich der Rechte auf Gleichheit und Nichtdiskriminierung, führt; Bewegungs-, Meinungs-, Religions- und Vereinigungsfreiheit; Persönlichkeitsrechte und das Recht auf Leben, Freiheit und Sicherheit der Person.

Gesetzliche Antworten auf ADM umfassen:

  • Die 2016 eingeführte Europäische Datenschutz-Grundverordnung ( DSGVO ) ist eine Verordnung im EU-Recht zum Datenschutz und zur Privatsphäre in der Europäischen Union (EU). Artikel 22 Absatz 1 verankert das Recht der betroffenen Personen, keinen Entscheidungen mit rechtlicher oder sonstiger erheblicher Wirkung zu unterliegen, die ausschließlich auf einer automatischen Einzelfallentscheidung beruhen.

Siehe auch

Verweise