© 2021 Deutscher Bundestag WD 7 - 3000 - 017/21 Künstliche Intelligenz in der Justiz Internationaler Überblick Sachstand Wissenschaftliche Dienste Die Wissenschaftlichen Dienste des Deutschen Bundestages unterstützen die Mitglieder des Deutschen Bundestages bei ihrer mandatsbezogenen Tätigkeit. Ihre Arbeiten geben nicht die Auffassung des Deutschen Bundestages, eines seiner Organe oder der Bundestagsverwaltung wieder. Vielmehr liegen sie in der fachlichen Verantwortung der Verfasserinnen und Verfasser sowie der Fachbereichsleitung. Arbeiten der Wissenschaftlichen Dienste geben nur den zum Zeitpunkt der Erstellung des Textes aktuellen Stand wieder und stellen eine individuelle Auftragsarbeit für einen Abgeordneten des Bundestages dar. Die Arbeiten können der Geheimschutzordnung des Bundestages unterliegende, geschützte oder andere nicht zur Veröffentlichung geeignete Informationen enthalten. Eine beabsichtigte Weitergabe oder Veröffentlichung ist vorab dem jeweiligen Fachbereich anzuzeigen und nur mit Angabe der Quelle zulässig. Der Fachbereich berät über die dabei zu berücksichtigenden Fragen. Wissenschaftliche Dienste Sachstand WD 7 - 3000 - 017/21 Seite 2 Künstliche Intelligenz in der Justiz Internationaler Überblick Aktenzeichen: WD 7 - 3000 - 017/21 Abschluss der Arbeit: 1. März 2021 Fachbereich: WD 7: Zivil-, Straf- und Verfahrensrecht, Bau und Stadtentwicklung Wissenschaftliche Dienste Sachstand WD 7 - 3000 - 017/21 Seite 3 Inhaltsverzeichnis 1. Einleitung 4 2. Künstliche Intelligenz in der deutschen Justiz 5 3. Künstliche Intelligenz in der Justiz europäischer Staaten 7 4. Künstliche Intelligenz in der Justiz von Drittstaaten 8 Wissenschaftliche Dienste Sachstand WD 7 - 3000 - 017/21 Seite 4 1. Einleitung Die künstliche Intelligenz (KI) gilt als Schlüsseltechnologie mit großem Potenzial.1 Eine allgemeingültige Definition des KI-Begriffes existiert allerdings (bisher) nicht.2 Abstrakt wird jedoch unterschieden zwischen einer „starken“ KI, die die gleichen intellektuellen Fertigkeiten wie der Mensch hat oder ihn darin sogar übertreffen kann und der „schwachen“ KI, die sich selbstoptimierend auf die Lösung konkreter Anwendungsprobleme auf Basis der Methoden aus der Mathematik und Informatik fokussiert.3 Nur ein Einsatz von Systemen letzterer Art ist bereits heute technisch möglich beziehungsweise innerhalb der nächsten Jahre realistisch.4 Anwendungsbeispiele schwacher KI sind etwa Sprach- und Bilderkennung, Software zur Simulation menschlichen Expertenwissens, Musteranalyse (maschinelles Lernen) sowie die Robotik.5 Derartige Anwendungen lassen sich auch für die Justiz nutzbar machen.6 Die Anwendung von KI in der Justiz stellt dabei einen Teilbereich des Sammelbegriffes „Legal Tech“ dar, unter dem der allgemeine Einsatz von Informationstechnik im juristischen Bereich verstanden wird.7 Neben technischen und praktischen Herausforderungen ergeben sich beim Einsatz von KI in der Justiz auch ethische Spannungsfelder:8 Problematisch ist etwa, dass viele juristische Entscheidungen Wertentscheidungen im Einzelfall darstellen, für die anders als bei mathematischen Glei- 1 Vergleiche entsprechende Aussage der Bundesregierung, Strategie Künstliche Intelligenz der Bundesregierung – Fortschreibung 2020, Unterrichtung vom 8. Dezember 2020, Bundestagsdrucksache (BT-Drs.) 19/25095, S. 3, abrufbar unter: https://dip21.bundestag.de/dip21/btd/19/250/1925095.pdf (letzter Abruf dieser und aller sonstigen Internetquellen: 1. März 2021). 2 Bundesregierung, Nationale Strategie für Künstliche Intelligenz (Internetauftritt), Stichwort „Definition“, abrufbar unter: https://www.ki-strategie-deutschland.de/home.html. 3 Ebenda. 4 Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ des Deutschen Bundestages, Bericht vom 28. Oktober 2020, BT-Drs. 19/23700, S. 50, abrufbar unter: https://dip21.bundestag.de/dip21/btd/19/237/1923700.pdf. 5 Bundesregierung (Fußnote 2). 6 Vergleiche entsprechende Klassifikation von KI-Anwendungen in der Justiz bei der Europäischen Kommission für die Effizienz der Justiz des Europarates (CEPEJ), Europäische Ethik-Charta über den Einsatz künstlicher Intelligenz in der Justiz und in ihrem Umfeld, Dezember 2018, S. 14, abrufbar unter: https://rm.coe.int/charteethique -ia-en-allemand/16809fe3fe. 7 Länderarbeitsgruppe der Justizministerkonferenz, Abschlussbericht: TOP I.11 (Legal Tech, Herausforderungen für die Justiz), 2019, S. 6, abrufbar unter: https://www.schleswig-holstein.de/DE/Landesregierung/II/Minister /Justizministerkonferenz/Downloads/190605_beschluesse/TOPI_11_Abschlussbericht.pdf?__blob=publication File&v=1; Wagner, Legal Tech und Legal Robots in Unternehmen und den diese beratenden Kanzleien (Teil 1), Betriebsberater (BB) 2017, S. 898. 8 Umfassende Literaturhinweise zur Thematik bei Biallaß, in: Ory/Weth, juris Praxiskommentar Elektronischer Rechtsverkehr, 2020, Band 1, Kapitel 8, Randnummer 215. Wissenschaftliche Dienste Sachstand WD 7 - 3000 - 017/21 Seite 5 chungen keine eindeutig „richtige“ oder „falsche“ Lösung existieren kann, sondern die einer subjektiv -empathischen Abwägung der einzelnen Interessenlagen bedürfen.9 Des Weiteren stellen sich Fragen der Unabhängigkeit der Justiz, wenn Entscheidungen möglicherweise nicht mehr von einer unabhängigen Richterpersönlichkeit, sondern einem Algorithmus getroffen werden, dessen genaue, unter Umständen diskriminierende, Programmierung über den Ausgang eines Falles entscheiden kann.10 Überhaupt könnte speziell vor dem Hintergrund der Gewaltenteilung die Frage zu klären sein, welcher Akteur für die Programmierung und Auswahl der einzuspeisenden Daten zu welchen Transparenzkriterien zuständig sein sollte.11 Vorschläge aus der Praxis für ethische Grundsätze des Einsatzes von KI in der Justiz liegen dabei bereits vor, etwa von der Europäischen Kommission für die Effizienz der Justiz des Europarates (CEPEJ).12 Nachfolgend werden die aufgezeigten komplexen Problemkreise der Thematik nicht weiter vertieft , sondern entsprechend der Fragestellung des Auftrags Beispiele von KI-Anwendungen in der deutschen Justiz und in Justizsystemen anderer Staaten kursorisch vorgestellt. 2. Künstliche Intelligenz in der deutschen Justiz Ein Forschungsprojekt im KI-Bereich wird zurzeit vom Bayerischen Staatsministerium der Justiz unter der Bezeichnung „Legal Analytics“ verfolgt.13 Dort geht es um die datenschutzkonforme automatisierte Anonymisierung gerichtlicher Entscheidungen.14 Dies steht vor dem Hintergrund einer denkbaren Datenbank von Gerichtsentscheidungen, die für Rechtsanwender aufgrund der dort vorhandenen Daten vorhersagende Analysen (Predictive Analytics) für die Entscheidung zukünftiger Rechtsfälle, vor allem im Zivilrecht, treffen kann.15 Darüber hinaus werden in zwei Projekten KI-gestützte Anwendungen zum automatisierten Auslesen rechtlich relevanter Informationen aus elektronischen Dokumenten zur Einsatzreife gebracht: Zum einen in Bezug auf ein bun- 9 Vergleiche weitergehend Enders, Einsatz künstlicher Intelligenz bei juristischer Entscheidungsfindung, Juristische Arbeitsblätter (JA) 2018, S. 721, 725 oder Dreyer/Schmees, Wo keine Trainingsdaten, da kein Richter – Hindernisse, Risiken und Chancen der Automatisierung gerichtlicher Entscheidungen, Computer und Recht (CR) 2019, S. 758, 762. 10 Hierzu näher Steege, Algorithmenbasierte Diskriminierung durch Einsatz von Künstlicher Intelligenz, Multimedia und Recht (MMR) 2019, S. 715. 11 Enders (Fußnote 9), S. 725 f.; Dreyer/Schmees (Fußnote 9), S. 763 f. 12 CEPEJ (Fußnote 6), S. 5 ff. 13 Bayerische Staatsregierung, Antwort vom 16. Juli 2020 auf die Schriftliche Anfrage der Landtagsabgeordneten Schuberl und Adjei vom 3. Juni 2020, S. 3, abrufbar unter: http://www1.bayern.landtag.de/www/ElanTextAblage _WP18/Drucksachen/Schriftliche%20Anfragen/18_0009313.pdf. 14 Ebenda. 15 Ebenda. Wissenschaftliche Dienste Sachstand WD 7 - 3000 - 017/21 Seite 6 deseinheitliches Datenbankgrundbuch, zum anderen bei der Erfassung von bei Gericht eingereichten elektronischen Dokumenten (Projekt „Smart“ in Zusammenarbeit mit der Landesjustizverwaltung Rheinland-Pfalz).16 Weiter werden vermehrt KI-gestützte Programme zur (teil-)automatisierten Bearbeitung großer Datenmengen im Rahmen der Strafverfolgung getestet. Dies gilt insbesondere im Ermittlungsverfahren zur Vorbereitung einer Entscheidung durch die Justiz. So wurden in mehreren Bundesländern in den letzten Jahren Pilotprojekte eingeleitet, bei denen eine KI-Software ermöglichen soll, im Rahmen der Ermittlungstätigkeit erlangte Datenmengen mit teilweise erheblichem Umfang auf möglicherweise darin enthaltenes kinderpornografisches Material zu untersuchen.17 Ebenso ist 2020 das Forschungsprojekt „KISTRA“ (Einsatz von KI zur Früherkennung von Straftaten), geleitet von der Zentralen Stelle für Informationstechnik im Sicherheitsbereich (ZITiS) des Bundes, gestartet.18 Ziel ist dabei unter anderem die Entwicklung von adaptiven KI-Methoden, die automatisiert politische Äußerungen im Internet erkennen und auf ihre strafrechtliche Relevanz bewerten können („Hasskriminalität“).19 Daneben wird im Rahmen eines Forschungsprojektes des Justizministeriums des Landes Nordrhein-Westfalen seit 2019 eine auf KI basierende ereignisgesteuerte Videoüberwachung für den Justizvollzug entwickelt.20 Diese soll automatisch Situationen erfassen, die auf einen Suizidversuch eines Häftlings hindeuten und die Justizvollzugsbeamten rechtzeitig alarmieren, um Rettungsmaßnahmen zu ermöglichen.21 16 Ebenda, S. 3 f. 17 Landeskriminalamt (LKA) Niedersachsen, „Künstliche Intelligenz: LKA Niedersachsen stellt Software zur Bekämpfung von Kinderpornografie bundesweit zur Verfügung“, Pressemitteilung vom 10. Juni 2020, abrufbar unter : https://www.lka.polizei-nds.de/a/presse/pressemeldungen/kuenstliche-intelligenz-lka-niedersachsen-stelltsoftware -zur-bekaempfung-von-kinderpornografie-bundesweit-zur-verfuegung-114750.html. Siehe auch Justizministerium des Landes Nordrhein-Westfalen, „Künstliche Intelligenz im Kampf gegen Kinderpornographie“, Pressemitteilung vom 5. August 2019, abrufbar unter: https://www.justiz.nrw.de/JM/Presse/PresseJM/archiv /2019_02_Archiv/2019_08_05_Kinderpornographie/index.php. 18 ZITiS, „Start für Forschungsprojekt KISTRA - Einsatz von Künstlicher Intelligenz (KI) zur Früherkennung von Straftaten“, Pressemitteilung vom 1. Juli 2020, abrufbar unter: https://www.zitis.bund.de/SharedDocs/Kurzmeldungen /DE/Kurzmeldung_KISTRA.html. 19 Ebenda. Siehe auch Süddeutsche Zeitung (Internetausgabe), „Mit künstlicher Intelligenz gegen den Hass“, Artikel vom 14. November 2020, abrufbar unter: https://www.sueddeutsche.de/digital/kuenstliche-intelligenz-hatespeech -voksverhetzung-justiz-1.5114796. 20 Justizministerium des Landes Nordrhein-Westfalen, „Einsatz Künstlicher Intelligenz im Justizvollzug zur Suizidprävention “, Pressemitteilung vom 22. Oktober 2019, abrufbar unter: https://www.land.nrw/de/pressemitteilung /einsatz-kuenstlicher-intelligenz-im-justizvollzug-zur-suizidpraevention. 21 Ebenda. Wissenschaftliche Dienste Sachstand WD 7 - 3000 - 017/21 Seite 7 Seit einigen Jahren werden an Gerichten mehrerer Bundesländer zudem Spracherkennungsprogramme als Alternative zu klassischen Diktiergeräten an Gerichten eingesetzt.22 3. Künstliche Intelligenz in der Justiz europäischer Staaten In einem Pilotprojekt soll in Estland ein KI-basiertes Programm autonom über zivilrechtliche Vertragsstreitigkeiten mit einem Streitwert von unter 7 000 Euro entscheiden und dadurch die Justiz entlasten.23 Dabei werden die relevanten Dokumente von den Parteien hochgeladen, und die KI entscheidet anhand der vorliegenden Informationen.24 Diese Entscheidungen können jedoch vor einem Richter angefochten werden.25 In Österreich wird KI in verschiedenen Bereichen der Justiz eingesetzt:26 Analyse von Aktenstücken zur Erleichterung der Bearbeitung (Erkennung von Dokumenten , Extraktion von Metadaten; geplant: Erzeugung von Erfassungsvorschlägen , Erkennen von Zuständigkeiten, Entscheidungsunterstützung durch kontextbezogene Rechtsrecherche). Unterstützung der Anonymisierung von Gerichtsentscheidungen (in Vorbereitung). Analyse großer Datenbestände im Ermittlungsverfahren der Staatsanwaltschaften in Zusammenarbeit mit der Polizei und in umfangreichen Gerichtsverfahren zur strukturierten Aufbereitung der Faktenlage. 22 Vergleiche etwa IT-Stelle der hessischen Justiz (Internetauftritt), „Digitaldiktat und Spracherkennung“, abrufbar unter: https://it-stelle-justiz.hessen.de/it-dienstleistungen/it-anwendungen/digitaldiktat-und-spracherkennung; „Justizministerium von Nordrhein-Westfalen entscheidet sich für Dragon NaturallySpeaking Legal Edition von Nuance“, Pressemitteilung auf „pressebox.de“ vom 11. August 2008, abrufbar unter: https://www.pressebox .de/pressemitteilung/nuance-communications-germany-gmbh/Justizministerium-von-Nordrhein-Westfalenentscheidet -sich-fuer-Dragon-NaturallySpeaking-Legal-Edition-von-Nuance/boxid/196557. 23 Deutschlandfunk Nova (Internetauftritt), „KI-Richter in Estland fällt Urteile per Algorithmus“, Artikel vom 27.März 2019, abrufbar unter: https://www.deutschlandfunknova.de/beitrag/digitalisierung-ki-richter-in-estland -faellt-urteile-per-algorithmus; Der Standard (Internetausgabe), „Estland will Richter durch künstliche Intelligenz ersetzen“, Artikel vom 3. April 2019, abrufbar unter: https://www.derstandard .at/story/2000100613536/justiz-estland-will-richter-durch-kuenstliche-intelligenz-ersetzen 24 Ebenda. 25 Ebenda. 26 Vergleiche Aufzählung des Österreichischen Bundesministeriums der Justiz, IT-Anwendungen in der österreichischen Justiz, Stand: August 2020, S. 41, abrufbar unter: https://www.justiz.gv.at/file/2c94848b6ff7074f017493349cf54406.de.0/itanwendungen %20in%20der%20%C3%B6sterreichischen%20justiz%20stand%20august%202020.pdf#page=1. Wissenschaftliche Dienste Sachstand WD 7 - 3000 - 017/21 Seite 8 Bürgerunterstützung bei der Abfrage von Verfahrensständen oder Grundbuchabfragen durch das Portal „JustizOnline“27 mit gezielter Führung durch ein technisches Dialogsystem (Chatbot). 4. Künstliche Intelligenz in der Justiz von Drittstaaten Das KI-System „Split-Up“ unterstützt die Richter an Familiengerichten in Australien bei Scheidungsstreitigkeiten : Es identifiziert die aufzuteilenden Vermögenswerte der Parteien und schlägt anhand einer Berechnung einen Prozentsatz vor, den die jeweilige Partei erhalten soll.28 Das auf KI beruhende System „Socrates“ analysiert auf der Datenbasis von 300 000 abgeschlossenen Fällen, eingehende Verfahren beim höchsten Bundesgericht in Brasilien (Superior Tribunal de Justiça) und bildet Gruppen ähnlich gelagerter Fälle, sodass diese zusammen entschieden werden können.29 Außerdem prüft das System eingehende Revisionen automatisiert auf bestimmte Voraussetzungen, die für die Zuständigkeit des Gerichts eine Rolle spielen.30 Das brasilianische Verfassungsgericht (Supremo Tribunal Federal) hat ebenfalls die Entwicklung eines KI- Programms mit dem Namen „VICTOR“ in die Wege geleitet, das eingehende Verfahren analysieren und auf für die Zuständigkeit des Gerichts relevante Voraussetzungen untersuchen soll.31 In China stellen vor allem die 2016 eingeführten „Smart Courts“ den hervorzuhebenden Anwendungsbereich von KI im dortigen Justizsystem dar.32 Hierbei handelt es sich um einen Sammelbegriff , unter dem der zentral koordinierte Einsatz moderner Technologien an Gerichten beschrieben wird.33 Beispielsweise wurden drei Gerichte eingerichtet, an denen zivilrechtliche Verfahren 27 https://justizonline.gv.at/jop/web/home. 28 Wu, AI Goes to Court: The Growing Landscape of AI for Access to Justice, Artikel vom 6. August 2019 auf der Internetplattform „Legal Design and Innovation” (Stanford Law School), Ziffer 4.1. mit weiterem Nachweis, abrufbar in englischer Sprache unter: https://medium.com/legal-design-and-innovation/ai-goes-to-court-the-growing -landscape-of-ai-for-access-to-justice-3f58aca4306f. 29 Tageszeitung “Folha de S.Paulo” (Internetausgabe), „Artificial Intelligence Makes its Mark in the Brazilian Judicial System”, Artikel vom 10. März 2020, abrufbar in englischer Sprache unter: https://www1.folha.uol.com.br/internacional/en/brazil/2020/03/artificial-intelligence-makes-its-mark-in-thebrazilian -judicial-system.shtml. 30 Ebenda. 31 Becker/Ferrari, „Artificial Intelligence and the Supreme Court of Brazil – Beauty or a Beast?”, 22. Juni 2020, S. 2, abrufbar in englischer Sprache unter: https://sifocc.org/app/uploads/2020/06/Victor-Beauty-or-the- Beast.pdf. 32 Zou, ‘Smart Courts’ in China and the Future of Personal Injury Litigation, Journal of Personal Injury Law (Juni 2020), S. 2, abrufbar in englischer Sprache unter: https://papers.ssrn.com/sol3/papers .cfm?abstract_id=3552895. 33 Papagianneas, Smart Courts: Vehicles for Genuine Judicial Reform?, European Chinese Law Research Hub, 31. August 2020, abrufbar in englischer Sprache unter: https://blog.uni-koeln.de/eclrhub/2020/08/31/smartcourts -vehicles-for-genuine-judicial-reform/. Wissenschaftliche Dienste Sachstand WD 7 - 3000 - 017/21 Seite 9 mit Internetbezug (z.B. im elektronischen Handelsverkehr) vollständig im Internet geführt werden können.34 Dort werden auch KI-Programme zur Unterstützung bei der Entscheidungsfindung in einfachen Fällen eingesetzt, indem etwa ein solches Programm anhand der vom Richter hochgeladenen Informationen des laufenden Verfahrens eine Analyse ähnlich gelagerter Fälle zur Verfügung stellt.35 In verschiedenen Gerichtsgebäuden kommen zudem mit KI ausgestattete Roboter zum Einsatz, die Informationen zu Richtern, Gerichtsangestellten, Prozessordnungen und Verfahrenshandlungen abrufen und kommunizieren können und teilweise sogar in der Lage sind, anhand der eingegeben Informationen eine Einschätzung zum möglichen Ausgang eines Verfahrens abzugeben.36 In dortigen KI-Terminals können zudem Fallakten gescannt, elektronisch eingereicht sowie überdies Verfahrensdokumente erstellt werden.37 Während einer Verhandlung können KI-Spracherkennungssysteme die Stimmen der Richter und anderer Prozessteilnehmer exakt unterscheiden und werden dazu verwendet, Gerichtsverhandlungen automatisch und in Echtzeit zu transkribieren.38 In zahlreichen Bundesstaaten der Vereinigten Staaten von Amerika (USA) wird die Software „COMPAS“ (Correctional Offender Management Profiling for Alternative Sanctions) eingesetzt, um etwa bei der richterlichen Strafzumessung oder Anträgen auf vorzeitige Haftentlassung die Rückfallwahrscheinlichkeit von Straftätern zu bewerten.39 Neben anderen Anwendungen im Strafvollzug automatisiert das System diese Risikoeinschätzung, indem es auf Grundlage eines Interviews mit der betroffenen Person und deren Strafakte insgesamt 137 Fragen stellt.40 Hieraus errechnet es Punktwerte von 1 – 10 in 43 verschiedenen Kategorien (scales).41 Punktwerte in einigen Kategorien (sogenannte risk scales) sollen dabei Aussagen zum Rückfallrisiko treffen – allgemein , für spezielle Deliktsarten (z.B. Gewaltverbrechen) oder spezifisch für einzelne ausgemachte Risikofaktoren (z.B. Vorstrafen, Drogenkonsum, soziale Integration).42 Je höher der Punktwert, 34 Zou (Fußnote 32), S. 4. 35 Ebenda, S. 3. 36 Ebenda. 37 Ebenda, S. 4. 38 Ebenda. 39 Biallaß (Fußnote 8), Randnummer 264; Steege (Fußnote 10), S. 716. 40 Rademacher/Perkowski, Staatliche Überwachung, neue Technologien und die Grundrechte, Juristische Schulung (JuS) 2020, S. 713, 714; Lischka/Klingel, Wenn Maschinen Menschen bewerten – Internationale Fallbeispiele für Prozesse algorithmischer Entscheidungsfindung, Arbeitspapier der Bertelsmann Stiftung, Mai 2017, S. 9, abrufbar unter: https://www.bertelsmann-stiftung.de/fileadmin/files/BSt/Publikationen/GrauePublikationen /ADM_Fallstudien.pdf. 41 Equivant (COMPAS-Betreiberunternehmen), Practitioner’s Guide to COMPAS Core, 4. April 2019, S. 2, abrufbar in englischer Sprache unter: https://www.equivant.com/wp-content/uploads/Practitioners-Guide-to-COMPAS- Core-040419.pdf. 42 Ebenda, S. 7. Eine Auflistung einzelner Kategorien findet sich ebenda auf S. 9. Wissenschaftliche Dienste Sachstand WD 7 - 3000 - 017/21 Seite 10 desto höher ist hiernach das Rückfallrisiko.43 Hierdurch soll kein „absolutes“ Risiko dargestellt werden, sondern lediglich ein relatives in Bezug auf die „Normgruppe“ (norm group).44 Die Normgruppe wurde wiederum in einer empirischen Untersuchung des Verhaltens von 7 381 Straftätern in verschiedenen Vollzugsmaßnahmen 2004/2005 festgelegt, deren Daten fortwährend evaluiert werden.45 Ein Wert von 10 drückt in diesem Zusammenhang beispielsweise aus, dass die untersuchte Person sich in der jeweiligen Kategorie im obersten Zehntel der Normgruppe befindet .46 Da COMPAS eine privatwirtschaftliche Entwicklung ist, sind Einzelheiten des Algorithmus als Geschäftsgeheimnis geschützt und bleiben den Verfahrensbeteiligten verborgen.47 Dies wird von US-amerikanischen Gerichten im Grundsatz allerdings nicht beanstandet.48 Anhand von empirischen Untersuchungen wird dem Programm des Weiteren verschiedentlich eine Diskriminierung von Schwarzen vorgeworfen.49 * * * 43 Ebenda, S. 8. 44 Ebenda. 45 Näheres, vor allem zur Zusammensetzung der Normgruppe, ebenda, S. 11. 46 Ebenda, S. 8. 47 Rademacher/Perkowski (Fußnote 40). 48 So lehnte der Wisconsin Supreme Court 2017 eine dahingehende Beschwerde eines mithilfe von COMPAS Verurteilen ab. Gleiches tat im Anschluss der United States Supreme Court gegen ein hiergegen eingelegtes Rechtsmittel (Biallaß (Fußnote 8), Randnummer 266). 49 Nähere Informationen bei Steege (Fußnote 10). und Biallaß (Fußnote 8), Randnummern 265 ff.