© 2019 Deutscher Bundestag WD 10 - 3000 - 037/19 Einsatz künstlicher Intelligenz in öffentlichen Verwaltungen ausgewählter Länder Sachstand Wissenschaftliche Dienste Die Wissenschaftlichen Dienste des Deutschen Bundestages unterstützen die Mitglieder des Deutschen Bundestages bei ihrer mandatsbezogenen Tätigkeit. Ihre Arbeiten geben nicht die Auffassung des Deutschen Bundestages, eines seiner Organe oder der Bundestagsverwaltung wieder. Vielmehr liegen sie in der fachlichen Verantwortung der Verfasserinnen und Verfasser sowie der Fachbereichsleitung. Arbeiten der Wissenschaftlichen Dienste geben nur den zum Zeitpunkt der Erstellung des Textes aktuellen Stand wieder und stellen eine individuelle Auftragsarbeit für einen Abgeordneten des Bundestages dar. Die Arbeiten können der Geheimschutzordnung des Bundestages unterliegende, geschützte oder andere nicht zur Veröffentlichung geeignete Informationen enthalten. Eine beabsichtigte Weitergabe oder Veröffentlichung ist vorab dem jeweiligen Fachbereich anzuzeigen und nur mit Angabe der Quelle zulässig. Der Fachbereich berät über die dabei zu berücksichtigenden Fragen. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 2 Einsatz künstlicher Intelligenz in öffentlichen Verwaltungen ausgewählter Länder Aktenzeichen: WD 10 - 3000 - 037/19 Abschluss der Arbeit: 12. Juni 2019 Fachbereich: WD 10: Kultur, Medien und Sport Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 3 Inhaltsverzeichnis 1. Vorbemerkung 4 2. Verständnis künstlicher Intelligenz in Deutschland 4 2.1. Künstliche Intelligenz 5 2.2. Maschinelles Lernen 5 3. Länderbeispiele 6 3.1. Vereinigtes Königreich 6 3.1.1. Verständnis und Bedeutung 6 3.1.2. Beispiele 7 3.2. Frankreich 9 3.2.1. Verständnis und Förderung 9 3.2.2. Beispiele 10 3.3. Norwegen 11 3.4. Spanien 12 3.4.1. Verständnis 12 3.4.2. Rechtliche Maßnahmen und Beispiele 12 3.5. Dänemark 14 3.5.1. Verständnis und Ziele 14 3.5.2. Beispiele 15 4. Anlagen 16 Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 4 1. Vorbemerkung Dieser Sachstand beinhaltet eine Übersicht von Beispielen des Einsatzes künstlicher Intelligenz (KI) in den öffentlichen Verwaltungen ausgewählter Länder. Hierzu sind die Parlamentsverwaltungen des Vereinigten Königreiches von Frankreich und Norwegen angefragt worden, die ihre Antworten per E-Mail Anfang Juni 2019 übermittelt haben. Darüber hinaus wurden entsprechende Informationen aus den Parlamentsverwaltungen vom Oktober 2018 und aus Recherchen berücksichtigt. Die Antworten sind angesichts der begrenzten Bearbeitungszeit nach eigenem Ermessen aus dem Englischen und Französischen übersetzt worden. In diesem Zusammenhang ist daraufhin zu weisen, dass KI auch in den öffentlichen Verwaltungen demokratisch verfasster Länder außerhalb Europas von Bedeutung ist. Nachrichtlich sei hier auf das Beispiel der Vereinigten Staaten verwiesen.1 Hier spielt die „Executive Order on Maintaining American Leadership in Artificial Intelligence“ vom 11. Februar 2019 eine besondere Rolle.2 Einen aktuellen Überblick über Literatur zur KI in der öffentlichen Verwaltung bietet die in der Anlage beigefügte Kurzinformation „Literatur zu Künstlicher Intelligenz und ‚Automated Decision Making‘ (ADM) in der öffentlichen Verwaltung“.3 2. Verständnis künstlicher Intelligenz in Deutschland Künstliche Intelligenz, maschinelles Lernen, Algorithmen, Deep Learning, neuronale Netze, Big Data – in diesem Bereich der Informatik gibt es viele technische Fachbegriffe und Trendwörter (buzzwords), die sich nur schwer definieren lassen.4 Verschiedenste Technologien, Konzepte und Anwendungsformen werden fortwährend weiterentwickelt. Das erfordert in der Regel detailliertes technisch-informatisches Fachwissen. Es erscheint daher sachgerecht, zunächst die grundlegendsten Prinzipien solcher intelligenten Systeme zu betrachten, ohne den Versuch einer allgemeingültigen Definition zu wagen. 1 Für nähere Informationen siehe National Academy of Public Administration: AI and Its Impact on Public Administration . Standing Panel on Technology Leadership; 2019; URL: https://www.napawash.org/uploads /Academy_Studies/9781733887106.pdf (Zugriff: 12.06.2019). 2 whitehouse.gov: Executive Order on Maintaining American Leadership in Artificial Intelligence; 11.02.2019; URL: https://www.whitehouse.gov/presidential-actions/executive-order-maintaining-american-leadership-artificial -intelligence/ (Zugriff: 12.06.2019). 3 Wissenschaftliche Dienste: Kurzinformation. Literatur zu Künstlicher Intelligenz und „Automated Decision Making “ (ADM) in der öffentlichen Verwaltung; WD 8-3000-032/19; 4.3.2019. 4 Vgl. z.B. hier die Begriffskritik und -einordnung von Herberger, der schon auf die sprachliche Unschärfe hinweist , die sich aus den unterschiedlichen Bedeutungen der Wörter „artificial“ und „intelligence“ im Englischen ergeben: Herberger: Künstliche Intelligenz und Recht; in: NJW; 2018; S. 2845. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 5 2.1. Künstliche Intelligenz KI kann zunächst als Überbegriff für Anwendungen verstanden werden, bei denen Maschinen menschenähnliche Fähigkeiten wie Lernen, Urteilen oder Problemlösen erlangen. Beim maschinellen Lernen können Computer durch eigene Erfahrungen und/oder aus großen Datenmengen lernen, Aufgaben immer besser auszuführen, sich also selbst effizienter zu machen.5 Der Programmcode wird vom Entwickler mit eigenem Auswahl- und Entscheidungsermessen ausgestattet und kann die Entscheidung über In- und Output selbst treffen. Das geschieht innerhalb einer menschlich bestimmten Rahmenprogrammierung.6 In der aktuellen Diskussion geht es vor allem um sogenannte „schwache“ KIs oder Expertensysteme , die sehr spezifische eng definierte Aufgaben erledigen und in diesem Bereich enorme Leistungen vollbringen können, die über die menschlichen hinausgehen können. Von einer „starken“ KI, also einer universellen künstlichen Intelligenz, die auch in ihrer Gesamtheit mit dem menschlichen Geist vergleichbar wäre, sei man (sollte dies überhaupt jemals möglich sein) laut Experten aber noch Jahrzehnte entfernt.7 2.2. Maschinelles Lernen Maschinelles Lernen (Machine Learning) lässt sich nur schwer von KI abgrenzen. Dieses geschieht in der Regel anhand von Datensätzen, die entweder schon vorgegebene Outputs enthalten oder in denen ein Algorithmus selbst Muster erkennen muss. Oft werden dabei mehrere Systeme kombiniert, wobei das eine Ergebnisse liefert, die dann vom zweiten System bewertet werden und diese Bewertung wiederum an das erste System zurückgespielt wird, so dass es seinen Prozess verbessern und „lernen“ kann. Mit mehreren solchen Schleifen entstehen dann immer bessere Ergebnisse. Die benötigten Daten können strukturiert in Tabellen vorliegen oder unstrukturiert , wobei alle Formen von Daten wie Bilder, Texte, Sprache aus unterschiedlichsten Quellen verwendet werden können, solange sie irgendwie maschinenlesbar sind oder gemacht werden können (Datenbanken, Forschungsergebnisse, Internetinhalte, digitalisierte Bücher).8 Von der Qualität der Daten hängt in hohem Maße die Qualität der Ergebnisse ab. Dies ist besonders wichtig , da aufgrund der Komplexität der Prozesse Fehler nur schwer nachvollzogen oder erkannt werden können und etwa um einen „algorithmic bias“ – also antrainierte „Vorurteile“ – zu vermeiden . Es ist auch möglich, eine KI ohne vorhandene Datensätze zu trainieren. So wurden z.B. im Projekt „Alpha Go Zero“ von Google zwei KIs nur mit den grundlegenden Regeln des Brettspiels 5 Schick: Was ist künstliche Intelligenz?; erschienen in: SAP News; 18.09.2018; URL: https://news.sap.com/germany /2018/03/was-ist-kuenstliche-intelligenz/ (Zugriff: 23.10.2018). 6 Denga: Deliktische Haftung für künstliche Intelligenz; in: CR; 2018; S. 69. 7 So Dr. Aljoscha Burchardt in seinem Vortrag v. 15. Oktober 2018 in der Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ des Deutschen Bundestages. Beitrag abrufbar unter URL: https://www.bundestag.de/dokumente/textarchiv/2018/kw42- pa-enquete-ki-573436 (Zugriff: 11.06.2019). 8 Schick, a.a.O. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 6 „Go“, das als besonders komplex gilt, programmiert und spielten dann ohne weiteren menschlichen Einfluss millionenfach gegeneinander. Sie trainierten sich auf diese Weise selbst. Nach nur 21 Tagen hatten die Systeme das Niveau der besten menschlichen Spieler erreicht und konnten die Großmeister Lee Sedol und Ke Jie besiegen und hatten dabei auch völlig neuartige revolutionäre Spielzüge angewandt, die die Profis in Erstaunen versetzten.9 3. Länderbeispiele 3.1. Vereinigtes Königreich 3.1.1. Verständnis und Bedeutung Nach Informationen aus dem House of Commons hat die britische Regierung in den letzten Jahren ihren Fokus auf KI im Bereich Entwicklung und Forschung verstärkt. Dies zeige sich in der im November 2017 veröffentlichten Industriestrategie „Building a Britain fit for the future“10. Die Strategie beinhaltet u.a. die Definition der Regierung von KI und verwandten Konzepten: „Künstliche Intelligenz sind Technologien mit der Fähigkeit, Aufgaben zu erfüllen, die sonst menschliche Intelligenz erfordern würden, wie visuelle Wahrnehmung, Spracherkennung und Sprachübersetzung. Maschinelles Lernen ist eine Art künstliche Intelligenz, die es Computern ermöglicht, schnell aus großen Datensätzen zu lernen, ohne explizit programmiert zu sein. Die datengesteuerte Wirtschaft ist eine digital vernetzte Wirtschaft, die einen erheblichen Wert aus vernetzten, groß angelegten Daten erzielt, die durch Technologie schnell analysiert werden können, um Erkenntnisse und Innovationen zu generieren.“11 Die KI bilde eine der vier „großen Herausforderungen“, die das Strategiepapier als Motor für den wirtschaftlichen Fortschritt Großbritanniens in den nächsten Jahrzehnten identifiziert.12 Darüber hinaus hat die Regierung einen Sektorvertrag für KI angekündigt, der eine Partnerschaft zwischen 9 Hassabis/Silver: AlphaGo Zero. Learning from scratch; URL: https://deepmind.com/blog/alphago-zero-learningscratch / (Zugriff: 23.10.2018). 10 Her Majesty‘s Government: Industrial Strategy. Building a Britain fit for the future; London 2017; URL: https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/664563/industrial -strategy-white-paper-web-ready-version.pdf (Zugriff: 07.06.2019). Zusätzliche Informationen unter URL: https://www.gov.uk/government/topical-events/the-uks-industrial-strategy (Zugriff: 07.06.2019). 11 Ebenda, S. 37. 12 Her Majesty‘s Government: Policy paper. The Grand Challenges; 22.05.2019; URL: https://www.gov.uk/government /publications/industrial-strategy-the-grand-challenges/industrial-strategy-the-grand-challenges#artificialintelligence -and-data (Zugriff: 07.06.2019). Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 7 Wirtschaft, Regierung und Wissenschaft begründet.13 Damit sollen die Empfehlungen des unabhängigen Berichts „Growing the AI industry in the UK“14 vom Oktober 2017 umgesetzt werden, insbesondere durch die Tätigung staatlicher und privater Investitionen in jenen Bereichen der Forschung und Entwicklung mit dem größten Potenzial zur Erhöhung des britischen Wirtschaftswachstums . 3.1.2. Beispiele Der genannte Bericht vom Oktober 2017 nennt folgende Beispiele für KI im öffentlichen Sektor: „Die britischen Ministerien und Behörden entwickeln und implementieren bereits KI-Anwendungen . Der Government Digital Service (GDS) nutzt maschinelles Lernen, um Nutzerkommentare aus Umfragen auf gov.uk zu automatisieren und zu verarbeiten sowie um Spitzenverkehr für Anfragen nach den beliebtesten Inhalten vorherzusagen, die von der Öffentlichkeit gesucht werden. GDS arbeitet mit der Pensions-Regulierungsbehörde zusammen , um die Effizienz durch prädiktive Algorithmen für das zukünftige Verhalten der Pensionssysteme zu verbessern. Das HMRC15 nutzt KI, um die Prioritäten von Call Centern zu ermitteln. Es gibt zudem Pläne beim Digital Government Partnership, mit Anwendungen des maschinellen Lernens in der Regierung Praxisversuche zu unternehmen.“16 Nach Angaben des House of Commons gab der GDS im Jahr 2017 eine Überprüfung der technologischen Innovation in der gesamten Regierung in Auftrag. Dazu gehörten unter anderem künstliche Intelligenz, maschinelles Lernen und Deep Learning-Technologien. Der im August 2018 veröffentlichte Bericht „Technology innovation in government survey“ bietet eine Diskussion über einige Beispiele für die Nutzung von KI im öffentlichen Sektor.17 So wird zum Beispiel der Einsatz von maschinellem Lernen und Sprachassistenten-Technologie durch den GDS unter der Überschrift „Maschinelles Lernen: GDS nutzt neue Technologien, um GOV.UK zu verbessern“ wie folgt beschrieben: 13 Her Majesty‘s Government: Policy paper. AI Sector Deal; 21.05.2019; URL: https://www.gov.uk/government /publications/artificial-intelligence-sector-deal/ai-sector-deal (Zugriff: 07.06.2019). 14 Siehe die verschiedenen Textsammlungen unter: Her Majesty‘s Government: Independent report. Growing the artificial intelligence industry in the UK; 15.10.2017; URL: https://www.gov.uk/government/publications/growing -the-artificial-intelligence-industry-in-the-uk (Zugriff: 07.06.2019). 15 Her Majesty's Revenue and Customs. 16 Hall, Dame Wendy/Pesenti, Jérôme: Independent report. Growing the artificial intelligence industry in the UK; o.O. 2017; S. 32-33; URL: https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment _data/file/652097/Growing_the_artificial_intelligence_industry_in_the_UK.pdf (Zugriff: 07.06.2019). 17 Her Majesty‘s Government: Policy paper. Technology innovation in government survey; 20.08.2018; URL: https://www.gov.uk/government/publications/technology-innovation-in-government-survey/technology-innovation -in-government-survey (Zugriff: 07.06.2019). Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 8 „Erstellung einer immer präziseren Taxonomie von GOV.UK-Inhalten durch die Verwendung von überwachten maschinellen Lernalgorithmen zur korrekten Identifizierung und Markierung von mehr als 340.000 Inhalten, die Endnutzern helfen, die richtigen Inhalte schneller zu finden. Klassifizierung von Nutzerkommentaren, die auf GOV.UK-Webseiten veröffentlicht wurden, unter Verwendung einer natürlichen Sprachverarbeitung, die die manuelle Bearbeitungszeit verkürzt. Verwendung von Algorithmen des maschinellen Lernens zur Vorhersage des Spitzenverkehrs der GOV.UK-Webseite auf stündlicher, wöchentlicher und monatlicher Basis, um interne Betriebsteams bei der Aufrechterhaltung der Betriebszeiten zu unterstützen . Der GDS untersucht zudem, wie Sprachassistenztechnologie (z.B. Amazon Alexa, Google Assistant oder Siri) GOV.UK-Inhalte nutzen kann, um Sprachantworten auf Nutzerfragen zur gesamten Website zu geben. Der GDS trägt damit dazu bei, Inhalte so benutzerfreundlich und zugänglich wie möglich zu gestalten.“18 Im Zuge des Berichts veröffentlichte der GDS Daten und eine Karte, welche die Abteilungen und Teams der zentralen und lokalen Behörden zeigt, die neue Technologien und Datensätze zur Innovation nutzen.19 Weitere Beispiele für den Einsatz von KI werden aus dem House of Commons in Bezug auf Blogbeiträge der Regierung angegeben, die im Zuge der Datenveröffentlichung der GDS veröffentlicht wurden: „Wie wir das tiefe Lernen zur Strukturierung der Inhalte von GOV.UK nutzten“20 „Apotheken, Menschen und Häfen: der Data Science Accelerator“21. Hier werden einige Beispiele für Projekte beschrieben, die im Rahmen des „Data Science Accelerator Programms“22 der Regierung durchgeführt wurden. 18 Ebenda. 19 Datenmaterial siehe Her Majesty‘s Government: Research and analysis. Government innovation and emerging technology underlying data set; 20.08.2018; URL: https://www.gov.uk/government/publications/governmentinnovation -and-emerging-technology-underlying-data-set (Zugriff: 07.06.2019). 20 Zachariou,Nicky/King,Ellie/Loukou, Felisia: How we used deep learning to structure GOV.UK’s content; in: GOV.UK; 19.10.2018; URL: https://dataingovernment.blog.gov.uk/2018/10/19/how-we-used-deep-learning-tostructure -gov-uks-content/ (Zugriff: 07.06.2019). 21 Her Majesty‘s Government: Pharmacies, people and ports: the Data Science Accelerator; 11.08.2017; URL: https://dataingovernment.blog.gov.uk/2017/08/11/pharmacies-people-and-ports-the-data-science-accelerator/ (Zugriff: 07.06.2019). 22 Zusätzliche Informationen siehe: URL: https://www.gov.uk/government/publications/data-science-acceleratorprogramme /introduction-to-the-data-science-accelerator (Zugriff: 07.06.2019). Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 9 „Einsatz von maschinellem Lernen bei der Pensionskasse“23 „Einsatz von maschinellem Lernen zur Klassifizierung von Nutzerkommentaren zu GOV.UK“24 3.2. Frankreich 3.2.1. Verständnis und Förderung Nach Aussage der französischen Parlamentsverwaltung ist KI („Intelligence artificielle“, IA) in Frankreich nicht gesetzlich definiert. Allerdings werde künstliche Intelligenz derzeit im Konsens als „das Zusammenwirken von Theorien und Techniken definiert, das zur Herstellung von Maschinen zur Simulation von Intelligenz verwendet wird“. Am 28. März 2018 präsentierte der französische Präsident Emmanuel Macron einen Bericht über KI, der eine Reihe von Anregungen enthielt: 25 die Schaffung eines Netzwerks interdisziplinärer Institute für KI, den Aufbau eines speziell für KI-Anwendungen entwickelten Supercomputers oder das Vorhaben, Karrieren in der öffentlichen Forschung attraktiver zu gestalten, um die Abwanderung (brain drain) von Fachleuten zu US-amerikanischen Technologie-Großkonzernen zu verhindern.26 Laut Angaben aus der Assemblée nationale wurden mehrere Verfahren entwickelt, um die Entwicklung der KI in der Verwaltung zu fördern: Seit zwei Jahren veröffentlicht die Regierung jährlich einen „Aufruf zur Interessenbekundung“27, um mit KI im öffentlichen Dienst zu experimentieren . Dieser richtet sich an Verwaltungen in ganz Frankreich, die die KI in ihren Arbeitsabläufen integrieren wollen. Dabei werden die Verwaltungen nach mehreren Kriterien ausgewählt: der potenzielle interne und externe Nutzen für das öffentliche Handeln; die technische Relevanz des Projekts; die Zusammensetzung des Teams der an dem Projekt beteiligten Beamten; das Vorhandensein und die Zugänglichkeit der erforderlichen Daten; die Berücksichtigung ethischer Risiken. 23 Jackson, Peter: Using Machine Learning at The Pensions Regulator; in: GOV.UK; 07.04.2019; URL: https://data.blog.gov.uk/2017/04/07/using-machine-learning-at-the-pensions-regulator/ (Zugriff: 07.06.2019). 24 Upston Matt: Using machine learning to classify user comments on GOV.UK; in: GOV.UK; 20.12.2016; URL: https://dataingovernment.blog.gov.uk/2016/12/20/using-machine-learning-to-classify-user-comments-on-govuk / (Zugriff: 07.06.2019). 25 Zur vollständigen Rede siehe Macron, Emmanuel: Discours du Président de la République sur l'intelligence artificielle ; in: elysee.fr; 29.03.2018; URL: https://www.elysee.fr/emmanuel-macron/2018/03/29/discours-du-president -de-la-republique-sur-lintelligence-artificielle (Zugriff: 07.06.2019). 26 Für den „Villani-Bericht“ auf Französisch und mit einer Präsentation auf Englisch siehe URL: https://www.aiforhumanity .fr/ (Zugriff: 07.06.2019). 27 Appel à manifestation d'intérêt (AMI). Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 10 Die ausgewählten Verwaltungen erhalten im Falle der Auswahl folgende Unterstützung: Technik zur Entwicklung von Fähigkeiten in Technologien der KI; strategisch, um die Transformation des Betriebes im Zusammenhang mit Technologien der KI zu verstehen. Derzeit arbeitet die Regierung an einem zweiten Aufruf zur Interessenbekundung „Für die Transformation von Unternehmen und des öffentlichen Handelns“. Antworten werden bis Ende Mai 2019 erwartet.28 3.2.2. Beispiele Im Jahr 2018 wurden im Rahmen des ersten Interessenbekundungsverfahrens 52 Dossiers analysiert und sechs Projekte ausgewählt:29 Entwickelung eines „Voice-Bot“, der in der Lage ist, die einfachen und wiederkehrenden Fragen von Verbänden zu beantworten oder den relevantesten Gesprächspartner zu identifizieren, an den sich der Fragesteller richten kann. Verwendung einer KI zur Automatisierung der Erkennung neuer Objekte (z.B. Wohnwagen , Wohnmobile, Gebäude, Stallungen, Mülldeponien) in sensiblen Gebieten, um diejenigen zu identifizieren, die irregulär Bodenflächen besetzen (z.B. illegale Bauten, Ausfüllen von Überschwemmungsgebieten, illegale Deponien usw.) und um somit bessere Kontrollen durchzuführen. Optimierung der Zielrichtung der Kontrollen im Bereich der Lebensmittelsicherheit durch Ausrichtung der Programmierung der Kontrollen der Gesundheitsinspektoren auf der Grundlage von Kommentaren und Meinungen auf Webplattformen (Trip Advisor , Google, etc.). Automatische Erkennung auf der Grundlage von Inspektionsberichten, von schwachen Signalen und statistischen Trends, um die Inspektoren bei ihrer Arbeit zu unterstützen . Nutzung der KI zur Entwicklung von Kontrollplänen für die Umweltpolizei. Diese Pläne werden es ermöglichen, die umweltpolizeilichen Kontrollbereiche besser auszurichten , um wirksameren Einfluss auf die Umwelt und die menschlichen Aktivitäten zu erzielen. Verbesserung der Qualität der Betreuung der Patienten, indem Ärzten ermöglicht wird, die Zeit für die Suche nach medizinischen Informationen zu verkürzen. 28 Zusätzliche Informationen siehe URL: https://www.modernisation.gouv.fr/outils-et-methodes-pour-transformer /ministeres-et-operateurs-publics-2eme-appel-a-manifestation-dinteret-pour-tester-le-potentiel-de-lintelligence -artificielle (Zugriff: 07.06.2019). 29 Zusätzliche Informationen siehe URL: https://www.modernisation.gouv.fr/outils-et-methodes-pour-transformer /appel-a-manifestation-dinteret-intelligence-artificielle-annonce-des-laureats (Zugriff: 07.06.219). Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 11 Weitere Projekte wurden bereits vor der Einführung des Interessenbekundungsverfahrens gestartet . Dies ist der Fall bei den Vorbereitungskursen, die es den Feuerwehrleuten ermöglichen sollen , ihre Einsätze vorauszusehen und so ihre Effektivität räumlich und zeitlich anzupassen, um eine Überlastung der Kapazitäten oder eine exzessive Mobilisierung zu vermeiden.30 3.3. Norwegen Die norwegische Parlamentsverwaltung teilt mit: „Das norwegische Ministerium für Kommunalverwaltung und Modernisierung hat mit der Arbeit an einer umfassenden nationalen Strategie für künstliche Intelligenz begonnen. Es ist geplant, dass die Strategie bis zum Ende des Jahres abgeschlossen ist. Norwegen beteiligt sich aktiv an KI-Initiativen, die von der EU-Kommission, der OECD und dem Nordischen Ministerrat unterstützt werden. Im Rahmen der Folgemaßnahmen zu ihrem koordinierten Plan für künstliche Intelligenz hat die hochrangige Expertengruppe der Kommission eine Definition von KI vorgeschlagen.31 Unsere nationale Arbeit an einer KI-Strategie basiert auf dieser Definition von KI.“32 Als Teil der Vorarbeiten zur nationalen Strategie hat das Ministerium damit begonnen, KI-Initiativen in ganz Norwegen, auch im öffentlichen Sektor, zu erfassen. Die Liste ist nicht vollständig: Ab Januar 2018 ist es gesetzlich vorgeschrieben, selbstfahrende Fahrzeuge auf der Straße zu testen - einschließlich Probefahrten ohne Fahrer im Fahrzeug. Um die Tests durchführen zu können, ist eine Bewerbung notwendig. In Norwegen gibt es derzeit eine Reihe von Tests an verschiedenen Orten, darunter einen selbstfahrenden Bus, der Teil des regelmäßigen Busbetriebs in Oslo ist.33 Das Forschungsprojekt „Big Insight“ entwickelt Methoden zur statistischen Modellierung und zum maschinellen Lernen sowie Algorithmen zur Analyse großer, komplexer Datensätze.34 Das Projekt arbeitet mit der norwegischen Arbeits- und Sozialorganisation zusammen, um Methoden zu entwickeln, die auf Big Data und Machine Learning basieren und zur Vorhersage von Abwanderung und Betrug eingesetzt werden können. Der norwegische staatliche Bildungskreditfonds hat einen Praxistest der KI (Machine Learning) durchgeführt, um zu sehen, ob es als Werkzeug eingesetzt werden kann, um 30 Zusätzliche Informationen siehe URL: https://entrepreneur-interet-general.etalab.gouv.fr/defis/2018/previsecours .html (Zugriff: 07.06.2019). 31 Zur hochrangigen Expertengruppe vgl. Europäische Kommission: High-Level Expert Group on Artificial Intelligence ; URL: https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence (Zugriff: 11.06.2019). 32 Zu dieser Definition von KI vgl. Europäische Kommission: Communication Artificial Intelligence for Europe; 25.04.2018; URL: https://ec.europa.eu/digital-single-market/en/news/communication-artificial-intelligence-europe (Zugriff: 07.06.2019). 33 Zusätzliche Informationen siehe URL: https://ruter.no/en/news/self-driving-buses/ (Zugriff: 07.06.2019). 34 Zusätzliche Informationen siehe URL: www.BigInsight.no (Zugriff: 07.06.2019). Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 12 die eigenen Kontrollaktivitäten besser auszurichten. Das KI-System war doppelt so effizient bei der Identifizierung von Schülern, die falsche Informationen geliefert haben, wie die Kontrollgruppe, die auf traditionelle Weise ausgewählt wurde. Der norwegische Zoll testet maschinelles Lernen zur Interpretation von Röntgenstrahlen . Außerdem besteht ein Vertrag mit dem amerikanischen Softwareunternehmen Palantir über die Lieferung von Lösungen für das Customs Intelligence Centre. Die Norwegische Nationale Sicherheitsbehörde (NSM) hat das Projekt „P2950“ ins Leben gerufen, das neue Sensortechnologien zum Schutz der nationalen Infrastruktur entwickeln wird. Das Projekt wird Kapazitäten für die Nutzung von KI (insbesondere maschinelles Lernen) zur Erkennung von Cybersicherheitsbedrohungen schaffen. Die Nationalbibliothek verwendet KI auf der Grundlage kommerziell verfügbarer Technologien , um einen besseren Zugang und einen tieferen Einblick in die umfangreiche Sammlung von Texten, Bildern und Videos der Bibliothek zu ermöglichen. 3.4. Spanien 3.4.1. Verständnis Die KI in der spanischen öffentlichen Verwaltung befindet sich nach Auskunft aus dem Congreso des los Diputados noch in einem frühen Stadium. Im Jahr 2017 richtete die Regierung ein Expertengremium ein, um ein Weißbuch über KI und Big Data zu verfassen. Dieser Leitfaden sei maßgeblich für die Festlegung einer nationalen Strategie, die Festlegung von Prioritäten und die Bewältigung noch offener Herausforderungen. Das Weißbuch „Digitale Strategie für ein intelligentes Spanien 2025“ wurde von der vorherigen Regierung vorbereitet und hebt als erste Säule seiner künftigen Strategie „Wirtschaft und Datengesellschaft“ hervor. Es wird erwartet, dass dieses Weißbuch in den kommenden Monaten vorgestellt wird. Das Verständnis von KI entspricht der Definition in der Mitteilung der Europäischen Kommission an das Europäische Parlament, den Europäischen Rat, den Rat, den Europäischen Wirtschafts - und Sozialausschuss und den Ausschuss der Regionen mit dem Titel „Künstliche Intelligenz für Europa“ aus dem Jahr 2018.35 In Anlehnung an diese Definition bezieht sich die KI auf Systeme, die intelligentes Verhalten zeigen, da sie in der Lage sind, ihre Umgebung zu analysieren und mit einem gewissen Maß an Autonomie Maßnahmen ergreifen, um bestimmte Ziele zu erreichen. Diese Systeme können aus einfacher Software bestehen (z.B. Suchmaschinen, Gesichts - oder Spracherkennungssysteme), aber auch in Hardwaregeräte (z.B. Roboter oder autonome Autos) eingebettet sein. 3.4.2. Rechtliche Maßnahmen und Beispiele Die Autonomen Gemeinschaften in Spanien haben bei der Umsetzung der KI in ihrer Verwaltung Pionierarbeit geleistet. 35 Zusätzliche Informationen siehe Europäische Kommission: Communication Artificial…, a.a.O. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 13 Das valencianische „Gesetz 22/2018 vom 6. November über die allgemeine Kontrolle der Dienstleistungen und das Warnsystem zur Verhütung von Fehlverhalten in der Verwaltung der Hauptstadtregion und ihres instrumentellen öffentlichen Sektors“ sieht die Identifizierung schlechter Verwaltung und der administrativen Korruption durch die Verwendung von KI vor. Es gilt als der bisher erfolgreichste Rechtsakt in Spanien. Bemerkenswert ist auch die Einrichtung des Städtischen Datenbüros durch den Rat von Barcelona, was auch den Einsatz von KI impliziert. Auf staatlicher Ebene zeigt der „Beschluss der Generaldirektion der Staatlichen Steuerverwaltung vom 8. Januar 2018, der die allgemeinen Leitlinien des Jährlichen Steuer- und Zollkontrollplans 2018 genehmigt“ das Folgende: „Um die Effizienz der Nutzung der dem Finanzamt zur Verfügung stehenden Informationen zu verbessern, werden neue Datenanalyseverfahren eingesetzt. Neue Betrugserkennungsmodelle werden auf der Grundlage von analytischen Techniken und Netzwerkanalysen unter Verwendung von Big-Data-Techniken entwickelt. All dies wird die Entwicklung komplexerer Analysemechanismen als bisher ermöglichen, was es den Kontrollstellen erleichtert, Verhaltensmuster zu ermitteln, die Unstimmigkeiten in den Daten über die Steuerzahler aufdecken können und die als klare Indikatoren für das Bestehen finanzieller Risiken dienen können, gegen die die Verwaltung vorgehen muss.“ In diesem Zusammenhang zeichnen sich Initiativen der Steuerverwaltung und der Sozialversicherungsanstalt zur automatisierten elektronischen Verarbeitung verschiedener Managementverfahren ab.36 Darüber hinaus haben zahlreiche Experten mehrere Auswirkungen der KI in der öffentlichen Verwaltung ermittelt. Denn, wie viele argumentieren, hat die öffentliche Verwaltung in der KI enorme Möglichkeiten, bei doppelten Kosten und bei den Haushaltsausgaben zu sparen. Die KI ermöglicht es, zu versuchen, Politik und ihre Verwaltungsentscheidungen zu verbessern und zügig auf dem Weg zu guter Regierungsführung und guter Verwaltung voranzukommen. In diesem Sinne lauten einige der Vorschläge wie folgt: KI in Bezug auf die administrative Entscheidungsfindung: Die KI kann Unterstützung bei der Entscheidung oder automatisierten Entscheidung über die Ausübung von regulierten und Ermessensspielräumen leisten. Verwendung von KI, um Verwaltungsmaßnahmen zu erlassen, bevor ein Verwaltungsverfahren eingeleitet wird (z.B. Vorsichtsmaßnahmen treffen, Petitionen oder Berichte erstellen) oder Verfahren abzuschließen (d.h. die endgültige Entscheidung selbst herauszugeben ). 36 Zusätzliche Informationen siehe URL: https://www.agenciatributaria.gob.es/static_files/AEAT_Sede/Normativa _sede/Resolucion_%20AAA_%2029122010.pdf (Zugriff: 07.06.2019). Zudem die „Entschließung des Nationalen Instituts für soziale Sicherheit vom 23. Februar 2016 zur Regelung der automatisierten elektronischen Verarbeitung verschiedener Verfahren zur Verwaltung bestimmter Leistungen des Systems der sozialen Sicherheit “ unter URL: https://www.boe.es/boe/dias/2016/03/01/pdfs/BOE-A-2016-2076.pdf (Zugriff: 07.06.2019). Zudem der „Beschluss vom 10. Juli 2018 der Staatlichen Arbeits- und Sozialversicherungsaufsichtsbehörde zur Schaffung des qualifizierten elektronischen Siegels der Behörde“ unter URL: https://www.boe.es/diario _boe/txt.php?id=BOE-A-2018-9997 (Zugriff: 07.06.2019). Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 14 KI im öffentlichen Dienst. Einige automatische Funktionen können von Robotern und KI-Systemen ausgeführt werden. Einsatz von Blockchain in Ausschreibungsverfahren, insbesondere bei öffentlichen Aufträgen und Zuschussverfahren. Blockchain und Algorithmen können verwendet werden, um den besten Kandidaten besser zu analysieren und schnell auszuwählen. Laut Angaben aus dem Congreso des los Diputados sei sich Spanien bewusst, dass die öffentlichen Einrichtungen selbst eine wichtige Rolle bei der Zukunft der KI und insbesondere bei der Förderung ihres Einsatzes in den öffentlichen Verwaltungen spielen müssten. Zu diesem Zweck seien in den letzten Jahren Strategien entwickelt worden, um die Entwicklung der KI und ihre Einbeziehung in die Tätigkeit der öffentlichen Verwaltungen zu fördern. Um die Einbeziehung der KI in die öffentlichen Verwaltungen voranzutreiben und ihre Auswirkungen auf das Verwaltungsrecht angemessen zu bewerten, werde Spanien eine interdisziplinäre Debatte darüber führen , welche Rolle KI in den öffentlichen Verwaltungen spielen soll. 3.5. Dänemark 3.5.1. Verständnis und Ziele Nach den Angaben der dänischen Regierung zur „Nationalen Strategie für künstliche Intelligenz “37 vom März 2019 wird KI wie folgt definiert: „Künstliche Intelligenz sind Systeme, die auf Algorithmen (mathematische Formeln) basieren , die durch die Analyse und Identifizierung von Mustern in Daten die am besten geeignete Lösung identifizieren können. Die überwiegende Mehrheit dieser Systeme erfüllt spezifische Aufgaben in begrenzten Bereichen, z.B. Kontrolle, Vorhersage und Steuerung. Die Technologie kann so konzipiert werden, dass sie ihr Verhalten anpasst, indem sie beobachtet , wie die Umgebung durch frühere Aktionen beeinflusst wird. Künstliche Intelligenz wird in einer Reihe von Bereichen eingesetzt, z.B. in Suchmaschinen , Sprach- und Bilderkennung oder zur Unterstützung von Drohnen und selbstfahrenden Autos. Künstliche Intelligenz kann ein entscheidendes Element sein, um das Produktivitätswachstum zu steigern und den Lebensstandard in den kommenden Jahren zu erhöhen .“38 Das Thema KI in der öffentlichen Verwaltung findet in dem Papier ebenfalls Erwähnung. Hiernach werde KI im öffentlichen Sektor genutzt, um eine schnellere und effizientere Fallbearbeitung zu unterstützen und diesen so auf die Bedürfnisse der Bürger abzustimmen. Im öffentlichen Sektor könne KI verbesserte Dienstleistungen unterstützen, z.B. eine schnellere Diagnose von 37 Zusätzliche Informationen unter URL: https://ec.europa.eu/knowledge4policy/publication/danish-strategyai _en (Zugriff: 11.06.2019). 38 The Danish Government: National Strategy for Artificial Intelligence; 2019; S. 6; URL: https://investindk.com/- /media/invest-in-denmark/files/danish_national_strategy_for_ai2019.ashx?la=en&hash=B79C7F3E456 853B467C82DAA0B80B6CDB638397A (Zugriff: 11.06.2019). Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 15 Krankheiten oder die Entwicklung besserer und genauerer Verkehrsregelungssysteme. Sie kann den Bürgern eine intelligentere und einfachere Kommunikation mit dem öffentlichen Sektor ermöglichen .39 Dabei hat die dänische Regierung folgende grundsätzliche Ziele:40 Der öffentliche Sektor wird bei der Nutzung von Daten und künstlicher Intelligenz zur Verbesserung und Ausrichtung der öffentlichen Dienste zu den führenden Ländern Europas gehören. Der öffentliche Sektor arbeitet systematisch an einem Rahmen und Methoden zur Unterstützung des verantwortungsvollen Einsatzes von künstlicher Intelligenz, damit Investitionen und Lösungen bestmöglich genutzt werden. Die Behörden verfügen über einen guten Rahmen für die Nutzung von Daten zur Entwicklung künstlicher Intelligenz. 3.5.2. Beispiele Das dänische Strategiepapier nennt folgende Anwendungsbeispiele:41 Intelligente Umweltüberwachung, Vorhersage von Überschwemmungen bei Unwetterereignissen und Management von Entwässerungssystemen. Schnellere und bessere Diagnose sowie gezieltere Behandlungen von Krankheiten. Ein effizienteres Steuersystem und bessere Möglichkeiten zur Bekämpfung von Betrug bei Mehrwertsteuer, Steuern und Sozialleistungen. Höhere Qualität und bürgernahere Versorgung durch besseres Ressourcenmanagement, z.B. Optimierung des Betriebs öffentlicher Krankenhäuser zur Aufstockung der Betten. Schnellere Fallbearbeitung und effizientere Verwaltung, z.B. durch digitale Sortierung von Bürgeranfragen, um sicherzustellen, dass die Bürger schnellere Antworten erhalten . Im Verkehrsbereich kann künstliche Intelligenz in selbstfahrenden Autos eingesetzt werden, um einen besseren und zeitnaheren öffentlichen Verkehr zu gewährleisten. Darüber hinaus können neue Lösungen zur Optimierung des Verkehrsmanagements zum Nutzen der Nutzer des öffentlichen und privaten Verkehrs entwickelt werden.42 39 Ebenda, S. 7. 40 Ebenda, S. 10. 41 Ebenda, S. 11. 42 Ebenda, S. 62. Zusätzliche Informationen dazu auf S. 68 ff. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 037/19 Seite 16 Als erste konkrete Initiative werden in der Strategie auch Pilotprojekte im öffentlichen Sektor angekündigt . Derzeit fehle es an Erfahrung im Umgang mit KI im öffentlichen Sektor. Daher werde die Regierung eine Reihe von Pilotprojekten in den Bereichen Gesundheit, Soziales und Beschäftigung sowie sektorübergreifende Fallbearbeitung starten.43 4. Anlagen Wissenschaftliche Dienste, Kurzinformation: Literatur zu Künstlicher Intelligenz und „Automated Decision Making“ (ADM) in der öffentlichen Verwaltung, WD 8-3000- 032/19, 4.3.2019. EU-Kommission, Artificial Intelligence for Europe, COM(2018) 237 final, Brussels, 25.4.2018. Auf die Definition von KI in diesem Papier stellen NOR und ESP ab. URL: https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=51625 (Zugriff: 11.06.2019). GOV.UK, Technology innovation in government survey, 20.08.2018. URL: https://www.gov.uk/government/publications/technology-innovation-in-government -survey/technology-innovation-in-government-survey (Zugriff: 11.06.2019). Direction interministérielle de la transformation publique und Direction interministérielle du numérique et du système dinformation et de communication de lÉtat, Intelligence Artificielle - 6 Projets Sélectionnés Pour Être Expérimentés Dans Les Services Publics, 21.11.2018. URL: https://www.modernisation.gouv.fr/outils-et-methodes-pour-transformer/ministeres -et-operateurs-publics-2eme-appel-a-manifestation-dinteret-pour-tester-le-potentiel -de-lintelligence-artificielle. Dirección General de la Agencia Estatal de Administración Tributaria, Resolución por la que se aprueban las aplicaciones informáticas para las actuaciones administrativas automatizadas, 29.12.2010. URL: https://www.agenciatributaria.gob.es/static_files/AEAT_Sede/Normativa _sede/Resolucion_%20AAA_%2029122010.pdf. The Danish Government, National Strategy for Artificial Intelligence, Kopenhagen, März 2019. URL: https://investindk.com/-/media/invest-in-denmark/files/danish_national_strategy _for_ai2019.ashx?la=en&hash=B79C7F3E456853B467C82DAA0B80B6CDB638397 A. National Academy of Public Administration: AI and Its Impact on Public Administration . Standing Panel on Technology Leadership; 2019; URL: https://www.napawash .org/uploads/Academy_Studies/9781733887106.pdf. **** 43 Ebenda, S. 21.