© 2019 Deutscher Bundestag PE 6 - 3000 - 041/19 Zum EU-Konzept zur Bekämpfung der Desinformation im Internet Sachstand Unterabteilung Europa Fachbereich Europa Unterabteilung Europa Fachbereich Europa Sachstand PE 6 - 3000 - 041/19 Seite 2 Die Arbeiten des Fachbereichs Europa geben nicht die Auffassung des Deutschen Bundestages, eines seiner Organe oder der Bundestagsverwaltung wieder. Vielmehr liegen sie in der fachlichen Verantwortung der Verfasserinnen und Verfasser sowie der Fachbereichsleitung. Arbeiten des Fachbereichs Europa geben nur den zum Zeitpunkt der Erstellung des Textes aktuellen Stand wieder und stellen eine individuelle Auftragsarbeit für einen Abgeordneten des Bundestages dar. Die Arbeiten können der Geheimschutzordnung des Bundestages unterliegen, geschützte oder andere nicht zur Veröffentlichung geeignete Informationen enthalten. Eine beabsichtigte Weitergabe oder Veröffentlichung ist vorab der Fachbereichsleitung anzuzeigen und nur mit Angabe der Quelle zulässig. Der Fachbereich berät über die dabei zu berücksichtigenden Fragen. Diese Ausarbeitung dient lediglich der bundestagsinternen Unterrichtung, von einer Weiterleitung an externe Stellen ist abzusehen. Zum EU-Konzept zur Bekämpfung der Desinformation im Internet Aktenzeichen: PE 6 - 3000 - 041/19 Abschluss der Arbeit: 23. April 2019 Fachbereich: PE 6: Fachbereich Europa Unterabteilung Europa Fachbereich Europa Sachstand PE 6 - 3000 - 041/19 Seite 3 Inhaltsverzeichnis 1. Fragestellung und Vorbemerkung 4 2. Einordnung 4 3. Begriff der Desinformation 7 4. Klassifikation als Desinformation und Überprüfbarkeit 8 Unterabteilung Europa Fachbereich Europa Sachstand PE 6 - 3000 - 041/19 Seite 4 1. Fragestellung und Vorbemerkung Der Fachbereich Europa ist beauftragt worden, die Definition des Begriffs der „Desinformation“ nach dem Konzept der Europäischen Union (EU) zur Bekämpfung der Desinformation im Internet darzulegen. Darüber hinaus wird auch gefragt, durch wen und auf welche Weise Beiträge oder Nutzerkonten als „Desinformation“ klassifiziert werden, und ob sich der Desinformationsbegriff nur auf sog. nichtmenschliche Entitäten bezieht oder auch andere Nutzer erfasst. Für den letzteren Fall wird nach den Möglichkeiten gefragt, gegen eine unzutreffende Klassifizierung der Internetaktivitäten menschlicher Nutzer vorzugehen. Während der Begriff der Desinformation direkt dem EU-Konzept zur Bekämpfung der Desinformation im Internet zu entnehmen ist, zielt der verfahrenstechnische Teil der Fragestellung auf die mit den großen Internetfirmen und der Werbebranche vereinbarte Selbstverpflichtung zur Behandlung von Desinformation, den sog. Verhaltenskodex (EU Code of Practice on Disinformation ). Dieser soll mit vorliegendem Sachstand zunächst als einer der Kernbestandteile der Bemühungen der EU zur Bekämpfung der Desinformation des EU-Konzepts zur Bekämpfung von Desinformation im Internet eingeordnet werden. 2. Einordnung Mit ihrer am 26. April 2018 vorgelegten Mitteilung „Bekämpfung von Desinformation im Internet : ein europäisches Konzept“1 (Konzeptmitteilung) beschrieb die Europäische Kommission (KOM) die Herausforderungen, denen die Europäische Union (EU) durch Praktiken der Desinformation im Internet gegenübersteht, und benannte fünf Schwerpunktbereiche2, in denen private und öffentliche Akteure diesen Herausforderungen begegnen sollen. Innerhalb dieses europäischen Konzepts schlug die KOM nachstehende Maßnahmenpakete vor: Erarbeitung eines gemeinsamen Verhaltenskodexes der Internet-Plattformen und der Werbebranche zur Bekämpfung von Desinformation mit folgenden Zielen: Herstellung von Transparenz bei gesponserten Inhalten, insbesondere politischer Werbung , Beschränkung der targeting-Möglichkeiten für politische Werbung sowie Entzug der Einnahmen aus der Verbreitung von Desinformation; Herstellung größerer Klarheit über die Funktionsweise von Algorithmen und Schaffung von Überprüfungsmöglichkeiten durch Dritte; Erleichterung des Auffindens und des Zugangs zu Informationsquellen alternativer Standpunkte ; Maßnahmen zur Ermittlung und Schließung von Scheinkonten zur Beseitigung automatisierter /nichtmenschlicher Dienste - „Bots“; 1 KOM, Mitteilung „Bekämpfung von Desinformation im Internet: ein europäisches Konzept“, KOM(2018)236. 2 Diese Schwerpunktbereiche umfassen: 1. Ein transparenteres, vertrauenswürdigeres und verantwortungsvolleres Internet-Ökosystem, 2. Sichere und stabile Wahlverfahren, 3. Die Förderung von Bildung und Medienkompetenz, 4. Die Unterstützung von Qualitätsjournalismus als wesentliches Element einer demokratischen Gesellschaft sowie 5. Die Abwehr interner und externer Bedrohungen durch Desinformation mittels strategischer Kommunikation. Vgl. KOM(2018)236 (Fn. 1), Tz. 3.1 bis 3.5. Unterabteilung Europa Fachbereich Europa Sachstand PE 6 - 3000 - 041/19 Seite 5 Faktenprüfer, Wissenschaftler und öffentliche Stellen müssen in die Lage versetzt werden, die Desinformation im Internet fortlaufend zu überwachen. Schaffung eines unabhängigen europäischen Netzes von sog. Faktenprüfern zur möglichst umfassenden Richtigstellung von Fakten in der gesamten EU. Einrichtung einer sicheren europäischen Online-Plattform zum Phänomen der Desinformation zur Unterstützung des europäischen Netzes von Faktenprüfern und maßgeblichen Wissenschaftlern mit grenzübergreifenden Datensammlungen und Analysen sowie Zugang zu EU-weit verfügbaren Datenquellen. Stärkung der Medienkompetenz der Unionsbürger, um Desinformation im Internet besser zu erkennen und mit Online-Inhalten kritisch umzugehen. Unterstützung der Mitgliedstaaten bei der Absicherung demokratischer Wahlen gegen zunehmend komplexe Cyberbedrohungen wie Desinformation im Internet und Cyberangriffe. Förderung freiwilliger Online-Systeme zur Verbesserung der Rückverfolgbarkeit und Identifizierung von Anbietern von Informationen sowie zur Stärkung des Vertrauens in die Interaktionen , Informationen und ihre Quellen im Internet. Förderung von Qualitätsjournalismus, um ein pluralistisches, vielfältiges und tragfähiges Medienumfeld mit qualitativ hochwertigen und diversifizierten Informationen zu gewährleisten . Erarbeitung einer koordinierten Strategie für die Kommunikationspolitik und zur Bekämpfung von Falschmeldungen über die EU sowie der Desinformation innerhalb und außerhalb der EU. Bereits im Mai 2018 begann die KOM mit den Arbeiten an dem Entwurf eines Verhaltenskodexes für die Selbstregulierung im Bereich Desinformation im Rahmen eines Multi-Stakeholder-Forums 3 der einschlägigen Interessenträger. Die am Forum beteiligte Arbeitsgruppe der größten Online -Plattformen entwarf den Verhaltenskodex, der am 26. September 2018 vorgelegt wurde. Der von den Erstunterzeichnern4 am 16. Oktober 2018 förmlich angenommene Verhaltenskodex (EU Code of Practice on Disinformation) umfasst – neben einer Präambel und einer Zielbestimmung – insgesamt 15 Verpflichtungen der Unterzeichner in den Bereichen Kontrolle der Werbeplatzierungen , politische Werbung und themenbezogene Werbung, Integrität der Dienste, Stärkung der Position der Verbraucher sowie Stärkung der Forschung.5 In einem Anhang sind konkrete Maßnahmen der Unterzeichner zur Umsetzung ihrer Selbstverpflichtungen festgelegt.6 Die 3 Hierzu gehörten neben einer Arbeitsgruppe der größten Online-Plattformen, Vertreter der Werbebranche und größere Unternehmen der Werbebranche sowie ein sog. Resonanzboard mit Vertretern aus Medien, Lehre und Zivilgesellschaft , das mit der Vorlage einer Stellungnahme zum Entwurf des Verhaltenskodex beauftragt war. 4 Zu den Erstunterzeichnern gehören die Internet-Unternehmen Facebook, Google, Twitter und Mozilla sowie der Europäische Verband der digitalen Medien (EDiMA). Weiterhin unterzeichneten die Berufsverbände der Werbebranche und Werbetreibenden EACA, IAB Europe, WFA und UBA den Verhaltenskodex. Letztere unterzeichneten den Verhaltenskodex nicht im Namen ihrer Mitglieder, sicherten aber zu, diese vollumfänglich über den Kodex zu informieren und sie zur dessen Annahme und Einhaltung zu ermuntern. Vgl. KOM(2018)794, S. 2. 5 EU Code of Practice on Disinformation, 16. Oktober 2018. 6 Annex II Current Best Practices from Signatories of the Code of Practice, 16. Oktober 2018. Unterabteilung Europa Fachbereich Europa Sachstand PE 6 - 3000 - 041/19 Seite 6 Unterzeichner des Verhaltenskodexes unterwerfen sich einer Berichts- und Auskunftspflicht zu Umsetzung, Funktion und Wirksamkeit des Kodexes gegenüber der KOM. Die KOM hat von den Unterzeichnern des Verhaltenskodexes bereits erste Informationen über die von diesen bis Ende des Jahres 2018 ergriffenes Maßnahmen zur Umsetzung des Kodexes erhoben und im Januar 2019 veröffentlicht.7 Sie kam zu der Bewertung, dass bereits einige Fortschritte erzielt worden seien, insbesondere bei der Löschung von Scheinkonten und bei der Begrenzung der Sichtbarkeit von Websites, die gezielt Desinformation verbreitet. Die KOM schlussfolgert jedoch auch, dass zusätzliche Maßnahmen erforderlich seien, um bis zum Beginn des Wahlkampfes für die Wahlen zum Europäischen Parlament in allen EU-Mitgliedstaaten für volle Transparenz der politischen Werbung zu sorgen.8 Die KOM überwacht seit Januar 2019 die Einhaltung des Verhaltenskodexes gezielt im Hinblick darauf, ob die Unterzeichner vor den Wahlen zum Europäischen Parlament wirksame Strategien zur Sicherung der Integrität der Wahlverfahren etabliert haben und ob die wichtigsten Parameter des Kodexes (Kontrolle der Werbeplatzierungen, Transparenz politischer Werbung, Schließung von Scheinkonten und Kennzeichnungssysteme für automatisierte Bots) erfüllt werden. Hierüber wird die KOM im Mai 2019 berichten. Bis Ende 2019 wird sich dem eine umfassende Bewertung der Umsetzungen des Verhaltenskodexes in seinen ersten zwölf Monaten anschließen; die KOM betont, dass sie im Falle einer nicht zufriedenstellenden Bilanz weitere Maßnahmen vorschlagen werde, einschließlich Maßnahmen rechtlicher Natur.9 Weitere Meilensteine der Bemühungen der EU-Institutionen im Kampf gegen Desinformation und die Beeinflussung demokratischer Wahlen sind der Aktionsplan gegen Desinformation und das Maßnahmenpaket zum Schutz der Europawahlen. Der Aktionsplan10 skizziert für die Bekämpfung von Desinformation ein entschlossenes und abgestimmtes Vorgehen aller hiervon berührten staatlichen Stellen (einschließlich der Bereiche zur Abwehr hybrider Bedrohungen, Cybersicherheit, Nachrichtendienste und strategische Kommunikation sowie der für Datenschutz, Wahlfragen, Strafverfolgung und Medien zuständigen Behörden ) in folgenden vier Kernbereichen: Ausbau der Fähigkeiten der Organe der Union, Desinformation zu erkennen, zu untersuchen und zu enthüllen, mehr koordinierte und gemeinsame Maßnahmen der Mitgliedstaaten gegen Desinformation, Mobilisierung der Online-Plattformen und der Werbebranche bei der Bekämpfung von Desinformation und erhöhte Sensibilisierung der Gesellschaft und Ausbau ihrer Widerstandsfähigkeit. 7 KOM: Code of practice on Disinformation - Summary of the signatories’ first reporting, 29. Januar 2019. 8 KOM, Verhaltenskodex zur Bekämpfung von Desinformation: Kommission fordert Unterzeichner zur Verstärkung ihrer Anstrengungen auf, Pressemitteilung Nr. IP/19/746 vom 29. Januar 2019. 9 KOM, Bericht der KOM über die Umsetzung der Mitteilung „Bekämpfung der Desinformation im Internet: ein europäisches Konzept“, KOM(2018)794, S. 3 10 KOM und Hohe Vertreterin der Union für die Außen- und Sicherheitspolitik, Aktionsplan gegen Desinformation, JOIN(2018)36. Unterabteilung Europa Fachbereich Europa Sachstand PE 6 - 3000 - 041/19 Seite 7 Zu den zentralen Maßnahmen des Aktionsplans gehört – neben der personellen Stärkung der Task Forces für strategische Kommunikation des Europäischen Auswärtigen Dienstes, der Delegationen der Union und der EU-Analyseeinheit für hybride Bedrohungen – die Einrichtung eines mit bestehenden einschlägigen Netzen verknüpften Frühwarnsystems (Rapid Alert System) in Zusammenarbeit mit den Mitgliedstaaten, das bereits im März 2019 eingerichtet wurde. Das Maßnahmenpaket zum Schutz der Europawahlen umfasst die übergreifende Mitteilung der KOM „Freie und faire Europawahlen gewährleisten“11, den inzwischen angenommenen Vorschlag der KOM zur Änderung der Verordnung Nr. 1141/2014 zum Schutz personenbezogener Daten12 und die KOM-Empfehlung mit Vorschlägen zur Verbesserung des Schutzes personenbezogener Daten bei der Europawahl, zur Erhöhung der Transparenz bei der Online-Wahlwerbung sowie zur verbesserten behördlichen Zusammenarbeit13. 3. Begriff der Desinformation Gestützt auf den im März 2018 veröffentlichten unabhängigen Bericht der hochrangigen Expertengruppe 14 Fake News und Desinformation sowie eine Reihe öffentlicher Konsultationen definiert die KOM den Begriff der Desinformation wie folgt: „Desinformation“ sind nachweislich falsche oder irreführende Informationen, die mit dem Ziel des wirtschaftlichen Gewinns oder der vorsätzlichen Täuschung der Öffentlichkeit konzipiert, vorgelegt und verbreitet werden und öffentlichen Schaden anrichten können . Unter „öffentlichem Schaden“ sind Bedrohungen für die demokratischen politischen Prozesse und die politische Entscheidungsfindung sowie für öffentliche Güter wie den Schutz der Gesundheit der EU-Bürgerinnen und -Bürger, der Umwelt und der Sicherheit zu verstehen. Irrtümer bei der Berichterstattung, Satire und Parodien oder eindeutig gekennzeichnete parteiliche Nachrichten oder Kommentare sind keine Desinformation.“15 Da sich die Begriffsdefinition ausdrücklich auf die Konzipierung, Vorlage und Verbreitung nachweislich falscher oder irreführender Informationen bezieht und keine Vorgaben zur Urheberschaft dieser Tätigkeiten enthält, dürfte sie sowohl menschliche als auch nicht-menschliche Akteure erfassen, soweit sie als Urheber oder Quelle dieser Informationen tätig geworden sind. 11 KOM: Gewährleistung freier und fairer Europawahlen - Ein Beitrag der Europäischen Kommission zum Treffen der Führungsspitzen in Salzburg am 19./20. September, Mitteilung vom KOM(2018)637 vom 12. September 2018. 12 KOM: Vorschlag für eine Verordnung zur Änderung der Verordnung (EU, Euratom) Nr. 1141/2014 im Hinblick auf ein Überprüfungsverfahren für im Zusammenhang mit Wahlen zum Europäischen Parlament begangene Verstöße gegen Vorschriften zum Schutz personenbezogener Daten, KOM(2018)636 vom 19. September 2018. 13 KOM: Empfehlung zu Wahlkooperationsnetzen, zu Online-Transparenz, zum Schutz vor Cybersicherheitsvorfällen und zur Bekämpfung von Desinformationskampagnen im Zusammenhang mit Wahlen zum Europäischen Parlament , C(2018)5949 vom 12. September 2018. 14 High level Group on fake news and online disinformation: Report: A multi-dimensional approach to disinformation , 2018. 15 KOM(2018)236, Fn. 1, S. 4. Unterabteilung Europa Fachbereich Europa Sachstand PE 6 - 3000 - 041/19 Seite 8 4. Klassifikation als Desinformation und Überprüfbarkeit Die Begriffsdefinition aus der Konzeptmitteilung KOM(2018)236 machen sich ausdrücklich auch die Unterzeichner des Verhaltenskodexes zu Eigen.16 Mit der Unterzeichnung des Verhaltenskodexes sind diese die freiwillige Selbstverpflichtung zur Bekämpfung von Desinformation eingegangen ; diese Selbstverpflichtung erfasst genaue, messbare und konkrete Maßnahmen zur Bekämpfung von Desinformation im Internet, u. a. durch Gewährung von mehr Transparenz im Bereich der Wahlwerbung und durch Beschränkung bestimmter Praktiken im eigenen Geschäftsbereich im Zusammenhang mit der missbräuchlichen Nutzung von Bots oder Scheinkonten. Es sind damit die Unterzeichner selbst, die die Identifizierung, Klassifizierung und vorgesehene Behandlung von Internetaktivitäten als Desinformation im Sinne des Verhaltenskodex innerhalb der von ihnen betriebenen und zu verantwortenden Online-Plattformen vorzunehmen haben. Ihre jeweilige Vorgehensweise ist Gegenstand der Darstellungen in Annex II17 des Verhaltenskodexes . Der Verhaltenskodex enthält keine Regelungen dazu, welche Beschwerde- oder Revisionsverfahren für eine mögliche unzutreffende Klassifikation von Internetaktivitäten als Desinformation bestehen . Es ist davon auszugehen, dass hierfür die in den jeweiligen Geschäftsbedingungen der Unterzeichner des Verhaltenskodexes vorgesehenen Verfahren zur Anwendung zu bringen sind. Ergänzend wird darauf hingewiesen, dass die KOM bereits in ihrer Konzeptmitteilung betont hat, dass bei allen Maßnahmen zur Erreichung der mit dem Verhaltenskodex verfolgten Ziele das Recht auf freie Meinungsäußerung unbedingt zu achten und Sicherheitsmechanismen vorzuhalten seien, die Missbrauch (z. B. die Zensur von kritischen, satirischen, abweichenden oder schockierenden Äußerungen) verhindern.18 Mit einer Analyse der Einhaltung dieser Maßgabe bei der Umsetzung des Verhaltenskodexes durch seine Unterzeichner ist bei der von der KOM für das Jahresende 2019 angekündigten umfassenden Bewertung der Umsetzungen des Verhaltenskodexes zu rechnen. - Fachbereich Europa - 16 Vgl. Präambel des Verhaltenskodexes, Fn. 7, S. 1. 17 Fn. 6. 18 KOM(2018)236, Fn. 1, S. 10.