© 2019 Deutscher Bundestag WD 10 - 3000 - 018/19 Ansätze zur Regulierung von Wahlwerbung im Internet Sachstand Wissenschaftliche Dienste Die Wissenschaftlichen Dienste des Deutschen Bundestages unterstützen die Mitglieder des Deutschen Bundestages bei ihrer mandatsbezogenen Tätigkeit. Ihre Arbeiten geben nicht die Auffassung des Deutschen Bundestages, eines seiner Organe oder der Bundestagsverwaltung wieder. Vielmehr liegen sie in der fachlichen Verantwortung der Verfasserinnen und Verfasser sowie der Fachbereichsleitung. Arbeiten der Wissenschaftlichen Dienste geben nur den zum Zeitpunkt der Erstellung des Textes aktuellen Stand wieder und stellen eine individuelle Auftragsarbeit für einen Abgeordneten des Bundestages dar. Die Arbeiten können der Geheimschutzordnung des Bundestages unterliegende, geschützte oder andere nicht zur Veröffentlichung geeignete Informationen enthalten. Eine beabsichtigte Weitergabe oder Veröffentlichung ist vorab dem jeweiligen Fachbereich anzuzeigen und nur mit Angabe der Quelle zulässig. Der Fachbereich berät über die dabei zu berücksichtigenden Fragen. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 2 Ansätze zur Regulierung von Wahlwerbung im Internet Aktenzeichen: WD 10 - 3000 - 018/19 Abschluss der Arbeit: 12.07.2019 Fachbereich: WD 10: Kultur, Medien und Sport Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 3 Inhaltsverzeichnis 1. Vorbemerkung 4 2. Begriffsdefinitionen 4 3. Wahlrechtsgrundsätze 8 4. EU-Ebene 8 5. Deutschland 9 6. Frankreich 11 7. Vereinigtes Königreich 14 8. Fazit 16 Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 4 1. Vorbemerkung Spätestens seit dem Wahlkampf zu den 58. US-amerikanischen Präsidentschaftswahlen im Dezember 2016 ist das Risiko einer Wahlbeeinflussung regelmäßig Thema öffentlicher Debatten. Entsprechende Befürchtungen wurden auch im Zusammenhang mit den französischen Präsidentschaftswahlen im April und Mai 2017, den Wahlen zum 19. Deutschen Bundestag im September 2017 und im Vorfeld der Wahlen zum EU-Parlament vielfach geäußert. Wenngleich eine Wahlbeeinflussung in den vorgenannten Fällen1 von Externen (Russische Föderation) offiziell nicht nachgewiesen wurde,2 sind zahlreiche Initiativen auf EU-Ebene und auf nationaler Ebene zur Bekämpfung von Fake News und Desinformationen entstanden. Dieser Sachstand gibt einen kursorischen Überblick über die vorhandenen Regelungen betrefflich Internetwahlwerbung in Deutschland, Frankreich und Großbritannien. In diesem Zusammenhang werden die Begriffe Fake News, Desinformation, Social Bots und Microtargeting begrifflich umrissen und deren Bedeutung für den „digitalen Wahlkampf“ aufgezeigt. 2. Begriffsdefinitionen Die Bekämpfung von Fake News und Desinformation ist komplex. Das hängt zunächst mit der vagen Definition dieser Begriffe und der Schwierigkeit der Subsumtion realer Sachverhalte unter diese Begriffen zusammen. Zunächst ist festzustellen, dass sich Fake News3 nur auf Tatsachenbehauptungen beziehen können und insoweit von persönlichen Stellungnahmen abzugrenzen sind. Nach allgemeinem rechtswissenschaftlichem Verständnis beziehen sich Tatsachenbehauptungen auf Umstände in der Wirklichkeit, die bewiesen oder widerlegt werden können, mithin also richtig oder falsch 1 So hat z. B. der US-amerikanische Senat nach zwei-jährigen intensiven Recherchen im Februar 2019 verkündet, dass keine direkten Beeinflussungen der US-amerikanischen Präsidentschaftswahl nachgewiesen werden konnten (Dilanian, Ken, RUSSIA INVESTIGATION: Senate has uncovered no direct evidence of conspiracy between Trump campaign and Russia, CNBC-News, 12.02.2019, https://www.nbcnews.com/politics/congress/senate-hasuncovered -no-direct-evidence-conspiracy-between-trump-campaign-n970536); Eine ähnliche Mitteilung hat der United States Attorney General William P. Barr dem Congress Ende März 2019 auf der Grundlage der Ergebnisse des US-amerikanischen Sonderermittlers (Special Counsel) Robert S. Mueller gemacht (Dieses Ergebnis hat der United States Attorney General William P. Barr in seinem Schreiben vom 24.03.2019 dem Congress mitgeteilt; vgl. Reuters World News, Letter from attorney general to Congress on Mueller report, 24.03.2019, The Guardian, Mueller report did not find Trump campaign conspired with Russia, attorney general says, abrufbar unter: https://www.reuters.com/article/us-usa-trump-russia-summary/letter-from-attorney-general-to-congress-onmueller -report-idUSKCN1R50SV(; Auch bei den Bundestagswahlen in Deutschland konnten keine Nachweise der Wahlbeeinflussung ermittelt werden (Wissenschaftliche Dienste des Deutschen Bundestages, Russische Beeinflussung von Russlanddeutschen bei der Bundestagswahl 2017, WD 10 – 3000 – 059/17, 10.01.2018). 2 Unstimmigkeiten gab es eher im internen Bereich: beim Ausfüllen von Wahlzetteln – insbesondere Briefwahl (z.B. Bundespräsidentenwahl in Österreich 2016) und bei der Auszählung der Stimmzettel (z.B. Landtagswahl Bremen vom 10. Mai 2015); A. A.: Holznagel, Phänomen „Fake News“ – Was ist zu tun?, MMR 2018, 18. 3 Fake News werden laut der High level Group on fake news and online disinformation der EU-Kommission nicht als Bedrohung gesehen, sondern Desinformationen, vgl. EU-Com, High level Group on fake news and online disinformation, Report, A multi-dimensional approach to dis-information, March 2018, http://ec.europa .eu/newsroom/dae/document.cfm?doc_id=50271, S. 10: “The threat is disinformation, not “fake news”. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 5 sind. Meinungen sind dagegen Ausdruck einer persönlichen Stellungnahme und damit keinem Beweis zugänglich.4 Sie können also schon gar nicht falsch sein und somit nicht als Fake News gelten. Unabhängig von dieser begrifflichen Einschränkung bleibt offen, wann eine Tatsachenbehauptung wahr, noch wahr oder bereits erlogen ist. Kann eine Tatsache überhaupt isoliert als wahr betrachtet werden oder kommt es auf den Zusammenhang der Darstellung an? Wann führt das Weglassen von Informationen zu einer Lüge im Gesamten? Und gibt es überhaupt eine objektive Wahrheit oder eher viele subjektive Wahrheiten? Diese Problematik wird weiter deutlich, wenn man fragmentierte Wahrheiten (Halbwahrheiten) und Framing5 einbezieht. Hier kommen wir in den Bereich der Desinformation.6 Nach der Definition7 der EU-Kommission8 handelt es sich bei Desinformation um „nachweislich falsche oder irreführende Informationen, die mit dem Ziel des wirtschaftlichen Gewinns oder der vorsätzlichen Täuschung der Öffentlichkeit verbreitet werden und öffentlichen Schaden anrichten können.“ Der Ausdruck „öffentlicher Schaden“ wird an gleicher Stelle wie folgt definiert: „Unter ,öffentlichem Schaden´ sind Bedrohungen für die demokratischen Prozesse sowie für öffentliche Güter wie die Gesundheit der Unionsbürgerinnen und -bürger, die Umwelt und die Sicherheit zu verstehen. Versehentliche Fehler bei der Berichterstattung, Satire und Parodien oder eindeutig gekennzeichnete parteiliche Nachrichten oder Kommentare sind keine Desinformation .“ 4 BVerfGE v. 13.4.1994, 1 BvR 23/94, BVerfGE 90, 241, 247. 5 Zum Begriff „Framing“ vgl. z.B. MEDIEN EFFEKTE, Framing, abrufbar unter: https://effektegruppe.wordpress .com/framing/. 6 In dem „April-Dokument“ von 2018 der EU-Kommission, Bekämpfung von Desinformation im Internet: ein europäisches Konzept, Gemeinsame Mitteilung an das Europäische Parlament, den Europäischen Rat, den Rat, den Europäischen Wirtschafts- und Sozialausschuss und den Ausschuss der Regionen, COM(2018) 236 final, Brüssel , den 26.4.2018. https://ec.europa.eu/transparency/regdoc/rep/1/2018/DE/COM-2018-236-F1-DE-MAIN- PART-1.PDF, S. 1 wird Desinformation nicht definiert, sondern vage umschrieben: „Die Tatsache, dass die Bürgerinnen und Bürger in großem Umfang der Desinformation, unter anderem irreführenden und schlichtweg falschen Informationen, ausgesetzt sind, ist eine große Herausforderung für Europa.“ Desinformation wird in Zusammenhang mit „unter anderem irreführenden und schlichtweg falschen Informationen“ gesehen. 7 EU-Kommission, Aktionsplan gegen Desinformation, Gemeinsame Mitteilung an das Europäische Parlament, den Europäischen Rat, den Rat, den Europäischen Wirtschafts- und Sozialausschuss und den Ausschuss der Regionen, JOIN(2018) 36 final, Brüssel, den 5.12.2018, abrufbar unter: http://eudoxap01.bundestag.btg:8080/eudox /dokumentInhalt?id=207158, S. 1. 8 Ursprünglich war Gegenstand der Diskussion auf EU-Ebene das Thema „Desinformationskampagnen der Russischen Föderation“. Das Ergebnis dieser Diskussion war u.a. die Einrichtung einer speziellen Task Force für strategische Kommunikation durch den Europäischen Auswärtigen Dienst auf der Grundlage eines am 25. Juni 2015 angenommenen Aktionsplans. Vgl. ebenda und European Union External Action, Questions and Answers about the East StratCom Task Force, 05.12.2018, https://eeas.europa.eu/headquarters/headquarters-homepage/2116/- questions-and-answers-about-the-east-, auch EU vs. Disinfo, News and analysis, https://euvsdisinfo.eu/. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 6 Diese Definition impliziert den Nachweis falscher oder irreführender Informationen. Wenn z.B. die Falschheit oder Irreführung nachgewiesen ist, muss weiter festgestellt werden, ob Gewinnerzielungsabsichten vorliegen oder ob die Öffentlichkeit vorsätzlich getäuscht werden soll und ein öffentlicher Schaden angerichtet werden kann. In der Definition der EU-Kommission9 wird nicht nach Medienarten unterschieden, sodass auch andere als digitale Medien wie Presse und Rundfunk 10 mit einzubeziehen sind. Zum einen sind diese Medien im Zuge der Medienkonvergenz ohnehin digital vertreten und zum anderen kommt es – nicht nur versehentlich11 – zu eklatanten Fällen der Verbreitung von Falschnachrichten und Desinformationen auch bei angesehenen investigativen Qualitätsmedien, wie vor kurzem beim Spiegel.12 Der Effekt von Fake News und Desinformation kann durch den Einsatz sogenannter Social Bots verstärkt werden. Dabei handelt es sich um eine Software, die in sozialen Netzwerken als realer Nutzer (user) getarnt, vermeintliche Mehrheitsverhältnisse und die gesellschaftliche Bedeutung 9 EU-Kommission, Aktionsplan gegen Desinformation, Gemeinsame Mitteilung an das Europäische Parlament, den Europäischen Rat, den Rat, den Europäischen Wirtschafts- und Sozialausschuss und den Ausschuss der Regionen, a.a.O. 10 So steht die Berichterstattung des öffentlich-rechtlichen Rundfunks regelmäßig in der Kritik. Vgl. hierzu z. B. den Blog „Ständige Publikumskonferenz der öffentlich-rechtlichen Medien e.V.“, Über uns, abrufbar unter: https://publikumskonferenz.de/blog/ueber-uns-2/ und Die Propagandaschau - Der Watchblog für Desinformation und Propaganda in deutschen Medien, abrufbar unter: https://propagandaschau.wordpress.com/. Kürzlich hat auch das von der ARD in Auftrag gegebene „Framing-Manual“ für weitere Kritik gesorgt. Das Manual kann heruntergeladen werden unter: https://cdn.netzpolitik.org/wp-upload/2019/02/framing_gutachten _ard.pdf. Zur Kritik hierzu vgl. z. B. Söder, Markus, „Schwer verständlich, für so etwas Beitragsmittel zu verwenden “, Welt, 02.03.2019; abrufbar unter: https://www.welt.de/politik/deutschland/article189665503/Soederueber -Framing-Manual-Schwer-verstaendlich-fuer-so-etwas-Beitragsmittel-zu-verwenden.html. 11 Hier könnten die simultane Verbreitung der „Massenvernichtungswaffen-Lüge“ in den Qualitätsmedien zum Irak-Krieg vor 15 Jahren – vgl. z. B. Hein, Matthias von, Irak-Krieg: Am Anfang stand die Lüge, 09.04.2018, Deutsche Welle, abrufbar unter: https://www.dw.com/de/irak-krieg-am-anfang-stand-die-l%C3%BCge/a-43279424 - und die Brutkasten-Lüge zum zweiten Golfkrieg angeführt werden. Vgl. z. B. MDR, Medien 360G, Historische Fake News – Die Brutkastenlüge, 07.02.2019, abrufbar unter: https://www.mdr.de/medien360g/suche- 108.html?q=brutkastenl%C3%BCge. 12 Vgl. z. B. Fichtner, Ullrich, SPIEGEL legt Betrugsfall im eigenen Haus offen, SPIEGEL ONLINE, 19.12.2018, abrufbar unter: http://www.spiegel.de/kultur/gesellschaft/fall-claas-relotius-spiegel-legt-betrug-im-eigenen-hausoffen -a-1244579.html. Ein ähnlicher Fall bei der Süddeutschen Zeitung: Vgl. „SZ“ trennt sich nach Zweifeln an Geschichte von freiem Journalisten, WELT, 20.02.2019, abrufbar unter: https://www.welt.de/kultur/medien/article 189139809/Protagonist-erfunden-SZ-trennt-sich-nach-Zweifeln-an-Geschichte-von-freiem-Journalisten .html, vgl. auch Schade, Marvin, “Protagonistin erfunden”: SZ Magazin trennt sich von preisgekröntem Autor – Spiegel und Zeit überprüfen Artikel, MEEDIA, 20.02.2019, abrufbar unter: https://meedia .de/2019/02/20/protagonistin-erfunden-sz-magazin-trennt-sich-von-preisgekroentem-autor-spiegel-und-zeitueberpruefen -artikel/. Vgl. auch. dpa-Medien, Interview mit Mathias Döpfner, Präsident des Bundesverbandes Deutscher Zeitungsverleger (BDVZ) zur Relotius-Affaire, Medien müssen verlorenes Vertrauen zurückgewinnen, dpa-Dossier Medien, Nr. 3/2019, 16.01.2019, S. 2-11. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 7 von Themen vortäuscht.13 Dadurch können Diskussionen inhaltlich verzerrt und Desinformationen massenhaft verbreitet werden.14 Welchen tatsächlichen Einfluss Social Bots auf das Wahlverhalten haben, ist jedoch umstritten, da keine verlässlichen Studien existieren, die Auskunft über den Einfluss von Social Bots auf den Bürger haben.15 Der Bundestagsausschuss für Bildung, Forschung und Technikfolgenabschätzung lud zu diesem Thema eigens 20 Experten zu einer Debatte in den Bundestag ein. Ein konkretes Ergebnis konnte allerdings auch dort nicht erzielt werden.16 Eine allgemeingültige gesetzliche Regelung, welche Social Bots verbietet, existiert nicht. Jedoch einigten sich die größeren deutschen Parteien vor der Bundestagswahl im Jahr 2017 im Rahmen einer gemeinsamen Erklärung, im Wahlkampf auf die Benutzung von Social Bots zu verzichten.17 Weiterhin kann das sogenannte Microtargeting genutzt werden, um effektiven Wahlkampf im Internet zu betreiben. Dabei werden über soziale Netzwerke und Internetnachrichtenkanäle gezielt ausgewählte Gruppen von Menschen mit individuell abgestimmten Nachrichten angesprochen. Während die Wahlberichterstattung und Wahlwerbung in Fernsehen, Radio und Presse eine weite Streuung haben, ermöglicht das Microtargeting im Rahmen eines Online-Wahlkampfs eine gezielte Ansprache von Wählern. Eine ausgewogene politische Berichterstattung ermöglicht diese direkte „Informationspolitik“ nicht, da sie sich der kritischen Einordnung und der Konfrontation mit Gegenargumenten entzieht.18 Die zielgenaue Ansprache gelingt aufgrund der Auswertung vorher gesammelter Daten. Im Folgenden wird aufgezeigt, welche Regelungen bzw. gesetzgeberische Initiativen in Deutschland , Frankreich und im Vereinigten Königreich getroffen wurden, um das oben dargestellte Gefährdungspotential einzudämmen. 13 Wissenschaftliche Dienste des Deutscher Bundestages, Algorithmen Einzelfragen zu Instrumenten und Regelansätzen , WD 8 - 3000 - 031/17, 15.08.2017, abrufbar unter: https://www.bundestag.btg/Wissen/Dossiers/Ablage /7274/Ausarbeitung_7274_0.pdf. 14 Künast, Regeln für Wahlkämpfe im digitalen Zeitalter - Echte Transparenz im Netz herstellen, ZRP 2019, 62. 15 Guthardt, Social Bots im Wahlkampf: Welche Rolle spielen sie?, 04.07.2017, abrufbar unter: https://www.deutsche -handwerks-zeitung.de/social-bots-im-wahlkampf-welche-rolle-spielen-sie/150/3101/353582. 16 Vgl. dazu: Textarchiv des Deutscher Bundestag, Wirkung von „Social Bots“ ist unter Sachverständigen strittig, 26.01.2017, abrufbar unter: https://www.bundestag.de/dokumente/textarchiv/2017/kw04-pa-bildung-forschungsocial -bots-488818. 17 Reuter, Relevanz und Regulierung von Social Bots, 2.5.2019, abrufbar unter: https://www.bpb.de/gesellschaft /digitales/digitale-desinformation/290568/relevanz-und-regulierung-von-social-bots. 18 Grimme Lab, Wahlkampf in den Medien – der rechtliche Rahmen, abrufbar unter: https://www.grimmelab .de/2017/09/11/wahlkampf-in-den-medien-der-rechtliche-rahmen/. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 8 3. Wahlrechtsgrundsätze Primäre Rechtsquelle des deutschen Wahlrechts ist Art. 38 Grundgesetz19 (GG) welcher festlegt, dass die Abgeordneten des Bundestags in „allgemeiner, unmittelbarer, freier, gleicher und geheimer Wahl“ gewählt werden. Auch im Vertrag über die Europäische Union20 ist in Art. 14 III festgehalten , dass die Europawahl „allgemein, unmittelbar, frei und geheim“ ablaufen muss. Der Grundsatz der Freiheit der Wahl umfasst das Recht des Bürgers, seine Wahlentscheidung ohne Beeinflussung zu treffen. Die bereits bestehenden einfachgesetzlichen Regelungen zum Wahlrecht befassen sich indes hauptsächlich mit der analogen Ausgestaltung des Wahlkampfes, wie zum Beispiel dem Verbot von Wahlwerbung am Wahltag in unmittelbarer Nähe zum Wahlort.21 Fraglich ist vorliegend, inwieweit die „Freiheit“ der Wahl auch vor dem Hintergrund der neuen Herausforderungen des digitalen Zeitalters gesetzlich geschützt ist. Bei der Regulierung des digitalen Wahlkampfes dürfte insbesondere der Umgang mit Fake News und Desinformation durch den Gesetzgeber entscheidend sein. 4. EU-Ebene Die Europäische Union betreibt seit dem Jahr 2015 Kampagnen gegen Desinformation. Nach dem Beschluss des Europäischen Rates vom März 2015 wurde die „East StratCom Task Force“ des Europäischen Auswärtigen Dienstes (EAD) eingerichtet, um „Russlands anhaltenden Desinformationskampagnen entgegenzuwirken".22 Der Schwerpunkt der Task Force liegt in der Stärkung der Medienlandschaft in den östlichen Nachbarländern und der frühzeitigen Erkennung und Bekämpfung eventueller Desinformationsaktivitäten der Russischen Föderation. Seit 2017 gibt es 19 Grundgesetz (GG), zuletzt geändert am 28.03.2019 (BGBl. I S. 404), abrufbar unter: https://www.gesetze-im-internet .de/gg/BJNR000010949.html. 20 Vertrag über die Europäische Union (EUV) zuletzt geändert am 24.04.2012 (ABl. EU L 112/21), abrufbar unter: https://dejure.org/gesetze/EU. 21 Vgl. § 32 I Bundeswahlgesetz. 22 Nach Ansicht der EU-Analyseeinheit für hybride Bedrohungen stellen die Desinformationsaktivitäten der Russischen Föderation die größte Bedrohung für die EU dar. Vgl. EU-Kom, Aktionsplan gegen Desinformation, abrufbar unter: https://ec.europa.eu/germany/news/20181205-aktionsplan-gegen-desinformation_de. Dabei beziehen sie sich auf ein offizielles russisches Dokument: The Embassy of the Russian Federation to the United Kingdom of Great Britain and Northern Ireland, THE MILITARY DOCTRINE OF THE RUSSIAN FEDERATION, AP- PROVED by the President of the Russian Federation on December 25, 2014 No. Pr.-2976, Press Releases, 29.06.2015, abrufbar unter: https://www.rusemb.org.uk/press/2029. Es gibt laut EU-Kommission, ebenda auch noch andere staatliche Akteure: „Die hinter der Desinformation stehenden Akteure können von innen, d. h. aus den Mitgliedstaaten, kommen, oder externe Akteure sein, d. h. auch staatliche (oder staatlich finanzierte) und nichtstaatliche Akteure. Berichten zufolge setzen mehr als 30 Länder Desinformation ein und beeinflussen Aktivitäten auf unterschiedliche Weise, auch in ihren eigenen Ländern.“ Als Berichtsquelle wird hier angeführt: Freedom House, Manipulating Social Media to Undermine Democracy, abrufbar unter: https://freedomhouse .org/report/freedom-net/freedom-net-2017. Freedom House ist eine Nichtregierungsorganisation (NGO) mit Sitz in Washington, D.C. Sie erhält u. a. Mittel der US-Regierung. Vgl. Freedom House, About us, abrufbar unter: https://freedomhouse.org/about-us. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 9 außerdem die „Taskforce South“ (Naher Osten, Nordafrika und Golfregion) und die Taskforce für den westlichen Balkan, da auch dort Falschmeldungen kursieren sollen, die die Bevölkerung beeinflussen könnten.23 Die EU hat sich bereits an verschiedenen Stellen mit der Regulierung von Online-Wahlkampf auseinandergesetzt. Im September 2018 veröffentliche der damals amtierende Kommissionspräsident Jean-Claude Juncker ein Maßnahmenpaket, welches Desinformationskampagnen aus dem Ausland entgegenwirken sollte.24 Die Europäische Kommission bestrebt darüber hinaus, das Datenschutzrecht zukünftig auch gegenüber politischen Parteien in Wahlkampfzeiten effektiv durchzusetzen, um damit insbesondere das sogenannte Microtargeting einzudämmen.25 Zum Maßnahmenkatalog der EU gehört außerdem die Etablierung eines Verhaltenskodex für Social-Media-Plattformen und die Werbebranche. Dieser soll, ohne rechtliche Bindungswirkung zu entfalten, Online-Plattformen dazu motivieren, selbst stärker gegen Desinformationskampagnen , unerlaubte politische Werbung, Fake Accounts und Bots vorzugehen.26 5. Deutschland Das Recht der politischen Parteien auf Wahlkampf ergibt sich aus Art. 5 I, III und Art. 21 GG. Während des Wahlkampfs gerät dieses Recht regelmäßig in Konflikt mit Persönlichkeitsrechten Anderer, Geboten der Fairness oder strafrechtlichen Verboten. Die betroffenen Rechtsgüter müssen dann abgewogen und zu einem schonenden Ausgleich gebracht werden. Wie aufgezeigt, existieren keine gesetzlichen Regelungen zum Microtargeting und auch die Verwendung von Social Bots ist nicht ausdrücklich verboten. Aus der Sicht des deutschen Gesetzge- 23 Fischer, Mit diesen Maßnahmen will die EU Fake News bekämpfen, 21.01.2019, abrufbar unter: https://www.handelsblatt.com/politik/international/desinformation-mit-diesen-massnahmen-will-die-eu-fakenews -bekaempfen/23891942.html?ticket=ST-7238394-h2suUQYjHM7gIKN4Ut4m-ap5. 24 Nähere Informationen dazu: Europäische Kommission – Pressemitteilung, Lage der Union 2018: Europäische Kommission schlägt Maßnahmen zur Gewährleistung freier und fairer Europawahlen vor, 12.09.2019, abrufbar unter: http://europa.eu/rapid/press-release_IP-18-5681_de.htm. 25 Vgl. Art. 11 III Uabs. I Satz 2 des Vorschlags der Europäischen Kommission für eine VERORDNUNG DES EURO- PÄISCHEN PARLAMENTS UND DES RATES zur Änderung der Verordnung Nr. 1141/2014 im Hinblick auf ein Überprüfungsverfahren für im Zusammenhang mit Wahlen zum Europäischen Parlament begangene Verstöße gegen Vorschriften zum Schutz personenbezogener Daten, abrufbar unter: https://eur-lex.europa.eu/legal-content /DE/TXT/PDF/?uri=CELEX:52018PC0636R(01)&from=DE. 26 Fischer, Mit diesen Maßnahmen will die EU Fake News bekämpfen, a.a.O. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 10 bers scheint die sogenannte Hasskriminalität im Internet ein besonders großes Gefährdungspotential zu haben.27 Zu dessen Bekämpfung beschloss der Deutsche Bundestag im Jahr 2017 das Netzwerkdurchsetzungsgesetz 28 (NetzDG). Es verpflichtet private Internet-Portalbetreiber einer bestimmten Größe, rechtswidrige Internet-Inhalte zu identifizieren und zu löschen. Wenn dieser Pflicht nicht nachkommen wird, drohen Strafen von bis zu 50 Mio. Euro.29 Dieses Gesetzes wurde der Bekämpfung von Inhalten, die im Zusammenhang mit sogenannter Hasskriminalität stehen, gewidmet, ohne jedoch unbestimmte Begriffe wie „Hass“ zu definieren. Das Gesetz stützt sich ausschließlich auf bereits existierende Normen des Strafgesetzbuchs und gilt medienunabhängig . Neue materiell-rechtliche Regelungen zur Regulierung der freien Meinungsäußerung im Internet wurden nicht aufgestellt. Darüber hinaus enthält der Rundfunkstaatsvertrag30 (RStV) Regelungen zur Wahlwerbung im Internet . Gemäß § 58 III S. 1 i.V.m. § 7 IX RStV ist Wahlwerbung, bei der es sich der Form nach um einen audiovisuellen Mediendienst31 handelt, generell verboten. Dieses Verbot bezieht sich auf politische Werbung, die eigens zum Zwecke einer bevorstehenden Wahl online zum Abruf bereitgestellt wird. Nicht umfasst ist hingegen das fortdauernde Angebot eigener audiovisueller Mediendienste auf Abruf durch politische Parteien als Instrument ihrer jeweiligen Öffentlichkeitsarbeit .32 Bei sonstigen Telemedien muss die Wahlwerbung gemäß § 58 I RStV vom übrigen Inhalt der Angebote eindeutig getrennt werden. Für journalistisch-redaktionell gestaltete Telemedien, also insbesondere die Online-Angebote von Presseunternehmen und Rundfunkveranstaltern auf Abruf, ordnet § 54 II RStV zudem die Geltung der anerkannten journalistischen Grundsätze an.33 Für die Berichterstattung in Wahlkampfzeiten ist ferner die Regelung des § 54 III RStV beachtlich , wonach die Anbieter von Telemedien bei der Veröffentlichung von Meinungsumfragen dazu verpflichtet sind, deren repräsentative Kraft zu belegen. Andere Telemedienangebote, die die Schwelle der journalistisch-redaktionellen Gestaltung nicht erreichen, wozu typischerweise soziale Plattformen wie Facebook und YouTube sowie Online-Angebote von Parteien gehören, unterliegen diesen Auflagen nicht. Tritt der Staat als Online-Anbieter oder Informationsgeber auf, ist 27 Grimme Lab, Wahlkampf in den Medien – der rechtliche Rahmen, a.a.O. 28 Netzwerkdurchsetzungsgesetz (NetzDG), zuletzt geändert am 01.09.2017 (BGBl. I S. 3352), abrufbar unter: https://www.gesetze-im-internet.de/netzdg/BJNR335210017.html. 29 Vgl. Bundesjustizamt, abrufbar unter: https://www.bundesjustizamt.de/DE/Themen/Buergerdienste /NetzDG/Bussgeldverfahren/Bussgeldverfahren_node.html. 30 Staatsvertrag für Rundfunk und Telemedien (Rundfunkstaatsvertrag - RStV) vom 31. August 1991 in der Fassung des Zweiundzwanzigsten Staatsvertrages zur Änderung rundfunkrechtlicher Staatsverträge (Zweiundzwanzigster Rundfunkänderungsstaatsvertrag) in Kraft seit 1. Mai 2019. 31 Bei audiovisuellen Mediendiensten handelt es sich um Telemedien, die mit Inhalten, die nach Form und Inhalt fernsehähnlich sind und die von einem Anbieter zum individuellen Abruf zu einem vom Nutzer gewählten Zeitpunkt und aus einem vom Anbieter festgelegten Inhaltekatalog bereitgestellt werden (§ 58 III 1 RStV). 32 Ukrow, Jörg, Impulse aus dem EMR - Die Schnittstellen von Wahl- und Medienrecht im digitalen Wandel, 01.06.2019, abrufbar unter: https://emr-sb.de/impulse-aus-dem-emr-die-schnittstelle-von-wahl-und-medienrecht -im-digitalen-wandel/. 33 Vgl. für nähere Informationen zu den anerkannten journalistischen Grundsätze: Beck RundfunkR/Held RStV § 54 Rn. 64 ff. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 11 er bei der Bereitstellung öffentlich-rechtlicher Leistungen an § 5 Parteiengesetz34 (PartG) gebunden oder unmittelbar aus Art. 3 I, Art. 21 I GG zur Beachtung der Chancengleichheit und des staatlichen Neutralitätsgebots verpflichtet.35 Das Gesetz gegen den unlauteren Wettbewerb36 ist nach herrschender Literaturauffassung auf politische Werbung nicht anwendbar.37 6. Frankreich Bis zur Verabschiedung des neuen Gesetzes zur Bekämpfung der Manipulation von Information (Loi relative à la lutte contre la manipulation de l'information)38 gab es in Frankreich zwei Gesetzesquellen , die explizit vor Wahlbeeinflussung schützten. So verbietet Art. 27 des französischen Gesetzes über die Pressefreiheit von 1881 (Loi sur la liberté de la presse)39 "die Veröffentlichung, die Verbreitung oder die Vervielfältigung von falschen Nachrichten, von fabrizierten, verfälschten oder wahrheitswidrig Dritten zugeschriebenen Stücken, um aus unaufrichtigen Gründen den öffentlichen Frieden zu stören, oder Störpotenzial zu entwickeln". In Bezug auf Wahlen sieht Art. 97 des französischen Wahlgesetzes (Code électoral) 40 eine Freiheitsstrafe von bis zu einem Jahr oder einer Geldstrafe bis zu 15.000 Euro für diejenigen vor, die „mithilfe von falschen Nachrichten , verleumderischen Gerüchten oder anderen betrügerischen Manövern, Wahlergebnisse 34 Parteiengesetz (PartG), zuletzt geändert am 10.07.2018 (BGBl. I S. 1116), abrufbar unter: https://www.gesetzeim -internet.de/partg/BJNR007730967.html#BJNR007730967BJNG000103307. 35 Vgl. Etteldorf, Länderbericht Deutschland, in: Cappello (Hrsg.), Medienberichterstattung bei Wahlen – der rechtliche Rahmen in Europa, IRIS Spezial, 2017, 35 (40). 36 Gesetz gegen den unlauteren Wettbewerb (UWG), zuletzt geändert am 18.04.2019 (BGBl. I S. 466), abrufbar unter : https://www.gesetze-im-internet.de/uwg_2004/BJNR141400004.html#BJNR141400004BJNG000101140. 37 Koch T. in: juris Praxiskommentar zum UWG, Eike Ullmann (Hrsg.), 4. Aufl. 2016, § 7 UWG, Rn. 161. 38 LOI no 2018-1202 du 22 décembre 2018 relative à la lutte contre la manipulation de l’information (1), JOUR- NAL OFFICIEL DE LA RÉPUBLIQUE FRANÇAISE, 23.12.2018 in Verbindung mit LOI organique no 2018-1201 du 22 décembre 2018 relative à la lutte contre la manipulation de l’information (1), JOURNAL OFFICIEL DE LA RÉ-PUBLIQUE FRANÇAISE, 23.12.2018, abrufbar unter: https://www.legifrance.gouv.fr/affichTexte.do?cid- Texte=JORFTEXT000037847559&categorieLien=id. 39 Loi du 29 juillet 1881 sur la liberté de la presse, abrufbar unter: https://www.legifrance.gouv.fr/affichTexteArticle .do;jsessionid=3D35DBCEE5887FCE2EC1014E12898175.tplgfr31s_3?idArticle=LEGI- ARTI000006419726&cidTexte=LEGITEXT000006070722&dateTexte=20180122. 40 Code électoral, abrufbar unter: https://www.legifrance.gouv.fr/affichCodeArticle.do;jsessionid =3D35DBCEE5887FCE2EC1014E12898175.tplgfr31s_3?idArticle=LEGIARTI000006353232&cidTexte=LE- GITEXT000006070239&dateTexte=20180122. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 12 durcheinanderbringen oder verfälschen, oder einen oder mehrere Wähler davon abhalten zu wählen“.41 Wesentliche Beweggründe für das neue Gesetz zur Bekämpfung der Manipulation von Information war die Diskussion über die Gefahr der Wahlbeeinflussung durch Fake News und Desinformation im Zusammenhang mit der Präsidentschaftswahl in Frankreich im April und Mai 2017.42 Ausweislich der Gesetzesbegründung43 habe die letzte Wahl gezeigt, dass es massive Kampagnen der Verbreitung von Falschinformationen im Online-Bereich gegeben habe, die auf eine Beeinflussung des normalen Wahlprozesses abzielten. Die vorhandenen Gesetze seien nach Auffassung des französischen Gesetzgebers nicht ausreichend, um die Verbreitung von Falschinformationen schnell und effizient zu unterbinden bzw. diese zu entfernen. Aus diesem Grund sollen vorhandene Gesetze an die aktuelle Entwicklung angepasst und neue Artikel hinzugefügt werden. Die vorgeschlagenen Maßnahmen sollen dabei weiterhin in Einklang mit der Meinungsfreiheit und unter der Berücksichtigung der Angemessenheit und Verhältnismäßigkeit angewendet werden.44 Das neue Gesetz ermächtigt staatliche Stellen bereits drei Monate vor dem landesweiten Wahltermin , Rundfunkbetreiber und Internetplattformen zu sperren sowie die Urheber der Manipulationen mit Gefängnis- und Geldstrafen zu belegen.45 Das Gesetz soll ein rasches Handeln in Wahlkampfzeiten ermöglichen und jegliche Versuche der Wahlbeeinflussung, insbesondere von ausländischer Seite, verhindern. Hierzu soll ein Verfahren im einstweiligen Rechtsschutz eingeleitet werden , in dessen Verlauf ein Richter innerhalb von 48 Stunden entscheiden muss, ob die Verbreitung der in Frage stehenden Informationen zu untersagen ist. Im Art. 1 des Gesetzes sind u.a. weitere Vorkehrungen zur Änderung und Ergänzung des französischen Wahlgesetzes (Art. L163-1 und Art. L163-2 Code électoral46) vorgesehen. Online-Plattformbetreiber müssen den Nutzern aktualisierte und aggregierte Informationen über verantwortliche Personen und Unternehmen öffentlich angeben , für die sie handeln und Finanzmittel für die Verbreitung deren Inhalte im Zusammenhang einer Debatte von allgemeinem Interesse erhalten. Die Höhe der erhaltenen Finanzmittel ist ebenfalls zu veröffentlichen, soweit sie einen bestimmten Betrag überschreiten. Zuwiderhandlungen 41 Heldt, Von der Schwierigkeit, Fake News zu regulieren: Frankreichs Gesetzgebung gegen die Verbreitung von Falschnachrichten im Wahlkampf, 02-05-2019, abrufbar unter: https://www.bpb.de/gesellschaft/digitales/digitale -desinformation/290529/frankreichs-gesetzgebung-gegen-die-verbreitung-von-falschnachrichten. 42 Discours du Président de la République Emmanuel Macron à l'occasion des voeux à la presse, publié le 04 janvier 2018, abrufbar unter: https://www.elysee.fr/emmanuel-macron/2018/01/03/voeux-du-president-de-la-republique -emmanuel-macron-a-la-presse. 43 Gesetzesbegründung abrufbar unter: http://www.assemblee-nationale.fr/15/pdf/propositions/pion0799.pdf. 44 Vgl. hierzu auch Wissenschaftliche Dienste des Deutschen Bundestages, Gesetzgebungsvorhaben zur Bekämpfung von Falschinformationen in Frankreich, WD 10 - 3000 - 051/18, 08.08.2018, abrufbar unter: https://www.bundestag.de/resource/blob/569428/c638e1ab9c4902e7bb1e80d437198a3a/wd-10-051-18-pdfdata .pdf. 45 Ebd. 46 Abrufbar unter: https://www.legifrance.gouv.fr/affichCode.do;jsessionid =1E98CDBA96198E5FEF788C48DDFA6D02.tplgfr31s_3?cidTexte=LEGITEXT000006070239&date- Texte=20180122. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 13 werden mit einer Gefängnisstrafe von einem Jahr und einer Geldstrafe in Höhe von 75000 Euro geahndet (Art. L112 Code électoral). Außerdem entschied die für den Datenschutz zuständige „Commission nationale de l’informatique et des libertés“ (CNIL) am 26. Januar 201247, dass die Kandidaten und politischen Parteien, die Onlinemedien für ihre Wahlwerbung nutzen, sich an das Gesetz über den Schutz der personenbezogenen Daten48 halten müssen. Ebenso wie die kommerzielle Werbung soll zukünftig auch politische Werbung per E-Mail nur dann zulässig sein, wenn die Empfänger zuvor in die Nutzung ihrer Kontaktdaten eingewilligt haben. Art. L48-1 Code électoral sieht vor, dass für „jede Nachricht , die den Charakter von Wahlwerbung hat und über elektronische Kommunikationsmittel verbreitet wird“, die Verbote und Einschränkungen gelten, die generell für die Verbreitung von Wahlpropaganda gelten. So schließt dieses Verbot zum Beispiel aus, dass Suchmaschinen zu Wahlzwecken auf Werbung verweisen, nicht aber die Erstellung einer Homepage, die dem freiwilligen Zugriff von interessierten Wählern offensteht.49 Das französische Wahlgesetz (Art. L49) verbietet während des Wahltags Wahlpropaganda jeglicher Art.50 Dies bedeutet jedoch nicht, dass Wahlwerbung, die bereits vor dem Wahltag im Internet eingestellt wurde, von der Homepage eines Kandidaten oder einer Liste gelöscht werden muss (sofern keine Änderungen vorgenommen wurden, die der Veröffentlichung einer neuen Wahlbotschaft ähneln)51, noch dass Umfragen, die bereits vorher veröffentlicht worden waren, von der Seite entfernt werden müssen.52 47 Délibération n° 2012-020 du 26 janvier 2012 portant recommandation relative à la mise en œuvre, par les partis ou groupements à caractère politique, élus ou candidats à des fonctions électives, de fichiers dans le cadre de leurs activités politiques, abrufbar unter: https://www.legifrance.gouv.fr/affichCnil.do?oldAction=rechExp Cnil&id=CNILTEXT000025364626&fastReqId= 1082859898&fastPos=1. 48 Loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés. Version consolidée au 11 juillet 2019: abrufbar unter: https://www.legifrance.gouv.fr/affichTexte.do?cidTexte=JORFTEXT000000886460. 49 Granchet, Medienberichterstattung bei Wahlen: der rechtliche Rahmen in Europa, IRIS Spezial 2017-1, https://rm.coe.int/iris-special-2017-1-medienberichterstattung-bei-wahlen-der-rechtliche-/16807834bf. 50 Art. L49 Code électoral, abrufbar unter: https://www.legifrance.gouv.fr/affichCode.do;jsessionid =AFF061B97F4161A574ACFD58AD7F20B4.tplgfr31s_3?idSectionTA=LEGISCTA000006148458&cid- Texte=LEGITEXT000006070239&dateTexte=20190705. 51 Conseil d’Etat, 8. Juli 2002, Nr. 239220, https://www.legifrance.gouv.fr/affichJuriAdmin.do?oldAction=rechJuri- Admin&idTexte=CETATEXT0000080244 39&fastReqId=388405045&fastPos=1. 52 Granchet, Agnés, Medienberichterstattung bei Wahlen: der rechtliche Rahmen in Europa, IRIS Spezial 2017-1, S. 58, abrufbar unter: https://rm.coe.int/iris-special-2017-1-medienberichterstattung-bei-wahlen-der-rechtliche- /16807834bf. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 14 In diesem Zusammenhang ist darauf zu verweisen, dass am 9. Juli 2019 die Assemblée Nationale in erster Lesung einen Gesetzentwurf (Proposition de loi visant à lutter contre les contenus haineux sur internet53) im beschleunigten Verfahren verabschiedet hat. Ähnlich wie beim deutschen NetzDG geht es hierbei um die Löschung von Hassbotschaften54 im Internet unabhängig von Wahlkampfzeiten. Der Gesetzentwurf wurde auch am 9. Juli 2019 dem Sénat55 überwiesen, der voraussichtlich im September 2019 darüber befinden wird.56 7. Vereinigtes Königreich Ein Auslöser für die Auseinandersetzung mit Fake News und sonstiger Wahlbeeinflussung im Vereinigten Königreich war die „vote-leave-Kampagne“ rund um die Brexit Abstimmungen. Den Kampagnenbetreibern wurde vorgeworfen, deutlich mehr als erlaubt für den Wahlkampf ausgegeben und dies auch noch verschleiert zu haben.57 Daher belegte die britische Wahlkommission58 sie aufgrund des Verstoßes gegen das Wahlgesetz mit einer Geldstrafe in Höhe von 61.000 GBP. 53 Assemblée Nationale, Proposition de loi visant à lutter contre les contenus haineux sur internet, Texte adopté n° 310, Session extraordinaire de 2018-2019, 9 juillet 2019, adoptée par l’Assemblée nationale en première lecture, abrufbar unter: http://www.assemblee-nationale.fr/15/ta/tap0310.pdf. 54 Mit dem Gesetzentwurf wird insbesondere das „Gesetz für das Vertrauen in die digitale Wirtschaft“ (Loi pour la confiance dans l'économie numérique, no 2004-575 du 21 juin 2004) geändert. Dabei werden im Art 1 des Gesetzentwurfs Hassbotschaften näher bestimmt: „…les contenus publiés sur internet faisant l’apologie des crimes contre l’humanité, provoquant à la commission d’actes de terrorisme, faisant l’apologie de tels actes ou comportant une incitation à la haine, à la violence, à la discrimination ou une injure envers une personne ou un groupe de personnes à raison de l’origine, d’une prétendue race, de la religion, de l’ethnie, de la nationalité, du sexe, de l’orientation sexuelle, de l’identité de genre ou du handicap, vrais ou supposés,…“; Siehe Gesetzentwurf abrufbar unter http://www.assemblee-nationale.fr/15/ta/tap0310.pdf. 55 Vgl. Sénat, Lutte contre la haine sur internet, Les étapes de la discussion, https://www.senat.fr/dossier-legislatif /ppl18-645.html. Zur von der Assemblée nationale beschlossenen Fassung des an den Sénat überwiesenen Gesetzentwurfs: https://www.senat.fr/leg/ppl18-645.html. 56 Zur Diskussion vgl. z. B. franceinfo, Lutte contre la haine sur internet: cinq questions sur la proposition de loi votée par l'Assemblée nationale - Emmanuel Macron avait promis il y a un an qu'il s'attaquerait à ce chantier. Les députés ont voté, mardi, à 434 voix pour et 33 voix contre. https://www.francetvinfo.fr/internet/reseauxsociaux /facebook/lutte-contre-la-haine-sur-internet-cinq-questions-sur-la-proposition-de-loi-examinee-a-l-assemblee -nationale_3519259.html. 57 Dierks, Propaganda, Lügen, Fake News, 18.10.2018, abrufbar unter: https://www.deutschlandfunk.de/sozialemedien -und-das-brexit-referendum-propaganda-luegen.724.de.html?dram:article_id=430936. 58 Die Wahlkommission ist ein unabhängiges Gremium, das die Wahlen und die Parteienfinanzierung im Vereinigten Königreich überwacht. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 15 Darüber hinaus hat sich die britische Wahlkommission mit der Bedeutung von Falschnachrichten auseinandergesetzt und dazu einen Bericht veröffentlicht.59 Darin spricht sie fünf Empfehlungen für den zukünftigen Umgang mit Abstimmungen aus. Im Kern geht es um die Kompetenzerweiterung der Wahlkommission und die Erhöhung der Strafen bei Verstößen gegen das britische Wahlgesetz in Bezug auf die Finanzierung und die Ausgaben für Wahl- und Referendumskampagnen . Vor diesem Hintergrund wurde eine Untersuchungskommission im britischen Unterhaus eingerichtet , die sich mit Desinformationen auf sozialen Netzwerken befasst hat. Aus ihrem Abschlussbericht 60 geht hervor, dass insbesondere Facebook „zahlreiche“ Verfehlungen vorgehalten werden können. Die Kommission forderte die großen Internet-Plattformen auf, sich einem gemeinsamen Ethikkodex zu unterwerfen. Die britische Regierung müsse nach Auffassung der Kommission die Wahlgesetze modernisieren sowie mit einer unabhängigen Untersuchung mögliche Wahlbeeinflussungsversuche durch ausländische Akteure aufdecken. Am 2. April 2019 ist im britischen Unterhaus erneut eine Untersuchungskommission eingesetzt worden. Sie soll das aktuelle Gefahrenpotential von Desinformationen identifizieren und entsprechende Lösungsvorschläge erarbeiten.61 Bezüglich der Wahlkampffinanzierung hat die britische Wahlkommission festgelegt, dass, abhängig vom Anteil der Stimmen bestimmte Höchstgrenzen für die Wahlkampffinanzierung bestehen müssen.62 Außerdem legt Section 106 I Representation of the People Act 198363 fest, dass die Verbreitung von Falschinformationen über den persönlichen Charakter eines Kandidaten im Wahlkampf verboten sind. Im Übrigen sind im Vereinigten Königreich keine speziellen Gesetze zur Regulierung des Online-Wahlkampfes ersichtlich.64 Der Ausschuss für Kultur, Medien und Sport des britischen Unterhauses beschäftigt sich jedoch im Rahmen einer Art Enquete-Kommission 59 The Electoral Commission, 5. Enforcing the rules, abrufbar unter: https://www.electoralcommission .org.uk/find-information-by-subject/political-parties-campaigning-and-donations/digital-campaigning/5- enforcing-the-rules. 60 House of Commons Digital, Culture, Media and Sport Committee, Disinformation and ‘fake news’: Final Report - Eighth Report of Session 2017–19, abrufbar unter: https://publications.parliament.uk/pa/cm201719/cmselect /cmcumeds/1791/1791.pdf. 61 Digital, Culture, Media and Sport Committee, Disinformation and ‘fake news’, abrufbar unter: https://www.parliament .uk/business/committees/committees-a-z/commons-select/digital-culture-media-and-sport-committee /inquiries/parliament-2017/fake-news-17-19/. 62 Vgl. The Electoral Commission, Media Handbook, Referendum on the United Kingdom’s membership of the European Union, 23. Juni 2016, Kapitel 4.2, abrufbar unter: http://www.electoralcommission.org.uk/__data/assets /pdf_file/0007/199357/Media-Handbook-EUReferendum.pdf. 63 Gesetz abrufbar unter: http://www.legislation.gov.uk/ukpga/1983/2. 64 Wissenschaftliche Dienste des Deutschen Bundestages, Regulierung von Hate Speech und Fake News in sozialen Netzwerken durch EU-Mitgliedstaaten, WD 10 - 3000 - 032/18, 15.06.2018, abrufbar unter: https://www.bundestag.de/resource/blob/566942/a5eb997872bbe5dbca3f47112eb04c46/WD-10-032-18-pdfdata .pdf. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 16 mit dem Thema „Fake News“.65 Die britische Regierung hat in einer Pressemitteilung vom 5. Mai 2019 angekündigt, weitere gesetzliche Maßnahmen zur Regulierung des Internetwahlkampfes zu erlassen. Die Integrität von Wahlen soll gewährleistet bleiben, indem Einschüchterungen von Wählern bestraft werden, die Urheber von Informationen auch online kenntlich gemacht werden und ausländische Spenden an politische Funktionäre intensiver überwacht werden.66 Für die Bekämpfung sogenannter Hasskriminalität gibt es kein Gesetz, das speziell die Verbreitung von Hass oder die Anstiftung zu Gewalt in sozialen Netzwerken bestraft.67 In diesem Zusammenhang hat die britische Regierung wiederholt betont, dass das, was offline illegal ist, auch online illegal sei.68 Sie scheint hierbei die Kooperation mit Online-Unternehmen im Rahmen einer Multi-Stakeholder-Initiative gegenüber Gesetzesinitiativen zu präferieren. Dabei geht es um einen freiwilligen Zusammenschluss zwischen den öffentlichen, zivilgesellschaftlichen und privaten Akteuren, die sich mit den Herausforderungen bzw. Regelungsfragen des Internets beschäftigen.69 8. Fazit Fake News, Hate Speech und Desinformation sind nicht nur im Internet und im Zusammenhang mit Wahlen eine Herausforderung für Staat, Politik und Gesellschaft. Schon ihre Definitionen und vor allem die Subsumption realer Sachverhalte unter diese Begriffe sind äußerst problematisch . Grundsätzlich dürfte eine konsistente70, widerspruchsfreie, transparente, allgemein nachvollziehbare und alle relevanten Fakten offen einbeziehende Politik diesen Phänomen entgegen wirken. Dabei ist zu beachten, dass Informations- und Meinungsfreiheit als zentrale Säulen der Demokratie unter besonderem verfassungsrechtlichen Schutz stehen. Sie sind konstitutive Voraussetzung für demokratische Verfassungen. Gerade bei der Suche nach innovativen politischen Lösungen ist die Vielfalt unterschiedlicher Meinungen, die im Wettbewerb zueinander stehen, von besonderer Bedeutung. 65 „Fake news“, House of Commons, Culture, Media and Sport Committee, abrufbar unter: https://www.parliament .uk/business/committees/committees-a-z/commons-select/digital-culture-media-and-sport-committee/inquiries /parliament-2017/fake-news-17-19/. 66 Regierungsbüro, Government safeguards UK elections; Published 5 May 2019, abrufbar unter: https://www.gov.uk/government/news/government-safeguards-uk-elections. 67 Wissenschaftliche Dienste des Deutschen Bundestages, Regulierung von Hate Speech und Fake News in sozialen Netzwerken durch EU-Mitgliedstaaten, WD 10 - 3000 - 032/18, a.a.O. 68 Vgl. „Action Against Hate: The UK Government’s action plan for tackling hate crime“, Home Office, Juli 2016, Abschnitt 4, Absatz 70, S. 28, abrufbar unter: https://assets.publishing.service.gov.uk/government/uploads/system /uploads/attachment_data/file/543679/Action_Against_Hate_-_UK_Government_s_Plan_to_Tackle _Hate_Crime_2016.pdf. 69 Vgl. „ UK Digital Strategy“, Policy paper, Department for Digital, Culture, Media & Sport and The Rt Hon Karen Bradley MP, 01.03.2017, abrufbar unter: https://www.gov.uk/government/publications/uk-digital-strategy/ukdigital -strategy. 70 Dabei sollten Entscheidungen nach dem Prinzip „Quod licet lovi non licet bovi“ vermieden werden. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 018/19 Seite 17 Bei der Bekämpfung von Desinformation im Internet wird im Zusammenhang mit Wahlen in Frankreich und im Vereinigten Königreich ein großer Stellenwert auf Transparenz und Offenlegung der Verantwortlichen für Inhalte und insbesondere die Offenlegung der Höhe und Herkunft der Finanzmittel für die Verbreitung dieser Inhalte gelegt.71 Zuwiderhandlungen sind strafbewehrt . In Frankreich entscheiden Gerichte bzw. staatliche Aufsichtsbehörden über rechtswidrige Inhalte und die Untersagung deren Verbreitung im Internet oder Rundfunk. In Deutschland gibt es keine spezifische Regulierung von Wahlwerbung im Internet. Hier liegt der Schwerpunkt generell bei der Bekämpfung von Hasskriminalität unabhängig von Wahlen. Private sind gesetzlich verpflichtet, rechtswidrige Inhalte im Internet zu identifizieren und zu löschen. Dagegen gibt es zahlreiche wahlwerbebezogene Regelungen im deutschen Rundfunkrecht.72 Vorgaben für die systematische Veröffentlichung der Höhe der Kosten für z. B. Wahlwerbespots und Herkunft73 der Finanzmittel gibt es aber auch hier nicht. **** 71 Offenbar wird der Offenlegung des „Cui bono?“ große Beachtung geschenkt. 72 Etteldorf, Medienberichterstattung bei Wahlen: der rechtliche Rahmen in Europa, a.a.O. 73 Handelt es sich um Wahlwerbung von Parteien gibt es zwar eine gewisse Transparenzpflicht nach § 24 V 2. c) PartG. Wahlkampfausgaben werden jedoch unspezifiziert als globale Größe angegeben, vgl. Präsident des Deutschen Bundestages, Bekanntmachung von Rechenschaftsberichten politischer Parteien für das Kalenderjahr 2017, BT-Drs. 18/7000, 14.01.2019. Detaillierte Angaben über ev. Ausgaben für wahlwerbebezogene Inhalte im Internet oder Nutzung von Internet-Plattformen oder von sogenannten Internet-Influencern finden sich dort nicht.