© 2019 Deutscher Bundestag WD 10 - 3000 - 059/19 Regulierung von „Hate Speech“ und „Fake News“ in sozialen Netzwerken durch ausgewählte Länder Sachstand Wissenschaftliche Dienste Die Wissenschaftlichen Dienste des Deutschen Bundestages unterstützen die Mitglieder des Deutschen Bundestages bei ihrer mandatsbezogenen Tätigkeit. Ihre Arbeiten geben nicht die Auffassung des Deutschen Bundestages, eines seiner Organe oder der Bundestagsverwaltung wieder. Vielmehr liegen sie in der fachlichen Verantwortung der Verfasserinnen und Verfasser sowie der Fachbereichsleitung. Arbeiten der Wissenschaftlichen Dienste geben nur den zum Zeitpunkt der Erstellung des Textes aktuellen Stand wieder und stellen eine individuelle Auftragsarbeit für einen Abgeordneten des Bundestages dar. Die Arbeiten können der Geheimschutzordnung des Bundestages unterliegende, geschützte oder andere nicht zur Veröffentlichung geeignete Informationen enthalten. Eine beabsichtigte Weitergabe oder Veröffentlichung ist vorab dem jeweiligen Fachbereich anzuzeigen und nur mit Angabe der Quelle zulässig. Der Fachbereich berät über die dabei zu berücksichtigenden Fragen. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 2 Regulierung von „Hate Speech“ und „Fake News“ in sozialen Netzwerken durch ausgewählte Länder Aktenzeichen: WD 10 - 3000 - 059/19 Abschluss der Arbeit: 9. September 2019 Fachbereich: WD 10: Kultur, Medien und Sport Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 3 Inhaltsverzeichnis 1. Einführung 4 2. „Hate Speech“ 5 2.1. Frankreich 5 2.2. Italien 6 2.3. Lettland 8 2.4. Österreich 9 2.5. Großbritannien 9 2.6. Europäische Union 11 2.7. USA 12 3. „Fake News“ 13 3.1. Frankreich 14 3.2. Großbritannien 15 3.3. Litauen 15 3.4. Österreich 16 3.5. Italien 16 3.6. Europäische Kommission 18 3.7. USA 19 Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 4 1. Einführung Der vorliegende Sachstand dient der Auskunft über aktuelle parlamentarische Aktivitäten und Rechtsetzung in ausgewählten Ländern, die die Regulierung im Sinne des Wirtschaftsverwaltungsrechts von sog. „Hate Speech“ oder „Fake News“ bzw. Desinformation im Internet, insbesondere in sozialen Netzwerken, zum Gegenstand haben. Dabei sind die Verfasser auf öffentlich zugängliche Quellen beschränkt, sodass kein Anspruch auf Vollständigkeit bestehen kann. Ausgeklammert werden all diejenigen bereits bestehenden Gesetze bzw. Gesetzesvorhaben, die sich zwar inhaltlich mit Diskriminierung im Allgemeinen beschäftigen und mithin auch die Sanktionierung von „Hate Speech“ und „Fake News“ umfassen, jedoch nicht speziell auf die Vereinfachung der Rechtsdurchsetzung in sozialen Medien ausgerichtet sind. Da eine rechtsvergleichende Ausarbeitung im Hinblick auf Umfang und Expertise, die Möglichkeiten des Verfassers überschreitet, bleibt auch die ggf. differierende Interpretation von „Hate Speech“ und „Fake News“ durch die Mitgliedstaaten bzw. supranationale Organe unberücksichtigt.1 So existiert beispielsweise keine Definition dieser Begriffe im Netzwerkdurchsetzungsgesetz (NetzDG)2, obwohl in der Begründung3 zum Gesetzentwurf die Begriffe Hassrede („Hate Speech“), Hasskriminalität und Falschnachrichten („Fake News“) im Zusammenhang mit sozialen Netzwerken gebraucht werden.4 1 Zum Begriff „Hate Speech“ vgl. die Darstellung der unterschiedlichen Definitionen in: Wissenschaftliche Dienste des Deutschen Bundestages, Behandlung von „Hate Speech“ vor 2015, WD 10-3000-045/19, 16.08.2019. Zur Definition des Begriffs „Fake News“ vgl. Wissenschaftliche Dienste des Deutschen Bundestages, Fake-News - Definition und Rechtslage, WD 10 - 3000 - 003/17, 12.02.2017, abrufbar unter https://www.bundestag.de/resource/blob/502158/99feb7f3b7fd1721ab4ea631d8779247/wd-10-003-17-pdfdata .pdf [zuletzt abgerufen: 09.09.2019]. 2 Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken (Netzwerkdurchsetzungsgesetz - NetzDG) vom 01.09.2017 (BGBl. I S. 3352), abrufbar unter: https://www.gesetze-iminternet .de/netzdg/BJNR335210017.html [zuletzt abgerufen: 09.09.2019]. 3 Vgl. Fraktionen der CDU/CSU und SPD, Entwurf eines Gesetzes zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken (Netzwerkdurchsetzungsgesetz – NetzDG), BT-Drs. 18/12356, 14.06.2017, S. 11: „…Hassrede und rassistische Hetze können jede und jeden aufgrund der Meinung, Hautfarbe oder Herkunft, der Religion, des Geschlechts oder der Sexualität diffamieren…“, abrufbar unter http://dipbt.bundestag.de/dip21/btd/18/123/1812356.pdf. Zur Problematik der Definition von Hate Speech und Fake News vgl. auch Wissenschaftliche Dienste, Entwurf eines Netzwerkdurchsetzungsgesetzes - Vereinbarkeit mit der Meinungsfreiheit, 12.06.2017, WD 10-3000-037/17, abrufbar unter: https://www.bundestag.de/resource/blob/510514/eefb7cf92dee88ec74ce8e796e9bc25c/wd-10-037-17-pdfdata .pdf [zuletzt abgerufen: 09.09.2019]. 4 Vgl. Bundesregierung, Entwurf eines Gesetzes zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken (Netzwerkdurchsetzungsgesetz – NetzDG), BT-Drs. 18/12727,14.06.2017, S. 1 f, abrufbar unter https://dip21.bundestag.de/dip21/btd/18/127/1812727.pdf [zuletzt abgerufen: 09.09.2019]. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 5 2. „Hate Speech“ Die Regulierung von „Hate Speech“ betreffenden Gesetze sind ganz allgemein solche, die die Verbreitung von Hassrede und die Anstiftung zu Gewalt in sozialen Netzwerken betreffen. Ein mit dem NetzDG in Deutschland vergleichbares Regelwerk, das den oben genannten Vorbehalten entspricht, ist bislang in keinem Mitgliedstaat der Europäischen Union in Kraft. Das NetzDG verpflichtet die Betreiber sozialer Netzwerke, offensichtlich rechtswidrige Inhalte innerhalb von 24 Stunden nach Eingang einer Beschwerde zu löschen oder den Zugang zu ihnen zu sperren.5 Als zu löschende oder zu sperrende Inhalte nennt das NetzDG dabei nicht die „Hassrede“ als solche, sondern verweist auf existierende Normen des Strafgesetzbuches. Dieser Straftatenkatalog umfasst unter anderem Straftatbestände gegen den demokratischen Rechtsstaat, die sexuelle Selbstbestimmung und die persönliche Ehre.6 In Frankreich existiert bereits ein solches - dem NetzDG ähnliches - Gesetzesvorhaben. Auch im Übrigen besteht eine Tendenz dahingehend, dass immer mehr Staaten Regelwerke dieser Art und Zielsetzung diskutieren und ausarbeiten. Im Übrigen ist den Gesetzgebungen der Mitgliedstaaten gemein, dass Fälle im Zusammenhang mit sozialen Medien im Rahmen allgemeiner Gesetze behandelt werden können. Problematisch bleibt jedoch die Identifizierung diskriminierender Inhalte im Internet bzw. sozialen Netzwerken und deren Urheber, da diese Gesetze meist vor der Entwicklung des Internets, wie es heute besteht und genutzt wird, entstanden sind. 2.1. Frankreich In Frankreich gibt es bisher nur die Normen des Gesetzes vom 29. Juli 1881 über die Pressefreiheit (Loi du 29 juillet 1881 sur la liberté de la presse7) und des Strafgesetzbuches (Code pénal8), die gegen den „discours de haine“ (Hassrede) gerichtet sind. 5 § 3 Abs. 2 Nr. 2 NetzDG. 6 §1 Abs. 3 NetzDG: „Rechtswidrige Inhalte sind Inhalte im Sinne des Absatzes 1, die den Tatbestand der §§ 86, 86a, 89a, 91, 100a, 111, 126, 129 bis 129b, 130, 131, 140, 166, 184b in Verbindung mit 184d, 185 bis 187, 201a, 241 oder 269 des Strafgesetzbuchs erfüllen und nicht gerechtfertigt sind.“ 7 Loi du 29 juillet 1881 sur la liberté de la presse, Version consolidée au 09 septembre 2019, https://www.legifrance.gouv.fr/affichTexte.do?cidTexte=LEGITEXT000006070722 [zuletzt abgerufen: 09.09.2019]. 8 Code pénal, Version consolidée au 3 août 2019; abrufbar unter: https://www.legifrance.gouv.fr/affichCode.do?cidTexte=LEGITEXT000006070719 [zuletzt abgerufen: 09.09.2019]. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 6 Ein aktuelles Gesetzesvorhaben (Proposition de loi visant à lutter contre les contenus haineux sur internet9) soll darüber hinaus die Rechtsdurchsetzung im Internet verbessern und orientiert sich dabei am deutschen NetzDG. Anders als im deutschen NetzDG gibt es im französischen Gesetzentwurf eine neue Definition von im Internet zu bekämpfenden Inhalten (Hassinhalte im Internet - contenus haineux en ligne). So ist in Art. 1 des aktuellen französischen Gesetzentwurfs eine Ergänzung des Gesetzes für das Vertrauen in die digitale Wirtschaft (Loi pour la confiance dans l'économie numérique, no 2004-575 du 21 juin 200410) vorgesehen. Danach sind „…im Internet veröffentlichte Inhalte zu bekämpfen, die Verbrechen gegen die Menschlichkeit befürworten, die Begehung von Terrorakten provozieren, solche Handlungen befürworten oder zu Hass, Gewalt und Diskriminierung anregen oder eine Verletzung einer Person oder Personengruppe aufgrund von Herkunft, wahrer oder vermuteter Angabe zu Rasse, Religion, ethnischer Zugehörigkeit, Nationalität, Geschlecht, sexueller Orientierung, geschlechtlicher Identität zufügen,…“11 Der Gesetzentwurf wurde am 9. Juli 2019 von der französischen Nationalversammlung in erster Lesung angenommen.12 Eine Zustimmung des Senats steht noch aus.13 2.2. Italien Im Jahr 2017 wurde in Italien ein Gesetz zum Verbot von Cyber-Mobbing verabschiedet.14 Es gewährt unter anderem minderjährigen Opfern und deren Eltern das Recht, den Datenverantwortlichen dazu zu veranlassen, missbräuchliche Inhalte innerhalb von 48 Stunden nach 9 Assemblée Nationale, Proposition de loi visant à lutter contre les contenus haineux sur internet, Texte adopté n° 310, Session extraordinaire de 2018-2019, 9 juillet 2019, adoptée par l’Assemblée nationale en première lecture, abrufbar unter: http://www.assemblee-nationale.fr/15/ta/tap0310.pdf und http://www.assembleenationale .fr/15/ta/ta0310.asp [zuletzt abgerufen: 09.09.2019]. 10 Loi n° 2004-575 du 21 juin 2004 pour la confiance dans l'économie numérique, Version consolidée au 12 août 2019, abrufbar unter: https://www.legifrance.gouv.fr/affichTexte.do?cidTexte=JORFTEXT000000801164 [zuletzt abgerufen: 09.09.2019]. 11 Eigene Übersetzung von : „…lutte contre les contenus publiés sur internet faisant l’apologie des crimes contre l’humanité, provoquant à la commission d’actes de terrorisme, faisant l’apologie de tels actes ou comportant une incitation à la haine, à la violence, à la discrimination ou une injure envers une personne ou un groupe de personnes à raison de l’origine, d’une prétendue race, de la religion, de l’ethnie, de la nationalité, du sexe, de l’orientation sexuelle, de l’identité de genre ou du handicap, vrais ou supposés,…“ 12 Zur Beschlussfassung des Gesetzentwurfs siehe Assemblée Nationale, Proposition de loi visant à lutter contre les contenus haineux sur internet, adoptée par l’Assemblée nationale en première lecture, Session extraordinaire de 2018-2019, 9 juillet 2019, abrufbar unter: http://www.assemblee-nationale.fr/15/ta/ta0310.asp [zuletzt abgerufen: 09.09.2019]. 13 Wissenschaftliche Dienste des Deutschen Bundestages, Behandlung von „Hate Speech“ vor 2015, a.a.O. 14 Gesetz Nr. 71 vom 29.05.2017, Gazzetta Ufficiale de la Republica Italiana, abrufbar unter: http://www.gazzettaufficiale.it/atto/serie_generale/caricaDettaglioAtto/originario?atto.dataPubblicazioneGazzett a=2017-06-03&atto.codiceRedazionale=17G00085&elenco30giorni=false [zuletzt abgerufen: 09.09.2019]. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 7 Eingang der Anfrage zu entfernen oder zu blockieren. Im Übrigen gelten starke Antidiskriminierungsgesetze (wie das Gesetz Nr. 654/1975 i. d. F. 205/1993).15 Darüber hinaus hat die Abgeordnetenkammer des italienischen Parlaments im Juli 2014 einen Sonderausschuss eingesetzt, der sich mit den Rechten und Pflichten im Internet auch im Rahmen von Anhörungen auseinandergesetzt hat und anschließend im Jahr 2015 eine "Erklärung der Rechte im Internet" veröffentlicht hat.16 Dabei handelt es sich um nicht rechtsverbindliche Rahmenrichtlinien. Der „Corte Suprema di Cassazione“ (Oberster Kassationsgerichtshof ) hat mit seinem Urteil vom 31.07.2013 den Anwendungsbereich des Artikel 416 des Italienischen Strafgesetzbuches von „kriminellen Vereinigungen“ auf Hassreden durch virtuelle Gemeinschaften, Blogs und soziale Netzwerke ausgeweitet.17 Die italienische Medienaufsichtsbehörde AGCOM hat im Februar 2018 Leitlinien veröffentlicht, die den gleichberechtigten Zugang aller Parteien bzw. Kandidaten zu Online-Plattformen im Hinblick auf zukünftige Parlamentswahlen sicherstellen sollen. Unter anderem sollen die Online-Plattformen Instrumente bereitstellen, mit denen verleumderische bzw. verbotene Inhalte gegenüber Kandidaten gemeldet werden können.18 Am 15. Mai 2019 verabschiedete die AGCOM mit der Verordnung Nr. 157/19/CONS19 eine Regelung mit Bestimmungen über die Achtung der Menschenwürde und den Grundsatz der Nichtdiskriminierung sowie die Bekämpfung von Hassreden. Sie richtet sich insbesondere an die Anbieter von Video-Sharing-Plattformen. Bis zur Umsetzung der überarbeiteten EU-Richtlinie über audiovisuelle Mediendienste (AVMD-Richtlinie 2018)20 durch die Gesetzgeber, hat die AGCOM die Anbieter von Diensten für Videoplattformen in den Geltungsbereich der Verordnung aufgenommen. Diese sollen wirksame Systeme zur Aufdeckung und Meldung von Straftaten und ihren Tätern bereitstellen und der Behörde einen vierteljährlichen Bericht über die Überwachung 15 Vgl. Haberl, Sonja, Zivilrechtlicher Schutz von Diskriminierung im Spiegel der europäischen Entwicklung: Deutschland und Italien im Vergleich, 2009, S. 135 f, abrufbar unter: http://eprints.unife.it/147/1/tesi_segreteria.pdf [zuletzt abgerufen: 09.09.2019]. 16 ARTICLE 19, „Italy: Responding to «hate speech»“, Länderbericht, 2018, S. 38, abrufbar unter: https://www.article19.org/wp-content/uploads/2018/04/Italy-Responding-to-%E2%80%98hatespeech %E2%80%99_3.4.pdf [zuletzt abgerufen: 09.09.2019]. 17 Ziccardi, Giovanni, Il negazionismo in Internet, nel deep webe sui social network: evoluzionee strumenti di contrasto, notizie di Politeia, XXXIII, 125, 2017, S. 107-119, 114 f., abrufbar unter: http://www.istorecovda.it/wp-content/uploads/2018/01/Articolo-Ziccardi-Politeia.pdf [zuletzt abgerufen: 09.09.2019]. 18 Apa, Ernesto/ Frigerio, Filippo, „Self-regulatory guidelines for online platforms for next general elections published by Italian Communication Authority“, Portolano Cavallo Studio Legale, IRIS Merlin, IRIS 2018- 3:1/24, abrufbar unter: https://merlin.obs.coe.int/iris/2018/3/article24.en.html [zuletzt abgerufen: 09.09.2019]. 19 AGCOM, REGOLAMENTO RECANTE DISPOSIZIONI IN MATERIA DI RISPETTO DELLA DIGNITÀ UMANA E DEL PRINCIPIO DI NON DISCRIMINAZIONE E DI CONTRASTO ALL’HATE SPEEC, abrufbar unter: https://www.agcom.it/documents/10179/13511391/Delibera+157-19-CONS/568d8b16-6cb6-4ea1-b58cc 171c2e24367?version=1.0 [zuletzt abgerufen: 09.09.2019]. 20 RICHTLINIE (EU) 2018/1808 des europäischen Parlaments und des Rates zur Änderung der Richtlinie 2010/13/EU vom 14. November 2018 zur Koordinierung bestimmter Rechts- und Verwaltungsvorschriften der Mitgliedstaaten über die Bereitstellung audiovisueller Mediendienste (Richtlinie über audiovisuelle Mediendienste) im Hinblick auf sich verändernde Marktgegebenheiten, abrufbar unter: https://eurlex .europa.eu/legal-content/DE/TXT/PDF/?uri=CELEX:32018L1808&from=EN [zuletzt abgerufen: 09.09.2019]. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 8 übermitteln, die durchgeführt wurde, um Online-Hassinhalte zu ermitteln. Bei einem Verstoß gegen die Verordnungen informiert und warnt die Behörde zunächst. Bei Nichteinhaltung der Warnung kann die Behörde auch ein Ordnungsgeld verhängen.21 In Bezug auf „Hassrede" in sozialen Medien hat AGCOM keine rechtlichen Befugnisse zur Regulierung oder Verhängung von Sanktionen für die Verletzung von Inhalten, die von Online- Vermittlern oder -Plattformen gehostet werden, da diese Inhalte nicht in die Definition von "audiovisuellen Mediendiensten" der EU aufgenommen wurden. Dennoch hat AGCOM 2014 eine „ständige Beobachtungsstelle für Garantien und den Schutz von Minderjährigen und der Grundrechte der Person im Internet" eingerichtet. Zu ihren Aufgaben gehört die Überwachung der "Aufstachelung zu Hass, Bedrohung, Belästigung, Mobbing, Hassreden und der Verbreitung bedauernswerter Inhalte". Sie hat auch die Aufgabe, Leitlinien für die Annahme von selbstregulierenden Verhaltenskodizes durch Internetunternehmen und Social Media Plattformen auszuarbeiten.22 2.3. Lettland In Lettland gibt es das „Law On Information Society Services“ (Informācijas sabiedrības pakalpojumu likums), das am 08.06.2011 in Kraft getreten ist.23 Es reguliert die Verbreitung von Hassrede und die Anstiftung zu Gewalt in sozialen Netzwerken insoweit, als dass Abschnitt 12 vorsieht, dass Dienstanbieter durch Aufsichtsbehörden angewiesen werden können, Informationen herauszugeben oder bestimmte Aktivitäten zu unterbinden, soweit dies für die Verhütung und Untersuchung von Straftaten und die Einleitung von Strafverfahren notwendig ist. Das Gesetz dient insoweit der Durchsetzung des im Abschnitt 78 des Strafgesetzbuches geregelten „Triggering of National, Ethnic and Racial Hatred“24. Während die Überprüfungspflicht durch das NetzDG den Anbietern sozialer Netzwerke selbst zugewiesen wird, erfolgt sie hier durch externe Aufsichtsorgane.25 21 Portolano Cavallo, The new AGCOM Regulation to counter hate speech, abrufbar unter: https://www.portolano.it/pcc_newsletters/the-new-agcom-regulation-to-counter-hate-speech/ [zuletzt abgerufen am: 09.09.2019]. 22 Article 19, ARTICLE 19 comments on new Italian regulation on ‘hate speech’, 25.07.2019, abrufbar unter: https://www.article19.org/resources/article-19-comments-on-new-italian-regulation-on-hate-speech/ [zuletzt abgerufen: 09.09.2019]. 23 Law On Information Society Services, The State Language Centre, abrufbar unter: http://www.vvc.gov.lv/export/sites/default/docs/LRTA/Likumi/Law_On_Information_Society_Services.doc [zuletzt abgerufen: 09.09.2019]. 24 The Criminal Law, The State Language Centre, abrufbar unter: http://vvc.gov.lv/image/catalog/dokumenti/The%20Criminal%20Law.doc [zuletzt abgerufen: 09.09.2019]. 25 Vgl. Abschnitt 12 f. Law on Information Society Services, The State Language Centre, abrufbar unter: http://www.vvc.gov.lv/export/sites/default/docs/LRTA/Likumi/Law_On_Information_Society_Services.doc [zuletzt abgerufen: 09.09.2019]. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 9 2.4. Österreich Auch in Österreich gibt es keine dem NetzDG vergleichbare Regelung. In § 283 Strafgesetzbuch (StGB)26 existiert der Tatbestand der Verhetzung. Dieser belegt das ausdrückliche Hetzen gegen jemanden in der Öffentlichkeit oder vor einer breiten Masse, aufgrund von dessen Zugehörigkeit zu einer bestimmten Gruppe sowie dessen Beschimpfung auf eine die Menschenwürde verletzende Weise, mit bis zu zwei Jahren Haft. Seit Januar 2016 ist insbesondere „Cyber- Mobbing" als „fortgesetzte Belästigung im Wege einer Telekommunikation oder eines Computersystems" nach § 107 c Strafgesetzbuch strafbar.27 Es handelt sich dabei um ein Offizialdelikt, das heißt, dass die Staatsanwaltschaft die Handlung von Amts wegen zu verfolgen hat. Darüber hinaus existiert eine Vereinbarung der Österreichischen Regierung mit Facebook über die Koordinierung mit Strafverfolgungsbehörden und die schnelle Löschung von illegaler „Hate Speech“. Das Oberlandesgericht Wien hat im Jahr 2017 entschieden, dass Facebook als Hassbeiträge gewertete Inhalte auf der gesamten Plattform löschen muss und nicht nur für österreichische Nutzer sperren darf.28 Darüber hinaus liegt ein Gesetzesentwurf vor, mit dem ein Bundesgesetz über Sorgfalt und Verantwortung im Netz erlassen und das KommAustria-Gesetz29 geändert werden soll. Laut den entsprechenden Erläuterungen sollen Diensteanbieter, die Foren betreiben oder die Einrichtung eines Forums ermöglichen, die Identität der Poster überprüfen müssen, so dass Personen im Anlassfall identifizierbar sind. Denn nur wenn durch eine Authentifizierung auch die Identifizierung der Täter bei Rechtsverletzungen möglich wäre, würden die gleichen Maßstäbe wie auch in der analogen Welt gelten können.30 2.5. Großbritannien Im Vereinigten Königreich wird insbesondere mit dem „Public Order Act von 1986“31 Verhalten kriminalisiert, das sich als „Hate Speech“ einstufen ließe.32 Danach macht sich strafbar, wer „bedrohende, schmähende oder beleidigende Worte oder Verhaltensweisen verwendet, oder bedrohende, schmähende oder beleidigende Schriften zur Schau stellt, wenn: a) er hierdurch Rassenhass (racial hatred) zu verbreiten beabsichtigt, oder b) es in der Gesamtschau aller Umstände wahrscheinlich ist, dass hierdurch Rassenhass verbreitet wird.“33 „Rassenhass“ wird dabei definiert als „Hass gegen Personengruppen von bestimmter Hautfarbe, Rasse, Nationalität (inklusive Staatsbürgerschaft) oder ethnischer oder nationaler Herkunft.“34 Ein ähnlicher Straftatbestand umfasst dementsprechende Äußerungen und Verhaltensweisen, mit denen ein Täter religiösen Hass oder Hass aufgrund sexueller Orientierung zu erregen beabsichtigt.35 Ein Gesetz, das sich speziell mit der Rechtsdurchsetzung in Bezug auf die Verbreitung von Hass und der Anstiftung zu Gewalt in sozialen Netzwerken befasst, gibt es nicht. Wiederholt hat die 26 Bundesgesetz vom 23. Jänner 1974 über die mit gerichtlicher Strafe bedrohten Handlungen (Strafgesetzbuch – StGB) StF: BGBl. Nr. 60/1974, abrufbar unter: https://www.ris.bka.gv.at/GeltendeFassung.wxe?Abfrage=Bundesnormen&Gesetzesnummer=10002296 [zuletzt abgerufen: 09.09.2019]. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 10 Britische Regierung betont, dass das, was offline illegal ist, auch online illegal sei.36 Im April 2019 veröffentlichte die (damalige) britische Regierung ein White Paper, welches Pläne zur Regulierung von „schädlichen Inhalten im Internet“ enthält („Online Harms“).37 Dabei geht es darum, „weitverbreitete illegale und inakzeptable Inhalte und Aktivitäten im Internet im Rahmen eines angemessenen und wirksamen legislativen Ansatzes anzugehen, der die Verpflichtung für 27 „Cyber-Mobbing“, Bundesministerium für Digitalisierung und Wirtschaftsstandort, 25.04.2018, abrufbar unter: https://www.help.gv.at/Portal.Node/hlpd/public/content/172/Seite.1720229.html [zuletzt abgerufen: 09.09.2019]. 28 OLG Wien Beschl. v. 26.4.2017, 5 R 5/17t, BeckRS 2017, 110082, beck-online. 29 Bundesgesetz über die Einrichtung einer Kommunikationsbehörde Austria („KommAustria“) (KommAustria- Gesetz – KOG), StF: BGBl. I Nr. 32/2001, abrufbar unter: https://www.ris.bka.gv.at/GeltendeFassung.wxe?Abfrage=Bundesnormen&Gesetzesnummer=20001213 [zuletzt abgerufen: 09.09.2019]. 30 Ministerialentwurf, Erläuterungen, abrufbar unter: https://www.parlament.gv.at/PAKT/VHG/XXVI/ME/ME_00134/fname_747397.pdf [zuletzt abgerufen: 09.09.2019]. 31 Public Order Act 1986, up to date with all changes known to be in force on or before 13 August 2019, abrufbar unter: https://www.legislation.gov.uk/ukpga/1986/64/contents [zuletzt abgerufen: 09.09.2019]. 32 Ein guter Überblick findet sich in dem Landesbericht „United Kingdom (England and Wales): Responding to hate speech” (2018) der Nichtregierungsorganisation ARTICLE 19, S. 17-20, abrufbar unter: https://www.article19.org/wp-content/uploads/2018/06/UK-hate-speech_March-2018.pdf [zuletzt abgerufen: 09.09.2019]. 33 Section 18, Public Order Act 1986 (eigene Übersetzung), abrufbar im englischen Original unter http://www.legislation.gov.uk/ukpga/1986/64/section/18 [zuletzt abgerufen: 09.09.2019]. Der Originaltext lautet: “A person who uses threatening, abusive or insulting words or behaviour, or displays any written material which is threatening, abusive or insulting, is guilty of an offence if – (a) he intends thereby to stir up racial hatred, or (b) having regard to all the circumstances racial hatred is likely to be stirred up thereby.” 34 Section 17, Public Order Act (eigene Übersetzung). Der Originaltext lautet: “racial hatred means hatred against a group of persons defined by reference to colour, race, nationality (including citizenship) or ethnic or national origins.” 35 Section 29B, Public Order Act (eigene Übersetzung). Der Originaltext lautet: “A person who uses threatening words or behaviour, or displays any written material which is threatening, is guilty of an offence if he intends thereby to stir up religious hatred or hatred on the grounds of sexual orientation”. 36 Vgl. „Action Against Hate: The UK Government’s action plan for tackling hate crime“, Home Office, Juli 2016, Abschnitt 4, Absatz 70, S. 28, abrufbar unter: https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/543679/Acti on_Against_Hate_-_UK_Government_s_Plan_to_Tackle_Hate_Crime_2016.pdf [zuletzt abgerufen: 09.09.2019]. 37 GOV.UK, Online Harms White Paper, updated 26 June 2019, abrufbar unter. https://www.gov.uk/government/consultations/online-harms-white-paper/online-harms-white-paper [zuletzt abgerufen: 09.09.2019]. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 11 ein freies, offenes und sicheres Internet widerspiegelt.“38 Ein entsprechender Gesetzentwurf wurde bisher nicht eingebracht.39 2.6. Europäische Union Auch auf der Ebene der Europäischen Union existiert zwar bisher keine gesetzliche Regelung zu „Hate Speech“ im Internet. Im Mai 2016 wurde jedoch der EU-Verhaltenskodex zur Bekämpfung von Hetze im Internet eingeführt, zu dessen Einhaltung sich die vier IT-Unternehmen Facebook, Twitter, YouTube und Microsoft verpflichtet haben.40 Im Laufe des Jahres 2018 haben mit Google+, Instagram, Snapchat und Dailymotion vier weitere Unternehmen beschlossen, dem Kodex beizutreten.41 Unter anderem haben die Unternehmen sich damit dazu bereiterklärt, die Mehrheit der gültigen Meldungen in Bezug auf die Entfernung illegaler Hassreden in weniger als 24 Stunden zu überprüfen und die Inhalte ggf. zu entfernen oder den Zugang dazu zu sperren. Die Kommission überwacht und bewertet die Entwicklung fortlaufend.42 Nach ihren Angaben würden IT-Unternehmen mittlerweile 89 % der gemeldeten Inhalte innerhalb von 24 Stunden prüfen und 72 % der Inhalte entfernen, die als illegale Hetze betrachtet werden.43 Auch im Rahmen der Novellierung der europäischen Richtlinie für audiovisuelle Mediendienste (AVMD) wird „Hate Speech“ entgegengetreten. Danach gelten die Vorschriften nicht mehr wie bislang nur für Rundfunkanstalten, sondern erfassen auch Video-On-Demand- und Video- Sharing-Plattformen wie YouTube, Netflix oder Facebook. Nach den neuen Vorschriften sollen die Mitgliedstaaten künftig sicherstellen, dass in audiovisuellen Medien nicht zu Hass, Gewalt oder Terrorismus aufgerufen wird. Die Betreiber solcher Plattformen müssen nutzerfreundliche Mechanismen schaffen, über die etwa gewaltverherrlichende Videos oder Hassreden gemeldet 38 Vgl. ebd., Absatz Nr. 2 und 9. 39 Wissenschaftliche Dienste des Deutschen Bundestages, Behandlung von „Hate Speech“ vor 2015, a.a.O. 40 Europäische Kommission, „Europäische Kommission und IT-Unternehmen geben Verhaltenskodex zur Bekämpfung illegaler Hassrede im Internet bekannt “, Pressemitteilung, 31.05.2016, abrufbar unter: http://europa.eu/rapid/press-release_IP-16-1937_de.htm [zuletzt abgerufen: 09.09.2019]. 41 Europäische Kommission, Bekämpfung illegaler Hetze im Internet, 04.02.2019, abrufbar unter: https://ec.europa.eu/commission/news/countering-illegal-hate-speech-online-2019-feb-04_de [zuletzt abgerufen am: 09.09.2019]. 42 Zuletzt: „Results of Commission's last round of monitoring of the Code of Conduct against online hate speech“, 19.01.2018, abrufbar unter: http://ec.europa.eu/newsroom/just/item-detail.cfm?item_id=612086 [zuletzt abgerufen: 09.09.2019]. 43 Europäische Kommission, Bekämpfung illegaler Hetze im Internet, 04.02.2019, abrufbar unter: https://ec.europa.eu/commission/news/countering-illegal-hate-speech-online-2019-feb-04_de [zuletzt abgerufen am: 09.09.2019]. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 12 werden können. Solche Inhalte haben die Anbieter der Plattformen nach entsprechender Prüfung dann zu löschen.44 Darüber hinaus hat der Oberste Gerichtshof Österreichs dem EuGH Fragen zur noch abzuwartenden Vorabentscheidung vorgelegt, die die rechtliche Einordnung von „Hate Speech“ vor dem Hintergrund des Europarechts betreffen.45 Der Generalanwalt des EuGH plädierte dafür, dass Facebook und Co. wort- und sinngleiche Hasspostings selbst erkennen und löschen müssen. Die Plattformen würden also dazu verpflichtet, aktiv nach Inhalten zu suchen, die gemeldeten Hasskommentaren ähneln. Allerdings solle zwischen wort- und sinngleichen Beiträgen unterschieden werden. Während wortgleiche Beiträge im gesamten Netzwerk durchsucht werden sollen, müsse nach sinngleichen Beiträgen nur in den Inhalten desselben Autors gesucht werden.46 Das Urteil steht noch aus, allerdings folgt der EuGH in der Regel dem Generalanwalt. Der Europarat setzt sich im Hinblick auf die Europäische Menschenrechtskonvention gegen „Hate Speech“ auch im Internet ein, bspw. durch die Jugend-Kampagne „No Hate Speech Movement“, die sich von 2012 bis 2018 dafür engagierte sog. Hassrede zu vermeiden und aktiv dagegen vorzugehen.47 Auch brachte der Europarat ein Handbuch zur „Bekämpfung von Hate Speech im Internet durch Menschenrechtsbildung“ heraus.48 Der Europäische Gerichtshof für Menschenrechte (EGMR) hat im März 2019 ein Factsheet und eine Art Kasuistik von Fällen des EGMR veröffentlicht, die „Hate Speech“ zum Gegenstand hatten.49 2.7. USA Die Vereinigten Staaten von Amerika nehmen im internationalen Vergleich hinsichtlich der staatlichen Regulierung von „Hate Speech“ eine Sonderrolle ein.50 Ihr verfassungsrechtlicher Schutz ist dort weitaus ausgeprägter als in Deutschland, weiteren europäischen Ländern, Kanada 44 Medienkorrespondenz, EU-Richtlinie für audiovisuelle Mediendienste: Umsetzung bis September 2020, 03.01.2019, abrufbar unter: https. ://www.medienkorrespondenz.de/politik/artikel/eu-richtlinie-fueraudiovisuelle -mediendienste-umsetzung-bis-septembernbsp2020.html [zuletzt abgerufen: 09.09.2019]. 45 OGH Wien Beschl. v. 25.10.2017 – 6 Ob 116/17b, BeckRS 2017, 138184, beck-online. 46 Deutschlandfunk Nova, EuGH will Plattformen zur Suche von Hate-Speech verpflichten, 05.06.2019, abrufbar unter: https://www.deutschlandfunknova.de/beitrag/eugh-facebook-soll-hate-speech-aktiv-suchen [zuletzt abgerufen am: 09.09.2019] 47 Das nationale Kampagnen Komitee in Deutschland, abrufbar unter: https://no-hate-speech.de/de/netzwerk/ [zuletzt abgerufen: 09.09.2019]. 48 „Bekämpfung von Hate Speech im Internet durch Menschenrechtsbildung“, Europarat, 2016, abrufbar unter: https://rm.coe.int/16806f9b35 [zuletzt abgerufen: 09.09.2019]. 49 „Hate Speech“, European Court of Human Rights, März 2019, abrufbar unter: https://www.echr.coe.int/Documents/FS_Hate_speech_ENG.pdf [zuletzt abgerufen: 09.09.2019]. 50 Wissenschaftliche Dienste des Deutschen Bundestages, Behandlung von „Hate Speech“ vor 2015, a.a.O. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 13 und der Mehrheit der anderen Staaten mit jüngeren Verfassungen.51 Die US-amerikanischen Gerichte räumen der Meinungsfreiheit einen nahezu absoluten Schutz ein, worin sie sich von den deutschen Gerichten deutlich unterscheiden.52 Erst wo eine Äußerung direkt zu unmittelbar bevorstehendem rechtswidrigen Verhalten aufruft („imminent lawless action“) und geeignet ist, ein solches Verhalten auch tatsächlich auszulösen, tritt der Schutz der Meinungsfreiheit zurück.53 Für diesen ausgeprägten Schutz auch von Äußerungen, die sich wohl als „Hate Speech“ klassifizieren ließen, werden verschiedene Begründungsmuster angeführt. So sei in den Vereinigten Staaten das Misstrauen gegenüber der Regierung stärker ausgeprägt, welche nicht zwischen guten und schlechten Meinungen unterscheiden solle.54 Es bestehe dort ein größeres Vertrauen in den Wettbewerb der Meinungen.55 3. „Fake News“ Die Regulierung von „Fake News“ betreffenden Gesetze sind ganz allgemein solche, die die Verbreitung falscher Informationen betreffen. Ein mit dem NetzDG in Deutschland vergleichbares Regelwerk, mit dem neben „Hasskriminalität“ auch „strafbare Falschnachrichten (‚Fake News‘)“ bekämpft werden sollen,56 existiert bei Abschluss der Arbeit nicht. In Frankreich gibt es jedoch ein Gesetz zur temporären Regulierung von „Fake News“ im Zusammenhang mit Wahlen. Auch ist ein deutlicher Trend zu erkennen, dass sich viele Länder intensiv mit der Thematik auseinandersetzen. Im Übrigen bestehen die üblichen zivil- und presserechtlichen Unterlassungs-, Beseitigungs- und Gegendarstellungsansprüche Betroffener bzw. die strafrechtliche Ahndung von Verleumdungs- oder Volksverhetzungstatbeständen. 51 Brugger, W. (2002), Ban on or protection of hate speech-some observations based on German and American law, Tul. Eur. & Civ. LF, 17, 1, S. 2. 52 Ebd., S. 7. 53 Dieser Standard wurde vom Obersten Gerichtshof der Vereinigten Staaten 1969 im Fall Brandenburg v. Ohio, 395 U.S. 444 (1969) etabliert und wird daher auch der Brandenburg-Test genannt. Er ist bis heute gültig, wie u.a. Brugger, Kiska und Bleich ausführen. Siehe dazu Brugger, a.a.O., S. 14 f., Kiska, R. (2012). Hate speech: a comparison between the European Court of Human Rights and the United States Supreme Court jurisprudence. Regent UL Rev., 25, S. 142-144, Bleich, The Rise of Hate Speech and Hate Crime Laws in Liberal Democracies, Journal of Ethnic and Migration Studies, Vol. 37, No. 6, S. 922 f. 54 Brugger, ebd, S. 14. 55 Ebd. 56 Siehe insbesondere hierzu Problemdarstellung und Zielsetzung des Gesetzesentwurfs der Fraktionen der CDU/CSU und SPD, Entwurf eines Gesetzes zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken, (Netzwerkdurchsetzungsgesetz – NetzDG), a.a.O., S.1. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 14 3.1. Frankreich In Frankreich sieht man insbesondere seit der Präsidentschaftswahl im April und Mai 2017 eine Gefahr der Wahlbeeinflussung57 durch „Fake News“, so dass man sich für die Einführung eines Gesetzes58 entschied, welches bis zu drei Monate vor einer landesweiten Wahl Anwendung finden und die Manipulation von Informationen verhindern soll.59 Hierbei können Rundfunkbetreiber und Internetplattformen gesperrt werden sowie Urheber der Manipulationen mit Gefängnis- und Geldstrafen belegt werden. Das Gesetz soll ein rasches Handeln in Wahlkampfzeiten ermöglichen und konzentriert sich auf die Verhinderung jeglicher Versuche, insbesondere ausländischer Medien, die Wahl durch Falschinformationen zu beeinflussen oder zu manipulieren. Hierzu soll ein Verfahren im einstweiligen Rechtsschutz eingeleitet werden, in dessen Verlauf ein Richter innerhalb von 48 Stunden über die vorgebrachten Tatsachen entscheiden muss, um die Verbreitung derartiger Informationen zu untersagen. Die Rundfunkbehörde soll letztlich die Befugnis dazu erhalten, Fernsehkanäle ausländischer Staaten aussetzen zu können.60 Der französische Senat hatte den hiesigen Gesetzesentwurf zunächst abgelehnt, da er Befürchtungen hatte, er sei mit der Meinungs- und Pressefreiheit nicht vereinbar. Gerade die Meinungsfreiheit sei insbesondere während des Wahlkampfes zur Führung von politischen Debatten von besonderer Bedeutung und dürfe nicht durch ein Gesetz eingeschränkt werden.61 Die Nationalversammlung entschied schlussendlich für die Einführung der genannten Maßnahmen. 57 Discours du Président de la République Emmanuel Macron à l'occasion des voeux à la presse, publié le 04 janvier 2018, abrufbar unter: https://www.elysee.fr/emmanuel-macron/2018/01/03/voeux-du-president-de-larepublique -emmanuel-macron-a-la-presse [zuletzt abgerufen: 09.09.2019]. 58 LOI no 2018-1202 du 22 décembre 2018 relative à la lutte contre la manipulation de l’information (1), JOUR- NAL OFFICIEL DE LA RÉPUBLIQUE FRANÇAISE, 23.12.2018 in Verbindung mit LOI organique no 2018-1201 du 22 décembre 2018 relative à la lutte contre la manipulation de l’information (1), JOURNAL OFFICIEL DE LA RÉ-PUBLIQUE FRANÇAISE, 23.12.2018, abrufbar unter: https://www.legifrance.gouv.fr/affichTexte.do?cidTexte=JORFTEXT000037847559&categorieLien=id [zuletzt abgerufen: 09.09.2019]. 59 Vgl. hierzu auch Wissenschaftliche Dienste des Deutschen Bundestages, Gesetzgebungsvorhaben zur Bekämpfung von Falschinformationen in Frankreich, WD 10 - 3000 - 051/18, 08.08.2018, abrufbar unter: https://www.bundestag.de/resource/blob/569428/c638e1ab9c4902e7bb1e80d437198a3a/WD-10-051-18-pdfdata .pdf [zuletzt abgerufen: 09.09.2019]. 60 Wissenschaftliche Dienste des Deutschen Bundestages, Initiativen gegen die Beeinflussung der Meinungsbildung durch ausländische Medien, WD 10-3000-027/19, 15.05.2019, abrufbar unter: https://www.bundestag.de/resource/blob/648952/41b768758a83e47af8b291765693ff09/WD-10-027-19-pdfdata .pdf [zuletzt abgerufen: 09.09.2019]. 61 Senatssitzung vom 18. Juli 2018 betreffend des Gesetzesentwurfs zur Verhinderung einer Beeinflussung von Wahlen, abrufbar unter: https://www.senat.fr/espace_presse/actualites/201806/lutte_contre_les_fausses_informations.html; https://www.senat.fr/enseance/2017-2018/623/Amdt_2.html [zuletzt abgerufen: 09.09.2019]. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 15 Da der Anwendungsbereich dieses Gesetzes jedoch zeitlich begrenzt ist, ist diese Vorschrift nur im Kern mit der oben aufgeworfenen Thematik verwandt. Es zeigt sich jedoch die steigende Tendenz eines politischen Bedürfnisses für regulatorische Maßnahmen im Hinblick auf den Einfluss ausländischer Medien auf die inländische Meinungsbildung.62 3.2. Großbritannien Das Unterhaus des Parlaments des Vereinigten Königreichs hat am 18. Februar 2019 einen Bericht63 zum Thema „Desinformation und Fake News“ veröffentlicht. Darin wird unter anderem die Gefahr der Einflussnahme ausländischer (insbesondere russischer) Medien auf politische Wahlen angegeben. Im Zuge dessen sollen im Vereinigten Königreich zukünftig vor allem soziale Medien in die Pflicht genommen werden, „Fake News“ und Desinformationen von ihren Plattformen zu nehmen. Außerdem wird die Regierung aufgerufen, derzeitige wahlspezifische Kommunikationsgesetze und Regeln über die Beeinflussung aus Übersee zu reformieren.64 3.3. Litauen In Litauen wird Desinformation ausdrücklich im Gesetz über die Bereitstellung von Informationen für die Öffentlichkeit von 1996 behandelt.65 Es handelt sich dabei um allgemeine, nicht jedoch speziell die sozialen Medien betreffenden Regelungen. Danach ist es verboten, Desinformationen und Informationen zu verbreiten, die eine Person verleumden, beleidigen oder ihre Ehre und Würde herabsetzen, vgl. Art. 19 des Gesetzes. Ist eine betroffene natürliche oder juristische Person der Ansicht, dass ein Urheber bzw. Verbreiter von öffentlichen Informationen, solche Informationen veröffentlicht bzw. verbreitet hat, die vermutlich nicht veröffentlicht werden sollen, so hat er danach das Recht, bei der litauischen Rundfunkanstalt einen Antrag auf Durchführung von Ermittlungen zu stellen. Diese hat dann eine Entscheidung bzgl. der 62 Wissenschaftliche Dienste des Deutschen Bundestages, Initiativen gegen die Beeinflussung der Meinungsbildung durch ausländische Medien, WD 10-3000-027/19, a.a.O. 63 House of Commons, Digital, Culture, Media and Sport Committee, Disinformation and ‘fake news’: Final Report, 18 February 2019, abrufbar unter: https://publications.parliament.uk/pa/cm201719/cmselect/cmcumeds/1791/1791.pdf [zuletzt abgerufen: 09.09.2019]; Vgl auch Parliament.uk, Disinformation and ‘fake news’: Final Report published, 18.02.2019, abrufbar unter: https://www.parliament.uk/business/committees/committees-a-z/commons-select/digitalculture -media-and-sport-committee/news/fake-news-report-published-17-19/ [zuletzt abgerufen: 09.09.2019]. 64 Wissenschaftliche Dienste des Deutschen Bundestages, Initiativen gegen die Beeinflussung der Meinungsbildung durch ausländische Medien, WD 10-3000-027/19, a.a.O. 65 Republic of Lithuania Law on the Provision of Information to the Public, abrufbar unter: https://eseimas .lrs.lt/portal/legalAct/lt/TAD/2865241206f511e687e0fbad81d55a7c?jfwid=1clcwosx33 [zuletzt abgerufen: 09.09.2019]. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 16 Veröffentlichung bzw. Verbreitung zu treffen. Sie kann auch Sanktionen aussprechen, wie die Aussetzung oder den Widerruf der Sendelizenzen. 3.4. Österreich In Österreich existierte seit 1974 ein Gesetz, das die Verbreitung falscher, beunruhigender Gerüchte sanktionierte, § 276 Strafgesetzbuch a.F. Es wurde jedoch im Jahr 2016 außer Kraft gesetzt.66 3.5. Italien Auch im römischen Senat wurde ein Gesetzesentwurf67 zur Bekämpfung von „Fake News“ eingebracht. Er beinhaltet Maßnahmen für das IT-Recht und strafrechtliche Konsequenzen für die Verbreitung von „Fake News“. Die erste Lesung hat am 28. Februar 2017 stattgefunden. Weitere Verhandlungstermine wurden noch nicht bekanntgegeben.68 Die Gesetzesvorlage sieht zunächst die Einführung eines neuen Straftatbestands in Art. 656-bis Abs. 1 italienisches Strafgesetzbuch (iStGB) vor. Danach soll mit Geldbuße bis zu € 5.000,- bestraft werden, wer falsche, übertriebene oder tendenziöse Nachrichten über offenkundig haltlose oder unwahre Daten bzw. Fakten über die sozialen Medien oder andere Webseiten, die nicht zum sog. Online-Journalismus gehören, veröffentlicht oder verbreitet, sofern der Sachverhalt keine schwere Straftat darstellt. Der zweite Absatz des neuen Art. 656-bis iStGB sieht ein Recht auf Wiedergutmachung vor, wenn durch die Verbreitung der in Absatz 1 genannten Nachrichten über das Internet eine strafrechtliche Verleumdung (Art. 595 iStGB) begangen wurde. In diesem Fall kann der Betroffene nicht nur Schadensersatz, sondern darüber hinaus auch einen Geldbetrag als Wiedergutmachung verlangen. 66 „Bundesrecht konsolidiert: Strafgesetzbuch § 276, Fassung vom 25.09.2015“, BGBl. I Nr. 112/2015, Bundeskanzleramt, abrufbar unter: https://www.ris.bka.gv.at/NormDokument.wxe?Abfrage=Bundesnormen&Gesetzesnummer=10002296&Fassung Vom=2015-09-25&Artikel=&Paragraf=276&Anlage=&Uebergangsrecht= [zuletzt abgerufen: 09.09.2019]. 67 Gesetzesentwurf N. 2688 vom 07.02.2017 für Bestimmungen zur Verhinderung von Online- Informationsmanipulation, zur Gewährleistung der Transparenz im Internet und zur Förderung der Medienkompetenz, abrufbar unter: https://www.senato.it/leg/17/BGT/Schede/Ddliter/47680.htm [zuletzt abgerufen: 09.09.2019]. 68 Senato della Repubblica, Disegni di legge, Atto Senato n. 2688, Disposizioni per prevenire la manipolazione dell'informazione online, garantire la trasparenza sul web e incentivare l'alfabetizzazione mediatica, XVII Legislatura, abrufbar unter: https://www.senato.it/leg/17/BGT/Schede/Ddliter/47680.htm [zuletzt abgerufen: 09.09.2019]. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 17 Im Rahmen der Straftaten gegen den Staat sollen zwei weitere Straftatbestände eingeführt werden. Diese betreffen falsche, übertriebene oder tendenziöse Nachrichten, die die Öffentlichkeit beunruhigen, Bereiche der öffentlichen Meinung irreleiten oder Kampagnen darstellen, die der demokratischen Willensbildung schaden sollen. So wird nach Art. 265-bis iStGB mit Freiheitsstrafe nicht unter 12 Monaten bzw. Geldbuße bis zu € 5.000,- bestraft, wer falsche, übertriebene oder tendenziöse Gerüchte oder Nachrichten verbreitet oder veröffentlicht, die die Öffentlichkeit beunruhigen können. Ebenso wird bestraft, wer eine Tätigkeit durchführt, die die öffentlichen Interessen schädigt, auch mittels Kampagnen, die über die Medien oder andere Online-Medien durchgeführt werden und nicht zum Online-Journalismus gehören, oder mit dem Ziel getätigt werden, Bereiche der öffentlichen Meinung irrezuleiten. Der neue Art. 265-ter iStGB soll darüber hinaus Verantwortliche für Kampagnen bestrafen, die das Ziel haben oder zumindest geeignet sind, die öffentlichen Interessen und auch die korrekte Ausübung der demokratischen Willensbildung zu schädigen.69 Im Vorfeld der Parlamentswahlen in Italien am 4. März 2018 hatte die damalige Regierung ein Online-Portal eingerichtet, das die Bevölkerung zur Meldung von „Fake News“ nutzen konnte.70 Dabei sei aber unklar geblieben, ob dieses Portal bzw. ob „Fake News“ überhaupt eine reale Wirkung auf den Wähler gehabt hätten.71 69 Wissenschaftliche Dienste des Deutschen Bundestages, Initiativen gegen die Beeinflussung der Meinungsbildung durch ausländische Medien, WD 10-3000-027/19, a.a.O. 70 Funke, Daniel, Italians can now report fake news to the police, Poynter.Search, 19.01.2018, abrufbar unter: https://www.poynter.org/fact-checking/2018/italians-can-now-report-fake-news-to-the-police-heres-why-thatsproblematic / [zuletzt abgerufen: 09.09.2019]. 71 Ebd. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 18 3.6. Europäische Kommission Die Europäische Union geht seit 2015 aktiv gegen Desinformation vor. Desinformationen können hierbei falsche oder irreführende Informationen zugrunde liegen.72 Nach dem Beschluss des Europäischen Rates vom März 2015 wurde die East StratCom Task Force im Europäischen Auswärtigen Dienst (EAD) eingerichtet, um aus Sicht der EU Russlands „anhaltenden Desinformationskampagnen“ entgegenzuwirken.73 Im April 2018 legte die Kommission einen Aktionsplan sowie Selbstregulierungsinstrumente zur Bekämpfung von Desinformation im Internet vor. Im Oktober 2018 wurde der Verhaltenskodex von Facebook, Google, Twitter und Mozilla sowie von den Fachverbänden der Online- Plattformen, der Werbebranche und der Werbetreibenden unterzeichnet. Facebook, Google und Twitter erklärten sich dazu bereit, monatlich über die im Vorfeld der Wahlen zum Europäischen Parlament ergriffenen Maßnahmen zu berichten. Die Kommission überwacht mithilfe der Gruppe europäischer Regulierungsstellen für audiovisuelle Mediendienste (ERGA) die Fortschritte und veröffentlicht monatliche Bewertungen. Am 22. Mai schloss sich Microsoft dem Verhaltenskodex an.74 Allerdings handelt es sich bei dem Verhaltenskodex um eine nicht rechtlich bindende Vereinbarung. Eine Möglichkeit zur rechtlichen Durchsetzung des Kodex steht der EU nicht zu. Laut dem jüngsten Bericht der Kommission haben Google, Facebook und Twitter die Überprüfung von Werbeplatzierungen verbessert, um die Werbeeinnahmen für Anbieter von Desinformationen zu reduzieren, z.B. durch das Schalten von Anzeigen und das Schließen von Werbekonten. Ungeachtet dieser Erfolge müssten die Plattformen jedoch noch mehr tun, um Desinformationen wirksam zu bekämpfen. Nach Aussage der Kommission sollten alle Plattformen ihre Zusammenarbeit mit Tatsachenprüfern in allen Mitgliedstaaten intensivieren und die Nutzer in die Lage versetzen, Desinformationen besser zu erkennen. Die Plattformen 72 Zur Definition von Desinformation der EU vgl. EU-Kommission, Aktionsplan gegen Desinformation, Gemeinsame Mitteilung an das Europäische Parlament, den Europäischen Rat, den Rat, den Europäischen Wirtschaftsund Sozialausschuss und den Ausschuss der Regionen, JOIN(2018) 36 final, Brüssel, 5.12.2018, S. 1, http://eudoxap01.bundestag.btg:8080/eudox/dokumentInhalt?id=207158 [zuletzt abgerufen: 09.09.2019]. Desinformation wird hier so definiert: „‘Desinformation‘ sind nachweislich falsche oder irreführende Informationen , die mit dem Ziel des wirtschaftlichen Gewinns oder der vorsätzlichen Täuschung der Öffentlichkeit konzipiert, vorgelegt und verbreitet werden und öffentlichen Schaden anrichten können.“ Der Ausdruck „öffentlicher Schaden“ wird an gleicher Stelle wie folgt definiert: „Unter ‚öffentlichem Schaden‘ sind Bedrohungen für die demokratischen Prozesse sowie für öffentliche Güter wie die Gesundheit der Unionsbürgerinnen und -bürger, die Umwelt und die Sicherheit zu verstehen. Versehentliche Fehler bei der Berichterstattung , Satire und Parodien oder eindeutig gekennzeichnete parteiliche Nachrichten oder Kommentare sind keine Desinformation. Die in diesem Aktionsplan enthaltenen Maßnahmen sind nur auf Desinformationsinhalte ausgerichtet, die nach dem Unionsrecht oder dem nationalen Recht rechtmäßig sind. Sie lassen das anwendbare Recht der Union und der Mitgliedstaaten, einschließlich der Vorschriften über illegale Inhalte, unberührt.“ 73 Europäische Kommission, Kommission sieht Fortschritte im Kampf gegen Desinformation, 14.06.2019, abrufbar unter: https://ec.europa.eu/germany/news/20190614-kampf-gegen-desinformation_de [zuletzt abgerufen: 09.09.2019]. 74 Europäische Kommission, Kommission sieht Fortschritte im Kampf gegen Desinformation, 14.06.2019, abrufbar unter: https://ec.europa.eu/germany/news/20190614-kampf-gegen-desinformation_de [zuletzt abgerufen: 09.09.2019]. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 19 sollten auch zusätzliche Datensätze der Forschungsgemeinschaft zur Verfügung stellen. 75 Neben der Einrichtung der Taskforces für strategische Kommunikation zur Erkennung von Desinformationen hat die Kommission auch die koordinierte Reaktionsfähigkeit durch die Einrichtung eines Frühwarnsystems verbessert, das den Informationsaustausch zwischen den Mitgliedstaaten und den EU-Organen erleichtert.76 Nach eigenen Angaben werde die Kommission noch in diesem Jahr über die Umsetzung des Pakets zu den Wahlen berichten und die Wirksamkeit des Verhaltenskodex bewerten. Auf dieser Grundlage werde sie weitere Maßnahmen zur Verbesserung der langfristigen Reaktionsfähigkeit der EU auf die Bedrohung durch Desinformation erwägen.77 3.7. USA In den USA ist der Schutz der Meinungsfreiheit wie bereits oben dargestellt besonders weitreichend . Anders als die zuvor untersuchten europäischen Rechtsordnungen weigert sich die amerikanische Regierung, zwischen wahren und falschen Ideen im öffentlichen Diskurs zu unterscheiden . Diesem umfassenden Schutz der freien Meinungsäußerung liegt ein tiefes Misstrauen gegenüber der Fähigkeit der Regierung zugrunde, die richtigen Grenzen zwischen Wahrheit und Falschheit zu ziehen. Das Gericht ist nur dann bereit, „Fake News“ zu regulieren, wenn ein erkennbarer Schaden mit der Unwahrheit verbunden ist, wie im Falle von Diffamierung, irreführender , kommerzieller Äußerung oder Betrug. „Fake News“ stehen daher nur dann mit dem Schutz der Meinungsfreiheit im Konflikt, wenn es Beweise für einen rechtlich erkennbaren Schaden gibt.78 Allerdings wurde im Zusammenhang mit politischer Werbung in den Kongress der Vereinigten Staaten am 7. Mai 2019 ein Gesetzentwurf zur Verstärkung der Transparenz und Rechenschaft 75 Europäische Kommission, Last intermediate results of the EU Code of Practice against disinformation, 14.06.2019, abrufbar unter: https://ec.europa.eu/digital-single-market/en/news/last-intermediate-results-eucode -practice-against-disinformation [zuletzt abgerufen: 09.09.2019]; Europäische Kommission, A Europe that protects: EU reports on progress in fighting disinformation ahead of European Council, 14.06.2019, abrufbar unter: https://europa.eu/rapid/press-release_IP-19-2914_en.htm [zuletzt abgerufen: 09.09.2019]. 76 Europäische Kommission, Kommission sieht Fortschritte im Kampf gegen Desinformation, 14.06.2019, abrufbar unter: https://ec.europa.eu/germany/news/20190614-kampf-gegen-desinformation_de [zuletzt abgerufen: 09.09.2019]. 77 Europäische Kommission, Kommission sieht Fortschritte im Kampf gegen Desinformation, 14.06.2019, abrufbar unter: https://ec.europa.eu/germany/news/20190614-kampf-gegen-desinformation_de [zuletzt abgerufen: 09.09.2019]. 78 Irini Katsirea, “Fake news”: reconsidering the value of untruthful expression in the face of regulatory uncertainty, 30.01.2019, abrufbar unter: https://www.tandfonline.com/doi/full/10.1080/17577632.2019.1573569 [zuletzt abgerufen: 09.09.2019]. Wissenschaftliche Dienste Sachstand WD 10 - 3000 - 059/19 Seite 20 (accountability) wieder eingebracht: Honest Ads Act (S. 1356)79. Der Gesetzentwurf80 sieht eine Erweiterung der Offenlegungspflichten für politische Werbung vor. Nach dem Bundeswahlkampfgesetz von 1971 (Federal Election Campaign Act (FECA) of 197181)ist bei politischen Anzeigen im Fernsehen, in Zeitungen und im Radio offen zu legen, wer die Werbung bezahlt hat. Der Honest Ads Act würde diese Verpflichtung erweitern, indem festlegt würde, dass bezahlte Internet- und bezahlte digitale Kommunikation als "öffentliche Kommunikation" oder "Wahlkampfkommunikation" gelten könne, die den gleichen Regeln unterliegen würden wie Anzeigen, die im Fernsehen, Radio und Satellit verkauft werden. Die Regelung würde zudem verlangen, dass auch bestimmte Online-Plattformunternehmen öffentlich kenntlichmachen, welche politischen Werbungen auf ihren Plattformen gekauft wurden.82 Der Honest Ads Act wurde zwar parteiübergreifend in den Kongress eingebracht und es gibt auch parteiübergreifende Unterstützung. Dennoch scheine die Resonanz im Senat eher verhalten zu sein.83 Auch gebe es kaum Rechtsprechung zur Verbreitung von „Fake News“ in Social Media. Die wenigen derartigen Fälle, befassten sich mit der unmittelbaren und tatsächlichen Androhung von Gewalt, die im Hinblick auf die verfassungsrechtlichen Vorgaben des „First Amendement“84 immer anders behandelt worden seien als die klassischen Fälle von „Fake News“.85 **** 79 Zum Stand der Gesetzgebung vgl. Govtrack, S. 1356 - Honest Ads Act, abrufbar unter: https://www.congress.gov/bill/116th-congress/senate-bill/1356 und https://www.govtrack.us/congress/bills/116/s1356 [zuletzt abgerufen: 09.09.2019]. Es handelt sich dabei um eine Wiedereinführung des gleichbenannten Gesetzentwurfs (S.1989 - Honest Ads Act), der am 19.10.2017 dem Senat vorgelegt wurde. Vgl. Congress.Gov, S.1989 - Honest Ads Act, abrufbar unter: https://www.congress.gov/bill/115th-congress/senate-bill/1989/text [zuletzt abgerufen: 09.09.2019]. 80 Text des Gesetzentwurfs: S. 1356: Honest Ads Act, abrufbar unter: https://www.govtrack.us/congress/bills/116/s1356/text/is [zuletzt abgerufen: 09.09.2019]. 81 Zum Bundeswahlkampfgesetz und weiteren damit in Zusammenhang stehenden Bundesgesetzen vgl. Federal Election Commission, Federal Election Campaign Laws, Washington, D.C., February 2019, abrufbar unter: https://www.fec.gov/resources/cms-content/documents/feca.pdf [zuletzt abgerufen: 09.09.2019]. 82 S. 1356: Honest Ads Act vom 7. Mai 2019, a.a.O. 83 Vgl. z. B. Montellaro, Zach, The Honest Ads Act returns, Politico, 09.05.2019, abrufbar unter: https://www.politico.com/newsletters/morning-score/2019/05/09/the-honest-ads-act-returns-615586. Kritische Stimmen befürchten hierin eine Gefährdung der freien Rede. Vgl. z. B. Smith, Bradley A., Misnamed 'Honest Ads Act' would restrict free speech, USA Today, 17.06.2019, abrufbar unter: https://eu.usatoday.com/story/opinion/2019/06/12/election-interference-honest-ads-act-threatens-free-speecheditorials -debates/1438271001/ [zuletzt abgerufen: 09.09.2019]. 84 Beim „First Amendement“ handelt es sich um den 1. Zusatzartikel zur Verfassung der Vereinigten Staaten von Amerika. Hiermit wird insbesondere dem Kongress verboten, Gesetze zu erlassen, die die Redefreiheit, Religionsfreiheit, Pressefreiheit, Versammlungsfreiheit oder das Petitionsrecht einschränken. Vgl. FindLaw, First Amendment - U.S. Constitution, abrufbar unter: https://constitution.findlaw.com/amendment1.html [zuletzt abgerufen: 09.09.2019]. 85 Michigan Technology Law Review, It Must be True, I Read it on the Internet: Regulating Fake News in the Digital Age, abrufbar unter: https://mttlr.org/2019/03/it-must-be-true-i-read-it-on-the-internet-regulating-fakenews -in-the-digital-age/ [zuletzt abgerufen: 09.09.2019].