Mit "Bot Dog" gegen Hass im Internet kontern

Hasserfüllte Kommentare und Drohungen im Internet: Machen Facebook, Twitter und andere Online-Plattformen genug, um Anfeindungen in den sozialen Medien zu bekämpfen? Das Schweizer Projekt "Stop Hate Speech" findet "Nein." Mit seinem auf künstlicher Intelligenz basierendem Computerprogramm "Bot Dog" hat es den Kampf gegen die Verrohung von digitalen Diskussionen aufgenommen: Bot Dog spürt Hass im Internet auf und hilft, mit "Counter Speech" darauf zu reagieren.

Hassreden im Internet und welchen Schaden sie anrichten können

Die sozialen Medien, Online-Foren sowie digitale Kommentarfunktionen verleiten gewisse Personen dazu, nicht nur gefälschte Nachrichten, sondern auch anstössige und hasserfüllte Inhalte im Internet zu produzieren und zu verbreiten. Insbesondere Beleidigungen und Beschuldigungen haben in den letzten Jahren zugenommen (Sotomo, 2020). Oft sind Frauen, Jugendliche und ethnische Minderheiten davon betroffen.

Diverse Studien dokumentieren, wie Hassreden (Hate Speech) im Internet die psychische und physische Gesundheit schädigen und Gewalt auslösen können. Darüber hinaus können sie die öffentliche Meinung polarisieren und den politischen Diskurs beeinträchtigen, was sich nachteilig auf Demokratien auswirken kann. Die Überprüfung und das Erkennen sowie das Entfernen solcher Botschaften im Internet ist somit von entscheidender Bedeutung.

Weniger Gewalt im Internet durch Bot Dog

Das Computerprogramm Bot Dog zielt darauf, die Medienkompetenz der Bevölkerung zu stärken und das Internet zu einem gewaltfreieren Raum zu machen. Wo die sozialen Medien oder andere Online-Plattformen die Aufgabe der Prüfung und Entfernung ungenügend wahrnehmen, soll Bot Dog das falsche Spiel entlarven.

Das von Sophie Achermann vom Frauendachverband "alliance f" lancierte Projekt wird unterstützt von Migros-Engagement, der Raiffeisen Jubiläumsstiftung, Ernst Göhner Stiftung und Gebert Rüf Stiftung sowie von verschiedenen Städten und Kantonen.

Wie Bot Dog Hate Speech im Internet bekämpft

Der Kampf gegen Hate Speech im Internet geschieht laut den Projektverantwortlichen in vier Schritten. Dabei findet eine Interaktion zwischen Bot Dog und Mensch statt:

1. Das Finden von Hate Speech im Internet durch den digitalen Algorithmus von Bot Dog
2. Das Melden von verdächtigem Material durch Bot Dog an freiwillige User
3. Das Bewerten des verdächtigen Materials als "problematisch" oder "nicht problematisch" durch ein Team von mindestens 3 Personen (ja/nein)
4. Das Reagieren der User auf sprachliche Gewalt mit guten Gegenargumenten (Counter Speech)

Bot Dog ist zurzeit fleissig am Trainieren und es besteht auch schon eine digitale Anlaufstelle, wo sich Betroffene über das Vorgehen gegen Hassreden informieren können. Mittlerweile liegt Bot Dog bei der Identifikation von Hassreden in fast acht von zehn Fällen richtig. Dafür wurden über 45'000 Postings gesichtet und bewertet, damit die Software dazulernt. Der Algorithmus des digitalen Spürhunds wird kontinuierlich weitertrainiert. Freiwillige werden laufend gesucht.

Wirksamkeit von Interventionen gegen Hass im Internet

Über die Wirksamkeit von gezielten Interventionen gegen Hass im Internet gibt es noch wenig Forschung. Kürzlich wurde ein randomisiertes, kontrolliertes Online-Experiment auf Twitter durchgeführt, wobei ein Moderator die User ermutigt, ihre beleidigenden Inhalte zu überdenken, bevor sie sie posten (Katsaros, M., Yang, K. & Fratamico, L., 2021). Aufgrund dieser Intervention haben 6 Prozent weniger beleidigende Tweets gepostet als die Nutzerinnen und Nutzer der Kontrollgruppe, die nicht aufgefordert wurden, ihre beleidigenden Posts zu entfernen.

Ebenso ist noch nicht wirklich belegt, welche Art von Counter Speech bei welcher Art von Hassrede am meisten Wirkung zeigt. Genau das möchte das Projekt "Stop Hate Speech" herausfinden. Dabei wird es vom Immigration Policy Lab der ETH Zürich und dem Digital Democracy Lab der Universität Zürich wissenschaftlich begleitet. Erste Ergebnisse zeigen, dass der Fokus auf Empathie eine vielversprechende Richtung für die Gestaltung zukünftiger Counter-Speech-Strategien zu sein scheint (Hangartner, D. et al., 2021).

Mögliche Counter-Speech-Strategien

Den Projektverantwortlichen von "Stop Hate Speech" geht es beim Publizieren von Counter Speech nicht darum, den Hater umzustimmen, sondern durch Argumente stille Mitlesende zum Nachdenken zu bewegen. Zudem empfehlen sie, Hass niemals mit Hass zu begegnen. Mögliche Strategien und Beispiele für Gegenreden sind:

• Positivität: Mit positiven Worten eine gute Stimmung verbreiten. Beispielsweise indem man etwas Positives über die angefeindete Person oder Gruppe sagt: "Migranten öffnen den Blick der Gesellschaft."
• Empathie: Eine gemeinsame Beziehung mit dem Absender/in der Hassrede aufbauen: "Ich verstehe, dass Sie unzufrieden sind."
• Vor den (Offline-)Konsequenzen warnen: "Bedenken Sie, dass auch Ihre Familie und Bekannten Ihre öffentlichen Botschaften beobachten können."
• Fakten aufführen: Mit stichhaltigen Argumenten aufzeigen, warum es sich um eine Falschaussage oder Fehleinschätzung handelt und Verlinkungen zu Seiten angeben, welche die Argumentation unterstützen: "Asylsuchende machen in der Tat nur 0,8 Prozent der ständigen Bevölkerung der Schweiz aus."
• Moralischer Appel: An moralische Grundsätze appellieren und anfügen, dass der Kommentar abwertend ist: "Bedenken Sie, welchen Schaden ein solcher Kommentar anrichtet."
• Widersprüche aufdecken: Auf Widersprüche oder Heuchelei in der Argumentation des Haters hinweisen: "Hatten Sie ein paar Kommentare weiter oben nicht noch das Gegenteil behauptet?"
• Humor: Damit wird die Dynamik der Kommunikation verändert und deeskaliert. Emojis oder Memes können dabei helfen: "Hass lässt Menschen schneller alt aussehen."
• Hate Speech benennen: Darauf aufmerksam machen, dass es sich bei dem Kommentar um Hate Speech handelt und dies verurteilen: "Dieser Kommentar ist sehr frauenfeindlich und meiner Meinung nach Hate Speech."

Weitere Schritte gegen Hate Speech im Internet

In bestimmten Fällen von Hate Speech wie bei persönlichen Beleidigungen oder Anschuldigungen empfehlen die Projektverantwortlichen von "Stop Hate Speech", gar nicht erst darauf zu antworten. Vielmehr soll man diese bei den sozialen Medien (Facebook, Twitter, Instagram, YouTube) oder den Online-Plattformen direkt melden.

Wenn die Meldung an die Plattformen keine Wirkung zeigt sowie bei illegalen Kommentaren wie Ehrverletzung, Androhung von einem Verbrechen oder Gewalt wird zur Einleitung rechtlicher Schritte geraten. Unterstützung bietet dabei beispielsweise NetzCourage, ein gemeinnütziger Verein, der sich dezidiert und aktiv gegen Hassrede, Diskriminierung und Rassismus im Internet stellt.

Fazit

Freie Meinungsäusserung gehört zu den Kernwerten einer demokratischen Gesellschaft. Eindeutig hasserfüllte Kommentare haben auf Medienplattformen und in sozialen Netzwerken jedoch nichts zu suchen. Dank des Algorithmus von Bot Dog lässt es sich gezielt in die entsprechenden Diskussionen eingreifen und sie mit Counter Speech wieder auf eine sachlichere Ebene bringen. Falls Ihre eigene Spürnase Hate Speech im Internet entdeckt, zögern auch Sie nicht zu kontern!