Paper zur Moderierung terroristischer Inhalte auf Social Media erschienen

Die Moderation, Erkennung und Löschung solcher Inhalte stellt die Plattformen vor nicht unerhebliche technische wie auch juristische Probleme und erzeugt Zielkonflikte zwischen den konkurrierenden Vorgaben. Das kürzlich im International Journal of Law and Information Technology erschienene und am ZRD Saar erarbeitete Paper von Alessia Zornetta und Ilka Pohland analysiert unterschiedliche Herangehensweisen und Probleme bei der Erfüllung juristischer und unternehmensinterner Vorgaben.

In jüngerer Vergangenheit wurden verstärkt terroristische Anschläge live auf Social Media Plattformen gestreamt. Die schiere Masse an minütlich hochgeladenem Content stellt die Betreiber solcher Plattformen dabei vor massive Probleme: um illegale Inhalte, ob terroristischer oder krimineller Natur oder Hate Speech, zu filtern, genügt es nicht, die Moderation von Inhalten menschlichen Kontrollinstanzen zu überlassen. Vielmehr werden von den Plattformen Tools zum automatischen Review der Inhalte eingesetzt.

Bei solch einer Moderierung von Inhalten entstehen zwangsläufig Zielkonflikte. Der möglicherweise offensichtlichste, aber nicht einzige, Zielkonflikt ist hierbei wie in vielen anderen Bereichen der zwischen Genauigkeit und Geschwindigkeit: Während es offensichtliches Ziel ist, verbotene Inhalte möglichst schnell zu filtern, besteht ebenso ein Interesse, einerseits möglichst alle relevanten Inhalte zu erfassen und gleichzeitig nicht zu viele, nicht relevante, Inhalte zu blocken (sogenanntes Overblocking).

Diese Zielkonflikte lassen sich aus technischer wie aus rechtlicher Perspektive betrachten. In ihrem Paper nehmen Ilka Pohland und Alessia Zornetta eben diese Perspektiven ein und suchen nach Lösungen, um die verschiedenen Zielvorgaben in Einklang zu bringen, und weisen auf Stolpersteine in der praktischen Umsetzung hin.

Das Paper kann hier abgerufen werden.