Aktuelles aus dem Kolleg

Fotos: Georg Lukas, Montage: KHK

"Das Entfernen von Inhalten ist bereits zu spät" - Käte Hamburger Dialogue stellt die Online-Defamierung in einen breiteren Kontext

13.12.2018 Online-Defamierung, die Verbreitung falscher Informationen zur Schädigung des Ansehens einer Person, war das Thema einer Podiumsdiskussion, die vom Käte Hamburger Kolleg in Duisburg organisiert und von der Direktorin des Kollegs, Sigrid Quack, moderiert wurde. Wissenschaftler und Wissenschaftlerinnen aus Kanada, Russland, den Niederlanden und Deutschland untersuchten die Möglichkeiten, dieses Phänomen anzugehen, und stellten die Diskussion in den breiteren Kontext der möglichen Regulierung von Social Media Plattformen auf nationaler und globaler Ebene in Zeiten wachsender autoritärer Regulierung und eines zunehmenden Plattformmonopolismus.


Blayne Haggar
t, derzeit Gastwissenschaftler am Kolleg, begann mit der pointiertesten Aussage. Social Media Plattformen sind zu den öffentlichen Marktplätzen der Welt geworden. Haggart betont, dass dies nicht der dezentrale globale Raum sei, an den wir glauben sollen. Haggart fordert kreative Lösungen jenseits von Balkanisierung und Monopol:

Es existiert ein ganzes Spektrum an Möglichkeiten in Bezug auf Regulierung und Kontrolle zwischen gewinnorientierten Unternehmen wie Facebook oder autoritärer staatlicher Kontrolle über Social Media-Konten wie in China, zwischen einem kalifornischen Internet oder einem chinesischen Internet, wie es der französische Präsident Emmanuel Macron in einer Rede vor dem Internet Governance Forum in Paris im vergangenen Monat formulierte.

Haggart vergleicht Plattformunternehmen mit Banken und die aktuelle Situation mit derjenigen im Vorfeld der globalen Finanzkrise 2008. Globale Kapitalströme dürfen nicht zu einer monopolistischen Superbank führen, denn nationale und regionale Interessen werden dem Widerstand entgegensetzen. Und es war die schlechte Regulierung in einem bestimmten Land (den USA), die globale Spillover-Effekte ausgelöst hat. Monopole können sich umso mehr globale Folgen auslösen, und ihre Spillover-Effekte werden möglichrweise durch keinerlei geeignete Regulierung verhindert werden.

Natasha Tusikov, Assistenzprofessorin für Kriminologie an der York University (Kanada), traf sich mit Haggart in einer Forderung:

Wir müssen den Staat konzeptionell und empirisch zurückbringen, Regierungen als Schlüsselakteure der Internet-Governance ernst nehmen, sowohl in Bezug auf unsere Wissenschaft als auch auf die Politikgestaltung.

Sensibilisiert im Hinblick auf Regulierung und kritisch gegenüber der Praxis des De-platforming ganzer Gruppen, wie es in den USA praktiziert wird, konzentrierte sie ihre Kritik auf Plattformen und deren angewandte Algorithmen, die ihren Zweck nicht erfüllen. Tusikov impliziert, dass aufgrund des Imperativs der großen Zahl und des freien Informationsflusses, wie sie der neoliberale Plattformkapitalismus vertritt, toxische Inhalte grundsätzlich zu diesem Geschäftsmodell passen. Sie stellt vor diesem Hintergrund die globale Norm des freien Informationsflusses in Frage. Vollständige Regulierung zu vermeiden wäre eine Illusion. Wir sollten besser entscheiden, wer für die Regulierungsmaßnahmen zuständig ist. Tusikov ist davon überzeugt, dass dies im Interesse einer offenen Gesellschaft nicht die Plattformen selbst sein sollten.

Anna Spakovskaya, Postdoc-Stipendiatin am Institut für Ostasienwissenschaften und an der Sozialwissenschaftlichen Fakultät der Universität Duisburg-Essen, fügte ihre Sicht auf die Situation in der Volksrepublik China hinzu. Das Ausmaß und die Geschwindigkeit des Wachstums in diesem Markt machen das Thema hier zu einer besonderen Angelegenheit.

Das Internet eröffnete beispiellose Möglichkeiten, ein relativ autonomes Feld für die individualisierte Selbstdarstellung zu haben, für unterrepräsentierte Interessen, Beschwerden und Empfindungen der einfachen Leute.

Diffamierung wird in China durch das Zivil- und Strafrecht geregelt. Im Jahr 2014 wurde die Central Leading Group for Cyber-Security unter der direkten Aufsicht des Präsidenten eingerichtet und damit die Bedeutung des Themas anerkannt. Spakovskaya wies darauf hin, dass es während der Einführung des Internets in China zeitweise eine ungeregelte Phase des Internets gab. Heute will die Regierung die Online-Kommunikation "durch Disziplin, aber auch durch Orientierung" gestalten. Sie betont, dass ein echter Dialog mit China noch etabliert werden muss: "Die Zusammenarbeit mit China mag schwierig sein, aber sie ist möglich, vor allem ist sie unvermeidlich".

Im Hinblick auf die globale Governance stellte Moderatorin Sigrid Quack das zweistufige Modell eines föderativen Systems zur Diskussion, das bedeuten könnte, dass sich spezifische Regulierungen, zum Beispiel auf Länderebene, unterscheiden können, während sie auf einer übergreifenden globalen Ebene "orchestriert", kommuniziert und koordiniert werden.

Daniëlle Flonk, wissenschaftliche Mitarbeiterin im Projekt "Evolving Internet Interfaces: Content Control and Privacy Protection' an der Hertie School of Governance (Berlin) sah die Perspektiven einer globalen Zusammenarbeit in diesen Fragen eher skeptisch. Sie ist der Meinung, dass die Modelle (Kalifornien - China) sehr unterschiedlich sind und die EU "etwa in der Mitte" dieser beiden Extreme ebenfalls dazu neige, zu regulieren und sich einem Trend anzuschließen, Cyberkriminalität für einen Ausbau von Sicherheitsarchitektur zu nutzen.

Es besteht die Befürchtung, dass ein Inhaltsregime die Kontrolle von Inhalten legitimieren könnte ... Das Entfernen von Inhalten ist bereits zu spät. Benutzer werden in einen Extremismus getrieben, der auf algorithmischer Entscheidungsfindung basiert, wir könnten so viel mehr tun, wir sprechen nur die Symptome an, anstatt zu schauen, woher das kommt. Auf diesem Gebiet besteht ein großer Forschungsbedarf.

Wer trägt die Verantwortung für all das? Die Verantwortung, toxische Inhalte zu erkennen, delegiert Facebook an die Nutzer und Nutzerinnen (der oder die dadurch den Algorithmus verfeinert, könnte man hinzufügen). Tusikov sieht in diesem Verantwortlichmachen ('responsibilization') des Nutzers ein Kennzeichen "genau dieser neoliberalen Politik".

Das Thema "Online-Diffamierung" eröffnet also einen Blick auf globale Trends in den Medien, die diese Diffamierungen auf neue Weise in Bezug auf Maßstab, Geschwindigkeit und Genauigkeit transportieren ("Granulation").

Eine lebhafte Diskussion fügte weitere Aspekte hinzu. Die Leser sind eingeladen, die Details in unserer Videodokumentation online zu verfolgen. Einer dieser Aspekte sind Arbeitsbedingungen. "Content Cleaner" arbeiten unter extremen körperlichen und emotionalen Belastungen. Tusikov betonte, dass diese Personen "von einem Multimillionen-Dollar-Unternehmen unterbezahlt werden". Im Zusammehang mit Online-Diffamierung wird der Staat auch deshalb wieder aufgerufen, weil der Verdacht besteht, dass toxische Inhalte in großem Umfang Geschäftsmodelle schaffen. Die Aufmerksamkeitsökonomie in unseren Gesellschaften kann als Rahmen und wichtige Voraussetzung für diese systemische Dynamik betrachtet werden. Das Panel hat es nicht diskutiert, aber diese Dinge müssen nicht nur von unten kommen, obwohl wir dazu neigen, sie so zu betrachten.

Jan Aart Scholte, Co-Direktor des Kollegs und Convener für den Politikbereich Internet Governance im Forschungsprogramm des Kollegs zusammen mit Direktorin Sigrid Quack, sprach schließlich einen weiteren Punkt an. Er beobachtet "die stillschweigende Einführung von Normen durch die Hintertür" in vielen Bereichen, die teilweise mit epistemischen Gemeinschaften am Tisch vorangebracht werden. Da ist die ICANN, in der China kürzlich den Posten eines stellvertretenden Vorsitzenden besetzt hat, und es gibt normsetzende Agenturen in einem breiten Anwendungsfeld, darunter Interpol. Aber auch hier kommt Daniëlle Flonk in den Sinn und der Verdacht, dass die Strafverfolgung viele Motive haben kann.

Briefing: Online-Diffamierung

Video-Dokumentation (Youtube)