"Unseriöses Arbeitsumfeld": Content-Moderatorin für TikTok packt im ZDF über Missstände aus

Wie steht es um die Kontrolle gefährlicher Inhalte auf Social Media? Dieser Frage geht Jochen Breyer in der ZDF-Reportage "Die Wahrheit über Social Media" auf den Grund. Er trifft Menschen, die im Auftrag der Plattformen Inhalte kontrollieren sollen - das Fazit fällt jedoch ernüchternd aus.

Was machen Social-Media-Plattformen mit der Gesellschaft und vor allem mit jungen Nutzerinnen und Nutzern? Dieser Frage ist Jochen Breyer in der ZDF-Reportage "Die Wahrheit über Social Media - mit Jochen Breyer" auf den Grund gegangen. Er fragt bei Schülerinnen und Schülern nach und spricht mit Menschen, die von TikTok als Content-Moderatoren eingesetzt werden. Die berichten von erschreckenden Missständen.

Feststeht: Viele Jugendliche verbringen den Großteil ihres Tages online. Bei dem Besuch in einer Schule erzählen einige der Schülerinnen und Schüler Jochen Breyer, dass sie zehn, elf oder sogar 19 Stunden am Tag im Internet sind. Doch nicht nur die lange Verweildauer der jungen Nutzerinnen und Nutzer ist alarmierend - sondern auch die konsumierten Inhalte.

So berichtete eine Schülerin Videos angezeigt bekommen zu haben, in denen sich Menschen das Leben nehmen. Eine andere erinnert sich daran, nach der Brandkatastrophe in Crans Montana Videos von eingeschlossenen Opfern gesehen zu haben. Eigentlich sollten solche Inhalte von den Plattformen gemeldet und gelöscht werden. Dafür werden Content-Moderatoren eingesetzt. Doch funktioniert dieses System?

Jochen Breyer trifft sich in Lissabon mit Leonie aus Deutschland. Durch eine Stellenanzeige erfuhr sie von einem Sub-Unternehmen in Portugal, das die Content-Moderation für TikTok für den deutschen Markt übernimmt. Auf die Nachfrage Breyers, warum dies in Portugal und nicht in Deutschland geschehe, vermutet Leonie: "Ich geh davon aus, dass das daran liegt, dass man die Leute hier sehr viel billiger anstellen kann." So erhalte sie für ihre Arbeit einen Stundenlohn von "knapp unter fünf Euro". Dazu gebe es Zuschüsse für Essen und Miete.

"Ich habe noch nie in so einem unseriösen Arbeitsumfeld gearbeitet"

Angestellt seien vor allem "sehr, sehr junge Leute" zwischen 18 und 21 Jahre alt. Leonie weiß: "Die nehmen jeden - ist egal. In zwei Wochen kommt eh wieder ein Neuer, falls der nichts taugt." Jochen Breyer hakt genauer nach und möchte wissen: "Auf einer Skala von eins bis zehn - wie seriös, wie professionell wird Content-Moderation hier durchgeführt?" Leonies Antwort folgt prompt: "Eins. Ich habe noch nie in so einem unseriösen Arbeitsumfeld gearbeitet."

Dem ZDF-Team wird eine Aufnahme zugespielt, die eine Nachtschicht in dem Unternehmen zeigen soll. Das Video wurde heimlich aufgezeichnet. Darin ist ein Großraumbüro zu sehen, in dem die Angestellten von 23 Uhr bis in den frühen Morgen ununterbrochen TikTok-Videos anschauen, bewerten und gegebenenfalls sperren müssen.

Geprüft werden solle dabei nicht nur das Alter der Nutzerinnen und Nutzer, sondern auch die Inhalte. Pornografische Inhalte, Gewaltszenen, Waffen, rechtsextreme Symbole und Zeichen oder selbstverletzendes Verhalten - all dies müssen die jungen Mitarbeiter und Mitarbeiterinnen binnen weniger Sekunden erkennen. Die Inhalte haben es in sich. Breyer erklärt: "In den zugespielten Aufnahmen sind auch Videos, die so brutal sind, dass wir sie nicht zeigen können - oder wollen."

"Der Kollege bewegt die Maus, damit das System denkt, da arbeitet jemand"

In dem Video ist außerdem zu sehen, wie einer der Mitarbeiter an seinem Schreibtisch schläft, während vor ihm weiter TikTok-Videos über den Bildschirm laufen - ohne geprüft zu werden. Der Kollege am Nachbartisch bewegt zwischendurch die Maus des schlafenden Mitarbeiters. Ein Anblick, der Leonie kaum überrascht. Dass jemand während der Schicht einschlafe, sei keine Seltenheit. Leonie weiß: "Der Kollege bewegt die Maus, damit das System denkt, da arbeitet jemand." Andernfalls werde man nach rund 15 Minuten in den "Offline-Status" versetzt.

Wie die Content-Moderatorin berichtet, müssten die Angestellten meist vier Videos auf einmal prüfen, die alle in doppelter Geschwindigkeit abgespielt würden. Leonies Fazit fällt deutlich aus: "Ich habe nicht das Gefühl, als würde ich wirklich für Sicherheit auf der Plattform sorgen."

Von dem Unternehmen heißt es auf Anfrage: "Die Darstellung, dass Mitarbeiter Inhalte standardmäßig in beschleunigtem Tempo prüfen, entspricht nicht unseren betrieblichen Richtlinien."

Präsident vom BKA spricht in ZDF-Reportage Warnung aus

Nach dem Gespräch mit Leonie fasst Breyer zusammen. "Da sitzen dann sehr junge Leute ohne Ausbildung, die für sehr wenig Geld stundenlang Videos schauen, oft in mehrfacher Geschwindigkeit, und die sollen dann feststellen, welche Inhalte problematisch sind und welche nicht." Für ihn wirke das wie eine "simulierte Kontrolle", ein "Alibi" für die Unternehmen.

In einer Stellungnahme der Plattform TikTok heißt es dazu: "Wir setzen uns weiterhin voll und ganz für den Schutz der Sicherheit und Integrität unserer Plattformen ein und investieren weiterhin in großem Umfang in Sicherheit." Die automatisierte Moderation wolle man zudem weiter verbessern.

Denn die Plattformen sind gesetzlich dazu verpflichtet, illegale Inhalte zu melden. Die Realität sieht allerdings anders aus. Holger Münch, Präsident des Bundeskriminalamtes, erklärt, seine Behörde habe allein in einem Jahr 30.000 Posts gemeldet und die Löschung verlangt. Vonseiten der Plattformen passiere deutlich weniger. Münch betont: "Bei Kindesmissbrauch gibt es schon länger einen guten Prozess, da wird auch gemeldet, da gibt es eine Bereitschaft. Bei allem anderen ist das sehr dürftig."

So habe man vergangenes Jahr von den großen Plattformen insgesamt gerade einmal 200 Meldungen erhalten. Er warnt: "Wenn wir das alles so weiterlaufen lassen, dass wir keinen vernünftigen Jugendschutz haben, und keine Regulierung von Algorithmen, dann werden wir bei der Entwicklung auch gerade von KI in den nächsten Jahren noch viel größere Probleme haben. Und deshalb ist es allerhöchste Zeit."

Quelle: teleschau – der mediendienst