Bilder vom Genitalbereich seines kleinen Sohnes haben einem Mann aus San Francisco viel Ärger eingebracht. Wie die New York Times in einem Artikel berichtet, hat der Mann die Bilder im Februar 2021 zur Ferndiagnose an einen Arzt gesendet, nachdem er bei seinem Sohn Schwellungen entdeckt hatte. Daraufhin wurden sein Google-Konto gesperrt und polizeiliche Ermittlungen eingeleitet.

Inzwischen wurden die Ermittlungen gegen ihn eingestellt, doch sein Google-Konto ist dennoch gelöscht worden. Der Artikel erläutert, wie Google versucht, Kindesmissbrauch zu erkennen und zu melden. Doch neben den wirklichen Missbrauchsfällen gibt es auch immer wieder falschen Alarm - wie in diesem Fall.

Wegen Nacktbildern: Google sperrt Konto von Familienvater

Der betroffene Vater wurde wohl Opfer einer künstlichen Intelligenz, mit der Google Inhalte prüft. Wie viele andere nutzte er die Google-Cloud, um Fotos automatisch zu sichern. Doch Google interpretierte die Bilder wohl nicht als Aufnahmen für medizinische Zwecke, denn der Mann bekam eine Nachricht, dass er aufgrund von Inhalten, die "einen schweren Verstoß gegen die Google-Richtlinien darstellen und möglicherweise illegal sind", gesperrt wurde.

Video:

Das bedeutete für ihn, dass er auf seine Kontakte, E-Mails und in der Cloud gespeicherte Fotos keinen Zugriff mehr hat. Außerdem konnte er sich bei vielen Drittdiensten nicht mehr anmelden, die mit seinem Google-Konto verbunden waren. Auch seine Handynummer wurde gesperrt, weil er den Mobilfunkdienst von Google nutzte.

Eine Beschwerde bei Google nützte nichts. Das Unternehmen ließ sich nicht umstimmen. Inzwischen wurde sein Konto vollkommen gelöscht. Laut dem Artikel hätte das Unternehmen noch weitere Aufnahmen gefunden, die eine unbekleidete Frau neben dem kleinen Jungen zeigten. Der Mann selbst hätte dieses Video gar nicht mehr, sagte er gegenüber der New York Times. Er gehe aber davon aus, dass er einen "privaten Moment" mit seiner Frau und seinem Kind festhalten wollte.

Kindesmissbrauch aufdecken mithilfe von künstlicher Intelligenz

Doch nicht nur mit Google bekam der Vater Ärger. IT-Unternehmen sind aufgrund eines US-Bundesgesetzes verpflichtet, verdächtiges Material der CyberTipline des "National Center for Missing and Exploited Children" (NCMEC) zu melden. Die Nichtregierungsorganisation benachrichtigte die Polizei über den vermeintlichen Missbrauchsfall. Die Polizei von San Francisco begann daraufhin mit den Ermittlungen, die inzwischen jedoch eingestellt wurden.

Doch wie kam es zu der Meldung an die Polizei? In diesem Fall kam wohl die von Google eingesetzte künstliche Intelligenz (KI) zu dem Schluss, dass die Bilder, die der Familienvater erstellt hatte, problematisch sind. Wenn er kein automatisches Foto-Back-up aktiviert hätte, wäre das Problem vermutlich nie aufgetreten. Doch neben dem KI-System prüft auch noch ein menschlicher Moderator die Inhalte, so Google. In diesem Fall seien dem Moderator kein Ausschlag und keine Rötung aufgefallen, teilte Google der New York Times mit, und die Bilder wurden gemeldet.