25. September 2023
„Würde ich den Körper meiner Tochter nicht kennen, käme mir dieses Foto echt vor!“
Miriam Al Adib, Mutter eines von Deepnudes betroffenen Mädchens
Eine Welle von Deepnude-Bildern hat in der vergangenen Woche eine spanische Kleinstadt erschüttert: Dort sind mehr als 20 Schüler:innen mit gefakten Nacktbildern gemobbt worden, die mit Künstlicher Intelligenz, KI, produziert worden sind. Diese Deepnudes waren wohl von Mitschülern und Bekannten produziert und auf WhatsApp und per SMS verbreitet worden. Sowohl die Betroffenen wie auch die Täter sind alle minderjährig. Das Erschreckende: Die gefakten Fotos wurden mit einer frei zugänglichen Software produziert, teilweise war noch das Logo der Website zu sehen, mit der die Bilder hergestellt wurden. Eine Mutter hatte den Skandal in Spanien bekannt gemacht, sie berichtet in einem Video auf Instagram von den Vorfällen.
Ein Deepnude ist ein gefälschtes Nacktbild. Der Begriff setzt sich aus dem englischen Wort für nackt, "nude" und Deepfake, ein durch KI gefälschtes Bild, zusammen. Für die Produktion brauchten Täter und Täterinnen nur das Foto einer Person, die KI ergänzt den Körper. Dieser hat nichts mit der Realität zu tun, sondern entsteht aus den gespeicherten Daten von zehntausenden Nacktaufnahmen. Die Zahl der Apps und Anbieter für solche Fakes ist groß, häufig ist aber nicht ersichtlich, wer dahintersteckt. Zudem verweisen die Anbieter darauf, dass sie keine Verantwortung tragen für die produzierten Bilder – so jetzt auch bei der in Spanien verwendeten Software. Dort heißt es laut der Recherche von netzwerk.org lediglich auf der Website: „We do not take any responsibility for images created using the website.“ Die spanische Justizministerin warnte angesichts des Skandals laut dem ZDF vor der Nutzung solcher KI-Tools. Sie sei ein Verbrechen, eine klare Rechtsprechung gibt es aber wohl noch nicht. In Deutschland kann allein schon das Weiterleiten solcher Deepnudes strafbar sein.
„Als normaler Benutzer im Web sieht man das nicht, da hat man keine Möglichkeit, ein Deepfake zu erkennen, es sei denn, die Fälscher haben grobe Fehler gemacht,“ sagte Felix Freiling, Informatikprofessor und Direktor des bayrischen Forschungsinstituts für digitale Transformation schon in einem Interview 2020. Solche groben Fehler können etwa asynchrone Mundbewegungen oder ähnliches sein. Auch Unschärfen oder Verschwommenheit und unstimmige Lichterverhältnisse können darauf hindeuten, dass es sich um einen Fake handelt. Freiling fordert deswegen, „die Fähigkeiten von Journalisten, der Politik und auch der Gesellschaft zu stärken, mit Deepfakes umzugehen.“
Ein erster Schritt ist das Bewusstsein, dass schon ein im Netz hochgeladenes Bild für die Produktion von Deepnudes reicht. Gerade die eigenen Kinder sollten deswegen nicht uneingeschränkt im Internet gezeigt werden. Außerdem sollten wir für Clouds und Social-Media-Profile die nötigen Sicherheitsmaßnahmen nutzen, wie z.B. sichere Passwörter und die Zwei-Faktor-Authentifizierung, sodass kein Unberechtigter unerlaubt an unsere Bilder kommen kann. Auch sollten wir immer wieder lokale Backups von unseren Dateien anfertigen und auf Festplatten speichern, sodass niemand über das Internet darauf zugreifen kann.
Generell gilt: Die Ruhe bewahren. Eltern sollten ihre Kinder schon frühzeitig über solche Gefahren aufklären und immer Gesprächsbereitschaft signalisieren. Scham und Schweigen sind die falschen Impulse. Denn das Opfer trifft keine Schuld. Sollte ein Deepnude-Fall auftreten, sind die zuständigen Behörden zu verständigen, damit diese gegen die Täter vorgehen können. Die Gewerkschaft der Polizei rät zudem, Screenshots zu machen, Chatprotokolle, Mailverkehr und ähnliches direkt zu sichern. Viel Unterstützung bietet auch die EU-Initiative Klicksafe. Dort finden sich weitere Tipps und vor allem Notfallnummern, an die sich gerade betroffene Minderjährige wenden können.
Das Internet schläft nicht - ständig gibt es neue Trends, neue Plattformen, neue Apps und täglich Veränderungen. Mit uns behaltet ihr den Überblick - denn wir präsentieren Ihnen hier jede Woche was es Neues gibt in der digitalen Welt.