Collien Ulmen-Fernandes über Deepfake-Pornos: „Gefälschte Videos sind von echten nicht mehr zu unterscheiden“

Collien Ulmen-Fernandes ist Moderatorin, Journalistin, Schauspielerin und Autorin. Sie gehört zu den vielseitigsten Menschen im Mediengeschäft und beleuchtet in ZDF-Dokumentationen immer wieder die unterschiedlichsten Aspekte der Gesellschaft. In ihrer neuesten Produktion für die Reihe „Die Spur“ befasst sie sich mit einem ernsten Thema, das auch sie selbst betrifft: „Deepfake-Pornos“. Die zweiteilige Dokumentation wird am 11. Dezember um 22:15 Uhr sowie um 1:00 Uhr im ZDF ausgestrahlt. In der ZDFmediathek liegt sie bereits auf Abruf bereit.

Im Gespräch mit fernsehserien.de-Redakteur Glenn Riedmeier erläutert sie, weshalb es im Kampf gegen das Phänomen Deepfakes noch massive gesetzliche Schutzlücken gibt und warum sich Betroffene trotzdem auf jeden Fall zur Wehr setzen sollten. Außerdem berichtet sie, inwieweit Künstliche Intelligenz schon Einzug in die Filmbranche gehalten hat und welche Konsequenzen daraus folgen könnten. Darüber hinaus verrät die Schauspielerin, weshalb sie bei Dreharbeiten auf dem „Traumschiff“ immer Ordner und Arbeitskoffer dabei hat.

fernsehserien.de: Liebe Collien, du hast in den vergangenen Jahren die unterschiedlichsten Dokumentationen produziert. In „Die Spur: Deepfake-Pornos“ geht es um etwas, das dich auch ganz persönlich betrifft. Wie kam es dazu, dass du dich mit diesem Thema auseinandergesetzt hast und eine Dokumentation darüber gedreht hast?

Collien Ulmen-Fernandes: Meine eigene Geschichte damit ist nicht der Hauptgrund für die Auseinandersetzung mit der Thematik. Das ist mir wichtig. Klar, ich bin auch eine Betroffene, aber das ist gar nicht so sehr mein persönlicher Fokus. Denn ich finde, für Menschen, die nicht in der Öffentlichkeit stehen, ist die Gefahr, die von Deepnudes ausgeht, sogar noch größer. Das Thema betrifft viele Frauen und die werden derzeit vom Staat nicht ausreichend geschützt. Die juristische Komponente ist ein wichtiger Aspekt und darauf möchte ich aufmerksam machen.

Wir reden von Bildern und Videos, bei denen mit Hilfe von Künstlicher Intelligenz Gesichter von Frauen auf fremde, nackte Körper montiert. Solche Deepfakes können heutzutage erschreckend leicht mit Künstlicher Intelligenz erstellt werden und immer mehr Frauen werden dadurch zu sexualisierten Opfern im Netz.

Collien Ulmen-Fernandes: Richtig, und das kann stark traumatisieren. Ich habe eine Geschichte im Privaten mitbekommen, bei der das zu einer massiven psychischen Belastung geführt hat, die therapiert werden musste. Die Betroffenen bekommen oft zuletzt mit, wenn zum Beispiel im Arbeitschat gefälschte Sexvideos herumgehen, wenn sich hinter vorgehaltener Hand über die vermeintliche Pornovergangenheit der Kollegin ausgetauscht wird. Die KI ist mittlerweile so gut, dass die gefälschten Videos von echten nicht mehr zu unterscheiden sind. Dazu besteht aktuell noch das Problem, dass es massive gesetzliche Schutzlücken gibt. Das liegt auch daran, dass das Phänomen Deepfake noch sehr neu ist.

Was sind das für gesetzliche Lücken?

Collien Ulmen-Fernandes: Ein strittiger Punkt ist zum Beispiel die Frage: Wer ist denn juristisch betrachtet die abgebildete Person, wenn nur der Kopf von mir ist, der Körper aber von jemand anderem? Dazu kommt, dass die Verletzung des Persönlichkeitsrechts nur dann greift, wenn das Ausgangsmaterial unbefugt hergestellt worden ist, was bei einem Deepfake meist aber gar nicht der Fall ist. Das Bayerische Justizministerium hat deshalb einen Gesetzentwurf zum strafrechtlichen Schutz von Persönlichkeitsrechten vor Deepfakes erarbeitet. Es sieht aber gerade nicht so aus, dass der auch durchkommt. Deshalb glaube ich, dass es total wichtig ist, dass man öffentlich über das Thema spricht.

Es gibt nur wenige Frauen, die darüber so offen sprechen oder Anzeige erstatten. Warum ist das so? Ist das Thema mit Scham behaftet?

Collien Ulmen-Fernandes: Ja, Scham definitiv, aber auch so ein bisschen Hoffnungslosigkeit. Frauen, die ich interviewt habe, schilderten, dass sie sich beim Erstatten der Anzeige nicht ernst genommen fühlten. Eine Clique, die ich im Rahmen der Doku traf, wurde von einem gemeinsamen Bekannten als „german teen sluts“ ins Netz gestellt. Der Polizist sagte zu ihnen: „Wenn ihr im Internet seid, müsst ihr euch nicht über sowas wundern.“ Dabei haben diese Frauen einfach nur normale Bilder auf Social Media hochgeladen, auf „privat“ gestellten Accounts. Deshalb haben sie sich auch gefragt, wer dieses Material von ihnen zweckentfremdet haben könnte. Es kann nur jemand sein, der mit ihnen direkt verknüpft ist. Erst nach jahrelanger Recherche kamen sie auf den Täter. Dieses „selbst schuld“ ist etwas, das Frauen in vielerlei Bereichen immer wieder gesagt wird. Auch wenn es um das Thema sexuelle Belästigung geht, lautet oft die Frage: „Was hatten Sie denn an?“. Als ob die Frauen eine Mitschuld tragen würden. Ich glaube, dagegen kann man nur mit Schulungen vorgehen, damit die Menschen, die Anzeigen aufnehmen, dafür sensibilisiert werden.

Ein Problem ist die Anonymität der Täter. Habt ihr in der Doku trotzdem herausfinden können, was das eigentlich für Leute sind, die solche Deepfakes herstellen und ins Netz stellen? Und aus welchen Gründen sie das tun?

Collien Ulmen-Fernandes: Teilweise schon. Ich habe diese Doku zusammen mit der Investigativ-Journalistin Marie Bröckling gedreht. Sie ist in die Foren gegangen und hat versucht, Täter zu finden. Sie konnte einen in Frankreich ausfindig machen und war erstaunt, wie leicht der sich finden ließ. Sie ist also nach Paris geflogen, um ihn zu stellen. Wie es weiterging, will ich noch nicht verraten, denn es ist ja Teil der Sendung, dass wir uns auf eine Spur begeben. Und am Anfang der Reise weiß man eben noch nicht, wo sie enden wird.

Das hört sich sehr spannend an. Du hast vorhin schon die Rechtslage angesprochen. Wie ist die denn momentan? Drohen den Tätern überhaupt Strafen?

Collien Ulmen-Fernandes: Ich habe eine Anwältin interviewt, die Opfer betreut. Sie sagte, dass seitdem sie das macht, es nicht einmal zu einer Verurteilung kam. Das hat mich total desillusioniert. Das ist natürlich frustrierend und wahrscheinlich auch der Grund, warum viele so etwas gar nicht erst zur Anzeige bringen, weil man schon mitbekommen hat, dass nichts passiert. Trotzdem kann ich nur jeden und jede ermutigen, diese Fälle zur Anzeige zu bringen, weil es schon alleine für die statistische Erfassung wichtig ist. So vielen Menschen passiert das und wenn die Zahl der Anzeigen steigt, erhöht sich auch der Druck auf die politisch Entscheidenden. Desto größer das Problem ist, desto weniger lässt sich wegschauen.

Gibt es denn überhaupt Möglichkeiten, gerade für Frauen, sich zu schützen oder zur Wehr zu setzen, wenn sie feststellen, was da mit ihnen im Internet passiert ist?

Collien Ulmen-Fernandes: Vielen hilft der Austausch mit anderen Betroffenen. Dafür hilft es, sich an Organisationen wie Hate Aid zu wenden. Zudem gibt es Programme, mit denen man sein Bildmaterial vermeintlich vor weiteren Bearbeitungsschritten schützen kann. Ob die funktionieren, testen wir in der Sendung.

Die Dokumentation kann in jeden Fall dazu beitragen, dass mehr Menschen überhaupt auf das Problem aufmerksam werden und sich damit befassen.

Collien Ulmen-Fernandes: Ja, ich habe aus der Politik auch schon das Feedback bekommen, dass viele sich die Doku anschauen werden – Menschen, die darüber entscheiden können, ob der Bundesrat-Gesetzentwurf durchkommt. Genau dafür machen wir diese Arbeit. Es ist toll, dass es dieses Instrument gibt, um auf Missstände aufmerksam zu machen.

Auf der nächsten Seite erläutert Collien Ulmen-Fernandes, inwieweit Künstliche Intelligenz schon Einzug in die Filmbranche gehalten hat und welche Konsequenzen daraus folgen könnten. Darüber hinaus verrät die Schauspielerin, weshalb sie bei Dreharbeiten auf dem „Traumschiff“ immer Ordner und Arbeitskoffer dabei hat.