Sarah McDermott und Jess Davies, BBC News
Können Sie sich vorstellen, dass Ihr Gesicht digital zu einem Pornobild hinzugefügt und ohne Ihre Erlaubnis online geteilt wird? Kate Isaacs hat genau das durchgemacht und sie beschreibt ihre eigenen Erfahrungen.
Als Kate eines Abends ihren Twitter-Account ansah, stieß sie auf ein verstörendes Bild in ihren Benachrichtigungen.
Kate beschreibt diesen Moment zum ersten Mal offen und sagt: „Ich geriet plötzlich in Panik. Jemand hatte mein Gesicht genommen und es in ein Pornobild eingefügt.“
Kate war Opfer von Deepfake-Technologie geworden.
Jemand hatte ihr Gesicht mit künstlicher Intelligenz auf das Gesicht eines Pornostars geklebt.
Kate glaubt, dass das Filmmaterial aus Filmmaterial ihrer zuvor im Fernsehen übertragenen Interviews besteht.
Kate, die sich gegen unfreiwillige Pornobilder einsetzt, wurde auf dem Bild so dargestellt, als hätte sie Sex.
„Ich konnte es nicht glauben. Ich konnte nicht klar denken“, sagt Kate.
„Es war schrecklich. Ich dachte, das Bild würde überall geteilt werden.“
In der Vergangenheit wurden Gesichter von Prominenten und Politikern in Deepfake-Bildern verwendet.
Videos waren nicht immer pornographisch, manchmal wurden humorvolle Bilder gemacht.
In den letzten Jahren hat sich dies jedoch geändert. Laut dem Cybersicherheitsunternehmen Deeptrace bestehen 96 Prozent der Deepfake-Bilder aus pornografischen Bildern.
Kinos, die mit Deepfake-Technologie hergestellt wurden, sowie pornografische Bilder, die aus Rache gemacht wurden, werden als bildbasierter sexueller Missbrauch definiert.
#Nicht dein Porno
Kate, 30, startete 2019 die Kampagne #NotYourPorn (Not Your Porn).
Ein Jahr später musste die „Adult Revel Site“ Pornhub dank Kates Kampagnen alle Bilder entfernen, die von nicht verifizierten Benutzern hochgeladen wurden. Dies waren fast alle Bilder auf der Website.
Kate glaubt, dass die Person, die die Deepfake-Technologie gegen sie verwendet hat, so etwas als Reaktion auf diese Kampagne getan hat, aber sie hat keine Ahnung, wer diese Person ist.
Kate sagt, dass das Video in einer sehr glaubwürdigen Form gemacht wurde, und teilt mit, dass sie Angst hat, dass die Leute nicht verstehen werden, dass es sich um eine Fälschung handelt.
Kate erklärt, dass die Leute nach einer Weile anfingen, unter dem Bild Drohkommentare zu hinterlassen, einige sagten, dass sie Kate zu ihrem Haus folgen, sie vergewaltigen, den Angriff filmen und es ins Internet stellen würden.
Kate sagt, dass sogar ihre Wohn- und Arbeitsadresse am unteren Rand des Bildes enthalten sind.
„Ich wurde paranoid. Wer kannte meine Adresse? Ich begann zu glauben, dass es jemand war, den ich kannte“, sagt Kate.
„Ich dachte wirklich, ich wäre in Gefahr.“
Das Bild wurde von der Social-Media-Plattform entfernt, nachdem ein Kollege von Kate das Bild Twitter-Beamten gemeldet hatte.
Sobald jedoch ein Deepfake-Bild online geteilt wird, ist es sehr schwierig, es vollständig zu zerstören.
Experten empfehlen, dass diejenigen, die dem Deepfake-Vorfall ausgesetzt sind, Beweise sammeln und diese so schnell wie möglich der Polizei melden.
Deepfake-Markt
In Online-Foren besteht eine erhebliche Nachfrage nach der Herstellung von Deepfake-Bildern.
Die Menschen fordern, dass sogar ihre Ehepartner, Nachbarn, Kollegen und Familienmitglieder in Deepfake-Bildern verwendet werden.
Ein in England lebender Hersteller von Deepfake-Bildern, der der BBC seinen richtigen Namen nicht genannt hat, erklärt, dass er zunächst damit begonnen habe, Bilder von Prominenten zu machen.
Der Produzent, der sich Görkem nennt, sagt, dass die Menschen dank dieser Bilder „ihre Fantasien auf eine Weise befriedigen, die vorher nicht möglich war“. Später erklärt er, dass er anfing, Bilder von Frauen und Kollegen zu machen, die er attraktiv fand:
„Einer war verheiratet und ein anderer hatte eine Bindung. Es war ein seltsames Gefühl, ins Büro zu gehen, nachdem er Deepake-Aufnahmen von diesen Damen gemacht hatte, aber ich tat so, als wäre nichts passiert und ging mir auf die Nerven.“
Görkem, der erkannt hat, dass er mit seinem Hobby Geld verdienen kann, sagt, dass er nach einer Weile angefangen hat, Bestellungen online entgegenzunehmen.
Görkem sagt, dass die Frauen angefangen haben, Fotos von ihren Social-Media-Konten zu sammeln, und einmal Bilder mit den Ansichten des Zoom-Meetings gemacht haben:
„Bilder von Frauen, die direkt in die Kamera schauen, sind für mich sehr hilfreich. Der Algorithmus kann diese Bilder dann verwenden, um ihre Gesichter zu verwenden.“
Während Görkem anerkennt, dass „manche Frauen“ durch den Deepfake-Prozess psychisch beeinträchtigt sein könnten, schert er sich im Allgemeinen nicht allzu sehr um den Verlust der Objektivierung von Frauen.
Görkem sagt: „Sie können sagen, das bin nicht ich, es ist ein falsches Bild, und mit ihrem Leben weitermachen. Ich glaube nicht, dass es irgendetwas gibt, was mich moralisch aufhalten kann“, und fährt fort:
„Wenn ich in einem Komitee Geld verdienen will, mache ich das, ich muss nicht einmal darüber nachdenken.“
Der Standard von Deepfake-Bildern kann je nach Erfahrung und Technologie des Herstellers variieren.
Aber ein anderer Mann, der eine der weltweit größten Deepfake-Pornoseiten betreibt, sagt, es sei jetzt sehr schwierig zu sagen, ob die Bilder in den Bildern manipuliert wurden.
Dieser Mann, der in den USA lebt, sagt, dass 13 Millionen Menschen die Website mit etwa 20.000 Bildern pro Monat besuchen.
T24