Angus Crawford und Tony Smith
BBC Türkisch
Es wurde davon ausgegangen, dass auf einige dieser Tools über Abonnements zugegriffen wurde, die für bestimmte Content-Sharing-Sites wie Patreon bezahlt wurden.
Er erklärte, dass sie eine „Null-Toleranz“-Politik hinsichtlich der Präsenz solcher Bilder auf der Patreon-Website hätten.
Das National Board of Chiefs of Police sagte in einer Erklärung, dass „es für einige Plattformen inakzeptabel ist, ohne moralische Verantwortung riesige Gewinne zu erzielen“.
GCHQ, der Sicherheits- und Geheimdienst der britischen Regierung, der sich mit Cyberangriffen und -bedrohungen befasst, gab zu diesem Thema ebenfalls eine Erklärung ab:
„Diejenigen, die an der sexuellen Ausbeutung von Kindern beteiligt sind, nutzen alle Arten von Technologien, und einige glauben, dass die Zukunft des Materials über sexuellen Missbrauch von Kindern in Inhalten liegt, die auf künstlicher Intelligenz basieren.“
Diejenigen, die die missbräuchlichen Bilder vorbereiten, verwenden die Software für künstliche Intelligenz namens Stable Diffusion, die darauf abzielt, Bilder für die Verwendung in künstlerischen oder grafischen Designs zu erstellen.
Künstliche Intelligenz ermöglicht es Computern, bestimmte Aufgaben auszuführen, die oft menschliche Intelligenz erfordern.
Mit Stable Diffusion können Benutzer jedes gewünschte Bild definieren, indem sie Befehle mit Wörtern erteilen. Anschließend erstellt das Programm diese Bilder.
Die Recherche der BBC ergab jedoch, dass dieses Programm zur Produktion lebensechter Bilder verwendet wurde, die sexuellen Missbrauch von Kindern zeigten, darunter auch Inhalte wie die Vergewaltigung von Säuglingen und Kindern.
Die britische Polizei sagte, dass Kindesmissbrauchsteams solche Inhalte bereits untersuchen.
Die Journalistin Octavia Sheepshanks hatte diese Geschichte monatelang recherchiert. Über eine Kinderhilfsorganisation erreichte er die BBC und teilte seine Erkenntnisse mit.
„Seit der künstlichen Intelligenz die Gestaltung von Bildern möglich ist, gibt es einen unerträglichen Anstieg. Es gibt Pädophile, die über Kinder sprechen, nicht nur über kleine Mädchen.“
Im Vereinigten Königreich wird ein „falsches Bild“, das von einem Computer erstellt wurde und Kindesmissbrauch zeigt, vor dem Gesetz ebenfalls als echtes Bild behandelt, und das Mitführen, Veröffentlichen oder Übertragen solchen Materials ist strafbar.
Ian Critchley, Leiter der Kindersicherungseinheit des National Board of Chiefs of Police, sagt, es wäre falsch zu sagen, dass niemand zu Schaden gekommen sei, weil auf diesen „falschen Bildern“ kein echtes Kind abgebildet sei.
Critchley sagt, dass ein Pädophiler von der Absichtsphase zur Fälschungsphase übergehen kann, bis hin zum buchstäblichen körperlichen Missbrauch eines Kindes.
Einige erfundene Bilder werden auf Pixiv geteilt, einer bekannten japanischen Social-Media-Plattform, die hauptsächlich von Künstlern genutzt wird, die Manga oder Anime entwerfen.
Auf dieser Website, die in Japan verwaltet wird, wo es nicht verboten ist, sexuell eindeutige Comics oder Kinderzeichnungen einzubinden, machen diejenigen, die Bilder mit sexuellem Missbrauch entwerfen, diese durch die Verwendung von Tags sichtbarer.
Ein Sprecher von Pixiv gab an, dass man diesem Problem große Aufmerksamkeit schenke und dass die Beschreibungen von sexuell eindeutigen Fotos mit Kindern am 31. Mai vollständig verboten wurden.
Das Unternehmen gab außerdem an, dass es ein großes Budget für die Bewältigung von Problemen im Zusammenhang mit künstlicher Intelligenz bereitgestellt und seine Überwachungssysteme gestärkt habe.
„Das Volumen ist so groß, dass die Leute sagen, sie wollen 1.000 Bilder pro Monat produzieren“, sagte Sheepshanks.
Verschiedene Zahlungsmöglichkeiten
Von der BBC gemeinsam mit Octavia Sheepshanks durchgeführte Untersuchungen ergaben, dass Bilder, die Kindesmissbrauch zeigen und mit künstlicher Intelligenz erstellt wurden, im Vergleich zu ihrem Inhalt zu unterschiedlichen Preisoptionen zum Verkauf angeboten werden.
In einem Bericht wurde betont, dass sie „unterwürfig“ gesehen wurden, als sie sagten: „Ich trainiere meine Mädchen am Computer.“
Ein anderer Account versprach „unzensierte Kunst“ für 8,30 Dollar im Monat.
Die BBC teilte eines dieser Konten mit Patreon und das Konto wurde gesperrt, nachdem die Plattform feststellte, dass die fraglichen Inhalte gegen die Unternehmensrichtlinien verstießen.
Patreon betonte, dass sie in dieser Hinsicht eine „Null-Toleranz“-Politik verfolgen und sagte: „Produzenten dürfen kein Geld für sexuell basierte Inhalte überweisen, in denen Kinder vorkommen.“
Stability AI, die Muttergesellschaft von Stable Diffusion, die Bilder mit künstlicher Intelligenz entwirft, teilte der BBC außerdem mit, dass „jede Verwendung für illegale oder unmoralische Absichten auf ihrer Plattform verboten ist, einschließlich Materialien über sexuellen Kindesmissbrauch.“
In der Erklärung wurde auch darauf hingewiesen, dass die Ermittlungen der Strafverfolgungsbehörden gegen diejenigen, die Stability AI-Werke für böswillige Zwecke nutzen, darauf basieren.
Während sich künstliche Intelligenz weiterhin rasant weiterentwickelt, sind Fragen aufgekommen, welche Risiken sie in Zukunft mit sich bringen wird und wie sie sich auf das Privatleben, die Rechte oder die Sicherheit der Menschen auswirken wird.
Ian Critchley vom National Board of Chiefs of Police sagt, die Gesellschaft stehe an einem Scheideweg.
„Wir können dafür sorgen, dass das Internet und die Technologie hervorragende Möglichkeiten für junge Menschen schaffen, sonst wird das Internet zu einem noch verschwenderischeren Ort“, sagte Critchley.
Die Erklärung der Regierung enthielt folgende Worte:
„Das Internet-Sicherheitsgesetz verpflichtet Unternehmen dazu, proaktive Maßnahmen gegen alle Formen des sexuellen Missbrauchs von Kindern im Internet zu ergreifen. Andernfalls drohen ihnen hohe Strafen.“
T24